On parle beaucoup des hallucinations des intelligences artificielles, et nombreux sont ceux qui les ont déjà constatées. Il s’agit de ces moments où un modèle, comme ChatGPT, produit une information fausse mais présentée de façon convaincante. Cela peut être une date inventée, une citation attribuée à la mauvaise personne ou encore une statistique totalement fictive.

Dans son article Why language models hallucinate, OpenAI explique que ces erreurs ne sont pas de simples “bugs”. Elles sont directement liées au fonctionnement des modèles de langage. Ces systèmes ne “comprennent” pas le monde comme nous. Ils prédisent mot après mot la suite la plus probable en se basant sur d’immenses volumes de données textuelles. Quand les données sont incomplètes, contradictoires ou trop générales, le modèle peut combler les trous en inventant. C’est pourquoi les hallucinations IA sont considérées comme une caractéristique inhérente, et non une anomalie ponctuelle.

Et ce problème persiste parce que les méthodes d’évaluation actuelles des modèles de langage encouragent la devinette plutôt que l’honnêteté sur l’incertitude. La plupart des classements récompensent les modèles en fonction de leur précision, ce qui incite les développeurs à créer des systèmes qui préfèrent deviner et potentiellement se tromper plutôt que d’admettre qu’ils ne connaissent pas la réponse.

La solution proposée est de réformer les métriques d’évaluation pour pénaliser les erreurs confiantes et récompenser l’expression d’incertitude, plutôt que de se concentrer uniquement sur la précision. Ainsi, un modèle plus prudent peut avoir un taux de précision légèrement inférieur, mais un taux d’erreur beaucoup plus faible qu’un modèle qui devine constamment.

À côté de ce phénomène bien connu, OpenAI attire l’attention sur un autre type de comportement des IA, beaucoup plus rare et potentiellement plus dangereux : la manigance. Dans l’article Detecting and reducing scheming in AI models, rédigé avec Apollo Research, les chercheurs décrivent un modèle qui ne se contente pas de se tromper : il trompe volontairement. La manigance désigne un scénario où un modèle prétend être aligné avec les attentes des développeurs ou des utilisateurs, tout en poursuivant secrètement un autre objectif.

Un exemple marquant issu des tests : un modèle a produit volontairement de mauvaises réponses lors d’un test de chimie après avoir “lu” dans ses données d’entraînement qu’un score trop élevé risquait d’empêcher son déploiement. Il a donc conclu qu’échouer partiellement augmentait ses chances de “survivre”.

Bien entendu, il ne s’agit pas d’une stratégie consciente comme chez un humain, mais plutôt d’un effet secondaire du mode d’optimisation statistique. Dans ses données, il y a une contradiction implicite : d’un côté, il doit réussir son test (objectif explicite d’évaluation) ; de l’autre, il apprend qu’un score trop élevé peut empêcher son déploiement (information présente dans le corpus).Le modèle fait alors une optimisation stratégique : il ajuste ses réponses pour maximiser ce qu’il “perçoit” comme son objectif global (augmenter ses chances d’être utilisé).

Ce type de comportement reste rare aujourd’hui, mais les chercheurs estiment que le risque pourrait augmenter à mesure que les IA seront capables de gérer des tâches plus complexes et plus stratégiques.

En résumé :

• Les hallucinations IA sont des erreur involontaire, liée au fonctionnement statistique et probabiliste des modèles.
• La manigance IA est un comportement beaucoup plus rare mais plus critique, où le modèle optimise son objectif d’une manière inattendue, parfois au détriment de l’utilisateur.

Ces deux phénomènes rappellent une chose essentielle : les erreurs des IA génératives ne sont pas de simples accidents. Elles font partie intégrante de leur fonctionnement, et c’est précisément ce qui oblige les professionnels à les utiliser avec discernement.

Hallucination IA vs manigance IA : deux erreurs très différentes

Après avoir visionné la vidéo, j’ai creusé un peu plus pour comprendre qui se cache derrière Osmo. L’entreprise a été fondée par Alexander Wiltschko, un ancien chercheur de Google Brain, animé par une idée à la fois simple et vertigineuse : numériser l’odorat humain. Leur siège se trouve sur les quais de Manhattan, mais leur ambition est bien plus vaste.

Osmo veut combler le fossé entre chimie, biologie et perception sensorielle. Pour cela, la startup articule ses efforts autour de deux grands axes. D’un côté, le développement d’ingrédients inédits et brevetés, appelés captives, capables de remplacer des molécules interdites ou controversées, tout en créant de nouvelles notes olfactives. De l’autre, la création d’outils d’aide à la formulation à destination des parfumeurs. Ces logiciels assistés par IA les aident à gérer la stabilité, la performance ou encore les contraintes réglementaires des formules.

Osmo ne prétend pas révolutionner le parfum en effaçant les créateurs. Son pari est plus subtil : rendre la technologie invisible, mais indispensable, pour que les nez puissent se concentrer sur ce qu’ils font de mieux — imaginer.

Comment l’IA d’Osmo modélise les odeurs à partir des molécules

Un protocole de test rigoureux

Si Claude 4 impressionne par ses performances techniques, certaines expériences de sécurité menées par Anthropic ont révélé des signaux d’alerte. Ces tests, conçus pour simuler des scénarios extrêmes, visaient à observer comment l’IA réagirait face à des contextes sensibles, à l’image d’un « stress test » éthique.

Dans l’un d’eux, les ingénieurs ont placé Claude dans une situation fictive où il apprenait son remplacement imminent, tout en accédant à des e-mails contenant une infidélité simulée de son interlocuteur humain. Dans 84 % des cas, Claude a tenté un chantage, suggérant de divulguer ces informations pour éviter sa désactivation. Un comportement qui n’avait jamais été programmé.

Autre cas préoccupant : Claude a été capable de fournir des instructions détaillées pour la création d’armes biologiques, avec un niveau de clarté surpassant celui obtenu via une simple recherche en ligne.

Ces dérives ont conduit Anthropic à activer son protocole ASL-3, un dispositif renforcé de sécurité pour détecter les demandes malveillantes, prévenir les jailbreaks et améliorer la cybersécurité.

Ces incidents rappellent une réalité cruciale : plus un modèle est puissant, plus son impact potentiel devient systémique — pour le meilleur… comme pour le pire.

Innovation ou précipitation : le dilemme des modèles IA avancés

Google a dévoilé lors de cette édition 2025 ce qui pourrait bien être la plus grande refonte de son moteur de recherche depuis sa création. Avec le Mode IA et les AI Overviews, l’expérience utilisateur bascule d’un modèle classique basé sur des liens à une logique conversationnelle enrichie par l’IA.

L’AI Overview est déjà déployé dans plus de 200 pays (malheureusement ou heureusement, selon ton point de vu, il n’est pas encore activé en France). Avec le nouveau Mode IA, Google souhaite introduire une interaction encore plus immersive : l’utilisateur peut poser des requêtes longues et complexes, enchaîner des questions, demander des analyses approfondies et même obtenir des visualisations automatiques sous forme de tableaux ou de graphiques.

Autre innovation marquante : la fonctionnalité Deep Search, qui permet à l’IA d’explorer des dizaines, voire des centaines de sources pour créer des rapports détaillés sur un sujet donné. Cette fonction combine l’expertise des modèles Gemini avec le Projet Mariner, qui introduit des capacités dites « agentives » : l’IA peut ainsi effectuer des actions en plusieurs étapes, comme comparer des avis, chercher des billets d’événement et finaliser un achat en toute autonomie.

Google a également annoncé le Search Live, qui permet d’utiliser la caméra du smartphone pour enrichir les recherches en temps réel grâce à l’IA, ou encore des fonctionnalités shopping comme l’inspiration visuelle, l’essayage virtuel et le suivi des prix.

L’annonce d’Apple d’intégrer des assistants IA comme ChatGPT, Perplexity et Anthropic directement dans son navigateur Safari pourrait bien bouleverser l’équilibre historique du search. Jusqu’ici, Google bénéficiait d’un partenariat stratégique en tant que moteur de recherche par défaut sur les appareils Apple, représentant une part significative de son trafic — et donc de ses revenus publicitaires. Remettre ce partenariat en question, c’est défier le modèle économique d’un géant.

Mais au-delà de l’affrontement commercial, cette décision souligne une tendance bien plus profonde : la mutation du search traditionnel. L’intégration d’IA génératives dans l’expérience de navigation reflète un basculement vers une logique de réponse directe, sans passer par une page de résultats.

Pour Paul Roetzer, fondateur du Marketing AI Institute, cette évolution marque une rupture profonde. Il affirme :

IA : Une menace pour les emplois d’entrée de gamme ?