L'IA de Google « hallucine » à propos du crash de l'avion indien et modifie le modèle de l'avion

Google Overviews, la nouvelle fonctionnalité d'IA intégrée au moteur de recherche , a commis une erreur notable : suite au crash de l'avion du vol AI171 en Inde, l'IA a confondu le modèle de l'avion impliqué, mélangeant les références à un Boeing 787 avec un Airbus A330 et affichant les informations comme si elles étaient totalement fiables.

Ce type d'erreur est connu sous le nom d'« hallucinations », un phénomène propre aux systèmes d'IA générative qui consiste à inventer des données ou des réponses apparemment vraies. Contrairement aux moteurs de recherche traditionnels qui renvoient vers des sources, des outils comme Google Overviews tentent de « résumer » le web et combinent parfois le contenu de manière incorrecte, ce qui entraîne des erreurs pouvant s'avérer critiques dans des contextes sensibles comme une tragédie.

Que s'est-il passé avec Google Overviews

Jeudi dernier, un grave accident d'avion s'est produit en Inde : un Boeing 787 d'Air India s'est écrasé peu après son décollage. Plus de 260 personnes ont perdu la vie , dont plusieurs au sol. Cette tragédie a eu un retentissement mondial et, comme souvent, de nombreux utilisateurs ont commencé à chercher des informations sur Internet pour comprendre ce qui s'était passé et quel type d'avion était impliqué. Mais ici, un problème est apparu avec l'intelligence artificielle de Google.

Son outil « Aperçus de l'IA » , qui génère des réponses automatisées en fonction des résultats de recherche, a commencé à fournir des informations erronées. Certains utilisateurs ont remarqué que, lorsqu'ils cherchaient des informations sur le crash, l' IA affirmait avec assurance qu'il s'agissait d'un Airbus A330 , mais parfois d'un Boeing 787 , et parfois même d'un mélange des deux. C'était un véritable désastre.

Pourquoi l'IA de Google s'est trompée sur le modèle de l'avion impliqué dans le crash indien

Selon ArsTechnica , cette IA synthétise ce qu'elle trouve sur Internet , mais ne comprend pas toujours parfaitement ce qu'elle lit. De nombreux articles sur le crash mentionnent Airbus comme un concurrent de Boeing. Cela a pu la perturber et l'amener à dire quelque chose de faux, même si elle semblait très confiante.

Google s'est exprimé, précisant que son IA pouvait commettre des erreurs et qu'elle ajoutait un avertissement à la fin de chaque résumé généré. Le problème est que cet avertissement est facile à ignorer . Dans ce cas précis, l'erreur a peut-être contrarié Airbus , car son nom était lié à un accident sans rapport avec ses avions.

La société Mountain View a confirmé avoir éliminé cette réponse incorrecte , mais cela nous laisse avec une conclusion liée à l'IA : bien que ces types d'outils puissent être utiles, on ne peut pas toujours faire entièrement confiance à ce qu'ils disent , il faut donc vérifier attentivement les informations.

Inscrivez-vous à notre newsletter et recevez les dernières actualités technologiques directement dans votre boîte de réception.