La IA de Google 'alucina' sobre el accidente aéreo de la India y cambia el modelo de avión

Google Overviews, la nueva función de inteligencia artificial integrada en el buscador, ha cometido un fallo llamativo: tras el accidente aéreo del vuelo AI171 en la India, la IA confundió el modelo de avión implicado, mezclando referencias a un Boeing 787 con un Airbus A330 y mostrando la información como si fuera completamente fiable.

Este tipo de errores se conoce como 'alucinaciones', un fenómeno propio de los sistemas de IA generativa que consiste en inventarse datos o respuestas con apariencia de veracidad. A diferencia de un buscador tradicional que enlaza a fuentes, herramientas como Google Overviews intentan 'resumir' la web y a veces combinan mal los contenidos, provocando errores que pueden ser críticos en contextos sensibles como una tragedia.

Lo que ha ocurrido con Google Overviews

El pasado jueves ocurrió un grave accidente aéreo en la India donde un avión de Air India, cuyo modelo era un Boeing 787, se estrelló poco después de despegar. Más de 260 personas murieron, entre ellas varias que estaban en tierra. Es una tragedia que ha impactado a nivel mundial y, como suele pasar, muchos usuarios empezaron a buscar información en Internet para saber qué pasó y qué tipo de avión estuvo involucrado. Pero aquí se ha generado un problema con la inteligencia artificial de Google.

Su herramienta llamada AI Overviews, que genera respuestas automáticas en los resultados de búsqueda, empezó a dar información incorrecta. Algunas personas notaron que al buscar sobre el accidente, la IA decía con total seguridad que el avión era un Airbus A330, pero otras veces decía que era un Boeing 787, y en otros casos, una mezcla de los dos. Es decir, un auténtico lío.

Porque se equivocó la IA de Google con el modelo de avión del accidente de la India

Según informan desde ArsTechnica, esta IA funciona resumiendo lo que encuentra en internet, pero no siempre entiende bien lo que lee. En muchos artículos sobre el accidente se menciona a Airbus como el competidor de Boeing. Eso pudo haberla confundido, derivando en que, como resultado, terminó diciendo algo incorrecto, aunque pareciera muy segura.

Google se ha pronunciado y aclara que su IA puede cometer errores, además de que pone una advertencia al final de cada resumen generado, pero el problema es que esa advertencia es fácil de ignorar. En este caso, el error ha podido molestar a Airbus, ya que su nombre quedó relacionado con un accidente que no tuvo nada que ver con sus aviones.

La compañía de Mountain View ha confirmado que han eliminado esa respuesta equivocada, pero esto nos deja una conclusión relacionada con la IA: aunque este tipo de herramientas pueden ser útiles, no siempre se puede confiar completamente en lo que dicen, por lo que hay que contrastar bien la información.

Apúntate a nuestra newsletter y recibe en tu correo las últimas noticias sobre tecnología.