De AI van Google 'hallucineert' over de vliegtuigcrash in India en verandert het vliegtuigmodel

Google Overviews, de nieuwe AI-functie die in de zoekmachine is ingebouwd , heeft een opmerkelijke fout gemaakt: na de vliegtuigcrash van vlucht AI171 in India heeft de AI het model van het betrokken vliegtuig verward door verwijzingen naar een Boeing 787 en een Airbus A330 door elkaar te halen en de informatie vervolgens weer te geven alsof deze volledig betrouwbaar was.

Dit type fout staat bekend als 'hallucinaties', een fenomeen dat uniek is voor generatieve AI-systemen en waarbij gegevens of antwoorden worden verzonnen die waar lijken te zijn. In tegenstelling tot een traditionele zoekmachine die naar bronnen linkt, proberen tools zoals Google Overviews het web 'samen te vatten' en combineren ze soms content onjuist, wat leidt tot fouten die cruciaal kunnen zijn in gevoelige contexten zoals een tragedie.

Wat er met Google Overzichten is gebeurd

Afgelopen donderdag vond er een ernstige vliegtuigcrash plaats in India, waar een Boeing 787 van Air India kort na het opstijgen neerstortte. Meer dan 260 mensen kwamen om het leven , waaronder een aantal mensen op de grond. Het is een tragedie met wereldwijde gevolgen en, zoals vaak het geval is, begonnen veel gebruikers op internet te zoeken naar informatie om te achterhalen wat er was gebeurd en om welk type vliegtuig het ging. Maar hier is een probleem ontstaan ​​met de kunstmatige intelligentie van Google.

De AI Overviews- tool, die geautomatiseerde antwoorden genereert op basis van zoekresultaten, begon onjuiste informatie te geven. Sommige mensen merkten dat de AI, wanneer ze zochten naar informatie over de crash, vol vertrouwen zei dat het vliegtuig een Airbus A330 was , maar soms ook een Boeing 787 , en soms vermengde hij beide. Het was een regelrechte chaos.

Waarom de AI van Google het vliegtuigmodel bij de crash in India verkeerd had

Volgens ArsTechnica werkt deze AI door samen te vatten wat ze op internet vindt , maar ze begrijpt niet altijd volledig wat ze leest. Veel artikelen over de crash noemen Airbus als concurrent van Boeing. Dat kan verwarring hebben veroorzaakt, waardoor ze iets verkeerds zeiden, ook al leek ze er erg zeker van.

Google heeft verklaard dat zijn AI fouten kan maken en dat het een waarschuwing toevoegt aan het einde van elke gegenereerde samenvatting. Het probleem is echter dat deze waarschuwing gemakkelijk te negeren is . In dit geval zou de fout Airbus mogelijk hebben geïrriteerd , aangezien de naam van het bedrijf in verband werd gebracht met een ongeluk dat niets met de vliegtuigen te maken had.

Het bedrijf Mountain View heeft bevestigd dat ze het foute antwoord hebben verwijderd , maar dit brengt ons tot een conclusie met betrekking tot AI: hoewel dit soort tools nuttig kunnen zijn, kun je niet altijd volledig vertrouwen op wat ze zeggen , dus je moet de informatie zorgvuldig controleren.

Meld u aan voor onze nieuwsbrief en ontvang het laatste technologienieuws rechtstreeks in uw inbox.