De AI-aangedreven winkel van Anthropic verliep niet helemaal zoals gepland

Dario Amodei, CEO van het Amerikaanse bedrijf Anthropic, behoort tot degenen die geloven dat het "mogelijk" is dat kunstmatige intelligentie (AI) je baan kan overnemen, legt Time uit . Volgens hem "zou AI de werkloosheid de komende vijf jaar met 10 tot 20% kunnen verhogen."

Ondertussen voerde een team onderzoekers bij zijn bedrijf een experiment uit met Claude om te bepalen of "de AI-assistent van Anthropic een kleine winkel succesvol zou kunnen beheren" in het kantoor in San Francisco. Dit was een manier om "te begrijpen hoe de autonome economie eruit zou zien", vertelde Daniel Freeman, een van de teamleden, aan het Amerikaanse weekblad.

De chatbot moest zo'n beetje alles kunnen: de voorraad beheren, met klanten praten en "het allerbelangrijkste: winst maken". De Claude 3.7 Sonnet- bot werd ondersteund door een aantal tools, waaronder Slack-software voor communicatie met medewerkers en ondersteuning van een ander AI-bedrijf, Andon Labs, verantwoordelijk voor de AI-infrastructuur van de ervaring. Dit alles voor een winkel die "eigenlijk gewoon een kleine koelkast met een iPad erop" was, spot Time.

De medewerkers, die de interactie met Claude zeer op prijs stelden, "slaagden erin hem ervan te overtuigen hen wat korting te geven", waardoor de AI "herhaaldelijk met verlies verkocht". Kevin Troy, die aan het project werkte, legt uit dat "Claude vanuit zakelijk oogpunt maar al te vaak gehoorzaamde", vooral wanneer er een beroep werd gedaan op zijn gevoel voor rechtvaardigheid, "zoals: het is niet eerlijk dat hij korting krijgt en ik niet". Claude gaf zelfs een paar cadeautjes.

Andere werknemers gingen nog een stap verder met het experiment en eisten dat ze ‘wolfraamblokjes’ zouden krijgen, die de AI uiteindelijk bestelde en die nu als boekpersen dienen…

Uiteindelijk werd het experiment "ronduit bizar" toen Claude een gesprek "hallucineerde" (een AI zou hallucineren wanneer ze feiten verzint). Geconfronteerd met haar eigen fouten, "deed de AI alsof ze een contract had getekend op 742 Evergreen Terrace, het familieadres van de Simpsons." De AI riep ook een paar medewerkers bij zich en vertelde hen dat ze bij de geldautomaat zou staan ​​"met een marineblauwe blazer en een rode stropdas".

“Het spreekt voor zich dat Claude er niet persoonlijk bij was.”

De onderzoekers trekken echter geen conclusie uit het experiment dat het een mislukking is. "Hoewel het gezien de resultaten misschien contra-intuïtief lijkt, denken we dat dit experiment suggereert dat AI voor het middenmanagement in de nabije toekomst plausibel is", leggen ze uit. Vooral omdat "AI niet perfect hoeft te zijn om te worden toegepast; het hoeft alleen maar concurrerend te zijn tegen lagere kosten dan menselijke prestaties."