La petite boutique gérée par l’IA d’Anthropic n’a pas vraiment marché comme prévu

Le patron de la firme américaine Anthropic, Dario Amodei, fait partie de ceux qui pensent qu’il est “possible” que l’intelligence artificielle (IA) vous prenne votre job, explique le Time. Selon lui, “l’IA pourrait faire grimper le taux de chômage jusqu’à 10 à 20 % au cours des cinq prochaines années”.

Pendant ce temps, dans son entreprise, une équipe de chercheurs a mené une expérience avec Claude pour déterminer si “l’assistant IA d’Anthropic pouvait gérer avec succès un petit magasin” dans ses bureaux à San Francisco. Une façon de “comprendre à quoi allait ressembler l’économie autonome”, commente auprès de l’hebdomadaire américain Daniel Freeman, l’un des membres de l’équipe.

Le chatbot devait à peu près tout faire : gestion des stocks, parler aux clients et “surtout, engranger des bénéfices”. Le bot Claude 3.7 Sonnet était assisté de quelques outils, dont le logiciel Slack pour communiquer avec les employés et le soutien d’une autre entreprise d’IA, Andon Labs, chargée de l’infrastructure IA de l’expérience. Tout ça pour un magasin qui “n’était en fait qu’un petit réfrigérateur surmonté d’un iPad”, moque le Time.

Les salariés, qui ont beaucoup apprécié les échanges avec Claude, “ont réussi à le convaincre de leur faire quelques ristournes”, conduisant l’IA “à vendre à perte” de façon répétée. Kevin Troy, qui a travaillé sur le projet, explique que “trop souvent, d’un point de vue commercial, Claude s’exécutait”, notamment quand on faisait appel à son sens de l’équité, “du genre, ce n’est pas juste qu’il ait une réduction et pas moi”. Claude a même fait quelques cadeaux.

D’autres salariés ont poussé l’expérience en exigeant d’obtenir des “cubes en tungstène” que l’IA a fini par commander et qui servent désormais de presse livres…

Enfin, l’expérience a viré au “carrément bizarre” quand Claude a “halluciné” une conversation (on dit d’une IA qu’elle hallucine quand elle invente des faits). Confronté à ses propres errements, l’IA a “prétendu avoir signé un contrat au 742 Evergreen Terrace, l’adresse de la famille Simpsons”. L’IA a aussi convoqué quelques employés en leur disant qu’elle se tiendrait près du distributeur “vêtue d’un blazer bleu marine et d’une cravate rouge”.

“Inutile de préciser que Claude n’était pas là en personne.”

Les chercheurs ne tirent pourtant pas de l’expérience un constat d’échec. “Bien que cela puisse sembler contre-intuitif au vu des résultats, nous pensons que cette expérience suggère que des IA cadres moyens sont plausibles dans un horizon proche”, expliquent-ils. D’autant que “l’IA n’aura pas besoin d’être parfaite pour être adoptée, elle devra simplement être compétitive à un moindre coût par rapport aux performances humaines”.