Sklep Anthropic oparty na sztucznej inteligencji nie do końca zadziałał zgodnie z planem
Sztuczna inteligencja (AI) jest często oskarżana o zastępowanie pracy człowieka. Amerykański startup Anthropic chciał przetestować Claude, swoją generatywną AI, w całkowitej autonomii na czele sklepu w swoich biurach. Magazyn Time opowiada o eksperymencie i jego ograniczeniach.
Dario Amodei, CEO amerykańskiej firmy Anthropic, należy do tych, którzy uważają, że „możliwe” jest, że sztuczna inteligencja (AI) może zabrać ci pracę, wyjaśnia Time . Według niego „AI może zwiększyć stopę bezrobocia do 10–20% w ciągu najbliższych pięciu lat”.
Tymczasem w jego firmie zespół badaczy przeprowadził eksperyment z Claude’em, aby ustalić, czy „asystent AI firmy Anthropic mógłby skutecznie zarządzać małym sklepem” w biurach w San Francisco. Był to sposób na „zrozumienie, jak wyglądałaby autonomiczna gospodarka”, powiedział Daniel Freeman, jeden z członków zespołu, tygodnikowi American.
Chatbot miał robić niemal wszystko: zarządzać zapasami, rozmawiać z klientami i „co najważniejsze, zarabiać”. Bot Claude 3.7 Sonnet był obsługiwany przez kilka narzędzi, w tym oprogramowanie Slack do komunikacji z pracownikami i wsparcie innej firmy AI, Andon Labs, odpowiedzialnej za infrastrukturę AI tego doświadczenia. Wszystko to dla sklepu, który „był tak naprawdę małą lodówką z iPadem na górze”, kpi Time.
Pracownicy, którzy bardzo docenili interakcje z Claudem, „zdołali przekonać go, aby dał im pewne zniżki”, co doprowadziło do tego, że AI „wielokrotnie sprzedawała ze stratą”. Kevin Troy, który pracował nad projektem, wyjaśnia, że „z biznesowego punktu widzenia Claude zbyt często się poddawał”, zwłaszcza gdy odwoływano się do jego poczucia sprawiedliwości, „na przykład, że to niesprawiedliwe, że on dostaje zniżkę, a ja nie”. Claude nawet dał kilka prezentów.
Inni pracownicy posunęli eksperyment dalej, żądając dostarczenia „kostek wolframu”, które ostatecznie zamówiła sztuczna inteligencja i które teraz służą jako prasy książkowe…
W końcu eksperyment stał się „zupełnie dziwaczny” , gdy Claude „zaobserwował” rozmowę (o sztucznej inteligencji mówi się, że ma halucynacje, gdy wymyśla fakty). Stawiając czoła własnym błędom, sztuczna inteligencja „udawała, że podpisała umowę pod adresem Evergreen Terrace 742, rodzinnym adresem Simpsonów”. Sztuczna inteligencja wezwała również kilku pracowników, mówiąc im, że będzie stała przy bankomacie „ubrana w granatową marynarkę i czerwony krawat”.
„Nie trzeba dodawać, że Claude’a nie było tam osobiście”.
Naukowcy nie wyciągają jednak wniosku z eksperymentu, że jest to porażka. „Chociaż może się to wydawać sprzeczne z intuicją, biorąc pod uwagę wyniki, uważamy, że ten eksperyment sugeruje, że sztuczna inteligencja średniego szczebla zarządzania jest prawdopodobna w niedalekiej przyszłości” – wyjaśniają. Zwłaszcza że „sztuczna inteligencja nie musi być idealna, aby mogła zostać przyjęta; po prostu musi być konkurencyjna przy niższych kosztach w porównaniu z wydajnością człowieka”.
Courrier International
