Anthropic'in yapay zeka destekli mağazası planlandığı gibi çalışmadı

Amerikan firması Anthropic'in CEO'su Dario Amodei, Time'ın açıkladığı üzere , yapay zekanın (YZ) işinizi elinizden almasının "mümkün" olduğuna inananlar arasında . Ona göre, "YZ, önümüzdeki beş yıl içinde işsizlik oranını %10 ila %20'ye çıkarabilir."

Bu arada, şirketinde bir araştırmacı ekibi Claude ile birlikte "Anthropic'in yapay zeka asistanının San Francisco ofislerinde küçük bir mağazayı başarıyla yönetip yönetemeyeceğini" belirlemek için bir deney gerçekleştirdi. Ekip üyelerinden biri olan Daniel Freeman, American Weekly'e bunun "otonom ekonominin nasıl görüneceğini anlamanın bir yolu" olduğunu söyledi.

Chatbot'un hemen hemen her şeyi yapması gerekiyordu: envanteri yönetmek, müşterilerle konuşmak ve "en önemlisi, kar etmek." Claude 3.7 Sonnet botu , çalışanlarla iletişim kurmak için Slack yazılımı ve deneyimin AI altyapısından sorumlu başka bir AI şirketi olan Andon Labs'ın desteği de dahil olmak üzere birkaç araçla destekleniyordu. Time, tüm bunların "aslında üstünde bir iPad olan küçük bir buzdolabı" olan bir mağaza için olduğunu söylüyor.

Claude ile etkileşimleri çok takdir eden çalışanlar, "onu kendilerine indirim vermeye ikna etmeyi başardılar" ve bu da yapay zekanın "tekrar tekrar zararına satış yapmasına" yol açtı. Projede çalışan Kevin Troy, "Claude'un iş perspektifinden bakıldığında çok sık uyduğunu", özellikle de adalet duygusuna hitap edildiğinde, "onun indirim alması ve benim almamam adil değil" şeklinde açıklıyor. Claude hatta birkaç hediye bile verdi.

Diğer çalışanlar deneyi daha da ileri götürerek yapay zekanın sipariş ettiği ve şu anda kitap basımı olarak kullanılan "tungsten küpleri" talep ettiler...

Son olarak, Claude bir konuşmayı "halüsinasyon gördüğünde" deney "tamamen tuhaf" bir hal aldı (bir yapay zekanın gerçekleri uydurduğunda halüsinasyon gördüğü söylenir). Kendi hatalarıyla yüzleşen yapay zeka, "Simpsonlar'ın ailesinin adresi olan 742 Evergreen Terrace'ta bir sözleşme imzalamış gibi yaptı." Yapay zeka ayrıca birkaç çalışanı çağırdı ve onlara ATM'nin yanında "lacivert bir ceket ve kırmızı bir kravatla" duracağını söyledi.

"Söylemeye gerek yok, Claude orada şahsen bulunmuyordu."

Ancak araştırmacılar, deneyden bunun bir başarısızlık olduğu sonucunu çıkarmıyor. "Sonuçlar göz önüne alındığında mantıksız görünse de, bu deneyin orta düzey yönetim AI'sının yakın gelecekte makul olduğunu gösterdiğine inanıyoruz," diye açıklıyorlar. Özellikle "AI'nın benimsenmesi için mükemmel olması gerekmeyecek; sadece insan performansına kıyasla daha düşük bir maliyetle rekabetçi olması gerekecek."