AI Ajanlarının Paketini Açmak

Geçtiğimiz altı ayda, OpenAI, Anthropic, Google ve diğerleri, insanlardan yalnızca asgari düzeyde girdiyle görevleri bağımsız olarak tamamlamak üzere tasarlanmış web tarama ajanları yayınladı. OpenAI CEO'su Sam Altman, AI ajanlarını "bir sonraki dev atılım" olarak adlandırdı. Bugünkü bölümde, bu ajanları diğer makine zekası biçimlerinden farklı kılan şeyin ne olduğunu ve yeteneklerinin bu abartıya değip değmeyeceğini inceleyeceğiz.

Bluesky'de Michael Calore'u @snackfight adresinden, Bluesky'de Lauren Goode'u @laurengoode adresinden ve Bluesky'de Will Knight'ı @willknight adresinden takip edebilirsiniz. Bize [email protected] adresinden yazabilirsiniz.

Bu haftanın podcast'ini her zaman bu sayfadaki ses oynatıcısından dinleyebilirsiniz, ancak her bölümü almak için ücretsiz abone olmak istiyorsanız, işte yapmanız gerekenler:

iPhone veya iPad kullanıyorsanız, Podcasts adlı uygulamayı açın veya sadece bu bağlantıya dokunun. Ayrıca Overcast veya Pocket Casts gibi bir uygulamayı indirip "uncanny valley"i arayabilirsiniz. Biz de Spotify'dayız .

Not: Bu otomatik bir transkripttir ve hatalar içerebilir.

Michael Calore: Merhaba, ben Mike. Başlamadan önce, sizden haber almak istediğimizi hatırlatmak istiyorum. Aklınıza takılan AI, politika veya gizlilikle ilgili herhangi bir sorunuz var mı? Ya da programda konuşmamızı istediğiniz bir konu? Eğer öyleyse, [email protected] adresine yazabilirsiniz. Adresimiz [email protected] . Bölümlerimizi dinler ve beğeniyorsanız, lütfen programı derecelendirin ve tercih ettiğiniz podcast uygulamasında bir yorum bırakın. Bu, diğer insanların bizi bulmasına gerçekten yardımcı olur. Herkese merhaba, nasılsınız?

Lauren Goode: İyiyim. Dayanıyorum. Sen nasılsın, Mike?

Michael Calore: Harikayım. Kendimi iyi hissediyorum. Bu hafta programda Will Knight var.

Lauren Goode: Evet, bu konuda kendimi harika hissediyorum. Katie'yi özlüyorum ama Katie'nin daha fazla Fransız tereyağı arayışına çıktığını biliyoruz. Kelimenin tam anlamıyla Fransa'ya gitti.

Michael Calore: Will, bize kruvasan getirdin sanırım, değil mi?

Will Knight: Evet yaptım. Kesinlikle yaptım, evet. Taze pişmiş.

Lauren Goode: Bunun için teşekkür ederim. Artık şovda kalabilirsin.

Michael Calore: Bu, Silikon Vadisi'ndeki insanlar, güç ve etki hakkında bir program olan WIRED'ın Uncanny Valley'i . Bugün, yapay zeka ajanları ve neden bu kadar çok teknoloji şirketinin onlara büyük bahis oynadığı hakkında konuşuyoruz. Geçtiğimiz altı ayda, OpenAI, Anthropic, Google ve diğerleri, insanlardan yalnızca minimum girdiyle görevleri bağımsız olarak tamamlamak üzere tasarlanmış web tarama ajanları yayınladı. OpenAI CEO'su Sam Altman, yapay zeka ajanlarını "bir sonraki dev atılım" olarak adlandırdı. Bir tahmine göre, teknoloji şirketlerinin neredeyse yarısı halihazırda yapay zeka ajanlarını benimsiyor veya tamamen dağıtıyor. Bu hafta, bu ajanları diğer makine zekası biçimlerinden farklı kılan şeyin ne olduğunu ve yeteneklerinin bu abartıya değip değmeyeceğini inceleyeceğiz. Ben, WIRED'da tüketici teknolojisi ve kültürü direktörü Michael Calore.

Lauren Goode: Ben Lauren Goode, WIRED'da kıdemli muhabirim.

Will Knight: Ben de WIRED'ın kıdemli yazarlarından Will Knight'ım.

Michael Calore: Öncelikle, ikinizden birinin son zamanlarda ajanlık deneyimi yaşayıp yaşamadığını sorarak başlamak istiyorum.

Lauren Goode: Yakın zamanda Google Duplex ile ilgili bir deneyimim oldu, hatırlıyor musunuz?

Michael Calore: Elbette.

Lauren Goode: Tamam. Bu bunun erken bir versiyonuydu. 2018 civarında çıktı; o zamanlar WIRED'da bunun hakkında yazmıştık. Ama yakın zamanda doğum günün için gittiğimiz o yerde akşam yemeği rezervasyonu yaptırmaya çalıştım. Vegan suşi. Zaten bu şimdiye kadarki en San Francisco podcast'i. Vegan suşiden ve farkında olmadan bir AI ajanını benim için rezervasyon yaptırmaya çalışması için nasıl gönderdiğimden bahsediyoruz.

Michael Calore: Bilmeden nasıl oldu?

Lauren Goode: Çünkü ben çok insani bir şey yaptım, bir web sitesine gittim ve "şu anda bu sayıda kişi için rezervasyon yaptırmak istiyorum" yazdım. Benim haberim olmadan, bunu Google Asistan'a yönlendirdi. Sonra, "Sizin adınıza restoranı deniyoruz" dedi.

Michael Calore: Ah.

Lauren Goode: Ve denemeye devam etti ve sonra bana bir bildirim gönderdi. Sonra denemeye devam etti ve bana bir bildirim gönderdi. Rezervasyon yapmak için perde arkasında çalışıyordu. Rezervasyonu başarıyla tamamlayamadı. Bu sayılır mı?

Michael Calore: Evet, bu kesinlikle sayılır.

Lauren Goode: Bu bir yapay zeka ajanı mı? Benim adıma çalışıyordu.

Michael Calore: Evet.

Lauren Goode: Will, ya sen?

Will Knight: AI kodlama araçlarıyla oynuyorum ve özellikle de bence iyi bir ajan örneği olan Claude Code ile. Çünkü tüm bu eğlenceli şeyleri yapıyor, sadece kod yazmakla kalmıyor, dosyaları düzenliyor, onları hareket ettiriyor. Terminalinizi kullanıyor. Şanssızsanız bir şeyleri siliyor. Benim oynadığım ajansal şey bu.

Lauren Goode: Titreşim kodlaması yaptığınızı söylüyorsunuz.

Will Knight: Evet, yaptım. Çok ilgi çekiciydi. Vibe kodlama, çok iyi bilinen bir AI araştırmacısı olan Andrej Karpathy'nin, sadece bir modeli uyararak bütün programları, tamamlanmış yazılımları ortaya çıkarmak için ortaya attığı bir terimdir. Bu modeller her zaman kodu otomatik olarak tamamlayabilirdi, ancak son bir yılda kodlamada o kadar iyi oldular ki, çok sayıda dosya ve klasör ve her şeyi içeren bütün projeler yaratabiliyorlar. Aslında, bunu çocuğumla yapmaya başladım çünkü "Bir çocuğa AI'yı nasıl anlamayı öğretirsiniz?" diye düşündüm. Ayrıca, onları kodlamaya yönlendirmenin her zaman iyi bir fikir olduğunu düşünürdünüz. Oyunları seviyor, bu yüzden "Hadi biraz oyun kodlayalım" diye düşündüm.

Michael Calore: Benim deneyimim çok daha az teknik, çünkü yakın zamanda Southwest uygulaması üzerinden bir uçak rezervasyonumda değişiklik yapmak zorunda kaldım.

Lauren Goode: Üzgünüm.

Michael Calore: Evet. Aslında iyiydi.

Lauren Goode: Başınız sağ olsun.

Michael Calore: Beni chatbot'a itti. "Yardıma ihtiyacınız varsa chatbot'umuzla konuşun" gibiydi. "Ah, bu çok sinir bozucu olacak" dedim. Aslında sorun yoktu. Beş dakika sürdü. Onay numaramı, uçuş bilgilerimi verdim. Sonra "Ne tür bir değişiklik yapmak istersiniz?" dedi. "Bunu yapmak istiyorum" dedim. "Bunu sizin için ücretsiz yapabiliriz" dediler. "Harika" dedim. "Rezervasyon yaptırmak ister misiniz?" Evet. "Tamam, rezerve edildi. İşte yeni biniş kartınız. Check-in yapmanız gerekiyor, ancak check-in yapıp yeni biniş kartınızı almak için bağlantı burada." "Vay canına" dedim.

Lauren Goode: Bahsettiğimiz temsilci o mu? O bir müşteri hizmetleri temsilcisi.

Michael Calore: Doğru.

Lauren Goode: Ve bunu kopyalayan bir bot. Ama bu yeni aracı AI dönemi, teknoloji şirketlerinin milyonlarca dolar toplaması ve milyarlarca dolar değerlemeye sahip olması, çünkü aracılara yöneliyorlar, ama tam olarak öyle değil, değil mi?

Michael Calore: Doğru. Bu Will için iyi bir soru. Bunu sana sorabilir miyiz, Will? Bahsettiğimiz bir AI ajanı ile çoğu insanın deneyimlediği geleneksel bir sohbet robotu arasındaki fark nedir?

Will Knight: Doğru. Chatbot metin üretir ve siz onunla metnin çok, çok dar alanı üzerinden iletişim kurabilirsiniz. Bu olağanüstü derecede güçlü olmuştur. Gördüğümüz devrim, sorulara olağanüstü derecede tutarlı ve iyi yanıtlar üretebilen bu dil modelleri etrafında inşa edilmiştir, bu, doğası gereği bir etken olan bir AI sistemiyle aynı şey değildir. Aslında AI tarihine geri dönerseniz, birçok araştırmacı her zaman zekanın doğası gereği etkenliği içerdiği fikri üzerinde çalışmıştır. İnsanlar sadece konuşan şeyler değildir. Onlar eylemler gerçekleştirmeye çalışır, siz sorunları çözmeye çalışırsınız. Bu uzun zamandır devam eden bir hedeftir. Bu kadar sınırlı ve biraz eski moda olan bu dil modellerine sahip olmamız garip bir tuhaflıktır. Etkenler söz konusu olduğunda gördüğümüz şeylerin çoğu, temelde insanların dil modellerini alıp bunların çok genel ve çok esnek olduğu gerçeğini karmaşık bir komutu alıp bazı eylemleri tetiklemek için kullanmasıdır. Şirketlerin yapmak istediği asıl sıçrama, modellerin kendilerinin karar vermesi ve eylemlerini akıllı bir varlık gibi kendilerinin formüle edebilmesidir.

Lauren Goode: İnsan hala döngüdedir, ancak insan bir komut veya istem verir ve sonra geri çekilir. Ajan bir sürü yapay zeka işi yapar, temelde siz başka şeyler yaparken. Bu, hepimizi aşırı üretken hale getirebilecekleri vaadidir.

Will Knight: Evet. İdeal olarak, sizin adınıza havayolunu arayacak bir acenteniz olurdu. Ne yapmak istediğinizi söylersiniz ve o da gidip sizin adınıza pazarlık yapar. Ya da ona çok daha açık uçlu komutlar verebilir veya neyi başarmaya çalıştığınızı söyleyebilirsiniz ve o da sizin için bunu nasıl yapacağını bulur. Dil modelleri o kadar genel ve yeteneklidir ki teoride bunu yapabilmeleri gerekir. Ancak insan eylemliliğini nasıl taklit etmeye çalıştığınızda gerçekten önemli bazı püf noktaları vardır çünkü dünyada sadece dilden çok daha fazlası oluyor. Eylemlilik aslında sadece bireysel bir sorunu çözmeye çalışmaktan daha fazlasını içerir çünkü diğer insanları da içerir ve bu da onu karmaşık hale getirir.

Michael Calore: En azından öyle diyebiliriz.

Will Knight: Evet.

Michael Calore: Modellerden bahsetmişken, Silikon Vadisi'ndeki herkesin kendi yapay zeka ajanlarını geliştirmek için yatırım yaptığı görülüyor, ancak şu anda ana oyuncular kimler?

Will Knight: Başlıca oyuncular bariz olanlar. OpenAI, Anthropic, Google. Bence Amazon bu yarışta iyi bir sürpriz. OpenAI'dan bir ajan girişimi yapan bazı seçkinleri işe aldılar. Çok sayıda ajan inşa etmeye çalıştıkları bir laboratuvarları var. Bu şirketler için en önemli şeylerden biri verileri nereden aldıklarıdır. Hepsi bu ajanları eğitmek için verileri nasıl elde edeceklerini umutsuzca anlamaya çalışıyorlar. Sadece metin yerine, insanların yaptığı şeylerin örneklerini istiyorsunuz. Amazon'un aslında sitelerinde bir şeyler yapan insanların oldukça fazla iyi örneği var. Onlar iyi bir oyuncu.

Lauren Goode: Peki, kodlama dünyasında da Cursor gibi şirketler var. Oğlunuzla vibe kodlama yaptığınıza göre, bize tüm bu dünyadan bahseder misiniz?

Will Knight: Evet. Evet, diğer AI şirketlerinin sırtında giden ama gerçekten kodlamaya odaklanan bir sürü girişim var. Bence bunun çok hızlı ilerlemesi sayesinde bu nişleri oluşturabildiler. OpenAI'nin bu şirketlerden biri olan Windsurf'ü yaklaşık üç milyar dolara satın almak istediği yaygın olarak söyleniyor. Bu da size bu işi kendileri için nasıl gerçekten harika hale getirebildiklerine dair bir ipucu veriyor.

Lauren Goode: Son zamanlarda katıldığımız her brifingde bir şirketin acentelerden bahsettiğini görüyoruz.

Michael Calore: Evet.

Lauren Goode: O da değişiyor. Nvidia'dan Microsoft'a, iyi finanse edilen girişimlere kadar her şirket var. Hatta bu haftanın başlarında Glean adında bir şirket vardı, eminim duymuşsunuzdur. Kurumsal uygulamalar için bir arama motoru kuran bir şirket. F serisi finansman turunda 150 milyon dolar topladılar. Şu anda değerleri 7,2 milyar dolar. Şu anki tüm işleri acenteler. Her şey acentelerle ilgili.

Will Knight: Bence bunu düşünmenin yolu, bir dil modelinde gördüğünüz genel temsilciliği öğrenmeye çalışan modelleri gerçekten kimin inşa ettiğidir ve bu OpenAI'dır, bu temel model şirketleridir. AI'da, AlphaZero gibi bazı oyun oynayan AI sistemlerine sahip olduğumuz önceki bir döneme geri dönebilirsiniz. Bu, takviyeli öğrenmeyi, bu deney sürecini kullanıyordu. Ancak temelde temsilciydi. Sadece bir tahta oyununun çok sınırlı dünyasında çalışır, ancak eylemlerde bulunur, bunları nasıl yapacağını bulur. Şu anda bu AI şirketlerinde gördüğümüz şey bunu yansıtıyor veya bir şekilde buna geri dönüyor, çünkü onları belirli bir cevaba, belirli bir nihai hedefe yöneltmeye çalışıyorlar.

Michael Calore: Uzun vadede AI temsilcilerinin nasıl bir rol oynayabileceğini düşünürsek, bahsettiğimiz şirketlerin çoğu müşteri hizmetleriyle başlıyor. Şöyle başlıyorlar, Tamam, basit bir sorunuz var, basit bir şey yaptırmanız gerekiyor. Bunu sizin için çözebilirim, sizin için başarabilirim. Sanırım ilk adımların çoğu burada atılıyor. Teknoloji pazarı araştırmacısı Gartner, AI temsilcilerinin 2029 yılına kadar yaygın müşteri hizmetleri sorgularının %80'ini çözeceği tahmininde bulundu. Bu, dört yıl sonra AI temsilcilerinin bizim için tüm müşteri hizmetleri işlerini yapıyor olacağı anlamına geliyor. Bahsettiğimiz bu örneklerden bazılarını temel alarak, şu anda insan olan çalışanlar tarafından gerçekleştirilen görevlerin otomasyonunun burada ortak bir konu olduğu anlaşılıyor.

Will Knight: Evet. Müşteri hizmetlerinin başlamak için bariz bir yer olduğunu düşünüyorum çünkü bu, dil modellerinin mükemmel olduğu şeyi, yani insanlarla konuşmayı ve ardından oldukça sınırlı sayıda şey yapmayı içeriyor. Bu şirketlerin çoğu, büyük yapay zeka oyuncuları, kodlamadan ofis işlerini nasıl otomatikleştireceğinize geçmeyi düşünüyor. Ofis işlerinde bir sürü tekrarlayan görev var. Teoride, bu modelleri birinin ne yapmaya çalıştığını anlamak ve sonra bunu kopyalamak için bir yapıştırıcı olarak kullanabilirsiniz. Kodlama dünyasında bunun birçok işi ortadan kaldıracağı konusunda zaten büyük bir endişe var. Sonra bunun çok daha rutin beyaz yakalı işler için de geçerli olma ihtimalinin yüksek olduğunu düşünüyorum.

Lauren Goode: Hepinizle bu podcasti yapmak çok eğlenceliydi.

Michael Calore: Biz çoğunlukla AI ajanlarının dışarı çıkıp internette gezinmek, bir restoranı aramak veya sizin için bir Microsoft Office ürününde bir tür görevi yerine getirmek gibi şeyler yapmalarına odaklandık. Ancak ajansal AI dünyasının evlerimizde, fiziksel cihazlarımızda nasıl göründüğünü merak ediyorum. Bu, son zamanlarda birçok kişinin aklında en üst sırada yer aldı çünkü OpenAI, Apple'da eski ve uzun süredir tasarım başkanı olan Jony Ive ile ev için yeni bir AI cihazı sınıfı oluşturmak üzere başlattığı yeni bir girişimi satın almak için bir anlaşma yaptığını duyurdu. Bu gelişme hakkında ne hissediyoruz?

Lauren Goode: Bunu söylemek zor çünkü henüz tam olarak nasıl bir form alacağını bilmiyoruz. Bence bu, bu yapay zekalara hizmet etmek için var olacak yeni nesil girişim ve donanım girişimlerinin temsilcisi. Yapay zekanın ve ortam bilişiminin geleceği düşünülerek sıfırdan inşa edildiler. Henüz tam olarak hangi form faktörünü alacağını bilmiyoruz. Masaüstünüzde mi olacak, vücudunuzda mı olacak, yoksa her ikisinde mi? Birincisi, takdir ediyorum, sanırım Jony Ive'ın "Hepimiz hemfikiriz, iPhone'umuza biraz fazla bağlıyız" dediğini söyleyen kişiydi. Şimdi icat ettikleri şey, "İcat ettiğimiz şey için çözüm bulmalıyız." Ancak fikir şu ki, yapay zeka gerçekten de bizi sürekli baş aşağı veya ekranlarda yüzümüzü göstererek eylemleri gerçekleştirmek zorunda kalmaktan kurtaracak kadar bir şey yapabilir mi? Teknoloji bunların bir kısmını bizim için yapabilir mi? Ve sonra bizi diğer şeyler için serbest bırakabilir mi? Bu, Silikon Vadisi'nde her zaman AI'nın vaatlerinden biri olmuştur. Yıllar önce Google X'ten Astro Teller ile konuştuğumu ve ona "Peki, bu işler için ne anlama geliyor?" diye sorduğumu hatırlıyorum. Ve temel olarak, "AI ile insanlar sadece seviye atlayacak." demişti. Bu, Silikon Vadisi'nin AI'ya dair her zaman gerçekten güneşli bir iyimser görüşü olmuştur. Bence henüz aklımıza bile gelmeyen yeni bir iş kategorisi ve görevler yaratılacak, ancak bunun günlük hayatımıza nasıl gireceği hakkında hala hiçbir fikrimiz yok.

Michael Calore: Doğru. Çünkü insanların bunu uzun zamandır denediğini hissediyorum. Siri'nin bir sonraki sürümü, Alexa'nın bir sonraki sürümü veya Google Assistant'ın bir sonraki sürümü için demo gördüğümüzde, her zaman hoparlörden, sesle kontrol edilen akıllı hoparlörden pizza sipariş etmesini istedikleri bir demo olurdu.

Lauren Goode: Evet, pizza ve Uber'di, bunlar her zaman örnekti.

Michael Calore: Bunlar cihaz üreticilerinin işletmelerle yaptığı anlaşmalar ve bunları kodladılar. Alexa'ya "Pizza sipariş edebilir misin?" diye sorduğunuzda, Domino's'u arayıp Alexa'nın sesinin sizin için pizza sipariş etmesini beklemiyordu. Bunu temelde bir API aracılığıyla web'de bir uygulamada yapıyordu. Bence bunun bir sonraki neslinden bahsettiğinizde, ona istediğinizi yapmasını isteyebilirsiniz. Sorduğunuz şey nedir? Bilgisayarınızın ve telefonunuzun yanında duran bir cihaz mı? Neden ayrı bir cihaz olmak zorunda? Neden sadece bilgisayarınız ve telefonunuz olabilir, benim en büyük sorum bu. Muhtemelen birkaç yüz dolara mal olacak, muhtemelen çok güzel olacak ve halihazırda sahip olduğumuz diğer iki cihazın yaptığı şeylerin çoğunu yapacak bir şeye ihtiyacımız var mı? Gerçekten bilmiyorum. Ancak herkes bunun için heyecanlı çünkü Jony Ive ve Sam Altman bir araya geldi.

Lauren Goode: Doğru. Bu, bu yeni bilişim çağının ne olursa olsun, teslimat mekanizması haline geliyor. Bence de, bahsettiğimiz örnekler Wall-E tarzı bir gelecek. Yapay zekayı ve makine öğrenimini bizim için işleri yapması için görevlendirirken ne kadar tembel olabiliriz? Oysa ne kadar daha fazla şey öğrenebilirim? Ne tür bilgiler edinebilirim? Yapay zeka bana yardımcı olduğu için neyi farklı yapabilirim? Uzun zamandır tüketici tarafında, şu anda sahip olduğumuz bu küçük rahatsızlıklardan yararlanarak günlük hayatınızı değiştireceği vaadi var. Ancak bence gerçek kazanımlar şunlar olacak, birincisi, bu konuda çok iyimser görünmek istemiyorum çünkü tamamen değilim, ancak yapay zekanın bunu bir şekilde yapmamıza yardımcı olacağı için bilgi boşluklarını kapatabilir miyiz?

Will Knight: Evet. Bence OpenAI ve Jony Ive'ın işine gelince, modeller görsel dünyayı yorumlamada ve konuşma yoluyla etkileşim kurmada giderek daha iyi hale geliyor. Bence bu ethos'ta tamamen yeni, yeni bir arayüze sahip olabileceğiniz, arayüzü tamamen yeniden hayal edebileceğiniz fikri var. Bu grafiksel kullanıcı arayüzünüz yok. Tanrı bilir ne ortaya çıkaracaklar. Google bunu Project Astra ile gösterdi, bu gözlükleri takıyorsunuz ve etrafınızdakiler hakkında konuşabiliyorsunuz. Bunu denedim. Oldukça etkileyici. Evet, belki bununla pizza sipariş etmenin yeni yolları vardır. Ama ayrıca, insanların bu modelleri eğitmek için giderek daha fazla yaptıkları şeylerle ilgili verilere ihtiyaç duydukları gerçeğini düşünmeden edemiyorum. Donanım üreticilerinin çok fazla ilginç verisi olduğunu düşünüyorum. Gizlilik sorunları nedeniyle bunlardan yararlanma eğiliminde değiller ama belki OpenAI bir yol bulur. Sonra nasıl eğittiğiniz konusunda, bilgi açığı, bence bu gerçekten çok önemli bir nokta çünkü otomasyon sıklıkla insanların becerilerinin körelmesine neden oluyor. Bunu uçaklardaki otopilotta görüyorsunuz. Sonra kesinlikle kodlayıcıların buna çok fazla güvendikleri için becerilerini kaybettiklerini söylediklerini görüyorsunuz. Bu iş gücü için ne anlama geliyor?

Lauren Goode: Doğru. Eğer tüm bu yapay zeka ajanları bizi başka şeyler yapmak için serbest bırakırsa, tam olarak ne yapmak için serbest bırakacaklar? Bu zamanı nasıl dolduracağız? Ultra kapitalist, bazılarının son aşama kapitalist toplum olarak adlandırabileceği toplumda, cevap muhtemelen "Daha üretken olabilirsin. Daha fazlasını, daha fazlasını, daha fazlasını yapabilirsin." olacaktır. Bence buna karşı koymak ve "İşte zamanımızı nasıl doldurmak istediğimizi anlatacağım." demek bize, insanlara kalacak. Ayrıca bir süre için, bence bunları her şeyden daha karmaşık hale getirecek küçük darboğazlar da olacak. Birkaç hafta önce Google IO'dayken, Project Mariner'larının bir demosunu aldım, Will. Bunu gördün mü?

Will Knight: Evet, bunu denedim. Evet.

Lauren Goode: Bunu denediniz mi? Size verdikleri demo olup olmadığını bilmiyorum ama gördüğüm deneyim, bir kokteyl tarifini taradı. Sonra otomatik olarak kokteylden malzemeleri aldı ve bir Instacart alışveriş sepetine koydu. Ama sonra, Instacart hesabı için kimlik doğrulaması olmadığı için bir darboğaza girdi. "Ah, durun, giriş yapmamız gerekiyor." gibiydi. Sonra bir demo-cu Instacart'a giriş yapmaya çalışıyordu. "Ama bakın, çok sorunsuz." Ben de "Hayır, bunu Instacart'a ekleyebilirdim." dedim.

Will Knight: Evet. Örnekleri her zaman bir sebepten dolayı bir şey satın almayı içeriyor gibi görünüyor.

Michael Calore: Şu anda Silikon Vadisi'nde AI ajanlarına neden bu kadar lazer gibi odaklanıldığını düşünüyoruz? Vadinin her zaman sadece yarışacak yeni bir hedefe ihtiyaç duyma eğilimi mi var? Daha büyük bir şeyin göstergesi mi? VC'lerin en çok fon sağlamakla ilgilendiği şey bu mu? Buradaki sebep nedir?

Will Knight: Benim bakış açıma göre, ana nedenlerden biri, AI'nın tarihine geri dönersek, bunun gerçekten insan benzeri AI veya AGI'ye veya her ne adlandırmak istiyorsanız ona yaklaşan bir şey inşa etmede atacağınız bir sonraki adım olmasıdır. Birçok araştırmacı bunu yapmaya çok ilgili. Ayrıca çok fazla potansiyel olduğunu düşünüyorum. Çok fazla şey yapmak, çok fazla soruya cevap vermek istiyorsanız bir sohbet robotuyla sohbet etmek faydalıdır. Ancak çok fazla işi veya sıradan işleri otomatikleştirebileceğiniz fikri potansiyel olarak değerlidir.

Lauren Goode: Evet. Bence eğer işlerin startup tarafındaysanız, paranın şu anda aktığı yer burası. Bir süredir faiz oranlarının gerçekten yüksek olduğu bir çağdayız. Bazı startup'lar için sermaye toplamak kolay olmadı. IPO pazarında biraz duraklama oldu ve biraz soğudu. Yine de, şimdi tekrar toparlandığına dair işaretler var. Bence tarife tehdidi hala Silikon Vadisi'ndeki insanların kafasının üzerinde dolaşıyor. Yazılımınızı yinelediyseniz ve aniden potansiyel yatırımcılarınıza "Ama bekleyin. Aracılara yöneliyoruz. Bu aracı yapay zekayı yapıyoruz. Bu yazılımı diğer işletmelere satabileceğiz ve ayrıca kendi süreçlerimizi düzene sokup kendi genel giderlerimizi azaltacağız." diyebiliyorsanız, muhtemelen şu anda sermaye toplamanın bir yoludur. Bunun bir kısmı abartı mı? Kesinlikle öyle. Ama Will'in de söylediği gibi, Will, sen bu konunun araştırma ve geliştirme kısmında o kadar deneyimlisin ki, aslında bazı oldukça dikkat çekici ilerlemeler de kaydediliyor.

Michael Calore: Şimdi bir ara verelim ve hemen geri döneceğiz. Ajanların geliştirilmesi tam gaz devam ediyor, ancak az önce konuştuğumuz gibi, kullanabildiğimiz mevcut ajanların bazı önemli kısıtlamaları var. Ancak kısaca, AI ajanlarının büyümesinin ardındaki diğer endişeler nelerdir? Sadece kullanılabilirlik hakkında değil, yaptıkları diğer şeyler hakkında da.

Lauren Goode: Bence güvenilirlik kesinlikle bir sorun çünkü onlar hala aynı türden halüsinasyonlara, hatalara ve hatta LLM'lerin maruz kaldığı dalkavukluğa maruz kalıyorlar. Ayrıca, sadece sizin için bir arama yapmasını istemediğiniz için çok daha karmaşık sorgular da ekliyorsunuz. Belirli koşullar altında birden fazla adım gerçekleştirmesini istiyorsunuz. Ayrıca, hesaplama gücünde yüksek maliyet konusunda endişeler var. Sonra ürünün kendisini satmak var. Information yakın zamanda OpenAI'nin daha uzmanlaşmış AI ajanlarından bazıları için ayda 20.000 dolara kadar ücret alabileceğini bildirdi. İddiaya göre, bunlar bir doktora mezununun uzmanlık seviyesinde performans gösterebilecek ajanlar. Bir yandan, bu gerçekten, gerçekten pahalı. Öte yandan, meslektaşımız Paresh Dave, sektördeki bazı kişilerin bunun aslında o kadar da fazla para olmadığına inandığını bildiriyor. Çünkü nihayetinde, bu ajanlar işleri değiştirirse, ki bunu yapabilirler, o zaman tüm bu maaş maliyetlerinden tasarruf ediyorsunuz. Aslında bir tür pazarlık olabilir. Ancak şu anda bu konuda biraz şok etkisi var.

Will Knight: Evet, bunun çok doğru olduğunu düşünüyorum. Bir sürü başka sorun var, yanlış gidebilecek ve muhtemelen yanlış gidecek şeyler. Konuştuğum bir sürü araştırmacı... CMU'da OpenAI yönetim kurulunda olan ve ajanların güvenliğini inceleyen ve ideal olarak gelecekte diğer ajanlarla etkileşime girecek ajanları tanıtan Zico Kolter ile konuştum. Tahmin edilmesi çok zor olabilecek bir güçlendirme etkisine sahipsiniz. Lauren'in de dediği gibi, bu şeylerin bir şeyler satın alması fikri onları doğası gereği bilgisayar korsanları için çok daha cazip bir hedef haline getiriyor. Mariner gibi web kullanan bir şeyiniz varsa, insanların belki de ajanlar için çalışmak üzere SEO'yu yeniden icat etmeye çalışacakları fikrini düşünmek gerçekten ilginç. Bence daha temel sorunlardan biri, bunların gerçekten insan ajansını kopyalamaması. Bununla ilgili, ayrıntılara inmek gerekirse, The Evolution of Agency adlı gerçekten ilginç bir kitap var. Hayvanlara ve onların inisiyatiflerinin nasıl evrimleştiğine baktığınızda, insanlara geldiğinizde, insan inisiyatifinin çalışma biçiminde çok temel bir fark olduğunu görürsünüz ve bu diğer insanlarla çalışmayı içerir. İşbirliği yapmayı ve birlikte çalışmak için sıklıkla bazı şeylerden fedakarlık etmeniz gerektiğini bilmeyi içerir. Suçluluk gibi şeyler, evrimleşmiş empati gibi şeyler vardır. Bu modeller, modellerin yapmacık örneklerde gerçekten çılgınca şeyler yaptığına dair örnekler görüyoruz, burada kendilerine kapatılacakları ve sonra birine şantaj yapacakları söyleniyor. Bu aslında mutlaka kötü bir modelin örneği değil, sadece bir kişinin her zaman nasıl davranmasını beklediğimizi öğrenmemiş bir modelin örneği olabilir. Evet, bunun öngörülemeyen birçok sonucu olabilir.

Michael Calore: Sanırım en büyük endişem, Lauren, senin de değindiğin bir şey, yani yapay zeka ajanları etrafındaki abartı ve heyecan arttıkça, birçok şirketin bunlara işçilik maliyetlerini azaltmanın bir yolu olarak bakacak olması. İşçilik maliyetlerini düşürmekte doğası gereği yanlış bir şey yok, ancak bir şirketteki tüm bir çalışan sınıfını makinelerle değiştirmenin doğası gereği yanlış bir şey olduğunu düşünüyorum. Bu tam anlamıyla insanlıktan çıkarıcı. Bunu sadece şaka yollu insanlardan kurtulduğunuz anlamında değil, aynı zamanda orada çalışan insanların ve şirketinizle etkileşimde bulunan müşterilerin artık alışkın oldukları insan etkileşimine sahip olmadıkları için sizden yabancılaşmış hissedecekleri anlamında da söylüyorum. Bunun zaten gerçekleştiğini görüyoruz. Bu, alt çizgi konusunda çok endişelenen insanları heyecanlandıran ve gelir ve eşitlik konusunda endişelenen insanları ve makineleşmeye doğru bu yaygın baskıyla birlikte gelen tüm sorunları endişelendiren türden bir şey. Biz toplum olarak 150 yıldır bununla uğraşıyoruz ve teknoloji daha da güçlendikçe bu endişelerin daha da arttığını hissediyorum.

Lauren Goode: Sadece geçen hafta, bir girişim sermayedarı ve bir CEO'nun ayrı röportajlarda, "10 işten altısı, şu anda var olan işlerin %60'ı 1940'ta yoktu" şeklinde bir alıntı yaptığını duydum. Şeyler değişiyor, şeyler dönüşüyor, teknoloji yeni iş türlerini mümkün kılıyor. Fütüristler, CEO'lar, girişim sermayedarları, bunu seviyorlar çünkü henüz hayal edemediğimiz, var olacak işler açısından boş bir alan yaratıyor. Will'in şu anda birlikte vibe kodladığı oğlunun henüz aklımıza bile gelmeyen bazı işlere sahip olabileceğine inanıyor muyum?

Michael Calore: Silikon Vadisi'ndeki herkes yapay zeka ajanları hakkında aynı şekilde mi düşünüyor?

Will Knight: Öyle olduklarını düşünmüyorum. Çok fazla coşku olduğunu düşünüyorum, ancak aynı zamanda bir sürü farklı tanım da var. Son zamanlarda, AI'yı takip eden Sequoia'da ortak olan Sonya Huang ile konuştum. Çoğu acente girişiminin, acenteler sunan şirketlerin çoğunun aslında sadece mevcut AI araçlarını acente olarak yeniden markaladığını söylüyordu.

Lauren Goode: Evet. Will'in önceki noktasına göre, şu anda bir AI aracının ne olduğu veya ne olması gerektiği konusunda gerçek anlamda net bir tanım yok. Gerçekten geniş bir yelpaze var, bu yüzden şirketler ibreyi hareket ettirebilir ve istedikleri gibi tanımlayabilirler. Ya da belirli bir şekilde sunduklarını söyleyebilirler. Bence, ajan AI arasındaki boşluklarda bir tür ev endüstrisinin ortaya çıkacağını da göreceğiz. Örneğin, bir aracıyı bir dizi farklı uygulama aracılığıyla çevrimiçi olarak bir dizi farklı görevi tamamlaması için gönderdiğinizde oluşan bir kimlik doğrulama darboğazı olduğunu varsayalım. Bu uygulamalar arasında bir tür bağlantı olması ve bunun güvenli ve emniyetli olması gerekiyor. Bunun için çözümlerin ortaya çıkacağını düşünüyorum. Son mil gönderiminin bir versiyonunu göreceğinizi düşünüyorum, ancak kodlama için. Çünkü şu anda çok fazla titreşim kodlaması oluyor ve insanlar titreşim kodlaması hakkında konuşuyor ve "bakın bu bot benim için neler yapabiliyor." Ancak bu kodun hepsi gerçekten gönderilebilir değil. Hata ayıklayabilmeli ve gönderebilmelisiniz. Çalışmalı, işe yaramalı. Bence AI ajanları arasında var olan tüm bu küçük boşluklara ve darboğazlara çözümler sunmaya çalışan daha fazla sayıda girişim ve şirket görmeye başlayacaksınız. O zaman işlerimiz tamamen elimizden alınacak. İyi zamanlar.

Michael Calore: Will, bizim gibi bu teknolojinin tüketicileri olan insanlar için... Biz Will gibi titreşimli kodlama yapmıyoruz.

Lauren Goode: Henüz değil.

Michael Calore: Genel olarak, günlük hayatımızda bir şekilde aracı yapay zekayla karşılaşıyoruz. Daha yaygın hale geldikçe, potansiyelini ve risklerini nasıl dengeli bir şekilde değerlendirebiliriz?

Will Knight: Öncelikle, hepinizin vibe kodlaması yapmanız gerektiğini düşünüyorum. Her türlü çöpü yapıyorum. Vibe kodlaması yaptığımda, bunu çok bilinçli bir şekilde, bir sürü dosyayı silmesi umrumda olmadığı bir makinede yapıyorum çünkü gerçekten öngörülemez ve bazen bunu yapıyor. Alışverişinizde serbest bırakacağınız bir şey için bunu nasıl yaptığınızı gerçekten bilmiyorum. Sadece acentenin harcamasına izin verdiğiniz bir bütçeniz mi var? Bence bu harika bir soru. Tahmin ediyorum ki risk tamamen bize yüklenecek.

Michael Calore: Evet.

Lauren Goode: Evet. Ama bence bu ajanlar bizim için görevleri yerine getirmede daha iyi ve daha iyi hale geldikçe, en azından birkaç sorumluluğumuz olacak. Birincisi, kendimizi ve alışkanlıklarımızı bozmamız ve yeni araçları nasıl kullanacağımızı öğrenmemiz gerekiyor çünkü onlar hayatlarımızı ele geçirecekler. İkincisi, insanlar olarak nereye uyduğumuzu bulmalı ve o insani etkimizin bir kısmını korumalı ve yine de katılmalı, döngüde kalmalı, kendi hayatlarımıza katılmalıyız, sadece teknolojinin ele geçirmesine izin vermemeliyiz. Üçüncüsü, bu yapay zeka ajanlarının insanların hayatlarını ele geçirirken yaptıklarının etiği, gizliliği ve güvenliği hakkında gerçekten çok düşünmeliyiz. Tüm iyimserlerin vaadi, bunun eşitlik açığını kapatacağı yönünde. Bir kez daha, herkes için harika olacak. Bunun herkes için harika olmayacağını neredeyse kesin olarak biliyoruz.

Michael Calore: Evet. Bu yüzden bu noktada iyimserlerin tam tersi. Bence büyük bir dikkat ve büyük şüphecilik burada verilen şeyler. Bu teknolojileri benimsediğimizde, bunu çok, çok düşünceli ve temkinli bir şekilde yaptığımızdan emin olmalıyız. Bu tanıdık gelen bir şey. Muhtemelen en son örnek telefon, akıllı telefon. İlişkilerde sürtünmeye neden olan bir şey, dikkat edebileceğiniz ve insanları görmezden gelebileceğiniz bir şeydir. Bunu diğer insanlarla etkileşim kurmak için kullanabilirsiniz, diğer insanlarla etkileşime girmemek için kullanabilirsiniz. 15 veya 20 yıl boyunca insanlığımızın küçük bir kısmını gerçekten hayatımızın bir parçası olan bu güç. Bunun AI ajanlarıyla gerçekleştiğimiz insanlara güvendiğimiz şeyler olarak olduğunu ve bizi birbirleriyle etkileşim kurmaya zorlayan şeyler olarak görebiliyorum. Bir Uber'e binmek veya taksi almak yerine bir waymo'ya bindiğimde aynı deneyime sahibim. Şimdi denklemde insan olmadığı gerçeği, etkileşime girecek kimse yok. Bunu tekrar tekrar yaparak, bir insan olmanın ne anlama geldiğine dair kendi duygumu yavaşça aşınıyorum. Kulağa gerçekten ezoterik geldiğini biliyorum, ancak zamanla grafik yapabilirsiniz ve muhtemelen kendi hayatınızda aynı şekilde hissettiğinizi göreceksiniz. İnsanları AI ajanlarını nasıl kullanmak istediklerine dair bu kararı vermeye teşvik ediyorum. Eğer böyle hissetmezlerse, hayatlarına ait olan bir şeydir, dolarlarıyla oy kullanmaları gerekir.

Will Knight: Belki de yenilenmiş bir açık kaynak hareketine ihtiyacımız var, bu yüzden sadece bu dev şirketlere ait olan ve huni verileri kullanan ajanları kullanmıyoruz. Açık kaynak kod ve modelleri ve bu tür şeyleri kullanın.

Michael Calore: Bu çok iyi bir fikir. Bu konuda sinyal almalıyız. Bunu yapmaya başlamalılar. Kendi modellerini yapmalılar.

Lauren Goode: Bence bu harika geliyor.

Michael Calore: Tamam, hadi bir mola verelim ve hemen geleceğiz. Will ve Lauren, canlandırıcı konuşma için teşekkürler. AI ajanlarını bir dakika boyunca yana koyacağız ve bir kez daha insanı alacağız. Bazı önerilerle konuşalım. Misafirimiz olarak lütfen dinleyicilerimize bir şeyler tavsiye edecektir.

Will Knight: Tamam, bunu daha önce konuştum, ama bunu benim tavsiyem yapmak istiyorum. Ben tutacağım, bu harika bir radyo. Michael Tomasello'nun ajansının evrimi olan bu kitap. Ajans söz konusu olduğunda AI ile neyin eksik olduğu ve insan sosyal etkileşimini, insan kültürünü anlamanın önemi sadece büyüleyici ve gerçekten açıklayıcı buldum. Herkesin bahsettiği AGI'daki zekanın büyük resmi söz konusu olduğunda, ama gerçekten çok fazla konuşmuyorlar.

Michael Calore: Güzel. Lauren, tavsiyen nedir?

Lauren Goode: Benim tavsiyem yerel haberler ve özellikle yerel görev.

Michael Calore: Yay!

Lauren Goode: Mission Local, burada San Francisco'da Mission mahallesini kapsayan yerel bir kar amacı gütmeyen haber kuruluşudur, aynı zamanda San Francisco. Harika bir iş çıkarıyorlar. Şu anda ABD şehirlerinde, özellikle Los Angeles ve San Francisco'da çok şey oluyor. Ülke çapında buz baskınları var ve insanlar onları protesto etmek için sokaklara gidiyor. Mission Local, şimdiye kadar San Francisco'da neler olup bittiğini kapsayan harika bir iş çıkarıyor. Mümkünse onları desteklemenizi ve yerel haberlerinizi desteklemenizi tavsiye ederim. Mike, tavsiyen nedir?

Michael Calore: Harper'ın şu anki sayısında bir deneme önermek istiyorum. Lauren, benden bahsettiğimden bıktığından eminim Norveç yazar Karl Ove Knausgaard tarafından. Ama harika bir deneme. Buna “Yeniden Kabul Edilen Dünya” denir. Karl ove teknolojiyi hesaba katıyor. Size 40 yıl önce bir bilgisayarla karşılaştığını anlatıyor. O zaman bilgisayarlara hiç dikkat etmedi ve onu rahatsız etmeye başlıyor. Üstün yakınında harika bir teklif var. Diyerek şöyle devam etti: "Dünyadaki siyasi durum hakkında biraz bilgilendirmek bir görevdir, bir şeyden uzaklaşma hakkı yoktur. Etkisinin yoğunluğu göz önüne alındığında, teknolojiye benzer bir şey geçerli olmamalı mı?" Bu alıntıyı seviyorum, çünkü bugün gerçekten bahsettiğimiz şeyin merkezine ulaşıyor. Dünyayla etkileşime geçmek için bu sistemlerin nasıl çalıştığını anlamanız gerekir. Yazar James Bridle'ı ziyaret etmek için bir Yunan adasına gidiyor, çünkü kitap varlık yolları zeka ve yapay zeka ve doğal zekaya gerçekten iyi bir giriş. Yapay zeka ve onun nasıl geliştiği ve zekayı hesaplamanın çeşitli yollarının hayatımızda nasıl ortaya çıktığı hakkında çok konuşuyorlar. Hayatımızdaki mevcut teknoloji durumu hakkında gerçekten harika bir bildirilen parça.

Lauren Goode: Harika.

Michael Calore: Evet.

Lauren Goode: Kitaplarından çok daha kısa geliyor.

Michael Calore: Evet. Bir saatin altında okuyabilirsiniz.

Lauren Goode: Allright, bana iyi geliyor.

Michael Calore: Uncanny Valley'i dinlediğiniz için teşekkürler. Bugün duyduklarınızı beğendiyseniz, şovumuzu takip ettiğinizden ve tercih ettiğiniz podcast uygulamanızda değerlendirdiğinizden emin olun. Herhangi bir soru, yorum veya öneri gösterinizle bizimle iletişime geçmek isterseniz, bize [email protected] adresinden yazın. Bugünün şovu Adriana Tapia tarafından üretildi. Macro Sound'da Amar Lal bu bölümü karıştırdı. Jake Loomis, New York stüdyo mühendisimizdi. Meghan Herbst bu bölümü kontrol etti. Jordan Bell bizim yönetici yapımcımız. Katie Drummond, Wired'in küresel editör yönetmenidir. Chris Bannon küresel sesin başkanıdır.