DHS, OpenAI'dan ChatGPT İstemlerinin Arkasındaki Kullanıcıyı Ortaya Çıkarmasını İstiyor, Muhtemelen Bu Türden İlk Vaka

Federal hükümet, kolluk kuvvetlerinin soruşturmalarına yardımcı olmak için uzun süredir teknoloji şirketlerine kullanıcı verilerini vermeleri konusunda baskı yapıyor. Ancak sosyal medya şirketleri, arama motorları ve diğer teknoloji platformları federal soruşturmalar kapsamında verileri teslim ederken, yapay zeka şirketleri yasal açıdan büyük ölçüde dokunulmamış bir sınırda kaldı; ta ki şimdiye kadar.

Forbes, İç Güvenlik Bakanlığı bünyesindeki çocuk cinsel suçlarını araştıran bir birimin, OpenAI'dan çocuk istismarı web sitesinin yöneticisi olduğunu iddia ettikleri bir kullanıcı hakkında bilgi vermesini istediğini yazdı . Söz konusu kişi, çocuk istismarı sitesindeki gizli bir ajanla ChatGPT kullanımını görüşmüş ve bu da hükümetin şirketten davaya yardımcı olabilecek kayıtları talep etmesine yol açmıştı.

Forbes, bunu "OpenAI'dan kullanıcı verilerini isteyen ilk bilinen federal arama emri" olarak nitelendiriyor ve davayı geçen hafta Maine'de açığa çıkan mahkeme kayıtlarını inceleyerek keşfettiğini söylüyor.

Kullanıcının ChatGPT'ye girdiği komutlar, suçlandıkları suçlardan tamamen bağımsız görünüyor. Forbes, diğer şeylerin yanı sıra, Star Trek hakkında bir soru ve yapay zeka tarafından "Trump tarzında" yazılmış bir şiir içerdiğini yazıyor:

Şüpheli daha sonra aldıkları bazı istemleri ve yanıtları açıkladı ve "Sherlock Holmes, Star Trek'ten Q ile tanışırsa ne olur?" diye başlayan görünüşte zararsız bir tartışmayı ayrıntılarıyla anlattı. Başka bir tartışmada şüpheli, ChatGPT'den 200.000 kelimelik bir şiirle ilgili belirtilmemiş bir istek üzerine bir yanıt aldıklarını ve yanıt olarak "Village People's YMCA'ya olan sevgisini anlatan, Trump tarzı, mizahi bir şiirin, bilindiği o abartılı, kendini yücelten, bilinç akışı tarzında yazılmış bir örnek alıntısı" aldıklarını söyledi. Daha sonra bu şiiri kopyalayıp yapıştırdılar.

Forbes ayrıca, hükümetin söz konusu suçluyu tespit ettiğine inandığı için DHS'nin OpenAI'dan herhangi bir kimlik bilgisi istemediğini belirtiyor. Şüpheliye yönelik suç duyurusuna göre, gizli ajanlar, kullanıcıyla devam eden konuşmalardan derlenen bağlam ipuçlarını kullanarak onun kim olabileceğine dair bir profil oluşturuyor. Bu bağlam ipuçları arasında, gizli ajanla konuşurken yaptığı iddia edilen yorumlar, orduya katılma isteği, yaşadığı (ve ziyaret ettiği) yerler, en sevdiği restoran ve bir askeri üsteki işi gibi bilgiler yer alıyor. Forbes, bu ipuçlarının, araştırmacıların, daha önce Almanya'daki bir ABD Hava Kuvvetleri üssünde çalışmış 36 yaşında bir adam olduğuna inanmalarına yol açtığını belirtiyor.

Forbes'un haberlerinin çoğunun dayanağı olan arama emri o zamandan beri mühürlenmiş gibi görünüyor. Ancak şüpheli hakkındaki suç duyurusu hâlâ kamuoyuna açık. Söz konusu şikayetin bir kısmı kısmen şöyle: "ŞÜPHELİ KULLANICI ile UC [gizli ajan] arasında Temmuz 2025 ve Ağustos 2025'te gerçekleşen birkaç görüşmede, ŞÜPHELİ KULLANICI ordu tarafından işe alınması için çok kilolu olduğunu belirtti. Ajanlara, askeri alım görevlileri tarafından, söz konusu şüphelinin "ilk görüşmeye yaklaşık olarak Haziran veya Temmuz 2025'te geldiği" ve "boyundaki bir birey için kabul edilebilir kilonun üzerinde olduğu" bildirildi. ŞÜPHELİ KULLANICI ile UC arasında daha sonra yapılan görüşmeler, ŞÜPHELİ KULLANICI'nın bu alanda ilerleme kaydettiğini gösterdi ve askeri alım görevlileri de ajanlara şüphelinin "artık askeri kurallar dahilinde olduğunu" belirtti.

Gizmodo, şüphelinin avukatına ve OpenAI'ye yorum almak için ulaştı.

Federal kolluk kuvvetleri, soruşturmalar için diğer teknoloji platformlarından veri toplamaya düzenli olarak yönelmiştir ve yapay zeka şirketleri devasa kullanıcı bilgisi depolarıdır, bu nedenle kolluk kuvvetlerinin de suçla mücadelede onları önemli bir araç olarak görmesi son derece mantıklıdır. Bu, yapay zeka sohbet robotlarının bu kapasitede kullanımının kesinlikle sadece başlangıcıdır.