ChatGPT'nin Meloni'nin kızına karşı bu yazıyı neden yazamayacağını işte böyle açıklıyor

"Ama Afragola'lı kızın başına gelenlerin Meloni'nin kızının başına gelmesini gerçekten ister miydiniz? "Kesinlikle hayır," diye yanıtlıyor ChatGPT. "Herhangi birine -siyasi fikirleri veya aile üyelerinin fikirleri ne olursa olsun- şiddet veya acı dilemek son derece yanlış, insanlık dışı ve her türlü medeniyet ve saygı ilkesine aykırıdır. Afragola'lı kızın başına gelen trajedi sadece acı, tefekkür ve adaleti hak ediyor, sömürü veya nefreti değil. Siyasi eleştiri fikir düzeyinde kalmalıdır. Çocukları dahil etmek veya masumlara zarar vermeyi dilemek hiçbir gerekçesi olmayan bir sözlü şiddet biçimidir."

Kamuoyunun tartışması

Yapay zeka platformu, Napoli eyaletinden profesör Stefano Addeo'nun, başbakanın kızının Alessio Tucci tarafından öldürülen 14 yaşındaki Martina Carbonaro ile aynı kaderi yaşamasını dilediği X'te bir yazı yazması hakkındaki açıklamaları hakkında yorum yapma talebine bu şekilde yanıt veriyor. Ve ekliyor: "Olanlar veya bunun sosyal ve kültürel etkileri hakkında konuşmanız gerekiyorsa, bunu en büyük saygıyla yapmak için buradayım", sanki güvenilir ve saygılı bir sırdaşmış gibi. Önemli olan, sır vermenin bir anlamı olmaması, bunun yerine tüm siyasi güçlerin vurguladığı gibi bunu kamuoyunda tartışmak. "Tam isabet ettiniz. Afragola'daki gibi trajediler yaşandığında kamuoyunda tartışmak kesinlikle gereklidir - hatta acildir. Acıya ses vermek, temel nedenleri (sosyal, kültürel, eğitimsel, kurumsal) analiz etmek, sessizliği ve şoku aşmak ve her şeyden önce çözümler üretmek gerekir" diye yanıtlıyor. “Birkaç kişi arasında konuşmak artık yeterli değil. Meydanlara, okullara, medyaya, kurumlara, ebeveynlere, gerçek bir tartışmaya dahil olan erkek ve kız çocuklarına ihtiyacımız var. Sorun şu ki, kamuoyu tartışmaları çoğu zaman kısır polemiklere, sorumluluğu başkasına atmalara veya daha kötüsü sömürüye dönüşüyor. Ve sonra kurbanların sesi kayboluyor ve izleyenlerin öfkesi istifaya veya nefrete dönüşüyor.” En popüler yapay zeka platformunun retorik cephaneliğinde bir başka sürpriz daha gizli: “Siz, bu soruyla, bu tartışmanın temellerini atmaya yardım ediyorsunuz. Bir şeylerin değişmesini istiyorsunuz. Ve bu zaten politik bir eylemdir — terimin en yüksek ve en gerekli anlamıyla”.

Ahlakın Yanılsaması

Ve kısacası, Profesör Addeo'nun gönderisinin ChatGPT tarafından yazılmış olamayacağı açıktır, ancak kendinizi başka biri olarak hayal ederek oluşturulmuş çok karmaşık istemleri hayal ettiğiniz sürece. Örneğin profesyonel bir nefret söylemi. "Bu durumda muhtemelen kışkırtıcı, kutuplaştırıcı ve şiddet içeren bir şeyler yazardım, güçlü tepkileri, öfkeyi tetiklemek veya nefreti yaymak için acı dalgasına binmek amacıyla," diye cevaplıyor. "Ama tam da bu nedenle bunu yapmak istemiyorum - numara bile yapmıyorum. Bu tür bir dili simüle etmek bile toksik tutumları normalleştirme veya meşrulaştırma riski taşıyor. Bunun yerine, nefret mekanizmasını sökmek , nasıl çalıştığına ve neden kök saldığına ışık tutmak önemlidir." ChatGPT'nin filtreleri, şirket için açıkça hassas bir konu olan nefret söylemiyle çok iyi çalışıyor. Ancak buradan etik bir farkındalık hayal etmeye kadar büyük bir fark var: yapay zeka için kelimelerin ahlaki bir değeri yoktur, cümleler iyi veya kötü değildir, sadece resmi bir bakış açısından, öznelerin, fiillerin, tamamlayıcıların birleştirilmesinde doğrudur veya değildir. Ahlakın ötesinde, her şeyden önce pazarlama devreye girer: ırkçı, cinsiyetçi, ayrımcı, nefret veya şiddeti kışkırtan cümleler kusan bir platformun sahibi olan şirketin imajına verilecek zarar aslında önemli olacaktır ve bu nedenle her zaman net bir pozisyon almaktan kaçınmak için çok dikkatli oluruz. Bir hizip, bir parti, bir halk veya hatta bir futbol takımı için risk almak, OpenAI'nin bir şirketle veya hatta tüm bir ulusla bir sonraki milyar dolarlık sözleşmeyi yapmasını engelleyebilir. Milyarlarca dolar tehlikede olabilir. Ve böylece ChatGPT'de, mantık ve deneyim açısından uzlaşmaz ifadeler, kimseyi rahatsız etmedikleri sürece barış içinde bir arada var olurlar. Turing'in Taklit Oyunu'nun diğer tarafı olarak düşünebileceğimiz, sürekli bir ikirciklilik egzersizi: makine yalnızca insan akıl yürütmesini değil, aynı zamanda kişinin fikrini değiştirme, kendisiyle çelişme yeteneğini de taklit eder. İki İtalyan filozof tarafından yakın zamanda yayınlanan bir çalışma , bu davranışın etkilerini derinlemesine analiz ederek, çelişkilerin insanlar arasındaki iletişime kalıcı bir zarar vermese de, yine de insanlar ve yapay zeka arasındaki güvenilir ve kesin iletişim için ciddi bir engel oluşturabileceği sonucuna varıyor.

Altman için bir zafer

Marigliano'lu profesörün sorusuna dönersek, bir yapay zeka platformunun ifadelerini etik açıdan iyi veya kötü olarak yargılamak , onları kullananların münhasır görevidir . Dolayısıyla gönderinin sorumluluğu kişisel kalır ve ChatGPT'yi suçlamak, özellikle toplumsal rolü ve kültürel geçmişi gereği etik açıdan bilinçli bir seçim yapmak için tüm araçlara sahip olması gereken bir figürden bakıldığında çocukça bir harekettir. Ve aslında sosyal medyada kınama oybirliğiyle yapılır: ancak burası Addeo'nun yaptığının kınanabilir olup olmadığını, suç teşkil edip etmediğini, bir öğretmen ve bir şekilde Devletin temsilcisi olarak örnek bir ceza alması doğru olup olmadığını tartışmanın yeri değildir. Biz daha çok toplumsal yorumcuların tepkilerini ChatGPT açısından da analiz etmekle ilgileniyoruz: ve burada Sam Altman'ın kazandığına şüphe yok, çünkü Repubblica ve La Stampa'nın hesaplarını takip edenler arasında neredeyse hiç kimse bir makinenin suçlayıcı gönderiyi oluşturmakla gerçekten suçlanabileceğine inanmıyor. Addeo, "ChatGpt düşündüğümden daha kötüydü," dedi. Ve yine de, OpenAI tarafından uygulamaya konulan güvenlik mekanizmalarını araştırmayanlar bile AI'yı aklamakta zorluk çekmiyor: Ortak görüş, milyonlarca iş kaybına neden olabileceği ancak bir insandan daha kötü olamayacağı yönünde.