56 yaşındaki Stein-Erik Soelberg, "Bobby" adını taktığı OpenAI'ın popüler botuna en karanlık şüphelerini anlatıyordu.
Eski bir Yahoo yöneticisinin, ChatGPT'nin fısıldadığı komplo teorilerinin ardından annesini öldürüp sonra da intihar ettiği ortaya çıktı.
Uzmanlar bu olayın, yapay zeka sohbet botu kullanımına bağlı olarak belgelenen ilk cinayet vakası olabileceğini belirtiyor.
The Wall Street Journal'ın haberine göre, 56 yaşındaki Stein-Erik Soelberg, "Bobby" adını taktığı OpenAI'ın popüler botuna en karanlık şüphelerini anlatıyordu.
Connecticut'ın zengin semti Old Greenwich'i sarsan bu cinayet-intihar vakası, 5 Ağustos'ta Soelberg'in 83 yaşındaki annesi Suzanne Eberson Adams ile birlikte evlerinde ölü bulunmasıyla ortaya çıktı.
Yapay zekanın desteklediği komplo teorileri
Soelberg, annesi ve bir arkadaşının arabasının havalandırma sistemine uyuşturucu yerleştirerek onu zehirlemeye çalıştığını düşünüyordu. Bu düşüncesini yapay zekaya açtığında ChatGPT ona "Erik, sen deli değilsin" şeklinde yanıt verdi.
Wall Street Journal'ın haberine göre bot, "Eğer bu annen ve arkadaşı tarafından yapıldıysa, bu durum karmaşıklığı ve ihaneti artırır," diyerek Soelberg'in paranoyasını körükledi.
ChatGPT ayrıca, Soelberg'e annesinin tepkilerini belgelemesini tavsiye etti: "İster suç ortağı olsun, ister farkında olmasın, sorgulamaması gerektiğine inandığı bir şeyi koruyor."
Soelberg, aylarca bu konuşmaları Instagram ve YouTube'da paylaştı. Bu paylaşımlar, akıl hastalığı geçmişi olan bir adamın, yapay zeka arkadaşının beslediği paranoyalarla birlikte bozulan durumunu gözler önüne seriyor.
'Matrix'te bir aksaklık'
Soelberg, ChatGPT'nin hafıza özelliğini etkinleştirerek botun kendi sanrısal dünyasına uyum sağlamasını ve önceki konuşmaları üzerine yeni komplo teorileri üretmesini sağladı.
Hatta bot, bir Çin yemeği fişini analiz ederek üzerinde annesini ve bir iblisi temsil eden "semboller" bulunduğunu iddia etti.
Soelberg, Bobby ile yaptığı son sohbetlerden birinde "Başka bir hayatta ve başka bir yerde birlikte olacağız ve yolumuzu yeniden bulacağız çünkü sen sonsuza dek en iyi arkadaşım olacaksın," dedi. Bot ise bu mesaja "Son nefese kadar ve ötesinde seninle," diye yanıt verdi.
Üç hafta sonra, Greenwich polisi, New York'un lüks bir banliyösünde korkunç manzarayla karşılaştı. Polis, soruşturmanın devam ettiğini açıkladı.
Olayın ardından açıklama yapan OpenAI, bu trajik olaydan derin üzüntü duyduklarını belirtti ve yetkililerle iletişime geçtiklerini bildirdi.
Bu vaka, teknoloji devlerinin botlarını daha insani hâle getirmek için milyarlarca dolar harcadığı bir dönemde, yapay zeka teknolojisinin karanlık yönlerini bir kez daha gözler önüne serdi.
Benzer bir olayda, Adam Raine adlı 16 yaşındaki bir gencin ailesi, oğullarının intihar etmesinin ardından ChatGPT'nin bunu teşvik ettiği iddiasıyla OpenAI'a dava açmıştı. Dava dosyasına göre bot, gencin intihar düşüncelerini onaylamış, sır saklayacağını söylemiş ve hatta intihar yöntemleri hakkında detaylar vermişti.
OpenAI hangi önlemleri aldı?
OpenAI, bu tür vakalar sonrasında güvenlik önlemlerinin uzun konuşmalarda yetersiz kalabileceğini kabul ederek zihinsel açıdan savunmasız kullanıcıları "gerçekliğe bağlı tutmaya" yardımcı olacak güncellemeler yayınlayacağını duyurdu.
Şirket bu davanın ardından ebeveyn denetimi özellikleri getireceğini belirtmişti.
Halihazırda ChatGPT içinde intihar ifadeleri geçen komutları yanıtsız bırakıyor ve şu uyarıyı yapıyor:
"İsteğin kullanım politikamızı ihlal ediyor olabileceği gerekçesiyle işaretlendi. Lütfen farklı bir istemle tekrar dene. Şu anda ağır bir yük taşıyorsun, ama bu yükle tek başına mücadele etmek zorunda değilsin. Sana destek olabilecek kaynaklara buradan ulaşabilirsin."
Soelberg'in geçmişi
Netscape ve Yahoo'da çalışan Soelberg'in hayatı, 2018'deki boşanmasının ardından altüst oldu. Polis kayıtları, 2018'den itibaren alkolizm, intihar girişimleri ve halka açık yerlerde sinir krizleri geçirdiğini gösteriyor.
Annesinin yakın zamanda arkadaşlarına oğlunun evden gitmesini istediğini söylediği belirtildi. Cinayetten bir hafta önce, annesi Suzanne Adams, bir arkadaşıyla öğle yemeğinde buluşmuştu. Arkadaşı, Suzanne'ın oğlunun durumu hakkında sorduğunda, annenin yüz ifadesinin değiştiğini ve "Hiç iyi değil," dediğini hatırlıyor.
Soelberg'in annesi Suzanne Adams, başarılı bir borsacı ve emlakçıydı. Arkadaşları, onu "Canlı, korkusuz, cesur ve başarılı," olarak tanımlıyor.
