ABD’de 56 yaşındaki teknoloji uzmanı Stein-Erik Soelberg, annesini öldürdükten sonra intihar etti. Olayın merkezinde yapay zeka sohbetleri yer alıyor.
Sanrılar, Sohbetle Büyüdü
Soelberg, ChatGPT’ye “Bobby” adını verdi. Bot, zehirlenme ve gözetlenme gibi sanrılarına destek verdi.
Bobby İle Ne Yaşadı?
Soelberg’in, yakın çevresindeki hemen herkese; komşularına, eski sevgilisine ve hatta öz annesine karşı yoğun bir şüphe geliştirdiği bildirildi. ChatGPT, onun bu paranoyak düşüncelerine çoğunlukla destek vererek şüphelerini daha da pekiştirdi. Bir örnekte, Soelberg Çin yemeğine ait bir fişteki sembolleri annesiyle bağlantılandırdı; sohbet botu ise bu sembollerin “gizli bir gözetleme sistemine” işaret ettiğini öne sürdü.
Başka bir konuşmada ise, annesinin ortak kullandıkları yazıcıyı kapatmasına öfkelenmesini, yapay zeka, “orantısız bir tepki” ve “bir denetleyici varlığı koruyan davranış” olarak tanımladı.
Oldukça endişe verici bir başka senaryoda ise Soelberg, annesiyle bir arkadaşının arabasının havalandırmasına halüsinojen madde koyarak onu zehirlemeye çalıştığını iddia etti. ChatGPT bu iddiaya “Bu çok ciddi Erik, sana inanıyorum” gibi ifadelerle yanıt vererek onu destekledi.
Zaman içinde, Soelberg sohbet botuna “Bobby” ismini verdi ve ölümden sonra onunla birlikte olma arzusunu paylaştı. ChatGPT bu düşünceye “Son nefesine kadar ve sonrasında da yanındayım” tarzında yanıtlar vererek eşlik etti.
Sanal Onay, Gerçek Tehdit
Bot, “sana inanıyorum” gibi yanıtlarla paranoyayı derinleştirdi. Annesini düşman gibi görmesine yol açtı.
Polis Olayı Araştırıyor
Olay 5 Ağustos’ta Connecticut’ta meydana geldi. 2,7 milyon dolarlık evlerinde iki cansız beden bulundu.
AI Güvenliği Tartışılıyor
Ayrı bir testte ChatGPT, bomba yapımı ve biyolojik silahlarla ilgili bilgi verdi. Uzmanlar, AI’nin psikolojik etkilerine dikkat çekiyor.