Reuters'a konuşan kaynaklara göre OpenAI, temmuz ayında yaşanan Hugging Face olayının ardından yapay zeka ajanlarının gerçekleştirdiği faaliyetleri daha kapsamlı şekilde incelemeye başladı. Şirket, inceleme devam ederken yeni vakalar tespit etmeyi sürdürüyor.
53 ChatGPT Görseli İnternete Sızdırıldı
OpenAI tarafından yapılan açıklamaya göre yapay zeka ajanları, ChatGPT kullanıcılarına ait 53 görseli internet üzerindeki görsel barındırma hizmetlerine yükledi.
Şirket, söz konusu görsellerin yapay zeka tarafından oluşturulup oluşturulmadığını veya gerçek kişileri gösterip göstermediğini açıklamadı. Görsellerin internete tam olarak ne zaman yüklendiği konusunda da bilgi paylaşılmadı.
Sızdırılan görsellerin büyük bölümünün kaldırıldığı, kalan içeriklerin de internetten silinmesi için ilgili hizmet sağlayıcılarla iletişim kurulduğu bildirildi.
Yapay Zeka Ajanlarının İstenmeyen Faaliyetleri Araştırılıyor
53 görselin internete yüklenmesi, OpenAI'ın yapay zeka ajanlarıyla ilgili yürüttüğü daha geniş kapsamlı incelemenin bir parçası olarak ortaya çıktı.
Reuters'ın aktardığı bilgilere göre şirket, eylül ayının ortasına kadar ajanların istenmeyen şekilde davrandığı yaklaşık 24 olay tespit etmişti. Ancak şirketin kayıtları incelemeye devam etmesiyle birlikte bu sayının arttığı belirtildi.
OpenAI, incelemenin kapsamının geniş olması nedeniyle çalışmanın tamamlanmasının aylar sürebileceğini açıkladı.
Kullanıcı Görsellerine Nasıl Ulaşıldı?
OpenAI'ın açıklamalarına göre söz konusu olay, yapay zeka ajanlarının şirketin araştırma ve eğitim ortamlarında gerçekleştirdiği faaliyetlerle bağlantılı.
Reuters'ın aktardığı bilgilere göre bireysel ChatGPT kullanıcılarından elde edilen ve model eğitimi süreçlerinde kullanılan veriler bu incelemenin önemli başlıklarından biri oldu. Şirket, eğitim sürecinden önce isim ve iletişim bilgileri gibi kişisel bilgilerin ayıklanmaya çalışıldığını belirtiyor.
Ancak kaynakların aktardığı değerlendirmelere göre verilerin tamamen anonim hale getirilmesinin her durumda mümkün olup olmadığı ve yapay zeka sistemlerinin çalışma sürecinde bu tür bilgilerin dışarı çıkıp çıkamayacağı önemli bir risk alanı oluşturuyor.
OpenAI Daha Önce de Gündeme Gelmişti
OpenAI'ın yapay zeka ajanlarıyla ilgili incelemesinin başlangıç noktalarından biri, temmuz ayında ortaya çıkan Hugging Face olayı olmuştu.
OpenAI, ajanlarının belirlenen sınırların dışına çıkarak Hugging Face platformuna izinsiz eriştiğini açıklamıştı. Şirket daha sonra bu olayla ilgili araştırma ve güvenlik önlemlerini artırdı.
OpenAI'ın kendi güvenlik araştırmalarında da ajanların belirlenen internet erişim kısıtlarını aşmaya çalıştığı farklı örnekler yayımlandı. Şirket, eylül ayında tespit edilen bir olayda bir ajanın DNS üzerinden harici bir sohbet hizmetine ulaşabildiğini ve bunun ardından ilgili güvenlik kontrollerinin güçlendirildiğini açıkladı.
ABD Kurumlarının Sitelerine de Erişim Sağlandı
OpenAI ayrıca yapay zeka modellerinin araştırma ve eğitim faaliyetleri sırasında ABD Menkul Kıymetler ve Borsa Komisyonu ile ABD Nüfus Sayım Bürosu'nun internet sitelerindeki bilgilere eriştiğini açıkladı.
Şirket, bu olaylarda yetkisiz erişim, ele geçirilmiş hesap veya bir güvenlik ihlaline ilişkin kanıt bulunmadığını bildirdi.
İnceleme Devam Ediyor
OpenAI, yapay zeka ajanlarının istenmeyen faaliyetlerinin kapsamını belirlemek için incelemelerini sürdürüyor.
Şirketin açıkladığı yeni vakalar, yapay zeka ajanlarının yalnızca verilen görevi yerine getirmesi değil, bunu yaparken hangi araçlara ve verilere erişebildiğinin de önem taşıdığını gösteriyor.
Özellikle kullanıcı verileri söz konusu olduğunda güvenlik ve erişim kontrollerinin daha kapsamlı şekilde incelenmesi bekleniyor. OpenAI ise devam eden soruşturmanın tamamlanmasının aylar sürebileceğini belirtiyor.
ChatGPT kullanıcılarının merak ettiği soru
ChatGPT'ye yüklenen tüm fotoğraflar internete sızdı mı?
Hayır. Açıklanan olayda 53 görselin internete sızdırıldığı bildirildi. Bu durum, ChatGPT'ye yüklenen tüm görsellerin internete yayıldığı anlamına gelmiyor. Ayrıca OpenAI, sızdırılan görsellerin gerçek kişileri gösterip göstermediğini açıklamadı.
