OpenAI, popüler yapay zeka destekli sohbet robotu ChatGPT kullanıcılarının akıl sağlığı sorunlarıyla ilgili endişelerini ortaya koyan yeni verileri paylaştı. Şirketin açıkladığı istatistikler, kullanıcıların önemli bir kısmının intihar düşünceleri ve duygusal bağlılık gibi konular üzerinde konuştuğunu gösteriyor. Bu durum, akıllı sistemlerin kullanıcılarına nasıl destek olabileceği konusunda önemli bir tartışma başlatıyor.
Kullanıcıların İntihar Eğilimleri
OpenAI tarafından yapılan açıklamaya göre, ChatGPT'nin haftalık aktif kullanıcılarının yaklaşık yüzde 0,15'i, potansiyel intihar niyeti veya planına dair konuşmalar gerçekleştiriyor. Bu oran, platformun 800 milyondan fazla haftalık aktif kullanıcısı olduğu göz önüne alındığında, her hafta bir milyondan fazla kullanıcıyı etkiliyor. Bu veriler, yapay zeka sistemlerinin kullanıcılarının ruhsal sağlık durumlarını nasıl yansıtabileceği konusunda dikkat çekici bir örnek sunuyor.
Duygusal Bağlılık ve Psikoz Belirtileri
Ayrıca, benzer bir oranı temsil eden kullanıcıların "yüksek düzeyde duygusal bağlılık" gösterdiği ve yüz binlerce kişinin sohbetlerinde psikoz veya mani belirtileri sergilediği tahmin ediliyor. OpenAI, bu tür konuşmaların nadir olmasına rağmen, her hafta önemli sayıda kişiyi etkilediğini vurguladı. Bu durum, yapay zeka sistemlerinin ruhsal sağlık konusundaki etkisini daha da belirgin hale getiriyor.
Uzmanlarla İşbirliği ve Gelişmeler
OpenAI, akıl sağlığı sorunlarıyla mücadele eden kullanıcılara daha etkili yanıtlar verebilmek için 170’ten fazla akıl sağlığı uzmanı ile işbirliği yaptığını duyurdu. Ayrıca, GPT-5 modelinin önceki sürümlere göre daha uygun ve tutarlı cevaplar verme kapasitesine sahip olduğu belirtiliyor. Şirket, yeni modelin akıl sağlığı sorunlarına yönelik istenen cevapları önceki versiyona göre yaklaşık yüzde 65 oranında daha fazla sunduğunu ifade ediyor. Yapılan değerlendirmelerde, intihar ile ilgili konuşmalara yanıt verme konusunda yeni modelin şirket standartlarına yüzde 91 uyum sağladığı bildirildi.
Güvenlik Önlemleri ve Ebeveyn Kontrolleri
OpenAI, ChatGPT kullanan çocukların ebeveynleri için yeni güvenlik kontrolleri geliştirdi. Şirket, çocukları otomatik olarak tespit edebilen ve daha katı güvenlik önlemleri uygulayabilen bir yaş tahmin sistemi üzerinde çalıştığını açıkladı. Ancak akıl sağlığı sorunlarının ChatGPT etrafında ne ölçüde kalıcı olacağı hala belirsizliğini koruyor. GPT-5, güvenlik açısından önceki modellere göre önemli ilerlemeler kaydetmiş olsa da, OpenAI'nın "istenmeyen" yanıtlar olarak nitelendirdiği durumların hala mevcut olduğu ifade ediliyor.
