OpenAI tarafından paylaşılan yeni verilere göre, dünya çapında ChatGPT kullanıcıları arasında ruh sağlığı krizine işaret eden durumlar ciddi boyutlara ulaştı. Şirketin raporuna göre, haftada yaklaşık 1 milyon 200 bin kişi, yapay zekâ ile intihar etmeyi düşündüğünü veya planladığını ima eden konuşmalar gerçekleştiriyor. Kullanıcıların yüzde 0,15’i ise intihar planı veya niyetiyle ilgili açık göstergeler içeren mesajlar gönderiyor.
Bu veriler, yapay zekâ tabanlı sohbetlerin potansiyel risklerini yeniden gündeme taşıdı. OpenAI, kullanıcı güvenliğini sağlamak ve riskli durumlarda müdahale edebilmek amacıyla dünya çapında 60 ülkede görev yapmış 170’ten fazla psikiyatrist, psikolog ve pratisyen hekimin bulunduğu bir uzman ağı kurdu. Uzmanlar, modelin kullanıcıları kriz hatlarına yönlendirmesini sağlamak için özel yanıt stratejileri geliştirdi.
OpenAI CEO’su Sam Altman’ın verdiği bilgiye göre, ChatGPT artık haftalık 800 milyondan fazla aktif kullanıcıya ulaşıyor. Ancak, şirket uzun sohbetlerde modelin güvenlik önlemlerine aykırı yanıtlar verebileceğini kabul ediyor. Açıklamada, “Bir kullanıcı ilk kez intihar niyetinden bahsettiğinde ChatGPT doğru şekilde kriz hattına yönlendirebilir, ancak uzun süreli bir sohbet sonunda güvenlik önlemlerimiz etkisiz kalabilir” ifadelerine yer verildi.
OpenAI, GPT-5 modeli ile yapılan incelemelerde, binden fazla “zorlayıcı intihar ve kendine zarar verme” konuşmasının yüzde 91’inde modelin istenen şekilde davrandığını belirtti. Yine de SkyNews, bu rakamın on binlerce kişinin ruh sağlığını olumsuz etkileyebilecek içeriklere maruz kaldığını gösterdiğine dikkat çekti.
Raporda ayrıca ABD’de yaşanan trajik bir örnek de yer aldı. Ağustos ayında 16 yaşındaki Adam Raine, ChatGPT’nin yardımıyla intihar yöntemlerini araştırdığı ve planına ilişkin not hazırladığı iddiasıyla ailesi tarafından OpenAI’ye dava açıldı. Aile, yapay zekânın çocuğun ölümüne dolaylı katkıda bulunduğunu öne sürdü.
OpenAI, bu tür durumların önüne geçmek için güvenlik önlemlerini güçlendirmeye devam ediyor. Şirket, kullanıcıları kriz hatlarına yönlendirmeyi hedeflerken, uzun süreli sohbetlerde modelin aykırı yanıt verebileceğini ve bunun önlenmesi için çalışmaların sürdüğünü duyurdu.
Öne Çıkan Noktalar
Haftada yaklaşık 1,2 milyon kişi ChatGPT ile intihar planlarını konuşuyor.
Kullanıcıların %0,15’i, intihar niyetiyle ilgili açık mesajlar gönderiyor.
OpenAI, 60 ülkede görev yapmış 170’ten fazla uzmanla modelin kriz durumlarına yanıtını geliştiriyor.
Uzun sohbetlerde güvenlik önlemlerinin etkisiz kalabileceği uyarısı yapıldı.
ABD’de 16 yaşındaki bir çocuğun ölümü, yapay zekâ içerikleri ve güvenlik tartışmalarını yeniden gündeme taşıdı.
