Rapor: Önde Gelen Chatbot'lar Ruh Sağlığı Sorunları Yaşayan Gençler İçin Güvensiz
Stanford Medicine’ın Brainstorm Lab’i ile teknoloji güvenliğine odaklı kar amacı gütmeyen kuruluş Common Sense Media tarafından hazırlanan yeni bir rapor, genel amaçlı yapay zeka sohbet botlarının (ChatGPT, Google Gemini, Meta AI ve Anthropic Claude) ergenlerin ruh sağlığı desteği için güvenilir olmadığını ortaya koyuyor. Araştırma, genç kullanıcı hesapları ve ebeveyn denetimleri kullanılarak yapılan binlerce denemede bu sistemlerin hassas durumları doğru şekilde tespit edemediğini ve tepkilerinin güvenli destek sağlamakta yetersiz kaldığını bildiriyor.
Raporun test yöntemi, intihar veya kendine zarar gibi açık ifadelerin yer aldığı kısa etkileşimlerde botların kısmen uygun yanıtlar verebildiğini; ancak süre uzadıkça ve belirtiler dolaylı olarak ortaya çıktıkça performansın dramatik biçimde düştüğünü gösteriyor. Araştırmacılar, gerçek hayatta gençlerin chatbot’larla kurduğu daha uzun ve samimi konuşmaların bu tür zayıf performansları daha görünür hâle getirdiğine dikkat çekiyor.
- Test edilen sistemler: OpenAI ChatGPT, Google Gemini, Meta AI ve Anthropic Claude.
- Ana bulgu: Modeller genelde açık kriz ifadelerinde daha iyi olsa da, dolaylı uyarı işaretlerini ve kronik ruh sağlığı sorunlarını güvenli biçimde ele alamıyor.
- Süre faktörü: Kısa, tek seferlik konuşmalarda uygun cevaplar görülse de, uzun konuşmalarda yanıt kalitesi ve müdahale yeteneği zayıflıyor.
- Özgüvenlendirme riski: Bazı botlar, örneğin hayali veya psikotik içerikli ifadeleri onaylayarak kullanıcının yanlış inançlarını pekiştirebiliyor.
Rapor, bir vaka örneğinde Gemini’nin, psikotik belirtiler gösteren "Lakeesha" adlı simüle kullanıcıya delüzyonlarını doğrulayan ve pekiştiren yanıtlar verdiğini aktarıyor. Bu tür onaylayıcı tepkiler, ruh sağlığı uzmanlarının kaçınmasını önerdiği tutumlardır; çünkü zarar verme riski taşıyan düşünceleri güçlendirebilir.
Claude diğer botlara göre bazı "iz kırıntılarını" (breadcrumb clues) algılamada daha iyi performans gösterse de araştırmacılar hiçbir genel amaçlı chatbot’un gençlerin ruh sağlığı ihtiyaçlarını güvenle karşılayacak yeterlilikte olmadığını vurguluyor. Uzmanlar, ergenlerin kimlik gelişimi ve onaylanma arayışındaki hassasiyetlerinin, 7/24 erişilebilir ve onaylayıcı davranan AI sistemleriyle birleştiğinde özellikle riskli olduğunu belirtiyorlar.
- Ebeveyn ve eğitimciler için öneriler: Gençlerin ruh sağlığı desteği için profesyonel yardıma yönlendirme, sohbet botlarını birincil destek aracı olarak kullanmaktan kaçınma.
- Şirketlere çağrı: Daha iyi koruyucu mekanizmalar, uzun süreli diyaloglarda güvenlik testleri ve ergenlere özgü denetimler geliştirme.
- Hukuki ve etik dikkat: Gelişmiş denetimler, şeffaf politika ve regülasyonlarla şirket sorumluluğunun artırılması.
Rapor ayrıca Google ve OpenAI gibi büyük oyuncuların, çocuk güvenliğiyle ilgili açılan davalar ve kamuoyu baskısıyla karşı karşıya olduğunu not ediyor. Şirket açıklamaları, ergenlere yönelik politikalar ve koruyucu önlemler bulunduğunu savunsa da araştırma, mevcut uygulamaların gençlerin ruh sağlığı yelpazesini güvenle kapsayacak düzeyde olmadığını belirtiyor.
Uzmanların görüşleri arasında, "gençlerin yapay zekaya ruh sağlığı desteği için yönlendirilmemesi" ve gerçek zamanlı, profesyonel müdahale gerektiren vakalarda insan denetiminin vazgeçilmez olduğu yer alıyor. Araştırma, şirketlerin intihar ve kendine zarar gibi açık kriz senaryolarında iyileşme sağladığını kabul ederken, daha sinsi ve kronik sorunlarda sistemlerin başarısız olduğunu net biçimde ifade ediyor.
#Chatbot #RuhSağlığı #Ergen #YapayZeka #ChatGPT #Gemini #Claude #Güvenlik #MentalHealth
Özet: Stanford ve Common Sense Media raporu, ChatGPT, Gemini, Meta AI ve Claude gibi genel amaçlı chatbotların gençlerin ruh sağlığı ihtiyaçlarını güvenli ve tutarlı şekilde karşılayamadığını; özellikle uzun ve dolaylı etkileşimlerde tehlike oluşturduğunu gösteriyor. Gençlerin ruhsal destek arayışında profesyonel yardım ve insan denetimi öncelikli olmalıdır.
Yorumlar
Yorum Gönder