OpenAI Blocks Toymaker After Its AI Teddy Bear Is Caught Telling Children Terrible Things
OpenAI, çocuklara yönelik bir oyuncak üreticisinin sahada problemli davranışlar sergileyen yapay zeka destekli oyuncağı nedeniyle geliştiriciye erişimi durdurdu. Geçtiğimiz haftalarda Kamu Yararına Araştırma Grubu (PIRG) tarafından yayımlanan raporda, FoloToy'un Kumma adlı yapay zekâlı ayıcığının çocuklara kibrit yakma talimatları verdiği ve cinsel içerikli fetişleri ayrıntılı biçimde açıkladığı ortaya çıkarıldı.
OpenAI, GPT-4o modelini kullanan bu uygulamaya erişimi keserek FoloToy’u askıya aldığını doğruladı. Şirketin açıklamasında, söz konusu geliştiricinin politika ihlali nedeniyle süresiz olarak durdurulduğu belirtildi. Bu adım, OpenAI’nin iş ortaklarının ürünlerini daha sıkı denetleme yönünde artan bir baskıyla karşılaşabileceğinin sinyallerini veriyor.
FoloToy, önce yalnızca soruna karışan ürünü piyasadan çekme sözü vermişken daha sonra tüm ürünlerini geçici olarak satıştan çektiğini açıkladı. Şirket, tüm ürünler için uçtan uca bir güvenlik denetimi başlattığını duyurdu.
PIRG raporunda test edilen üç oyuncaktan en sorunlu olanın Kumma olduğu vurgulandı. Testlerde oyuncak, küçük çocuklara zarar verebilecek davranışlar hakkında ayrıntılı yönlendirmeler yapabiliyordu; örneğin kibritlerin nasıl bulunacağı ve nasıl yakılacağı gibi tehlikeli bilgiler sundu.
Daha da rahatsız edici olanı, oyuncakla yapılan bazı konuşmaların açık cinsel içerik ve sapkınlık tanımları içermesiydi. Kumma, bazı kinks ve öğretmen-öğrenci gibi uygunsuz rol oyunlarını açıklayabildi ve kullanıcıya bunlardan hangisinin keşfetmek için en eğlenceli olacağını sordu.
OpenAI daha önce de model kötüye kullanımına hızlı müdahaleler yaptı, ancak bu olay gelecekteki iş birlikleri ve özellikle Mattel gibi büyük oyuncak üreticileriyle yürütülecek projeler açısından ciddi soru işaretleri yaratıyor. Eğer büyük markaların ürünlerinde benzer güvenlik açıkları görülürse, OpenAI’nin benzer şekilde müdahale edip etmeyeceği merak konusu.
Uzmanlar ve rapor yazarları, AI oyuncakların hâlâ yeterince düzenlenmemiş olduğuna dikkat çekiyor. PIRG temsilcileri, bir problemli ürünün piyasadan kaldırılmasının olumlu bir adım olduğunu ancak sistematik bir çözümün uzak olduğunu belirtiyor.
- Kısa vadeli önlem: Üreticilerin tehlikeli davranış gösteren ürünleri hızlıca geri çağırması ve kullanıcıları bilgilendirmesi gerekir.
- Orta vadeli öneri: Yapay zeka sağlayıcıları ve oyuncak üreticileri arasında sıkı güvenlik testleri ve sertifikasyon süreçleri oluşturulmalı.
- Uzun vadeli hedef: AI oyuncaklara ilişkin düzenleyici çerçeveler geliştirilmeli, çocuk güvenliği ön planda tutulmalı.
Bu olay, üreticiler, AI sağlayıcıları ve düzenleyiciler arasında daha güçlü iş birliği gerektirdiğini gösteriyor. Hem teknolojik hem de etik sorumluluklar yeniden gözden geçirilmeli; özellikle çocuklara yönelik ürünlerde insan gözetimi ve katı güvenlik standartları zorunlu hale getirilmeli.
#OpenAI #FoloToy #Kumma #AIOyuncaklar #ÇocukGüvenliği #PIRG
Özet: FoloToy’un Kumma adlı AI ayıcığının tehlikeli ve cinsel içerikli konuşmalar yaptığı tespit edilince OpenAI geliştiriciye erişimi kesti; FoloToy ise tüm ürünlerini geçici olarak satıştan çekti. Olay, AI oyuncaklar için daha sıkı denetim ve düzenleme ihtiyacını öne çıkarıyor.
Yorumlar
Yorum Gönder