AI Is Failing at the Most Hilarious Task Imaginable
Yapay zeka hakkındaki olumlu yazıların çokluğu arasında, henüz nelerin yapılamadığını göstermek daha nadir. İsviçre, Hollanda ve ABD'den bir araştırma ekibi, büyük dil modellerinin (LLM) sosyal medyada tartışma çıkarma ve kışkırtma konusundaki yetersizliklerini inceledi. Çalışma, AI tarafından oluşturulan paylaşımların insan yazılarıyla karşılaştırıldığında belirgin farklılıklar gösterdiğini ortaya koyuyor.
Araştırmacılar, X (eski Twitter), Reddit ve Bluesky gibi platformlarda LLM'ler tarafından üretilen gönderilere uyguladıkları "hesaplamalı Turing testi" ile AI içeriklerinin %70-80 oranında kolaylıkla ayırt edilebildiğini bildirdi. Bu oran, rastgele tahminin çok üzerinde olup, AI tarafından üretilen "shitpost"ların tespitinin düşündüğümüzden daha kolay olduğunu gösteriyor.
Çalışmanın öne çıkan bulguları:
- AI çıktıları duygusal ton ve ifade bakımından insan metinlerinden belirgin şekilde ayrılıyor.
- Modellerin boyutu veya karmaşıklığı daha gerçekçi öfke ya da toksisite üretme ile doğrudan ilişkilendirilmiyor; büyük modeller her zaman daha inandırıcı değil.
- Basit insan değerlendirmesi bile yapay gönderileri yakalamada etkili olabiliyor.
Araştırmacılar, LLM'lerin insanın "anlık öfke" derinliğini ve duygusal ısısını taklit etmede başarısız kaldığını belirtiyor. Gerçek bir çevrimiçi kavga veya alevli tartışma sırasında insanların gösterdiği toksisite ve duygusal dalgalanmalar, yapay zekânın ürettiği metinlerde genellikle eksik veya suni kalıyor.
İlginç bir şekilde, araştırma model ölçeğinin otantik insan iletişimine dönüşmediğini gösteriyor; örneğin bazı büyük modeller, daha küçük modellerle aynı veya daha düşük gerçekçilik seviyesinde performans sergiliyor. Bu durum, ölçeklendirme ile insan benzeri üslupların otomatik olarak elde edilemeyeceğini vurguluyor.
Bulgunun ironik yanı, AI'nin şu anda sosyal medya spam'i ve bot temelli etkileşimlerde sıkça kullanılıyor olması. Reklam amaçlı bot orduları ve spamming hizmetleri, platformlardaki etkileşimi yapay biçimde artırmak için yaygınlaşıyor; ancak bu içerikler hâlâ insan duygusunun inceliklerini tam olarak kopyalayamıyor.
Pratik sonuçlar
- Sosyal platformlar için otomatik tespit yöntemleri, LLM tabanlı içeriklerin yayılmasını engellemede etkili olabilir.
- Doğrulama ve kullanıcı eğitimi, sahte etkileşimlerle mücadelede kritik rol oynar.
- Model geliştirmelerinde duygusal ifade ve bağlamı doğru yakalama üzerine odaklanmak gerekiyor.
#YapayZeka #AI #SosyalMedya #LLM #Botlar #Teknoloji
Özet: Araştırma, büyük dil modellerinin sosyal medyada kışkırtıcı, duygusal açıdan inandırıcı tartışmalar üretmede başarısız olduğunu; bu nedenle AI tarafından üretilen içeriklerin hâlâ insan metinlerinden ayırt edilebildiğini gösteriyor. Bu bulgu, otomatik tespit ve platform güvenliği için umut verici olsa da, spam ve bot kullanımının devam edeceği ihtimaline karşı uyanık olunması gerektiğini hatırlatıyor.
Yorumlar
Yorum Gönder