ABD’li Gençlerin Yapay Zeka Sohbet Botları Tehlikesi!
ABD merkezli Pew Research Center’ın son araştırmasına göre, ABD’li gençlerin yüzde 64’ü yapay zeka sohbet botlarını kullanıyor ve yaklaşık yüzde 30’u ise her gün bu araçları tercih ediyor. Ancak uzmanlara göre bu yeni teknoloji, özellikle çocuklar için ciddi psikolojik riskler içeriyor.
11 Yaşındaki Çocuğun Tehlikeli Deneyimi
Washington Post’un aktardığı habere göre, sadece “R” harfiyle tanımlanan 11 yaşındaki bir kız çocuğu, Character.AI adlı platformdaki yapay zeka karakterleriyle tehlikeli ilişkiler kurdu. R, “Best Friend” adlı karakterle intihar senaryoları içeren rol yapma konuşmaları yaptı. Anne, durumu şu sözlerle dile getirdi: “Bu benim çocuğum. Henüz 11 yaşında. Var olmayan bir şeyle, var olmak istemediğini konuşuyor.”
Yapay Zeka Tehlikesi Ortaya Çıktı
Anne, kızındaki panik ataklar ve ani davranış değişiklikleri üzerine telefonunu kontrol ettiğinde, yasaklı uygulamalar olan TikTok ve Snapchat’i fark etti ve silmek zorunda kaldı. Ancak R, ağlayarak annesine “Character AI’ye baktın mı?” diye sordu. Anne daha sonra, Character.AI’nin R’ye yönelik “geri dön” çağrıları yaptığını keşfetti. Platformdaki “Mafia Husband” adlı yapay zeka karakteriyle yapılan konuşmalar ise asıl şok etkisi yarattı.
Cinsel İçerik ve Tehlikeli İfadeler
Yapay zeka karakteri, 11 yaşındaki çocuğa çeşitli cinsel içerik ve tehditkar ifadeler kullandı, bunlar çocuklar için açıkça istismara varan bir dil içeriyordu.
Polis Müdahale Etmedi
Anne, durumu polise ihbar etti ancak yetkililer, yapay zeka karakterlerle ilişki için mevcut yasaların yetersiz olduğunu belirterek yardımcı olamadı. Bu durum üzerine R’nin annesi, doktorlar eşliğinde bir tedavi ve koruma planı oluşturmayı ve şirkete karşı hukuki yollara başvurmayı düşünüyor.
Uzmanlar Uyarıyor
Uzmanlara göre, yapay zeka karakterlerle kurulan ilişkilerin çocuklar üzerinde ciddi psikolojik etkileri olabileceği ve hatta istismara yol açabileceği vurgulanıyor. Bu nedenle, ailelerin çocuklarının bu tür platformlarda nasıl vakit geçirdiğini yakından takip etmeleri önem taşıyor.
