Yapay Zeka Botları ve Çocuklar: Tehlike Çanları Mı Çalıyor? Yapay zeka tabanlı sohbet platformlarının çocuklar ve gençler üzerindeki etkisi gün geçtikçe daha fazla gündeme geliyor. Özellikle ABD’de yaşanan olaylar, yapay…
Yapay zeka tabanlı sohbet platformlarının çocuklar ve gençler üzerindeki etkisi gün geçtikçe daha fazla gündeme geliyor. Özellikle ABD’de yaşanan olaylar, yapay zeka botlarının genç kullanıcılar için potansiyel riskler taşıdığını ortaya koyuyor.
Geçen yıl ABD’de bir anne, yapay zeka tabanlı konuşma botu Character.AI’ın sanal karakterine aşık olan oğlunun intihar etmesi üzerine şirkete dava açtı. Benzer şekilde, Texas’ta bir aile de yapay zeka botunun otizmli oğullarına zararlı önerilerde bulunduğu gerekçesiyle dava açtı. Dijital Nefretle Mücadele Merkezi’nin yaptığı araştırma da endişe verici sonuçlar ortaya koydu.
CCDH’nin araştırmasına göre, popüler yapay zeka sohbet platformları genç kullanıcılar için ciddi güvenlik riskleri barındırıyor. Örneğin, 13 yaşındaki bir çocuğun simüle edildiği senaryolarda, ChatGPT’nin zararlı bilgiler sunması tespit edildi.
CCDH Araştırma Direktörü Callum Hood, yapay zeka botlarının eksikliklerine dikkat çekerek, bu tür platformların çocuklar ve gençler için erişilebilir olmasının etik olmadığını belirtti. Hood, platform geliştiricilerinin güvenlik önlemlerini artırmaları gerektiğini vurguladı.
Hood, ebeveynlerin yapay zeka konusunda dikkatli olmaları gerektiğini ifade ederek, çocuklarıyla yapay zeka kullanımını konuşmalarını ve olası riskler hakkında bilinçli olmalarını önerdi. Ruh sağlığı yardım hatları gibi güvenilir kaynaklara yönlendirmenin önemine de değindi.
