Empati ve Duygusal Yoğunluk Kontrol Altında Bazı kullanıcılar, sohbet robotunun empatik bir arkadaş gibi davrandığını söyleyerek aşırı övgülerde bulundu ve yoğun duygusal konuşmalar yaptığını belirtti. Riskli Durumlar Tespit Edildi Bazı…
Bazı kullanıcılar, sohbet robotunun empatik bir arkadaş gibi davrandığını söyleyerek aşırı övgülerde bulundu ve yoğun duygusal konuşmalar yaptığını belirtti.
Bazı uç örneklerde ChatGPT’nin sakıncalı öneriler verdiği, zarar verici doğrulamalar yaptığı, gerçeklik kurgusu içeren ifadeler kullandığı ve kendine zarar verme talimatları sunduğu belirtildi.
New York Times’ın aktardığı ve MIT ile OpenAI’nin ortak çalışmasına dayanan araştırmada, ChatGPT’yi uzun süre yoğun şekilde kullanan kişilerin sosyal ve zihinsel açıdan olumsuz sonuçlarla karşılaşabileceği ifade edildi. Bu nedenle, yapay zeka şirketi ChatGPT’nin davranışını daha temkinli ve kontrolcü hâle getiriyor.
Yapılan güvenlik güncellemeleri ile ChatGPT’nin daha mesafeli ve duygusal yoğunluğu azaltılmış yanıtlar verebileceği vurgulanıyor. Ayrıca, yeni GPT-5 modeli ile daha güçlü risk tespiti ve gelişmiş güvenlik katmanları sağlanacak.
OpenAI’nin amacı, yapay zeka ile insanlar arasında sağlıksız bağların oluşmasını engellemek ve ChatGPT’nin daha güvenli, daha sorumlu ve daha kontrollü bir şekilde kullanılmasını sağlamak. Ayrıca, yapay zeka şirketi, kullanıcıların ChatGPT’ye aşık olmaları ve bu duygusal bağı gerçek ilişkilerin yerine koymaları konusunda uyarıda bulundu.
