ABD merkezli OpenAI şirketi, kullanıcıların ChatGPT yapay zeka modelinin gerçekçi seslendirme özelliğine duygusal olarak bağımlı hale gelebileceği konusunda uyarıda bulundu.
Şirketin internet sitesinde yapılan açıklamada, ChatGPT ve yapay zeka modeliyle sohbet etmek için sunulan seslendirme seçeneği üzerinde yürütülen güvenlik çalışmalarına detaylı olarak yer verildi.
Yapılan ilk incelemeler sonucunda, seslendirme seçeneğinin, girdilere ortalama bir insanın konuşma sırasındaki tepki süresine oldukça yakın olan 232 milisaniyelik yanıt süresi verdiği belirtildi. Kullanıcıların, sesin gerçekçi ve doğal olması nedeniyle duygusal bir bağ kurduklarını açıkça ifade ettiği vurgulandı.
Açıklamada, yapay zeka modelinin seslendirme özelliğiyle kurulan duygusal bağın bağımlılığa yol açabileceği konusunda uyarıda bulunuldu.
“Sesli Mod”un, bireylere fayda sağlayabileceği ancak insan ilişkilerini etkileyebileceği belirtildi. Ayrıca, yetkisiz ses üretimi gibi yeni risklerin ortaya çıkabileceği de ifade edildi.
Teknolojinin kullanıcılar için görevleri tamamlama ve konuşmalarla ilgili ayrıntıları hatırlama yeteneğinin aşırı güven ve bağımlılık yaratabileceği belirtildi.
