OpenAI, kullanıcıların ChatGPT'nin yeni ses moduna duygusal olarak bağımlı hale gelmelerinden endişe duyduğunu açıkladı.

Bu yeni özellik, Temmuz sonlarında tanıtıldı ve gerçek zamanlı tepkiler vererek son derece gerçekçi bir ses çıkarıyor. Kesintilere uyum sağlayabiliyor, insan benzeri sesler çıkarabiliyor ve bir konuşmacının ses tonundan duygusal durumunu bile tahmin edebiliyor. Şirketin güvenlik analizi, kullanıcıların bu yapay zeka ile derin duygusal bağlar kurma potansiyelini vurguluyor, bu da insanlarla olan etkileşim ihtiyaçlarını azaltıp sağlıklı ilişkiler üzerinde olumsuz etkiler yapabilir. OpenAI'in raporu, gelişmiş yapay zeka araçlarıyla ilgili daha geniş risklere de dikkat çekiyor.

Teknoloji şirketleri, yaşama, çalışma ve sosyalleşme biçimimizi önemli ölçüde etkileyebilecek yapay zeka araçlarını hızla piyasaya sürüyor, ancak bu yenilikler genellikle tam etkileri anlaşılmadan önce tanıtılıyor. Bu, kullanıcıların yapay zeka sohbet botlarıyla romantik ilişkiler kurması veya onlara aşırı bağımlı hale gelmeleri gibi istenmeyen sonuçlara yol açabilir. Arizona Eyalet Üniversitesi'nden Liesel Sharabi gibi uzmanlar, şirketlerin bu konuları sorumlu bir şekilde ele alma etik sorumluluğuna sahip olduklarını vurguluyor. OpenAI, araçlarına duygusal bağımlılığı araştırma ve yapay zekanin güvenli bir şekilde geliştirilmesini sağlama taahhüdünde bulunuyor. Şirketin bu riskleri ele alma konusundaki şeffaflığı olumlu bir adım olarak görülüyor, ancak bazı uzmanlar, yapay zeka teknolojilerinin gelişen risklerini tam olarak anlamak ve hafifletmek için daha fazlasının yapılması gerektiğini savunuyor.