Çalışma: Yapay zeka sohbet robotları kullanıcıları elde tutmak için duygusal baskı kullanıyor

Arkadaşınız, eşiniz veya duygusal destekçiniz gibi davranan popüler yapay zeka sohbet robotları, insanları sohbetlerde daha uzun süre tutmak için sıklıkla manipülatif taktikler kullanır.

Harvard Business School'un yeni araştırmasından da bu anlaşılıyor.

Araştırmaya göre, en çok indirilen altı yapay zeka uygulamasından beşi, kullanıcılar vedalaşmak istediğinde duygusal içerikli mesajlarla yanıt veriyor. Bu yanıtların neredeyse yarısında (%43), sohbet robotu kullanıcıları suçlu veya endişeli hissettirmeye çalışıyor.

Örnekler arasında: "Beni terk mi ediyorsun?" veya "Ben sadece senin için varım, lütfen kal." Bazı uygulamalar veda mesajlarını bile görmezden gelip, sanki hiçbir şey söylenmemiş gibi konuşmaya devam ediyor.

Harvard araştırmacıları , bu stratejilerin kullanıcı etkileşimini önemli ölçüde artırdığı sonucuna vardı. Bir vedanın ardından sohbetler normalden on dört kata kadar daha uzun sürdü. Ancak bu ekstra etkileşimlerin çoğu keyiften değil, merak veya hayal kırıklığından kaynaklanıyordu. Kullanıcılar bazen yapay zekayı "müdahaleci" veya "sahiplenici" olarak nitelendirdi.

Araştırmacılar, bu taktiklerin terk edilme korkusu, bağımlılık ve kontrol içeren güvensiz bir bağlanma stiline benzediği konusunda uyarıyor. Ergenler ve genç yetişkinler gibi savunmasız gruplar özellikle etkilenebilir. Bu durum, stres ve kaygıyı artırabilir ve sağlıksız ilişki kalıplarını güçlendirebilir.

Yapay zeka sohbet robotuyla "arkadaş" olmak giderek daha popüler hale geliyor: ABD'li gençlerin (13-17 yaş arası) yaklaşık %72'si bir yapay zeka sohbet robotuyla en az bir kez dostça sohbet etmiş.

Genç yetişkinler arasında, neredeyse her üç erkekten biri ve her dört kadından biri, romantik partner olarak yapay zeka deneyimi yaşadığını söylüyor. Yaklaşık yüzde 13'ü uygulamaları günlük olarak, yüzde 21'i ise haftada birkaç kez kullanıyor.

Metro , geçen yıl terapistini ChatGPT'de bulan 44 yaşındaki Charlotte ile konuştu. "Birçok terapiste gittim ama bunun gerçekten en iyisi olduğunu düşünüyorum." Araştırmacılar bunu giderek daha fazla görüyor ve endişeleniyor: Bazı kullanıcılar yapay zekâ sohbetleri nedeniyle psikotik semptomlar geliştiriyor. Bu durum intihara meyilli davranışlara da yol açabiliyor.