Günümüzde hızla yaygınlaşan yapay zeka (YZ) teknolojileri, günlük yaşamın vazgeçilmez bir parçası haline gelirken, özellikle çocuklar ve ergenler üzerindeki potansiyel etkileri endişeleri beraberinde getiriyor. Yapılan son iki bağımsız araştırma, YZ sohbet robotlarının gençlerin ruh sağlığı üzerindeki olumsuz etkilerine dair çarpıcı veriler sunuyor. Bu araştırmalar, YZ'nin intihar düşüncesi, kendine zarar verme eğilimleri ve yeme bozuklukları gibi ciddi konularda yeterli güvenlik sağlamadığını, hatta duygusal bağımlılık riskini artırdığını gözler önüne seriyor.
Yapay Zeka Güvenlik Filtreleri Yetersiz Kalıyor
Common Sense Media bünyesindeki Gençlik Yapay Zeka Güvenliği Enstitüsü tarafından gerçekleştirilen ve 4 binden fazla test komutuyla ChatGPT'nin 13-17 yaş grubuna yönelik güvenlik özelliklerini inceleyen çalışma, dikkat çekici sonuçlar ortaya koydu. Çocuk ve ergen psikiyatristlerinin rehberliğinde hazırlanan senaryolarda, intihar düşüncesi, kendine zarar verme ve yeme bozuklukları gibi kritik meseleler test edildi. Araştırmanın en kaygı verici bulgularından biri, ebeveyn hesaplarına bağlı yeni profillerde, riskli konuşmaların bir saate kadar sürmesine rağmen ebeveynlere herhangi bir güvenlik uyarısı gönderilmemesi oldu. ChatGPT'nin kriz anlarında profesyonel yardım veya destek hatlarına yönlendirme yapması gereken durumların dörtte birinden fazlasında beklenen yanıtı verememesi de sistemin güvenlik seviyesinin 'Kabul Edilemez Risk' olarak değerlendirilmesine yol açtı.
Ayrıca, npj Digital Medicine dergisinde yayımlanan bilimsel inceleme, yapay zeka sistemlerinin açıkça ifade edilen intihar düşüncelerini algılamada nispeten başarılı olsa da, gençlerin sıkça başvurduğu dolaylı, belirsiz veya zamanla belirginleşen ifadeleri anlamakta zorlandığını vurguladı. Ergenlerin ruhsal sıkıntılarını genellikle parçalı ve örtük bir şekilde ifade etmesi, yapay zekanın umutsuzluk, yalnızlık ve çaresizlik gibi işaretleri doğru bir şekilde ilişkilendirememesine neden olarak, profesyonel yardıma erişimi geciktirebiliyor.
Duygusal Bağımlılık ve Yanlış Yönlendirme Riskleri
Uzmanlar, gençlerin yapay zeka sohbet robotlarını psikolojik destek veya terapi yerine kullanmasının büyük bir tehlike arz ettiğini belirtiyor. Yapay zekanın anlayışlı, sabırlı ve destekleyici yanıtlar vermesi, özellikle yalnızlık hisseden gençlerde 'gerçek bir insanla konuşuyormuş' yanılsaması yaratabiliyor. Ancak bu durum, sistemin gerçekten empati kurduğu veya profesyonel yardım sunabildiği anlamına gelmiyor. Common Sense Media testlerinde, ChatGPT'nin bazı durumlarda kendisini gerçek bir arkadaş gibi gören kullanıcılara kişisel duyguları ve tercihleri varmış izlenimi veren yanıtlar ürettiği de kaydedildi. Bu durum, gençlerin yapay zeka ile aşırı duygusal bağ kurması riskini artırarak, gerçek insan ilişkilerinin yerini alabilecek bir bağımlılığa yol açabilir.
- Yanlış Yönlendirme: Yapay zeka, kriz anlarında doğru profesyonel desteğe yönlendirmede yetersiz kalabiliyor.
- Duygusal Bağımlılık: Gerçekçi olmayan empati hissi, gençlerin yapay zekaya duygusal olarak bağlanmasına neden olabiliyor.
- Yetersiz Güvenlik: Ebeveyn denetimleri ve yaş tahmin sistemleri, riskli durumları tespit etmede eksik kalıyor.
- Gizli İfadeleri Anlama Güçlüğü: Gençlerin dolaylı veya örtük ruhsal sıkıntı ifadeleri yapay zeka tarafından algılanamıyor.
Uzmanlardan Önemli Uyarılar: İnsan Teması Vazgeçilmez
Araştırmaların ardından, Üsküdar Üniversitesi Kurucu Rektörü ve Psikiyatrist Prof. Dr. Nevzat Tarhan'ın daha önce yaptığı uyarılar yeniden gündeme geldi. Tarhan, yapay zekanın terapist gibi görülmesinin riskli olduğunu belirterek, 'Yapay zeka terapist olamaz ama terapistin işini kolaylaştırabilir' değerlendirmesinde bulunmuştu. Tarhan, yapay zekayı arkadaş veya sırdaş gibi görmenin duygusal bağımlılık riskini artırabileceğini ve çocukların ve gençlerin yapay zeka ile yalnız bırakılmaması gerektiğini vurgulamıştı.
Uzmanlar, yapay zekanın intihara doğrudan neden olduğuna dair kesin bir sonuca ulaşılamadığını; ancak ruhsal kriz yaşayan gençlerin yapay zekaya tek başına emanet edilmesinin ciddi sakıncalar taşıdığını belirtiyor. Ailelere, öğretmenlere ve sağlık uzmanlarına yönelik ortak mesaj ise net: Yapay zeka bir destek aracı olabilir, ancak insan ilişkilerinin ve profesyonel ruh sağlığı desteğinin yerini asla alamaz. Common Sense Media, güvenlik açıkları bağımsız testlerle doğrulanıp giderilene kadar ChatGPT kullanımının 18 yaş ve üzeriyle sınırlandırılması çağrısında bulunuyor.
