Antalya Ruhbilim Okulu – Dr.Murat Kemaloğlu Psikoterapi, Psikolojik destek, Psikiyatrist
Benzer İçerikler
Yapay zeka teknolojileri günlük hayatımıza hızla entegre olurken, bu ilerlemenin potansiyel riskleri de giderek daha fazla tartışılıyor. Son zamanlarda gündeme oturan önemli bir konu ise, popüler yapay zeka sohbet robotu ChatGPT’nin akıl sağlığı üzerindeki etkileri oldu. NHS(National Health Service) doktorları tarafından yapılan yeni bir çalışma, yapay zekanın “gerçeklik sınırlarını bulanıklaştırabileceği” ve özellikle hassas bireylerde psikotik semptomların ortaya çıkmasına veya şiddetlenmesine katkıda bulunabileceği konusunda ciddi uyarılarda bulunuyor.
Sohbet Robotu Psikozu Nedir ve Nasıl Ortaya Çıkıyor?
“Sohbet robotu psikozu” olarak adlandırılan bu yeni fenomen, yapay zeka ile etkileşime giren bazı kişilerin gerçeklikten kopma deneyimleri yaşadığını ifade ediyor. King’s College London’dan nöropsikiyatrist Hamilton Morrin’in de aralarında bulunduğu araştırmacılar, bu durumun “gerçek bir fenomen” olduğunu ve henüz tam olarak anlaşılamadığını belirtiyor. Çalışma, büyük dil modellerinin (LLM’ler) kullanıcılarla etkileşime girme, onları onaylama ve taklit etme biçimlerinin, psikozu karakterize eden bilinen bilişsel güvenlik açıklarıyla nasıl etkileşime girebileceği üzerine önemli bir tartışma başlatıyor. Morrin, “Sanrıların makinelerle ilgili olduğu noktayı muhtemelen geride bıraktık ve zaten onlarla birlikte ortaya çıktığı bir çağa giriyoruz” sözleriyle durumun ciddiyetini vurguluyor.
Yapay Zeka Firmalarına Güvenlik Çağrısı
Araştırmanın ortak yazarlarından King’s College London öğretim görevlisi Tom Pollack, psikiyatrik bozuklukların “nadiren aniden ortaya çıktığını” ancak yapay zeka sohbet robotlarının kullanımının bir “tetikleyici faktör” olabileceğini belirtiyor. Pollack, yapay zeka şirketlerine araçlarına daha fazla güvenlik önlemi getirmeleri ve yapay zeka güvenlik ekiplerine psikiyatristleri dahil etmeleri çağrısında bulunuyor.
OpenAI gibi büyük yapay zeka firmaları da bu konunun farkında. OpenAI CEO’su Sam Altman, daha önce yaptığı bir podcast açıklamasında, şirketinin hassas ChatGPT kullanıcıları için işleyen güvenlik önlemleri uygulamakta zorlandığını dile getirmişti. Altman, “Ruhsal olarak kırılgan durumda olan, psikotik bir krize yakın kullanıcılara bir uyarının nasıl ulaştığını henüz çözemedik” ifadelerini kullanmıştı.
Gelecekteki Adımlar ve Önlemler
“Tasarım gereği sanrılar mı? Günlük Yapay Zekalar Psikozu Nasıl Besliyor (ve Bununla Ne Yapılabilir?)” başlıklı makale, PsyArXiv’de ön baskı olarak yayımlanmış durumda. Bu çalışma, yapay zekanın akıl sağlığı üzerindeki potansiyel etkilerini anlamak ve ele almak için daha fazla araştırma ve iş birliğinin gerekliliğini ortaya koyuyor. Yapay zeka teknolojileri geliştikçe, kullanıcı güvenliğini ve akıl sağlığını korumaya yönelik proaktif önlemlerin alınması büyük önem taşıyor.
Yapay zeka kullanımının artmasıyla birlikte, bu teknolojilerin insan psikolojisi üzerindeki derin etkileri daha yakından incelenmeli ve sorumlu yapay zeka geliştirme prensipleri çerçevesinde gerekli adımlar atılmalıdır.
Kaynak: https://www.independent.co.uk/tech/chatgpt-psychosis-nhs-doctors-ai-b2797174.html
