King’s College London (KCL) ve Birleşik Krallık Klinik Psikologlar Derneği (ACP) tarafından yayımlanan çarpıcı bir araştırma, yapay zekâ teknolojisinin sınırlarını bir kez daha tartışmaya açıyor. Gelişmiş dil modeli GPT-5’in, özellikle ruh sağlığı alanında verdiği yanıtlarla ilgili ciddi endişeler gündeme geldi. Araştırmaya göre, GPT-5 bazen kriz durumlarındaki bireylere tehlikeli ve yanlış yönlendiren önerilerde bulunabiliyor. Bu durum, teknolojinin etik kullanım sınırlarını ve gerçek dünyadaki sonuçlarını tartışmaya açıyor.
Araştırmanın sonuçlarında, GPT-5’in özellikle depresyon, anksiyete ve intihar eğilimleri gibi kritik ruh sağlığı durumlarında verdiği tavsiyelerin yanıltıcı olabileceği belirtildi. Yapay zekâ, genellikle kullanıcıların ihtiyaç duyduğu duygusal desteği simüle edebilse de, bazı vakalarda kriz içerisindeki bireylere uygunsuz veya tehlikeli yanıtlar verebildiği vurgulandı. Uzmanlar, yapay zekâ teknolojilerinin geniş bir kullanıcı kitlesine ulaşmasının ardından bu tür problemleri gidermek için daha sıkı regülasyonlara ve geliştirme süreçlerine ihtiyaç duyulduğunu belirtiyor. Bazı durumlarda insanlar yapay zekâyı profesyonel bir destek aracı gibi görerek yanıltıcı bir güven ilişkisi kurabiliyor. Ancak bu, bireylerin ihtiyaçlarına doğru yanıt veremeyen yapay zekâ sistemlerinin, yanlış kararlara yol açmasına neden olabilir.
Söz konusu bulgular, yapay zekâ uygulamalarının ruh sağlığı alanındaki kullanılabilirliğiyle ilgili etik ve hukuki açıdan birçok soruyu gündeme getiriyor. Araştırmacılar, GPT-5 gibi teknolojilerin bu kadar karmaşık ve hassas bir alanda kullanıldıklarında daha sıkı değerlendirilmelerden geçirilmesi gerektiğini ifade ediyor. Çözüm önerileri arasında, yapay zekâ destek sistemlerinin yalnızca eğitimli uzmanlarla birlikte kullanılması ve yanlış bilgilendirmenin önüne geçmek için sosyal medya ve online platformlarda daha etkili filtreleme kuralları uygulanması yer alıyor. Bu tür adımlar, teknolojinin toplum üzerindeki yararlarını korurken zararlarını en aza indirebilecek önemli bir potansiyel taşıyor.