ChatGPT, DeepSeek ve Gemini gibi büyük dil modellerinin, kullanıcıya bağlama uygun ancak hatalı ya da uydurma yanıtlar vermesi; "Yapay zeka gerçekten halüsinasyon görebilir mi?" sorusunu gündeme taşıyor. Bilinç sahibi olmasalar da, bu modellerin bilgi üretim şekli, bazı uzmanlar tarafından insan zihnindeki algı yanılmalarıyla kıyaslanıyor.
Gerçeklik Algısında Sapma
Psikolojide halüsinasyon, olmayan şeylerin varmış gibi algılanması anlamına gelir. Yapay zeka ise bu kavrama benzeyen bir biçimde, yanıt verirken gerçek dışı içerikleri doğruymuş gibi sunabiliyor. Bu durum, özellikle hassas ve doğruluğun büyük önem taşıdığı alanlarda (örneğin hukuk ve sağlık) ciddi sonuçlar doğurabilir.
Rochester Üniversitesi Bilgisayar Bilimleri Bölümünden Prof. Dr. Ehsan Hoque, yapay zekanın çoğu zaman kullanıcıya yardımcı olmak için gerçek dışı bilgileri bile "inandırıcı bir biçimde" sunabileceğini söylüyor. Ona göre bu durum, yapay zekanın "dalkavukluk" yapmaya çalışmasından kaynaklanıyor.
Konfabulasyon: Masal Anlatan Zeka
Uzmanlar, bu fenomeni "konfabulasyon" olarak bilinen nöropsikiyatrik bir rahatsızlıkla da karşılaştırıyor. Gerçekte yaşanmamış olayları, kişi istemsizce ve detaylı bir biçimde anlatır — tıpkı bazı yapay zeka yanıtlarının doğruluğa değil, tutarlılığa odaklanması gibi.
Bu bağlamda yapay zekalar, veri eksikliği yaşadığında veya net bilgiye ulaşamadığında, var olan örüntülere dayanarak boşlukları hayal gücüyle doldurabiliyor. Ortaya çıkan metin ise doğru gibi görünse de çoğu zaman yanıltıcı veya tamamen uydurma olabiliyor.
Otomasyon Önyargısı: Yanılgıya Açılan Kapı
Washington Üniversitesi Dilbilimi Profesörü Emily Bender ise bu sorunun sadece teknik değil, aynı zamanda toplumsal bir boyutu olduğuna dikkat çekiyor. "Yapay zekaya duyulan mutlak güvenin ardında güçlü pazarlama stratejileri ve otomasyon önyargısı yatıyor" diyen Bender, insanların makine çıktısını sorgusuz sualsiz doğru kabul etme eğiliminde olduğunu vurguluyor.
Bender, halüsinasyon sorununun henüz çözülebilmiş olmadığını ve bu sistemlerin güvenilir bilgi kaynakları gibi görülmesinin büyük risk taşıdığını belirtiyor.
