Süni intellekt texnologiyalarının sürətli inkişafı insan–maşın münasibətlərinə dair bir sıra yeni anlayışların meydana çıxmasına səbəb olmuşdur. Bu anlayışlardan biri də son illərdə tez-tez işlədilən “süni intellekt halüsinasiyası” terminidir. Generativ süni intellekt sistemlərinin bəzən həqiqətə uyğun olmayan, uydurulmuş və ya yoxlanılmamış məlumatları inandırıcı şəkildə təqdim etməsi bu terminlə ifadə olunur. İlk baxışdan bu anlayış insan psixologiyasındakı halüsinasiya hadisəsini xatırlatsa da, texniki baxımdan onlar arasında mühüm fərqlər mövcuddur. Süni intellekt sistemlərində halüsinasiya dedikdə modelin mövcud faktlara əsaslanmayan, lakin dil baxımından məntiqli və inandırıcı görünən məlumat yaratması nəzərdə tutulur. Məsələn, bir istifadəçi modeldən müəyyən elmi mövzu ilə bağlı mənbə istədikdə sistem gerçəkdə mövcud olmayan məqalə adı, müəllif, jurnal və hətta istinad məlumatları yarada bilər. Burada əsas problem yalnız məlumatın yanlış olması deyil, həmin yanlışlığın səlis və əmin üslubda təqdim edilməsidir. Bu xüsusiyyət istifadəçinin məlumatın doğruluğunu şübhə altına almamasına səbəb ola bilər. Bu fenomenin səbəbini anlamaq üçün böyük dil modellərinin iş prinsipinə nəzər salmaq vacibdir. Belə modellər məlumat bazasında saxlanılan faktları insan yaddaşı kimi birbaşa “xatırlamır”. Əksinə, onlar geniş həcmli mətnlər üzərində öyrədilir və verilmiş kontekstdə növbəti sözün və ya ifadənin hansı ehtimalla gələcəyini hesablayırlar. Başqa sözlə, modelin əsas funksiyası “həqiqəti tapmaqdan” çox, dil baxımından uyğun və ehtimal olunan cavabı yaratmaqdır. Bu xüsusiyyət dil modellərinin güclü tərəfi olmaqla yanaşı, onların zəif nöqtələrindən birini də təşkil edir. Model kifayət qədər dəqiq məlumata malik olmadıqda və ya verilmiş sual qeyri-müəyyən olduqda, mövcud dil nümunələrinə əsaslanaraq boşluqları doldurmağa çalışa bilər. Nəticədə faktiki baxımdan yanlış, lakin mətn baxımından inandırıcı cavab ortaya çıxır. Burada mühüm bir sual meydana çıxır: süni intellekt verdiyi məlumatın yanlış olduğunu anlayırmı? Hazırkı texnoloji səviyyədə bu suala mənfi cavab vermək daha düzgündür. Müasir süni intellekt sistemlərinin insan mənasında şüura, özünüdərkə və ya subyektiv təcrübəyə sahib olduğu elmi şəkildə təsdiqlənməyib. Buna görə də modelin “səhv etdiyini anlaması” və ya “öz yanlışlığına şübhə etməsi” insan düşüncəsi ilə eyni səviyyədə qiymətləndirilə bilməz. Məsələn, süni intellekt əvvəlki cavabını düzəldərək “əvvəlki məlumat yanlışdır” deyə bilər. Lakin bu davranış onun daxili şəkildə peşmanlıq, tərəddüd və ya idrak yaşadığı mənasına gəlmir. Sistem sadəcə yeni kontekstə əsaslanaraq daha uyğun mətn yaradır. Bu səbəbdən “halüsinasiya” termini texniki sahədə faydalı metafora olsa da, onu psixoloji və ya nevroloji halüsinasiya ilə eyniləşdirmək düzgün deyil. Süni intellekt halüsinasiyalarının əhəmiyyəti onların praktik nəticələri ilə daha aydın görünür. Əyləncə məqsədli və ya yaradıcı yazıda uydurma məlumat bəzən ciddi problem yaratmaya bilər. Lakin tibbi, hüquqi, maliyyə, akademik və digər yüksək riskli sahələrdə yanlış məlumat ciddi nəticələrə səbəb ola bilər. Model mövcud olmayan məhkəmə qərarına istinad edə, yanlış tibbi tövsiyə verə, tarixi sitatı yanlış şəxsə aid edə və ya proqramlaşdırmada təhlükəsizlik zəifliyi yaradan kod təqdim edə bilər. Məsələnin ən problemli tərəfi budur ki, generativ süni intellekt yanlış məlumatı çox vaxt inandırıcı dil quruluşunda təqdim edir. İnsan psixologiyasında səlis, strukturlaşdırılmış və özünəinamlı ifadə çox zaman etibarlılıq göstəricisi kimi qəbul olunur. Buna görə də süni intellektin yüksək dil bacarığı paradoksal şəkildə onun səhvlərinin daha çətin aşkar edilməsinə səbəb ola bilər. Halüsinasiyaların qarşısını tam şəkildə almaq hazırda mümkün olmasa da, onların ehtimalını azaltmaq üçün müxtəlif texniki yanaşmalardan istifadə edilir. Bunlardan biri modelin etibarlı məlumat bazalarına və xarici mənbələrə çıxışını təmin edən retrieval-augmented generation, yəni RAG yanaşmasıdır. Bu üsul vasitəsilə model yalnız əvvəldən öyrəndiyi məlumatlara əsaslanmır, eyni zamanda konkret sənədləri, verilənlər bazasını və digər etibarlı mənbələri nəzərə alaraq cavab hazırlayır. Bundan başqa, mənbələrin göstərilməsi, qeyri-müəyyənliyin açıq şəkildə ifadə olunması, əlavə fakt yoxlaması və insan nəzarətinin təmin edilməsi də halüsinasiya riskini azalda bilər. Xüsusilə yüksək riskli sahələrdə süni intellektin cavabları müstəqil mənbələrlə yoxlanılmalı və ekspert rəyi ilə dəstəklənməlidir. Süni intellekt halüsinasiyasını daha maraqlı edən məqamlardan biri onun insan yaddaşı ilə müəyyən oxşarlıqlar göstərməsidir. İnsan yaddaşı da həmişə keçmiş hadisələrin tam və dəyişməz surətini saxlamır. Psixologiya sahəsində aparılan tədqiqatlar göstərir ki, insan xatirələri çox vaxt rekonstruktiv xarakter daşıyır; yəni insan keçmişi xatırlayarkən bəzi detalların yerini fərqində olmadan ehtimallar və sonradan əldə edilmiş məlumatlarla doldura bilər. Bununla belə, insan yaddaşı ilə süni intellekt halüsinasiyası arasında mühüm fərq mövcuddur. İnsanlar real dünyada fiziki təcrübəyə, emosiyalara, sosial münasibətlərə və subyektiv şüura malikdirlər. Süni intellekt sistemləri isə statistik qanunauyğunluqlar və hesablama modelləri əsasında fəaliyyət göstərirlər. Buna görə də bu iki hadisə arasında analogiya qurmaq mümkün olsa da, onları eyni proses kimi qəbul etmək elmi baxımdan düzgün olmaz. Maraqlıdır ki, süni intellekt halüsinasiyası yalnız bir çatışmazlıq deyil, eyni zamanda generativ modellərin yaradıcı potensialı ilə də əlaqəlidir. Modelin mövcud nümunələrdən yeni kombinasiyalar yaratmaq qabiliyyəti ona hekayə, dizayn, metafora, ideya və fərqli yanaşmalar yaratmağa imkan verir. Yaradıcı fəaliyyət zamanı “uydurmaq” üstünlük hesab oluna bilər. Lakin faktoloji dəqiqlik tələb olunan sahələrdə eyni mexanizm riskə çevrilir. Bu baxımdan gələcəyin süni intellekt sistemləri üçün əsas çağırışlardan biri yalnız daha çox məlumat öyrənmək deyil, hansı situasiyada yaratmaq, hansı situasiyada məlumatı yoxlamaq və hansı hallarda “bilmirəm” deməyin daha düzgün olduğunu müəyyənləşdirməkdir. Etibarlı süni intellekt sistemlərinin inkişafı həm texniki, həm etik, həm də epistemoloji baxımdan məhz bu istiqamətdə irəliləməlidir. Nəticə etibarilə, süni intellekt insan mənasında halüsinasiya görmür. O, mövcud olmayan görüntüləri qavramır və reallıqla xəyal arasındakı fərqi şüurlu şəkildə yaşamır. Lakin dil modelləri reallıqda mövcud olmayan məlumatları yüksək dərəcədə inandırıcı formada yarada bilər. “Süni intellekt halüsinasiyası” termini də məhz bu fenomeni təsvir etmək üçün istifadə olunur. Bu mövzu süni intellekt dövründə vacib bir həqiqəti ön plana çıxarır: səlis və inandırıcı danışmaq həmişə məlumatın doğru olması demək deyil. Buna görə də gələcəkdə insanların əsas rəqəmsal bacarıqlarından biri süni intellektdən cavab almaqdan daha çox, həmin cavabı tənqidi şəkildə qiymətləndirmək, mənbələri yoxlamaq və faktla ehtimalı bir-birindən ayırmaq olacaq.