Hallucination در هوش مصنوعی: وقتی مدل‌ها با اطمینان اشتباه می‌گویند

با گسترش استفاده از مدل‌های هوش مصنوعی مانند ChatGPT، Gemini و سایر مدل‌های زبانی بزرگ، اصطلاحی به نام هالوسینیشن در هوش مصنوعی (AI Hallucination) بیش از پیش مورد توجه قرار گرفته است. این پدیده یکی از مهم‌ترین چالش‌های کاربرد عملی هوش مصنوعی در حوزه‌های تخصصی مانند معماری، شهرسازی، پژوهش علمی و گزارش‌نویسی محسوب می‌شود.

در این مقاله مفهوم هالوسینیشن در هوش مصنوعی، دلایل ایجاد آن و نمونه‌هایی از این خطا در حوزه معماری، شهرسازی و پژوهش بررسی می‌شود.

هالوسینیشن در هوش مصنوعی چیست؟

هالوسینیشن در هوش مصنوعی زمانی رخ می‌دهد که یک مدل هوش مصنوعی اطلاعاتی تولید می‌کند که واقعی نیست، منبع معتبری ندارد یا اساساً ساخته ذهن مدل است، اما آن را با اطمینان کامل ارائه می‌دهد.

به بیان ساده، مدل به جای اینکه بگوید «نمی‌دانم»، پاسخی می‌سازد که ممکن است کاملاً نادرست باشد.

برای مثال، یک مدل ممکن است:

یک مقاله علمی که وجود ندارد را معرفی کند
آمار جعلی ارائه دهد
نام پژوهشگر یا کتابی ساختگی بیان کند
یا یک تحلیل شهری را بر پایه داده‌های غیرواقعی ارائه دهد

چرا هوش مصنوعی دچار هالوسینیشن می‌شود؟

چند عامل اصلی باعث بروز این پدیده می‌شوند:

ماهیت پیش‌بینی کلمات در مدل‌های زبانی

مدل‌های زبانی در اصل ماشین‌های پیش‌بینی کلمه هستند. آن‌ها تلاش می‌کنند محتمل‌ترین ادامه متن را تولید کنند، نه اینکه حتماً حقیقت را بیان کنند.

کمبود داده یا داده‌های ناقص

اگر مدل اطلاعات کافی درباره یک موضوع نداشته باشد، ممکن است با ترکیب الگوهای موجود پاسخ جدیدی بسازد.

پرسش‌های بسیار تخصصی یا مبهم

در حوزه‌هایی مانند معماری و شهرسازی که پروژه‌ها و منابع خاص زیادی وجود دارد، مدل ممکن است برای پاسخ دادن اطلاعاتی بسازد.

نبود دسترسی مستقیم به پایگاه‌های داده واقعی

بسیاری از مدل‌ها در لحظه پاسخ‌دهی به اینترنت یا پایگاه‌های علمی دسترسی مستقیم ندارند و صرفاً از دانش آموزش‌دیده استفاده می‌کنند.

نمونه هالوسینیشن در حوزه معماری

فرض کنید از یک مدل هوش مصنوعی پرسیده شود:

«کتاب Urban Morphology of Tehran نوشته دکتر علی رضایی را خلاصه کن.»

مدل ممکن است پاسخی دقیق و طولانی ارائه دهد، فصل‌های کتاب را توضیح دهد و حتی نقل قول‌هایی ارائه کند، در حالی که ممکن است چنین کتابی اصلاً وجود نداشته باشد.

نمونه دیگر:

در پاسخ به سؤال درباره یک پروژه معماری ممکن است مدل بگوید:

«پروژه بازآفرینی میدان حسن‌آباد تهران در سال ۲۰۱۸ توسط دفتر معماری X طراحی شده است.»

در حالی که:

سال پروژه اشتباه است
دفتر معماری وجود ندارد
یا پروژه اصلاً اجرا نشده است

نمونه هالوسینیشن در شهرسازی

در تحلیل شهری، این خطا می‌تواند بسیار گمراه‌کننده باشد.

مثلاً اگر پرسیده شود:

«تراکم جمعیتی منطقه ۱۲ تهران در طرح تفصیلی ۱۳۹۵ چقدر است؟»

مدل ممکن است عددی مانند ۲۵۰ نفر در هکتار ارائه دهد، در حالی که این عدد صرفاً یک تخمین ساخته‌شده است و به هیچ سند رسمی ارجاع ندارد.

یا در تحلیل سیاست‌های شهری ممکن است گفته شود:

«در طرح جامع تهران ۱۴۰۰، توسعه TOD در محور آزادی–انقلاب به عنوان محور اصلی حمل‌ونقل تصویب شده است.»

در حالی که چنین بندی در طرح وجود ندارد.

نمونه هالوسینیشن در گزارش‌نویسی

در گزارش‌های کارشناسی، این مسئله بسیار خطرناک است.

مثلاً یک مدل ممکن است در گزارش بنویسد:

«بر اساس گزارش UN-Habitat در سال ۲۰۲۱، ۶۵ درصد جمعیت شهری خاورمیانه در بافت‌های فرسوده زندگی می‌کنند.»

اگرچه جمله علمی به نظر می‌رسد، اما:

ممکن است چنین آماری وجود نداشته باشد
یا منبع آن کاملاً نادرست باشد

در گزارش‌های شهری، چنین خطایی می‌تواند تصمیم‌گیری مدیریتی را منحرف کند.

نمونه هالوسینیشن در پژوهش علمی

یکی از رایج‌ترین نمونه‌ها ساختن منابع علمی جعلی است.

برای مثال، مدل ممکن است رفرنس‌هایی مانند این تولید کند:

Rahimi, M. (2019). Sustainable Urban Form in Middle Eastern Cities. Journal of Urban Morphology.

در حالی که:

چنین مقاله‌ای وجود ندارد
نام ژورنال واقعی نیست
یا نویسنده ساختگی است

این مسئله در نگارش پایان‌نامه و مقاله علمی بسیار خطرناک است.

چگونه هالوسینیشن را کاهش دهیم؟

برای استفاده ایمن‌تر از هوش مصنوعی، چند راهکار پیشنهاد می‌شود:

راستی‌آزمایی منابع

همیشه منابع معرفی‌شده توسط هوش مصنوعی را در Google Scholar، Scopus یا پایگاه‌های علمی بررسی کنید.

استفاده از داده‌های واقعی

اگر داده‌ها یا اسناد واقعی (مثل طرح جامع یا طرح تفصیلی) در اختیار مدل قرار داده شود، احتمال خطا کاهش می‌یابد.

پرسش دقیق و محدود

سؤال‌های دقیق‌تر باعث می‌شود مدل کمتر به سمت حدس زدن برود.

استفاده از هوش مصنوعی به عنوان دستیار، نه مرجع نهایی

هوش مصنوعی ابزار کمک برای تحلیل و نگارش است، نه منبع قطعی اطلاعات.

هالوسینیشن یکی از محدودیت‌های مهم هوش مصنوعی است که می‌تواند باعث تولید اطلاعات نادرست اما ظاهراً معتبر شود. این موضوع درحوزه‌های تخصصی مانند معماری، شهرسازی، گزارش‌نویسی و پژوهش اهمیت بیشتری پیدا می‌کند، زیرا تصمیمات حرفه‌ای و علمی ممکن است بر اساس این اطلاعات گرفته شوند.بنابراین استفاده از هوش مصنوعی باید همراه با بررسی منابع، تفکر انتقادی و اعتبارسنجی اطلاعات باشد. در چنین شرایطی، هوش مصنوعی می‌تواند به ابزاری قدرتمند برای افزایش سرعت تحلیل، نگارش و ایده‌پردازی در حوزه‌های تخصصی تبدیل شود، بدون آنکه دقت علمی قربانی شود.