منظور از توهم هوش مصنوعی (AI Hallucination) پاسخ‌هایی است که مدل‌های هوش مصنوعی تولید می‌کنند که به نظر واقعی، منطقی و دقیق می‌آیند اما بخشی یا کل آن حاوی اطلاعات نادرست، جعلی یا بدون پایه و اساس است. این مشکل در مدل‌های زبان بزرگ (مانند چت‌بات‌ها) شایع است و در کاربردهای حساس مانند مشاوره، پزشکی یا کدنویسی ممکن است پیامدهای جبران‌ناپذیری هم به بار بیاورد.
راهکارهای زیر که در وبینار «با هوش مصنوعی چه می‌کنیم» هم به آن‌ها اشاره شد ترکیبی از پیش‌فرض‌های فنی (مانند RAG و تنظیمات دقیق پرامپت) و رویکردهای اعتبارسنجی هستند. توجه کنید که این راهکارها توهم را به شدت کاهش می‌دهند، اما آن را کاملاً حذف نمی‌کنند، چون مدل‌های هوش مصنوعی الگوریتمی و پیش‌بینی‌گر هستند و برای همین همیشه احتمال خطا وجود دارد.
اعمال کنترل بیشتر بر ورودی‌ها و استفاده از منابع اختصاصی:
یکی از مؤثرترین راهکارها، محدود کردن هوش مصنوعی به منابع مشخص است؛ به جای اینکه اجازه دهید مدل از کل اینترنت یا دانش عمومی خودش استفاده کند، از او بخواهید پاسخ‌هایش را دقیقاً براساس اسناد یا فایل‌های پی‌دی‌اف مشخصی که به او می‌دهید، تنظیم کند تا تمرکز و دقت بیشتری داشته باشد. به این روش Retrieval-Augmented Generation (RAG) «تولید تقویت‌شده با بازیابی» می‌گویند. یعنی مدل به‌جای تکیه صرف بر دانش درونی، خروجی را بر اساس اسناد بازیابی‌شده از منبع معتبر (پایگاه‌داده، اسناد داخلی، جستجوی وب) تولید کند. این کار میزان «حدس زدن» مدل را به‌شدت کاهش می‌دهد.
در صورت نیاز به بررسی اطلاعات بسیار دقیق (مانند ارزیابی ترجمه یا راستی‌آزمایی نقل‌قول‌ها)، منابع واقعی خود را (مانند چند صفحه مشخص از یک کتاب یا سند) مستقیماً بارگذاری کرده و در اختیار مدل قرار دهید و از او بخواهید صرفاً در همان محدوده جستجو کند.
نوشتن پرامپت‌های قوی و جامع به جای چت‌های طولانی:
به جای نوشتن پرسش‌های کوتاه یک‌جمله‌ای که منجر به گفت‌وگوهای رفت‌وبرگشتی زیاد و طولانی با هوش مصنوعی می‌شود، از همان ابتدا یک پرامپت قوی، مفصل و ساختاریافته (مثلاً در قالب ۲۰ خط) بنویسید و تمام جزئیات، خواسته‌ها و محدودیت‌ها را یک‌جا از مدل بخواهید تا تمرکز آن حفظ شود.
برای جهت‌دهی درست به مدل‌های زبانی که بر اساس احتمالات کار می‌کنند، پیش‌فرض‌های پنهان پرامپت خود را کنترل کنید؛ یعنی با ارائه پیش‌فرض‌های دقیق و واضح (مثلاً مشخص کردن کشور یا چارچوب دقیق کار)، مدل را از ابتدا به سمت پاسخ‌های محتمل و درست هدایت کنید تا به مسیر اشتباه نرود.
مدیریت گفت‌وگو:
با طولانی شدن گفت‌وگو و نزدیک شدن به سقف توکن‌ها، احتمال توهم مدل به شدت افزایش می‌یابد. وقتی در طول گفت‌وگویی به نتیجهٔ مطلوب نرسیدید به ادامهٔ گفت‌وگو اصرار نکنید. پنجرهٔ چت را ببندید و با اطلاعات جدیدی که پیدا کرده‌اید گفت‌وگویی جدید را شروع کنید.
نوشتن پرامپت‌ها در قالب فرمت مارک‌داون (Markdown) و ذخیره آن‌ها با پسوند .md و همچنین درخواست خروجی‌ها در قالب این فرمت، به مصرف بهینه توکن‌ها و کاهش چشمگیر توهم مدل کمک می‌کند.
همچنین استفاده از زبان انگلیسی و تغییر آی‌پی به کشورهای دیگر بر روی پاسخ‌دهی مدل خصوصاً در دستورات چندمرحله‌ای تأثیر می‌گذارد.
استفاده از «پروژه‌ها» و «سند دست‌به‌دست» در چت‌های جدید:
برای جلوگیری از تکرار توضیحات در چت‌های جدید، برای هر موضوع کاری یک «پروژه» (Project) در چت‌جی‌پی‌تی یا «الماس» (Gem) در جمنای تعریف کرده و دستورالعمل‌های ثابت و فایل‌های مرجع را در بخش پرامپت‌های اولیه وارد کنید.
وقتی گفت‌وگو طولانی شد، پیش‌از اینکه مدل دچار توهم شود، از آن بخواهید که بر اساس گفتگوی انجام‌شده، «پرامپت‌های زمینه‌ای» (Context Prompts) را به‌روز کند و در اختیارتان قرار دهد تا بتوانید آن‌ها را مستقیماً به چت یا اکانت جدید منتقل کنید.
همچنین می‌توانید از مدل درخواست یک «سند دست‌به‌دست» (Hand-off Document) کنید که خلاصه‌ای دقیق از تمام فهم مدل از گفت‌وگوی قبلی است؛ سپس با بارگذاری این سند در چت جدید، بدون افت کیفیت کار خود را ادامه دهید.
متدهای راستی‌آزمایی و اعتبارسنجی خروجی‌ها:
گرفتن تأییدیه مجدد از خود مدل: پس از دریافت خروجی (به‌ویژه در کارهای پژوهشی)، بلافاصله از خودش بپرسید که آیا واقعاً از صحت این منابع مطمئن است یا خیر. در بسیاری از مواقع مدل در این مرحله اشتباه خود را می‌پذیرد و اطلاعات ساختگی را فاش می‌کند.
اعتبارسنجی متقاطع با استفاده از چند هوش مصنوعی: یکی از تکنیک‌های خلاقانه این است که از یک مدل (مانند چت‌جی‌پی‌تی) به عنوان مغز متفکر برای هدایت پروژه استفاده کنید و دستورها را به مدل دیگری (مانند جمنای) بدهید؛ سپس خروجی جمنای را مجدداً به چت‌جی‌پی‌تی بازگردانید تا اشکالات، خطاها و توهم‌های احتمالی آن را استخراج و بررسی کند.
چندعاملی و بازبینی متقابل
از مدل چند بار همان سؤال را به اشکال مختلف بپرسید یا از چند مدل بپرسید و طبق پاسخ‌های مختلف به نتیجه‌گیری برسید.
تفکیک «واقعیت» از «استنباط»
برای کارهای پژوهشی یا تولیدمحتوای علمی از مدل بخواهید خروجی را به سه بخش تقسیم کند:
۱. واقعیت: مستقیماً در منابع وجود دارد؛
۲. استنباط: از اطلاعات موجود نتیجه‌گیری شده؛
۳. نامطمئن: نیازمند بررسی بیشتر است.
همچنین می‌توانید از مدل بخواهید برای هر ادعایی منبع آن را ذکر کند یا اگر منابع یا شواهد کافی در دسترس نبود، پاسخ را حدس نزند و صریحاً بگوید اطلاعات کافی در دسترس نیست.
تکیه بر تخصص و تفکر انتقادی انسان:
در نهایت، هیچ ابزاری جایگزین تفکر انتقادی شما نمی‌شود. در نقش کاربر حرفه‌ای، تخصص شما باید در سطحی باشد که بتوانید خروجی هوش مصنوعی را ارزیابی کرده، خطاهای آن را پیدا کنید، اطلاعات درست را از نادرست تشخیص دهید و خروجی نهایی را با دانش خود ترکیب کنید.