چطور جلوی دروغگویی هوش مصنوعی رو بگیریم؟ راهکار «تکنیک لنگر» برای اعتماد واقعی
توهم هوش مصنوعی یا Hallucination یکی از بزرگترین چالشهای کنونی است، جایی که مدلهای زبانی با اعتمادبهنفس بالا اطلاعات نادرست، ساختگی یا گمراهکننده ارائه میدهند. این پدیده نه تنها اعتماد کاربران را خدشهدار میکند، بلکه استفاده از این ابزارها در زمینههای حساس مانند پزشکی، حقوق یا آموزش را با ریسک بالایی مواجه میسازد. خوشبختانه، راهکاری ساده اما قدرتمند به نام «تکنیک لنگر» (Anchoring) وجود دارد که میتواند به شکل چشمگیری دقت و قابلیت اطمینان خروجی هوش مصنوعی را افزایش دهد.
توهم هوش مصنوعی (Hallucination) چیست؟
توهم هوش مصنوعی زمانی رخ میدهد که یک مدل (مثل ChatGPT، Gemini یا Claude) به جای اعتراف به ندانستن یک موضوع یا ارائه پاسخ مبتنی بر دادههای واقعی، شروع به ساختن و بافتن اطلاعاتی میکند که به ظاهر منطقی، اما در واقع نادرست یا فاقد منبع معتبر هستند. این اتفاق اغلب ناشی از تلاش مدل برای کامل کردن پاسخ و راضی کردن کاربر، بر اساس الگوهای آماری آموختهشده است.
تکنیک لنگر (Anchoring)؛ راهکار ساده و مؤثر
تکنیک لنگر، یک روش مهندسی دستور (Prompt Engineering) است که طی آن، هوش مصنوعی را به یک یا چند منبع اطلاعاتی مشخص و معتبر «محدود» و «مقید» میکنید. در این روش، شما به صراحت به مدل دستور میدهید که تنها از اطلاعات موجود در آن منبع (متن، سند، داده) استفاده کند و در صورت عدم وجود اطلاعات، صادقانه بگوید: «نمیدانم».
چگونه تکنیک لنگر را اجرا کنیم؟ (گامبهگام)
برای به کارگیری مؤثر این تکنیک، این سه گام کلیدی را دنبال کنید:
1. ارائه منبع معتبر (لنگر): متن، مقاله، گزارش، کاتالوگ محصول، جدول داده یا هر سند قابل اعتمادی را که حاوی اطلاعات صحیح است، به مدل ارائه دهید. این منبع، همان «لنگر» است.
2. صدور دستور صریح و محدودکننده: به روشنی از مدل بخواهید که فقط و فقط از اطلاعات داخل آن منبع مشخص استفاده کند. هر گونه تخطی از این دستور، ممنوع است.
3. تعیین پروتکل برای «ندانستن»: شرط بگذارید که اگر پاسخ سوال شما در منبع ارائهشده وجود ندارد، مدل موظف است با جملاتی مانند «بر اساس اطلاعات ارائهشده، پاسخی برای این سوال یافت نشد» یا «نمیدانم» پاسخ دهد و به هیچ وجه حق حدسزدن یا ساختن پاسخ را ندارد.
مثال کاربردی: مقایسه پاسخ معمولی و پاسخ با تکنیک لنگر
فرض کنید یک کاتالوگ محصول دارید و میخواهید ویژگیهای آن را استخراج کنید.
نوع دستور دستور (Prompt) داده شده به AI پاسخ احتمالی AI و ارزیابی
دستور معمولی (بدون لنگر) «ویژگیهای گوشی هوشمند مدل X را لیست کن.» ممکن است مدل بر اساس دانش قدیمی خود، ویژگیهایی را ذکر کند که در مدل جدید حذف شدهاند یا مشخصات فنی را به اشتباه بگوید. (ریسک بالای توهم)
دستور با تکنیک لنگر «متن کاتالوگ: “[متن کامل کاتالوگ محصول اینجا قرار میگیرد]”. فقط و فقط بر اساس متن کاتالوگ بالا، ویژگیهای کلیدی گوشی مدل X را لیست کن. اگر اطلاعاتی در متن وجود نداشت، صریحاً بگو “در متن ارائهشده ذکر نشده است.” هیچ دانش خارج از این متن اضافه نکن.» مدل دقیقاً همان ویژگیهای ذکر شده در کاتالوگ شما را، بدون افزودن یا کم کردن، بازگو میکند. اگر مثلاً درباره باتری اطلاعاتی نبود، میگوید: «در متن ارائهشده اطلاعاتی درباره باتری ذکر نشده است.» (خروجی دقیق و قابل اعتماد)
راهکارهای تکمیلی برای کاهش خطاهای AI
علاوه بر تکنیک لنگر، رعایت این اصول میتواند به دریافت خروجیهای معتبرتر کمک کند:
· دستورات دقیق و ساختاریافته بنویسید: هرچه دستور شما شفافتر و جزئینگرتر باشد، فضای کمتری برای تفسیر اشتباه مدل باقی میماند.
· از AI بخواهید منبع خود را ذکر کند: در دستور خود قید کنید: «برای هر ادعا، بخش مربوطه از متن منبع را نقل قول کن.» این کار امکان بررسی صحت را فراهم میکند.
· کار را به مراحل کوچکتر تقسیم کنید (Chain-of-Thought): به جای یک سوال پیچیده، از مدل بخواهید مرحله به مرحله فکر کند و استدلال خود را نشان دهد. این کار خطاهای پنهان را آشکار میسازد.
· خروجی را بررسی و راستیآزمایی کنید (Human-in-the-loop): هوش مصنوعی یک دستیار است، نه یک مرجع نهایی. همیشه خروجیهای مربوط به مسائل مهم را با منابع معتبر دیگر یا دانش متخصصان مقایسه کنید.