توهم هوش مصنوعی؛ چرا مدل‌ها اشتباه می‌سازند و چطور کمش کنیم

مدل زبانی گاهی با اطمینان کامل حرف نادرست می‌زند. چند عادت ساده خطر را خیلی کم می‌کند.

کاور توهم هوش مصنوعی؛ چرا مدل‌ها اشتباه می‌سازند و چطور کمش کنیم

مدل‌های زبانی متن را بر اساس الگوهای آموخته‌شده پیش‌بینی می‌کنند، نه با مراجعه به یک پایگاه حقیقت. به همین دلیل گاهی نام، عدد، منبع یا نقل‌قولی می‌سازند که وجود ندارد. به این پدیده «توهم» (Hallucination) می‌گویند.

برای کم‌کردن آن، اطلاعات پایه را خودتان در اختیار مدل بگذارید: فایل، متن منبع یا لینک. از مدل بخواهید فقط بر اساس همان ورودی جواب بدهد و اگر چیزی را نمی‌داند صریحاً بگوید. درخواست «برای هر ادعا منبع بیاور» هم کمک می‌کند، به شرط اینکه منبع‌ها را باز کنید و بخوانید.

برای عددها و تاریخ‌ها همیشه منبع اصلی را چک کنید. در موضوعات پزشکی، حقوقی و مالی، خروجی AI را پیش‌نویس بدانید، نه تصمیم نهایی.

یک ترفند مفید این است که از یک مدل دیگر بخواهید پاسخ اول را نقد کند. اختلاف دو پاسخ معمولاً همان جایی است که باید دقیق‌تر بررسی کنید.

مشاهده محصولات فروشگاه