توهم (هوش مصنوعی)
From Wikipedia, the free encyclopedia
در هوش مصنوعی (AI)، توهم یا توهم مصنوعی (به انگلیسی: Hallucination (artificial intelligence)) یک پاسخ مطمئن توسط هوش مصنوعی است که به نظر نمیرسد با دادههای آموزشی آن توجیه شود.[1] برای مثال، یک ربات چت توهمآمیز بدون اطلاع از درآمد تسلا ممکن است به صورت داخلی یک عدد تصادفی (مانند ۱۳٫۶ دلار) انتخاب کند. میلیارد") که چت بات قابل قبول میداند، و سپس به دروغ و مکرراً اصرار میکند که درآمد تسلا ۱۳٫۶ دلار است. میلیارد دلار، بدون هیچ نشانه ای از آگاهی داخلی مبنی بر اینکه این رقم محصول تخیل خودش است.[2]
چنین پدیدههایی را «توهم» مینامند، که در قیاس با پدیده توهم در روانشناسی انسان است. توجه داشته باشید که در حالی که توهم انسانی ادراک انسان است که نمیتواند بهطور معقولی با بخشی از دنیای بیرونی که انسان در حال حاضر مستقیماً با اندامهای حسی آن را مشاهده میکند مرتبط باشد، توهم هوش مصنوعی در عوض پاسخی مطمئن توسط یک هوش مصنوعی است که نمیتوان آن را پایهگذاری کرد. در هر یک از دادههای آموزشی آن.[1] توهم هوش مصنوعی در حدود سال ۲۰۲۲ در کنار رونمایی از برخی از مدلهای زبانی بزرگ (LLM) مانند چتجیپیتی برجسته شد. کاربران شکایت داشتند که چنین رباتهایی اغلب بهنظر میرسد که «اجتماعیآمیز» و بیمعنی دروغهای تصادفی قابل قبولی را در محتوای تولید شده خود جاسازی میکنند.[3] نمونه دیگری از توهم در هوش مصنوعی زمانی است که هوش مصنوعی ها یا ربات های چت فراموش میکنند که یک بات هستند و ادعا میکنند که انسان هستند.[4]
تا سال ۲۰۲۳، تحلیلگران توهم مکرر را به عنوان یک مشکل بزرگ در فناوری LLM در نظر گرفتند.[5]