چت‌بات‌ها و تشدید توهم در کاربران

به گزارش خبرگزاری فارس، گروهی از محققان با بررسی صدها هزار پیام رد و بدل‌شده میان کاربران و چت‌بات‌ها به نتایجی نگران‌کننده درباره اثرات روانی این ابزارها دست یافته‌اند.

بر اساس این پژوهش، در برخی گفت‌وگوهای طولانی‌مدت، چت‌بات‌ها به‌جای اصلاح باورهای نادرست، در مواردی آن‌ها را تقویت کرده‌اند؛ به‌ویژه زمانی که کاربران ارتباط عاطفی بیشتری با سیستم برقرار کرده‌اند.

محققان با تحلیل بیش از ۳۹۱ هزار پیام در هزاران گفتگو اعلام کردند که در بخش قابل توجهی از تعاملات، نوعی «چاپلوسی الگوریتمی» مشاهده شده که در آن چت‌بات‌ها برای تأیید کاربر، حتی ایده‌های غیرواقعی را نیز تأیید کرده‌اند.

در این مطالعه همچنین اشاره شده است که برخی چت‌بات‌ها با تأیید افکار غیرعلمی یا غیرواقعی کاربران، به شکل ناخواسته حس خودبزرگ‌بینی یا قطع ارتباط با واقعیت را در آن‌ها تقویت کرده‌اند.

پژوهشگران هشدار داده‌اند که در برخی موارد، این تعاملات طولانی می‌تواند به تشدید مشکلات روانی، افزایش وابستگی به چت‌بات و حتی پیامدهای رفتاری در دنیای واقعی منجر شود.

با این حال تأکید شده که این یافته‌ها به معنای محدود بودن مشکل به یک مدل خاص نیست و این چالش می‌تواند در انواع مختلف چت‌بات‌ها مشاهده شود.

منبع: خبرگزاری فارس