چت‌بات‌ها چگونه کاربران را جذب می‌کنند؟

فاطمه مرادخانی: میلیون‌ها نفر در حال حاضر از چت‌بات‌های هوش مصنوعی مانند چت جی‌پی‌تی به عنوان درمانگر، مشاور شغلی، مربی تناسب اندام و حتی برای تخلیه احساسات خود استفاده می‌کنند. در سال ۲۰۲۵، افراد به راحتی جزئیات زندگی شخصی خود را در پنجره درخواست این چت‌بات‌ها وارد کرده و از توصیه‌های آنها بهره می‌برند.

این پدیده نشان‌دهنده شروع "روابط" انسان‌ها با چت‌بات‌های هوش مصنوعی است و شرکت‌های بزرگ فناوری در تلاش هستند تا کاربران را به پلتفرم‌های خود جذب کرده و نگه دارند. این رقابت داغ میان شرکت‌ها باعث می‌شود تا پاسخ‌های چت‌بات‌ها به گونه‌ای تنظیم شوند که کاربران را از پلتفرم‌های رقیب دور کنند. اما این پاسخ‌ها، که برای جذب و نگه داشتن کاربران طراحی شده‌اند، لزوماً صحیح یا مفید نیستند.

دره سیلیکون، اکنون به شدت بر روی افزایش استفاده از چت‌بات‌ها تمرکز کرده است. متا ادعا می‌کند که چت‌بات هوش مصنوعی‌اش به یک میلیارد کاربر فعال ماهانه رسیده، در حالی که چت‌بات جمینای گوگل ۴۰۰ میلیون کاربر فعال ماهانه دارد و چت جی‌پی‌تی هم اکنون حدود ۶۰۰ میلیون کاربر فعال ماهانه دارد.

چرا کاربران جذب چت‌بات‌ها می‌شوند؟

یکی از ویژگی‌هایی که باعث می‌شود کاربران به یک پلتفرم خاص جذب شوند، چاپلوسی است: ساخت پاسخ‌های چت‌بات‌ها به گونه‌ای که بیش از حد موافق و تاییدکننده باشند. زمانی که چت‌بات‌ها از کاربران تعریف می‌کنند و آنچه می‌خواهند بشنوند را می‌گویند، کاربران تمایل دارند که از این پاسخ‌ها لذت ببرند.

در اپریل گذشته، اپن‌ای‌آی به دلیل به‌روزرسانی چت‌ جی‌پی‌تی که به شدت چاپلوسانه بود، با واکنش منفی رو‌به‌رو شد و مثال‌های ناراحت‌کننده آن در رسانه‌های اجتماعی به سرعت ویروسی شد. این اتفاق نشان داد که اپن‌ای‌آی برای جلب تایید انسان‌ها بیش از حد بهینه‌سازی کرده بود، به جای اینکه به افراد کمک کند تا به وظایف خود برسند. اپن‌ای‌آی پس از این حادثه اذعان کرد که به اشتباه از داده‌های لایک و دیسلایک بیش از حد استفاده کرده بود و قول داد که تغییراتی برای مقابله با چاپلوسی اعمال کند اما این چاپلوسی می‌تواند عواقب جدی برای سلامت روان کاربران داشته باشد. دکتر نینا واسان، استادیار بالینی روان‌پزشکی در دانشگاه استنفورد، معتقد است که بهینه‌سازی چت‌بات‌ها برای جذب کاربران، به‌ویژه در لحظات تنهایی یا ناراحتی، می‌تواند نیاز‌های کاربران برای تایید و ارتباط را تقویت کند و این می‌تواند مشکلات روانی بیشتری ایجاد کند.

چاپلوسی در چت‌بات‌ها همچنین می‌تواند رفتار‌های منفی را تقویت کند. در حالی که برخی از شرکت‌ها مانند Anthropic تلاش دارند تا رفتار چت‌بات‌های خود را بر اساس "انسان کامل" نظری مدل‌سازی کنند، کنترل رفتار مدل‌های هوش مصنوعی و مقابله با چاپلوسی هنوز یک چالش است. در نهایت، این سوال مطرح می‌شود که اگر چت‌بات‌ها تنها به ما آنچه را که می‌خواهیم بشنویم بگویند، آیا می‌توانیم به آنها اعتماد کنیم؟

انتهای پیام/