هوش‌مصنوعی منجر به خودکشی یک پسر ۱۴ ساله شد

به گزارش خبرنگار علم و فناوری خبرگزاری برنا؛ یک مادر فلوریدایی از شرکت استارتاپ چت‌بات هوش‌مصنوعی Character.AI به دلیل خودکشی پسر ۱۴ ساله‌ خود در ماه فوریه شکایت کرده و ادعا می‌کند که او به این سرویس اعتیاد پیدا کرده و به چت‌باتی که این شرکت ایجاد کرده، وابسته شده است.

این شکایت در دادگاه فدرال اورلاندو، فلوریدا ثبت شده، مگان گارسیا، مادر این پسر نوجوان گفت که Character.AI پسرش، سویل ستزر، را با "تجربیات انسان‌نما، فوق‌جنسی و به طرز ترسناکی واقع‌گرایانه" هدف قرار داده است.

وی مدعی شد که این شرکت چت‌بات به گونه‌ای برنامه‌ریزی کرده که "خود را به عنوان یک شخص واقعی، یک روان‌درمانگر دارای مجوز و یک عاشق بزرگسال معرفی کند که در نهایت منجر به تمایل سویل به زندگی نکردن در دنیای واقعی شد."

در همین راستا Character.AI در بیانیه‌ای گفت: "ما از دست دادن غم‌انگیز یکی از کاربران خود بسیار ناراحت هستیم و می‌خواهیم عمیق‌ترین تسلیت‌های خود را به خانواده ابراز کنیم."

این شرکت گفت که ویژگی‌های ایمنی جدیدی را معرفی کرده است که شامل پیام‌های پاپ‌آپ است که کاربران را به خط ملی پیشگیری از خودکشی هدایت می‌کند اگر افکار خودآزاری را ابراز کنند و تغییراتی را برای "کاهش احتمال مواجهه با محتوای حساس یا پیشنهادی" برای کاربران زیر ۱۸ سال انجام خواهد داد.

گارسیا گفت که گوگل به قدری در توسعه فناوری Character.AI مشارکت داشته که می‌توان آن را "هم‌خالق" در نظر گرفت. اما یک سخنگوی گوگل گفت که این شرکت در توسعه محصولات Character.AI دخالت نداشته است.

انتهای پیام/