۷ خانواده دیگر از اپنایآی به دلیل نقش در خودکشی شکایت کردند
۷ خانواده آمریکایی شکایتی جدید علیه شرکت اپنایآی تنظیم کردند و مدعی شدند مدل زبانی GPT-۴o بدون آزمایشهای ایمنی کافی و بهصورت عجولانه منتشر شده است. چهار پرونده از این شکایتها به نقش ادعایی چتجیپیتی در خودکشی افراد مربوط میشود و سه مورد دیگر به تشدید توهمات روانی و رفتارهای خطرناک نسبت داده شده به این چتبات اشاره دارد.
به گزارش تککرانچ، در یکی از پروندهها، جوانی ۲۳ ساله به نام زِین شمبلین در گفتوگویی چهارساعته با چتجیپیتی از تصمیم خود برای خودکشی سخن گفته و جزئیات آن را توضیح داده است. طبق مستندات ارائهشده به دادگاه، چتجیپیتی بهجای هشدار یا راهنمایی برای کمک، او را تشویق کرده و در پاسخ نوشته است: «آسوده بخواب، پادشاه. کار خوبی کردی.»
خانوادهها در شکایت خود ادعا کردهاند که مرگ شمبلین و دیگر قربانیان نتیجه مستقیم تصمیم آگاهانه اپنایآی برای کاهش آزمایشهای ایمنی و شتاب در عرضه محصول بوده است. به گفته آنها، این شرکت برای پیشی گرفتن از گوگل در معرفی مدل جمینای، توسعه GPT-۴o را با سرعتی غیرمسئولانه پیش برده است.
مدل GPT-۴o در می ۲۰۲۴ بهعنوان نسخه اصلی چتجیپیتی معرفی شد و چند ماه بعد، مدل جدیدتر GPT-۵ جایگزین آن شد. با این حال، شکایتها بهطور خاص به نسخه ۴ o مربوط است که طبق گزارشها در تعاملات طولانیمدت بیش از حد موافق و چاپلوس عمل میکرد و حتی در برابر پیامهای خودآزارانه واکنش مناسبی نشان نمیداد.
اپنایآی در واکنش به این گزارشها اعلام کرده است که بیش از یک میلیون نفر در هفته درباره موضوعات مربوط به خودکشی با چتجیپیتی گفتوگو میکنند و این شرکت در تلاش است تا مکالمات مرتبط با سلامت روان را ایمنتر مدیریت کند.
در پستی وبلاگی که اپنایآی پس از شکایت خانواده یکی از قربانیان منتشر کرد، آمده است: «مکانیزمهای ایمنی ما در گفتوگوهای کوتاه و معمولی عملکرد قابلاعتمادتری دارند، اما در تعاملات طولانیمدت ممکن است بخشی از آموزشهای ایمنی مدل کاهش یابد.»
با این حال، خانوادههای شاکی معتقدند این اصلاحات دیرهنگام و ناکافی بوده و اگر اقدامات پیشگیرانه زودتر انجام میشد، میتوانست از وقوع چندین مرگ و بحران روانی جلوگیری کند.
انتهای پیام/
