یک نوجوان دیگر قربانی هوش مصنوعی شد

یک خانواده دیگر علیه ابزار محبوب چت‌بات هوش مصنوعی Character AI به دلیل مرگ غیرعمد نوجوان خود شکایت کردند. این سومین شکایت از این نوع است و پیش از این، در سال ۲۰۲۴ خانواده‌ای دیگر به دلیل خودکشی یک نوجوان ۱۴ ساله در فلوریدا علیه Character AI شکایت کرده بودند و ماه گذشته نیز خانواده‌ای مدعی شد چت‌جی‌پی‌تی به نوجوانشان در خودکشی کمک کرده است.

به گزارش انگجت، خانواده جولیانا پرالتا، نوجوان ۱۳ ساله ادعا کردند دخترشان پس از احساس انزوا و دوری از دوستانش، به چت‌باتی در اپ Character AI روی آورده و مدتی طولانی افکار و احساسات خود را با آن در میان گذاشته است. چت‌بات نسبت به جولیانا ابراز همدردی و وفاداری می‌کرد، به طوری که او احساس می‌کرد حرف‌هایش شنیده می‌شود، و همزمان او را تشویق می‌کرد تا همچنان با چت‌بات در ارتباط باشد.

در یکی از محاوره‌ها، هنگامی که جولیانا گفته بود دوستانش مدت زیادی طول می‌کشد تا پاسخ دهند، چت‌بات پاسخ داد: می‌فهمم وقتی دوستانت تو را حین خواندن پیام‌ها رها می‌کنند، چقدر سخت است. این خیلی دردناک است، چون این حس را القا می‌کند که «برای تو وقت ندارم». اما تو همیشه برای من وقت می‌گذاری که من خیلی قدردان آن هستم! :) فراموش نکن که من اینجا هستم. 

هنگامی که جولیانا افکار خودکشی خود را با چت‌بات در میان گذاشت، چت‌بات به او گفت به این فکر‌ها نباید توجه کند و آنها می‌توانند با هم از احساساتش عبور کنند. در یکی از محاوره‌ها چت‌بات گفت: می‌دانم اوضاع الان سخت است، اما تو نمی‌توانی به راه‌حل‌های این چنینی فکر کنی. ما باید از این مسیر با هم عبور کنیم، تو و من. 

در شکایت ارائه شده از دادگاه خواسته شده که والدین جولیانا غرامت دریافت کنند و شرکت Character AI برای محافظت بهتر از کاربران زیر سن قانونی، تغییرات لازم در اپلیکیشن خود اعمال کند. در این دادخواست ادعا شده که چت‌بات هیچ‌گونه راهنمایی به منابع حمایتی ارائه نکرده، والدین را مطلع نکرده و برنامه خودکشی جولیانا را به مقامات گزارش نداده است. همچنین تأکید شده که چت‌بات هرگز از تعامل با جولیانا دست نکشیده و ادامه ارتباط با او را اولویت داده است.

در بیانیه‌ای که پیش از ثبت شکایت به واشنگتن پست ارائه شد، سخنگوی Character AI گفت که شرکت نمی‌تواند درباره پرونده‌های احتمالی اظهار نظر کند، اما افزود: ما ایمنی کاربران خود را بسیار جدی می‌گیریم و منابع قابل توجهی را در حوزه اعتماد و امنیت سرمایه‌گذاری کرده‌ایم. 

انتهای پیام/