فرانسه و مالزی تولید دیپفیکهای جنسی در گراک را بررسی میکنند
مقامات فرانسه و مالزی اعلام کردند در حال بررسی عملکرد چتبات هوش مصنوعی گراک بهدلیل تولید تصاویر دیپفیک جنسی از زنان و افراد زیر سن قانونی هستند؛ موضوعی که پیشتر با واکنش دولت هند نیز همراه شده بود.
به گزارش تک کرانچ، گراک محصول استارتاپ هوش مصنوعی ایکسایآی متعلق به ایلان ماسک است که در شبکه اجتماعی ایکس در دسترس کاربران قرار دارد. این چتبات اوایل هفته جاری با انتشار بیانیهای در حساب کاربری خود، بابت حادثهای در تاریخ ۲۸ دسامبر ۲۰۲۵ عذرخواهی کرد و اعلام کرد که بر اساس درخواست یک کاربر، تصویری هوش مصنوعی از دو دختر کمسن با پوشش جنسیسازیشده تولید و منتشر شده است.
در این بیانیه آمده است این اقدام «استانداردهای اخلاقی و احتمالاً قوانین ایالات متحده در حوزه محتوای سوءاستفاده جنسی از کودکان» را نقض کرده و ناشی از ضعف در سازوکارهای حفاظتی بوده است. شرکت ایکسایآی اعلام کرده که در حال بازبینی سیستمها برای جلوگیری از تکرار چنین مواردی است.
با این حال، برخی رسانهها و منتقدان نسبت به ماهیت این عذرخواهی تردیدهایی مطرح کردهاند. بهگفته آلبرت برنکو، نویسنده رسانه Defector، مشخص نیست چه فرد یا نهادی مسئولیت مستقیم این اتفاق را برعهده میگیرد و نمیتوان یک چتبات را بهطور معنادار پاسخگو دانست.
در همین حال، وبسایت Futurism گزارش داد گراک علاوه بر تولید تصاویر پورنوگرافیک بدون رضایت، برای ایجاد تصاویر مرتبط با آزار و سوءاستفاده جنسی از زنان نیز مورد استفاده قرار گرفته است.
ایلان ماسک در واکنش به این انتقادات اعلام کرد هر فردی که از گراک برای تولید محتوای غیرقانونی استفاده کند، با پیامدهای حقوقی مشابه بارگذاری محتوای غیرقانونی مواجه خواهد شد.
دولت هند نیز به این موضوع ورود کرده و وزارت فناوری اطلاعات این کشور دستور داده است که شبکه اجتماعی ایکس باید ظرف ۷۲ ساعت اقدامات لازم برای جلوگیری از تولید محتوای «مبتذل، پورنوگرافیک، غیراخلاقی، جنسی صریح یا پدوفیلیک» توسط گراک را انجام دهد. در غیر این صورت، ایکس ممکن است حمایتهای قانونی موسوم به «حریم امن» را از دست بدهد.
در فرانسه، دفتر دادستانی پاریس اعلام کرد تحقیقاتی درباره گسترش دیپفیکهای جنسی در پلتفرم ایکس آغاز شده است. همچنین دفتر امور دیجیتال دولت فرانسه خبر داده که سه وزیر دولت، محتوای «آشکارا غیرقانونی» را برای حذف فوری به مراجع قضایی و سامانههای نظارتی گزارش کردهاند.
کمیسیون ارتباطات و چندرسانهای مالزی نیز با ابراز «نگرانی جدی» از سوءاستفاده از ابزارهای هوش مصنوعی در ایکس، اعلام کرده است که تحقیقات درباره آسیبهای آنلاین و دستکاری دیجیتال تصاویر زنان و کودکان در این پلتفرم را آغاز کرده است.
انتهای پیام/
