شناسایی محتوای کودک‌آزاری در داده‌های آمازون

مرکز ملی کودکان گمشده و مورد سوءاستفاده قرارگرفته آمریکا (NCMEC) اعلام کرد در سال ۲۰۲۵ بیش از یک میلیون گزارش مرتبط با محتوای سوءاستفاده جنسی از کودکان (CSAM) تولیدشده یا شناسایی‌شده توسط سامانه‌های هوش مصنوعی دریافت کرده است.

به گزارش انگجت، بخش قابل توجهی از این گزارش‌ها از سوی شرکت آمازون ارائه شده است. آمازون اعلام کرده این محتوای غیرقانونی را در جریان بررسی داده‌های مورد استفاده برای آموزش مدل‌های هوش مصنوعی خود شناسایی کرده است. این شرکت همچنین مدعی شده که بخشی از محتوای مشکوک در منابع خارجی مورد استفاده برای آموزش سرویس‌های هوش مصنوعی آن وجود داشته، اما به دلیل ماهیت این منابع، امکان ارائه جزئیات بیشتر درباره منشأ دقیق CSAM را ندارد.

فالون مک‌نالتی، مدیر مرکز CyberTipline وابسته به NCMEC در این‌باره گفت: «در این مورد با یک لایه خارجی مواجه هستیم.» به گفته او، بسیاری از شرکت‌های مستقر در آمریکا طبق قانون موظف‌اند هرگونه محتوای مرتبط با سوءاستفاده جنسی از کودکان را به این مرکز گزارش دهند.

مک‌نالتی با اشاره به حجم بالای گزارش‌ها افزود: «ورود چنین میزان گسترده‌ای از داده‌ها در طول یک سال، پرسش‌های جدی درباره منشأ این اطلاعات و سازوکار‌های نظارتی شرکت‌ها برای جلوگیری از ورود چنین محتوایی به چرخه داده‌های آموزشی ایجاد می‌کند.»

وی همچنین تاکید کرد برخلاف گزارش‌های برخی شرکت‌های دیگر فعال در حوزه هوش مصنوعی که داده‌های قابل پیگیری ارائه کرده‌اند و امکان ارجاع آنها به نهاد‌های مجری قانون وجود داشته، گزارش‌های آمازون به دلیل عدم شفافیت در مورد منابع داده‌ها، قابلیت پیگیری حقوقی ندارند.

با این حال در مقابل یک سخنگوی آمازون در بیانیه‌ای اعلام کرد این شرکت رویکردی «بسیار محتاطانه» در بررسی داده‌های آموزشی مدل‌های هوش مصنوعی خود، از جمله داده‌های عمومی وب، در پیش گرفته است. به گفته او، هدف این فرآیند شناسایی و حذف محتوای شناخته‌شده سوءاستفاده جنسی از کودکان و حفاظت از کاربران و مشتریان آمازون است.

انتهای پیام/