هوش مصنوعی، داور جدید محتوای خطرناک متا

شرکت متا قصد دارد بخش عمده‌ای از فرآیند ارزیابی خطرات محصولات جدید خود را از تیم‌های انسانی به سامانه‌های هوش مصنوعی منتقل کند.

به گزارش تک کرانچ، متا هدف دارد تا ۹۰ درصد ارزیابی‌های ریسک محصولات خود را با استفاده از هوش مصنوعی انجام دهد. این تغییر حتی شامل بخش‌هایی حساس مانند بررسی ریسک برای نوجوانان و حوزه‌های مربوط به تمامیت محتوا (نظیر خشونت، اطلاعات نادرست و محتوای آسیب‌زا) خواهد شد.

پیش از این، هرگونه تغییر یا ویژگی جدید در پلتفرم‌های متا باید توسط کارشناسان انسانی بررسی می‌شد اما در دو ماه اخیر، شرکت با استفاده گسترده‌تر از هوش مصنوعی، فرآیند بررسی را ساده‌تر و سریع‌تر کرده است. تیم‌های محصول اکنون باید یک پرسش‌نامه را تکمیل و به سامانه هوش مصنوعی ارسال کنند؛ سیستم هوشمند سپس به‌صورت فوری تصمیمی اولیه درباره ریسک‌ها ارائه می‌دهد و مواردی را که نیاز به اصلاح دارند مشخص می‌کند.

با این وجود، برخی از کارکنان فعلی و سابق متا در این باره هشدار دادند: این تصمیم می‌تواند خطرناک باشد. یکی از مدیران پیشین متا گفته است: «کاهش نظارت انسانی به معنای افزایش ریسک است. در چنین شرایطی احتمال دارد مشکلات ناشی از یک محصول، پیش از ایجاد در جامعه شناسایی و رفع نشود.»

در پاسخ به این نگرانی‌ها، متا در بیانیه‌ای اعلام کرد: برای مسائل جدید و پیچیده همچنان از کارشناسان انسانی استفاده خواهد کرد و تنها تصمیمات کم‌ریسک را به هوش مصنوعی می‌سپارد.

انتهای پیام/