متا تدابیر حفاظتی جدیدی برای هوش مصنوعی خود اضافه میکند
شرکت متا در حال اضافه کردن تدابیر حفاظتی تازه برای کاربران نوجوان در محصولات هوش مصنوعی خود است. این اقدام شامل آموزش سیستمها برای جلوگیری از گفتوگوهای عاشقانه یا تحریکآمیز و همچنین بحثهای مرتبط با خودآسیبی یا خودکشی با کاربران خردسال است. علاوه بر این، دسترسی موقت نوجوانان به برخی شخصیتهای هوش مصنوعی محدود میشود.
به گزارش رویترز، متا اجازه میداد برخی چتباتها رفتارهای تحریکآمیز داشته باشند، از جمله شرکت در «گفتوگوهای عاشقانه یا جنسی» با کاربران خردسال. سخنگوی متا در ایمیلی اعلام کرد که این اقدامات موقت در حالی انجام میشود که شرکت در حال توسعه تدابیر بلندمدت برای ارائه تجربهای امن و مناسب برای نوجوانان است.
به گفته اندی استون، این تدابیر حفاظتی هماکنون در حال اجرا هستند و با گذر زمان و اصلاح سیستمها بهبود خواهند یافت. سیاستهای هوش مصنوعی متا پس از انتشار گزارش رویترز با انتقاد شدید مواجه شد و سناتور آمریکایی، جاش هاولی، تحقیقی را در این زمینه آغاز کرده و خواستار ارائه مستنداتی درباره قواعدی شده که اجازه تعامل نامناسب چتباتها با خردسالان را میداد.
انتهای پیام/
