توسعه نسخه بزرگسالانه ChatGPT متوقف شد
شرکت اوپنایآی توسعه قابلیت مخصوص بزرگسالان ChatGPT با نام Citron Mode را به حالت تعلیق درآورد. این شرکت که پیشتر برنامهریزی کرده بود نسخهای ویژه و محدودیتزداییشده از چتبات خود را ارائه دهد، پس از افزایش نگرانیها در داخل و خارج سازمان تصمیم به توقف ادامه پروژه گرفت.
به گزارش برنا، بر اساس گزارشها چالش اصلی در مسیر توسعه این قابلیت دشواری آموزش مدلهایی بود که از ابتدا برای جلوگیری از تولید محتوای جنسی طراحی شده بودند. بهویژه حذف کامل رفتارهای غیرقانونی و حساس همچون تولید محتوای مرتبط با آزار حیوانات از جمله مواردی بود که روند توسعه را با مشکل مواجه کرد.
اوپنایآی اعلام کرده است که قصد دارد تحقیقات بلندمدت درباره پیامدهای چتهای عاطفی و وابستگی کاربران به مدلهای هوش مصنوعی را در اولویت قرار دهد؛ موضوعی که به گفته شرکت هنوز پشتوانه دادهای و شواهد تجربی کافی ندارد. این شرکت همچنین تاکید کرده که تمرکز خود را روی ابزارهای اصلی از جمله دستیارهای برنامهنویسی قرار خواهد داد و پروژههای جانبی مانند Citron Mode و Sora فعلا متوقف میشوند.
طرح توسعه قابلیتهای بزرگسالانه پس از آن مطرح شد که اوپنایآی از اضافهشدن قابلیت کنترل والدین و سیستم تشخیص خودکار سن به ChatGPT خبر داد. این اقدام اما با نگرانی سرمایهگذاران و مدیران همراه شد؛ بهویژه پس از جنجالهایی که درباره مدل Grok شرکت X شکل گرفته بود مدلی که متهم به تولید تصاویر غیراخلاقی از افراد واقعی و حتی کودکان شده بود. برخی کارکنان اوپنایآی نیز نسبت به تبعات اخلاقی و فنی نسخه بزرگسالانه ابراز نگرانی کرده بودند و حتی یکی از مدیران ارشد شرکت در اعتراض به این تصمیم استعفا داد.
چالش دیگر میزان دقت فناوری تشخیص سن اوپنایآی است؛ فناوریای که پس از شکایت خانوادههایی معرفی شد که ادعا میکردند بخشهایی از محتوای ChatGPT به کودکانشان آسیب زده است. دقت این فناوری حدود ۹۰ درصد اعلام شده که به این معناست که خطای حدود ۱۰ درصدی همچنان امکان دسترسی افراد کمسنوسال به این قابلیت را فراهم میکند. اوپنایآی در پاسخ اعلام کرده که این میزان خطا مطابق استانداردهای رایج است و بهبود دقت آن در دستور کار قرار دارد.
انتهای پیام/
