هشدار درباره ابرهوش؛ هیچ شرکتی کنترل آن را تضمین نمیکند
موسسه Future of Life با انتشار شاخص «ایمنی هوش مصنوعی» (AI Safety Index) اعلام کرد هشت شرکت پیشرو در این حوزه فاقد اقدامات ایمنی اثباتشده، نظارت مستقل و برنامههای بلندمدت برای مدیریت ریسک سیستمهای پیشرفته هستند. در این ارزیابی، شرکتهای آمریکایی امتیاز بالاتری کسب کردند و محصول شرکت Anthropic بالاتر از OpenAI و DeepMind گوگل قرار گرفت.
به گزارش ایندیپندنت، با وجود این، هیچ یک از شرکتها در شاخص «ریسک وجودی» نمره بالاتر از D نگرفتند و شرکتهایی مانند Alibaba Cloud، DeepSeek، Meta، xAI و Z.ai حتی نمره F دریافت کردند. پژوهشگران تأکید کردهاند که ایمنی وجودی بزرگترین نقطه ضعف ساختاری این صنعت است و شکاف میان سرعت توسعه AGI و نبود برنامههای معتبر برای کنترل آن روزبهروز نگرانکنندهتر میشود.
استورات راسل، استاد علوم رایانشی دانشگاه UC Berkeley، در این باره گفت: «مدیران ارشد میدانند چگونه ابرهوش بسازند، اما هیچکس نمیتواند نشان دهد چگونه خطر از دست رفتن کنترل آنها را مهار کند. آنها قادر به کاهش ریسک سالانه از دست دادن کنترل به سطحی که مشابه الزامات ایمنی راکتورهای هستهای باشد، نیستند.»
این تحقیق زنگ خطری برای صنعت هوش مصنوعی و سیاستگذاران جهانی است تا قبل از آنکه توسعه فناوریهای فوق پیشرفته از کنترل خارج شود، تدابیر ایمنی مناسب و الزامآور وضع شود.
انتهای پیام/
