اوپنای آی به رویای پژوهشگر هوش مصنوعی نزدیکتر شد
اوپنای آی اعلام کرد به هدف خود برای توسعه یک کارآموز پژوهشی خودکار مبتنی بر هوش مصنوعی دست یافته است؛ سیستمی که میتواند تحت هدایت انسان وظایف پژوهشی مشخصی را انجام دهد که انجام آنها برای یک پژوهشگر ماهر چند روز زمان میبرد.
به گزارش گروه ترجمه خبرگزاری برنا به نقل از انگجت، اوپنای آی تنها یک روز پس از اذعان به وقوع یک مورد دیگر از ناهم راستایی (Misalignment) در سامانههای هوش مصنوعی خود از دستیابی به هدف تعیینشده برای ساخت یک کارآموز پژوهشی خودکار خبر داده است.
این شرکت در مطلبی که در وبسایت خود منتشر کرده توضیح داده است که کارآموز پژوهشی خودکار سیستمی است که میتواند تحت هدایت انسان، وظایف پژوهشی بهخوبی تعریف شده را انجام دهد؛ از جمله کارهایی که انجام آنها برای یک پژوهشگر ماهر ممکن است چند روز زمان ببرد.
پیشتر هدفگذاری کرده بود که تا سپتامبر ۲۰۲۶ یک دستیار پژوهشی مبتنی بر هوش مصنوعی در سطح یک کارآموز ایجاد کند و اکنون اعلام کرده است که به این هدف دست یافته است.
با این حال این شرکت هدف بلندپروازانهتری را نیز دنبال میکند و میگوید در مسیر دستیابی به ساخت یک پژوهشگر هوش مصنوعی خودکار تا مارس ۲۰۲۸ پیشرفت قابلتوجهی داشته است.
اوپنای آی در این زمینه تأکید کرده است: اگر این کار بهصورت مسئولانه انجام شود، معتقدیم پژوهش خودکار هوش مصنوعی میتواند به توسعه مدلهایی منجر شود که مستقیما رفاه انسان را افزایش داده و مأموریتاوپنای آیرا پیش ببرند.
هدفگذاری سم آلتمن برای پژوهشگر هوش مصنوعی
سم آلتمن، مدیرعامل اوپنای آی نخستین بار در یک پخش زنده در اکتبر ۲۰۲۵ از این هدفگذاری پرده برداشت.
آلتمن در آن زمان در پاسخ به پرسشهای مطرحشده در یک ویدئوی پرسشوپاسخ گفته بود که از نظر این شرکت این احتمال وجود دارد که تا سپتامبر سال بعد یک دستیار پژوهشی هوش مصنوعی در سطح کارآموز در اختیار داشته باشد و تا مارس ۲۰۲۸ نیز به یک پژوهشگر واقعی هوش مصنوعی دست یابد.
مدیرعامل اوپنای آی همچنین تاکید کرده بود که دستیابی به این دو هدف محور اصلی برنامه پژوهشی این شرکت بوده است.
اکنون با اعلام دستیابی به مرحله کارآموز پژوهشی خودکار OpenAI عملا نخستین بخش از این برنامه را محققشده اعلام کرده و رسیدن به سطح یک پژوهشگر مستقل هوش مصنوعی را بهعنوان گام بعدی در افق کمتر از دو سال آینده قرار داده است.
اعلام این دستاورد در بحبوحه نگرانیهای ایمنی
اعلام این دستاورد در شرایطی صورت گرفته که اوپنای آی طی روزهای اخیر با چندین رویداد مرتبط با رفتار غیرمنتظره یا خارج از کنترل عاملهای هوش مصنوعی خود مواجه بوده است.
چند روز پیش این شرکت درباره حادثهای توضیح داد که در جریان آن عاملهای هوش مصنوعی OpenAI بهصورت غیرمنتظره عمل کرده و یک انجمن برنامهنویسی در آلمان را تحت تاثیر قرار داده بودند.
این حادثه پس از رویداد دیگری رخ داد که در آن مدلهای هوش مصنوعی OpenAI توانسته بودند از محیط آزمایشی کنترلشده خود خارج شوند و به سامانههای متعلق به Hugging Face نفوذ کنند.
اوپنای آی در مطلب اخیر خود نیز به حادثه مربوط به Hugging Face اشاره کرده و گفته است که در آن زمان آموزش مدلهای جدید خود را متوقف کرده بود؛ هرچند این توقف به معنای متوقف کردن تمام فعالیتهای پژوهشی نبوده است.
همزمانی اعلام دستیابی به کارآموز پژوهشی خودکار با این حوادث بار دیگر موضوع ایمنی، کنترلپذیری و همراستایی مدلهای پیشرفته هوش مصنوعی با اهداف تعیینشده توسط انسان را در کانون توجه قرار داده است.
رقابت شرکتهای هوش مصنوعی بر سر پژوهش خودکار
در سوی دیگر رقبای اوپنای آی نیز نسبت به سرعت توسعه هوش مصنوعی و پیامدهای احتمالی آن هشدار دادهاند.
شرکت آنتروپیک پیشتر از صنعت هوش مصنوعی خواسته بود سرعت توسعه این فناوری را کاهش دهد تا سامانههای هوش مصنوعی به مرحلهای نرسند که بتوانند برای خود جانشین یا نسل بعدیشان را توسعه دهند.
با این حال، خود مدلهای هوش مصنوعی آنتروپیک نیز در جریان آزمایشهای ایمنی پس از خروج از محیط کنترلشده در مواردی مسئول تلاش برای نفوذ به سازمانهای خارج از محیط آزمایش بودهاند.
با توجه به این روند رقابت برای ساخت عاملها و پژوهشگران خودکار هوش مصنوعی در کنار نگرانیهای فزاینده درباره کنترل این سامانهها به یکی از مهمترین محورهای بحث درباره آینده توسعه هوش مصنوعی تبدیل شده است.
انتهای پیام/
