کلود ۲۶ درصد از تحقیقات هوش مصنوعی آنتروپیک را هدایت میکند
شرکت آنتروپیک اعلام کرده است چتبات هوش مصنوعی کلود اکنون میتواند ۲۶ درصد از فعالیتهای تحقیق و توسعه هوش مصنوعی این شرکت را از ابتدا تا انتها و با نظارت انسانی انجام دهد، آماری که تصویری از سرعت فزاینده توسعه هوش مصنوعی و میزان ورود عاملهای هوش مصنوعی به فرایندهای تحقیقاتی ارائه میکند.
به گزارش گروه ترجمه خبرگزاری برنا به نقل از انگجت، شرکت آنتروپیک بهویژه داریو آمودی مدیرعامل این شرکت در پی افشای هک شدن Hugging Face توسط عاملهای هوش مصنوعی اوپنایآی توجه ویژهای به موضوع ایمنی هوش مصنوعی نشان داده است. این شرکت در همین روند جزئیات تازهای درباره نحوه استفاده از هوش مصنوعی در فعالیتهای تحقیق و توسعه خود منتشر کرده است.
آنتروپیک در یک مطلب وبلاگی جدید مجموعهای از استانداردهای اندازهگیری را پیشنهاد کرده که به گفته این شرکت میتواند به شرکتهای فعال در حوزه هوش مصنوعی کمک کند سرعت توسعه این فناوری را شفافتر و قابلمقایسهتر گزارش کنند. در همین مطلب آنتروپیک اعلام کرده است کلود در حال حاضر هدایت ۲۶ درصد از فعالیتهای تحقیق و توسعه هوش مصنوعی این شرکت را بر عهده دارد.
منظور آنتروپیک از هدایت این است که کلود میتواند با دریافت یک دستور کلی و سطح بالا بیشتر مراحل یک کار را بهصورت سرتاسری انجام دهد در حالی که یک انسان بر فرایند کار نظارت میکند. با وجود این تعریف سهم ۲۶ درصدی کلود از فعالیتهای تحقیق و توسعه هوش مصنوعی آنتروپیک همچنان رقم قابلتوجهی محسوب میشود.
حضور کلود در بیش از ۹۰ درصد فعالیتهای تحقیقاتی
آنتروپیک همچنین اعلام کرده است هوش مصنوعی اکنون دستکم بخشهای بزرگی از کار را تحت هدایت نزدیک انسان در بیش از ۹۰ درصد از فعالیتهای تحقیقاتی این شرکت انجام میدهد. این رقم شامل همان ۲۶ درصد از فعالیتهایی است که کلود در آنها میتواند بیشتر فرایند را از ابتدا تا انتها هدایت کند.
این آمار نشان میدهد کلود در بخش عمده فعالیتهایی که کارکنان آنتروپیک در حوزه تحقیق و توسعه هوش مصنوعی انجام میدهند به نوعی حضور دارد؛ با این حال خود شرکت تاکید کرده است که این چتبات هنوز در هیچ بخش اندازهگیریشدهای از فعالیتهای تحقیق و توسعه هوش مصنوعی بهطور کامل و مستقل فعالیت نمیکند.
حتی در مواردی که کلود بخش عمده یک کار را انجام میدهد انسان همچنان در چرخه انجام و نظارت بر فعالیت حضور دارد و این فرایند را نمیتوان خودمختاری کامل عامل هوش مصنوعی در نظر گرفت.
سه شاخص برای سنجش سرعت توسعه هوش مصنوعی
آنتروپیک این آمار را در قالب نخستین مورد از سه شاخص پیشنهادی خود برای اندازهگیری سرعت توسعه هوش مصنوعی ارائه کرده است. این شاخص بر مفهوم تحقیق و توسعه هوش مصنوعی تحت هدایت هوش مصنوعی یا AI-led AI R&D تمرکز دارد.
این شرکت با استفاده از شاخصی برای اندازهگیری میزان فعالیتهای تحقیق و توسعه هوش مصنوعی که توسط کلود انجام میشود و همچنین مقیاس سنجش میزان خودکارسازی توسعهیافته توسط Epoch AI توانسته است نموداری از سطح خودکارسازی فعالیتهای کلود تهیه کند.
این نمودار روند سطح خودکارسازی کلود را از اوت ۲۰۲۵ نشان میدهد. آنتروپیک معتقد است سایر شرکتهایی که در مرز توسعه مدلهای هوش مصنوعی فعالیت میکنند نیز میتوانند با استفاده از دادههای داخلی خود و تایید یک شخص ثالث روشی مشابه برای اندازهگیری میزان خودکارسازی فعالیتهای تحقیق و توسعه خود ایجاد کنند.
اندازهگیری میزان نظارت انسان بر عاملهای هوش مصنوعی
آنتروپیک در کنار میزان مشارکت هوش مصنوعی در تحقیق و توسعه دو روش دیگر را نیز برای ارزیابی سرعت و نحوه پیشرفت توسعه هوش مصنوعی پیشنهاد کرده است.
یکی از این روشها به اندازهگیری میزان نظارت بر عاملهای هوش مصنوعی مربوط میشود. این شاخص میتواند مواردی مانند میزان فعالیت عامل که تحت نظارت قرار میگیرد مدتزمان لازم برای بررسی عملکرد عامل و تعداد دفعاتی که رفتار عامل هوش مصنوعی توسط ناظران علامتگذاری یا گزارش میشود را در نظر بگیرد.
شاخص دیگر نیز میزان توان محاسباتی یا Compute اختصاصیافته به فعالیتهای تحقیق و توسعه هوش مصنوعی را بررسی میکند. به اعتقاد آنتروپیک بررسی این معیارها میتواند تصویر روشنتری از سرعت توسعه مدلهای پیشرفته هوش مصنوعی ارائه دهد.
تلاش برای شفافتر شدن روند توسعه هوش مصنوعی
هدف آنتروپیک از پیشنهاد این معیارها، افزایش شفافیت در صنعت هوش مصنوعی است. این شرکت معتقد است اگر شرکتهای فعال در توسعه مدلهای پیشرفته اطلاعات قابلاندازهگیری و قابلمقایسهای درباره میزان خودکارسازی، سطح نظارت انسانی و منابع محاسباتی مورد استفاده خود منتشر کنند، امکان درک عمومی از سرعت توسعه هوش مصنوعی افزایش خواهد یافت.
به گفته آنتروپیک چنین شفافیتی میتواند در صورت مشاهده روندهای نگرانکننده واکنش به توسعه احتمالی خارج از کنترل هوش مصنوعی را آسانتر کند یا دستکم دید روشنتری درباره سرعت پیشرفت این فناوری در اختیار عموم قرار دهد.
با این حال مسئله اصلی در حال حاضر صرفا دستیابی به توافق میان شرکتها درباره ضرورت کاهش سرعت توسعه هوش مصنوعی نیست.
اوپنایآی نیز پیشتر بر اهمیت این ایده تاکید کرده و آنتروپیک نیز متعهد شده است اجازه دهد ارزیابهای شخص ثالث فرایندهای توسعه این شرکت را بررسی کنند.
مواضع داریو آمودی درباره ایمنی هوش مصنوعی حتی با واکنش مثبت ایلان ماسک در شبکه اجتماعی X نیز همراه شده است. با این حال اینکه صنعت هوش مصنوعی در نهایت تحت نظارتی فراتر از سازوکارهای خودتنظیمی قرار خواهد گرفت یا خیر همچنان مشخص نیست.
انتهای پیام/
