هشدار کارشناسان درباره هکرهای هوش مصنوعی
به گزارش برنا، شرکت استارتاپی آنتروپیک اخیرا اعلام کرد، نخستین کارزار هکری هدایتشده توسط هوش مصنوعی در جهان، واکنشهای متفاوتی از سوی کارشناسان امنیت سایبری بههمراه داشته است.
برخی ناظران نسبت به رسیدن به نقطهای که مدتها از آن هراس داشتند، زنگ خطر را به صدا درآوردهاند؛ درحالیکه دیگران با دیده تردید به این ادعاها مینگرند و میگویند گزارش این شرکت، جزئیات مهمی را حذف کرده و پرسشهای بیشتری مطرح میکند.
الجزیره در این باره نوشت، آنتروپیک اعلام کرد که دستیار «Claude Code» دستکاری شده و ۸۰ تا ۹۰ درصد یک حمله سایبری «بزرگمقیاس» و «بسیار پیچیده» را انجام داده است و دخالت انسانی تنها «گاهبهگاه» لازم بوده است.
آنتروپیک، سازنده چتبات محبوب Claude، گفت این حمله قصد نفوذ به نهادهای دولتی، مؤسسات مالی، شرکتهای فناوری و کارخانههای شیمیایی را داشته، هرچند تنها در تعداد محدودی از موارد موفق بوده است.
این شرکت که مستقر در سانفرانسیسکو است و حمله را به هکرهای مورد حمایت چین نسبت داده، مشخص نکرد که چگونه این عملیات را کشف کرده و نام «حدود» ۳۰ هدف موردنظر را نیز فاش نکرد.
«رومن یامپولسکی»، کارشناس هوش مصنوعی و امنیت سایبری در دانشگاه لوییویل، گفت شکی نیست که هکهای مبتنی بر هوش مصنوعی تهدیدی جدی هستند، هرچند صحت جزئیات گزارش اخیر بهسختی قابل راستیآزمایی است.
او به الجزیره گفت: «مدلهای امروزی میتوانند کدهای بهرهبرداری (exploit) را بنویسند و تطبیق دهند، حجم عظیمی از دادههای سرقتشده را غربال کنند و ابزارها را سریعتر و ارزانتر از تیمهای انسانی هماهنگ کنند. ما عملاً یک تیم عملیات سایبری مبتدی را در فضای ابری قرار دادهایم که ساعتی قابل اجاره است.» او پیشبینی کرد که هوش مصنوعی هم تعداد و هم شدت حملات را افزایش خواهد داد.
«خایمه سویا»، مدیر تحقیقات Epoch AI، گفت چیز جدیدی در گزارش آنتروپیک نمیبیند، اما تجربه نشان داده حملات مبتنی بر هوش مصنوعی کاملاً محتمل و رو به افزایش هستند.
او گفت: «احتمالا بیشترین آسیب متوجه کسبوکارهای متوسط و سازمانهای دولتی خواهد بود. اینها معمولاً هدف ارزشمندی برای کارزارهای گسترده نبودند و در امنیت سایبری سرمایهگذاری کافی نداشتند، اما هوش مصنوعی آنها را به اهداف سودآور تبدیل میکند.»
درحالیکه بسیاری از تحلیلگران خواستار انتشار اطلاعات بیشتر از سوی آنتروپیک شدهاند، برخی دیگر ادعاهای آن را بیاعتبار دانستهاند.
پس از آنکه سناتور آمریکایی کریس مورفی هشدار داد حملات هدایتشده با هوش مصنوعی در صورت نبود مقررات «ما را نابود خواهد کرد»، «یان لیکان»، دانشمند ارشد هوش مصنوعی متا، این قانونگذار را متهم کرد که «گول خورده» است. لیکان در پستی در شبکه ایکس گفت: «آنها با مطالعات مشکوک همه را میترسانند تا مدلهای متنباز از میدان خارج شوند.» سخنگوی سفارت چین در واشینگتن دیسی گفت چین «قاطعانه با هر شکل از حملات سایبری» مخالف است.
او به الجزیره گفت: «امیدواریم طرفهای مربوط با رویکردی حرفهای و مسئولانه، توصیف خود از حوادث سایبری را بر شواهد کافی استوار کنند، نه بر حدس و گمان و اتهامات بیپایه.»
«توبی موری»، کارشناس امنیت رایانه در دانشگاه ملبورن، گفت شرکت آنتروپیک انگیزههای تجاری دارد تا هم خطر حملات مبتنی بر AI را برجسته کند و هم توانایی خودش را در مقابله با آنها به رخ بکشد.
او گفت: «متأسفانه آنها شواهد دقیقی ارائه نمیکنند که نشان دهد دقیقاً چه کارهایی انجام شده یا چه میزان نظارت انسانی وجود داشته است؛ بنابراین قضاوت قطعی درباره این ادعا دشوار است.»
بااینحال، موری گفت گزارش برایش چندان شگفتآور نیست، با توجه به اینکه برخی دستیارهای هوش مصنوعی در انجام کارهای پیچیده برنامهنویسی بسیار مؤثر هستند.
او افزود: «فکر نمیکنم هکهای مبتنی بر AI نوع حملات را تغییر دهند، اما مقیاس را تغییر میدهند. باید انتظار حملات بیشتر و موفقتر را داشته باشیم.»
درحالیکه خطرات هوش مصنوعی برای امنیت سایبری رو به افزایش است، کارشناسان میگویند AI در تقویت دفاعها نیز نقشی کلیدی خواهد داشت.
«فرد هایدینگ»، پژوهشگر دانشگاه هاروارد در حوزه امنیت رایانه و امنیت هوش مصنوعی، گفت در بلندمدت هوش مصنوعی «مزیت قابلتوجهی» به متخصصان امنیت خواهد داد.
او گفت: «امروز بسیاری از عملیاتهای سایبری بهخاطر کمبود نیروهای متخصص محدود هستند. هوش مصنوعی به ما کمک خواهد کرد تا بتوانیم همه سیستمها را در ابعاد وسیع آزمایش کنیم.» هایدینگ که گزارش آنتروپیک را «بهطور کلی معتبر، اما بزرگنماییشده» توصیف کرد، گفت خطر اصلی این است که هکرها از فرصت استفاده کنند، درحالیکه متخصصان امنیت هنوز با سرعت پیشرفت AI هماهنگ نشدهاند.
او هشدار داد: «اگر جامعه مدافع سریع عمل نکند و نتواند فناوری جدید را در سامانههای خودکار تست امنیت و اصلاح آسیبپذیریها اعمال کند، مهاجمان با فشردن یک دکمه میتوانند هرجومرج بهراه بیندازند، پیش از آنکه دفاعها فرصت واکنش داشته باشند.»
انتهای پیام/
