کرم‌های اینترنتی با قدرت هوش مصنوعی/ آیا بات‌نت‌های خودمختار در راهند؟
گروه علمی و فناوری برنا/ آنتروپیک هشدار داده است که مدل‌های کوچک هوش مصنوعی ممکن است تنها چند ماه تا توانایی تکثیر و انتشار خودکار در دستگاه‌های آسیب‌پذیر فاصله داشته باشند، قابلیتی که می‌تواند به شکل‌گیری بات‌نت‌هایی کند اما به‌سختی قابل حذف منجر شود. با این حال کارشناسان معتقدند اگرچه این تهدید واقعی است بسیاری از خطرات آن پیش‌تر در حملات سایبری سنتی نیز مشاهده شده‌اند.
پژوهش جدید تیم قرمز امنیتی (Frontier Red Team) شرکت آنتروپیک نشان می‌دهد مدل‌های کوچک هوش مصنوعی ممکن است در آینده‌ای نزدیک، توانایی تکثیر و گسترش خود در دستگاه‌های ناامن و آسیب‌پذیر متصل به اینترنت را به دست آورند. چنین قابلیتی می‌تواند زمینه‌ساز شکل‌گیری بات‌نت‌های خودمختاری شود که به‌آرامی در شبکه گسترش پیدا می‌کنند اما شناسایی و از بین بردن کامل آنها دشوار خواهد بود.
اگرچه شرکت‌های فعال در حوزه هوش مصنوعی بار‌ها از ظرفیت‌های بالقوه و حتی تهدید‌های آخرالزمانی فناوری‌های خود سخن گفته‌اند و گاهی این هشدار‌ها می‌تواند بخشی از راهبرد بازاریابی آنها باشد، کارشناسانی که وب‌سایت انگجت با آنها گفت‌و‌گو کرده است در یک نکته اتفاق نظر دارند: مدل‌های کوچک هوش مصنوعی ممکن است در آینده‌ای نزدیک به قابلیت خودتکثیری و انتشار در شبکه‌های آسیب‌پذیر دست پیدا کنند. با این حال تهدید ناشی از این قابلیت احتمالا به اندازه‌ای که در نگاه نخست به نظر می‌رسد پدیده‌ای کاملا جدید نیست.
مدل‌های خودتکثیرشونده زودتر از پیش‌بینی‌ها از راه می‌رسند؟
کریس کانال مدیرعامل شرکت EquiStamp که با آزمایشگاه‌های هوش مصنوعی، سازمان‌های فعال در حوزه ایمنی و دولت‌ها برای راستی‌آزمایی و ارزیابی مدل‌ها همکاری می‌کند معتقد است ظهور چنین قابلیتی ممکن است زودتر از پیش‌بینی‌های قبلی اتفاق بیفتد.
او در این‌باره می‌گوید: شاید این اتفاق کمی زودتر از زمانی رخ دهد که من پیش‌بینی می‌کردم. تصورم این بود که تابستان سال آینده زمانی باشد که واقعا باید نگران این موضوع شویم.
کانال با اشاره به اینکه آنتروپیک احتمالا به اطلاعاتی درباره پیشرفت‌های پیشرفته‌ترین پژوهش‌های این حوزه دسترسی دارد که در اختیار او نیست، احتمال می‌دهد پیش‌بینی این شرکت بر مبنای داده‌های دقیق‌تری انجام شده باشد.
به گفته او یکی از دلایل سرعت گرفتن پیشرفت مدل‌های هوش مصنوعی این است که کارکنان آنتروپیک و دیگر آزمایشگاه‌های پیشرو از ابزار‌های هوش مصنوعی خود برای انجام پژوهش‌های یادگیری ماشین استفاده می‌کنند. این روند می‌تواند چرخه توسعه فناوری را سریع‌تر کند و به پیشرفت توانایی‌های مدل‌ها در مدت‌زمان کوتاه‌تری بینجامد.
مایکل بیلی، استاد دانشکده امنیت سایبری و حریم خصوصی موسسه فناوری جورجیا نیز معتقد است مدل‌های خودتکثیرشونده هوش مصنوعی در آینده ظهور خواهند کرد.
او می‌گوید: فکر می‌کنم مدل‌های خودتکثیرشونده در آینده وجود خواهند داشت. این موضوع واقعی است و آنها را خواهیم دید اما اینکه دقیقا با همان شکل و ساختاری که آنتروپیک مطرح می‌کند ظاهر شوند و همان پیامدهای مورد ادعای این شرکت را داشته باشند همچنان پرسشی کاملا باز است.
از بات‌نت Mirai تا نسل جدید حملات سایبری مبتنی بر هوش مصنوعی
بیلی از اوایل دهه ۲۰۰۰ میلادی درباره کرم‌های اینترنتی و در سال‌های اخیر درباره بات‌نت‌ها مطالعه کرده است. او در سال ۲۰۱۷ یکی از نویسندگان پژوهشی با عنوان درک بات‌نت Mirai بود؛ پژوهشی که آنتروپیک نیز در تحقیقات جدید خود به آن استناد کرده است.
بات‌نت Mirai به گروهی از مجرمان سایبری امکان داد شبکه بزرگی از دستگاه‌های متصل به اینترنت اشیا (IoT) را تحت کنترل بگیرند و از آنها برای اجرای حمله منع سرویس توزیع‌شده (DDoS) علیه شبکه پلی‌استیشن شرکت سونی استفاده کنند.
این حمله در نهایت شرکت Dyn یکی از بزرگ‌ترین ارائه‌دهندگان خدمات سامانه نام دامنه (DNS) در آمریکا را نیز تحت تاثیر قرار داد. اختلال ایجادشده در خدمات این شرکت باعث شد بخش بزرگی از اینترنت در سال ۲۰۱۶ از دسترس کاربران خارج شود و سرویس‌هایی مانند آمازون، گیت‌هاب، پی‌پال، ردیت و توییتر برای بسیاری از کاربران در آمریکا و بخش‌هایی از اروپا با اختلال مواجه شوند.
پیامدهای مالی این حمله نیز قابل‌توجه بود؛ به‌طوری‌که سونی برآورد کرد حدود ۲.۷ میلیون دلار از درآمد خالص خود را در نتیجه این حمله از دست داده است.
بیلی درباره اهمیت تجربه Mirai می‌گوید: این بات‌نت نشان داد که می‌توان شبکه‌های بزرگی از دستگاه‌های روزمره ایجاد کرد و از آنها برای انجام حملات استفاده کرد؛ دستگاه‌هایی مانند روتر‌های کابلی و دوربین‌های مجهز به اتصال اینترنت. پیش از آن تصور می‌کردیم چنین دستگاه‌هایی نه به‌عنوان هدف حمله و نه به‌عنوان منبعی برای تامین توان پردازشی حملات برای مهاجمان چندان کاربردی نیستند اما در عمل مشخص شد که این دستگاه‌ها برای چنین اقداماتی بسیار موثر هستند.
اکنون حدود یک دهه پس از آن حمله آنتروپیک استدلال می‌کند که کرم‌های مبتنی بر هوش مصنوعی می‌توانند تحول مهمی در مقایسه با بات‌نت‌هایی مانند Mirai و Kimwolf ایجاد کنند زیرا این سامانه‌ها ممکن است بتوانند بدون نیاز به دخالت مستقیم انسان، دستگاه‌های ناآشنا را شناسایی کنند و خود را با محیط‌های متفاوت سازگار سازند.
با این حال بیلی معتقد است قابلیت سازگاری با دستگاه‌های مختلف به‌خودی‌خود موضوع جدیدی نیست. بات‌نت Mirai نیز از ابتدا می‌توانست روی مجموعه‌ای از دستگاه‌های ناهمگون، از روتر‌ها گرفته تا دوربین‌های تحت شبکه با معماری‌های پردازنده متفاوت فعالیت کند.
تفاوت اصلی در محدودیت‌های این فرایند بود. برای سازگار کردن بدافزار با هر معماری سخت‌افزاری جدید، دست‌کم به دخالت انسان و انجام اقداماتی مانند کامپایل مجدد کد‌های مخرب نیاز بود.
به گفته بیلی نوآوری احتمالی هوش مصنوعی در این است که بتواند این فرایند را خودکار کند، هرچند او معتقد است آنتروپیک در پژوهش خود این توانایی را به شکلی قانع‌کننده به اثبات نرسانده است.
هوش مصنوعی لزوما حملات جدیدی نمی‌سازد اما هزینه آنها را تغییر می‌دهد
از نگاه بیلی، ورود مدل‌های قدرتمندتر هوش مصنوعی به حوزه حملات سایبری لزوما به معنای ظهور روش‌های کاملا جدید برای نفوذ و تخریب نیست بلکه می‌تواند تقسیم کار میان مهاجمان و مدافعان را تغییر دهد و هزینه و دشواری ساخت بات‌نت‌ها را کاهش دهد.
او در این‌باره می‌گوید: قرار نیست هوش مصنوعی کار‌های کاملا جدیدی انجام دهد بلکه قرار است اقتصاد و موازنه میان مهاجمان و مدافعان را تغییر دهد.
در آزمایش‌های آنتروپیک یک مدل هوش مصنوعی توانست میان دستگاه‌های مختلف جابه‌جا شود و فرایند استقرار قابلیت اجرای استنتاج (Inference) را روی هر دستگاه راه‌اندازی کند. با این حال، این آزمایش در یک شبکه شبیه‌سازی‌شده انجام شد و آسیب‌پذیری یا همان سازوکار بهره‌برداری (Exploit) مورد استفاده در آن بسیار ساده بود.
بیلی همچنین با نحوه توصیف این فرایند به‌عنوان خودتکثیری موافق نیست.
او توضیح می‌دهد: این چارچوب‌بندی تا حدی نام‌گذاری نادرستی است زیرا آنچه انجام می‌دهند شامل اقداماتی مانند تقسیم‌بندی (Sharding) است. این کار لزوما بد نیست اما شبیه یک کرم یا ویروس نیست و به معنای انتشار کامل نیست.
به اعتقاد او یک بات‌نت مبتنی بر هوش مصنوعی در دنیای واقعی ممکن است بیشتر به نوعی بدافزار موسوم به دراپر (Dropper) شباهت داشته باشد. دراپر نوعی بدافزار است که ابتدا راهی برای ورود و استقرار در یک دستگاه پیدا می‌کند و سپس کد‌های مخرب دیگری را روی آن نصب می‌کند.
بر این اساس به‌جای آنکه بات‌نت نسخه کاملی از خودش را روی تک‌تک دستگاه‌های آلوده‌شده کپی کند ممکن است یک ابزار کوچک هماهنگ‌کننده روی هر دستگاه نصب کند که دستور‌های لازم را از بخش دیگری از شبکه دریافت می‌کند.
بیلی در توضیح این تفاوت می‌گوید: این‌طور نیست که خود بدافزار مانند کرم‌های اینترنتی موجود به‌صورت خودتکثیرشونده عمل کند؛ یعنی نسخه‌ای دقیق از کد خودم را روی معماری جدید کپی کنم و آن نسخه نیز به‌عنوان یک عامل جدید شروع به کار کند. در واقع، آنچه اتفاق می‌افتد چنین چیزی نیست.
او همچنین یادآوری می‌کند که برخی کرم‌های اینترنتی می‌توانند چندریخت (Polymorphic) باشند؛ به این معنا که امضا‌های شناسایی و حتی رفتار خود را تغییر دهند تا شناسایی و مقابله با آنها دشوارتر شود.
به گفته بیلی، برای اینکه یک بات‌نت مبتنی بر هوش مصنوعی نیز چنین قابلیتی داشته باشد مدل‌های آن باید بتوانند خود را مجددا آموزش دهند؛ قابلیتی که آنتروپیک در پژوهش خود آن را آزمایش نکرده است.
نزدیک‌ترین دستاورد این شرکت به چنین قابلیتی، نمایش فرایندی بود که در آن نسخه‌های مختلف یک مدل می‌توانستند یادداشت‌ها و اطلاعاتی را به نسخه‌های بعدی منتقل کنند و به این ترتیب، در طول زمان عملکرد بهتری در راه‌اندازی فرایند استنتاج داشته باشند.
آیا هشدار آنتروپیک بخشی از رقابت بازاریابی شرکت‌های هوش مصنوعی است؟
در کنار ابعاد فنی این پژوهش، انتشار هشدار‌های امنیتی از سوی شرکت‌های فعال در حوزه هوش مصنوعی همواره این پرسش را مطرح می‌کند که آیا چنین گزارش‌هایی صرفاً با هدف افزایش توجه عمومی به محصولات و فناوری‌های این شرکت‌ها منتشر می‌شوند؟
این پرسش به‌ویژه درباره آنتروپیک مطرح شده است؛ شرکتی که در فاصله کوتاهی پس از انتشار این پژوهش به‌طور رسمی مدارک مربوط به عرضه اولیه سهام (IPO) خود را نیز ثبت کرده است.
با این حال کانال معتقد است نگرانی شرکت‌های پیشرو هوش مصنوعی درباره عملکرد رقبا می‌تواند توضیح محتمل‌تری برای انتشار چنین هشدار‌هایی باشد.
او می‌گوید: به نظرم احتمال بیشتری وجود دارد که شرکت‌ها نگران بی‌احتیاطی سایر شرکت‌های هوش مصنوعی باشند. آنها می‌دانند که برای ساخت بهترین مدل و عرضه سریع‌تر آن به بازار انگیزه دارند تا سهم بیشتری از بازار را به دست آورند و همچنین می‌دانند شرکت‌های دیگر نیز دقیقا با همین انگیزه‌ها فعالیت می‌کنند.
به بیان دیگر رقابت برای توسعه و عرضه سریع‌تر مدل‌های قدرتمند ممکن است باعث شود برخی شرکت‌ها پیش از ارزیابی کامل پیامدهای امنیتی محصولات خود را در دسترس کاربران قرار دهند؛ موضوعی که می‌تواند خطر سوءاستفاده از قابلیت‌های جدید هوش مصنوعی را افزایش دهد.
راهکار مقابله با بات‌نت‌های هوش مصنوعی چندان جدید نیست
صرف‌نظر از اینکه تهدید جدید آنتروپیک را بتوان به‌طور دقیق یک کرم اینترنتی نامید یا نه و اینکه ظهور گسترده آن چقدر به آینده نزدیک است، پیشنهاد‌های خود این شرکت برای کاهش خطرات چنین حملاتی تا حد زیادی بر راهکار‌های قدیمی امنیت سایبری استوار است.
یکی از پیشنهاد‌های آنتروپیک این است که ارائه‌دهندگان خدمات اینترنتی (ISP) در صورت شناسایی آلودگی در دستگاه‌های مشتریان آنها را مطلع کنند و سپس دسترسی اینترنتی این دستگاه‌ها را به فهرست محدودی از وب‌سایت‌های امن محدود سازند. این راهبرد پیش‌تر نیز در جریان مقابله با بات‌نت Mirai به کار گرفته شده و نتایج موثری داشته است.
آنتروپیک همچنین بر ضرورت قانون‌گذاری برای افزایش امنیت دستگاه‌های متصل به اینترنت اشیا تاکید می‌کند. این شرکت برای نمونه به بریتانیا اشاره کرده است که بر اساس قانون امنیت محصولات و زیرساخت‌های مخابراتی (PSTI Act) استفاده از گذرواژه‌های پیش‌فرض ساده و به‌راحتی قابل حدس در دستگاه‌های اینترنت اشیا ممنوع شده است.
بیلی نیز معتقد است مقابله با کرم‌های مبتنی بر هوش مصنوعی بیش از آنکه به راهکار‌های کاملا جدید و اختصاصی این فناوری نیاز داشته باشد، به رعایت اصولی وابسته است که سال‌ها در حوزه امنیت سامانه‌ها شناخته شده‌اند.
او می‌گوید: پاسخ مناسب به کرم‌های هوش مصنوعی بسیار بیشتر به اقداماتی شباهت دارد که مدت‌هاست در امنیت سامانه‌ها انجام می‌دهیم، نه چیزی که به‌طور ویژه و منحصر‌به‌فرد به حوزه هوش مصنوعی تعلق داشته باشد.
کانال نیز درباره امکان ایجاد محدودیت‌های امنیتی در مدل‌های متن‌باز با وزن‌های قابل‌دسترسی (Open-weight) هشدار می‌دهد. به گفته او افزودن سازوکار‌های حفاظتی به این مدل‌ها به‌گونه‌ای که از تبدیل شدن آنها به ابزار‌های انتشار بدافزار جلوگیری کند، کار دشواری است.
او می‌گوید: ایده‌های زیادی وجود دارد اما تاکنون هیچ راهکار مستحکمی ارائه نشده است.
کانال در ادامه به پژوهشی اشاره می‌کند که شرکت EquiStamp با همکاری FAR.AI، یک مؤسسه غیرانتفاعی فعال در زمینه پژوهش ایمنی هوش مصنوعی انجام داده است. یافته‌های این همکاری نشان می‌دهد تقریبا هر راهبردی که برای حذف سازوکار‌های حفاظتی یک مدل در اینترنت جست‌و‌جو شود، می‌تواند در عمل مورد استفاده قرار گیرد.
این مسئله نشان می‌دهد حتی اگر شرکت‌های توسعه‌دهنده تلاش کنند با افزودن محدودیت‌ها و سازوکار‌های ایمنی از سوءاستفاده احتمالی از مدل‌ها جلوگیری کنند این حفاظت‌ها در مدل‌هایی که وزن‌های آنها در دسترس عموم قرار دارد، به‌سادگی قابل دور زدن هستند.
امنیت دستگاه‌ها همچنان مهمترین خط دفاعی در برابر هوش مصنوعی مخرب است
با وجود نگرانی‌ها درباره افزایش توانایی مدل‌های هوش مصنوعی بیلی معتقد است دستگاه‌هایی که از اصول امنیتی مناسبی برخوردار باشند، همچنان می‌توانند در برابر عوامل مخرب مقاومت کنند.
او تاکید می‌کند: حتی عامل‌های هوش مصنوعی که رفتار نادرستی دارند نیز اگر با دستگاه‌هایی روبه‌رو شوند که به‌خوبی ایمن‌سازی شده‌اند، کار دشواری در پیش خواهند داشت.
از نظر او مهمترین درس پژوهش آنتروپیک این است که صنعت فناوری بار‌ها فراموش می‌کند بسیاری از اصول امنیتی که طی سال‌ها آموخته شده‌اند، همچنان اهمیت دارند و نباید با ظهور فناوری‌های جدید نادیده گرفته شوند.
بیلی در این‌باره می‌گوید: این موضوع به توجه به به‌روزرسانی و وصله امنیتی دستگاه‌ها، جداسازی و ایزوله‌سازی سامانه‌ها، استفاده از گذرواژه‌های قوی و رعایت اصول اولیه بهداشت امنیتی بازمی‌گردد.
به‌روزرسانی منظم نرم‌افزار‌ها و سیستم‌عامل‌ها، رفع آسیب‌پذیری‌های شناخته‌شده، محدود کردن ارتباط میان دستگاه‌ها و استفاده از گذرواژه‌های غیرقابل حدس از جمله اقداماتی هستند که می‌توانند احتمال نفوذ و گسترش بدافزار‌ها را کاهش دهند.
البته این راهکار‌ها با وجود سادگی در بیان، در عمل به‌سختی اجرا می‌شوند و نیازمند همکاری کاربران، تولیدکنندگان دستگاه‌ها، ارائه‌دهندگان خدمات اینترنتی و نهادهای قانون‌گذار هستند.
اگر هوش مصنوعی واقعا باعث افزایش فراوانی و گستردگی چنین حملاتی شود ممکن است دیگر امکان نادیده گرفتن این اصول امنیتی وجود نداشته باشد. تهدید بات‌نت‌های هوش مصنوعی شاید از نظر توانایی‌های فنی نسل جدیدی از حملات سایبری باشد اما مقابله با آن احتمالا بیش از هر چیز به اجرای جدی همان اصولی نیاز دارد که سال‌هاست در امنیت سایبری شناخته شده‌اند.
منبع: انگجت
انتهای پیام/
