در نگاه نخست، ایدهی ماشینهایی که بتوانند همانند یک سرباز انسانی بجنگند، تصمیم بگیرند و شلیک کنند، بیش از آنکه واقعیت داشته باشد، به قلمرو داستانهای علمیتخیلی تعلق داشت اما پیشرفت شتابان هوش مصنوعی در زمینههای بینایی ماشین، یادگیری عمیق و پردازش بلادرنگ دادههای میدانی طی یک دهه گذشته، این تصور را به واقعیتی عملیاتی نزدیک کرده است.
به گزارش برنا، امروزه بازاری مشخص و رو به رشد برای سامانههای تسلیحاتی خودمختار شکل گرفته، سامانههایی که با تکیه بر الگوریتمهای پیچیده، دادههای حسگرها، پهپادها و شبکههای شناسایی را تحلیل کرده و میتوانند بدون دخالت مستقیم انسان، اهداف بالقوه را شناسایی و اولویتبندی کنند. این تحول، تنها یک جهش فناورانه نیست، بلکه نشاندهنده تغییر پارادایم در طراحی و بهکارگیری قدرت نظامی است.
دولتها با وعده دستیابی به برتری راهبردی، افزایش سرعت واکنش در میدان نبرد و کاهش هزینههای انسانی و سیاسی، به سرعت به سوی این فناوریها گرایش یافتهاند. تسلیحات خودمختار، محاسبه تصمیمگیری برای ورود به درگیری نظامی را دگرگون میکند؛ وقتی جنگیدن با ماشینها ممکن باشد، آستانه تصمیم برای توسل به زور کاهش مییابد. این روند، خطر عادیسازی خشونت و گسترش درگیریهای کمهزینه، اما مداوم را افزایش میدهد و ماهیت جنگهای مدرن را بازتعریف میکند.
مسئولیت اخلاقی و چالش الگوریتمها
یکی از مهمترین چالشها، تعیین مسئولیت در تصمیمهای مرگ و زندگی است. حتی در پیشرفتهترین سامانهها، انسان نقش نهایی را در شلیک ایفا میکند، اما وقتی خطا رخ دهد، مشخص کردن مسئول واقعی پیچیده میشود. معمولاً فردی که آخرین تصمیم عملیاتی را گرفته، مسئول شناخته میشود، حتی اگر اطلاعات ارائهشده از سوی سامانه ناقص یا نادرست باشد.
هوش مصنوعی ذاتا قادر به درک ارزش اخلاقی جان انسان نیست و افراد در الگوریتمها به نقاط داده تبدیل میشوند که باید حذف شوند. چنین رویکردی سرعت تصمیمگیری را بالا میبرد، اما ظرافتهای انسانی میدان نبرد را نادیده میگیرد؛ بنابراین واگذاری اختیار بیشتر به ماشینها، به معنای انتقال بخشی از مسئولیت اخلاقی جنگ به الگوریتمهاست.
رقابت ژئوپلیتیکی و مسابقه تسلیحاتی
با وجود دغدغههای اخلاقی و حقوقی، تقاضا برای تسلیحات خودمختار رو به افزایش است. قدرتهای نظامی بزرگ جهان، این فناوریها را به عنوان مؤلفهای حیاتی در جنگهای آینده میبینند و ترس از عقبماندن راهبردی، دولتها را به سرمایهگذاری سریع در این حوزه سوق داده است.
این رقابت نه فقط بر سر تعداد یا قدرت تخریبی تسلیحات، بلکه بر سر سرعت پردازش، کیفیت الگوریتمها و برتری تصمیمسازی ماشینی شکل گرفته و سیاستگذاری محتاطانه اغلب قربانی شتاب عملیاتی میشود. نتیجه این است که منطق بازدارندگی فناورانه جایگزین خویشتنداری و مسئولیت اخلاقی در حوزه نظامی شده است.
ضرورت تنظیمگری و همکاری جهانی
در چنین فضایی، تسلیحات خودمختار مبتنی بر هوش مصنوعی به یکی از مناطق بحرانی امنیت بینالمللی تبدیل شدهاند. خلأ مقرراتی موجود میتواند باعث عادیسازی خشونت و تصمیمگیری ماشینی در کشتار شود.
در پاسخ نهادهای حقوق بشری و جامعه بینالمللی خواستار معاهده جهانی الزامآور هستند که توسعه، استقرار و استفاده از این سامانهها را در چارچوب قواعد اخلاقی و حقوقی روشن محدود کند. چنین توافقی میتواند اصل کنترل معنادار انسانی را در چرخه کامل طراحی و استفاده عملیاتی تسلیحات تضمین کند و از استقلال کامل ماشینی جلوگیری کند.
با این حال، روند توسعه این فناوریها همچنان ادامه دارد و قدرتهای نظامی بزرگ، توجه چندانی به ملاحظات اخلاقی مخالفان نمیکنند. آینده جنگهای مدرن، بیش از هر زمان دیگری به تصمیمهایی گره خورده که امروز درباره مرز اختیارات ماشین، جایگاه قضاوت انسانی و مسئولیت اخلاقی و حقوقی اتخاذ میشود.
انتهای پیام/