سازمان ملل: سرعت پیشرفت هوش مصنوعی از قانون‌گذاری جلو زد

سازمان ملل متحد در نخستین گزارش مقدماتی هیئت مستقل بین‌المللی علمی هوش مصنوعی هشدار داده است که سرعت پیشرفت فناوری هوش مصنوعی به اندازه‌ای بالاست که نظام‌های فعلی قانون‌گذاری و حکمرانی دیگر توان همگام شدن با آن را ندارند. به گفته این هیئت، روند توسعه مدل‌های هوش مصنوعی به شکلی شتابان ادامه دارد و سیاست‌گذاران در سراسر جهان برای تدوین قوانین و چارچوب‌های نظارتی با چالش جدی مواجه شده‌اند.

به گزارش انگجت، این گزارش نخستین خروجی رسمی هیئت مستقل علمی هوش مصنوعی سازمان ملل است، نهادی که وظیفه دارد اطلاعات علمی موردنیاز برای گفت‌و‌گو‌های جهانی درباره حکمرانی هوش مصنوعی را فراهم کند. قرار است این یافته‌ها مبنای مذاکرات گفت‌وگوی جهانی سازمان ملل درباره حکمرانی هوش مصنوعی باشد که از ششم ژوئیه در ژنو آغاز می‌شود و نمایندگان کشور‌های عضو در آن درباره نحوه مدیریت و تنظیم این فناوری به بحث خواهند پرداخت.

رشد بی‌سابقه توانایی‌های هوش مصنوعی

در این گزارش آمده است که قابلیت‌های هوش مصنوعی طی چند سال گذشته با سرعتی بی‌سابقه افزایش یافته‌اند به‌گونه‌ای که پیچیدگی وظایفی که مدل‌های هوش مصنوعی قادر به انجام آن هستند هر چند ماه یک‌بار تقریبا دو برابر می‌شود. این تحول فرصت‌های گسترده‌ای برای پیشرفت علمی، پزشکی و اقتصادی ایجاد کرده است.

به گفته هیئت علمی سازمان ملل هوش مصنوعی می‌تواند روند کشف دارو‌های جدید و توسعه واکسن‌ها را تسریع کند، نقش مهمی در تحقیقات مربوط به مقاومت آنتی‌بیوتیکی ایفا کند و به پزشکان در تشخیص زودهنگام بیماری‌هایی مانند سرطان پستان کمک کند. همچنین پژوهشگران می‌توانند از این فناوری برای ایجاد سامانه‌های هشدار سریع در زمینه ناامنی غذایی و مدیریت بحران‌های انسانی استفاده کنند.

افزایش تهدید‌ها و آسیب‌های ناشی از هوش مصنوعی

در کنار این مزایا گزارش سازمان ملل نسبت به گسترش آسیب‌ها و خطرات ناشی از هوش مصنوعی نیز هشدار می‌دهد. بر اساس این گزارش افراد سودجو از هوش مصنوعی برای تولید و انتشار دیپ‌فیک‌های غیراخلاقی و تصاویر و ویدئو‌های جعلی با محتوای جنسی استفاده می‌کنند؛ موضوعی که حتی شامل تولید محتوای سوءاستفاده جنسی از کودکان (CSAM) نیز شده است.

گزارش به پرونده تحقیقاتی ایالت کالیفرنیا درباره سامانه هوش مصنوعی گراک (Grok) در ماه ژانویه اشاره می‌کند؛ تحقیقی که به دلیل انتشار دیپ‌فیک‌های بدون رضایت افراد و محتوای مرتبط با سوءاستفاده جنسی از کودکان آغاز شد.

هیئت علمی همچنین هشدار داده است که هوش مصنوعی قادر به تولید اطلاعات نادرست، اما بسیار باورپذیر است. این موضوع می‌تواند به گسترش اخبار جعلی و اطلاعات گمراه‌کننده منجر شود. افزون بر این مجرمان سایبری نیز می‌توانند از این فناوری برای طراحی و اجرای حملات سایبری پیچیده‌تر بهره ببرند.

نگرانی درباره رفتار برخی مدل‌های هوش مصنوعی

یکی دیگر از موضوعات مورد توجه گزارش رفتار برخی مدل‌های هوش مصنوعی است که به‌اصطلاح چاپلوس (Sycophantic) توصیف شده‌اند. این مدل‌ها گاهی به جای اصلاح یا هشدار درباره رفتار‌های نادرست کاربران، باور‌ها و رفتار‌های آسیب‌زای آنها را تایید و تقویت می‌کنند؛ مسئله‌ای که در برخی موارد می‌تواند پیامد‌های بسیار خطرناکی از جمله افزایش احتمال خودکشی به همراه داشته باشد.

این گزارش همچنین هشدار می‌دهد که با خودمختارتر شدن مدل‌های هوش مصنوعی، نظارت، کنترل و مدیریت آنها دشوارتر خواهد شد و این موضوع نیازمند سازوکار‌های نظارتی جدید است.

نگرانی درباره مراکز داده و پیامد‌های زیست‌محیطی

هیئت علمی سازمان ملل به پیامد‌های توسعه گسترده مراکز داده موردنیاز برای اجرای سامانه‌های هوش مصنوعی نیز اشاره کرده است. به گفته این نهاد ساخت مراکز داده عظیم برای تامین توان پردازشی موردنیاز مدل‌های پیشرفته می‌تواند آثار منفی بر محیط‌زیست و جوامع محلی اطراف این تاسیسات بر جای بگذارد.

چرا قانون‌گذاران از فناوری عقب مانده‌اند؟

در بخش دیگری از گزارش آمده است که نظام‌های فعلی حکمرانی اساسا برای فناوری‌هایی با چنین سرعت تحول طراحی نشده‌اند. معمولا نهاد‌های قانون‌گذار پیش از تصویب مقررات جدید به شواهد و داده‌های علمی کافی نیاز دارند، اما تا زمانی که این اطلاعات جمع‌آوری و تحلیل شود فناوری هوش مصنوعی چندین گام دیگر پیش رفته و قوانین تدوین‌شده ممکن است دیگر پاسخگوی شرایط جدید نباشند.

به همین دلیل هیئت علمی سازمان ملل تاکید کرده است که برای حفظ ایمنی، شفافیت و پاسخگویی سامانه‌های هوش مصنوعی، باید ارزیابی‌های مستقل، همکاری‌های بین‌المللی و استاندارد‌های مشترک جهانی تقویت شوند.

هشدار درباره نابرابری و تمرکز قدرت

این گزارش هشدار می‌دهد که در صورت نبود سازوکار‌های حفاظتی مناسب هوش مصنوعی می‌تواند به تعمیق نابرابری‌های اجتماعی، گسترش اطلاعات نادرست، تهدید حقوق بشر، اختلال در بازار کار و تمرکز بیش از حد قدرت در اختیار تعداد محدودی از دولت‌ها و شرکت‌های بزرگ منجر شود.

همچنین در گزارش تاکید شده است که دسترسی به فناوری‌های پیشرفته هوش مصنوعی عمدتا در کشور‌های توسعه‌یافته متمرکز است و بخش عمده مدل‌های پیشرفته در ایالات متحده و چین توسعه می‌یابند. در مقابل بسیاری از کشور‌های در حال توسعه هنوز از زیرساخت‌ها، منابع مالی و تخصص لازم برای بهره‌برداری کامل از ظرفیت‌های هوش مصنوعی برخوردار نیستند.

انتشار گزارش جامع در سال آینده

هیئت مستقل بین‌المللی علمی هوش مصنوعی سازمان ملل تاکید کرده است که ماموریت این نهاد، ارائه ارزیابی‌های علمی و تخصصی است و نقش قانون‌گذاری ندارد. این هیئت در ادامه به بررسی تحولات فناوری هوش مصنوعی ادامه خواهد داد تا دولت‌ها بتوانند از یافته‌های آن در تدوین سیاست‌ها و مقررات آینده استفاده کنند.

بر اساس اعلام سازمان ملل نسخه جامع‌تر و کامل‌تر این گزارش قرار است در سال آینده منتشر شود و مبنای تصمیم‌گیری‌های بین‌المللی درباره حکمرانی هوش مصنوعی قرار گیرد.

انتهای پیام/