سلطه زبان انگلیسی بر هوش‌مصنوعی تهدیدی برای امنیت جهانی

به گزارش خبرنگار علمی و فناوری خبرگزاری برنا؛ کارشناسان فرانسوی‌زبان در نامه‌ای سرگشاده به رهبران جهانی و غول‌های فناوری هشدار دادند که تسلط زبان انگلیسی بر توسعه هوش مصنوعی می‌تواند خطراتی برای "تنوع فرهنگی جهانی" و "حاکمیت ملی" به همراه داشته باشد.

این نامه که روز جمعه توسط مؤسسه «آینده زندگی» منتشر شد، بر نبود تنوع زبانی و فرهنگی در مدل‌های هوش مصنوعی و ارزیابی‌های ایمنی تأکید می‌کند. این کارشناسان معتقدند که این کمبود‌ها "تهدیدی برای حاکمیت ملی کشور‌های محل استفاده از این فناوری و همچنین برای ایمنی کاربران" ایجاد می‌کند.

این کارشناسان از رهبران جهانی و شرکت‌های فناوری خواستار اولویت دادن به چندزبانی در توسعه هوش مصنوعی شده‌اند و این مسئله را نه به‌عنوان یک امر جانبی، بلکه به‌عنوان یکی از اصول بنیادین در ایجاد هوش مصنوعی ایمن، عادلانه و جهانی مطرح کرده‌اند.

در ژانویه، پژوهشگران دانشگاه براون دریافتند که تدابیری که برای جلوگیری از پاسخ‌گویی GPT-۴ شرکت OpenAI به درخواست‌های خطرناک طراحی شده بود، زمانی که به زبان‌هایی مانند زولو یا گالیک اسکاتلندی داده شد، ناکام ماند. این امر به پژوهشگران اجازه داد که پاسخ‌های هوش مصنوعی در مورد نحوه ساخت بمب خانگی را دریافت کنند. این آسیب‌پذیری به دلیل نبود داده‌های آموزشی در این زبان‌ها امکان‌پذیر شد و ترجمه‌ها با استفاده از گوگل ترنسلیت انجام شدند.

انتشار این نامه هم‌زمان با آغاز اجلاس فرانکوفونی و همچنین آماده‌سازی فرانسه برای میزبانی از اجلاس اقدامات هوش مصنوعی در ماه فوریه صورت گرفت. فرانسه به‌وضوح نشان داده است که قصد دارد به یک مرکز هوش مصنوعی تبدیل شود و دولت این کشور در این فناوری و استارت‌آپ‌های برجسته‌ای مانند MistralAI و H Company سرمایه‌گذاری کرده است.

با این حال، شرکت‌های بزرگ فناوری مدل‌های هوش مصنوعی خود را عمدتاً به زبان انگلیسی منتشر و توسعه می‌دهند. باوجود این‌که مدل‌های هوش مصنوعی به بسیاری از زبان‌های دیگر نیز در دسترس هستند، بسیاری از زبان‌های محلی نادیده گرفته شده و داده‌های آموزشی بیشتر به زبان انگلیسی است.

این کارشناسان بیان کردند که تمرکز زبان‌محور هوش مصنوعی بر انگلیسی می‌تواند به سوءتعبیر‌های مهم و تصمیم‌گیری‌های نادرست در زمینه‌های زبانی مختلف منجر شود.

از جمله امضاکنندگان این نامه می‌توان به محمد فراهات، نایب‌رئیس گروه مشورتی چندجانبه (MAG) مجمع حکمرانی اینترنت آفریقا (AFIGF) و نمایندگان مؤسسه فدرال فناوری لوزان سوئیس و وزارت آموزش تونس اشاره کرد.

ایمانه بلو، مسئول نشست ایمنی هوش مصنوعی در مؤسسه آینده زندگی بیان کرد که این نامه خواستار تدوین استاندارد‌های بین‌المللی است تا اطمینان حاصل شود که یک سیستم برای تمامی کاربران ایمن و سودمند است و به نیاز اساسی برای ارزیابی‌های چندزبانه و چندفرهنگی می‌پردازد.

وی همچنین افزود که این موضوع برای کشور‌های انگلیسی‌زبان نیز مهم است: "اگر ملاحظات مرتبط با ایمنی هوش مصنوعی چندزبانه لحاظ نشود، کار‌های علمی ارزیابی‌های کنونی ممکن است بخش بسیار مهمی را نادیده بگیرد. "

او همچنین هشدار داد که نبود این بخش مهم می‌تواند به آسیب به جوامع آسیب‌پذیر منجر شود.

گزارش از: زهرا وجدانی

انتهای پیام/