پدر خوانده هوش مصنوعی با عذاب وجدان از گوگل رفت

این پژوهشگر نگران است که گوگل در تلاش برای رقابت با ربات‌های هوش مصنوعی نظیر ChatGPT، Bing Chat و مدل‌های مشابه، محدودیت‌ها و احتیاط‌های قبلی خود را برای توسعه هوش مصنوعی کنار بگذارد و راه را برای مشکلات اخلاقی متعدد باز کند.

هینتون نگران است که هوش مصنوعی مولد در کوتاه مدت می‌تواند به موجی از اطلاعات نادرست دامن بزند.

وی می‌گوید: شاید دیگر نتوانید بدانید چه چیزی درست است. او همچنین نگران است که این فناوری نه تنها برخی کارها را حذف کند، بلکه به طور کامل جایگزین برخی از مشاغل شود.

در ادامه، این دانشمند همچنین در مورد امکان توسعه سلاح‌های کاملاً خودمختار و تمایل مدل‌های هوش مصنوعی به یادگیری رفتارهای عجیب و غریب از داده‌های آموزشی نگران است. در حالی که برخی از این مسائل نظری هستند، هینتون از تشدید تنش می‌ترسد که بدون وضع مقررات یا توسعه اقدام‌های کنترلی موثر پیش خواهد آمد.

جفری هینتون می‌گوید سال گذشته زمانی که شرکت‌های گوگل، OpenAI و دیگران شروع به ایجاد سیستم‌های هوش مصنوعی کردند، موضع او تغییر کرده است. هوش مصنوعی تنها در پنج سال گذشته به سرعت توسعه یافته است که به گفته پدرخوانده این حوزه، این «ترسناک» است که در پنج سال آینده چه اتفاقی می‌افتد.

جف دین دانشمند ارشد گوگل در بیانیه‌ای به انگجت گفته است که شرکت گوگل همچنان به یک رویکرد مسئولانه و مراقبت از خطرات در حال ظهور متعهد است. این غول جستجو اخیراً نسخه‌ای از چت‌بات Bard خود را در ماه مارس و پس از ماه‌ها شایعات مبنی بر نگرانی این شرکت در مورد تهدید رقابتی هوش مصنوعی مولد عرضه کرد.

این در حالی بود پیش از آن، گوگل از انتشار عمومی مدل‌های هوش مصنوعی مانند هوش مصنوعی هنری Imagen خود به دلیل احتمال وجود محتوای سمی و نقض حق چاپ خودداری کرده بود.

هینتون عمر خود را وقف مطالعه شبکه‌های عصبی کرده است که اغلب کلید هوش مصنوعی هستند، اما بیشتر به خاطر توسعه یک سیستم تشخیص اشیا در سال ۲۰۱۲ شناخته می‌شود. شبکه عصبی موفق او می‌تواند از تصاویر آموزشی برای کمک به تشخیص اشیای رایج استفاده کند.

گوگل در سال ۲۰۱۳ استارتاپ DNNresearch متعلق به هینتون را خریداری کرد و مفهوم زیربنایی اختراع او به رشد موجی از توسعه کمک کرد که منجر به فناوری هوش مصنوعی مولد امروزی شد.

تعدادی از دانشگاهیان و افراد برجسته در حوزه فناوری از جمله ایلان ماسک و استیو وزنیاک نیز اخیراً نامه‌ای سرگشاده امضا و منتشر کرده‌اند که در آن خواستار توقف شش ماهه توسعه هوش مصنوعی برای رسیدگی به مشکلات اخلاقی و ایمنی آن شده‌اند. با این حال، سخنان هینتون به عنوان یکی از برجسته‌ترین چهره‌های این صنعت، وزن قابل توجهی دارد.

انتهای پیام/