شرکت آلفابت، مالک گوگل اعلام کرد قابلیت جدید تولید تصاویر مبتنی بر هوش مصنوعی در Google Earth را که تنها یک روز از معرفی آن میگذشت به طور موقت غیرفعال کرده است. این تصمیم پس از آن اتخاذ شد که کاربران تصاویری را در شبکههای اجتماعی منتشر کردند که به گفته گوگل به نظر میرسید با سیاستهای این شرکت مغایرت داشته باشند.
به گزارش گروه ترجمه خبرگزاری برنا به نقل از رویترز، این قابلیت که از مدل هوش مصنوعی Nano Banana ۲ گوگل بهره میبرد به کاربران امکان میداد تنها با وارد کردن یک دستور متنی (Prompt)، تصاویر فوتورئالیستی از هر نقطه جهان تولید کنند. این تصاویر بر پایه دادههای واقعی ماهوارهای، تصاویر هوایی و مدلهای سهبعدی Google Earth ساخته میشدند و میتوانستند صحنههای جدیدی را روی مکانهای واقعی ایجاد کنند.
با این حال این ابزار به سرعت با انتقادهایی روبهرو شد زیرا امکان ساخت تصاویر جعلی از مکانهای شناختهشده، بناهای تاریخی و نقاط مهم جهان را فراهم میکرد. منتقدان هشدار دادند که چنین قابلیتی میتواند به انتشار اطلاعات نادرست و ایجاد سناریوهای ساختگی با ظاهری کاملا واقعی منجر شود.
گوگل در بیانیهای که در شبکه اجتماعی ایکس منتشر کرد اعلام کرد: ما شاهد بودهایم که متخصصان حوزه اطلاعات مکانی (Geospatial) از این قابلیت برای کاربردهای مفید و حرفهای استفاده کردهاند، اما در عین حال مشاهده کردیم برخی کاربران تصاویری را به اشتراک گذاشتهاند که به نظر میرسد با سیاستهای ما در تضاد هستند. به همین دلیل این قابلیت را تا زمان تقویت سازوکارهای حفاظتی و اعمال محدودیتهای بیشتر متوقف میکنیم.
این شرکت توضیح نداد که دقیق چه نوع تصاویری ناقض قوانین بودهاند اما تاکید کرد تصاویر تولیدشده در محیط اصلی Google Earth نمایش داده نمیشدند و همگی دارای واترمارک (نشان) مبنی بر تولید شدن توسط هوش مصنوعی بودند تا کاربران از ماهیت ساختگی آنها آگاه باشند.
توقف این قابلیت تازهترین نمونه از چالشهایی است که شرکتهای بزرگ فناوری در مسیر توسعه ابزارهای مبتنی بر هوش مصنوعی با آن مواجه شدهاند. بسیاری از این شرکتها در سالهای اخیر تلاش کردهاند قابلیتهای مولد هوش مصنوعی را به محصولات خود اضافه کنند اما در مواردی به دلیل سوءاستفاده کاربران، نگرانیهای مربوط به انتشار اطلاعات نادرست یا مسائل مرتبط با سیاستهای استفاده ناچار به محدود کردن یا تعلیق این ابزارها شدهاند.
در همین راستا شرکت متا نیز اوایل ماه جاری میلادی قابلیت Muse Image را متوقف کرد. این ابزار به کاربران اجازه میداد با استفاده از تصاویر عمومی حسابهای اینستاگرام تصاویر جدید تولید کنند اما پس از انتقادهای گسترده درباره نگرانیهای حریم خصوصی از جمله اعتراض یک اتحادیه فعال در صنعت سینمای هالیوود از دسترس خارج شد.
اقدام اخیر گوگل نشان میدهد که با وجود پیشرفت سریع فناوریهای هوش مصنوعی مولد شرکتهای فناوری همچنان در تلاش هستند تا میان ارائه قابلیتهای نوآورانه و جلوگیری از سوءاستفاده، انتشار محتوای گمراهکننده و نقض سیاستهای خود تعادل برقرار کنند.
انتهای پیام/