به گزارش خبرنگار علم و فناوری خبرگزاری برنا، شرکت گوگل اخیرا اعلام کرد که مدل هوش‌مصنوعی جدید این شرکت، قادر به تشخیص احساسات افراد است. این ادعا نگرانی‌هایی را در میان کارشناسان ایجاد کرده است.
شرکت گوگل به‌تازگی از مجموعه جدید مدل‌های هوش‌مصنوعی خود با نام PaliGemma ۲ رونمایی کرده که توانایی تحلیل عکس‌ها و شناسایی محتوای آنها را دارند. این مدل‌ها می‌توانند توضیحات خودکار بنویسند و به سؤالات کاربران پیرامون تصاویر پاسخ دهند. همچنین، گوگل اعلام کرده که این ابزار‌ها قادر به شناسایی احساسات افراد در تصاویر نیز هستند.
گوگل اعلام کرد قابلیت تشخیص احساسات به‌طور پیش‌فرض در PaliGemma ۲ فعال نیست و برای استفاده از آن باید تنظیمات خاصی انجام شود. هنوز مشخص نیست که این ویژگی تا چه اندازه دقیق عمل می‌کند. یکی از کاربرد‌های اصلی این فناوری، شناسایی احساسات مشتریان است که می‌تواند تحول بزرگی در صنعت بازاریابی ایجاد کند. این امر موجب نگرانی‌هایی در میان کارشناسان شده است، به‌ویژه با توجه به دسترسی گسترده گوگل به داده‌های کاربران و فعالیت‌های تبلیغاتی آن.
تحقیقات اخیر نشان داده‌اند که سیستم‌های تشخیص احساسات موجود در حال حاضر دقت بالایی ندارند. برخی از این سیستم‌ها حتی احساسات را به‌طور نادرست به گروه‌های خاصی از افراد نسبت می‌دهند؛ به‌عنوان مثال، احساسات منفی در برخی از این سیستم‌ها اغلب به افراد سیاه‌پوست نسبت داده می‌شود. با این حال، گوگل اعلام کرده که آزمایش‌های گسترده‌ای انجام داده تا از عدم وجود چنین مشکلاتی در مدل خود اطمینان حاصل کند.
هنوز مشخص نیست که گوگل از چه استاندارد‌هایی برای ارزیابی دقت مدل PaliGemma ۲ استفاده کرده است، اما گفته شده که این مدل در بنچمارک FairFace امتیاز خوبی کسب کرده است. FairFace مجموعه‌ای از تصاویر چهره افراد است که برای ارزیابی عملکرد سیستم‌های تشخیص احساسات به‌کار می‌رود، ولی منتقدان معتقدند که این مجموعه تصاویر تنوع کمی دارد و امتیاز آن نمی‌تواند کاملاً قابل اعتماد باشد.
قانون جامع هوش‌مصنوعی اشاره دارد که استفاده از ابزار‌های تشخیص احساسات برای نهاد‌هایی مانند مدارس و شرکت‌ها ممنوع است، اما نهاد‌های نظارتی مانند پلیس می‌توانند از آن بهره ببرند. با این وجود، به دلیل انتشار کد‌های مدل PaliGemma ۲ به‌صورت متن‌باز، کارشناسان نگران سوءاستفاده‌های احتمالی از این مدل جدید گوگل هستند.
انتهای پیام/