گوگل اعلام کرده است بهزودی امکان حذف واترمارکهای قابل مشاهده از تصاویر و ویدئوهای تولیدشده با هوش مصنوعی را در اختیار کاربران قرار میدهد. این اقدام میتواند بحثهای تازهای درباره تعادل میان آزادی عمل کاربران، استفاده خلاقانه از هوش مصنوعی و ضرورت شناسایی محتوای جعلی و دیپفیک ایجاد کند.
به گزارش گروه ترجمه خبرگزاری برنا به نقل از انگجت، جاش وودوارد معاون گوگل اعلام کرده است که کاربران بهزودی میتوانند نمایش واترمارکهای قابل مشاهده روی محتوای تولیدشده توسط برخی مدلهای هوش مصنوعی این شرکت را غیرفعال کنند. این قابلیت ابتدا برای مدلهای Nano Banana، Omni و Lyria ارائه خواهد شد و در آینده به Gemini و ویرایشگر ویدئویی Flow نیز خواهد رسید.
این واترمارکها همان نماد درخشان یا Sparkle هستند که روی محتوای تولیدشده با ابزارهای هوش مصنوعی گوگل نمایش داده میشوند و به کاربران کمک میکنند در نگاه نخست متوجه شوند یک تصویر یا ویدئو توسط هوش مصنوعی ساخته شده است.
تصمیم جدید گوگل به معنای حذف کامل سازوکارهای شناسایی محتوای تولیدشده با هوش مصنوعی نیست. این شرکت تاکید کرده است که غیرفعال کردن واترمارک قابل مشاهده واترمارک نامرئی SynthID و همچنین فراداده C۲PA را تحت تاثیر قرار نمیدهد.
SynthID فناوری اختصاصی گوگل برای درج نشانههای نامرئی در محتوای تولیدشده با هوش مصنوعی است. این نشانه بهگونهای طراحی شده که بدون تغییر محسوس در ظاهر محتوا امکان شناسایی منشأ آن را فراهم کند.
از سوی دیگر استاندارد C۲PA نیز اطلاعات مربوط به منشا و سابقه تولید و ویرایش یک محتوای دیجیتال را در قالب فراداده ثبت میکند؛ بنابراین حتی اگر کاربر واترمارک قابل مشاهده را خاموش کند برخی روشهای فنی برای بررسی منشأ محتوای تولیدشده همچنان فعال خواهند بود.
با این حال تفاوت مهم این است که شناسایی SynthID یا بررسی اطلاعات C۲PA معمولا به اقدام بیشتری از سوی کاربر نیاز دارد، برای مثال کاربر باید از یک ابزار تشخیص استفاده کند، محتوای موردنظر را در یک سامانه بارگذاری کند یا از یک چتبات درباره منشا آن سؤال کند. در مقابل، واترمارک قابل مشاهده بدون نیاز به ابزار خاص در همان نگاه اول قابل تشخیص است.
واترمارکهای قابل مشاهده با هدف کمک به کاربران برای تشخیص سریع محتوای تولیدشده با هوش مصنوعی مورد استفاده قرار میگیرند، موضوعی که با افزایش تولید تصاویر و ویدئوهای واقعگرایانه توسط مدلهای مولد اهمیت بیشتری پیدا کرده است.
با این حال گوگل معتقد است این نشانهها در برخی کاربردهای خلاقانه میتوانند برای کاربران محدودیت ایجاد کنند. به گفته وودوارد گوگل تلاش میکند میان کنترل خلاقانه کاربران و الزامات ایمنی و شفافیت تعادل برقرار کند.
بر اساس اعلام گوگل این گزینه در تقریبا تمام کشورها عرضه خواهد شد بهجز کشورهایی که قوانین محلی حفظ واترمارک قابل مشاهده را الزامی کردهاند.
اتحادیه اروپا یکی از مهمترین نمونههای این رویکرد قانونی است. قوانین جدید این اتحادیه در حوزه شفافیت هوش مصنوعی برای محتوای تولیدشده یا دستکاریشده با هوش مصنوعی که ظاهری واقعی و اصیل دارد الزامات مشخصی برای برچسبگذاری و شناسایی در نظر گرفته است. در نتیجه کاربران در مناطقی که قوانین چنین برچسبهایی را الزامی کردهاند امکان حذف واترمارک قابل مشاهده را نخواهند داشت.
کرهجنوبی نیز پیشتر رویکرد مشابهی را در قبال محتوای تولیدشده با هوش مصنوعی اتخاذ کرده و به سمت الزام برای شناسایی چنین محتواهایی حرکت کرده است.
تصمیم گوگل در شرایطی اعلام شده که شرکتهای مختلف فناوری در حال آزمایش روشهای متفاوتی برای شفافسازی منشأ محتوای تولیدشده با هوش مصنوعی هستند.
شرکت Suno اخیرا از ابزارهای جدیدی برای افزایش شفافیت محتوای موسیقایی تولیدشده با هوش مصنوعی خبر داده است. این ابزارها میتوانند به شناسایی آثار تولیدشده با هوش مصنوعی در زمان انتشار آنها در پلتفرمهای دیگر کمک کنند.
شرکت آنتروپیک نیز اعلام کرده است که برای محتوای متنی و فایلهای تولیدشده توسط مدل Claude از واترمارکهای نامرئی مبتنی بر استاندارد C۲PA استفاده خواهد کرد. این اقدام نیز بخشی از تلاش این شرکت برای هماهنگ شدن با الزامات جدید شفافیت در اتحادیه اروپا محسوب میشود.
در مجموع اقدام جدید گوگل نشان میدهد رویکرد صنعت فناوری به برچسبگذاری محتوای هوش مصنوعی همچنان در حال تغییر است. واترمارکهای قابل مشاهده سادهترین روش برای آگاه کردن کاربران از ماهیت یک محتوا هستند، اما شرکتهای فناوری در کنار آنها به سمت روشهای فنیتر و نامرئی مانند SynthID و C۲PA نیز حرکت کردهاند. این روشها میتوانند حتی در صورت حذف نشانههای ظاهری امکان بررسی منشا محتوای تولیدشده با هوش مصنوعی را حفظ کنند.
انتهای پیام/