واترمارک نامرئی Claude کاربران را نگران کرد
شرکت Anthropic بهتازگی سیاست جدیدی را برای واترمارکگذاری خروجیهای چتبات Claude اجرا کرده است، اقدامی که با هدف انطباق با الزامات شفافیت اتحادیه اروپا انجام شده، اما در میان برخی کاربران این چتبات نگرانیهایی درباره افشای استفاده آنها از هوش مصنوعی در محیطهای کاری و دانشگاهی ایجاد کرده است.
به گزارش گروه ترجمه خبرگزاری برنا به نقل از تک کرانچ، بر اساس سیاست جدید Anthropic در متن تولیدشده توسط Claude کدهای نامرئی درج میشود که به سامانههای رایانهای امکان میدهد تشخیص دهند محتوای موردنظر توسط هوش مصنوعی تولید شده است. این اقدام در راستای الزامات قانون هوش مصنوعی اتحادیه اروپا (EU AI Act) و کد شفافیت مرتبط با آن انجام شده است. این مقررات شرکتهای فناوری را ملزم میکند محتوای تولید یا ویرایششده توسط هوش مصنوعی را به شکلی قابل شناسایی برای سامانههای رایانهای علامتگذاری کنند.
با وجود اینکه این سیاست ممکن است از نگاه نهادهای نظارتی اروپایی گامی در جهت افزایش شفافیت باشد شماری از کاربران Claude با آن مخالفت کردهاند. بخشی از این نارضایتیها در شبکه اجتماعی Reddit مطرح شده است. هرچند واکنش کاربران به این موضوع یکدست نبوده و بسیاری نیز از تصمیم Anthropic حمایت کردهاند.
یکی از انتقادهای شدید در Reddit از سوی کاربری با نام visionode مطرح شده است. او مدعی شده که سیستم جدید واترمارکگذاری میتواند کاربران عادی Claude را با مشکل مواجه کند، در حالی که کاربران حرفهایتر ممکن است بتوانند با بازنویسی یا پردازش مجدد متن تولیدشده توسط سرویسهای هوش مصنوعی دیگر نشانههای استفاده از Claude را از بین ببرند.
این کاربر برای توضیح نگرانی خود به گروههایی مانند دانشجویان، روزنامهنگاران و نویسندگان اشاره کرده است. از نگاه او دانشجویی که از Claude برای سازماندهی مجدد یک پاراگراف استفاده میکند، روزنامهنگاری که از هوش مصنوعی برای خلاصهکردن یک متن ۲۰۰ صفحهای کمک میگیرد یا نویسندهای که برای پیدا کردن مترادفها از چتبات استفاده میکند ممکن است با واترمارکی مواجه شود که استفاده آنها از هوش مصنوعی را آشکار میکند.
با این حال نویسنده این گزارش معتقد است این مثالها لزوماً نشاندهنده یک مشکل واقعی نیستند. برای مثال اگر روزنامهنگاری از Claude برای خلاصهکردن یک متن ۲۰۰ صفحهای استفاده کند، وجود واترمارک روی خلاصه تولیدشده بهخودیخود مسئلهای ایجاد نمیکند مگر اینکه خبرنگار متن تولیدشده را بدون بررسی و بهصورت عینا در گزارش خود منتشر کند که از نظر اصول حرفهای روزنامهنگاری اقدامی غیراخلاقی است.
به همین ترتیب استفاده یک دانشجو از Claude برای بازنویسی یا سازماندهی یک پاراگراف در صورتی که خروجی چتبات مستقیما در مقاله یا تکلیف دانشگاهی کپی شود میتواند با اصول صداقت علمی در تضاد باشد.
برخی دیگر از کاربران Reddit نیز واکنش چندان مثبتی به اعتراض اولیه نشان ندادند.
یکی از کاربران با لحنی طعنهآمیز از نویسنده خواست یک نفس عمیق بکشد و برخی دیگر نیز استدلال کردند که هدف واترمارک، نسبتدادن مالکیت محتوا به Anthropic نیست بلکه ایجاد امکان شناسایی محتوای تولیدشده توسط هوش مصنوعی است.
اعتراضها تنها به موضوع استفاده در دانشگاه یا روزنامهنگاری محدود نمانده است. یکی دیگر از کاربران واترمارکگذاری را غیراخلاقی و منزجرکننده توصیف کرده و استدلال کرده است که کاربر با ارائه دستور، زمینه، تصمیمگیری و اصلاحات متعدد بخش اصلی فرایند تولید محتوا را انجام میدهد و Claude صرفا یک ابزار است.
این کاربر پرسیده است اگر Claude روی کد یا هر محتوای دیگری که تولید میکند واترمارک قرار دهد این اقدام دقیقاً چه سهمی از اعتبار یا مالکیت را به Anthropic نسبت میدهد؟
در مقابل کاربران دیگری پاسخ دادهاند که واترمارک به معنای ادعای مالکیت Anthropic نیست و هدف آن امکان تشخیص محتوای تولیدشده توسط هوش مصنوعی است؛ موضوعی که با توجه به خطرات احتمالی استفاده از محتوای تولیدشده توسط الگوریتمها در موقعیتهای مختلف اهمیت بیشتری پیدا کرده است.
برخی کاربران حتی به شکل طنزآمیز از منتقدان انتقاد کردهاند و گفتهاند فردی که برای اعتراض به Claude نیز از خود Claude کمک گرفته است نمیتواند بهسادگی درباره پیامدهای استفاده از هوش مصنوعی اعتراض کند.
در عین حالهمه انتقادها از سیاست جدید Anthropic بر مبنای ادعای قربانیشدن کاربران نیست. برخی کاربران استدلالهای پیچیدهتری را مطرح کردهاند و نسبت به ماهیت واترمارکگذاری محتوای هوش مصنوعی انتقاد دارند.
یکی از کاربران این اقدام را نوعی تناقض دانسته و معتقد است واترمارکگذاری محصولی که خود با استفاده گسترده از آثار و محتوای دیگران برای آموزش مدل هوش مصنوعی شکل گرفته اقدامی بحثبرانگیز است. به اعتقاد او ایجاد سیستمی که آثار تولیدشده با کمک هوش مصنوعی را بهطور دائمی علامتگذاری کند در شرایطی که بسیاری از مدلهای پیشرفته هوش مصنوعی با استفاده از حجم گستردهای از دادههای انسانی آموزش دیدهاند، جنبهای متناقض و نگرانکننده دارد.
با این حال به نظر میرسد واکنش غالب کاربران نسبت به واترمارکگذاری Claude مثبتتر از مخالفتهاست. شماری از کاربران Reddit این اقدام را راهکاری منطقی برای شناسایی محتوای تولیدشده توسط الگوریتمها میدانند، بهویژه در شرایطی که تشخیص منشا محتوای متنی برای جلوگیری از فریب یا سوءاستفاده اهمیت پیدا کرده است.
یکی از کاربران در واکنش به این بحث گفته است که هیچ استدلال خوبی برای مخالفت با این سیستم وجود ندارد و تنها دلیلی که ممکن است فردی نخواهد محتوای تولیدشده توسط هوش مصنوعی قابل شناسایی باشد تمایل به پنهانکردن این موضوع از دیگران است.
در مجموع تصمیم Anthropic برای افزودن واترمارک نامرئی به خروجیهای Claude بار دیگر بحث قدیمی درباره شفافیت، مالکیت، اصالت و نحوه اعلام استفاده از هوش مصنوعی را داغ کرده است. در حالی که طرفداران این فناوری آن را ابزاری برای افزایش اعتماد و امکان تشخیص محتوای مصنوعی میدانند، منتقدان نگراناند که چنین سازوکاری بتواند استفادههای مشروع و محدود از هوش مصنوعی را نیز در محیطهایی مانند دانشگاه، رسانه و محل کار آشکار کند.
انتهای پیام/
