OpenAI نسخه ویژه ChatGPT برای نوجوانان را با محدودیتهای امنیتی بیشتر عرضه کرد
گروه علمی و فناوری برنا: شرکت OpenAI روز سهشنبه از راهاندازی حالت جدید ChatGPT برای نوجوانان خبر داد. این نسخه با هدف ایجاد محیطی امنتر برای کاربران کمسنوسال، کنترلهای والدین و قابلیتهای امنیتی تقویتشده را در اختیار خانوادهها قرار میدهد.
به گزارش گروه ترجمه خبرگزاری برنا به نقل از انگجت، بر اساس اعلام OpenAI حالت جدید برای نوجوانان طراحی شده و گفتوگو درباره موضوعات پرخطر از جمله خودآزاری، خشونت و اختلالات خوردن را محدود میکند. این شرکت همچنین اعلام کرده است که ابزارهای آموزشی جدیدی در این نسخه قرار گرفته تا ChatGPT به جای ارائه مستقیم پاسخ تکالیف به دانشآموزان در فرایند یادگیری کمک کند.
فعال شدن خودکار حالت نوجوانان
OpenAI میگوید حالت ChatGPT برای نوجوانان زمانی که سیستم احتمال دهد کاربر کمتر از ۱۸ سال دارد بهصورت خودکار فعال خواهد شد. همچنین کاربرانی که سن خود را بین ۱۳ تا ۱۷ سال اعلام کنند در این حالت قرار میگیرند.
این شرکت برای تخمین سن کاربران از ترکیبی از اطلاعات اعلامشده توسط خود کاربر، الگوهای رفتاری، سیگنالهای مربوط به حساب کاربری و روشهای احراز سن استفاده خواهد کرد. OpenAI تأکید کرده است هر زمان سیستم درباره سن کاربر اطمینان نداشته باشد تنظیمات ایمنتر را بهصورت پیشفرض فعال میکند.
بر اساس سیاست فعلی OpenAI استفاده از ChatGPT برای افراد حداقل ۱۳ ساله یا حداقل سن قانونی تعیینشده در کشور محل زندگی کاربر مجاز است.
کنترل بیشتر والدین بر استفاده نوجوانان
یکی از بخشهای اصلی نسخه جدید ابزارهای کنترل والدین است. والدین میتوانند برخی تنظیمات حساب نوجوان را مدیریت کنند و برای استفاده از ChatGPT بازههای زمانی مشخصی تحت عنوان ساعات سکوت یا Quiet Hours تعیین کنند.
همچنین در شرایطی که نوجوان درباره موضوعات حساس با ChatGPT گفتوگو کند والدین امکان دریافت اعلان خواهند داشت. این قابلیت با هدف افزایش آگاهی والدین از وضعیت استفاده فرزندانشان از چتبات طراحی شده است.
تمرکز بر یادگیری به جای ارائه مستقیم پاسخ
OpenAI در نسخه مخصوص نوجوانان قابلیتهای آموزشی متعددی نیز در نظر گرفته است. از جمله این ابزارها میتوان به حالت مطالعه (Study Mode) یادآوری انجام تکالیف آزمونهای آموزشی و قابلیتهای تصویری برای کمک به درک بهتر مطالب اشاره کرد.
شرکت میگوید هدف از این امکانات آن است که هوش مصنوعی بیشتر نقش یک همراه آموزشی را ایفا کند و دانشآموز را در مسیر رسیدن به پاسخ راهنمایی کند نه اینکه صرفا پاسخ نهایی تکالیف را در اختیار او قرار دهد.
OpenAI در توضیح این رویکرد اعلام کرده است که هوش مصنوعی باید فرصتهای آموزشی را گسترش دهد و به همین دلیل ChatGPT برای نوجوانان برای کمک به دانشآموزان در زمانهایی طراحی شده است که دسترسی آنها به کمک آموزشی همیشه امکانپذیر نیست.
افزایش نگرانیها درباره تاثیر چتباتها بر نوجوانان
راهاندازی نسخه ویژه نوجوانان در شرایطی انجام شده که شرکتهای فناوری در سالهای اخیر با فشار فزایندهای برای افزایش ایمنی کاربران کمسنوسال مواجه شدهاند.
پلتفرمهایی مانند متا نیز اقدامات امنیتی بیشتری برای نوجوانان در سرویسهای خود اعمال کردهاند و همزمان نگرانیها درباره آثار استفاده از شبکههای اجتماعی و ابزارهای هوش مصنوعی بر سلامت روان کودکان و نوجوانان افزایش یافته است.
در کشورهای مختلف نیز بحث درباره محدود کردن دسترسی نوجوانان به شبکههای اجتماعی شدت گرفته و برخی دولتها به دنبال وضع قوانین سختگیرانهتر برای محافظت از کاربران کمسنوسال در فضای آنلاین هستند.
پروندههای قضایی علیه OpenAI
برای OpenAI این موضوع اهمیت بیشتری دارد؛ زیرا این شرکت با چندین پرونده قضایی مواجه است که در آنها ادعا شده تعامل نوجوانان با ChatGPT در برخی موارد به آسیبهای جدی منجر شده است.
نگرانی اصلی کارشناسان این است که چتباتهای امروزی به دلیل توانایی در برقراری گفتوگوهای شبیه به تعامل انسانی ممکن است از سوی کاربران بهعنوان محرم راز یا منبع حمایت عاطفی مورد استفاده قرار گیرند.
کارشناسان پیشتر هشدار دادهاند که اتکا به سیستمهای خودکار برای دریافت توصیههای مربوط به سلامت روان میتواند خطراتی به همراه داشته باشد. خانوادههایی نیز در برخی پروندهها پس از مرگ نزدیکان خود، درباره تعامل آنها با چتباتهای هوش مصنوعی انتقادهایی مطرح کرده و خواستار تقویت سازوکارهای ایمنی شدهاند.
نگرانی درباره استفاده دانشآموزان از هوش مصنوعی
گسترش استفاده نوجوانان از هوش مصنوعی برای انجام تکالیف مدرسه نیز به یکی دیگر از نگرانیهای مهم تبدیل شده است. منتقدان معتقدند استفاده نادرست از چتباتها میتواند باعث شود دانشآموزان به جای یادگیری و حل مسئله، پاسخ آماده دریافت کنند.
در مقابل، OpenAI تلاش دارد با ابزارهایی مانند حالت مطالعه استفاده آموزشی از ChatGPT را به سمت یادگیری هدایت کند.
بر اساس یافتههای مرکز پژوهشی Pew Research Center که در اوایل سال جاری منتشر شد، جستوجوی اطلاعات و کمک گرفتن برای انجام تکالیف از رایجترین کاربردهای هوش مصنوعی در میان نوجوانان آمریکایی بوده است. سرگرمی و تفریح نیز در رتبههای بعدی قرار داشتهاند.
در مجموع OpenAI با عرضه ChatGPT برای نوجوانان تلاش کرده است میان استفاده گسترده نسل کمسنوسال از ابزارهای هوش مصنوعی و نگرانیهای مربوط به ایمنی، سلامت روان و آموزش تعادل ایجاد کند، رویکردی که در آن تشخیص سن، کنترل والدین، محدودیت برای موضوعات پرخطر و ابزارهای آموزشی نقش محوری دارند.
انتهای پیام/
