حالت قفل به چت جی پی تی عرضه شد

شرکت اوپن‌ای آی از آغاز عرضه قابلیت امنیتی جدیدی با نام Lockdown Mode حالت قفلخبر داد؛ قابلیتی اختیاری که با هدف افزایش حفاظت کاربران در برابر حملات موسوم به تزریق پرامپت (Prompt Injection) طراحی شده است. این شرکت تاکید کرده که بیشتر کاربران به استفاده از این قابلیت نیازی ندارند و این ابزار عمدتا برای افراد و سازمان‌هایی توسعه یافته که با داده‌های حساس سروکار دارند.

به گزارش انگجت، حملات تزریق پرامپت نوعی مهندسی اجتماعی ویژه سامانه‌های هوش مصنوعی مکالمه‌ای محسوب می‌شود. با گسترش توانایی مدل‌های هوش مصنوعی در جست‌و‌جو و پردازش اطلاعات موجود در اینترنت مهاجمان تلاش می‌کنند دستورالعمل‌های مخرب را در صفحات وب یا منابع دیگر پنهان کنند تا این سیستم‌ها را فریب داده و به اطلاعات حساس دسترسی پیدا کنند.

اوپن‌ای‌آی اعلام کرده است که حالت قفل به‌عنوان آخرین لایه دفاعی در برابر چنین حملاتی عمل می‌کند و در کنار سازوکار‌های امنیتی موجود در ChatGPT مدل‌های هوش مصنوعی و زیرساخت‌های پشتیبان این شرکت قرار می‌گیرد. به گفته این شرکت هدف اصلی این قابلیت کاهش خطر خروج یا افشای اطلاعات حساس از طریق حملات تزریق پرامپت است.

فعال‌سازی Lockdown Mode باعث محدود شدن برخی قابلیت‌های ChatGPT می‌شود. برای مثال کاربران همچنان می‌توانند تصاویر را تولید یا عکس‌های خود را بارگذاری کنند اما سیستم ممکن است تصاویر موجود در اینترنت را فراخوانی نکند یا تصاویر را در پاسخ‌های خود نمایش ندهد. همچنین ChatGPT در این حالت قادر به دانلود فایل‌ها برای تحلیل نخواهد بود هرچند کاربران همچنان می‌توانند اسناد موردنظر خود را به‌صورت دستی بارگذاری کنند.

علاوه بر این برخی قابلیت‌های پیشرفته از جمله Deep Research و Agent Mode در حالت قفل به‌طور کامل غیرفعال می‌شوند. با این حال اوپن‌ای‌آی تاکید کرده که این قابلیت تغییری در بخش‌هایی مانند حافظه (Memory)، امکان بارگذاری فایل، اشتراک‌گذاری مکالمات یا استفاده از گفت‌و‌گو‌ها برای بهبود مدل‌های هوش مصنوعی ایجاد نمی‌کند. بسیاری از این تنظیمات نیز به‌صورت جداگانه توسط مدیران سازمانی قابل مدیریت هستند.

این شرکت همچنین توضیح داده که Lockdown Mode مانع ظاهر شدن محتوای حاوی دستورالعمل‌های مخرب در داده‌های پردازش‌شده توسط ChatGPT نمی‌شود بلکه هدف آن جلوگیری از سوءاستفاده مهاجمان برای استخراج اطلاعات حساس از حساب کاربری از طریق محدود کردن درخواست‌های شبکه‌ای قابل بهره‌برداری است.

قابلیت جدید برای تمامی حساب‌های شخصی ChatGPT از جمله کاربران نسخه رایگان در دسترس قرار گرفته است. برای فعال‌سازی آن کاربران باید وارد بخش Settings شده و از قسمت Safety and Security گزینه Lockdown Mode را در بخش Advanced Security فعال کنند. همچنین امکان غیرفعال کردن موقت این حالت برای یک گفت‌وگوی خاص از طریق گزینه Manage و انتخاب Turn off for this chat فراهم شده است.

هم‌زمان با معرفی این قابلیت اوپن‌ای‌آی از راه‌اندازی مدیر نشست‌های فعال (Active Session Manager) نیز خبر داد. این ابزار به کاربران امکان می‌دهد تمام دستگاه‌ها و مرورگر‌هایی را که به حساب کاربری آنها دسترسی داشته‌اند مشاهده کنند و در صورت نیاز از یک نشست خاص یا از تمامی نشست‌ها به‌طور هم‌زمان خارج شوند. البته فرایند خروج از تمام نشست‌ها ممکن است تا ۳۰ دقیقه زمان ببرد.

اوپن‌ای‌آی به کاربرانی که احتمال می‌دهند حسابشان مورد دسترسی غیرمجاز قرار گرفته توصیه کرده است رمز عبور خود را تغییر دهند روش‌های ورود به حساب را بررسی کنند و در صورت نیاز با تیم پشتیبانی این شرکت تماس بگیرند.

انتهای پیام/