مرکز امنیت سایبری شرق کشور افتتاح شد

این مرکز با تمرکز بر امنیت هوش مصنوعی، فناوری اطلاعات و ارتباطات (ICT) و توسعه زیرساخت‌های پیشرفته امنیت سایبری مبتنی بر هوش مصنوعی فعالیت خود را آغاز کرده و یکی از مهم‌ترین پروژه‌های فناورانه کشور در حوزه امنیت مدل‌های هوش مصنوعی به شمار می‌رود.

به گزارش معاونت علمی ریاست جمهوری، مهم‌ترین بخش این مرکز طراحی و راه‌اندازی آزمایشگاه مرجع امنیت هوش مصنوعی است؛ آزمایشگاهی که با هدف شناسایی، ارزیابی و کاهش تهدیدات امنیتی در مدل‌های هوش مصنوعی ایجاد شده و بستری برای آزمون، تحلیل و پایش امنیت سامانه‌های هوشمند فراهم می‌کند.

این آزمایشگاه علاوه بر شناسایی آسیب‌پذیری‌های متداول سامانه‌های تحت وب از جمله حملات تزریق SQL، اسکریپت‌نویسی بین‌سایتی (XSS)، جعل درخواست سمت سرور (SSRF) و سریال‌سازی ناامن، تهدیدات اختصاصی مدل‌های هوش مصنوعی نظیر تزریق فرمان (Prompt Injection)، نشت داده، وارونگی مدل (Model Inversion) و حملات مبتنی بر ورودی‌های متخاصم (Adversarial Attacks) را نیز ارزیابی و شبیه‌سازی می‌کند.

هدف از راه‌اندازی این مرکز فراهم کردن ابزاری هوشمند برای توسعه‌دهندگان، شرکت‌های دانش‌بنیان و سازمان‌های بهره‌بردار از هوش مصنوعی است تا بتوانند پیش از بهره‌برداری از سامانه‌های خود، تهدید‌های احتمالی را شناسایی و برای رفع آنها اقدام کنند.

این مرکز همچنین با ارائه چارچوب‌های استاندارد ارزیابی امنیتی می‌تواند نقش مؤثری در ارتقای اعتماد عمومی به فناوری هوش مصنوعی و تدوین استاندارد‌های ملی و بین‌المللی امنیت این فناوری ایفا کند.

بهره‌گیری از هوش مصنوعی برای مقابله با تهدیدات سایبری در این آزمایشگاه از فناوری‌های پیشرفته‌ای همچون یادگیری ماشین و تحلیل کلان‌داده برای شناسایی الگو‌های پیچیده حملات، آسیب‌پذیری‌های پنهان، پیش‌بینی تهدیدات، هوش تهدیدات سایبری و شبیه‌سازی سناریو‌های امنیتی استفاده می‌شود.

پلتفرم امنیت هوش مصنوعی در این مرکز به گونه‌ای طراحی شده است که تهدیدات را به‌صورت پویا و در زمان واقعی (Real-Time) شناسایی کرده و امکان اجرای اقدامات پیشگیرانه را پیش از وقوع حملات فراهم می‌کند. همچنین به‌روزرسانی مستمر پلتفرم، آن را در برابر روش‌های نوظهور حملات سایبری و فناوری‌های جدید مقاوم نگه می‌دارد.

یکپارچگی با زیرساخت‌های امنیتی سازمان‌ها از دیگر قابلیت‌های این آزمایشگاه، امکان یکپارچه‌سازی با سامانه‌های امنیتی موجود از جمله سامانه‌های تشخیص نفوذ، دیواره‌های آتش (Firewall) و ابزار‌های مدیریت امنیت اطلاعات است.

تمرکز بر امنیت مدل‌های هوش مصنوعی و زبان فارسی قلمرو فعالیت این آزمایشگاه، شناسایی، تحلیل و مدیریت تهدیدات مرتبط با مدل‌های هوش مصنوعی، به‌ویژه مدل‌های زبانی بزرگ (LLM) است که امروزه در حوزه‌هایی مانند پردازش زبان طبیعی، تولید محتوا، تحلیل داده و برنامه‌نویسی هوشمند به‌کار گرفته می‌شوند.

در این مرکز، علاوه بر آسیب‌پذیری‌های مبتنی بر وب، تهدیدات ذاتی مدل‌های هوش مصنوعی نیز مورد بررسی قرار می‌گیرد تا راهکار‌هایی برای کاهش ریسک، افزایش تاب‌آوری و ارتقای امنیت این مدل‌ها ارائه شود.

یکی از ویژگی‌های متمایز این پروژه توجه ویژه به امنیت مدل‌های زبانی بر اساس زبان‌های مختلف و به طور خاص زبان فارسی است؛ موضوعی که با توجه به محدودیت ابزار‌های موجود برای ارزیابی امنیت مدل‌های فارسی‌زبان، از اهمیت بالایی برخوردار است. این سامانه با قابلیت پشتیبانی از زبان فارسی و امکان ادغام با چارچوب‌های مختلف توسعه نرم‌افزار، زمینه بهره‌برداری گسترده در سازمان‌ها و شرکت‌های فعال در حوزه هوش مصنوعی را فراهم می‌کند.

راه‌اندازی این مرکز گامی مهم در توسعه زیرساخت‌های ملی امنیت هوش مصنوعی و تقویت زیست‌بوم فناوری کشور به شمار می‌رود. پیش‌بینی می‌شود آزمایشگاه مرجع امنیت هوش مصنوعی با توسعه مستمر قابلیت‌های خود، در آینده به یکی از مراجع تخصصی ارزیابی امنیت سامانه‌های هوشمند در سطح ملی و حتی بین‌المللی تبدیل شود و نقش موثری در ارتقای امنیت دیجیتال، افزایش اعتماد به فناوری‌های هوش مصنوعی و توسعه کاربرد‌های ایمن این فناوری در کشور ایفا کند.

انتهای پیام/