ایجنت هوش مصنوعی خودمختار OpenClaw در چین باعث نگرانی کاربران شد. ایجنتهای خودمختار سیستمهایی هستند که بدون نیاز به نظارت انسان در لحظه وظایف مختلفی مانند مدیریت ایمیلها، سازماندهی اطلاعات و اجرای دستورات پیچیده را انجام میدهند.
به گزارش برنا، گفته میشود در برخی موارد اوپنکلاو اطلاعات را بدون اطلاع مستقیم کاربر تغییر میدهد یا حذف میکند. همین موضوع نگرانیهایی جدی را در خصوص قابلیت کنترل و میزان اعتمادپذیری این سیستمها ایجاد کرده است.
کارشناسان هشدار میدهند که توسعهی سریع ایجنتهای هوش مصنوعی خودمختار در صورت نبود چارچوبهای نظارتی دقیق میتواند به خطرات بزرگی در حوزهی حریم خصوصی و امنیت اطلاعات بهدنبال داشته باشد.
ایجنتهای خودمختار با دسترسی مستقیم به اطلاعات حساس کاربران در صورت بروز خطا یا سوءاستفاده میتوانند پیامدهایی خطرناک و غیرقابل کنترل داشته باشند.
انتهای پیام/