همکاری هوش مصنوعی گوگل با مجرمان سایبری کشف شد!

گروه علمی و فناوری خبرگزاری برنا؛ مدل زبانی هوش مصنوعی بارد (Bard) که توسط گوگل توسعه  یافته است، در پاسخ به درخواست کاربران خود، ایمیل‌های فیشینگ تولید و در اختیار آن‌ها قرار می‌دهد.

بررسی‌ها همچنین نشان می‌دهد که اگر دستورات دقیقی از سوی کاربر به بارد ارسال شود، این چت‌بات امکان تولید باج افزارهای مخرب را هم دارد بنابراین باید گفت که این چت‌بات مشکلات امنیتی حائز اهمیتی دارد.

شرکت تحقیقاتی چک‌پوینت این تحلیل را انجام داده است. پیش‌تر نیز متخصصان از توانایی چت‌جی‌پی‌تی شرکت اوپن‌ای‌آی برای تولید برنامه‌های ضدامتیتی سخن گفته بودند.

اوپن.ای.آی تلاش‌هایی برای ارتقا امنیت محصول خود انجام داده است اما هنوز برآورد دقیقی درباره بهبود عملکرد آن منتشر نشده است ولی گوگل هنوز اقدام قابل توجهی برای اصلاح بارد انجام نداده است.

در پژوهشی که این موسسه صورت داده است متوجه شده که وقتی از هوش مصنوعی بارد و چت‌جی‌پی‌تی خواسته شده که «ایمیل فیشینگ» بنویسد، هر دوی آن‌ها درخواست را رد کردند؛ اما در 

محققان در این آزمایش زمانی که دستور ساده تولید «ایمیل فیشینگ» را صادر کردند، بارد از این کار خودداری کرد اما با کمی تغییر در محتوای دستور، بارد ایمیل فیشینگ تولید کرد!

چک‌پوینت در گزارش خود آورده است: «چت‌جی‌پی‌تی درخواست ما را رد کرد، اما بارد یک ایمیل فیشینگ که عالی نوشته شده بود و خود را به جای یک سرویس مالی مشخص جا می‌زد، ارسال کرد».

براساس گزارش منتشر شده از سوی محققان، چت‌بات گوگل در ادامه آزمایش دستور دیگر آن‌ها درباره تولید یک کد باج‌افزاری که بتواند کل یک دستگاه را رمزگذاری کند، پذیرفته است.

انتهای پیام/