دستیار هوش مصنوعی شما هم قربانی می‌شود؟ ترفند مخفی هکرها که چشم انسان نمی‌بیند!

به گزارش تیترستان؛ پژوهشگران امنیت سایبری هشدار داده‌اند که دستیارهای هوش مصنوعی، برخلاف کاربران انسانی، توانایی تشخیص دستورهای مخرب پنهان‌شده در ایمیل‌های فیشینگ را ندارند و به‌سادگی فریب می‌خورند. این دستیارهای خودمختار در معرض نوعی حمله موسوم به «تزریق پرامپت» قرار دارند که در آن نفوذگران با پنهان‌سازی دستورهای متنی مخرب درون پیام‌های به ظاهر عادی، سیستم‌های پردازش زبان را وادار به اجرای فرمان‌های ناخواسته می‌کنند. شرکت امنیت سایبری Malwarebytes اعلام کرد که هکرها و حتی بات‌های سرکش، کدهای متنی را طوری پنهان می‌کنند که برای چشم انسان ناخوانا باشد اما سامانه‌های پردازش خودکار آن را دریافت و اجرا کنند. این آسیب‌پذیری جدید، زنگ خطری جدی برای کاربرانی است که به‌طور فزاینده‌ای بر ابزارهای هوش مصنوعی برای مدیریت ایمیل و کارهای روزمره تکیه می‌کنند.

چرا دستیارهای هوش مصنوعی در برابر فیشینگ آسیب‌پذیرند؟

بر اساس یافته‌های پژوهشگران، مشکل اصلی در نحوه پردازش متن توسط مدل‌های زبانی نهفته است. این مدل‌ها نمی‌توانند به‌درستی تفاوت میان «متنی که باید صرفاً خوانده شود» و «دستوری که باید به اجرا درآید» را تشخیص دهند. آپولو رینز، توسعه‌دهنده سرویس بررسی کد ShipItClean، در این باره می‌گوید: «نقص واقعی ناتوانی مدل در تشخیص تفاوت میان متنی است که باید صرفاً خوانده شود با دستوری که باید به اجرا درآید.» به گفته او، حذف محتوای پنهان پیش از رسیدن به دست مدل اقدامی ضروری به‌شمار می‌رود و هر شرکتی باید چنین کاری انجام دهد. این در حالی است که بسیاری از دستیارهای هوش مصنوعی فعلی هیچ سازوکاری برای پاکسازی ورودی‌های مخرب ندارند.

رینز همچنین تأکید کرد کاربرانی که نسبت به ایمیل‌های مشکوک محتاط هستند، باید به عملکرد دستیار هوشمند خود نیز بی‌اعتماد باشند. او هشدار می‌دهد که حتی اگر کاربر خودش ایمیل را باز نکند، دستیار هوش مصنوعی ممکن است به‌طور خودکار آن را پردازش کرده و دستورهای مخفی را اجرا کند. با ورود ابزارهایی مانند Muse متعلق به متا به زندگی روزمره و واگذاری کارهای مستقل بدون نظارت، این خطرات ابعاد گسترده‌تری به خود می‌گیرند. پژوهشگران پیش‌تر شواهد این نوع رخنه را در مرورگرهای هوشمند و بات‌های شبکه اجتماعی Moltbook نیز ثبت کرده بودند.

راهکارهای مقابله؛ از حذف محتوای پنهان تا نظارت انسانی

شرکت Malwarebytes برای مهار خطرات احتمالی توصیه می‌کند کاربران حضور انسانی را در چرخه تصمیم‌گیری حفظ کنند. در بیانیه این شرکت آمده است: «نیازی به کنار گذاشتن ابزارهای هوش مصنوعی پردازش ایمیل نیست؛ اما باید سطح دسترسی و نوع اختیارات واگذارشده را با دقت ارزیابی کرد.» به عبارت دیگر، کاربران باید به دستیارهای هوش مصنوعی خود اجازه اجرای خودکار دستورهای حساس مانند انتقال وجه یا تغییر رمز عبور را ندهند. همچنین توسعه‌دهندگان باید سازوکار خوانش داده‌ها را دگرگون سازند و محتوای پنهان را پیش از پردازش حذف کنند.

کارشناسان باور دارند اقدامات حساسی مانند امور پرداختی، انتقال وجه یا تغییر مشخصات حساب‌های مالی همواره نیازمند تأیید نهایی انسان هستند تا رقابت پنهان تبهکاران سایبری در بهره‌برداری از این نفوذگاه‌ها مهار شود. آنها پیشنهاد می‌کنند که شرکتها یک لایه بررسی انسانی را در فرآیندهای خودکار خود بگنجانند و به کاربران امکان دهند تا پیش از اجرای هر دستور مشکوک، آن را تأیید یا رد کنند. این رویکرد «انسان در حلقه» می‌تواند خطر حملات تزریق پرامپت را به‌طور قابل‌توجهی کاهش دهد.

پیامدهای آینده و اهمیت هوشیاری کاربران

با گسترش استفاده از دستیارهای هوش مصنوعی در زندگی روزمره، انتظار می‌رود که حملات سایبری علیه این سیستم‌ها نیز افزایش یابد. هکرها به‌طور مداوم روش‌های جدیدی برای دور زدن مکانیزم‌های امنیتی ابداع می‌کنند و تزریق پرامپت تنها یکی از این روش‌هاست. کارشناسان پیش‌بینی می‌کنند که در آینده نزدیک شاهد حملات پیچیده‌تری باشیم که نه‌تنها ایمیل، بلکه پیام‌های متنی، شبکه‌های اجتماعی و حتی اسناد اداری را هدف قرار دهند. بنابراین، کاربران باید نسبت به هرگونه محتوای ورودی به دستیار هوش مصنوعی خود هوشیار باشند و از باز کردن ایمیل‌های ناشناس خودداری کنند.

علاوه بر این، شرکتها و توسعه‌دهندگان هوش مصنوعی مسئولیت دارند که امنیت محصولات خود را در اولویت قرار دهند. آنها باید سرمایه‌گذاری بیشتری روی تحقیقات امنیتی انجام دهند و مکانیزم‌های دفاعی قوی‌تری را در محصولات خود تعبیه کنند. در نهایت، ترکیب نظارت انسانی، فناوری‌های پاکسازی محتوا و آموزش کاربران می‌تواند از بروز فاجعه‌های احتمالی جلوگیری کند. بدون شک، آینده هوش مصنوعی بدون امنیت پایدار، آینده‌ای پرخطر خواهد بود.