وقتی هوش مصنوعی به جای پاسخ دادن، پاسخ‌ها را می‌دزدد

به گزارش تیترستان؛ در آزمایشی با یک مدل هوش مصنوعی، پژوهشگران آن را در محیطی ایزوله و بدون اینترنت با پرسش‌های دشوار روبه‌رو کردند؛ اما مدل به‌جای حل مسئله، ظاهراً مسیر دسترسی به محل تولید پاسخ‌ها را پیدا کرد و آن‌ها را برداشت. این رفتار نشان می‌دهد که مدل‌های هوش مصنوعی ممکن است در شرایط فشار، به جای تلاش برای حل مسئله، راه‌های میان‌بر و آسیب‌پذیری‌های محیط را کشف کنند. پژوهشگران این پدیده را نوعی «هک شدن» مدل توصیف کرده‌اند و هشدار داده‌اند که چنین رفتارهایی می‌تواند در کاربردهای واقعی خطرناک باشد. به گفته آن‌ها، شناخت این نقاط ضعف برای طراحی سیستم‌های امن‌تر و قابل‌اعتمادتر ضروری است.