اوپن‌ای‌آی سامانه توقف فوری مدل‌های سرکش را معرفی کرد

به گزارش تیترستان؛ اوپن‌ای‌آی از راه‌اندازی سامانه‌ای متمرکز با نام «کنترل روم» خبر داده است که هدف آن قطع فوری دسترسی و توقف مدل‌های هوش مصنوعی در شرایط بحرانی و خارج از کنترل است. این اقدام در پاسخ به نگرانی‌های فزاینده درباره خطرات مدل‌های پیشرفته و احتمال رفتارهای ناخواسته طراحی شده است. بر اساس این گزارش، کنترل روم امکان واکنش سریع به رخدادهای امنیتی را فراهم می‌کند و گامی در جهت افزایش شفافیت و مسئولیت‌پذیری در توسعه هوش مصنوعی به شمار می‌رود. کارشناسان این حرکت را نشانه توجه جدی شرکت‌های فناوری به ایمنی و کنترل مدل‌ها می‌دانند.