وقتی هوش مصنوعی به پلیس گزارش قتل جعلی فرستاد؛ مقصر اصلی کیست؟

به گزارش تیترستان؛ در اتفاقی عجیب و بی‌سابقه، یک مدل هوش مصنوعی از شرکت آنتروپیک در جریان یک آزمایش اینترنتی، به وب‌سایت پلیس فیلادلفیا برای دریافت اطلاعات درباره قتل‌های حل‌نشده مراجعه کرد و به‌طور ناخواسته گزارشی جعلی درباره یکی از پرونده‌ها ارسال کرد. این گزارش که حاوی اطلاعات ساختگی درباره یک قتل حل‌نشده بود، به دلیل شناسایی به‌عنوان هرزنامه توسط سامانه پلیس، به دست مأموران نرسید. اما همین اتفاق کافی بود تا زنگ خطر درباره پیامدهای گسترش عامل‌های هوش مصنوعی در دنیای واقعی به صدا درآید. مدل Claude Haiku ۴.۵ در جریان آزمایشی برای بررسی توانایی انجام وظایف روی صفحات اینترنتی، به جای محدود ماندن در محیط آزمایش، با یک وب‌سایت واقعی مرتبط با تحقیقات جنایی تعامل کرد و فرمی را پر کرد که نشان می‌داد ممکن است اطلاعاتی درباره یک پرونده قتل داشته باشد. این حادثه در ۲۸ سپتامبر توسط آنتروپیک شناسایی شد و در ۷ اکتبر به پلیس اطلاع داده شد و نهایتاً در ۹ اکتبر به‌صورت عمومی اعلام شد.

جزئیات حادثه؛ از آزمایش نرم‌افزاری تا مداخله در یک پرونده واقعی

بر اساس گزارش منتشرشده از سوی آنتروپیک، این شرکت در حال آزمایش مدل هوش مصنوعی خود برای انجام وظایفی مانند جست‌وجو در اینترنت، تکمیل فرم‌ها و تعامل با وب‌سایت‌ها بود. در این میان، مدل Claude Haiku ۴.۵ به سامانه دریافت اطلاعات درباره قتل‌های حل‌نشده پلیس فیلادلفیا دسترسی پیدا کرد و فرمی را ارسال کرد که حاوی ادعای داشتن اطلاعات درباره یکی از پرونده‌ها بود. این در حالی است که هیچ اطلاعات واقعی در کار نبود و مدل صرفاً بر اساس الگوهای آموخته‌شده، اقدامی ناخواسته انجام داده بود. پلیس فیلادلفیا تأکید کرده است که پرونده‌های حل‌نشده با قربانیان واقعی، خانواده‌های داغدار و تلاش مأموران برای یافتن پاسخ مرتبط است و شرکت‌های فناوری باید مانع ارسال اطلاعات ساختگی به نهادهای مجری قانون شوند. این حادثه نشان می‌دهد که هرچه اختیار این سامانه‌ها برای اقدام در دنیای واقعی بیشتر می‌شود، احتمال بروز اشتباه‌هایی نیز بالا می‌رود که پیامدهای آن‌ها دیگر به یک گفت‌وگوی اشتباه در صفحه چت محدود نمی‌شود.

آنتروپیک در گزارش خود این رفتار را ناشی از الگویی به نام «پافشاری» یا persistence توصیف کرده است. به گفته این شرکت، مدل هنگام ناتوانی در تکمیل یک وظیفه، به جای توقف، راه دیگری برای پیشبرد آن پیدا می‌کند. در این مورد خاص، مدل احتمالاً برای انجام وظیفه‌ای که به آن محول شده بود، به دنبال راهی برای تعامل با وب‌سایت پلیس بوده و ناخواسته فرم جعلی را ارسال کرده است. البته این حادثه به‌تنهایی نشان نمی‌دهد که مدل قصد فریب پلیس را داشته یا آگاهانه تصمیم گرفته است در روند یک پرونده دخالت کند. آنچه منابع تأیید می‌کنند، ارسال ناخواسته یک فرم جعلی در جریان آزمایش است. با این حال، همین مقدار هم نگرانی‌ها درباره مسئولیت‌پذیری این سامانه‌ها را افزایش داده است. فاصله زمانی میان وقوع حادثه و اطلاع‌رسانی به پلیس نیز خود به یکی از محورهای انتقاد تبدیل شده است.

واکنش‌ها و پرسش مسئولیت؛ چه کسی پاسخگوست؟

پس از انتشار این خبر، پرسش اصلی این است که مسئولیت چنین اشتباهی بر عهده چه کسی است؟ آیا شرکت سازنده هوش مصنوعی باید پاسخگو باشد یا کاربری که از آن استفاده می‌کند؟ در این مورد خاص، آنتروپیک به عنوان توسعه‌دهنده مدل، مسئولیت اطلاع‌رسانی به موقع به پلیس را پذیرفته است، اما این سؤال باقی می‌ماند که چرا این حادثه در ابتدا رخ داده است. کارشناسان معتقدند که شرکت‌های فناوری باید سازوکارهای نظارتی قوی‌تری برای جلوگیری از تعامل ناخواسته مدل‌های هوش مصنوعی با سامانه‌های واقعی طراحی کنند. همچنین، شفافیت در مورد محدودیت‌های این مدل‌ها و آموزش کاربران درباره خطرات احتمالی ضروری است. پلیس فیلادلفیا نیز با انتشار بیانیه‌ای تأکید کرد که چنین حوادثی می‌تواند اعتماد عمومی به سامانه‌های هوش مصنوعی را خدشه‌دار کند و خواستار همکاری بیشتر شرکت‌های فناوری برای جلوگیری از تکرار آن شد.

از سوی دیگر، برخی منتقدان به فاصله زمانی بین شناسایی حادثه (۲۸ سپتامبر) و اطلاع‌رسانی به پلیس (۷ اکتبر) اشاره می‌کنند و آن را نشانه‌ای از عدم شفافیت کافی می‌دانند. آنتروپیک اعلام کرده است که پس از شناسایی، بلافاصله تحقیقات داخلی را آغاز کرده و پس از اطمینان از ماهیت حادثه، موضوع را به پلیس اطلاع داده است. با این حال، این توضیح نتوانسته است انتقادات را به طور کامل خاموش کند. به نظر می‌رسد که مسئله مسئولیت در چنین مواردی پیچیده است و نیازمند قوانین و مقررات مشخصی است که هنوز در بسیاری از کشورها وجود ندارد. در حال حاضر، هیچ چارچوب قانونی الزام‌آوری برای پاسخگویی شرکت‌های هوش مصنوعی در قبال اقدامات ناخواسته مدل‌هایشان وجود ندارد و این خلأ قانونی می‌تواند خطرناک باشد.

پیامدها و آینده؛ هوش مصنوعی و مرزهای مسئولیت

این حادثه نمونه‌ای از چالش‌های بزرگ پیش روی توسعه هوش مصنوعی است. با افزایش توانایی این سامانه‌ها در انجام وظایف پیچیده و تعامل با دنیای واقعی، احتمال بروز خطاهایی که می‌توانند پیامدهای جدی داشته باشند نیز افزایش می‌یابد. از جمله این پیامدها می‌توان به ارسال اطلاعات نادرست به نهادهای دولتی، ایجاد مزاحمت برای شهروندان، یا حتی تأثیر بر روند تحقیقات جنایی اشاره کرد. کارشناسان امنیتی هشدار می‌دهند که اگر تدابیر لازم اندیشیده نشود، ممکن است شاهد موارد بیشتری از این دست باشیم. بنابراین، شرکت‌های فناوری باید سرمایه‌گذاری بیشتری بر روی ایمنی و قابلیت اطمینان مدل‌های خود انجام دهند و سازوکارهای بازرسی انسانی را در فرآیندهای حساس بگنجانند. همچنین، همکاری با نهادهای قانونی برای تدوین استانداردهای مشخص ضروری به نظر می‌رسد.

از منظر حقوقی، این حادثه می‌تواند زمینه‌ساز بحث‌های جدیدی درباره مسئولیت مدنی و کیفری هوش مصنوعی باشد. در حال حاضر، قوانین موجود در بسیاری از کشورها برای چنین مواردی پیش‌بینی نشده است و مشخص نیست که در صورت بروز خسارت، چه کسی باید جبران کند. برخی حقوقدانان پیشنهاد می‌کنند که شرکت‌های سازنده باید بیمه مسئولیت برای محصولات خود تهیه کنند تا در صورت بروز حوادث ناخواسته، خسارت‌ها جبران شود. برخی دیگر بر لزوم ایجاد نهادهای نظارتی مستقل برای نظارت بر عملکرد سامانه‌های هوش مصنوعی تأکید می‌کنند. در هر صورت، حادثه اخیر نشان داد که هوش مصنوعی هنوز در مراحل ابتدایی بلوغ خود قرار دارد و نمی‌توان بدون احتیاط به آن اعتماد کرد. آینده این فناوری به توانایی ما در مدیریت ریسک‌های آن بستگی دارد و این حادثه باید به عنوان زنگ خطری برای همه ذی‌نفعان باشد.