هشدار عجیب بنیان‌گذار آنتروپیک: خبری که دانشمندان از آن غافل بودند!
به گزارش تیترستان؛ جک کلارک، هم‌بنیان‌گذار شرکت هوش مصنوعی آنتروپیک، در سخنرانی اخیر خود در نشست سالانه صندوق بین‌المللی پول و بانک جهانی ادعای تکان‌دهنده‌ای را مطرح کرد: او معتقد است شواهد قانع‌کننده‌ای وجود دارد که نشان می‌دهد «تکینگی هوش مصنوعی» آغاز شده است. تکینگی به نقطه‌ای اشاره دارد که در آن پیشرفت هوش مصنوعی می‌تواند سرعت پیشرفت علمی و فناوری را آن‌قدر افزایش دهد که انسان‌ها دیگر نتوانند همگام با آن حرکت کنند. کلارک در این نشست گفت: «باور دارم امسال شواهد قانع‌کننده‌ای به دست آورده‌ایم که نشان می‌دهند این فرایند آغاز شده است.» به گفته او، حتی اگر همه با این برداشت موافق نباشند، آنتروپیک فرض را بر این می‌گذارد که وارد چنین دوره‌ای شده‌ایم و باید خود را برای تغییرات گسترده‌تر از حد انتظار آماده کنیم.
تکینگی هوش مصنوعی چیست و چرا کلارک معتقد است آغاز شده است؟
تکینگی فناوری یا تکینگی هوش مصنوعی (AI Singularity) به آینده‌ای فرضی گفته می‌شود که در آن، هوش مصنوعی به یکی از موتورهای اصلی پیشرفت تبدیل می‌شود و سرعت تغییرات علمی و فناوری به‌شدت افزایش می‌یابد؛ تا جایی که پیش‌بینی پیامدهای این تغییرات برای انسان دشوار می‌شود. یکی از سناریوهای مطرح این است که هوش مصنوعی بتواند در ساخت و بهبود نسل‌های بعدی خودش نقش مؤثری داشته باشد. در این حالت، مدل‌های توانمندتر به توسعه ابزارها و سامانه‌های بهتر کمک می‌کنند و این سامانه‌ها نیز به نوبه خود، پیشرفتهای بعدی را سریع‌تر می‌کنند. چنین چرخه‌ای ممکن است سرعت نوآوری را به‌طور فزاینده‌ای بالا ببرد. با این حال، تکینگی به‌معنای رویدادی مشخص با تاریخ آغاز قطعی نیست و درباره زمان وقوع یا حتی تحقق آن توافقی عمومی وجود ندارد. همچنین، آغاز شتاب در پیشرفت هوش مصنوعی لزوماً به این معنا نیست که هوش مصنوعی از کنترل انسان خارج شده یا به هوشی برتر از انسان در همه زمینه‌ها تبدیل شده است.
کلارک استدلال می‌کند که شواهد تازه از سرعت‌گرفتن پیشرفت علمی با کمک هوش مصنوعی حکایت دارند. از نگاه او، اهمیت هوش مصنوعی دیگر فقط به انجام سریع‌تر کارهای روزمره یا نوشتن کد محدود نمی‌شود. این فناوری به‌تدریج در فرایند تولید دانش نیز نقش می‌گیرد؛ از حل مسائل دشوار ریاضی گرفته تا کمک به پژوهش‌های زیستی و خودکارسازی آزمایش‌های علمی. او به پیشرفت مدل‌های هوش مصنوعی در آزمون‌های علمی و ریاضی اشاره می‌کند و معتقد است این سامانه‌ها می‌توانند در چندین رشته تخصصی، همزمان به پژوهشگران کمک کنند. در چنین شرایطی، هوش مصنوعی صرفاً ابزاری برای اجرای دستورها نیست؛ بلکه می‌تواند بخشی از فرایند کشف و نوآوری باشد. کلارک همچنین به تجربه داخلی آنتروپیک اشاره کرده است: به گفته او، پژوهشگران این شرکت اکنون تقریباً ۱۰ برابر چهار سال نخست فعالیت آنتروپیک کد می‌نویسند. او این تغییر را نشانه‌ای از تأثیر مستقیم پیشرفت مدل‌های هوش مصنوعی بر توانایی و بهره‌وری نیروی انسانی می‌داند.
پیامدهای مثبت و منفی شتاب هوش مصنوعی از دیدگاه بنیان‌گذار آنتروپیک
کلارک معتقد است اگر روند فعلی ادامه پیدا کند، در سال‌های آینده نه‌فقط توسعه هوش مصنوعی، بلکه پیشرفت علم و فناوری در حوزه‌های مختلف نیز شتاب خواهد گرفت. چنین تحولی می‌تواند به کشف‌های علمی تازه، توسعه سریع‌تر داروها و فناوری‌های جدید و افزایش بهره‌وری اقتصادی منجر شود. او این چشم‌انداز را کاملاً مثبت نمی‌داند. سرعت بالای پیشرفت می‌تواند خطرهایی نیز به همراه داشته باشد؛ از سوءاستفاده از توانایی‌های هوش مصنوعی در حملات سایبری و پژوهش‌های زیستی خطرناک گرفته تا فشار بر بازار کار و دشوارترشدن نظارت بر فناوری‌های پیشرفته. کلارک پیش‌تر نیز درباره تأثیر هوش مصنوعی بر اقتصاد و امنیت هشدار داده بود. او در سخنرانی اخیرش تأکید کرد که دولت‌ها و نهادهای بین‌المللی فرصت محدودی برای آماده‌شدن دارند و باید همزمان با بهره‌گیری از مزایای این فناوری، برای کنترل خطرهای آن نیز چارچوب‌های جدی‌تری تدوین کنند.
به‌طور کلی، اظهارات کلارک نشان‌دهنده نگرانی فزاینده میان رهبران صنعت هوش مصنوعی درباره سرعت تحولات است. او با اشاره به شواهد درونی آنتروپیک، بر این باور است که ما در آستانه دوره‌ای هستیم که در آن هوش مصنوعی نه‌تنها ابزار، بلکه شریک خلاق در تولید دانش خواهد بود. این موضوع می‌تواند فرصت‌های بی‌سابقه‌ای برای بشریت ایجاد کند، اما همزمان نیازمند مدیریت دقیق و مسئولانه است. کلارک بر لزوم همکاری بین‌المللی برای تنظیم مقررات و نظارت بر توسعه هوش مصنوعی تأکید می‌کند تا از تبدیل شدن این فناوری به تهدیدی وجودی جلوگیری شود. در نهایت، دیدگاه او بازتاب‌دهنده یک واقعیت است: تکینگی هوش مصنوعی ممکن است نه یک رویداد آینده، بلکه فرایندی باشد که هم‌اکنون در جریان است و ما باید برای پیامدهای آن آماده شویم.
زمینه‌های قبلی و پیامدهای آینده: چرا این هشدار اهمیت دارد؟
جک کلارک یکی از چهره‌های کلیدی در حوزه هوش مصنوعی است که پیش‌تر نیز درباره خطرات این فناوری هشدار داده بود. او در ماه‌های گذشته در مصاحبه‌ها و مقالات مختلف بر ضرورت توسعه ایمن هوش مصنوعی تأکید کرده و از دولت‌ها خواسته بود تا هرچه سریع‌تر چارچوب‌های قانونی لازم را تدوین کنند. آنتروپیک، شرکتی که او هم‌بنیان‌گذار آن است، خود را متعهد به توسعه هوش مصنوعی «مفید و ایمن» معرفی می‌کند و در همین راستا مدل‌های زبانی پیشرفتهای را با تمرکز بر قابلیت اطمینان و کاهش سوگیری عرضه کرده است. با این حال، اظهارات اخیر کلارک نشان می‌دهد که حتی شرکت‌های پیشرو نیز از سرعت تحولات غافلگیر شده‌اند و بیم آن دارند که نظارت انسانی بر سیستم‌های هوش مصنوعی به‌سرعت دشوار شود.
این هشدار در حالی مطرح می‌شود که جهان شاهد رقابت شدید میان شرکت‌های فناوری برای توسعه مدل‌های قدرتمندتر است. کشورها و سازمان‌های بین‌المللی در تلاشند تا قوانینی برای کنترل این فناوری وضع کنند، اما سرعت پیشرفت هوش مصنوعی از توانایی قانون‌گذاران پیشی گرفته است. از سوی دیگر، برخی کارشناسان معتقدند که تکینگی هوش مصنوعی ممکن است دهه‌ها فاصله داشته باشد و اظهارات کلارک را بیشتر تلاشی برای جلب توجه به نیاز فوری به سرمایه‌گذاری در ایمنی هوش مصنوعی می‌دانند. با این وجود، اگر حتی بخشی از پیش‌بینی‌های او درست باشد، پیامدهای آن بر اقتصاد، امنیت و ساختار اجتماعی عمیق خواهد بود. به همین دلیل، سخنان او را باید به‌عنوان زنگ خطری جدی برای سیاست‌گذاران و عموم مردم تلقی کرد.
در حال بارگذاری نظرات...