خطرات مهارناپذیر توسعه ابرهوش مصنوعی برای بشریت

با شتاب گرفتن رقابت غول‌های فناوری در توسعه ابرهوش مصنوعی و بروز رخنه‌های امنیتی نگران‌کننده، کارشناسان نسبت به غیرقابل مهار شدن این سیستم‌ها و لزوم توقف کامل آن‌ها هشدار می‌دهند.

شرکت‌های فعال در حوزه هوش مصنوعی به‌گونه‌ای از ظهور ابرهوش مصنوعی سخن می‌گویند که گویی امری کاملا اجتناب‌ناپذیر است؛ با این حال، رخدادهای امنیتی اخیر نظیر نفوذ صورت‌گرفته به حساب کاربری OpenAI در پلتفرم Hugging Face، بیش از پیش خطرات بالقوه استقرار و به‌کارگیری سامانه‌های هوش مصنوعی فراتر از توانمندی انسان را نمایان می‌سازد. در این میان، پرسش اساسی این است: هنگامی که دیگر نتوانیم عملکرد و رفتارهای این سامانه‌ها را به‌شکلی مطمئن مهار کنیم، چه پیامدهایی در انتظارمان خواهد بود؟

هشدارهای کارشناسان و ضرورت بازنگری در توسعه ابرهوش مصنوعی

در این قسمت از پادکست Equity در رسانه TechCrunch، ربکا بلان (Rebecca Bellan) میزبان کانر لیهی (Connor Leahy) است؛ پژوهشگر هوش مصنوعی، کارآفرین و مدیر اجرایی کنونی شعبه آمریکای نهاد غیرانتفاعی ControlAI. این نهاد رویکردی به‌مراتب ریشه‌ای‌تر در زمینه ایمنی هوش مصنوعی اتخاذ کرده است: بازداشتن کامل شرکت‌ها از توسعه ابرهوش مصنوعی.

لیهی در این گفت‌وگو به تشریح این موضوع می‌پردازد که چرا معتقد است خطرات موجود فراتر از آن شده‌اند که صرفا با رویکردهای هم‌راستاسازی (Alignment) و مهار (Containment) مدیریت شوند، و چگونه ایده‌ای که شش ماه پیش دور از ذهن به نظر می‌رسید، اکنون از سوی موجی از لوایح و طرح‌های قانونی جدید حمایت می‌شود.

علاقه‌مندان می‌توانند پادکست Equity را در پلتفرم‌های مختلف از جمله YouTube ،Apple Podcasts و Spotify بشنوند و دنبال کنند، یا از طریق شبکه‌های اجتماعی X و Threads با شناسه کاربری EquityPod@ با تیم این برنامه در ارتباط باشند.