خطر ابرهوش مصنوعی؛ چرا توسعه آن باید فورا متوقف شود؟

در پی نفوذهای امنیتی اخیر و نگرانی از دست رفتن کنترل سیستم‌های فوق‌هوشمند، مدیر سازمان ControlAI خواستار توقف فوری توسعه ابرهوش مصنوعی پیش از عبور از نقطه بی‌بازگشت شد.

شرکت‌های حوزه فناوری به‌گونه‌ای از حتمی بودن ظهور هوش مصنوعی فوق‌هوشمند سخن می‌گویند که گویی گریزی از آن نیست؛ با این حال، وقوع حوادث امنیتی اخیر، از جمله نفوذ به حساب Hugging Face متعلق به OpenAI، خطرات بالقوه ناشی از به‌کارگیری سیستم‌های هوش مصنوعی توانمندتر از انسان را آشکار کرده است. حال پرسش بنیادین این است: اگر زمانی فرا برسد که نتوانیم با اطمینان رفتارهای این سامانه‌ها را مهار و هدایت کنیم، چه سرنوشتی در انتظار بشر خواهد بود؟

در این قسمت از پادکست Equity در رسانه TechCrunch، ربکا بلان با کانر لیهی به گفت‌وگو نشسته است؛ پژوهشگر هوش مصنوعی، کارآفرین و مدیر اجرایی بخش ایالات متحده در سازمان غیرانتفاعی ControlAI. این نهاد رویکردی به‌مراتب رادیکال‌تر را در حوزه ایمنی دنبال می‌کند: وادار کردن شرکت‌ها به توقف کامل توسعه ابرهوش مصنوعی (Superintelligence). لیهی توضیح می‌دهد که چرا معتقد است مخاطرات پیش‌رو چنان افزایش یافته که دیگر نمی‌توان صرفا با اتکا به روش‌های همراستاسازی (Alignment) و مهار (Containment) آن‌ها را مدیریت کرد، و چگونه ایده‌ای که تا شش ماه پیش دور از ذهن به نظر می‌رسید، اکنون با موجی از حمایت در قالب قوانین و لوایح تازه همراه شده است.

محورهای کلیدی گفت‌وگو درباره توقف ابرهوش مصنوعی

– لایحه ممنوعیت ابرهوش مصنوعی: دیدگاه او پیرامون لایحه «ممنوعیت ابرهوش مصنوعی» (Sanders-Casar Ban Superintelligence Act)، قانون‌گذاری موازی در بریتانیا که سازمان ControlAI در تدوین آن نقش مشاور داشته است، و اینکه چرا او معتقد است لایحه ارائه‌شده در ایالات متحده ممکن است از حد تعادل فراتر رفته و دچار افراط شده باشد.

– نگاه تازه به آزمایشگاه‌های پیشرو: نحوه نگرش او به آزمایشگاه‌های هوش مصنوعی پیشرو (Frontier Labs)؛ به‌گونه‌ای که او آن‌ها را نه صرفا شرکت‌هایی در پی بازگشت سرمایه و سودآوری، بلکه بازیگرانی سیاسی قلمداد می‌کند، و تبیین پیامدهای این مسئله برای تریلیون‌ها دلاری که صرف ساخت و توسعه مراکز داده می‌شود.

– نقطه بی‌بازگشت خودبهبودی: دلایلی در تبیین چرایی دیدگاه لیهی مبنی بر اینکه «نقطه بی‌بازگشت» واقعی زمانی رقم می‌خورد که هوش مصنوعی توانایی توسعه سامانه‌های هوش مصنوعی بهتری را به دست آورد؛ رویدادی که می‌تواند چرخه‌ای مهارناپذیر و شتابان از خودبهبودی (Self-Improvement) به راه بیندازد.

– دیپلماسی بین‌المللی و موضع چین: استدلال‌ها و ضرورت‌های پیرامون توافق‌نامه‌های بین‌المللی مبتنی بر اصل «اعتماد کن، اما راستی‌آزمایی کن» (Trust but Verify)، و چرایی این باور که توسعه ابرهوش مصنوعی در عمل به‌هیچ‌وجه در راستای منافع کشور چین نیز نخواهد بود.