طرح Anthropic برای کنترل سرعت هوش مصنوعی و مهار خطرات آن

داریو آمودی (Dario Amodei)، مدیرعامل Anthropic، با رونمایی از یک راهبرد سه‌مرحله‌ای خواستار مهار شتاب فزاینده مدل‌های مرزی و کنترل سرعت هوش مصنوعی شد تا از وقوع فجایع امنیتی غیرقابل جبران جلوگیری شود؛ اقدامی که توجه گسترده محافل فناوری را به ضرورت بازنگری در ضرباهنگ پیشرفت این فناوری جلب کرده است.

در ماه‌های اخیر شاهد هشدارهای نگران‌کننده و روزافزون پژوهشگران درباره خطرات این حوزه بوده‌ایم؛ تا جایی که حتی Sam Altman، مدیرعامل OpenAI، نیز اظهار داشت شاید زمان آن رسیده باشد که شتاب توسعه مهار و تنظیم شود. اما چنین رویکردی در عمل به چه صورت نمود پیدا خواهد کرد؟

در همین راستا، Dario Amodei در یادداشتی تحلیلی نه‌تنها بر لزوم «مهار و کنترل سرعت هوش مصنوعی در مرزهای پیشرفت» (Pace the frontier) تأکید کرد، بلکه سه راهبرد کلی را نیز برای تحقق این هدف تدوین و تبیین کرد. وی همچنین اعلام کرد که Anthropic «به‌صورت یک‌جانبه خود را متعهد» به اجرای یکی از این راهبردها می‌داند.

مناقشات پیرامون ایمنی و هم‌راستاسازی هوش مصنوعی (AI Safety and Alignment) طی این هفته پس از استعفای Jacob Coxon، پژوهشگر Anthropic، اوج گرفت؛ وی دلیل کناره‌گیری خود را نگرانی از این موضوع اعلام کرد که شرکت‌های پیشگام در حال «قمار با جان انسان‌ها» هستند، در حالی که سازندگان همین فناوری «صادقانه بر این باورند که این ابزارها می‌توانند تا پایان دهه حاضر همه ما را به کام مرگ بکشانند»؛ هشداری که توسط برخی دیگر از کارشناسان Anthropic نیز تکرار شده است.

اگرچه Amodei در یادداشت خود به‌طور مستقیم به استعفای Coxon یا دغدغه‌های او اشاره‌ای نکرده است، اما نوشت که دو عامل عمده او را متقاعد کرده تا رویکردی محتاطانه در پیش بگیرد: نخست، رخنه امنیتی مرتبط با OpenAI و HuggingFace، و دوم، این واقعیت که «سرعت پیشرفت هوش مصنوعی در ماه‌های اخیر به‌طرز چشمگیری شتاب گرفته است»، به‌ویژه با افزایش «توانایی فزاینده مدل‌ها در توسعه نسل‌های بعدی».

Amodei تصریح کرد: «ما باید شتاب ارتقای قابلیت‌های مدل‌ها را مهار کنیم و کاهش دهیم. با این وجود، پیشرفت همچنان سریع به نظر خواهد رسید، اما ما باید از این زمان به‌دست‌آمده، هوشمندانه استفاده کنیم.»

گام نخست: استقرار بازرسان مستقل و نظارت مستقیم بر شرکت‌ها

گام نخست پیشنهادی او، استقرار «ارزیابان مستقر» (Embedded Evaluators) از سوی نهادهای مستقل ثالث، نظیر METR است؛ ناظرانی که بتوانند پایبندی واقعی شرکت‌ها به تعهدات ایمنی را اعتبارسنجی کرده و از شفاف‌سازی و گزارش‌دهی حوادث امنیتی اطمینان حاصل کنند. (اخیرا OpenAI به‌دلیل عدم انتشار گزارشی درباره حادثه‌ای که در آن عامل‌های هوش مصنوعی کنترل یک تالار گفتگوی ویکی آلمانی را به دست گرفته بودند، هدف انتقادات گسترده قرار گرفت.)

Amodei این ارزیابان را با بازرسان قانونی مقایسه کرد که در کنار کارکنان بانک‌ها مستقر می‌شوند. او تأکید کرد که میزبانی از این ناظران، «اقدامی است که Anthropic به‌طور یک‌جانبه خود را به آن مقید می‌داند (و همزمان از دولت‌ها می‌خواهد سایر شرکت‌های پیشرو در این حوزه را نیز ملزم به اجرای رویکردی مشابه کنند)». تحقق این هدف مستلزم ارائه کارت‌های سازمانی، میز کار و رایانه‌های شرکتی به ارزیابان، و فراهم‌سازی دسترسی‌هایی «تقریبا هم‌سطح با تیم‌های داخلی سنجش ریسک» است، مگر در مواردی که محدودیت‌های حقوقی یا قراردادها مانع آن شوند.

گام دوم: هماهنگی میان غول‌های فناوری برای کنترل سرعت هوش مصنوعی

در گام بعدی، Amodei از غول‌های حوزه فناوری «در کشورهای دموکراتیک» خواست تا جهت تدوین «استانداردهای ایمنی مشترک و همچنین تعیین محدودیت‌هایی برای جلوگیری از پیشرفت مهارگسیخته» با یکدیگر همکاری و هماهنگی کنند.

چنین هماهنگی دوجانبه‌ای شاید ناممکن به نظر برسد؛ هم به دلیل خصومت آشکار میان Altman و Amodei و هم به این دلیل که طبق گزارش‌ها، شرکت‌های آن‌ها نگران‌اند که هرگونه وقفه هماهنگ‌شده بتواند به بررسی‌های دقیق و پیگردهای ضدانحصار (antitrust) منجر شود. Amodei در یادداشت خود به این نگرانی اشاره کرد و نوشت: «به دلایل مربوط به قوانین ضدانحصار، مفید خواهد بود که دولت ایالات متحده میانجی‌گری کند یا دست‌کم امکان این گفتگوها را فراهم سازد؛ دولت ایالات متحده ناچار به حضور در گفتگوها نیست، بلکه کافی است معافیتی محدود برای گونه‌های خاصی از گفتگوهای مرتبط با ایمنی صادر کند.»

Amodei همچنین شبح تسلط هوش مصنوعی چین را که معمولا به عنوان دلیلی علیه کاهش شتاب توسعه مطرح می‌شود، به‌رسمیت شناخت. با این حال، وی تصریح کرد که اگر دولت ایالات متحده و شرکت‌های بزرگ دست به اقداماتی چون خودداری از فروش تراشه‌های قدرتمند یا تجهیزات تولید نیمه‌هادی به شرکت‌های چینی بزنند و همزمان با روش تقطیر مدل (model distillation) به طور جدی مقابله کنند، می‌توانند «پیشرفت چین را به اندازه‌ای کند سازند که برتری آمریکا طی ۳ تا ۵ سال آینده به شکلی چشمگیر افزایش یابد.»

گام سوم: دیپلماسی بین‌المللی و توافقات منع اشاعه

در نهایت، Amodei خواستار «هماهنگی بین‌المللی» شد که بر اساس آن، ایالات متحده و متحدانش «تلاش کنند تا حد امکان با حکومت‌های اقتدارگرا هماهنگی ایجاد نمایند.» Amodei تأکید کرد که این امر به معنای «همکاری با چین» خواهد بود؛ وی اذعان کرد که «محدودیت‌های شدیدی در مورد آنچه می‌توان به آن دست یافت وجود دارد»، اما با این حال خاطرنشان ساخت که همچنان فرصت‌هایی برای توافق وجود دارد؛ حتی اگر این توافق صرفا شامل «ممنوعیت استفاده‌های محدود، خاص و به وضوح خطرناک باشد؛ مواردی نظیر به‌کارگیری این فناوری برای تولید سلاح‌های بیولوژیک یا فراهم‌کردن امکان انجام این کار برای کاربران.»

با توجه به تمایل پیشین Amodei به اذعان به خطرات بالقوه این فناوری و همچنین رویکرد نسبتا پذیرا و باز این شرکت در قبال برخی اشکال مقررات‌گذاری، برخی از حامیان سرسخت فناوری از او به عنوان فردی فاجعه‌پندار (doomer) انتقاد کرده‌اند که اظهاراتش آتش واکنش‌های منفی کنونی را شعله‌ورتر کرده است. در پاسخ، Amodei اظهار داشت که وی همواره کوشیده رویکردی «متعادل» ارائه دهد و استدلال کرد که این موج واکنش منفی «اساسا ریشه در بحران اعتماد دارد؛ چراکه بی‌اعتمادی و بدبینی عمومی نسبت به غول‌های فناوری، کلیت این صنعت و حتی دولت‌ها تشدید شده است.»

از سوی دیگر، منتقدان این صنعت نیز نسبت به چنین هشدارهای آخرالزمانی ابراز تردید کرده و معتقدند که این فضاسازی‌ها صرفا تلاشی برای انحراف افکار عمومی از آسیب‌ها و خطراتی است که هم‌اکنون در جامعه ایجاد می‌شود.

برای نمونه، Brian Merchant، روزنامه‌نگار حوزه فناوری، نوشت که هنوز «مستنداتی موثق و گام‌به‌گام درباره اینکه سامانه‌ها چگونه ممکن است از مرحله خودبهبودبخشی بازگشتی (Self-recursively improving AI) به نابودی تک‌تک انسان‌های کره زمین برسند» ندیده است. او همچنین خاطرنشان کرد پیشنهادهایی نظیر طرح آمودی «به احتمال زیاد در نهایت تنها در خدمت Anthropic و OpenAI خواهد بود؛ این مصداق عینی تسخیر مقرراتی (Regulatory capture) در عمل است».

Amodei در پایان یادداشت تأکید کرد که او همچنان «باور دارد این فناوری می‌تواند کیفیت زندگی بشر را به شکلی چشمگیر بهبود بخشد». او در این باره گفت: «اشتیاق من برای دستیابی به این مزایا ذره‌ای کم نشده است؛ اما این مزایا تنها در صورتی محقق خواهند شد که مسیر را درست هدایت کنیم و — مشروط بر آنکه از این فرصت طلایی کمال بهره را ببریم — صرف دقتی وسواس‌گونه برای هدایت صحیح مسیر توسعه، کاملا موجه و ارزشمند است.»