آینده هوش مصنوعی خود-بهبوددهنده؛ گامی بزرگ از آنتروپیک

آیا هوش مصنوعی می‌تواند خودش را اصلاح کند؟ یافته‌های جدید شرکت Anthropic نشان می‌دهد که سیستم‌های خودکار قادرند با سرعت و هزینه‌ای بسیار کمتر، مدل‌های هوش مصنوعی را بهبود بخشند. آموزش مدل‌ها با استفاده از سایر مدل‌های هوش مصنوعی به یکی از اهداف بسیار محبوب در آزمایشگاه‌های نوظهور (Neolabs) تبدیل شده است و اکنون، یکی از پژوهشگران برنامه فلوشیپ (Fellowship) شرکت Anthropic، نگاهی اولیه به چگونگی اجرای این فرآیند در دنیای واقعی ارائه داده است که هسته‌ی اصلی مفهوم هوش مصنوعی خود-بهبوددهنده را تشکیل می‌دهد.

روز جمعه، شرکت Anthropic مقاله جدیدی با عنوان «پژوهشگران خودکار می‌توانند به‌طور قابل‌اطمینانی خطاهای هم‌راستایی را کاهش دهند» منتشر کرد. این مقاله با جزئیات توضیح می‌دهد که چگونه سیستم‌های هوش مصنوعی می‌توانند عملکرد یک مدل را در مجموعه‌ای از معیارهای سنجش هم‌راستایی (Alignment Benchmarks) به‌طور پایدار بهبود بخشند. زمانی که ۱۰ معیار برای رفتارهای ناهماهنگ و خارج از چارچوب به این سیستم‌های خودکار داده شد، آن‌ها موفق شدند عملکرد مدل را در تک‌تک این موارد بهبود دهند، بدون آنکه کیفیت کلی مدل دچار افت شود.

این سیستم که تحت هدایت «چن یوئه-هان» (Chen Yueh-Han)، پژوهشگر شرکت Anthropic، توسعه یافته است، بسیاری از رویکردهای سنتی تحقیق را بازتعریف می‌کند. هر سیستم خودکار، پیشینه علمی و مقالات موجود را جستجو کرده، روشی را پیشنهاد می‌دهد و سپس مدل را با استفاده از آن روش به مدت ۳۰ دقیقه آموزش می‌دهد؛ این فرآیند در چندین تکرار (Iteration) انجام شده و معیارها به‌تدریج سخت‌تر می‌شوند. در این میان، روش‌های مؤثر حفظ شده و روش‌های ناکارآمد کنار گذاشته می‌شوند که این امر امکان فعالیت سیستم را با سرعت بالا و در مقیاسی بسیار بزرگ فراهم می‌کند.

در این مقاله آمده است: «در مجموع، این نتایج شواهد اولیه‌ای ارائه می‌دهند که نشان می‌دهد فرآیند خودکار هم‌راستایی پس از آموزش (Automated Alignment Post-training) می‌تواند در آینده‌ای نزدیک به مرحله‌ی عملیاتی برسد.»

مسیر رسیدن به هوش مصنوعی خود-بهبوددهنده و نقش پژوهشگران انسانی

این مقاله گامی به سوی «خود-بهبوددهی بازگشتی» (Recursive Self-improvement) است؛ پدیده‌ای که بسیاری آن را گام بزرگ بعدی در پیشرفت هوش مصنوعی می‌دانند. اگر مدل‌ها بتوانند آموزش هم‌راستایی خود را بهبود بخشند، منطقی است که بتوانند شیوه‌های آموزشی را به‌طور گسترده‌تر نیز ارتقا دهند؛ و در چنین مرحله‌ای، احتمال دارد پژوهشگران انسانی حوزه هوش مصنوعی به‌زودی به نقشی بسیار کمرنگ تبدیل شوند.

نویسندگان مقاله از پرداختن به این ایده ابایی ندارند و به‌طور صریح «پژوهشگر خودکار هم‌راستایی» (AAR) را با معادل انسانی آن مقایسه کرده‌اند. در مقاله آمده است: «بهترین روش AAR، به‌طور میانگین ظرف مدت شش ساعت از پیشنهادهای پژوهشگران باتجربه فراتر می‌رود. همچنین، جهت‌دهی‌های تحقیقاتی توسط انسان، منجر به عملکرد قوی‌تر نمی‌شود.»

حتی برای متقاعد کردن تردیدکنندگان، مقایسه‌ای از هزینه‌ها نیز ارائه شده است: «هزینه هر ساعت فعالیت یک AAR از طریق استنتاج API (API Inference) تقریبا ۴ دلار است، در حالی که ما برای پژوهشگران انسانی خود، ساعتی ۱۵۰ دلار پرداخت می‌کنیم.»

البته برای رعایت انصاف، مقاله به محدودیت‌های این رویکرد نیز اشاره می‌کند. سیستم خودکار تنها زمانی کارآمد است که معیارهای سنجش (Benchmarks) دقیقا بازتاب‌دهنده اهداف واقعی هم‌راستایی باشند؛ و حتی در آن صورت نیز کارهای بسیار زیادی باید برای ایجاد و نگهداری این معیارها انجام شود، افزون بر این، حفظ و گسترش ادبیات علمی و مقالاتی که پژوهشگران خودکار از آن‌ها بهره می‌گیرند نیز نیازمند مدیریت مداوم است.