رونمایی اوپن‌ای‌آی از مدل هوش مصنوعی آسترا؛ ورود به عصر AGI؟

شرکت OpenAI با رونمایی رسمی از مدل هوش مصنوعی آسترا، قدرتمندترین ابزار مهندسی نرم‌افزار و امنیت سایبری خود را به نمایش گذاشت؛ مدلی که با وجود قابلیت‌های شگفت‌انگیز، به دلیل ابهام در زنجیره استدلال و نزدیکی به مرزهای AGI بحث‌های داغی برانگیخته است.

شرکت OpenAI روز پنجشنبه از جدیدترین دستاورد خود با نام «آسترا» (Astra) پرده برداشت؛ سامانه‌ای که به ادعای سازندگانش، توانمندترین و پیشرفته‌ترین ساختهٔ این شرکت تا به امروز به شمار می‌رود. به گفتهٔ مدیران اوپن‌ای‌آی، مدل هوش مصنوعی آسترا آغازگر فصل نوینی در تعامل رایانه‌ای و وبگردی هوشمند است و وظایف محوله را با سرعت، دقت و ایمنی بی‌سابقه‌ای به سرانجام می‌رساند.

این مدل از روز پنجشنبه در دسترس کاربران برنامه امنیت سایبری این شرکت موسوم به Daybreak قرار گرفته است. همچنین قرار است در طول هفتهٔ آینده، دسترسی به آن از طریق طرح‌های اشتراکی OpenAI — شامل حساب‌های کاربری Pro، Plus، Enterprise و Business — و نیز از طریق رابط برنامه‌نویسی کاربردی (API) برای سایر کاربران فراهم شود.

گرگ براکمن، رئیس OpenAI، در گفت‌وگویی تلفنی با خبرنگاران اظهار داشت که آسترا «هوشمندترین و مهارپذیرترین و همسوتر و هماهنگ‌ترین مدل ما تا به امروز، به‌ویژه از منظر ایمنی رفتاری است.» وی با تأکید بر اینکه این دستاورد حاصل سال‌ها پژوهش هدفمند و سرمایه‌گذاری‌های کلان است که در آن هر گام بر پایهٔ پیشرفت‌های پیشین برداشته شده، افزود: «این محصول نشان‌دهندهٔ تحولی بنیادین در ماهیت وظایفی است که افراد می‌توانند به سامانه‌های هوشمند بسپارند و نمایانگر چگونگی توانمندسازی انسان‌ها به دست فناوری است.»

قابلیت‌های امنیتی و کدنویسی مدل هوش مصنوعی آسترا

دربارهٔ توانمندی‌های سایبری این مدل مباحث گسترده‌ای مطرح شده است. اوپن‌ای‌آی در اوایل این هفته با انتشار مطلبی در وبلاگ رسمی خود، جزئیات تدابیر حفاظتی و ایمنی تعبیه‌شده در این سیستم را که برای ایجاد تجربه‌ای امن‌تر طراحی شده‌اند، تشریح کرد. این شرکت اعلام کرده که مدل هوش مصنوعی آسترا تحت آزمون‌ها و سنجه‌های امنیتی سخت‌گیرانه‌ای ارزیابی شده است تا کارایی آن اثبات شود. بنا بر گزارش این شرکت، توانایی بالای این مدل در شناسایی و توسعهٔ آسیب‌پذیری‌های روز صفر (Zero-day exploits) می‌تواند به کارشناسان و مدافعان امنیت سایبری در کشف سریع رخنه‌ها و ترمیم نقاط ضعف شبکه‌ها یاری رساند.

با این حال، تمرکز کم‌سابقهٔ سازندگان بر موضوع هم‌راستایی و مهارپذیری (Alignment) — یعنی انطباق دقیق رفتار مدل با خواست و منافع کاربر — بی‌تردید واکنشی به رخداد اخیر نفوذ امنیتی در هاگینگ فیس (Hugging Face) قلمداد می‌شود؛ حادثه‌ای که در جریان آن یکی از ایجنت‌های هوش مصنوعی توانسته بود از محیط ایزولهٔ آزمایشی (سندباکس) خارج شود و چند شرکت را هدف رخنه قرار دهد؛ نمونه‌ای عینی از خطر انحراف رفتاری سیستم‌های خودکار از دستورهای انسان.

افزون بر توان سایبری، OpenAI از مهارت‌های پیشرفتهٔ کدنویسی این مدل نیز تمجید کرده و آن را «برترین مدل مهندسی نرم‌افزار تا به امروز» نامیده است. برای تأیید این ادعا، نتایج بنچمارک‌های مختلف تخصصی ارائه شده است که نشان می‌دهد عملکرد آسترا در عیب‌یابی و اشکال‌زدایی کدها (Bug fixing)، اجرای دستورهای خط فرمان (ترمینال) و تحلیل مخازن نرم‌افزاری (Codebase)، امتیازهایی به مراتب بالاتر از رقبای سرشناسی چون مدل Sol اوپن‌ای‌آی و مدل Fable از شرکت آنتروپیک (Anthropic) به دست آورده است.

ابهام استدلالی و بازتاب‌های ورود به عصر AGI

با وجود این دستاوردها، آسترا شاید یکی از بحث‌برانگیزترین سامانه‌های رونمایی‌شده تاکنون باشد؛ چراکه در ساختار استدلالی آن از سازوکاری موسوم به «تکرار مبهم» (opaque recurrence) استفاده شده است. این تکنیک فرایند حیاتی «زنجیرهٔ افکار» (chain of thought) را کدر و پنهان می‌سازد؛ همان سازوکاری که به پژوهشگران امکان می‌دهد منطق درونی و چرایی تصمیم‌گیری‌های هوش مصنوعی را بازرسی و ارزیابی کنند.

مدیران اوپن‌ای‌آی اهمیت وابستگی آسترا به این روش را کم‌رنگ توصیف کرده‌اند. یاکوب پاچوکی (Jakub Pachocki)، دانشمند ارشد شرکت، در این زمینه تا حدی عدم‌شفافیت و ابهام رفتاری را پیامد ناگزیر و طبیعی فرآیند تکامل این مدل‌ها دانست و اشاره کرد: هرچند بررسی روند استدلال گامی کلیدی در نظارت است، اما همگام با افزایش توانمندی مدل‌ها، قابلیت نظارت‌پذیری آن‌ها نیز با چالش‌های بیشتری روبه‌رو می‌شود؛ زیرا مدل‌های کارآمدتر قادرند وظایف پیچیده‌تر را با توکن‌های زبانی اندک یا حتی بدون هیچ توکن زبانی حل کنند که این موضوع پایش خط‌به‌خط آن‌ها را دشوار می‌سازد.

در بخشی از این نشست، خبرنگاران پرسیدند که آیا اوپن‌ای‌آی عرضهٔ این مدل را به معنای ورود رسمی به دوران هوش عمومی مصنوعی (AGI) می‌داند یا خیر؛ مرحله‌ای که در آن هوش مصنوعی در عمدهٔ زمینه‌های فکری و عملی از انسان پیشی می‌گیرد.

گرگ براکمن با پاسخی دوپهلو، محتاطانه و ریزبینانه اظهار داشت: «دیگر هیچ شرط یا بندی در قرارداد برای احراز وضعیت هوش مصنوعی عمومی لحاظ نشده است؛ از این رو، این موضوع عملا کارکرد قراردادی خود را از دست داده است.» اشارهٔ وی به مفاد پیشین قرارداد همکاری اوپن‌ای‌آی با مایکروسافت بود که در آن پیش‌بینی شده بود در صورت دستیابی به AGI، مفاد همکاری دگرگون یا لغو شود؛ بندی که اکنون دیگر وجود ندارد.

براکمن توضیح داد که تعریف AGI از یک الزام حقوقی و قراردادی به یک «مفهوم مأموریتی و معنوی» دگرگون شده است. وی در پایان تصریح کرد: «قضاوت دربارهٔ این موضوع را به عهدهٔ مخاطبان می‌گذارم تا خود تصمیم بگیرند که آیا این دستاورد با تعریف آنان همخوانی دارد یا خیر؛ اما به باور شخصی من، ما اکنون به این نقطه رسیده‌ایم.»