تجارت خطرناک با مدل‌های هوش مصنوعی بدون سانسور و فیلتر

استارتاپ نوظهور Abliteration.ai با حذف تمام حفاظ‌های ایمنی و فیلترهای اخلاقی از قدرتمندترین هوش مصنوعی‌های متن‌باز، دسترسی به مدل‌های هوش مصنوعی بدون سانسور و محدودیت را به تجارتی بحث‌برانگیز تبدیل کرده است. این اقدام با توجیه تقویت تیم‌های قرمز امنیتی، مرز میان دفاع سایبری و ترویج ابزارهای مخرب را باریک‌تر از همیشه کرده است؛ رویکردی که چالش‌های اخلاقی و امنیتی گسترده‌ای را در دنیای فناوری به همراه دارد.

دسترسی به یکی از قدرتمندترین مدل‌های متن‌باز هوش مصنوعی جهان، آن هم در حالی که تمام سازوکارهای بازدارنده و ممانعت‌های آن در برابر انجام اقدامات مخرب حذف شده، اکنون بسیار آسان‌تر از گذشته شده است.

استارتاپ Abliteration.ai که نام خود را از تکنیک «Abliteration» (روشی برای حذف تمایل مدل به رد درخواست‌های آسیب‌رسان یا همان مهارزدایی) وام گرفته، این فرایند حذف محدودیت را به یک سرویس تجاری تبدیل کرده است. این پلتفرم نسخه‌های دستکاری‌شده‌ای از مدل‌های وزن‌باز (open-weight) را بدون لایه‌های حفاظتی میزبانی می‌کند؛ از جمله مدل تازه منتشرشده GLM-5.3 از شرکت Z.ai که کاربران می‌توانند از طریق مرورگر وب یا رابط برنامه‌نویسی کاربردی (API) از آن استفاده کنند.

این شرکت در یکی از پست‌های اخیر خود در شبکه‌های اجتماعی اعلام کرد هدفش توانمندسازی دیگران برای انجام فعالیت‌هایی در زمینه «عملیات تهاجمی سایبری، آزمون‌های تیم قرمز (Red-teaming) و ارزیابی عامل‌های هوش مصنوعی است؛ یعنی کارهایی که سایر مدل‌ها از انجام دادنشان امتناع می‌ورزند.» منطق پشت این رویکرد در حوزه امنیت کاملا آشناست: شما نمی‌توانید در برابر رفتاری دفاع کنید که قادر به بازتولید آن نیستید، و مدلی که از نوشتن کدهای اکسپلویت عملیاتی امتناع می‌کند، نمی‌تواند کمکی به تیم‌های قرمز برای دفع حملات هکرها برساند. با این حال، حذف همین محدودیت‌ها راه را برای اقدامات بالقوه خطرناک دیگر نیز هموارتر می‌سازد.

روش مهارزدایی (Abliteration) تکنیکی با سابقه طولانی در میان جامعه مدل‌های متن‌باز به شمار می‌رود. پژوهشگران و توسعه‌دهندگان سال‌هاست رفتارهای امتناع و بازدارنده را از مدل‌های دارای وزن باز حذف می‌کنند و در حال حاضر وب‌سایت Hugging Face میزبان هزاران مدل تعدیل‌شده از این دست روی پلتفرم خود است.

استارتاپ Abliteration.ai که اواخر سال گذشته پایه‌گذاری شد و در ماه مارس رسما به ثبت رسید، این سازوکار را از یک فعالیت زیرزمینی در جامعه متن‌باز به یک سرویس تجاری و کاملا در دسترس بدل کرده است. این سرویس با میزبانی مستقیم مدل، موانع فنی را برای کاربرانی که پیش از این ناچار بودند نسخه‌های دستکاری‌شده را خودشان دانلود کرده و زیرساخت پردازشی لازم برای اجرای آن‌ها را تأمین کنند، به حداقل رسانده است.

نشریه تک‌کرانچ با استفاده از این سرویس توانست به‌سرعت حسابی ایجاد کرده و از طریق مرورگر وب به گفت‌وگو با نسخه بدون محدودیت GLM-5.3 بپردازد. در این ارزیابی، درخواست‌هایی نظیر نگارش اسکریپت‌های نفوذ و بررسی رفتارهای امنیتی مدل بدون هیچ‌گونه مانعی مورد سنجش قرار گرفت.

یون، تحلیلگر امنیت فناوری، گفت: «در اینجا عملا می‌توانید هر متنی را تایپ کنید و مدل هم بی‌چون‌وچرا از آن پیروی خواهد کرد. وقتی مردم درباره حذف حفاظ‌های ایمنی (Guardrails) از مدل‌های هوش مصنوعی صحبت می‌کنند، منظور دقیقا همین است… مطمئنم که در آینده‌ای نزدیک، شاهد استفاده مخرب و زیان‌بار از مدل‌های مهارزدایی‌شده خواهیم بود.»

> شرکت Abliteration AI به‌تازگی پروتکل‌های ایمنی را از مدل GLM-5.3 حذف کرده تا امکان انجام حملات سایبری تهاجمی برای آن فراهم شود. همچنین گزارش‌های مستقلی دریافت کرده‌ام مبنی بر اینکه Abliteration AI حفاظ‌های زیستی این مدل را نیز غیرفعال کرده است. این واقعیت که دور زدن و حذف سازوکارهای ایمنی تا این حد پیش‌پاافتاده و ساده است…

— کریس مک‌گوایر (ChrisRMcGuire@)، ۱ سپتامبر ۲۰۲۶

اکثر کارشناسانی که تک‌کرانچ با آن‌ها گفتگو کرده معتقدند که دیگر راهی برای متوقف کردن این جریان پرشتاب وجود ندارد. با این حال، حتی اگر در عمل نتوان مانع از حذف حفاظ‌های ایمنی در مدل‌های با وزن باز شد، دولت‌ها همچنان می‌توانند در گلوگاه‌های دیگری دست به مداخله بزنند. یون در یادداشتی تحلیلی پیشنهاد داده است که دولت‌ها باید ارائه‌دهندگان خدمات را ملزم به اجرای سامانه‌های طبقه‌بندی‌کننده کنند تا فعالیت‌های مخرب سایبری و مرتبط با سلاح‌های بیولوژیکی شناسایی و مسدود شوند. او همچنین استدلال کرد شرکت‌هایی که دسترسی مستقیم به پردازنده‌های گرافیکی (GPU) پیشرفته را اجاره می‌دهند، باید هویت مشتریان خود را احراز کنند و «هر جا نشانه‌ای منطقی از سوءاستفاده‌های خطرناک وجود دارد، دسترسی را قطع نمایند.»

چالش‌های نظارتی و خطرات مدل‌های هوش مصنوعی بدون سانسور

استارتاپ Abliteration.ai یک لایه نظارت و مدیریت محتوا در اختیار مشتریان قرار می‌دهد تا خودشان بتوانند هر نوع حفاظ ایمنی دلخواهی را به مدل بیفزایند. خود این پلتفرم نیز از معدود فیلترهای پایه‌ای برخوردار است؛ برای نمونه، در آزمایش‌ها، مدل از ارائه دستورالعمل‌های مربوط به خودکشی خودداری کرد و دوون می‌گوید در حال کار روی اعمال محدودیت‌های بیشتری برای پیشگیری از ترویج خشونت است.

علاوه بر این، پلتفرم Abliteration.ai هیچ‌گونه سازوکار «شناسایی مشتری» (KYC) را به‌کار نگرفته و تنها به ثبت مشخصات کارت اعتباری مورد استفاده برای خرید سرویس بسنده کرده است. مدیران آن مدعی‌اند تصمیم‌گیری درباره اینکه چه کسانی باید به این مدل‌ها دسترسی داشته باشند، چالش پیچیده‌ای است که این شرکت نوپا هنوز در حال بررسی جوانب آن است.

دوون در این باره گفت: «هیچ‌کس نمی‌خواهد مقصر کارهای دیوانه‌وار دیگران شناخته شود… اما مرز مسئولیت شما به‌عنوان یک شرکت دقیقا کجاست؟ ما هنوز در فرایند رسیدن به تعریفی مشخص برای این مرزبندی هستیم.»

این مسئله پرسش‌های بنیادینی را پیش روی صنایع و دولت‌ها قرار می‌دهد؛ به‌ویژه در شرایطی که مدل‌هایی با توانمندی‌های روزافزون همراه با وزن‌های قابل دانلود منتشر می‌شوند: اگر هر کسی بتواند حفاظ‌های ایمنی یک مدل را دور بزند، آیا تسهیل دسترسی همگانی به مدل‌های هوش مصنوعی بدون سانسور اینترنت را امن‌تر می‌کند یا آن را به محیطی خطرناک‌تر بدل می‌سازد؟

با این حال، بنیان‌گذار Abliteration.ai و دیگر حامیان این نگرش باور دارند که دموکراتیزه کردن و دسترسی همگانی به پیشرفته‌ترین مدل‌های هوش مصنوعی بدون سانسور و مهارزدایی‌شده، در واقع کارآمدترین شیوه دفاعی به شمار می‌رود.

دوون می‌گوید: «تصویر کلی و هدف غایی مدل‌های مهارزدایی‌شده این است که می‌توانند رفتار بازیگران مخرب و مهاجمان سایبری را شبیه‌سازی کنند. مزیت ماجرا اینجاست که اکنون مدافعان امنیتی می‌توانند با بیشترین سرعت ممکن پیش بروند؛ آن‌ها تمام ابزارهای لازم را در اختیار دارند تا رفتار این عوامل مخرب را مدل‌سازی کرده و در برابر اقدامات آسیب‌رسان آن‌ها دفاع کنند. به باور من، این روند باعث جهش و شتاب امنیت سایبری خواهد شد؛ هرچند در نگاه اول تا حدی خلاف شهود و تناقض‌آمیز به نظر می‌رسد.»

اگرچه Abliteration.ai هنوز شرکتی نوپا به شمار می‌رود، اما دوون می‌گوید مشتریان آن شامل چندین استارتاپ در مراحل آغازین هستند که در حوزه «تیم قرمز» در بریتانیا و اروپا فعالیت می‌کنند؛ مجموعه‌هایی که به بانک‌ها، خطوط هوایی و سایر نهادهای مرتبط با زیرساخت‌های حیاتی برای تقویت رویکردهای امنیتی یاری می‌رسانند.

دوون در ادامه اشاره کرد: «یکی از مشتریان اصلی ما مأموریت شبیه‌سازی حمله به عامل‌های هوش مصنوعی بانک‌ها را بر عهده دارد و آن‌ها امروز نمی‌توانستند با استفاده از مدل‌های پیش‌فرض و خام موجود در بازار، روی این عامل‌ها آزمون‌های تیم قرمز را اجرا کنند.»

تست و بررسی نسخه مهارزدایی‌شده و بدون محدودیت مدل GLM-5.3 در محیط وب

تک‌کرانچ یک حساب کاربری رایگان ساخت و نسخه مهارزدایی‌شده مدل GLM-5.3 را مورد آزمایش قرار داد. اعتبار تصویر: TechCrunch/Abliteration.ai

دیدگاه جامعه امنیت سایبری درباره مدل‌های مهارزدایی‌شده

در این میان، خود صنعت امنیت سایبری هنوز در حال بررسی این موضوع است که مدل‌های مهارزدایی‌شده اصولا در چه جایگاهی از فرایندهای دفاعی قرار می‌گیرند، یا اینکه اصلا کاربردی در این زمینه دارند یا خیر.

چندین شرکت فعال در حوزه شبیه‌سازی تیم قرمز روی عامل‌های هوش مصنوعی که تک‌کرانچ با آن‌ها گفتگو کرده، با دوون هم‌نظرند که نفوذگران و مهاجمان در حال حاضر نیز مدل‌های خود را مهارزدایی کرده و از آن‌ها برای اجرای حملات تخاصمی استفاده می‌کنند؛ امری که ضرورت در اختیار داشتن ابزارهای مشابه توسط مدافعان را توجیه می‌کند. با این حال، کارشناسان بر سر اینکه این مدل‌ها تا چه میزان در این فرایند تعیین‌کننده و تأثیرگذار هستند، اختلاف نظر دارند.

در شرایطی که دوون تأکید دارد مهارزدایی مدل‌ها برای اجرای دقیق و همه‌جانبه آزمون‌های تیم قرمز عامل‌های هوش مصنوعی امری ضروری است، برخی دیگر می‌گویند در کارهای روزمره خود از آن‌ها استفاده نمی‌کنند؛ چرا که در عوض، به‌آسانی به سراغ تنظیم دقیق (Fine-tuning) مدل‌های وزن‌باز می‌روند که از پیش لایه‌های محافظتی چندانی ندارند و آزمون‌های خود را با آن‌ها پیش می‌برند.

احمد علی، مدیرعامل شرکت Fabraix که در زمینه تیم قرمز عامل‌های هوش مصنوعی فعالیت دارد، می‌گوید مجموعه تحت هدایت او بیش از آنکه به مدل‌های مهارزدایی‌شده متکی باشد، به تنظیم دقیق مدل‌های باز تکیه دارد. وی می‌افزاید که فرایند مهارزدایی، بخشی از دانش و توانمندی‌های مدل را از بین می‌برد.

علی در گفتگو با تک‌کرانچ توضیح داد: «اگر قصد داشته باشید واقعا آسیب جدی با آن وارد کنید — چه آسیب‌های سایبری و چه تهدیدهای بیولوژیکی — این مدل‌ها چندان کارآمد و مؤثر نخواهند بود.»

آلسیو لوموشیو، مدیر ارشد فناوری در مؤسسه Safe Intelligence نیز پذیرفت که کاهش توانمندی‌های مدل در این روند محتمل است، اما همچنان باور دارد که مدل‌های مهارزدایی‌شده می‌توانند رفتارهای خاصی را آشکار سازند که برای آزمون فشار و تاب‌آوری سامانه‌ها بسیار سودمند و کاربردی است.

دیوید اسلیتر، بنیان‌گذار و معمار ارشد پلتفرم امنیت سایبری آرمادین (Armadin)، در گفت‌وگو با تک‌کرانچ اظهار داشت: «تاکنون مدل‌های مهارزدایی‌شده جایگاهی در این فرایند نداشته‌اند. وقتی به مدل‌های وزن‌باز تا همین نسل اخیر نگاه می‌کنیم، جیلبریک کردن و واداشتن آن‌ها به انجام آنچه مدنظرمان بود، اصلا کار چندان دشواری به شمار نمی‌رفت.»

با این وجود، او افزود که آرمادین در حال تحقیق و پژوهش روی پدیده مهارزدایی است و باور دارد که «ترغیب جامعه متن‌باز به درک توانمندی و ظرفیت واقعی مدل‌ها امری حیاتی است.»

اسلیتر در ادامه خاطرنشان کرد: «این اتفاق چه بخواهیم و چه نخواهیم، پشت درهای بسته و در خفا رخ خواهد داد. وقوع آشکار و شفاف آن، ابزارهای لازم را در اختیار پژوهشگران می‌گذارد و به ما این امکان را می‌دهد که بفهمیم مرزهای واقعی این فناوری دقیقا به چه شکل است و خطرات و آسیب‌های احتمالی آن را به‌درستی شناسایی کنیم.»