جذب ۵۰ میلیون دلاری برای ارتقای امنیت عامل‌های هوش مصنوعی

استارتاپ AIR با جذب ۵۰ میلیون دلار سرمایه، وارد نبرد برای تأمین امنیت عامل‌های هوش مصنوعی و جلوگیری از حملات سایبری در سازمان‌ها شد.

با گسترش دسترسی عامل‌های هوش مصنوعی (AI agents) به بخش‌های وسیع‌تری از سیستم‌های سازمانی، به نظر می‌رسد یک زنجیره تأمین نرم‌افزاری نوظهور حول ابزارهای جدید مورد استفاده این عامل‌ها در حال شکل‌گیری است؛ ابزارهایی نظیر مهارت‌ها (skills)، پلاگین‌ها (plugins)، سرورهای MCP و افزونه‌هایی (add-ons) که امکان تعامل آن‌ها با اینترنت را فراهم می‌کنند.

استارتاپ امنیتی AIR بر این باور است که شرکت‌ها برای نظارت بر این زنجیره تأمین به راهکاری نیاز خواهند داشت؛ از همین رو، این شرکت اکنون با جذب ۵۰ میلیون دلار سرمایه در قالب دو مرحله جذب سرمایه اولیه (seed rounds)، از حالت محرمانه خارج شده و محصول خود را رونمایی کرده است.

این شرکت که توسط یائیر سابان (مدیرعامل) و نیو هافمن (مدیر فنی) بنیان‌گذاری شده است — از کهنه‌سربازان واحد اطلاعاتی ۸۲۰۰ اسرائیل که در حوزه امنیت سایبری تهاجمی فعالیت می‌کردند — پلتفرمی را ارائه می‌دهد که می‌تواند عامل‌های فعال در داخل شرکت‌ها را شناسایی کند. این پلتفرم به‌طور مداوم تمامی مهارت‌ها، ابزارها و اجزای مورد استفاده این عامل‌ها را بررسی کرده و از تعامل آن‌ها با نرم‌افزارها یا منابع خارجی که معیارهای امنیتی را پاس نمی‌کنند، جلوگیری می‌کند. علاوه بر این، AIR یک بازارچه (marketplace) برای ارائه مهارت‌ها و افزونه‌های تأییدشده به عامل‌های هوش مصنوعی فراهم می‌کند.

سابان در گفتگو با تک‌کرانچ اعلام کرد که این دو مرحله جذب سرمایه با فاصله چند هفته از یکدیگر نهایی شده‌اند؛ به‌طوری که در مرحله اول ۱۰ میلیون دلار و در مرحله دوم ۴۰ میلیون دلار جذب شده است. طبق گفته سابان، شرکت Sequoia رهبری دور اول و Greenoaks رهبری دور دوم را بر عهده داشتند. از دیگر سرمایه‌گذاران این دورها می‌توان به Swish، Netz، زک فرانکل (رئیس Cognition)، یینون کاستیکا (بنیان‌گذار Wiz)، اوفیر ارلیچ (بنیان‌گذار Eon)، آن نیوبرگر، اومر آدام، وارون آناند (Varun Anand) و سایر سرمایه‌گذاران فرشته (angel investors) اشاره کرد.

استدلال اصلی AIR این است: نحوه استفاده گسترده از عامل‌های هوش مصنوعی در شرکت‌ها کم‌کم شبیه به سیستم‌عامل‌ها می‌شود، اما ابزارهایی که آن‌ها استفاده می‌کنند یا نرم‌افزارهایی که می‌توانند نصب کنند، هنوز تحت نظارتی مشابه آنچه برای درایورها (drivers) یا اپلیکیشن‌ها اعمال می‌کنیم، قرار ندارند.

سابان می‌گوید: «در اوایل دهه ۲۰۰۰، هر زمان که درایوری نصب می‌کردید، نیازی نبود آن درایور امضا شده باشد. اما امروز، هر بار که درایوری را نصب می‌کنید، امضایی را مشاهده می‌کنید که مشخص می‌کند چه کسی آن را تأیید کرده است؛ زیرا درایور در واقع کدی را در هسته (kernel) سیستم‌عامل بارگذاری می‌کند. ما در مورد مهارت‌ها، پلاگین‌ها یا پروتکل‌های MCP چنین سیستمی نداریم و این جای تأسف دارد؛ چرا که مکانیزم و درس مشابهی وجود دارد، اما ما هنوز آن را آموخته‌ایم.»

او استدلال می‌کند که خطر بزرگ اینجاست که با افزایش خودمختاری عامل‌های هوش مصنوعی در کار با پایگاه‌های داده، سیستم‌های سازمانی و اتصال به اینترنت، مهاجمان می‌توانند به‌جای حمله مستقیم به خود عامل، محتوایی را که عامل هوش مصنوعی مصرف می‌کند، مسموم یا آلوده کنند.

چالش‌های زیرساختی در تأمین امنیت عامل‌های هوش مصنوعی

این استارتاپ اعلام کرده است که می‌تواند این مشکل را از طریق یک محصول «قابلیت مشاهده» (visibility product) حل کند؛ محصولی که عامل‌های فعال در محیط شرکت را شناسایی کرده و همچنین کارمندانی را که از ابزارهای هوش مصنوعی تأییدنشده توسط بخش IT یا حساب‌های شخصی استفاده می‌کنند، مشخص می‌سازد. سپس، این سیستم از یک «لایه اعمال قوانین» (enforcement layer) بهره می‌برد که با اتصال به عامل‌ها، اقداماتی نظیر بارگذاری یک مهارت (skill) یا دریافت محتوا از اینترنت را رهگیری و تحلیل می‌کند. در نهایت، AIR ابزارها، افزونه‌ها یا نرم‌افزارهایی را که یک عامل قصد استفاده از آن‌ها را دارد، با یک «لیست سفید» (whitelist) که توسط خود استارتاپ مدیریت می‌شود، تطبیق می‌دهد.

سابان می‌گوید این استارتاپ لیست سفید خود را از طریق ارزیابی مهارت‌ها و افزونه‌هایی که به‌صورت عمومی در اینترنت در دسترس هستند، به‌روز نگه می‌دارد تا تغییرات یا رفتارهای مخرب آن‌ها را شناسایی کند؛ چرا که یک مهارت پیش‌تر تأییدشده ممکن است در صورت تغییر در بسته‌های دانلودشده یا هک شدن حساب کاربری توسعه‌دهنده آن، به ابزاری پرخطر تبدیل شود. وی افزود که پلتفرم AIR در حال حاضر حدود ۲۷ درصد از افزونه‌ها و مهارت‌هایی را که در فضای آنلاین پیدا می‌کند، فیلتر می‌کند.

شرکت AIR مدعی است که بیش از ۲۰ مشتری دارد و سابان اعلام کرد که تقریبا یک‌چهارم این مشتریان، سازمان‌های بزرگ هستند. او گفت که این شرکت تاکنون قوی‌ترین تقاضا را در صنایع به‌شدت تحت نظارت (regulated industries)، به‌ویژه در بخش خدمات مالی و شرکت‌های داروسازی مشاهده کرده است.

با این حال، AIR در این حوزه تنها نیست. شرکت Noma Security خدماتی نظیر قابلیت کشف (discovery)، کنترل دسترسی و پایش زمان اجرا (runtime monitoring) را برای عامل‌ها، سرورهای MCP و مهارت‌ها ارائه می‌دهد؛ در حالی که Zenity نیز ابزارهای امنیتی و مدیریتی (governance tools) مشابهی را به فروش می‌رساند. پلتفرم هویت Astrix Security نیز به شرکت‌ها اجازه می‌دهد تا عامل‌ها و سرورهای MCP را شناسایی و کنترل کنند، و Operant AI نیز علاوه بر ارائه محافظت از عامل‌ها، یک درگاه MCP (MCP gateway) را نیز عرضه می‌کند.

همچنین سرمایه‌گذاران خطرپذیر توجه زیادی به این حوزه نشان داده‌اند. شرکت Zenity در ماه اوت موفق به جذب ۱۲۵ میلیون دلار سرمایه در مرحله سری C شد، در حالی که Noma نیز سال گذشته ۱۰۰ میلیون دلار سرمایه در مرحله سری B جذب کرد.

سابان معتقد است که مزیت رقابتی (moat) اصلی AIR در توانایی آن برای بررسی مستمر اکوسیستم مهارت‌ها و افزونه‌هایی است که پیرامون عامل‌های هوش مصنوعی در حال رشد هستند. او گفت: «بررسی مداوم وب‌سایت‌های مربوط به مهارت‌ها و پلاگین‌ها، مأموریتی دشوار است. به‌دست آوردن قابلیت مشاهده بر روی نقاط انتهایی (endpoint) کار آسانی است و همه این کار را انجام خواهند داد؛ اما ایجاد یک مزیت رقابتی پایدار در اطراف آن، چالش اصلی است.»

اگرچه مدیرعامل AIR اذعان داشت که آزمایشگاه‌ها و ارائه‌دهندگان هوش مصنوعی در نهایت بررسی‌های امنیتی و سیاست‌هایی را برای فیلتر کردن استفاده از مهارت‌ها و ابزارهای مخرب در خود تعبیه خواهند کرد، اما او معتقد است که شرکت‌ها همچنان تمایل خواهند داشت محصولی مستقل را خریداری کنند که بتواند به‌صورت چندمنظوره با تمامی تأمین‌کنندگان (vendors) کار کند.

بوگومیل بالکانسکی، شریک شرکت سرمایه‌گذاری سکویا (Sequoia)، در بیانیه‌ای ایمیلی به تک‌کرانچ اظهار داشت: «این چالش صرفا به اسکن کردن محدود نمی‌شود، بلکه مسئله تأیید مجدد و مستمر است. بازرسی هر مهارت، افزونه (plugin)، سرور MCP و زیر-عاملی (sub-agent) که عامل‌های یک سازمان با آن‌ها در تعامل هستند، و بازرسی مجدد تک‌تک آن‌ها در هر بار تغییر، آن هم به صورت لحظه‌ای (real-time) و در سطح کل ناوگان عامل‌های یک شرکت، بسیار پیش از آنکه یک مسئله امنیتی باشد، یک چالش زیرساختی است. ایر (Air) سال گذشته را صرف ساختن این مسیر پردازش (pipeline) کرده است؛ شما نمی‌توانید تنها با نوشتن یک اسکنر بهتر، خود را به این سطح برسانید.»

در حال حاضر، شرکت ایر حدود ۴۰ کارمند دارد. سابان اعلام کرد که سرمایه جدید عمدتا صرف استخدام پژوهشگران و گسترش تلاش‌های این شرکت برای ورود به بازارهای ایالات متحده و اروپا خواهد شد.