چالش حاکمیت هوش مصنوعی؛ چه کسی کنترل آینده را در دست دارد؟

فراتر از توانایی‌های فنی، بحث اصلی در کنفرانس TechBBQ بر سر قدرت و کنترل است؛ آیا انسان‌ها همچنان سکان هدایت هوش مصنوعی را در دست خواهند داشت و چگونه می‌توان به حاکمیت هوش مصنوعی دست یافت؟

در کنفرانس سالانه TechBBQ در کپنهاگ، بحث میان سرمایه‌گذاران، بنیان‌گذاران و فعالان حوزه فناوری از سراسر اروپا تنها بر سر ابزارهای ساخته‌شده با هوش مصنوعی نبود؛ بلکه پرسش بنیادین این بود که کنترل این فناوری‌ها در دست چه کسی خواهد بود. چه در سالن‌های همایش و چه در دورهمی‌های جانبی و مهمانی‌های پس از برنامه، بحث‌ها همواره به این موضوع بازمی‌گشت که اروپا چگونه می‌تواند کنترل بیشتری بر فناوری‌های پیشران هوش مصنوعی به‌دست آورد.

این پرسش درباره «حاکمیت» (Sovereignty) — که به‌درستی با محور اصلی امسال کنفرانس یعنی «برآمدن از دل عاملیت» (Emerging from Agency) همخوانی داشت — پس از محدود شدن دسترسی کاربران خارج از اروپا به مدل‌های هوش مصنوعی Mythos و Fable متعلق به شرکت Anthropic در اوایل سال جاری، اهمیت دوچندانی یافته بود.

این اتفاق باعث شد بسیاری از فعالان اکوسیستم اروپا به‌طور جدی به این موضوع فکر کنند که مالکیت مدل‌ها و زیرساخت‌های پشتیبان این موج هوش مصنوعی، به جای اجاره کردن یا وابستگی به قدرت‌های ایالات متحده و چین، چه اهمیت ویژه‌ای برای آینده آن‌ها ایفا می‌کند.

یکی از مدیران استارتاپ‌ها به من گفت که حادثه Mythos و Fable تیم نرم‌افزاری او را به‌شدت مختل کرد، در حالی که دیگری با بی‌تفاوتی از کنار آن گذشت. این مدیر تأکید کرد که اگرچه تکیه بر دو قدرت ژئوپلیتیک دیگر برای هوش مصنوعی ممکن است روزی دردسرهای بزرگی برای اروپا ایجاد کند، اما در حال حاضر شرایط همچنان پایدار به نظر می‌رسد.

الن د برور (Ellen de Brever)، سرمایه‌گذار فرشته و مدیر بخش مشارکت‌ها در شتاب‌دهنده بنیاد نوو نوردیسک، در جریان این کنفرانس که در ۲۷ اوت به پایان رسید، اظهار داشت: «محور “عاملیت” در TechBBQ امسال بسیار به‌موقع بود؛ چرا که بحث‌ها از اینکه هوش مصنوعی چه کارهایی می‌تواند انجام دهد، به این سمت تغییر کرد که ما واقعا حاضر هستیم اجازه دهیم چه کارهایی انجام دهد.»

در این رویداد پنل‌هایی درباره آینده سلامت زنان، نشست‌هایی پیرامون چگونگی همکاری اکوسیستم‌های نوردیک و آفریقا در زمینه نوآوری و سرمایه‌گذاری، و گفتگوهایی درباره جذب بیشتر سرمایه‌گذاری توسعه‌ای به اروپا برگزار شد. هوش مصنوعی درون‌مایه بسیاری از این گفتگوها بود، اما همان‌طور که د برور اشاره کرد: «بحث‌ها بر سر ماشین‌های هوشمندتر نبود، بلکه موضوع اصلی این بود که قضاوت انسانی چگونه خواهد بود و چه کسی باید در سکان امور باقی بماند.»

او در ادامه افزود: «عصر عامل‌های هوش مصنوعی (AI agents) واقعا بحث بر سر این نیست که ماشین‌ها کسب عاملیت می‌کنند؛ بلکه موضوع اصلی درباره انسان‌هایی است که تصمیم می‌گیرند چه چیزهایی را از دست بدهند.»

آینده تکنولوژی و چالش‌های حاکمیت هوش مصنوعی

یکی از شرکت‌کنندگان به من گفت که یکی از تازه‌ترین و جذاب‌ترین نشست‌های این رویداد، پنل گفتگو با مریدیت ویتاکر (Meredith Whittaker)، رئیس سیگنال بود؛ نشستی که من مدیریت آن را بر عهده داشتم و تمرکز آن بر این بود که آیا حریم خصوصی و هوش مصنوعی می‌توانند در کنار هم همزیستی داشته باشند یا خیر. ویتاکر بدون تعارف و با صراحت تمام، با ادغام دستیارهای هوش مصنوعی و عامل‌ها در سیستم‌عامل‌ها (مشابه کاری که ChatGPT با iMessage انجام می‌دهد) مخالفت کرد.

او اظهار داشت که این عصر هوش مصنوعی در حال ایجاد یک «سازوکار جمع‌آوری داده» است و آزمایشگاه‌های هوش مصنوعی با استفاده از بازاریابی‌های هوشمندانه، مردم را وادار می‌کنند تا «پیامدهای جانبی» ناشی از گردآوری حجم عظیم داده‌ها را فراموش کنند.

او افزود: «هنوز تقاضای بسیار زیادی در بازار برای حفظ حریم خصوصی وجود دارد و به‌ویژه با توجه به نگرانی‌های مربوط به حاکمیت [داده‌ها]، مشتریان زیادی در این حوزه خواهیم داشت.»

در جای دیگری، عماد مستقی (Emad Mostaque)، از بنیان‌گذاران Stability AI و Intelligent Internet، در پنلی با حضور من درباره این موضوع شرکت کرد که چگونه یک «نیروی کار مبتنی بر عامل» (agentic workforce) بر اقتصاد تأثیر می‌گذارد و این مسئله چه معنایی برای حاکمیت فردی دارد.

مستقی گفت: «حاکمیت یعنی توانایی مقاومت در برابر قدرتی که بر شما اعمال می‌شود.» او درباره تمرکز قدرت در دستان تعداد معدودی از آزمایشگاه‌های هوش مصنوعی صحبت کرد و گفت: «اجتناب‌ناپذیر است که هوش مصنوعی بر کشورها حکومت کند» و افزود: «کسی که هوش مصنوعی را کنترل کند، کشور را کنترل خواهد کرد.»

میا نگرو (Mia Negru)، مدیر حوزه حمایت و تعامل در سازمان غیرانتفاعی Life With Artificials، پس از پایان پنل پیامی برای من فرستاد تا آنچه را که هنگام گوش دادن به بحث‌ها در ذهنش می‌گذشت، به اشتراک بگذارد.

او در این پیام نوشت: «اگر عامل‌های هوشمند (intelligent agents) کارهای شناختی و ربات‌ها به‌طور فزاینده‌ای کارهای فیزیکی را انجام دهند، ممکن است در حال نزدیک شدن به چیزی بسیار بزرگ‌تر از یک انقلاب تکنولوژیک دیگر باشیم. شاید مجبور شویم در مفاهیمی چون مالکیت، کار، دموکراسی، مشارکت اقتصادی و در نهایت حتی اینکه چه کسی اجازه دارد در جامعه مشارکت کند، تجدیدنظر کنیم.»

اما زمانی که نشست‌ها به پایان می‌رسید، افراد در دورهمی‌های دوستانه و مهمانی‌های شبانه روی پشت‌بام‌ها به تفریح می‌پرداختند و گفتگوهای سبک‌تر جای خود را به بحث‌های جدی می‌دادند.

شرکت‌های Lovable، Nvidia، OpenAI، استارتاپ‌های AWS و HSBC با هم متحد شدند تا یک باربیکیو روی پشت‌بام برگزار کنند که در آن من با بنیان‌گذاران درباره قطب‌های فناوری (tech hubs) رو به رشد در دانمارک گفتگو کردم.

موسسه Ada Ventures لندن نیز گردهمایی‌ای را در کاکتل‌بار Bird برگزار کرد که در آن با یکی از بنیان‌گذاران حوزه فناوری سلامت (health tech) درباره افزایش نوآوری در زمینه سلامت مغز زنان گفتگو کردم. سپس، شام سخنرانان در جزیره‌ای در میان کپنهاگ برگزار شد؛ جایی که مطبوعات بین‌المللی در کنار هم نشستند و نمایش رقص آتش را تماشا کردند. مهمانی پس از آن در طبقه بالا ادامه یافت و همه وسوسه می‌شدند برای یک نوشیدنی دیگر بمانند، تا زمانی که حساب بار بسته شد.

«د برور» گفت: «در اتاقی پر از گفتگو درباره ماشین‌ها، ماندگارترین لحظات همچنان از ساده‌ترین چیزها نشأت می‌گیرند؛ یعنی ارتباط انسانی، رو در رو بودن، ساختن روابط، به اشتراک گذاشتن ایده‌ها و یادآوری این نکته به یکدیگر که تکنولوژی هرگز نمی‌تواند جایگزین آن‌ها شود.»