بحران نهادهای عمومی با طوفان عاملهای هوش مصنوعی

فراگیر شدن ابزارهای نوین و پیشروی عاملهای هوش مصنوعی در خودکارسازی ثبت شکایات، نهادهای خدمات عمومی در سراسر جهان را با جهشی تاریخی و تا ۵ برابری در مراجعات شهروندان مواجه کرده است؛ موجی فزاینده که فرآیندهای سنتی بوروکراسی را در آستانه بازآفرینی بنیادین قرار داده است. همزمان با تسهیل روند تکمیل فرم‌ها و پیگیری مطالبات به واسطه عاملهای هوش مصنوعی، ساختارهای اداری در کشورهای مختلف با بار بی‌سابقه‌ای از درخواست‌ها دست‌وپنجه نرم می‌کنند.

در بریتانیا، شکایات ثبت‌شده در نهاد بازرسی مسکن (Housing Ombudsman) از زمان معرفی ChatGPT بیش از دو برابر شده و از ۲۶۰۰ مورد در سال ۲۰۲۲ به کمی بیش از ۷۰۰۰ مورد در سال گذشته رسیده است. دفتر حفاظت مالی از مصرف‌کنندگان ایالات متحده (CFPB) نیز در همین بازه زمانی شاهد رشد ۵ برابری آمار شکایات بوده است. جهش‌های مشابهی نیز در طومارهای قضایی برزیل و لوایح پارلمانی آلمان به چشم می‌خورد.

خیزش عاملهای هوش مصنوعی و پدیده «طوفان تقاضا»

کریس اشمیتس (Chris Schmitz)، پژوهشگر، این روند فزاینده را به عنوان بخشی از یک جریان فراگیرتر پیگیری می‌کند که آن را «طوفان تقاضای مبتنی بر عاملهای هوشمند» (Agentic Flooding) نامیده است. او در مقاله‌ای که قرار است ماه آینده در کنفرانس اخلاق و جامعه هوش مصنوعی ارائه شود، به بررسی ۸۴ نمونهٔ احتمالی از این پدیده در ۱۱ حوزه قضایی مختلف پرداخته و به شواهد گسترده‌ای دست یافته که نشان می‌دهد عاملهای هوش مصنوعی نحوه تعامل مردم با خدمات عمومی را دگرگون کرده‌اند.

پرسش دشوارتر این است که در برابر این موج چه باید کرد. اگرچه برخی از این دادخواست‌های جدید آشکارا حالت مخرب و خصمانه دارند، اما شماری دیگر نتیجه اقدام شهروندانی واقعی است که با اتکا به عاملهای هوش مصنوعی ادعاها و شکایاتی را به جریان انداخته‌اند که در صورت نبود این فناوری، احتمالا به دلیل پیچیدگی‌های اداری رها می‌شدند. در حالی که ممکن است عده‌ای این حجم انبوه از درخواست‌ها را هرزنامه تلقی کنند، اشمیتس آن را فرصتی کم‌نظیر برای بازآفرینی و نوسازی خدمات رفاهی و اجتماعی می‌داند.

اشمیتس به بررسی انواع گوناگونی از خدمات، از درخواست‌های دریافت مزایای رفاهی گرفته تا تجدیدنظرخواهی‌های رسمی قضایی پرداخته است؛ خدماتی که همگی دارای سامانه‌های آنلاینی هستند که دستیارهای هوشمند امکان دسترسی و تعامل با آنها را دارند (مجموعه کامل این داده‌ها برای مراجعه در دسترس عموم قرار گرفته است). به دلایل روش‌شناختی پژوهش، مقاله اشمیتس از نسبت دادن مستقیم این افزایش چشمگیر به عاملهای هوش مصنوعی خودداری کرده است. با این حال، بیشتر این ۸۴ مورد مسیر مشابهی را طی می‌کنند؛ به‌طوری‌که ثبت درخواست‌ها پیش از سال ۲۰۲۲ روندی تقریبا ثابت و یکنواخت داشته، اما با ورود این ابزارها، با سرعتی فزاینده اوج گرفته است. نکته اساسی آنجاست که در اکثر این موارد هنوز نشانه‌ای از کاهش سرعت این رشد به چشم نمی‌خورد؛ امری که نشان می‌دهد این موج صعودی احتمالا تا سال‌ها ادامه خواهد داشت.

از دیدگاه اشمیتس، کاملا بدیهی است که ارتقای توانمندی‌ها و دسترس‌پذیری بیشتر هوش مصنوعی، کاربرد آن را دوچندان کند.

او در این باره می‌گوید: «مردم تازه متوجه شده‌اند که چنین کاری امکان‌پذیر است و روزبه‌روز انجام دادنش ساده‌تر می‌شود. قبلا شاید لازم بود حجم زیادی از پیش‌زمینه و اطلاعات را جمع‌آوری کنید و به‌زحمت، پرامپت‌های بسیار دقیقی به ChatGPT 3.5 بدهید، اما حالا ممکن است تنها با الصاق یک متن یا حتی گرفتن عکس از یک نامه اداری با اپلیکیشن Claude، در همان تلاش اول پاسخی بسیار دقیق و باکیفیت دریافت کنید.»

چالش نهادهای خدمات‌رسان و تفاوت با حملات بدافزاری

این جهش در حجم درخواست‌ها، شباهت زیادی به تجربه‌ای دارد که سال گذشته گریبان‌گیر بسیاری از سرویس‌های پاداش کشف باگ (bug-bounty) شد؛ زمانی که شرکت‌ها متوجه شدند صندوق دریافت پیام‌هایشان آکنده از گزارش‌های نازل تولیدشده توسط مدل‌های بزرگ زبانی (LLM) شد. این گزارش‌ها به‌ندرت حاوی آسیب‌پذیری‌های امنیتی چشمگیری بودند، با این حال شرکت‌ها همچنان موظف بودند تک‌تک آنها را به‌محض دریافت، یک‌به‌یک بررسی و اعتبارسنجی کنند؛ فرآیندی که بار سنگینی بر منابع آنها تحمیل می‌کرد. حال تصور اینکه نهادهای خدمات عمومی نیز با مشکلی مشابه روبه‌رو شوند چندان دشوار نیست؛ زیرا آنها مجبورند با همان بودجهٔ پیشین، پذیرای جمعیتی پنج برابری از متقاضیان باشند.

اما اگر برنامه‌های bug-bounty با گزارش‌های بی‌ارزش و هرز بمباران شدند، اشمیتس می‌گوید در اینجا اوضاع متفاوت است و اغلب متقاضیان جدید نهادهای خدمات عمومی، افرادی واقعی با مطالبات و حقوق قانونی و مشروع هستند.

او در گفتگو با TechCrunch تصریح کرد: «اکثریت قریب‌به‌اتفاق مواردی که با آنها مواجه می‌شویم، افرادی هستند که قانونا استحقاق دریافت یک خدمت یا حق مشخص را دارند و اکنون برای مطالبهٔ همان حق اقدام کرده‌اند.»

اگر این افراد پیشتر پیگیر این مزایا و خدمات نمی‌شدند، شاید دلیلش این بوده که مراحل ثبت‌نام و بروکراسی آن بیش از حد دشوار و طاقت‌فرسا بوده است؛ پدیده‌ای که در حوزهٔ سیاست‌گذاری عمومی تحت عنوان «بار اداری» (administrative burden) شناخته می‌شود. اکنون که این ابزارها می‌توانند این بار سنگین را بردارند، این فرصت طلایی فراهم آمده تا بسیاری از این سازوکارها به شیوه‌ای سازگارتر و همخوان‌تر با هوش مصنوعی بازطراحی شوند.

این رسالتی خطیر و چالشی بزرگ است که تاکنون اقدام چندانی برای مواجهه با آن صورت نگرفته است، با این حال اشمیتس آن را دلیلی برای خوش‌بینی می‌داند.

اشمیتس می‌گوید: «بخش عمده‌ای از به‌کارگیری درست و موفق فناوری این است که بتوانیم تصویر کنیم نسخهٔ ایده‌آل و مطلوب فرآیندها چگونه خواهد بود. هر کسی که تا به حال از ChatGPT برای تکمیل اظهارنامه مالیاتی‌اش استفاده کرده باشد، می‌داند که کارکرد واقعا سودمندی وجود دارد که در آن ابزارهای هوشمند نقشی یاری‌رسان ایفا می‌کنند. اکنون می‌تواند همان برهه‌ای باشد که اعلام کنیم: «باید در ساختار و چرخهٔ کل این فرآیندها بازنگری بنیادین صورت گیرد.»»