۳۰ شکایت جدید از OpenAI؛ اتهام کمک به وقوع تیراندازی

موج جدیدی از ۳۰ شکایت از OpenAI ثبت شده است که این شرکت را به عدم اطلاع‌رسانی به پلیس درباره برنامه‌های خشونت‌آمیز یک کاربر متهم می‌کند. این پرونده می‌تواند آینده مسئولیت‌های قانونی هوش مصنوعی را تغییر دهد.

موسسه حقوقی Edelson PC که پیش‌تر در ماه آوریل هفت شکایت علیه OpenAI را به نمایندگی از قربانیان و خانواده‌های آسیب‌دیده در حادثه تیراندازی دسته‌جمعی «تاملر ریج» (Tumbler Ridge) مطرح کرده بود، این هفته ۳۰ شکایت جدید نیز ثبت می‌کند. شاکیان جدید شامل معلمان، مدیر مدرسه و دانش‌آموزانی هستند که هنگام وقوع حمله در ساختمان حضور داشتند، اما مستقیما هدف گلوله‌ها قرار نگرفته‌اند.

در شکایات جدید، برای نخستین بار، علاوه بر اتهام کوتاهی و بی‌احتیاطی در جلوگیری از حادثه، شرکت OpenAI به «معاونت در جرم» (aiding and abetting) در وقوع این تیراندازی نیز متهم شده است. اثبات این ادعا مستلزم ارائه مدارکی برای نشان دادن «قصد و نیت سوء» از سوی OpenAI است که احتمالا با چالش‌های حقوقی برای رد زودهنگام پرونده مواجه خواهد شد.

این شکایات جدید در حالی مطرح می‌شوند که OpenAI همچنان با پیامدهای حوادث امنیتی جنجالی دست‌وپنجه نرم می‌کند؛ از جمله حادثه‌ای که طی آن، یکی از مدل‌های هوش مصنوعی این شرکت در جریان ارزیابی‌های امنیت سایبری، از محیط ایزوله (sandbox) خود خارج شده و موفق به نفوذ به سرورهای Hugging Face (شرکتی که میزبان مدل‌ها و مجموعه‌داده‌های متن‌باز هوش مصنوعی است) شده بود. علاوه بر این، OpenAI پیش از این نیز با چندین شکایت حقوقی مواجه بوده که در آن‌ها ادعا شده طراحی ChatGPT در خودکشی کاربران، اقدامات خشونت‌آمیز و بحران‌های شدید سلامت روان نقش داشته است.

موج جدید شکایات که روز سه‌شنبه در دادگاهی در کالیفرنیا ثبت شده، با حادثه تیراندازی در یک مدرسه در منطقه «تاملر ریج» واقع در استان بریتیش کلمبیای کانادا در تاریخ ۱۰ فوریه مرتبط است. در آن روز، نوجوان Jesse Van Rootselaar پس از کشتن مادر و برادر ناتنی خود در خانه، به دبیرستان Tumbler Ridge رفت و پیش از آنکه خودکشی کند، شش نفر دیگر را به قتل رساند و ده‌ها تن دیگر را مجروح کرد.

روزنامه وال‌استریت ژورنال (The Wall Street Journal) گزارش داده است که کارکنان OpenAI از نحوه استفاده Van Rootselaar از ChatGPT، از جمله گفتگوهای مربوط به خشونت با اسلحه و دریافت توصیه‌هایی برای برنامه‌ریزی یک حمله، به‌شدت نگران شده بودند. بر اساس گزارش‌ها، کارمندان OpenAI از مدیران شرکت خواسته بودند تا مقامات پلیس کانادا را از احتمال وقوع خشونت در دنیای واقعی توسط وی مطلع کنند، اما مدیریت شرکت تصمیم گرفت با مقامات تماس نگیرد. در عوض، شرکت تنها حساب کاربری او را غیرفعال کرد، اما وی توانست مدت کوتاهی پس از آن، حساب دیگری بسازد.

OpenAI در دفاع از اقدامات خود مدعی شده است که فعالیت‌های Van Rootselaar با معیارهای داخلی این شرکت برای تشخیص «خطر قریب‌الوقوع و جدی» آسیب فیزیکی به دیگران — که شرط لازم برای همکاری با نهادهای انتظامی است — مطابقت نداشته است.

جیسون کوون (Jason Kwon)، مدیر ارشد استراتژی OpenAI که مسئولیت نظارت بر تیم بازبینی انسانی و بخش حقوقی شرکت را بر عهده دارد، در بیانیه‌ای که با TechCrunch به اشتراک گذاشته شده، اظهار داشت: «این تصمیم‌گیری لزوما بی‌عیب و نقص نیست، اما همواره ریشه در تلاش برای حفظ تعادل میان امنیت و حقوق افراد دارد.»

جزئیات موج جدید شکایت از OpenAI

مجموعه جدید شکایات، مشخصا از کریس لین (Chris Lehane)، مدیر امور جهانی OpenAI، به عنوان شخصی یاد می‌کند که به کارکنان دستور داده بود اقدامات خود را متوقف کنند و با مقامات تماس نگیرند؛ هرچند در این شکایات شواهد مستقیمی مبنی بر دخالت شخصی او ارائه نشده و OpenAI نیز نقش او را تکذیب کرده است.

لین یک فعال سیاسی شناخته‌شده و استاد مدیریت افکار عمومی (PR spin master) با تخصص ویژه در زمینه کنترل خسارت (damage control) است که پیش از این در دولت کلینتون و شرکت Airbnb نیز در چنین جایگاهی فعالیت داشته و اکنون در OpenAI مشغول به کار است. خواهان‌ها مدعی هستند که پیشینه او بر فرهنگ سازمانی OpenAI تأثیر می‌گذارد که در آن، روابط عمومی و مدیریت بحران بر مسائل ایمنی اولویت دارد.

در یکی از شکایات منتشر شده توسط TechCrunch آمده است: «تیم اطلاعات و تحقیقات — تنها تیمی در داخل OpenAI که مسئول شناسایی کاربران ChatGPT است که تهدیدی برای خشونت در دنیای واقعی محسوب می‌شوند — تحت کنترل [لین] قرار گرفته بود.» این شکایت می‌افزاید: «در نتیجه، تصمیم‌گیری درباره اینکه آیا باید به نیروهای انتظامی درباره برنامه‌ی یک کاربر برای انجام حمله گسترده اطلاع داد یا خیر، توسط متخصصان آموزش‌دیده‌ی ارزیابی تهدید که از OpenAI خواسته بودند با [پلیس کانادا] تماس بگیرد، اتخاذ نشد. بر اساس اطلاعات و باورها (On information and belief)، این تصمیم توسط خود لین یا شخصی در سلسله‌مراتب فرماندهی او گرفته شده و توسط سام آلتمن (Sam Altman) تأیید شده است.»

عبارت «بر اساس اطلاعات و باورها» یک اصطلاح حقوقی است به این معنا که خواهان‌ها بر پایه اطلاعات دست‌دوم معتقدند ادعایی درست است، هرچند هنوز نمی‌توانند آن را مستقیما اثبات کنند. TechCrunch نتوانست تأیید کند که آیا لین واقعا اختیار لغو توصیه‌های تیم اطلاعات و تحقیقات را دارد یا اینکه اصلا در این پرونده خاص دخیل بوده است یا خیر. شایان ذکر است که نام لین در فهرست خوانده‌ها (مدعی‌علیهان) شکایات ذکر نشده است، اما برخلاف هفت شکایت قبلی، سام آلتمن، مدیرعامل OpenAI، در لیست آن‌ها قرار دارد.

جی ادلسون (Jay Edelson)، وکیل اصلی این پرونده‌ها، به TechCrunch گفت: «ما در حال حاضر تمام شواهد خود را ارائه نمی‌دهیم.» وی خاطرنشان کرد که لین و آلتمن در کنار تیم ایمنی، «شهود کلیدی» خواهند بود. او افزود: «می‌توانیم بگوییم که بخشی از ادعاهای ما بر اساس نمودار سازمانی (org chart) و همچنین تحقیقات گسترده‌تر ما است که شامل یافته‌هایمان درباره نحوه عملکرد لین در شرکت می‌شود.»

کوون (Kwon) گفت: «اینکه گفته شود کریس لین در تصمیم اولیه ما برای ارجاع پرونده دخیل بوده یا اینکه محققان ما به هر شکلی به او گزارش می‌دهند، کاملا نادرست است. همچنین این ادعا که افراد درگیر در این تصمیمات دشوار، ایمنی را در اولویت قرار نمی‌دهند یا عوامل “سیاسی” یا “روابط عمومی” در میان است، کاملا بی‌اساس است.»

شکایات جدید همچنین در پی آن است که دفاعیه پیشین OpenAI را باطل کند؛ دفاعیه‌ای که بر اساس آن، این شرکت به دلیل توجیهات مربوط به «احتمال وقوع قریب‌الوقوع حادثه» و «حفظ حریم خصوصی»، مقامات کانادایی را از گفتگوهای ون روتس‌لار (Van Rootselaar) با ChatGPT مطلع نساخته بود. در این شکایات به حادثه‌ای در نوامبر ۲۰۲۴ اشاره شده است که طی آن، OpenAI در پی تهدید ادعایی از سوی یک فعال، تردد در دفاتر خود در سان‌فرانسیسکو را محدود و آن‌ها را قرنطینه کرد.

در یکی از متن‌های شکایت آمده است: «اگرچه OpenAI اذعان داشت که “هیچ نشانه‌ای از فعالیت‌های تهدیدآمیز فعال” — و در نتیجه هیچ نشانه‌ای از یک حمله قریب‌الوقوع — وجود نداشته است، اما این شرکت… بلافاصله دفاتر خود را قرنطینه کرد، به کارکنان هشدار داد، نام و تصویر مظنون را منتشر کرد و به اداره پلیس سان‌فرانسیسکو اطلاع داد.»

«زمانی که کارکنان خود در معرض خطر بودند، هیچ منافعی تحت عنوان “حریم خصوصی” مانع از آن نشد که OpenAI به پلیس اطلاع دهد یا نام و تصویر آن مرد را میان هزاران کارمند منتشر کند. همچنین شرکت منتظر نماند تا حمله به مرحله قریب‌الوقوع برسد، چرا که تشخیص داده بود انتظار برای وقوع حادثه، امنیت کارکنان را به خطر می‌اندازد.»