اینستاگرام پروفایل‌های هوش مصنوعی بدون برچسب را جریمه می‌کند

اینستاگرام اعلام کرد که حساب‌های کاربری با پروفایل‌های هوش مصنوعی که بدون برچسب‌گذاری فعالیت می‌کنند، با کاهش شدید بازدید و محدودیت در تعامل مواجه خواهند شد.

این پلتفرم اعلام کرده است که برچسب فعلی خود یعنی «سازنده هوش مصنوعی» (AI creator) را به «پروفایل ساخته‌شده با هوش مصنوعی» (AI-generated profile) تغییر می‌دهد؛ اقدامی که به گفته اینستاگرام، باعث افزایش شفافیت و آگاهی کاربران می‌شود. هدف از این برچسب جدید، آگاه کردن کاربران از این نکته است که شخصیت یا هویت نمایش‌داده‌شده در یک پروفایل، توسط هوش مصنوعی ساخته شده یا بخش عمده‌ای از آن با استفاده از این فناوری تولید شده است.

طبق سیاست جدید، تولیدکنندگانی که پروفایل‌های هوش مصنوعی خود را به‌درستی برچسب‌گذاری نکنند، ممکن است با کاهش میزان بازدید و تعامل (reach) مواجه شوند. در مقابل، تولیدکنندگانی که از این برچسب جدید استفاده کنند، صرفا به دلیل داشتن یک شخصیت هوش مصنوعی در پروفایل خود، با محدودیت یا جریمه روبرو نخواهند شد.

لازم به ذکر است که این برچسب برای تمامی موارد استفاده از هوش مصنوعی نیست. اینستاگرام تصریح کرده است کاربرانی که از هوش مصنوعی برای ویرایش عکس‌ها، بهبود کپشن‌ها (captions)، طراحی گرافیک یا سایر اصلاحات خلاقانه استفاده می‌کنند، نیازی به استفاده از برچسب «پروفایل ساخته‌شده با هوش مصنوعی» ندارند.

اینستاگرام می‌گوید این تغییر بخشی در پاسخ به شکایات کاربرانی است که با پروفایل‌هایی مواجه شده‌اند که شبیه به افراد واقعی به نظر می‌رسیدند، اما بعدا متوجه شده‌اند که آن شخصیت کاملا توسط هوش مصنوعی ساخته شده است.

اینستاگرام در بیانیه‌ای نوشت: «با گسترش نقش هوش مصنوعی مولد (generative AI) در فرآیند خلق محتوا، گزارش شده است که کاربران تمایلی به مواجهه با پروفایل‌هایی ندارند که انسانی به نظر می‌رسند اما بعدا متوجه می‌شوند شخصیت آن هوش مصنوعی است. آن‌ها می‌خواهند بدانند چه زمانی یک پروفایل شامل یک فرد ساخته‌شده توسط هوش مصنوعی است.»

اینستاگرام قصد دارد شفافیت بیشتری در مورد استفاده از هوش مصنوعی در پروفایل‌ها ایجاد کند.

چالش‌های مدیریت پروفایل‌های هوش مصنوعی در شبکه‌های اجتماعی

زمان‌بندی این اقدام بسیار قابل توجه است؛ چرا که با افزایش حضور اینفلوئنسرهای هوش مصنوعی در پلتفرم‌های مختلف شبکه‌های اجتماعی، نارضایتی از محتواهای ساخته‌شده توسط هوش مصنوعی رو به افزایش بوده است.

برای نمونه، اوایل سال جاری میلادی، اپلیکیشن دوست‌یابی Goose پس از آنکه شبکه‌ای از اینفلوئنسرهای مرد (که ظاهرا با هوش مصنوعی ساخته شده بودند) این برنامه را در اینستاگرام تبلیغ کردند، موضوع تحقیقات مجله Wired قرار گرفت. تیم Wired بیش از دوجین حساب کاربری را شناسایی کرد که به نظر می‌رسید دارای اینفلوئنسرهای هوش مصنوعی هستند؛ برخی از این حساب‌ها نیز گزارش شده‌اند که برای ترغیب کاربران به ثبت‌نام، از طریق پیام‌های مستقیم (direct messages) با افراد تماس گرفته‌اند.

محتوای حوزه سلامت و تندرستی نیز نمونه‌ای به‌شدت نگران‌کننده در این زمینه است. نیویورک تایمز در ماه جولای گزارش داد که صدها پزشک، درمانگر و شخصیت حوزه سلامت ساخته‌شده با هوش مصنوعی را در شبکه‌های اجتماعی یافته است که مشغول تبلیغ مکمل‌ها یا ارائه ادعاهای پزشکی به کاربران هستند.

این خبر در پی واکنش‌های شدید کاربران به یک ابزار هوش مصنوعی منتشر شده است؛ ابزاری که به کاربران اجازه می‌داد با استفاده از چهره و ظاهر دیگران، تصاویر جدیدی تولید کنند. کاربران نسبت به استفاده از محتوای عمومی خود در اینستاگرام بدون کسب رضایت صریح (explicit opt-in) اعتراض داشتند و در نهایت، شرکت متا (Meta) این قابلیت را حذف کرد.

هفته گذشته، شرکت متا در پی اتهامات مربوط به تأثیرات فیسبوک و اینستاگرام بر کودکان و نوجوانان، به توافقی ۱۸ میلیارد دلاری با ایالت‌های آمریکا دست یافت. بر اساس مفاد این توافق، متا محدودیت زمانی پیش‌فرض دو ساعته برای استفاده روزانه از فیسبوک و اینستاگرام را برای نوجوانان اعمال خواهد کرد. همچنین قابلیت‌هایی نظیر مسدودسازی در «حالت شب» (Night Mode)، بی‌صدا کردن اعلان‌ها (muted notifications) در ساعات مدرسه و سایر محدودیت‌ها نیز پیاده‌سازی خواهد شد.