امنیت، اخلاق و قوانین هوش مصنوعی

دستیار هوش مصنوعی Ollie با تضمین حریم خصوصی معرفی شد

دستیار هوش مصنوعی
💡نکته کلیدی و خلاصه این مقاله:

استارتاپ نوپای Ollie با معرفی یک دستیار هوش مصنوعی مبتنی بر استاندارد امنیتی SOC 2 تلاش می‌کند تا تعادلی پایدار میان مدیریت هوشمند امور روزمره و حفظ تمام‌عیار حریم خصوصی کاربران برقرار کند. برای آنکه...

استارتاپ نوپای Ollie با معرفی یک دستیار هوش مصنوعی مبتنی بر استاندارد امنیتی SOC 2 تلاش می‌کند تا تعادلی پایدار میان مدیریت هوشمند امور روزمره و حفظ تمام‌عیار حریم خصوصی کاربران برقرار کند. برای آنکه یک دستیار هوش مصنوعی کارایی و سودمندی واقعی داشته باشد، ابتدا باید اطلاعات جامعی درباره سبک زندگی شما به دست آورد. با این حال، استارتاپ Ollie — ارائه‌دهنده دستیار هوشمند برای ساماندهی امور روزمره زندگی — بر این باور است که رفع چنین نیازی لزوما به معنای تسلیم تمام اطلاعات و قربانی کردن حریم خصوصی کاربران نخواهد بود.

در شرایطی که برخی دستیارهای مبتنی بر هوش مصنوعی سازمانی سازوکارهای محافظت از داده‌ها را پیاده‌سازی کرده‌اند، Ollie جزو نخستین سرویس‌های پرکاربرد با محوریت امور خانواده به شمار می‌رود که موفق به دریافت گواهی انطباق SOC 2 شده است. این چارچوب امنیتی به شرکت‌ها امکان می‌دهد از طریق یک حسابرسی مستقل ثابت کنند کنترل‌های رسمی و سخت‌گیرانه‌ای برای محافظت از داده‌های کاربران و اداره امن سیستم‌های خود در اختیار دارند.

دستیابی به این گواهی یک نقطه عطف کلیدی برای تیم توسعه Ollie است؛ چرا که این پیام روشن را به کاربران مخابره می‌کند که این سامانه هرگز به دنبال جمع‌آوری و سوءاستفاده از داده‌های شخصی افراد برای اهداف جانبی، نظیر آموزش مدل‌های پایه، نیست.

بیل لنون (Bill Lennon)، هم‌بنیان‌گذار و مدیرعامل Ollie، در گفت‌وگو با تک‌کرانچ در این زمینه توضیح داد: «ما از اساس باور داریم که مقوله اعتماد و حریم خصوصی امری حیاتی است. به همین دلیل مدل درآمدی ما مبتنی بر اشتراک پولی طراحی شده است؛ چرا که می‌خواهیم کاربرانمان مطمئن باشند این سیستم منحصرا در خدمت آن‌ها کار می‌کند.» او همچنین تأکید کرد: «ما داده‌های شما را در اختیار هیچ شخص یا نهاد ثالثی قرار نمی‌دهیم.»

محیط چت و عملکرد دستیار هوش مصنوعی اولی در گوشی همراه

نمای تعاملی دستیار هوش مصنوعی Ollie برای ساماندهی امور روزانه و ارسال پیام

امروزه دستیارهای شخصی متعددی در بازار با ادعای کاربرپسند بودن حضور دارند که هدفشان ادغام با جریان روزمره زندگی از طریق پیام‌رسان‌ها و تبادل متن است؛ درست به همین علت، رویکرد Ollie در زمینه حفظ حریم خصوصی می‌تواند به یک مزیت رقابتی پایدار و وجه تمایز اساسی برای آن بدل شود.

جایگاه Ollie در میدان رقابت پرحرارت دستیار هوش مصنوعی

در حال حاضر، Ollie با دیگر دستیارهای متنی موجود مانند Poke (که توسط Cognition خریداری شد)، Fambot، Ohai، Folk، Saner.ai و Tomo رقابت می‌کند. علاوه‌بر این، ابزارهای پرشماری مانند Town، Lindy و Reclaim.ai نیز فعال‌اند که تمرکز بیشتری بر محیط‌های کاری، مدیریت تقویم و پردازش ایمیل‌ها دارند. همچنین نباید از Instinct غافل شد؛ سامانه‌ای نوظهور که حتی پیش از عرضه عمومی، موفق به جذب ۳۵۰ میلیون دلار سرمایه با ارزش‌گذاری ۲.۵ میلیارد دلاری شده است.

به عبارت دیگر، گفتن اینکه این حوزه روزبه‌روز داغ‌تر می‌شود، تقلیل دادن واقعیت میدان رقابت است.

در مقام مقایسه، استارتاپ Ollie مستقر در سن‌دیگو تاکنون در مرحله بذری (Seed Round) موفق به جذب رقمی بسیار محدودتر یعنی ۷.۵ میلیون دلار شده که بخش عمده آن توسط شرکت سرمایه‌گذاری Khosla Ventures و با مشارکت AI House تأمین شده است.

رقابت استارتاپ های دستیار هوش مصنوعی در بازار فناوری

مقایسه جایگاه استارتاپ‌های پیشرو در عرصه توسعه دستیارهای متنی و ابری

کاربرانی که به سراغ چنین فناوری‌هایی می‌روند، همواره با این چالش دست‌به‌گریبان‌اند که در ازای دریافت خدمات هوشمند، تا چه میزان حاضرند داده‌های فردی خود را به اشتراک بگذارند. به عنوان نمونه، پلتفرم Instinct به دلیل شرایط استفاده و سیاست‌های بیش از حد گسترده‌اش با انتقادات فراوانی روبه‌رو شد؛ قوانینی که مجوزی «دائمی و غیرقابل‌فسخ» برای «دسترسی، استفاده، میزبانی، ذخیره‌سازی موقت، بازتولید، ارسال، نمایش، انتشار، توزیع و اصلاح» هرگونه محتوای کاربر — از جمله به‌منظور آموزش مدل‌های اختصاصی — را برای شرکت محفوظ می‌دانست.

لنون در توسعه دستیار هوش مصنوعی Ollie رویکردی کاملا متفاوت در پیش گرفته است. در حال حاضر، این ابزار خانوادگی به تقویم‌ها و صندوق‌های ایمیل متصل می‌شود تا امور روزمره خانواده را سامان دهد و اعضا را در جریان جزئیات برنامه‌ها بگذارد. این سامانه همچنین قابلیت‌هایی دارد که در برنامه‌ریزی وعده‌های غذایی، خرید اقلام مایحتاج، پیگیری فهرست کارها (To-do lists)، تعیین وقت ملاقات و پرداخت قبوض از طریق چت‌های گروهی بسیار کارآمد واقع می‌شود. مدیریت بودجه خانوار نیز احتمالا در آینده به مجموعه قابلیت‌های آن افزوده خواهد شد.

دستیابی به چنین سطحی از دسترسی عمیق، بیش از هر چیز نیازمند اعتمادسازی است؛ امری که به باور مدیران Ollie، ارزش افزوده اصلی این برند به حساب می‌آید. لنون می‌گوید: «ما اطلاعات شما را در اختیار هیچ‌کس نمی‌گذاریم. این اطلاعات بی‌نهایت حساس هستند و محافظت بدون قیدوشرط از آن‌ها برای کسب اعتماد کاربران ضرورت دارد.»

رابط کاربری و امنیت داده در دستیار هوش مصنوعی خانواده

سازوکار حفاظتی Ollie و انطباق با استانداردهای امنیتی برای حفظ اطلاعات شخصی

اعتبار تصویر: Ollie

معماری امنیتی و احراز هویت؛ راهکاری فراتر از رمز عبور

این سرویس افزون بر انطباق با استاندارد امنیتی SOC 2، برای انجام مأموریت‌های محوله هرگز نام کاربری یا رمز عبور افراد را مطالبه نمی‌کند. هنگامی که سیستم نیاز دارد از طرف کاربر وارد وب‌سایتی شود، این فرایند را از طریق مرورگر ابری اختصاصی خود پیش می‌برد و پیوندی ایمن به یک نشست از راه دور (Remote Session) را برای کاربر ارسال می‌کند تا هویت توسط خود فرد تأیید شود. سازوکار انجام پرداخت‌ها یا خریدهای اینترنتی نیز به همین شکل هدایت می‌شود.

اگرچه این شیوه ضریب ایمنی بسیار بالایی به همراه دارد، اما چالش آنجاست که کاربر برای تکمیل برخی اقدامات ناچار است مراحل ورود (Login) را شخصا طی کند. با وجود این، لنون اطمینان دارد که تحول ابزارهای فنی این مسئله را حل خواهد کرد.

او در این‌باره می‌گوید: «این قلمرو هنوز کاملا نوپاست. باور دارم در آینده نوعی از توکنایزیشن سخت‌گیرانه و قطعی (Hard Tokenization) را به شیوه‌ای امن پیاده‌سازی خواهیم کرد تا دیگر نیازی به درج مکرر داده‌ها نباشد. این‌ها فناوری‌های خط مقدم هستند و ما به دنبال دستیابی به بهترین تجربه کاربری ممکن در نقطه تلاقی راحتی و امنیت هستیم.»

کسب اطمینان کاربران، پیش از آنکه دسترسی به منابع حساس‌تری نظیر حساب‌های بانکی را — حتی از طریق درگاه‌های واسط نظیر پلید (Plaid) — مجاز کنند، مرحله‌ای سرنوشت‌ساز خواهد بود.

لنون که دارای مدرک دکترا در حوزه علوم هوش مصنوعی است، کارنامه‌ای غنی در صنعت فناوری مالی (فین‌تک) دارد؛ او پیش‌تر در سال ۲۰۲۱ استارتاپ Groundwork (یک نئوبانک تخصصی برای سازمان‌های غیرانتفاعی) را واگذار کرده بود. این تجربه تخصصی مسیر توسعه سامانه را در حوزه مدیریت تراکنش‌های مالی خانواده بسیار هموار می‌کند.

قابلیت مدیریت امور مالی و تقویم با دستیار هوش مصنوعی

پیش‌نمایشی از برنامه‌ریزی تقویم خانوادگی و تسهیل پرداخت‌ها توسط پلتفرم هوشمند اولی

اعتبار تصویر: Ollie

موانع فنی و پایداری در مسیر پذیرش عمومی

با وجود تمامی تمهیدات، پرسش اساسی این است که آیا عموم مخاطبان آمادگی سپردن مدیریت امور خصوصی زندگی به یک دستیار هوش مصنوعی را دارند یا خیر.

لنون نسبت به آینده خوش‌بین است و اشاره می‌کند که نرخ ماندگاری کاربران (Retention Rate) در Ollie از نظر شمار مشترکان پولی، با سرویس‌های اشتراکی پیشرو رقابت می‌کند. البته او به دلیل حساسیت‌های بازار از افشای شمار دقیق کاربران یا مشتریان فعال خودداری کرد.

از سوی دیگر، این قبیل سامانه‌ها در پاره‌ای از موارد رفتارهای پیش‌بینی‌ناپذیر و نامتعادلی بروز می‌دهند. علیرغم موج رسانه‌ای سنگین پیرامون ابزارهای رقیب نظیر Instinct، در آزمایش‌های میدانی برای استعلام نرخ اقامتگاه‌ها و ثبت رزرو، اشتباهات فاحشی در قیمت‌ها گزارش شده است. عملکرد Ollie نیز در خلال تست‌های فنی به دلیل بروز اختلال در زیرساخت سرویس‌دهنده پیامکی با وقفه مواجه شد و پاسخ‌دهی آن متوقف گردید.

با در نظر گرفتن این واقعیت که کاربران معمولا فرصت آزمون و خطای چندانی به فناوری‌های نوپا نمی‌دهند، نحوه مهار این خطاها بسیار حیاتی است.

مدیرعامل این استارتاپ ضمن تأیید این موضوع، آن را چالش ساختاری تمامی مدل‌های زبانی بزرگ (LLMs) برشمرد و خاطرنشان کرد: «از آنجا که این مدل‌ها ذاتا تصادفی و احتمالی (Stochastic) هستند، نمی‌توان به‌تنهایی به ثبات رفتاری آن‌ها تکیه کرد. به همین دلیل ناچاریم چارچوب نظارتی و مهارکننده عامل‌ها (Agent Harness) را با رویکردی کاملا تدافعی پیاده‌سازی کنیم تا خطاها پیش از وقوع فیلتر شوند؛ این فرایند دقیقا مانند آن است که در آغاز کار، ابتدا باید انبوهی از ریزنقص‌ها و خطاهای پیاپی را رفع کنید.»

همیار وب

تیم تحریریه همیار وب

مرجع تخصصی ابزارها، قالب‌ها و آموزش‌های عملی توسعه کسب‌وکار آنلاین مبتنی بر هوش مصنوعی و اتوماسیون.