کارگران کنیایی که عینک‌های هوش مصنوعی متا را آموزش می‌دهند می‌گویند لحظات خصوصی‌ترین کاربران را می‌بینند

تحقیقاتی که توسط روزنامه‌های سوئدی Svenska Dagbladet و Göteborgs-Posten انجام شده، نشان داده است که کارگران قراردادی در کنیا که توسط Sama - یک شرکت برون‌سپاری کنیایی که خدمات حاشیه‌نویسی داده ارائه می‌دهد - استخدام شده‌اند تا به آموزش سیستم‌های هوش مصنوعی Meta Platforms کمک کنند، به شدت در معرض تصاویر و ویدیوهای شخصی ثبت شده توسط کاربران عینک‌های هوشمند Ray-Ban این شرکت قرار دارند.

این گزارش که در ۱۴۰۳/۱۲/۰۸ منتشر شد، نوری بر نیروی انسانی پنهان پشت حرکت Meta به سمت هوش مصنوعی پوشیدنی می‌تاباند و سوالات تازه‌ای درباره حفاظت از داده‌ها، انتقال داده‌های میان مرزی و فشار روانی بر ناظران محتوا که برای Sama در نایروبی کار می‌کنند، مطرح می‌کند.

عینک‌های هوشمند Ray-Ban متعلق به Meta که در مشارکت با EssilorLuxottica توسعه یافته‌اند، به عنوان یک دستیار مبتنی بر هوش مصنوعی بازاریابی می‌شوند که می‌تواند زبان‌ها را ترجمه کند، محیط اطراف را توصیف کند، عکس‌ها و ویدیوهای بدون دست بگیرد و به سوالات درباره آنچه کاربر می‌بیند پاسخ دهد.

با این حال، فراتر از این تبلیغات آینده‌نگر، مصاحبه‌های Svenska Dagbladet با کارکنان فعلی و سابق Sama و Meta نشان داد که فیلم‌های ضبط شده از طریق این عینک‌ها به هزاران کیلومتر دورتر در کنیا می‌رسند، جایی که حاشیه‌نویسان داده آن را بررسی و برچسب‌گذاری می‌کنند تا عملکرد سیستم را بهبود بخشند.

حریم خصوصی، بی‌سر و صدا شکسته شد

چندین کارگر کنیایی به روزنامه سوئدی گفتند که آن‌ها به طور منظم در طول کار خود با مطالب حساس روبرو می‌شوند، از جمله صحنه‌های معمولی خانگی تا لحظات صمیمی که کاربران ممکن است متوجه ضبط شدن آن‌ها نشده باشند.

کارگران گفتند در برخی موارد، فیلم‌ها شامل اطلاعات مالی مانند کارت‌های بانکی که در قاب قابل مشاهده هستند، یا ضبط‌هایی است که در فضاهای خصوصی مانند اتاق خواب و حمام انجام شده است.

"در برخی ویدیوها، می‌توانید کسی را ببینید که به دستشویی می‌رود یا لباس‌هایش را در می‌آورد"، یکی از کارگران Sama به خبرنگاران گفت. "فکر نمی‌کنم آن‌ها بدانند، چون اگر می‌دانستند، ضبط نمی‌کردند."

یک پیمانکار دیگر ادعا کرد که آن‌ها فیلمی را بررسی کردند که نشان می‌داد فرد عینک‌دار آن‌ها را روی میز کنار تخت می‌گذارد، سپس همسرش وارد اتاق شده و لباس‌هایش را در می‌آورد، احتمالاً بدون اینکه بداند تماشا می‌شود. گفته می‌شود فیلم‌های دیگر نشان می‌دادند که فرد عینک‌دار در حال تماشای محتوای پورنوگرافی یا حتی ضبط رابطه جنسی خود بوده است

طبق تحقیقات، شفافیت کمی برای این دستگاه‌های پوشیدنی وجود داشت. گزارش شده است که خرده‌فروشان در اروپا اطلاعات متناقضی در مورد اینکه آیا داده‌های ثبت شده توسط عینک‌ها روی دستگاه باقی می‌مانند یا به سرورهای Meta منتقل می‌شوند، ارائه دادند. آزمایش‌های مستقل ذکر شده در گزارش نشان داد که بسیاری از ویژگی‌های هوش مصنوعی عینک‌ها به اتصال ابری نیاز دارند، به این معنی که تصاویر و ورودی‌های صوتی می‌توانند به صورت راه دور پردازش شوند نه به صورت محلی روی دستگاه.

ارتباط با Sama

Sama که قبلاً Samasource نام داشت، خدمات حاشیه‌نویسی داده را به شرکت‌های فناوری بزرگی مانند Meta و OpenAI ارائه می‌دهد. این شرکت در گذشته در برخی از قراردادهایش، به ویژه با OpenAI، به نقض حقوق کارگری متهم شده است.

Sama قراردادهای محرمانه سختگیرانه‌ای را الزامی می‌کند که آنچه کارمندان می‌توانند علناً فاش کنند را محدود می‌کند. اما گزارش‌های منتشر شده توسط روزنامه‌های سوئدی نشان می‌دهد که وعده هوش مصنوعی بدون اصطکاک توسط یک سیستم کارگری تامین می‌شود که در آن بازبینان انسانی حجم زیادی از داده‌های خام و فیلتر نشده را بررسی می‌کنند تا الگوریتم‌ها بتوانند اشیا، محیط‌ها و زمینه را تشخیص دهند.

Meta در خط‌مشی‌های حریم خصوصی خود بیان می‌کند که محتوای کاربر ممکن است تحت بررسی انسانی قرار گیرد تا محصولات بهبود یابند و امنیت تضمین شود. برای کاربران اروپایی، شرکت تابعه ایرلندی شرکت مسئول انطباق با قانون عمومی حفاظت از داده‌های اتحادیه اروپا (GDPR) است.

با این حال، تحقیقات سوالاتی را در مورد چگونگی انتقال و پردازش داده‌های جمع‌آوری شده در اروپا یا ایالات متحده در کشورهایی مانند کنیا مطرح می‌کند، که تصمیم کفایت اتحادیه اروپا در شناخت رژیم‌های حفاظت از داده‌های آن‌ها به عنوان معادل GDPR را ندارند.

در حالی که حاشیه‌نویسی داده‌ها، نظارت بر محتوا و آموزش هوش مصنوعی برای جاه‌طلبی‌های فناوری نایروبی حیاتی شده‌اند، این مشاغل - که عمدتاً برای دانشجویان و فارغ‌التحصیلان جوان است - با حقوق پایین، بار کاری سنگین و قرار گرفتن در معرض مطالب آزاردهنده همراه هستند.

Meta در بیانیه‌های عمومی قبلی خود از شیوه‌هایش دفاع کرده و گفته است که در حفاظت‌های حریم خصوصی سرمایه‌گذاری می‌کند و میزان داده‌های مورد استفاده برای آموزش را به حداقل می‌رساند. با این حال، گزارش‌های منتشر شده توسط روزنامه‌های سوئدی نشان می‌دهند که خط بین هوش خودکار و نظارت انسانی تارتر از آن چیزی است که بسیاری از مصرف‌کنندگان فرض می‌کنند.