اجتماعیتکنولوژیشبکه‌های اجتماعیهوش مصنوعی

عذرخواهی فیس‌بوک به دلیل اینکه هوش مصنوعی، مردان سیاه پوست را «انسان نخستین» می‌نامد.

به گزارش وبسایت خبری بی‌بی‌سی، با استفاده از یک سیستم توصیه‌های هوش مصنوعی، از کاربران فیس‌بوک که ویدیوای که در آن مردان سیاه پوست حضور داشتند را تماشا می‌کردند، پرسیده شد که آیا آنها می‌خواهند به تماشای فیلم درباره انسان‌های نخستین ادامه دهند؟

فیس‌بوک به بی‌بی‌سی نیوز گفت که به وضوح یک اشتباه غیرقابل قبول رخ داده است و سیستم را غیرفعال و تحقیقات را آغاز کرد:

ما از هر کسی که ممکن است این توصیه‌های توهین آمیز را دیده باشد، عذرخواهی می‌کنیم.

این آخرین مورد از سری اشتباهات با سابقه طولانی است که نگرانی‌ها را در مورد سوگیری نژادی در هوش مصنوعی افزایش داده است.

واقعا متاسفم

در سال ۲۰۱۵، برنامه گوگل فوتوز عکس افراد سیاه پوست را «گوریل» نامگذاری کرد. این شرکت گفت بسیار وحشتناک است و واقعاً متاسفیم، اگرچه راه حل آن به گزارش Wired در سال ۲۰۱۸، فقط سانسور جستجوهای عکس و برچسب‌ها برای کلمه گوریل بود.

در ماه مه، توییتر تعصبات نژادی را در نحوه پیش نمایش تصاویر با الگوریتم برجستگی پذیرفت. مطالعات همچنین تعصباتی را در الگوریتم‌های تغذیه کننده برخی از سیستم‌های تشخیص چهره نشان داده است.

خطای الگوریتمی

در سال ۲۰۲۰، فیس‌بوک یک شورای محصولات فراگیر و یک تیم سهامداری جدید برای اینستاگرام اعلام کرد که از جمله موارد دیگر، بررسی می‌کند که آیا الگوریتم‌های آن دارای سوگیری نژادی هستند یا خیر. یک نماینده به بی‌بی‌سی نیوز گفت، توصیه «انسان نخستین» یک اشتباه الگوریتمی در فیس‌بوک بود و محتوای ویدئو را منعکس نمی‌کند:

ما به محض اینکه متوجه شدیم این اتفاق می‌افتد، کل ویژگی توصیه موضوعی را غیرفعال کردیم تا بتوانیم علت آن را بررسی کرده و از تکرار آن جلوگیری کنیم. همانطور که گفتیم در حالی که ما در هوش مصنوعی خود پیشرفت کرده‌ایم، می‌دانیم که این کامل نیست و به توسعه بیشتری نیاز داریم.

فیس‌بوک در حال توسعه ساعت هوشمند با کنترل واقعیت افزوده است

بیشتر بخوانید
آمادگی قطع اینترنت را داشته باشیم!

نوشته های مشابه

دیدگاهتان را بنویسید

فقط نام را وارد کنید. نیازی به ثبت ایمیل نیست.

پنج − 4 =

دکمه بازگشت به بالا