Facebook вибачається за те, що штучний інтелект називає темношкірих чоловіків приматами

Користувачів Facebook, які дивилися газетне відео за участю темношкірих, запитали, чи хочуть вони «продовжувати дивитися відео про приматів» за допомогою системи рекомендацій штучного інтелекту.

Facebook повідомив BBC News, що це «явно неприпустима помилка», відключив систему і почав розслідування.

«Ми приносимо свої вибачення всім, хто, можливо, бачив ці образливі рекомендації».

Це остання з тривалої серії помилок, які викликали побоювання з приводу расових упереджень у штучного інтелекту.

У 2015 році програма Google Photos помітила фотографії чорношкірих людей як «горили».

Компанія заявила, що вона «приголомшена і щиро шкодує», хоча її виправлення, як повідомляло Wired в 2018 році, полягало в простій цензурі пошуку фотографій і тегів для слова «горила».

У травні Twitter визнав расові упередження в тому, як його «алгоритм помітності» кадрував прев’ю зображень.

Дослідження також показали упередженість в алгоритмах деяких систем розпізнавання обличь.

У 2020 році Facebook оголосив про створення нової «інклюзивної ради по продуктам» і нової команди з управління акціями в Instagram, які, серед іншого, будуть вивчати, чи демонструють його алгоритми расові упередження.

«Рекомендація приматів» «була алгоритмічною помилкою в Facebook» і не відображала зміст відео, повідомив BBC News представник.

«Ми відключили всю функцію рекомендацій по темам, як тільки зрозуміли, що це відбувається, щоб ми могли з'ясувати причину і запобігти повторенню цього знову».

«Як ми вже говорили, покращуючи наш ШІ, ми знаємо, що він недосконалий, і нам ще належить просунутися вперед».