Google визуально приравнял чернокожих к гориллам — «общество»

Сотрудники поисковика извиняются за неполиткорректный алгоритм

Google Photos не отличает представителей негроидной рассы с очень темным цветом кожи от горилл, шимпанзе и мартышек

Компания Google убрала из лексикона Google Photos слово «горилла», поскольку механизм распознавания изображений подписывал им фото афроамериканцев с очень темным цветом кожи. Этот факт был установлен два года назад, и с тех пор Google так и не смогла научить систему отличать приматов от представителей негроидной расы.

Забытое слово

Google визуально приравнял чернокожих к гориллам - «общество»

Google Photos не отличает представителей негроидной рассы с очень темным цветом кожи от горилл, шимпанзе и мартышек

 

Искусственный интеллект Google Photos больше не сможет распознавать на фотографиях горилл, а также шимпанзе и мартышек. При этом изображения всех остальных животных, включая бабуинов, гиббонов и орангутанов, система распознает по-прежнему.

Дело в том, что компания Google исключила из словарного запаса Google Photos слова «горилла», «шимпанзе» и «мартышка». К такому выводу пришел журнал Wired, который протестировал более 40 тыс изображений в этом сервисе.

Компания подтвердила догадку издания. Как пояснила Google, ей пришлось пойти на такой шаг потому, что механизм распознавания изображений путал горилл и представителей негроидной расы.

В результате фотографии, на которых были запечатлены люди с очень темным цветом кожи, получали в системе автоматический тег «горилла». Компания акцентирует внимание на том, что механизм автоматического присваивания тегов находится на ранней стадии развития и не отличается совершенством.

[vesti.ru, 11.01.2018, Google Photos перестали показывать фото горилл из-за обвинений в расизме: Сервис Google Photos использует технологию машинного обучения, чтобы сортировать фотографии более 500 миллионов пользователей. Снимки получают условные обозначения после загрузки, их можно найти с помощью поисковых запросов. […]

Сотрудники The Wired загрузили в Google Photos 40 тысяч фотографий разных животных. Сервис смог распознать гиббонов, панд и орангутангов, однако не справился с обезьянами, гориллами и шимпанзе.

На некоторых фото горилл программа увидела только зоопарк или джунгли.

В Google подтвердили, что с 2015 года изображения некоторых приматов у них находятся под запретом. Будет ли эта проблема решена, неизвестно. — врезка К.ру]

По наблюдениям пользователей, возможности распознавать горилл лишилось также приложение для камеры Google Lens, однако Google Assistant и система распознавания объектов для бизнеса Google Cloud Vision по-прежнему идентифицируют всех приматов корректно.

Скандал в 2015 году

О том, что механизм распознавания изображений Google Photos путает горилл и афроамериканцев, стало известно в июле 2015 года. Афроамериканец Джеки Алсине (Jacky Alcine) отметил в соцсети Twitter, что фотография, где был изображен сам Джеки с чрезвычайно темнокожей подругой, получила автоматический тег «гориллы». «Google Photos, ты облажался по полной.

Моя подруга не горилла», — написал Алсине.

Фото, на котором Джеки Алсине и его подруга распознаны как гориллы

Вскоре с Джеки вышел на связь Йонатан Зунгер (Yonatan Zunger), старший специалист Google по социальной инженерии. Он поблагодарил Алсине в Twitter за то, что тот помог обнаружить ошибку.

По словам Зунгера, проблема заключалась в затемненности лиц на фотографии и некорректной обработке контрастов при данном тоне кожи и освещении. Зунгер отметил, что у системы также были трудности с тем, чтобы отличать собак от людей различной расовой принадлежности.

Сам сервис был запущен незадолго до этого, в мае 2015 года. После скандала и шквала обвинений в расизме Google пообещала найти решение.

Два года компания пыталась научить искусственный интеллект отличать горилл от афроамериканцев, однако потерпела поражение, и в результате вынуждена была просто исключить слово «горилла» из лексикона Google Photos. В результате в настоящий момент тег «горилла» не присваивается даже тем изображением, на которых присутствуют соответствующие животные.

В США трехлетний мальчик упал в вольер с гориллами


Читать также:

Читайте также: