НовостиУчёные обнаружили гендерные предрассудки у сервисов распознавания изображений

Вышло исследование о предвзятости сервисов по распознаванию изображений. Его авторы загружали фотографии политиков в облачный сервис распознавания изображений Google и анализировали аннотации, которые он выдавал. Сервис в три раза чаще отмечал внешний вид, если на фотографии была женщина, а к изображениям мужчин сервис подбирал слова, обозначающие профессию. «Это приводит к тому, что женщины получают более низкий статус: женщины должны выглядеть красиво, а мужчины — лидеры бизнеса», — сказал один из исследователей Карстен Швеммер. Учёные провели тест искусственного интеллекта Google, а также конкурентов Amazon и Microsoft. ИИ также отмечали внешность у женщин и статус у мужчин. В издании Wired отметили, что несмотря на то, что исследование опубликовали сейчас, данные для него собирали в 2018 году. Редакция журнала решила повторить эксперимент учёных и увидела, что ИИ, распознающие фотографии, всё ещё выдают похожие результаты. В издании отметили, что ИИ Amazon и Microsoft показали немного меньше предвзятости по сравнению с Google, но при этом посчитали некоторых женщин детьми. Google отключил функцию распознавания гендера ранее в этом году, ссылаясь на то, что нельзя определить гендер человека по внешнему виду. Компания заявила, что работает над улучшением сервиса.

Карстен Швеммер и его команда провели исследование, так как хотели измерить закономерности в том, как люди используют изображения, чтобы говорить о политике в интернете. «Вы можете получить совершенно ложное представление о реальности», — заключил он. Компания, которая бы использовала сервис искусственного интеллекта для организации большой коллекции фотографий, может непреднамеренно упустить женщин, занимающихся политикой и бизнесом, индексируя их вместо этого по их улыбкам, отметил Швеммер.

обложка: Jean_De_Vlas — stock.adobe.com