Искусственный интеллект и инклюзивность

[hasibaakterss3309]

В других случаях проблема не столько в предвзятости программистов, сколько в нашей собственной истории. Джемма Галдон, аудитор алгоритма и основатель компании Eticas Research and Consulting, объясняет, что, например, чтобы решить, кому дать ипотеку, алгоритм будет опираться на исторические данные: «Исходя из этих данных, у мужчин будет больше возможностей, чем у женщин». потому что исторически нам предоставляли меньше прав и потому что система присваивает нам профиль риска».

В 2018 году Amazon пришлось отказаться от инструмента почему вьетнамцы используют зало? искусственного интеллекта, который он использовал для оптимизации процессов рекрутинга. Проблема заключалась в том, что алгоритм обучался в основном на мужских резюме и научился расставлять приоритеты в них и наказывать те, которые содержали слово «женщина».

Наши данные также отражают нашу историю несправедливости по отношению к женщинам и другим меньшинствам. И эту проблему решить сложнее. «Мы не можем исправить алгоритмы, вводя более качественные данные, потому что лучших данных не существует», — говорит журналист по искусственному интеллекту Мередит Бруссард. Технологии не могут исправить несправедливость системы. «Основная проблема — общество», — говорит Бруссард.