Специалисты из Вашингтонского университета, Университета Джона Хопкинса и Технологического института Джорджии изучили стереотипы роботов и рассказали, почему они ведут себя сексистски и расистски с людьми. Результаты исследования озвучили на конференции по справедливости, подотчетности и прозрачности, организованной Ассоциацией вычислительной техники.
Исследователи дали роботу кубики с изображениями лиц людей и попросили разложить их по определенным параметрам. Роботу предстояло выполнить 62 задачи, определить среди людей человека, домохозяйку, преступника и так далее.
Во время выполнения задания ученые отслеживали, как часто робот выбирал определенный пол или расу. Исследователи пришли к выводу, что робот теряет беспристрастность, когда перед ним оказываются люди.
Так, робот на 10% чаще преступниками считал темнокожих, латиноамериканцев он назначал уборщиками, а мужчин в целом любил больше, чем женщин.
Ученые отметили, что хорошо спроектированная программа не стала бы класть в коробку «преступников», но робот это делал.
Ученые опасаются, что компании могут запустить роботов с такими недоработками в производство. Перед этим ИИ нужно значительно улучшить. Сейчас он обучается на алгоритмах из интернета и, соответственно, перенимает человеческие стереотипы.