Специалисты Amazon, занимающиеся машинным обучением, обнаружили неожиданный факт: созданная ими нейронная сеть, призванная помогать при отборе кандидатов на работу, отдавала предпочтение мужчинам. Об этом пишет Reuters.
Когда это выяснилось, искусственный интеллект отстранили от выполнения указанной обязанности. Однако интересно вот что: указанное поведение ИИ не было заложено при проектировании, а стало результатом обучения.
Компания Amazon широко использует средства автоматизации и передовые технологии. Программа, о которой идет речь, разрабатывалась с 2014 года. О том, что она отдает предпочтение мужчинам, стало известно в 2015 году.
Причина дискриминации по половому признаку оказалась проста. В качестве базы для обучения разработчики использовали реальные резюме соискателей, принятых на работу в течение последних 10 лет. Большая часть этих резюме была написана мужчинами, что соответствовало сложившемуся состоянию рынка труда в этой сфере. Заметив, что в одобренных резюме чаще встречаются речевые обороты, выдающие в авторе мужчину, нейронная сеть посчитала это признаком лучших кандидатов и стала браковать резюме, поданные женщинами.
Кроме того, ИИ ставила рассказы о достижениях выше сведений о профессиональной подготовке. Таким образом, лучшую рекомендацию мог получить соискатель, даже не обладающий нужными навыками.
В работу системы были внесены коррективы, но гарантий, что в будущем ИИ снова не свернет на кривую дорожку, выявив менее очевидный способ выявлять и забраковывать женщин, не было. Поэтому в прошлом году проект был закрыт. Во всяком случае, официально.
Источник уточняет, что рекомендации программы никогда не были единственным основанием для принятия решений, хотя отдел кадров и принимал их во внимание.
Источник: Reuters