Как считаешь, мир становится лучше с каждым шагом технологического прогресса, или нет? В целом, наверное, да. Но что, если те самые алгоритмы, которые призваны облегчить процессы, например, найма, на самом деле могут стать настоящими катализаторами разного рода проблем? Да, именно так: искусственный интеллект (ИИ) и автоматизированные системы отбора кандидатов — могут способствовать предвзятости, усиливая гендерные, возрастные и другие предубеждения. В этой статье поговорим о Applicant Tracking System (система отслеживания кандидатов). В мире их сотни, в России уже десяток наберется. Алгоритмы — это великолепно! Да? Алгоритмы, на первый взгляд, прекрасны: они обещают убрать «человеческий фактор» с его пристрастиями и эмоциями. Компании массово внедряют ИИ для отбора сотрудников, ведь это дешево, быстро и вроде бы эффективно. Но вот тут-то и начинается подвох: алгоритмы обучаются на данных, которые уже существуют. А что это значит? Алгоритм берет пример с прошлого, как ребенок, смотрящий на своих родителей. И если эти «родители» с завышенными ожиданиями, предубеждениями, то результат будет соответствующим.

Гендерные перекосы: Саша и Маша Давайте разберем вначале самый простой пример — гендерная составляющая. Алгоритм обучался на данных компании, где за последние десять лет на позиции программистов нанимали в основном мужчин. Как думаете, кого этот алгоритм будет выбирать в первую очередь? Конечно, мужчин! Ведь для него это «идеальный кандидат».

Маша с отличным резюме будет автоматически отклонена, потому что ее имя звучит не так «технически», как имя Саши. Не потому, что она хуже. А потому что алгоритм «не привык» видеть женщин на этих позициях.

Зрелость и молодость https://dzen.ru/a/ZvK-UzNcdHXYfzHi