В Великобритании автоматизированные системы подбора персонала на основе искусственного интеллекта могут ставить представителей этнических меньшинств в невыгодное положение при трудоустройстве. Согласно новому исследованию, кандидаты все чаще вынуждены менять свои резюме, чтобы пройти первоначальный отбор и получить шанс на собеседование.
Исследование, проведенное британской организацией People Like Us совместно с компанией Censuswide среди 2000 соискателей, выявило существенные различия в опыте трудоустройства представителей разных этнических групп.
Так, 41% кандидатов из этнических меньшинств сообщили, что получали отказ в течение часа после подачи заявки. Среди белых соискателей этот показатель составил 32%. При этом представители этнических меньшинств подавали примерно на треть больше заявок на вакансии.
Авторы исследования отмечают, что автоматизированные системы могут отклонять кандидатуры еще до того, как резюме увидит человек. Однако установить, какие именно решения принимались алгоритмами, зачастую невозможно.
Среди соискателей, получавших отказы за последние два года, 74% подозревают, что хотя бы одно решение было принято автоматически. При этом лишь 15% сообщили, что работодатели предупреждали их об использовании таких систем.
Соискатели скрывают происхождение и меняют имена
Опасения перед алгоритмической дискриминацией заставляют кандидатов менять информацию о себе. Согласно опросу, 60% соискателей скрывали или корректировали сведения в резюме, опасаясь автоматического отказа. Среди представителей этнических меньшинств эта доля достигла 70%.
Чаще всего они убирали информацию о стране рождения, религиозной или культурной принадлежности. Каждый двадцатый кандидат сообщил, что менял свое имя.
Одновременно соискатели начали использовать искусственный интеллект, чтобы обойти автоматизированный отбор. Около 27% опрошенных переписывали резюме с помощью ChatGPT и аналогичных инструментов, а 13% добавляли скрытые ключевые слова белым шрифтом, рассчитывая, что программа их распознает. В общей сложности 66% участников исследования признались, что пытались адаптировать свои заявки под алгоритмы.
Еще 31% отказались от подачи документов на вакансии, которым, по их мнению, соответствовали, из опасения быть автоматически отклоненными. Среди этнических меньшинств этот показатель достиг 39%.
«Теперь поиск работы больше напоминает попытку пройти тест для машины, чем возможность быть оцененным как человек», — такую оценку дал 81% опрошенных.
Работодатели не всегда понимают работу алгоритмов
Исследование также выявило недостаточный контроль со стороны компаний, использующих автоматизированный отбор. Около 28% работодателей, применяющих такие системы, не отслеживают, различаются ли результаты в зависимости от этнического происхождения или других защищенных законом характеристик кандидатов.
Среди тех, кто проводит подобный анализ, 82% сообщили об обнаруженных различиях. Кроме того, 30% участников принятия кадровых решений признались, что не знают или не уверены, по каким критериям программа оценивает соискателей.
При этом три четверти кандидатов не знают о возможности запросить пересмотр автоматизированного отказа человеком в рамках британского законодательства о защите данных.
Парламент призывает принять закон об ИИ
На фоне растущих опасений Объединенный комитет парламента Великобритании по правам человека (JCHR) предупредил, что существующее законодательство недостаточно эффективно защищает граждан от рисков, связанных с искусственным интеллектом.
В опубликованном в сентябре докладе парламентарии назвали действующие нормы разрозненными и призвали разработать отдельный закон об ИИ.
Сооснователь People Like Us Шираз Гулшер отметил, что автоматизация помогает работодателям справляться с большим количеством заявок, однако не должна заменять прозрачный контроль за справедливостью решений.
Старший преподаватель Университета Глазго Марк Вонг в представленном парламенту докладе также предупредил, что бесконтрольное внедрение ИИ может привести к «автоматизации расизма» и усилению существующего социального неравенства.
По его оценке, аналогичные риски возникают не только при найме сотрудников, но и в здравоохранении, образовании, социальной защите, работе полиции и миграционных служб.
Эксперты призывают к независимым проверкам алгоритмов, большей прозрачности для соискателей и участию затрагиваемых сообществ в разработке правил использования искусственного интеллекта.
