В Нью-Йорке вступил в силу закон, известный как NYC 144, который регулирует использование искусственного интеллекта при приёме на работу. Положение требует от работодателей, использующих чат-боты и другое программное обеспечение на базе ИИ, ежегодно проверять эти инструменты на предмет потенциальной расовой и гендерной предвзятости.
Представляющая интересы работодателей юрист Эрин Коннел называет NYC 144 законом о раскрытии информации. Она считает, что законодатели и отраслевые группы в разных регионах США наблюдают за городом Нью-Йорк как за испытательным полигоном для будущего регулирования технологий.
Новый закон обязывает работодателей проверять любое ПО, которое играет важную роль в принятии решений о наборе и продвижении по службе. Также компании должны публиковать результаты подобных оценок на своих сайтах. Работодателей будут штрафовать за несоответствие на $1,5 тыс. в день.
Если компании будут видеть коэффициенты предвзятости, то им, вероятно, придётся что-то с этим сделать, полагает бывшая глава Комиссия США по соблюдению равноправия при трудоустройстве и партнёр консалтинговой фирмы Resolution Economics Виктория Липник.
Регулирование должно заставить разработчиков ИИ-инструментов модернизировать свои решения, уверена основатель рекрутинговой платформы Pymetrics Фрида Полли. По её словам, у создателей нейросетей теперь есть больше способов предварительно протестировать ПО.
Работники и соискатели не могут подать иски к работодателям на основании коэффициентов предвзятости, однако они имеют возможность использовать эту информацию в качестве потенциального доказательства в делах о дискриминации, возбуждённых в соответствии с местными и федеральными законами.
Низкий коэффициент указывает, что работодатель дискриминирует кандидатов, заявила Липник.
Почти 10 лет назад Amazon разработала алгоритм набора разработчиков ПО и начала поиски специалистов с опытом. Однако в тот момент большинство соискателей были мужчинами, поэтому алгоритм понизил рейтинг тех кандидатов, которые использовали определённые термины в резюме или окончили женские колледжи. Amazon перестала использовать эту программу.
Городской совет Нью-Йорка принял NYC 144 в 2021 году, а вступление положения в силу отложили на два года, пока законодатели рассматривали комментарии общественности, в том числе возражения работодателей и поставщиков ИИ-решений.
Источник новости: habr.com
