OpenAI переименовала свой комитет по безопасности и защите в «независимый комитет по надзору за советом директоров», который сможет откладывать запуски моделей искусственного интеллекта. Такое решение приняли после 90-дневного обзора процессов и мер безопасности в компании.
Комитет возглавляет Зико Колтер, директор департамента машинного обучения Школы компьютерных наук Университета Карнеги-Меллона, а также Адам Д'Анджело, соучредитель и генеральный директор Quora, отставной генерал армии США Пол Накасоне и Николь Селигман, бывший исполнительный вице-президент и главный юрисконсульт Sony Corporation. Комитет будет контролировать, среди прочего, процессы безопасности, направляющие разработку и развёртывание моделей OpenAI. Он «будет проинформирован руководством компании об оценках безопасности для основных выпусков моделей и будет, вместе со всем советом директоров, осуществлять надзор за запуском моделей, включая полномочия откладывать выпуск до тех пор, пока проблемы безопасности не будут решены». Полный совет директоров OpenAI также будет получать «периодические брифинги» по вопросам безопасности и защиты.
90-дневный обзор комитета предоставил OpenAI «дополнительные возможности для отраслевого сотрудничества и обмена информацией ради повышения безопасности отрасли ИИ». Компания также будет искать «больше способов объяснять работу по безопасности и делиться ей» и «больше возможностей для независимого тестирования систем».
Члены комитета по безопасности OpenAI входят в совет директоров компании, поэтому неясно, насколько он независим на самом деле.
В мае OpenAI сформировала комитет по безопасности и защите, в состав которого вошли генеральный директор компании Сэм Альтман, а также члены совета директоров Брет Тейлор, Адам Д'Анджело и Николь Селигман. Также участие в его работе принял главный научный сотрудник Open AI Якуб Пахоцки и глава службы безопасности Мэтт Найт. Позднее к комитету присоединился бывший глава Агентства национальной безопасности Пол Накасоне. Альтман же теперь вышел из его состава.
В июле крупные IT-компании объявили о создании отраслевой организации «Коалиция за безопасный искусственный интеллект» (Coalition for Secure AI, CoSAI). В число участников и спонсоров-основателей коалиции вошли Microsoft, Google, Nvidia, Intel, IBM, PayPal, Amazon, Atrophic, Cisco, Chainguard, Cohere, GenLab, OpenAI и Wiz.
Источник новости: habr.com
