Генеральный директор OpenAI Сэм Альтман заявил, что компания рассматривает возможность замедления разработки передовых технологий искусственного интеллекта (ИИ). Он также выразил надежду, что другие компании, занимающиеся ИИ, поступят аналогичным образом. Об этом сообщает Bloomberg. Генеральный директор компании OpenAI Сэм Альтман. Фото: Nathan Howard/Bloomberg По информации источников агентства, в ходе недавнего общекорпоративного собрания Альтман сообщил сотрудникам, что OpenAI может замедлить темпы разработки ИИ, возможно, совместно с рядом других лабораторий, занимающихся искусственным интеллектом. Однако некоторые из них могут не согласиться на такой шаг. В последние недели сотрудники ведущих компаний, занимающихся искусственным интеллектом, публично выражали обеспокоенность по поводу возросших рисков, связанных с передовыми системами ИИ, что усилило тревогу внутри самих компаний. OpenAI, как и её главный конкурент – компания Anthropic, подала конфиденциальные документы для выхода на биржу. Якуб Пачоцкий, главный научный сотрудник компании OpenAI, недавно опубликовал пост, в котором предупредил об опасностях ИИ и заявил, что, по его мнению, компании, занимающиеся разработкой в данной сфере, должны «координировать свои действия, чтобы замедлить дальнейшее развитие по мере необходимости». Специалист также добавил, что надеется, что добровольное замедление станет обычным явлением до установления общих критериев безопасности. Компания OpenAI уже заявила, что в последнее время замедлила разработку некоторых моделей и приостановила внутреннее обучение ИИ из-за опасений по поводу безопасности. В июле Альтман также заявил, что обсуждал с представителями Белого дома необходимость регулировать темпы разработки искусственного интеллекта. Недавно исследователь в области ИИ Джейкоб Коксон уволился из Anthropic, после чего обвинил своих бывших работодателей – компании Anthropic и OpenAI, в игре с жизнями людей из-за стремления к созданию сверхинтеллектуального ИИ. В сообщении в социальных сетях Коксон заявил, что люди, разрабатывающие ИИ, считают, что он может «уничтожить нас всех к концу десятилетия». Комментарии быстро распространились в интернете, набрав более 150 миллионов просмотров и привлекая внимание видных законодателей и общественных деятелей. Согласно информации Bloomberg, 10 сентября два исследователя, недавно оставившие свои должности в Anthropic и DeepMind (подразделение Google), также выразили обеспокоенность по поводу стремительных темпов развития ИИ. Они заявили, что разработчикам искусственного интеллекта необходимо быть более прозрачными в отношении рисков, связанных с этой технологией. А в конце июля более 1000 сотрудников всех крупнейших компаний, занимающихся ИИ, подписали петицию с призывом к созданию механизма для замедления темпов его разработки. За последние месяцы несколько сотрудников, работающих над вопросами безопасности в сфере ИИ, уволились из крупных лабораторий. Несмотря на то, что многие руководители и сотрудники индустрии давно предупреждают об экзистенциальной опасности систем искусственного интеллекта, опасения усилились после появления информации о том, что агенты ИИ из OpenAI работали сообща, чтобы нарушить систему изоляции и взломать веб-сайт сторонней компании. Этот и другие подобные инциденты усилили опасения по поводу кибервозможностей новых моделей и очевидной неспособности компаний, занимающихся разработкой, предотвратить их бесконтрольное распространение.
Источник новости: overclockers.ru
