категории | RSS

Джеффри Хинтон покинул Google из-за этических проблем с технологией ИИ

Учёный-информатик, один из пионеров искусственного интеллекта Джеффри Хинтон в апреле покинул пост вице-президента Google. По словам Хинтона, он пошел на такой шаг, чтобы предупредить человечество об опасностях ИИ.Reuters / Mark Blinch

Исследователь обеспокоен тем, что Google отказывается от своих прежних ограничений в отношении публичных выпусков ИИ, пытаясь конкурировать с ChatGPT, Bing и аналогичными моделями.

Хинтон допускает, что в ближайшем будущем генеративный ИИ может спровоцировать волну дезинформации. «Вы больше не будете знать, что является правдой», — отметил он. 

Также Хинтона волнует проблема замещения рабочих мест с помощью ИИ. 

Кроме того, учёный обеспокоен возможностью создания полностью автономного оружия и тенденцией моделей ИИ демонстрировать неконтролируемое поведению на основе обучающих данных. 

Хинтон говорит, что его позиция начала меняться в прошлом году, когда Google, OpenAI и другие компании начали создавать системы искусственного интеллекта, которые, по его мнению, иногда превосходят человеческий интеллект. По его словам. ИИ быстро развился всего за последние пять лет — и «ужасно», что может произойти в следующие пять лет.

Главный научный сотрудник Google Джефф Дин ответил, что компания по-прежнему придерживается «ответственного подхода» и следит за «возникающими рисками». 

Хинтон посвятил свою карьеру изучению нейронных сетей и наиболее известен разработкой система распознавания объектов в 2012 году. Google купила стартап DNNresearch Хинтона в 2013 году.

В марте глава SpaceX Илон Маск, соучредитель Apple Стив Возняк, филантроп Эндрю Янг и ещё около тысячи исследователей искусственного интеллекта написали открытое письмо, в котором призвали «немедленно приостановить» обучение систем ИИ, «более мощных, чем GPT-4». В письме говорится, что системы искусственного интеллекта с «человеко-конкурентным интеллектом» могут нести «серьёзные риски для общества и человечества». В нём содержится призыв к лабораториям приостановить обучение на шесть месяцев.



Источник новости: habr.com

DimonVideo
2023-05-02T12:50:02Z

Здесь находятся
всего 0. За сутки здесь было 0 человек
Яндекс.Метрика