Нобелевскую премию по физике получили два исследователя в области искусственного интеллекта, Джон Хопфилд и Джеффри Хинтон, за их вклад в разработку искусственных нейронных сетей, которые могут запоминать информацию и распознавать шаблоны по аналогии с человеческим мозгом. Их работы 1980-х годов заложили основу для нынешнего стремительного прогресса в ИИ и таких технологий, как рекомендательные алгоритмы и генеративные модели. Однако сами ученые теперь выражают обеспокоенность неконтролируемым развитием этих технологий.
В своем заявлении Нобелевский комитет отметил, насколько далеко шагнула эта область с момента публикации работы Хопфилда в 1982 году, где он описывал нейросеть с менее чем 500 параметрами. Сегодня технологические компании создают системы с миллиардами и триллионами параметров. Сеть Хопфилда представляла собой набор из всего 30 узлов, которые могли изменять свои значения между 1 и 0, что позволяло программировать их для запоминания изображений.
Хинтон развил эту идею, создав нейросети, которые могли не только запоминать, но и распознавать схожие шаблоны в разных данных, например, различать собак и кошек на изображениях. Его работа 1985 года по созданию сети, названной машиной Больцмана, стала важным шагом в развитии ИИ.
В последние годы оба ученых выражают тревогу по поводу стремительного прогресса ИИ. В 2023 году Хопфилд стал одним из ученых, подписавших письмо, призывающего приостановить разработку мощных генеративных систем ИИ. А Хинтон предупреждает, что ИИ может достичь уровня, на котором превзойдет человеческий интеллект в ближайшие 5-20 лет и начнет манипулировать людьми для достижения своих целей.
Оба ученых подчеркивают необходимость усиления контроля за разработкой ИИ и призывают правительства и компании вкладывать больше средств в исследования безопасности.
Источник новости: shazoo.ru
