Исследователи IBM Research рассказали, как они использовали человеческий мозг в качестве модели при создании аналогового чипа для задач, связанных с искусственным интеллектом.
Они опубликовали статью «64-ядерный вычислительный чип со смешанными сигналами, основанный на памяти с фазовым изменением для глубокого вывода нейронных сетей» в журнале Nature Electronics.
Исследователи IBM заявили, что они применили новый подход для анализа состояний, который позволит повысить эффективность и сократить расход заряда батареи в проектах искусственного интеллекта.
«Человеческий мозг способен достигать выдающихся результатов, потребляя при этом мало энергии», — отмечает один из соавторов исследования Танос Василопулос из лаборатории IBM в Цюрихе.
Действуя аналогично тому, как синапсы взаимодействуют друг с другом в мозге, чип смешанных сигналов IBM получил 64 аналоговых ядра в памяти, каждое из которых содержит массив синаптических клеточных единиц. Преобразователи обеспечивают плавный переход между аналоговым и цифровым состояниями.
Чипы достигли точности работы на уровне 92,81% в наборе данных CIFAR-10 — широко используемой коллекции изображений для машинного обучения.
«Мы демонстрируем точность вывода, близкую к программному эквиваленту, с помощью ResNet и сетей с длинной краткосрочной памятью», — сказал Василопулос. ResNet («остаточная нейронная сеть») представляет собой модель глубокого обучения, которая позволяет обучать тысячи слоев нейронной сети без снижения производительности.
«Чтобы добиться комплексного снижения задержки и энергопотребления, AIMC необходимо объединить с внутрикристальными цифровыми операциями и внутрикристальной связью», — заявил Василопулос. По его словам, многоядерный чип AIMC изготовлен по 14-нм комплементарной технологии «металл-оксид-полупроводник со встроенной памятью с фазовым изменением».
Исследователь отмечает, что «большие и более сложные рабочие нагрузки можно будет выполнять в средах с низким энергопотреблением или в условиях ограниченного заряда батареи», в том числе на смартфонах, в автомобилях и фотоаппаратах.
«Кроме того, поставщики облачных услуг смогут использовать эти чипы для снижения затрат на электроэнергию и выбросов углекислого газа», — сказал он.
В IBM заявили, что будущие усовершенствования цифровых схем, обеспечивающие межуровневую передачу активации и промежуточное её хранение в локальной памяти, позволят выполнять на этих чипах полностью конвейерные рабочие нагрузки сквозного вывода.
Василопулос предложил технический обзор чипа в отдельной статье под названием «Аналоговые вычисления в памяти, достигающей совершеннолетия», опубликованной в журнале Electrical and Electronic Engineering.
Называя разработку «первой в своём роде», он описывает её как «полностью интегрированный вычислительный чип со смешанными сигналами в памяти, основанный на внутренней интегрированной памяти с фазовым изменением (PCM) в 14-нм (КМОП-процессе».
Исследователь также указал, что чип включает 64 ядра AIMC, каждое из которых имеет массив памяти размером 256x256 элементарных ячеек. Элементарные ячейки состоят из четырёх устройств PCM, что в общей сложности составляет более 16 млн. В дополнение к массиву аналоговой памяти каждое ядро содержит лёгкий цифровой процессор, выполняющий функции активации, накопления и операции масштабирования.
Между тем позже в этом году компания выпустит Meteor Lake, первый потребительский чип со встроенным нейронным процессором для задач машинного обучения. Вероятно, что процессоры будут только мобильными.
Источник новости: habr.com
