Изображение: Shutterstock / Ken stocker
UltraCluster будет использоваться для обучения и внедрения ИИ-моделей, применимых в таких сферах, как интернет-торговля, клиентское обслуживание и управление облачной платформой AWS.
Также компания представила новые серверы Trn2 UltraServer, которые обеспечивают высокую производительность и экономическую эффективность при обучении и развертывании современных моделей ИИ. Эти серверы используют чипы Trainium2, способные достигать пиковой вычислительной мощности в 83,2 петафлопс. Для крупнейших моделей серверы поддерживают масштабирование и улучшение производительности, что особенно важно для генеративного ИИ с триллионами параметров.Изображение: press.aboutamazon.com
Совместно с Anthropic AWS строит крупнейший в мире кластер ИИ под названием Project Rainier, который будет использовать сотни тысяч чипов Trainium2. Производительность этого кластера в пять раз превысит текущие показатели ведущих моделей ИИ.
Amazon также анонсировала следующий шаг в развитии — чипы Trainium3, разработанные для еще более сложных задач ИИ. Они обещают повысить производительность в 4 раза по сравнению с Trainium2 и станут доступны в 2025 году.
Для удобства разработчиков AWS предложила инструменты Neuron SDK, которые облегчают интеграцию чипов Trainium с популярными фреймворками, такими как JAX и PyTorch. Это дает возможность оптимизировать обучение и развертывание моделей с минимальными изменениями кода.
По сведениям IT-World, еще в августе, в России планировали начать сборку экспериментального фотонного процессора, который должен изменить правила игры в сфере обработки данных. Новая технология способна работать в сотни раз быстрее современных цифровых нейросетей. Читайте также ИТ-экосистемность по-русски Как отсутствие стандартизации и закрытые API влияют на интеграцию продуктов из разных экосистем? Как влияет на рынок существование множества одинаковых ИТ-решений? Что необходимо для создания более открытой и кооперативной среды? Разбирался IT-World.
Источник: Amazon
Источник новости: www.it-world.ru