Amazon бросает вызов Nvidia: новая технология позволит запускать ИИ на альтернативных процессорах
ЕРЕВАН, 20 октября. /АРКА/. Американская компания Amazon представила технологию TorchNeuron, позволяющую разработчикам запускать существующий программный код для искусственного интеллекта (ИИ), написанный с использованием платформы PyTorch, на специализированных процессорах AWS Trainium без необходимости его переписывания. Об этом сообщается на официальном сайте Amazon.
Согласно сообщению, для переноса программ на процессоры Trainium разработчикам достаточно изменить один параметр конфигурации. Технология использует стандартные механизмы PyTorch и обеспечивает совместимость с инструментами разработки, тестирования и масштабирования ИИ-моделей.
Amazon планирует опубликовать исходный код TorchNeuron под открытой лицензией Apache 2.0 на конференции PyTorch Conference North America 20 октября. Технология поддерживает процессоры Trainium2 и Trainium3.
Как отмечают в компании, использование TorchNeuron позволит сократить затраты времени на адаптацию программного обеспечения к альтернативным вычислительным архитектурам.
По данным Amazon, в ходе сравнительного тестирования инженеры компании запустили одинаковые сценарии обучения ИИ-моделей на традиционных процессорах и чипах Trainium. Компания утверждает, что модели демонстрировали сопоставимые результаты обучения.
Среди организаций, уже использующих или тестирующих новую технологию, Amazon называет разработчика голосовых ИИ-систем Cartesia и американский Lieber Institute for Brain Development, занимающийся исследованиями в области нейробиологии и разработки лекарственных препаратов.
Кроме того, Amazon сообщила о сотрудничестве с сообществом разработчиков PyTorch для уменьшения зависимости программной платформы от конкретных аппаратных архитектур. Поддержка Trainium также интегрирована в инструменты Hugging Face и систему распределенного обучения TorchTitan.
Разработка TorchNeuron является частью программы Amazon по созданию собственных специализированных процессоров для облачных вычислений и искусственного интеллекта.