Некоторое время назад в сети наделал много шума ретранслятор ZLUDA, который позволяет запускать код CUDA на видеокартах не от NVIDIA. В частности тогда речь шла о видеокартах AMD Radeon, но совсем недавно "красные" попросили автора снести код, который был разработан на их средства. Теперь же ZLUDA получил третью жизнь, но уже с фокусом на работе с ИИ и машинным обучением, а делается это на средства неназванного спонсора.
Заявляется, что ZLUDA в будущем позволит запускать разработанный с CUDA ИИ-софт на видеокартах AMD и Intel, а еще возможна доступность данного ретранслятора и для других ГПУ. Правда в данный момент разработчик все же фокусируется именно на видеокартах AMD с поддержкой ROCm 6.1+.
Andrzej Janik, разработчик ZLUDA, прямо сейчас трудится над запуском PyTorch, TensorFlow и Llama.cpp через CUDA на видеокартах не от NVIDIA. Автор считает, что эта работа займет у него около года. Это время понадобится ему для доработки кода ZLUDA до состояния стабильной работы с упомянутыми задачами.
При этом ZLUDA продолжит быть софтом с открытым исходным кодом, а потому к разработке могут присоединиться все желающие с необходимыми для данного действа навыками.
Источник новости: www.goha.ru
