Новости Linux

Разработчик из Valve оптимизировал драйвер RADV для работы с Llama.cpp

В кодовую базу, на основе которой формируется выпуск Mesa 25.3, приняты изменения, существенно увеличивающих скорость работы движка выполнения больших языковых моделей Llama.cpp при использовании Vulkan-бэкенда на системах с GPU AMD и Mesa-драйвером RADV. Оптимизированный драйвер RADV в некоторых тестах llama-bench стал быстрее проприетарного драйвера AMDVLK и стека ROCm на 31% при обработке запросов (тесты "pp" - prompt processing) и на 4% при генерации токенов (тесты "tg" - token generation). Оптимизацию выполнил Рис Перри (Rhys Perry) из компании Valve, участвующий в разработке драйвера Vulkan RADV и компилятора шейдеров ACO.

Читать полностью

#OpenNet
@linux_potok

👍5

www.tgoop.com/linux_potok/17988

431 viewsOct 21 at 06:21

Разработчик из Valve оптимизировал драйвер RADV для работы с Llama.cpp

В кодовую базу, на основе которой формируется выпуск Mesa 25.3, приняты изменения, существенно увеличивающих скорость работы движка выполнения больших языковых моделей Llama.cpp при использовании Vulkan-бэкенда на системах с GPU AMD и Mesa-драйвером RADV. Оптимизированный драйвер RADV в некоторых тестах llama-bench стал быстрее проприетарного драйвера AMDVLK и стека ROCm на 31% при обработке запросов (тесты "pp" - prompt processing) и на 4% при генерации токенов (тесты "tg" - token generation). Оптимизацию выполнил Рис Перри (Rhys Perry) из компании Valve, участвующий в разработке драйвера Vulkan RADV и компилятора шейдеров ACO.

Читать полностью

#OpenNet
@linux_potok

BY Новости Linux