Jetson Tan
正在学习CS和AI Infra, GPLv3的支持者.
正在学习CS和AI Infra, GPLv3的支持者.
在旧的Mali Vulkan驱动上成功运行Llama.cpp
Redmi K30 Ultra搭载的Mali G77 MC9 GPU理论上支持Vulkan1.3, 但由于小米公司的不负责任, 实际的apiVersion为1.1, 无法达到GGML要求的1.2. 本文解决了此问题并成功编译运行了带有Vulkan后端的llama.cpp
This is a short summary of the second blog post.