https://techlog.122113.xyz/tags/vulkan/Recent content in Vulkan on TechLog 技术日志Hugozh-cnTue, 25 Aug 2026 20:00:00 +0800https://techlog.122113.xyz/posts/2026-08-25-android-adreno-llama-vulkan/Tue, 25 Aug 2026 20:00:00 +0800https://techlog.122113.xyz/posts/2026-08-25-android-adreno-llama-vulkan/<blockquote> <p>随着移动端 SoC 性能越来越强,现在已经可以直接在 Android 手机上运行 GGUF 格式的大语言模型。本文记录一次实际部署过程:使用 Termux + llama.cpp + Mesa Freedreno/Turnip + Vulkan,让高通 Adreno GPU 参与 LLM 推理。</p> <p>本文以 Adreno 840 为例,并使用 LFM2.5-2.6B-Q8_0 进行测试。</p> </blockquote> <hr> <h2 id="一环境">一、环境</h2> <p>本次测试环境:</p> <table> <thead> <tr> <th>项目</th> <th>配置</th> </tr> </thead> <tbody> <tr> <td>系统</td> <td>Android</td> </tr> <tr> <td>SoC</td> <td>Qualcomm Snapdragon</td> </tr> <tr> <td>GPU</td> <td>Adreno 840</td> </tr> <tr> <td>推理框架</td> <td>llama.cpp</td> </tr> <tr> <td>llama.cpp</td> <td>b10516</td> </tr> <tr> <td>GPU Backend</td> <td>Vulkan</td> </tr> <tr> <td>Mesa</td> <td>26.0.6</td> </tr> <tr> <td>Vulkan 驱动</td> <td>Freedreno / Turnip</td> </tr> <tr> <td>模型</td> <td>LFM2.5-2.6B-Q8_0</td> </tr> <tr> <td>模型大小</td> <td>约 2.7 GB</td> </tr> </tbody> </table> <blockquote> <p>手机使用的是统一内存架构,因此 <code>vulkaninfo</code> 显示的 GPU memory 并不是传统 PC 独立显卡意义上的 VRAM。</p> </blockquote> <hr> <h2 id="二安装-termux">二、安装 Termux</h2> <p>建议使用官方 Termux 项目提供的版本,不建议使用来源不明的第三方修改版。</p>