llama.cpp b11675发布:mtmd新增音频流接口,支持voxtral-realtime
该版本由发布说明标注为mtmd模块新增mtmd_audio_stream,并加入对voxtral-realtime的支持,PR编号 #30629;发布页同时列出多平台预编译包和多种后端构建。
AI解读:发布说明把本次变更概括为mtmd模块新增mtmd_audio_stream,并支持voxtral-realtime,对应PR #30629,提交信息中提到已按review意见处理。
从接口命名看,mtmd_audio_stream面向音频流式输入,但发布说明没有给出具体API调用方式、音频格式或延迟数据。
voxtral-realtime被列为新增支持对象,说明llama.cpp的多模态mtmd路径开始覆盖实时音频模型;发布说明未说明该模型是否需要额外的模型文件或特殊配置。
发布页提供了预编译包,覆盖macOS/iOS、Linux、Android、Windows和UI,并包含CPU、CUDA、Vulkan、ROCm、SYCL、OpenVINO、OpenCL Adreno、Snapdragon等构建变体;其中macOS arm64 KleidiAI版、openEuler版和“Website/Attestations”项被标为DISABLED。
这是面向开发者的版本发布,发布说明没有附带性能对比或准确率评测,因此不能据此判断实时音频处理的速度或资源占用改善幅度。
llama.cpp发布b11675版本。发布说明写明,本次变更在mtmd模块新增mtmd_audio_stream,并支持voxtral-realtime,对应PR #30629,提交信息提到已处理review意见。
发布页同时给出该版本的预编译包列表和多种后端构建。
mtmd新增音频流接口并支持voxtral-realtime
发布说明把b11675的变更集中表述为两点:mtmd模块新增mtmd_audio_stream,以及支持voxtral-realtime,PR编号 #30629。提交摘要中还标出“address review”,表示作者对审查意见做了修改。
发布说明没有展开mtmd_audio_stream的具体函数签名、支持音频格式或示例代码,也没有给出voxtral-realtime的模型加载方式。这些细节需要查看对应PR或源码才能确认。
预编译包覆盖多平台与多种后端
发布页列出b11675的预编译产物,覆盖macOS/iOS、Linux、Android、Windows和UI。Linux和Windows侧提供CPU、Vulkan、CUDA 12与CUDA 13、ROCm 10.0、SYCL、OpenVINO等构建;Linux arm64和Android arm64另有Snapdragon的CPU、Adreno GPU、Hexagon NPU版本,Windows arm64提供OpenCL Adreno版本。
部分条目被标注为DISABLED,包括macOS Apple Silicon(arm64)KleidiAI enabled以及openEuler全部条目;发布页中“Website”和“Attestations”下没有列出内容。