llama.cpp b12173为OpenCL后端补齐repeat对f16、i32、i16、bf16的支持
该版本把OpenCL后端的repeat操作扩展到f16、i32、i16、bf16四种数据类型,并同步更新ops;提交记录显示Codex以Assisted-by形式参与。
llama.cpp发布b12173版本,主要变更为OpenCL后端新增repeat操作对f16、i32、i16、bf16的支持(#31782)。
提交说明按顺序记录:先为OpenCL添加f16 repeat,再扩展到i32、i16、bf16,随后更新ops;三条均标注Assisted-by: Codex。
本次改动涉及的后端与数据类型
这是一次后端算子覆盖范围的补充。与此前支持的组合相比,b12173让OpenCL路径上的repeat可以处理f16、i32、i16、bf16。来源未说明该操作在模型推理中的具体调用场景,也未给出性能或精度数据。
- 变更对象:OpenCL后端的repeat操作
- 新增数据类型:f16、i32、i16、bf16
- 关联PR:#31782
- 协作标注:Assisted-by: Codex