该版本自 1.6.3 以来加入prompt caching middleware、修复流式读取超时分类,并替换了不可用的集成测试模型。
阅读全文开源项目
关注开放的模型、工具与代码,找到值得动手的项目。
LangChain发布 1.4.3:修复create_agent工具调用并新增Bedrock Mantle模型支持
该版本自 1.4.2 起还包含回退模型缓存配置清理、无需profiles识别GPT-6结构化输出,以及依赖anyio从 4.11.0 升级至 4.14.2。
阅读全文GitHub开源AI安全代理在Android应用中发现 24 个漏洞
GitHub安全实验室用开源Taskflow Agent审计Android应用,报告了 24 个漏洞,包括OsmAnd可被任意应用静默导入设置以追踪位置,以及Wikipedia应用通过deeplink实现账户接管。
阅读全文llama.cpp b11236发布:推测解码、mtmd与server迁移到batch_ext
该版本把推测解码、多模态(mtmd)和服务器三条路径统一迁到batch_ext,并新增common_batch、修正add()/add_embd() 返回值处理、为零填充路径加警告。
Anthropic Python SDK发布v1.9.0:新增claude-sonnet-5-5与流式工具调用
v1.9.0于 2026-09-28 发布,新增between_tools思考类型、claude-sonnet-5-5模型支持、缓存诊断转正,以及可在回复流式输出时并行执行工具调用。
Claude Code v2.1.284发布:Sonnet 5.5成Anthropic API默认Sonnet模型
Anthropic在Claude Code更新中加入claude-sonnet-5-5,1M上下文、每百万token输入 2 美元输出 10 美元,缓存读取 0.20 美元;同时默认权限模式改为auto,Ultracode独立为开关。
llama.cpp b11235发布:修复Windows上的Hugging Face缓存路径
llama.cpp发布b11235版本,主要变更是修复Windows平台上的HF缓存路径问题,该提交取代了此前的 #29158,由Adrien Gallouët署名。
llama.cpp b11234修复WebGPU后端张量非对齐写入
该版本只包含一个功能性改动:让ggml_backend_webgpu_buffer_set_tensor能处理非对齐写入,并附带了各平台预编译包。
OpenAI Python SDK发布v3.20.0,新增Agents凭据与WebSocket快照选项
该版本于 2026-09-28 发布,新增Agents凭据和会话选项、Responses的Cyber访问程序,并允许通过opt-in方式获取增量WebSocket文本与工具快照,同时修复多项实时与WebSocket相关问题。
llama.cpp b11233发布:重构回滚测试并修复Metal空张量融合问题
该版本将test-recurrent-state-rollback改为支持 --models DIR遍历全部dummy模型,并为test_multi_seq_split_replay分配独立测试状态;同时允许Metal后端融合 0 元素节点,避免图重排序导致的重新分配。
llama.cpp b11232发布:x86 CPU为非常规头维度启用分块Flash Attention
该版本将分块Flash Attention扩展到head dim不是向量整数倍的模型,并为simd_gemm_ukernel_tail增加AVX2掩码加载/存储支持,同时修复填充KV分块的FA softcap处理。
llama.cpp发布b11229:修复DKQ超过 256 mfma内核的模板跳过问题
该版本由llama.cpp Releases页面发布,标题为「HIP: fix template skip for DKQ > 256 mfma kernels (#29559)」,并同步提供多平台预编译包。
llama.cpp b11228为Metal后端补齐GGML_OP_PAD左填充与循环填充
该版本让Metal与CPU、CUDA、Vulkan行为对齐,并移除一个因更慢、且会在启用后导致两个填充用例失败的f32_4 kernel。
llama.cpp b11226发布:Windows ARM64可用MSVC cl.exe构建
llama.cpp新版本b11226合并PR #28362,让Windows ARM64平台支持用微软MSVC cl.exe编译器构建,同时照常提供macOS、Linux、Android、Windows等多平台预编译包。
llama.cpp发布b11225:为回滚、保存加载与分片状态恢复测试补上ggml初始化
该版本的核心改动是修复ggml初始化问题,覆盖test-recurrent-state-rollback、test-save-load-state和test-state-restore-fragmented三个测试;多平台预编译包同步发布。
LiteLLM发布v1.104.0-rc.1,Langfuse回调迁移至v4
该RC版本包含Langfuse SDK回调迁移到v4、Azure code_interpreter容器文件按原生ID覆盖测试,以及多项CI与流式输出修复的向后移植。
llama.cpp b11224修复Vulkan后端读取KV缓存切片时算错结果的问题
在mul_mat等算子原地读取带步长的KV缓存视图时,Vulkan后端此前把ne00*ne01当作批次步长,导致第一个head之后的注意力读出错误行;b11224改为从nb[2] 取步长,并修正了A/B绑定的内存范围。
OpenAI Codex发布 0.158.0:MCP支持预注册OAuth客户端密钥,默认启用终端输入审批
Codex 0.158.0还修复了Windows 10路径沙箱失败、Linux嵌套可写根启动等问题,并为exec-server WebSocket连接加入bearer token认证。
Hugging Face在Hub上线RL Environments筛选器,用数据集仓库托管强化学习环境
Hugging Face称,RL环境现可作为带rl-environment标签的数据集仓库出现在Hub的新筛选器中,无需新建仓库类型、注册表或注册;Harbor、Verifiers、OpenEnv、NeMo Gym四个框架已注册为数据集库标签。
llama.cpp b11223放行因果重排模型的RANK pooling分批处理
llama.cpp新构建b11223的server改动允许Qwen3、Qwen3-VL等因果LLM重排模型对超过n_ubatch的输入做分块预填充,此前服务器会直接拒绝这类RANK pooling输入。
llama.cpp b11222发布:调整参数解析,避免 --rpc注册产生副作用
llama.cpp新构建版本b11222修改了命令行参数解析逻辑:--rpc不再被无条件注册,llama_supports_rpc() 只在对应处理函数中调用,服务器初始化日志也改到参数解析完成后输出。
llama.cpp发布b11221:string_split改为对非法值抛异常
该版本由Adrien Gallouët提交(#29518),把common中的string_split函数行为从静默处理改为在遇到非法值时抛出异常,同时照例提供macOS、Linux、Windows、Android等多平台预编译二进制。
llama.cpp b11218发布:Jinja模板引擎新增dict内置支持
llama.cpp发布b11218版本,主要变更是为Jinja模板引擎加入dict内置对象支持并补充测试,同时提供覆盖macOS、Linux、Windows、Android及多种加速后端的预编译包。
llama.cpp发布b11217:调整OpenCL二进内核加载条件
llama.cpp构建版本b11217发布,唯一列出的代码改动是优化OpenCL二进内核(bin kernel)的加载条件(PR #29503),同时提供覆盖macOS、Linux、Windows、Android的多平台二进制包。
llama.cpp b11216为SYCL后端补上 1024 至 8192 宽度的FWHT内核
新内核fwht_kernel_wide覆盖 1024/2048/4096/8192 四种宽度,把此前走稠密GEMM的O(n²) 路径改为O(n log n) 的蝶形计算,但作者已在无GPU的pod上验证,ggml调度集成未被端到端测试。
llama.cpp b11215发布:为 40-112 头维度调优CUDA fp16 FlashAttention配置
llama.cpp新版本b11215的唯一功能变更是针对head size 40至 112 调整CUDA下fp16 tile FlashAttention的kernel配置,同时附带各平台预编译包,其中macOS KleidiAI支持与openEuler构建处于禁用状态。
llama.cpp b11214为CDNA架构开启dkq>256 的fattn-mma内核
该版本针对大batch size场景,在AMD CDNA架构上启用了dkq大于 256 时的fattn-mma内核,并在CI中忽略超大MFMA内核的寄存器溢出检查。
llama.cpp发布b11213,修复Adreno GPU上argsort内核选择
llama.cpp新版本b11213的改动是修复Vulkan后端在Adreno GPU上的argsort内核选择问题,同时为macOS、Linux、Windows、Android等平台提供预编译包。
llama.cpp b11212发布:无llguidance时语法错误改为抛异常而非中止进程
llama.cpp发布构建号b11212,唯一列出的代码改动是common模块在没有llguidance的情况下遇到语法错误时抛出异常,而不是直接abort;同一版本继续提供macOS、Linux、Windows、Android及多后端预编译包。
llama.cpp b11211发布:RPC后端改用RDMA完成通道,不再自旋等待
该版本由CI机器人github-actions[bot] 发布,核心改动是让RPC使用RDMA完成通道(completion channel)替代自旋等待,并为Apple RDMA留下TODO。