Tether AI Research在Hugging Face发布BotPsy,基于Qwen3.5-0.8B后训练,专注工具调用与智能体工作流,以Apache 2.0许可开放权重供研究与教育使用。
阅读全文开源项目
关注开放的模型、工具与代码,找到值得动手的项目。
llama.cpp b12282修复Muse Spark忽略response_format json_schema的问题
llama.cpp发布构建b12282,该版本包含一项聊天相关修复:解决Muse Spark忽略response_format中json_schema参数的问题(PR #32017),并同步提供各平台预编译包。
阅读全文LiteLLM发布v1.106.8,回填按秒计费与FLAC防护修复
该版本将usage.seconds计费和未标注尺寸的FLAC防护回填到stable/1.106.x;发布说明同时给出Docker镜像的cosign校验方法。
阅读全文llama.cpp发布b12277:mtmd修复字符串格式并改名为mtmd_format
llama.cpp的b12277版本由github-actions机器人发布,核心变更是mtmd相关的字符串格式修复与重命名为mtmd_format(PR #32040),同时提供各平台预编译包。
llama.cpp发布b12274,新增FP8 KV缓存支持
该版本在PR #28392 中加入FP8 KV缓存,并补充了缩放KV缓存的测试;同时记录了几项明确的能力限制,包括在多GPU和OpenVINO相关测试中的排除或禁用。
llama.cpp发布b12273,合入采样输出别名修复
该版本由llama.cpp仓库自动发布,合并了PR #32015(fix-sampling-output-aliasing);发布页同时列出macOS、Linux、Android、Windows等多平台预编译包,macOS的KleidiAI构建与openEuler构建标注为DISABLED。
llama.cpp发布b12271:sched_params兼容时复用后端调度器
llama.cpp发布构建b12271,变更项为在调度参数兼容时复用后端调度器(PR #32009),并照例提供覆盖macOS、Linux、Windows、Android的多平台预编译包。
llama.cpp发布b12270构建,为MUL_MAT src1增加精度测试与门控
llama.cpp在b12270版本的变更列表中记录了一项ggml改动(#31896):为MUL_MAT的src1增加精度测试与门控;该版本同时发布覆盖macOS、iOS、Linux、Android、Windows等多平台的预编译包,其中部分构建被标注为禁用状态。
llama.cpp b12263调整CUDA显存池:分配失败时减半重试
该项目在更新说明中称,CUDA后端在cuMemAddressReserve失败时会将VMM池预留量减半并重试;在统一内存GPU上,预留量降至 8 GB。
LiteLLM发布v1.109.0:Docker镜像改用cosign签名,聊天补全支持流式回退续接
该版本发布说明列出多项标记为破坏性变更的修复,包括代理计费、回调删除与Bedrock流式守卫行为;同时新增豆包视频生成、Chat UI默认开启等特性。
LiteLLM发布v1.110.0-rc.1,新增非流式请求total_timeout总超时限制
这是预发布版本(rc.1),Docker镜像已用cosign签名;发布说明列出了工具调用、代理超时、路由与Redis批处理范围等多项修复,其中把通配符 /model/info行的计价方式改为按实际路由到的模型计价,被标记为破坏性变更。
llama.cpp发布b12262:CUDA后端在图复用阶段跳过兼容性检查
该版本唯一列出的代码改动为CUDA后端合并PR #32004;发布页同时提供macOS、iOS、Linux、Android、Windows多平台预编译包,其中macOS的KleidiAI版本与openEuler构建标记为DISABLED。
litellm发布 1.108.5 LTS,修复ollama_chat并行工具调用索引与OpenAI无密钥部署 401 等问题
BerriAI的litellm发布LTS补丁版 1.108.5,共合并 5 个PR、修复 4 项问题;发布说明称升级无需额外操作,lts镜像标签始终指向最新LTS补丁。
llama.cpp b12261发布:mtmd子上下文共享计算缓冲区
llama.cpp发布b12261版本,mtmd改动让多个子上下文共用同一计算缓冲区,并为音频生成增加加载时分配。
Langflow发布 1.13.2,修复约 40 项缺陷并默认要求管理员授权自定义代码
Langflow 1.13.2的更新说明列出多项缺陷修复,其中包括默认要求管理员授权才能编写自定义代码、拒绝冻结与ZIP加载器导入、为webhook运行强制要求属主凭据,以及Bedrock、知识库入库、MCP鉴权等模块的修正。
Ollama发布v0.40.17-rc0:Vulkan核显改用mmap,MLX支持并发生成
该候选版本包含ChatGPT命令行恢复、OpenCode设置读取thinking元数据、llama.cpp升至b12257等改动,并新增一位贡献者。
llama.cpp b12259发布:mtmd新增对Kimi K3.1视觉支持
该版本提交说明称支持Kimi K3.1视觉输入,并修复K2.5与K3.1的预处理及projector MLP;发布页同时提供多平台预编译包。
llama.cpp b12257将CUDA图与并发流状态移出common.cuh
该版本把ggml_cuda_graph、ggml_cuda_concurrent_event和ggml_cuda_stream_context移入graph.cuh,并将PDL缓存改为在ggml-cuda.cu中只定义一次。
ComfyUI v0.45.0发布:默认开启本地Web SSO,新增多家合作方节点
该版本将local_web_sso与partner_node_token默认打开,并接入Pika、腾讯、Kling、OpenAI、Gemini、字节跳动等合作方节点;同时修复多处崩溃、调整SeedVR2显存策略。
Gemini CLI发布v0.68.0:新增扩展验证命令,修复Windows路径与模型识别问题
该版本包含约 30 项变更,覆盖扩展安装锁、Windows路径大小写处理、Gemini 3模型识别、速率限制倒计时显示及多项终端UI修复;发布说明由gemini-cli-robot账号整理。
LiteLLM发布v1.104.9,将SpendLogs索引自动构建回移到stable/1.104.x
LiteLLM v1.104.9的主要变更是把自动SpendLogs索引构建回移到stable/1.104.x分支,同时将litellm版本号升至 1.104.9、litellm-proxy-extras升至 0.4.102.post2;发布说明还列出用cosign校验该版本Docker镜像签名的方法。
LiteLLM发布v1.103.11:向stable/1.103.x回迁SpendLogs索引自动构建修复
该版本由litellm-release[bot] 在GitHub发布,说明中列出的改动有两项:将SpendLogs索引自动构建回迁到stable/1.103.x分支,以及把版本号提升至 1.103.11。发布说明同时给出用cosign验证Docker镜像签名的命令。
llama.cpp发布b12255:停止在plamo2中重命名循环缓存张量
该版本由仓库自动发布账号github-actions[bot] 发布,变更说明为在plamo2中停止重命名循环缓存张量(#31984),并附各平台预编译包。
llama.cpp发布b12254,修复allOf纯类型生成空对象语法的问题
该版本针对common/json-schema的一处修复:当allOf组合的是integer等纯类型时,此前会生成空对象语法;提交说明同时提到修复空范围错误并采纳了机器人评审反馈。
LangChain发布langchain 1.4.10,修正中间件模型调用与追踪输入
该版本列出四项变更:中间件内部模型调用不再进入messages流;ModelRefusalMiddleware不再把输入写入追踪;另有依赖安全锁定更新与版本号提交。
Anthropic Python SDK发布v2.8.0:Claude Tag增加指标与Slack回复模式
发布说明列出了两项功能新增,以及Bedrock、Google Cloud、Vertex三个平台在模型ID、项目ID等路径参数上的输入校验修复。
GitHub用Copilot把80万行Copilot运行时从TypeScript迁到Rust,单开发者耗时数月
ByteByteGo汇总的公开信息显示,GitHub将Copilot运行时从TypeScript重写为Rust,约43万行生产代码经过迁移,AI token成本约12万美元;一次测试中客户端完整生命周期从5.25秒降到292毫秒。这是公司分享的迁移案例,效果数字来自其内部测试。

llama.cpp b12248将Vulkan GROUP_NORM工作组改为二维以规避设备计数上限
该项目在发布说明中称,此项改动(#31930)把GROUP_NORM的工作组划分为二维,以绕开maxComputeWorkGroupCount限制,并改用已有宏实现。
英伟达向CNCF捐赠OpenShell智能体安全运行时,并公布三款DSX新组件
英伟达在KubeCon + CloudNativeCon上宣布将自主智能体安全与治理运行时OpenShell捐给CNCF,作为沙箱项目;同时宣布参与谷歌主导的Agent Substrate项目,并公布NVIDIA Kubernetes Engine、Kubernetes Recipes与Snapshot三款DSX平台组件。

llama.cpp b12247修复MoltenVK上的越界读写
该版本把PR #31890 合入Vulkan后端,修正test-backend-ops在MoltenVK上的sentinel mismatch报错,并为norm_f32、l2_norm_f32、sum_rows_f32三条管线设置disable_robustness。