IBM发布Granite Switch 4.1：单个端点整合聊天、决策与语音转写
IBM在Hugging Face博客称，Granite-Switch-4.1-8B和 -30B将通用决策aLoRA、Guardian安全决策aLoRA与Granite-Speech-5.0-Turbo-CTC组合进一个模型，显存占用与基础模型单独运行时大致相当。
AI解读：Granite Switch 4.1试图回答的问题是：能否在同一个托管端点和同一份显存预算内，同时做聊天、通用/专项决策和语音转写。IBM的解法是把三个适配器——通用决策aLoRA、Guardian安全决策aLoRA、Granite-Speech-5.0-Turbo-CTC——与基础模型组合成一个模型。
对使用者的实际影响：按IBM的说法，这些技术加上基础模型占用的GPU显存与基础模型单独运行时大致相同，因此不需要为每类任务分别部署模型；但这一结论来自IBM自己的说明，尚无第三方显存实测数据。
语音转写能力嵌入了Granite-Speech-5.0-Turbo-CTC，IBM称它是OpenASR排行榜上最快的ASR模型。IBM还称Granite-Switch-4.1-8B可在单个端点上实时完成音频转写、摘要、有害内容筛查以及 15 项以上通用标志测试——这些均为公司主张，来源未给出独立评测。
Guardian aLoRA的适用范围限于安全相关决策任务：IBM称其平均表现超过Jev 1.13、Microsoft-Decision-1、GPT-Luna-Decisions和Clef-Flash，但没有公开具体评测集与分数。
Granite Switch使用激活式LoRA与缓存复用：基础模型生成产生的KV缓存可复用于后续基于适配器的决策，叠加IBM对vLLM低秩适配器推理的优化和共置ASR编码器，IBM称模型能在聊天、决策和语音请求间快速切换。
用户不必使用IBM预编译的版本：Granite Libraries提供可混搭的适配器仓库，官方计划发布基于Mellea训练适配器的Adapter SDK及教程。IBM还举例称自定义 3B参数Granite Switch模型在Doom游戏中每秒做 60 至 100 次决策，而Jev报告为每秒 10 次；该对比来自IBM一方。
IBM Granite在Hugging Face博客发布Granite Switch 4.1，称Granite-Switch-4.1-8B和 -30B把聊天、决策和语音转写组合进单个托管端点，显存占用与基础模型单独运行时大致相当。
两个版本内置了什么
IBM称Granite-Switch-4.1-8B和 -30B预置了三项能力：新的通用决策aLoRA（示例场景为v1/systemone）、面向安全相关决策任务的Guardian aLoRA，以及用于转写的Granite-Speech-5.0-Turbo-CTC。IBM称后者是OpenASR排行榜上最快的ASR模型。
IBM表示这三项技术与基础模型组合成一个模型，占用的GPU显存与基础模型单独运行时大致相同。这一显存说法来自IBM自述，来源未提供第三方实测。
- Granite-Switch-4.1-8B和 -30B两个版本
- 通用决策aLoRA：面向通用决策任务
- Guardian aLoRA：面向安全相关决策任务
- Granite-Speech-5.0-Turbo-CTC：IBM称为OpenASR排行榜上最快的ASR模型
安全决策与ASR的具体主张
IBM称Guardian aLoRA在安全相关决策任务上平均表现超过Jev 1.13、Microsoft-Decision-1、GPT-Luna-Decisions和Clef-Flash。来源没有给出这些对比所用的评测集、任务清单和具体分数。
IBM还称Granite-Switch-4.1-8B可在单个端点实时完成音频转写、生成摘要、筛查有害内容以及测试 15 项以上通用标志。同样属于公司主张，来源未附独立评测或延迟数据。
- Guardian aLoRA平均表现超过Jev 1.13、Microsoft-Decision-1、GPT-Luna-Decisions和Clef-Flash（IBM说法，未给具体分数）
- 8B版本可在单一端点实时转写、摘要、有害内容筛查，并测试 15+ 通用标志（IBM说法）
缓存复用与推理优化
IBM称Switch适配器是缓存高效的激活式LoRA，基础模型生成产生的KV缓存可复用于后续基于适配器的决策。叠加IBM团队对vLLM低秩适配器推理的加速贡献，以及共置的ASR编码器，IBM称模型能在聊天请求、决策请求和语音请求之间快速切换。
- 适配器共享基础模型KV缓存
- IBM为vLLM贡献了低秩适配器推理加速
- ASR编码器与模型共置
自组合与后续计划
IBM称Granite-Switch-4.1-8B和 -30B是内置预定义适配器的“batteries included”版本，但用户也可以自行组合：从Granite Libraries中挑选适配器，搭建自己的Granite Switch模型。
IBM计划发布Adapter SDK，用于在Mellea中训练适配器，并配套教程和Granite Switch支持。IBM提到这些适配器可用于专项分类或语言任务，并举例称自定义 3B参数Granite Switch模型在Doom游戏中每秒做 60 至 100 次决策，而Jev报告为每秒 10 次。IBM称该 3B模型还能在游戏时叙述并回答提问；这一对比同样来自IBM一方，来源未提供复现细节。
- 官方发布两个预组合版本，用户也可从Granite Libraries自行混搭适配器
- 计划发布Mellea中训练适配器的Adapter SDK及教程
- IBM举例 3B自定义模型在Doom中每秒 60-100 次决策，对比Jev报告的每秒 10 次