开源Hugging Face Blog·原文 2026年10月20日

AnyLanguageModel 1.0发布:在苹果平台用同一套API切换本地与托管模型

Hugging Face博客称,AnyLanguageModel 1.0与swift-huggingface 1.0、swift-xet 1.0同期发布;开发者只需把import FoundationModels改为import AnyLanguageModel,同一套会话代码即可调用系统模型、llama.cpp/MLX/Core ML本地模型以及多家托管服务。

AI解读:AnyLanguageModel定位为苹果Foundation Models框架的兼容替代品,核心卖点是同一套会话代码可在系统模型、开源权重本地模型和托管提供商之间切换,切换成本是一行import改动。

来源列举的本地后端为llama.cpp、MLX和Core ML;托管侧覆盖OpenAI的Chat Completions与Responses、Anthropic Messages、Google Gemini、Ollama、OS 27上的Private Cloud Compute,以及通过自定义base URL接入的Hugging Face Inference Providers和OpenRouter等OpenAI兼容端点。

功能层面,作者称工具调用与引导生成(含嵌套 @Generable类型及其数组)在所有提供商上可用,图像输入遵循Foundation Models 27的语法,托管提供商同样支持流式工具调用和token用量返回。

来源给出的模型与体积示例:Gemma 4 E2B在Q4_0下约 3.4 GB、LFM2.5 2.6B在Q4_K_M下约 1.7 GB,两者可放在iPhone上;Qwen3.8 27B的MLX 4位版本约 16 GB,需要 32 GB内存及以上的Mac。

来源还称AnyLanguageModel可在Linux上运行,同一份代码可用于服务端;API密钥改为通过闭包获取,便于应用从自有服务器取得短期令牌。

适用范围和限制:上述能力与模型名均来自Hugging Face博客的发布说明,属于项目方陈述;来源未给出基准测试或独立评测数据,也未说明 1.0 版本在各平台上的具体兼容性差异。

Hugging Face博客发文宣布AnyLanguageModel 1.0发布,同期发布的还有swift-huggingface 1.0和swift-xet 1.0。该项目一年前以“苹果Foundation Models框架的即插即用替代品”形式推出,目标是让应用开发者自行选择模型和提供商。

博客称,迁移只需把import FoundationModels换成import AnyLanguageModel,原有会话代码即可用于系统模型、经llama.cpp、MLX、Core ML运行的开源权重模型,以及多家托管提供商。

1.0 版本的功能范围

博客列出过去一年加入的主要能力:工具调用和引导生成在所有提供商上可用,引导生成支持嵌套的 @Generable类型及其数组;图像支持按Foundation Models 27的语法把图片附到提示中,包括在iOS、macOS和visionOS 27上使用系统模型的场景。

在OS 27上,AnyLanguageModel还可用于任何遵循Foundation Models的LanguageModel协议的模型,包括Core AI模型。配套的swift-huggingface和swift-xet用于让Swift应用从Hub加速下载模型。

托管提供商与密钥处理

托管侧新增的支持包括:OpenAI的Chat Completions和Responses API;面向兼容端点的Open Responses;带自适应思考和effort选项的Anthropic Messages API;Google Gemini API;Ollama;OS 27上的Private Cloud Compute;以及通过自定义base URL接入的Hugging Face Inference Providers和其他OpenAI兼容端点,如OpenRouter。

博客称,托管提供商与本地模型享有相同功能,包括引导生成、带流式输出的工具调用,以及响应中的token用量。推理内容现在也进入转录记录,切换提供商时,若新提供商无法重放推理块,这些块会自动从请求中省略。

API密钥改为从闭包获取而非字符串,应用可从自有服务器拉取短期令牌。README说明了何种情况下让用户自带密钥、何种情况下经代理转发请求。AnyLanguageModel也可在Linux上运行。

开源权重模型示例

博客列出的下载量较高模型包括:Google的Gemma 4 E2B(GGUF,Q4_0下约 3.4 GB,采用量化感知训练)、Liquid AI的LFM2.5 2.6B(GGUF,Q4_K_M下约 1.7 GB)、阿里巴巴面向MLX的Qwen3.8 27B(4 位下约 16 GB)。前两个可放在iPhone上,Qwen3.8 27B需要 32 GB内存及以上的Mac。

博客还提到,Z.ai的GLM-5.3在BF16下约需 1.5 TB,需四台顶配Mac Studio,普通用户可通过Inference Providers使用。选择MLX模型只需一行代码:MLXLanguageModel(modelId: "mlx-community/Qwen3.8-27B-4bit")。

信息来源

Hugging Face Blog原始来源