产品AWS Machine Learning·原文 2026年11月4日

Amazon Bedrock在印度孟买和海得拉巴为Kimi K3提供境内推理

AWS说,调用in.moonshotai.kimi-k3推理配置文件时,请求会在印度境内处理;Ultrahuman称其健康助手使用该模型后,LLM成本下降 80%、多轮对话速度提升 85%。

AI解读:AWS在Amazon Bedrock上新增Kimi K3的印度境内推理选项,模型由Moonshot AI提供,AWS称其发布时为多模态开放权重基础模型。

调用in.moonshotai.kimi-k3推理配置文件时,推理在孟买和海得拉巴区域处理,适用于要求数据留在印度的本地工作负载;全球配置文件global.moonshotai.kimi-k3则面向多数场景,成本最低、可用范围最广。

Ultrahuman工程副总裁Aditya Patawari称,其健康助手Jade每天回答超过 1.4 万次对话,通过已用的API接入Kimi K3,健康数据留在AWS内、孟买为回退区域;借助提示缓存,LLM成本降低 80%,多轮聊天速度提升 85%。这些是客户自述的生产效果。

AWS给出了印地语电费单识别的示例:模型可直接读取图片中的多语言文字,输出结构化字段或回答Hinglish追问,无需单独的OCR或翻译服务。示例文档为合成的虚构材料,AWS建议关键流程加入校验或人工复核。

AWS说明,请求的日志和指标存储在提交请求的源区域;可选的服务层级中,flex层级在默认标准价格上打五折,priority层级价格更高但队列优先级更高。

AWS机器学习博客宣布,Amazon Bedrock现已支持Kimi K3的印度境内推理。Kimi K3由Moonshot AI提供,AWS称其发布时在编码和通用智能体能力上达到前沿水平。

用户通过in.moonshotai.kimi-k3推理配置文件调用时,推理在印度孟买和海得拉巴区域处理;面向多数场景的global配置文件则提供最低成本和最广的可用区域。AWS称跨区域推理全程在其网络内加密传输,不经过公共互联网。

印度境内推理的调用方式

AWS把Kimi K3的推理选项分为global和India geographic两类,均由跨区域推理配置文件控制。调用哪个配置文件,决定哪些目标区域有资格处理请求。

使用印度配置文件时,源区域可为ap-south-1(孟买),请求由印度境内的目标区域处理。AWS在示例中给出对应的IAM权限策略,涉及ap-south-1与ap-south-2两个区域的基础模型ARN及推理配置文件ARN。

AWS建议限制区域的组织让管理员审查地理跨区域推理的IAM与SCP指引,保留源区域许可并允许路由到两个印度目标区域。调用可通过Chat Completions、Responses、Converse和InvokeModel等API完成,AWS推荐对该模型使用OpenAI兼容接口。

Ultrahuman的生产使用数据

Ultrahuman工程副总裁Aditya Patawari在AWS博客中称,其应用内的AI健康助手Jade每天处理超过 1.4 万次对话,使用用户自己的Ring和血糖数据以自然语言回答问题。

他说,Kimi K3通过团队已在使用的API接入,健康数据留在AWS内,孟买作为回退区域;借助提示缓存,LLM成本下降 80%,多轮聊天速度提升 85%。上述数字来自客户自述,AWS未在文中提供独立测评。

印地语文档识别示例

AWS用一个合成的印地语电费单图片演示OCR与追问:模型直接读取图片中的文字,回答账单金额、截止日期和逾期费用,示例回答为总额 2217.20 卢比、截止日期 2026 年 10 月 20 日、逾期需付 2261.54 卢比。

示例代码库提供端到端流程:按原文字转写文档、按可配置schema以JSON提取字段(日期规范为ISO 8601、天城文数字转为西方数字、姓名转写为英文)、生成英文摘要、用Hinglish进行多轮追问。模型也支持通过函数调用或JSON Schema约束输出结构。

AWS说明,设置较高的图像细节参数可提升OCR精度,但会消耗更多输入token,并建议尝试把图片放在文本之前。AWS提醒,自动提取的输出在用于重要决策前应验证可靠性,关键流程可加入后校验或人工复核。

价格与监控说明

AWS称Kimi K3按token计费,示例代码不创建持久资源。服务层级中,flex层级在默认标准价格上提供 50% 折扣,适合对延迟不敏感的场景;priority层级价格更高,但请求队列优先级更高。

Kimi K3的CloudWatch指标自动生成在AWS/Bedrock命名空间下,涵盖调用率、token数、缓存使用、延迟、错误和限流。模型调用日志为可选项,可包含提示和输出;日志与指标存储在提交请求的源区域,与处理请求的目标区域无关。CloudTrail数据事件日志会在additionalEventData.inferenceRegion字段记录目标区域。

信息来源