行业资讯

AWS Bedrock 正式接入 Kimi K3 模型

Heooo 09月21日22时33分 32 阅读

「亚马逊云服务旗下 Amazon Bedrock 宣布接入月之暗面开发的 Kimi K3 模型。该模型官方称是首个参数规模达 2.8 万亿的开源模型,原生支持视觉能力,拥有 100 万 Token 上下文窗口,适合长时间编程与多文档分析。Kimi K3 还是 Bedrock 首个支持显式提示缓存的开放权重模型,可降低延迟与输入成本。」

亚马逊云服务(AWS)旗下的人工智能服务平台 Amazon Bedrock 近日宣布接入 Kimi K3 模型,为编程等场景提供了新的模型选择。这意味着一款开放权重模型正式进入主流云厂商的模型托管体系,开发者可以在 Amazon Bedrock 上直接调用该模型,而不必自行搭建推理环境。

Kimi K3 由月之暗面开发,官方宣称其是首个参数规模达到 2.8 万亿的开源模型。这一规模在当前的开源模型中处于领先位置。模型原生支持视觉能力,并拥有 100 万 Token 的上下文窗口,能够处理超长输入,非常适合执行长时间编程、多文档分析等工作。对于需要在单次请求中放入整个代码仓库或大批量文档的开发者而言,长上下文与视觉能力的组合具有相当实际的价值。

在安全与治理层面,Amazon Bedrock 将为 Kimi K3 提供与闭源模型相同的安全边界,拥有统一的访问控制、加密和审计机制。这意味着企业在采用开放权重模型时,可以在既有的权限与合规框架内进行管理,而不必为不同模型单独设计一套治理流程,从而降低了多模型混用带来的运维复杂度。

值得关注的是,Kimi K3 是 Amazon Bedrock 上首个支持显式提示缓存的开放权重模型。当开发者多次调用模型并重复使用相同上下文时,缓存机制可以复用已经处理过的部分,借此降低延迟和输入成本。对于编程助手、长文档问答等需要反复携带大段上下文的场景,这一特性带来的成本优化尤为明显,也让长上下文能力的实际可用性进一步提高。

从平台策略来看,Amazon Bedrock 持续扩充其模型库,把开放权重模型与闭源模型放在统一的调用接口和计费体系之下,让开发者可以按任务特点灵活切换模型。Kimi K3 的接入,进一步丰富了平台在长上下文与视觉理解方向的选择,也让开放权重模型在企业级场景中的落地路径更加清晰。

对开发者生态而言,开源模型被主流云平台托管,说明其分发路径正在从单纯的权重下载,扩展到云端托管、统一鉴权与提示缓存等配套能力。后续 Kimi K3 在 Amazon Bedrock 上的实际调用表现、缓存命中带来的成本下降幅度,以及它与其他模型在编程任务上的横向对比,都将成为观察这一趋势的重要参考。

# Kimi K3 # Amazon Bedrock # 月之暗面 # 开源模型

来源:Heooo AI工具导航