据报道,为应对涨价,亚马逊正在蒸馏 Anthropic 模型以削减成本
据报道,亚马逊工程师正在通过蒸馏技术将 Anthropic 的 Claude 模型转化为更小的版本以规避高昂的计算成本,这标志着其 40 亿美元合作关系发生转变。
据报道,亚马逊工程师正在提炼Anthropic的Claude模型,以构建专有的、更小型的模型,然后在公司明年从按计算小时计费转向按令牌计费之前。这种策略已得到消息来源的确认,使亚马逊能够在降低推理成本的同时保持模型性能,利用的权利类似于苹果与谷歌Gemini的安排。虽然亚马逊Bedrock支持对Nova和Llama进行蒸馏,但它排除了Anthropic,这使得这是一个重要的内部变通方法。 节省成本的措施与亚马逊在Anthropic的**$8B**投资和在OpenAI的**$50B**投资相吻合,反映出在运营费用激增的情况下,扩大人工智能基础设施多样性的更大推动。