模型蒸馏是Gartner 2025年人工智能技术成熟度曲线中已达到启发阶段成熟度水平的技术趋势之一ღ◈ღ。

　　虽然今年年初中国的DeepSeek展示了如何使用模型蒸馏来训练能够与OpenAI模型竞争的大语言模型ღ◈ღ，使这项技术重新受到关注ღ◈ღ，但这并非新技术发展ღ◈ღ。Gartner高级总监分析师Haritha Khandabattu表示ღ◈ღ：我实际上在2017年就在研究模型蒸馏了ღ◈ღ。

　　尽管Gartner不认为这是新的技术发展ღ◈ღ，但Khandabattu表示ღ◈ღ：模型蒸馏技术得到了重新强调ღ◈ღ。基础模型需要大量计算资源且运行成本极其昂贵肉食系小猴子ღ◈ღ，企业开始询问如何以10%的成本获得80%的性能ღ◈ღ。

　　她表示ღ◈ღ，DeepSeek在过去6到12个月中引发了定价下降趋势ღ◈ღ。但Khandabattu建议CIO们不要只是适应这些价格变化ღ◈ღ，而应该规划用例并优先考虑ღ◈ღ，预期训练和推理成本将继续下降ღ◈ღ。

　　Khandabattu指出ღ◈ღ，即使是大型AI技术提供商也认识到模型蒸馏在实现更可部署ღ◈ღ、更可调节和更可治理的AI方面的用处ღ◈ღ，她补充说ღ◈ღ：模型蒸馏终于获得了商业吸引力金宝搏188appღ◈ღ。

　　她将模型蒸馏描述为创新与可扩展性之间的桥梁ღ◈ღ：模型蒸馏释放了技术价值和可访问性肉食系小猴子ღ◈ღ。它提供更低的推理成本ღ◈ღ，IT基础设施费用也相对较低ღ◈ღ，这使得模型蒸馏对某些AI部署具有成本效益ღ◈ღ。

　　但Khandabattu也指出肉食系小猴子ღ◈ღ，IT领导者需要考虑运行推理工作负载所需IT基础设施之外的其他成本ღ◈ღ。CIO需要极其谨慎ღ◈ღ，认识到部署生成式AI应用的总成本不仅限于模型成本ღ◈ღ。

　　她表示ღ◈ღ，还有工程成本和将AI系统与企业IT集成相关的成本ღ◈ღ，并补充说ღ◈ღ：微调AI模型成本很高ღ◈ღ。如果模型提供商决定更改模型ღ◈ღ，那么你必须将基于旧模型构建的所有内容更改为新模型ღ◈ღ，这非常昂贵ღ◈ღ。

　　除了模型蒸馏之外ღ◈ღ，她说ღ◈ღ：随着今年AI投资保持强劲ღ◈ღ，人们更加强调使用AI实现运营可扩展性和实时智能ღ◈ღ。

　　据Gartner称金宝搏188appღ◈ღ，这导致了从以生成式AI为中心焦点的逐步转向支持可持续AI交付的基础推动者ღ◈ღ，如AI就绪数据和AI智能体ღ◈ღ。

　　尽管AI具有巨大的潜在商业价值ღ◈ღ，但它不会自发实现肉食系小猴子ღ◈ღ，Khandabattu说ღ◈ღ。成功将取决于与业务紧密结合的试点项目ღ◈ღ、主动的基础设施基准测试金宝搏188appღ◈ღ，以及AI团队与业务团队之间的协调金宝搏188appღ◈ღ，以创造切实的商业价值ღ◈ღ。

　　在Gartner预测将在未来五年内实现主流采用的AI创新中ღ◈ღ，包括多模态AI和AI信任ღ◈ღ、风险与安全管理(TRiSM)ღ◈ღ。

　　多模态AI模型同时使用多种类型的数据进行训练ღ◈ღ，如图像金宝搏188appღ◈ღ、视频ღ◈ღ、音频和文本ღ◈ღ。TRiSM专注于支持企业所有AI用例政策的技术能力层ღ◈ღ，并帮助确保AI治理ღ◈ღ、可信性ღ◈ღ、公平性ღ◈ღ、安全性ღ◈ღ、可靠性ღ◈ღ、安全ღ◈ღ、隐私和数据保护ღ◈ღ。Gartner预测肉食系小猴子ღ◈ღ，这些发展的结合将实现更强大ღ◈ღ、创新和负责任的AI应用金宝搏188appღ◈ღ，改变企业和组织的运营方式ღ◈ღ。

　　要获得AI智能体的好处ღ◈ღ，组织需要确定最相关的业务环境和用例ღ◈ღ，这很有挑战性肉食系小猴子ღ◈ღ，因为没有两个AI智能体是相同的ღ◈ღ，每种情况都不同ღ◈ღ，Khandabattu说ღ◈ღ。尽管AI智能体将继续变得更加强大ღ◈ღ，但它们不能在每种情况下使用ღ◈ღ，因此使用很大程度上取决于当前情况的要求ღ◈ღ。

　　Aღ◈ღ：模型蒸馏技术可以追溯到2006年康奈尔大学发表的模型压缩论文ღ◈ღ，2015年Geoffery Hinton等人正式使用蒸馏一词来描述这种提升AI模型性能的技术ღ◈ღ。虽然不是新技术ღ◈ღ，但最近因为DeepSeek的成功应用而重新受到关注ღ◈ღ。

　　Aღ◈ღ：企业使用模型蒸馏技术主要是为了降低成本ღ◈ღ。基础模型需要大量计算资源且运行成本极其昂贵ღ◈ღ，而模型蒸馏可以帮助企业以10%的成本获得80%的性能金宝搏188app金宝搏188appღ◈ღ，提供更低的推理成本和IT基础设施费用ღ◈ღ。

　　Aღ◈ღ：除了模型成本外ღ◈ღ，还包括工程成本ღ◈ღ、将AI系统与企业IT集成的成本ღ◈ღ、微调AI模型的成本等ღ◈ღ。特别是如果模型提供商更改模型肉食系小猴子ღ◈ღ，企业需要将基于旧模型构建的所有内容迁移到新模型ღ◈ღ，这会产生很高的费用ღ◈ღ。金宝搏188APPღ◈ღ，openaiღ◈ღ，金宝搏188ღ◈ღ，金宝搏188官网ღ◈ღ，