包括预训练数据集！二、小模型或成价格战利器有人将领域如此热闹的一周戏称为小模型周。事实上，今年以来，小模型的赛道早已开跑，今年月，谷歌发布了轻量级模型.。月，微软推出（小语言模型）系列，微软强调便宜得多，但响应能力接近比它大倍的模型，号称能力对标.。小模型，顾名思义指的是参数规模远小于一些大型语言模型的模型，常见的参数规模有.、、等。
尽管参数较少但通过特定的设计
和优化，小模型依然能够在某些任务上实现 Facebook 数据库 与大型模型相近的性能，同时降低计算资源消耗，提高能耗比。曾经信仰大力出奇迹的巨头们，如今前赴后继地入局小模型赛道，仍旧是出于那个绕不开的理由：成本。今年以来，国内外大模型赛道的价格战愈演愈烈。自去年以来，已经进行了次降价，国内方面，月，字节跳动把定价降低了一个数量级，从以分计价进入以厘计价时代。根据火山引擎公布的价格计算，元就能买到豆包主力模型的万
大约是万个汉字月日世界人工智
能大会期间，百度宣布文心旗舰款模型.和.大幅降价，、两款主力 加新的区号或更改现 模型持续免费。价格战打得火热的背后，尖端训练成本居高不下，甚至越来越高。斯坦福研究所发布的报告指出，当前尖端的训练成本正越来越高，报告显示，年训练最初的模型的成本仅为约美元，而到了年，模型的训练成本已经升至约万美元。到了年，和的训练成本更是分别达到约万美元和近亿美元。为此，小模型以更低的成本，极致的性价比，成为模型公司卷价格战的利器。发布后，山姆·奥特曼在推特上发文指出，早在年，世界上最好的模型是
它比差得多但成本要贵上多倍
成本更低的小模型给成本敏感型企业多了一重 买房B 选择。的每百万输入为美分，每百万输出为美分，相对的，此前入门款模型.输入/输出定价是.美元/.美元，在此基础上便宜了超%。根据的统计，已经达到美国公司主流小模型里价格最低位置，比起、价比。在过去的几年里，我们见证了人工智能的显著进步，同时也见证了成本的大幅低，我们致力于提高模型性能的同时继续降低成本。方面表示，自年以来，模型每的成本下降了%。三、小模型正成为新风口真正落地后，性价比成为企业的重要考量，小模型或将越来越受青睐。《华尔街日报》近日报道，企业正越来越多地部署中小型的模型，它们更青睐规模较小、更具成本效益的技术，而不是在热潮早期掀起波澜的大型昂贵模型。对于一些最常见的用例来说，比如涉及文档分类等小范围、重复的任务，中小型模型更有意义。
