新闻资讯
关于我们 产品中心 解决方案 新闻资讯 客户案例 知识专区 售后服务 联系我们
新闻资讯:Hugging Face 研究“AI 降本增效”:给予更长运算时间让低成本小模型输出比拟大模型准确结果
2025-1-3    点击关注我们

目前业界模型性能通常与训练期间投入的资源绑定,除了头部厂商大肆投入资源训练模型外,许多小型企业和个人开发者实际上并不具备足够的资源,为了解决这一问题,许多团队试图寻找降本增效替代方案。

Hugging Face 于本月中旬公布一项报告,提出一种“扩展测试时计算(IT之家注:Test-Time Compute Scaling)”方法,也就是用时间来弥补模型体量,给予“低成本小模型”充足时间,让相关模型能够对复杂问题生成大量结果,再利用验证器对这些结果进行测试及修正,反复输出能够比拟“高成本大模型”的结果

Hugging Face 团队表示,他们使用这种方法利用 10 亿参数的 Llama 模型进行数学基准测试,据称在某些情境下超越了参数量高达 70 亿的大型模型,证明了用时间提升模型输出内容效果做法可行。

此外,谷歌 DeepMind 最近也公布了类似的论文,他们认为可以为小模型动态分配运算资源,并设置验证器对模型的解答结果进行评分,从而引导模型不断输出正确的答案,从而帮助企业以较少的资源部署足够精度的语言模型。

编 辑:章芳
阅读:81
AI工具能预测冠状病毒未来变种
AI工具能预测冠状病毒未来变种
视频网站集体涨价 你知道什么叫订阅疲劳吗
视频网站集体涨价 你知道什么叫订阅疲劳吗
2022网络安全呈现五大趋势,派拓网络未雨绸缪
2022网络安全呈现五大趋势,派拓网络未雨绸缪
你好,六周年
云南昂略科技有限公司成立6周年
腾讯放弃收购黑鲨科技?或改以投资形式进行合作
腾讯放弃收购黑鲨科技?或改以投资形式进行合作
一拖再拖的头显设备:MR产业链布局情况一览
一拖再拖的头显设备:MR产业链布局情况一览
拿什么终结一些App“上船容易下船难”?
拿什么终结一些App“上船容易下船难”?
喜欢“骂人”的乔布斯:第一笔融资故事
喜欢“骂人”的乔布斯:第一笔融资故事
商汤扯下AI行业遮羞布
商汤扯下AI行业遮羞布
即将发布!全球首个基于大模型的智慧家电AI平台
即将发布!全球首个基于大模型的智慧家电AI平台
上一篇:美国四大科技巨头疯狂建设AI数据中心,2024年总投资约2180亿美元
下一篇:芯片上市提速 30%:业界首个面向半导体行业的专用大语言模型 SemiKong 发布
关于我们 产品中心 解决方案 新闻资讯 客户案例 知识专区 售后服务 联系我们
我们的联系方式
联系地址:云南省昆明市官渡区永平路188号鑫都韵城写字楼6栋1004号
联系电话:0871-64605728、传真号码:0871-64605728
电子邮箱:19701580@qq.com
点击拨打 0871-64605728 咨询我们
长按指纹即可关注我们
微网站由云港互联设计开发  点击进入
【版权声明】本站部分内容由互联网用户自行发布,著作权或版权归原作者所有。如果侵犯到您的权益请发邮件致info@ynjwz.com,我们会第一时间进行删除并表示歉意。