新闻资讯
关于我们 产品中心 解决方案 新闻资讯 客户案例 知识专区 售后服务 联系我们
新闻资讯:Hugging Face 研究“AI 降本增效”:给予更长运算时间让低成本小模型输出比拟大模型准确结果
2025-1-3    点击关注我们

目前业界模型性能通常与训练期间投入的资源绑定,除了头部厂商大肆投入资源训练模型外,许多小型企业和个人开发者实际上并不具备足够的资源,为了解决这一问题,许多团队试图寻找降本增效替代方案。

Hugging Face 于本月中旬公布一项报告,提出一种“扩展测试时计算(IT之家注:Test-Time Compute Scaling)”方法,也就是用时间来弥补模型体量,给予“低成本小模型”充足时间,让相关模型能够对复杂问题生成大量结果,再利用验证器对这些结果进行测试及修正,反复输出能够比拟“高成本大模型”的结果

Hugging Face 团队表示,他们使用这种方法利用 10 亿参数的 Llama 模型进行数学基准测试,据称在某些情境下超越了参数量高达 70 亿的大型模型,证明了用时间提升模型输出内容效果做法可行。

此外,谷歌 DeepMind 最近也公布了类似的论文,他们认为可以为小模型动态分配运算资源,并设置验证器对模型的解答结果进行评分,从而引导模型不断输出正确的答案,从而帮助企业以较少的资源部署足够精度的语言模型。

编 辑:章芳
阅读:82
二十多年过去了,怎么又是微软唱主角?
二十多年过去了,怎么又是微软唱主角?
iOS 15升级率空前惨淡:远不及iOS 14
iOS 15升级率空前惨淡:远不及iOS 14
“芯片法案”出台:美国孤注一掷 中国半导体业加速奔驰
“芯片法案”出台:美国孤注一掷 中国半导体业加速奔驰
每日互动:拓展智慧交通领域 助力交通强国建设
每日互动:拓展智慧交通领域 助力交通强国建设
阿里腾讯支付互联互通再进一步:淘宝小范围开启微信支付内测
阿里腾讯支付互联互通再进一步:淘宝小范围开启微信支付内测
未来五年,20%的以太网数据中心交换机端口将连接到AI服务器
未来五年,20%的以太网数据中心交换机端口将连接到AI服务器
三大运营商发力数字经济赛道 打造价值增长驱动力
三大运营商发力数字经济赛道 打造价值增长驱动力
被做空的中通,会不会成为下一个瑞幸?
被做空的中通,会不会成为下一个瑞幸?
百度文心一言市场负责人张全文否认放弃通用大模型:将持续加大研发投入
百度文心一言市场负责人张全文否认放弃通用大模型:将持续加大研发投入
CCBN2024整体日程公布
CCBN2024整体日程公布
上一篇:美国四大科技巨头疯狂建设AI数据中心,2024年总投资约2180亿美元
下一篇:芯片上市提速 30%:业界首个面向半导体行业的专用大语言模型 SemiKong 发布
关于我们 产品中心 解决方案 新闻资讯 客户案例 知识专区 售后服务 联系我们
我们的联系方式
联系地址:云南省昆明市官渡区永平路188号鑫都韵城写字楼6栋1004号
联系电话:0871-64605728、传真号码:0871-64605728
电子邮箱:19701580@qq.com
点击拨打 0871-64605728 咨询我们
长按指纹即可关注我们
微网站由云港互联设计开发  点击进入
【版权声明】本站部分内容由互联网用户自行发布,著作权或版权归原作者所有。如果侵犯到您的权益请发邮件致info@ynjwz.com,我们会第一时间进行删除并表示歉意。