OpenAI:现在只需 5~10 人即可从头重建 GPT-4,发展瓶颈已经从“算力”转变为“数据效率”
作者:周末游戏网时间:2025-04-30 12:27:19
感谢本站网友 往事2016 的线索投递!
本站 4 月 11 日消息,OpenAI 开发GPT-4 曾耗费了大量人力物力,而现在却只需 5~10 人团队即可从头走一遍这个流程。
OpenAI 首席执行官萨姆・奥尔特曼(Sam Altman)今日在公司内部播客中披露,得益于 GPT-4.5 的技术突破,重建 GPT-4 大模型所需团队规模已从数百人缩减至 5-10 人。
这一结论也获得了 GPT-4.5 预训练负责人亚历克斯・佩诺(Alex Paino)、数据效率研究员丹尼尔・塞尔萨姆(Daniel Selsam)等核心成员证实。
丹尼尔表示,“当得知某项技术已被实现,其复现难度就会大幅降低。我觉得,只要有可能,这就是一种巨大的作弊码。”
佩诺表示,GPT-4.5 的设计目标是比 2023 年 3 月发布的 GPT-4"智能 10 倍",他还补充道,"通过这种 GPT 预训练流程的优化,我们的规模也较之前拓展了 10 倍。"
此外,奥尔特曼还声称公司已突破 "算力制约" 瓶颈,而且他认为世界尚未真正理解这一转变。在此之前,各大科技公司已相继投入海量资金用于 AI 基础设施建设,其中微软、亚马逊、谷歌和 Meta 四家科技巨头 2024 年 AI 基础设施资本支出预计达 3200 亿美元(本站注:现汇率约合 2.34 万亿元人民币)。
OpenAI 认为,技术瓶颈已从算力转向数据效率领域(可能是指算力的边际效用递减,所以需要从算法方面寻求突破)。丹尼尔指出,当前 GPT 系列模型数据利用率存在 "洞察深度天然上限"。
"当算力持续扩张时,数据增长速度明显滞后,最终形成发展瓶颈。要想突破这一限制,需要进一步实现算法创新,从同等数据量中榨取更高价值。"
相关阅读:
《OpenAI 再掀 AI 浪潮:GPT-4.1 被曝下周登场,满血版 o3 与 o4 mini 蓄势待发》
相关文章
-
全国家电以旧换新突破 1 亿台本站 4 月 12 日消息,据新华社报道,记者 4 月 11 日从商务部获悉,2024 年 8 月加力实施家电以旧换新政策以来,各地多措并举扎实推进,企业协会积极响应竞相发力,截至 4 月 10 日,
-
华硕天选“初音未来”联名 Wi-Fi 7 路由器 RT-BE57 开售:国补价 424 元本站 4 月 12 日消息,华硕今天推出了一大批天选 x 初音未来联名产品,并在京东商城、bilibili 会员购开启预售,其中 RT-BE57 路由器已经直接开售,首发价 499 元,叠加国补后 4
-
荣耀 Power 手机更多参数曝光:四曲屏设计、300% 大音量,4 月 15 日发布本站 4 月 12 日消息,荣耀 Power 手机将于 4 月 15 日发布,博主@熊猫很禿然 曝光了这款新机的部分参数:6 78 "1224p ltps 四曲屏,3840Hz 调光,4000nit 亮
-
瑞莎推出全球首款双 2.5G 网口的树莓派扩展配件:支持 M.2 固态硬盘,324.99 元感谢本站网友 imisaka 的线索投递! 本站 4 月 12 日消息,瑞莎Radxa推出了一款双 2 5G 网口的扩展板,兼容树莓派 5 及其他兼容 P
-
消息称三星 Galaxy S24 系列国行版下周一推送 One UI 7 正式版感谢本站网友 九头龙闪 的线索投递! 本站 4 月 12 日消息,据博主@i冰宇宙 今日爆料,三星 Galaxy S24 系列国行版下周一推送 One U
-
美团全渠道支持外贸企业开拓国内市场本站 4 月 12 日消息,美团今晚发文称,在“商家入驻、经营扶持、品牌打造”等方面开设绿色通道,欢迎外贸商家进驻美团,全力支持外贸商品上线美团各业务。本次共推出五项举措:一、美团小象超市将为外贸优品