零一万物新模型盲测国产首超GPT-4o 一次训练成本超2000万
日前李开复的零一万物公司,正式对外发布了新旗舰模型Yi-Lightning。在盲测榜单LMSYS中,Yi-Lightning位列第六,仅次于OpenAI的GPT-4o、o1系列,Google的Gemini 1.5 pro系列,与马斯克xAI旗下Grok-2打平。
值得一提的是,此次盲测中Lightning超过了今年5月版的ChatGPT-4o-2024-05-13,这也是国产大模型首次在这一评测中超越GPT-4o。
这一成绩在李开复看来,证明了零一万物的预训练能力落后于OpenAI五个月的时间。
前不久有消息称,国内大模型头部企业中有几家放弃预训练、转向推理端,对此李开复表示,不会放弃预训练,但这是个技术活,需要懂芯片、推理、模型、算法。
李开复称,目前国内头部六家大模型企业融资额度都是够的,一次预训练成本约三四百万美元,这个规模头部企业付得起。
据了解,此次Yi-Lightning预训练零一万物用了2000张GPU,训练了一个半月,花费了三百多万美元,但成本约为Grok的1%-2%。