ChatGPT诞生的第二年，OpenAI和国内的一众企业正在试着“扬弃”它。
在Scaling Law被质疑本领“见顶”的环境下，本年9月，OpenAI带着以全新系列定名的模子o1一经发布，“会思索的大模子”再度成为核心。
“我以为这次 o1 模子发布最紧张的信息是，AI 发展不但没有放缓，而且昨们对将来几年已经胜券在握。”对于o1的发布，奥特曼信心满满。
国内大模子厂商对o1的学习、逾越使命也提上了日程。两个多月之后，国内大模子公司纷纷效仿，相继推出了各具特色的o1类深度思索模子。
无论是kimi的k0 math、Deepseek的DeepSeek-R1-Lite，照旧昆仑万维(48.920, 1.22, 2.56%)推出的“天工大模子4.0”o1版，都在夸大着国内大模子对大模子逻辑思索本领的器重。
国产大模子团体跟进o1
在OpenAI没有披露o1详细技能的环境下，只用了2个月左右的时间，国内大模子公司就跟上了前沿方向的本领：
11月16日，月之暗面在发布会上公开了新模子k0 math，通过接纳强化学习和头脑链推理技能，大模子开始试图模仿人类的思索和反思过程，从而加强其数学推理本领。顾名思义，它在研究数学困难方面的本领可谓“遥遥领先”。
4天后，Deepseek的DeepSeek-R1-Lite正式上线。和OpenAI的o1相比，R1毫无保存地放出了大模子思索的完备过程。官方表现，R1的头脑链长度可达数万字。从官方测试效果来看，在AIME（美国数学比赛）、部门编程角逐的测试上，R1的体现逾越了o1-Preview。Deepseek还直接在官网放出了测试版，答应用户天天体验50次对话。
就在上周三（11月27日），昆仑万维也放出了具有复杂思索推理本领的天工大模子4.0 o1版（Skywork o1），公布它是国内首款实现中文逻辑推理的模子。它也一次性给出了三种模子版本：开源的Skywork O1 Open、优化中文支持本领的Skywork O1 Lite，以及完备显现模子思索过程的Skywork O1 Preview。
扎堆涌现的国产“o1”大模子们，不想只做简朴的“模子复刻”。
从模子测试跑出的指标分数来看，上述模子在数学、代码等本领上的体现均迫近、乃至凌驾了o1：
以k0 math为例，在中考、高考、考研以及包罗入门比赛题的MATH等4个数学基准测试中，k0-math的结果凌驾了OpenAI的o1-mini和o1-preview模子。
不外，在一些难度更大的比赛测试题本领体现上，好比难度更大的比赛级别的数学题库OMNI-MATH和AIME基准测试中，ko math体现还没办法赶上o1-mini。
可以或许做出难度高的数学题，类o1的大模子们开始学会了“慢思索”。
通过在模子中引入头脑链（CoT），大模子将复杂题目拆解为多个小题目，开始模仿人类渐渐推理的过程。这是在无人到场的环境下，由大模子独立完成推理。强化学习使大模子可以或许自行实验多种差别的解题方法并根据反馈调解计谋，学习和反思的使命的使命，都交给了大模子。
和一样平常模子相比，此类产物在一些往常无法办理的题目上也可以或许精确答复，好比“草莓strawberry”一共有几个r、“9.11和9.9相比哪个大”等题目，交给o1，它能在一番思索后给出精确的答案。
好比，把“Responsibility中有几个字母i？”的题目抛给Deepseek R1，在深度思索模式中，昨们可以或许看到大模子的思索过程：它先把单次拆解成一个个字母，再渐渐比力每个字母是什么，终极给出了精确的效果。在测试中，R1的思索速率也够快，用不到两秒的时间给出了答案。
专精照旧蜃楼海市
o1的硬币两面
批量制造的“慢思索”大模子们，在强化学习和逻辑链的加成下，模子本领的体现突飞猛进。
在Deepseek公布的测试结果中，可以看到，DeepSeek-R1-Lite的推理时间和正确率成正比关系，即推理时长越长，跑出的结果就越好。和过往没有“慢思索”本领的模子相比，R1的体现远优于前者。
在上述本领的加成下，大模子的自我反思、学习本领提拔显着。好比，面临陷阱时，模子可以通过头脑链模式自行避开题目。
发布自研模子时，昆仑万维给了大模子一个“陷阱”标题。让它答复存在中文读音“陷阱”的题目——“请将qíng rén yǎn lǐ chū xī shī转换为中文”。在第一次思索得出结论时，大模子自动发现了“西诗”是不对的说法，通过推理找到了正确的翻译效果。
一方面，慢思索模子大幅提拔了大模子在一些特定学科上的体现，办理困难的本领进一步提拔；另一方面，大量泯灭tokens的方式却未必能换来用户必要的回报，这也是常被用户诟病的一点。
在某些环境下，增长模子头脑链的长度可以进步服从，由于模子可以或许更深入地明白息争决题目。
然而，这并不意味着它在全部环境下都是最优解。
好比，思索“1+1＞2”这类知识性题目，显然从服从和本钱上来看，更适适用以往大模子的本领。这就必要大模子学会对题目难度自行举行鉴别，从而决定是否接纳深度思索模式答复对应题目。
而在科学研究或复杂项目规划中，增长头脑链的长度大概是有益的。在这些环境下，深入明白各个变量及其相互作用，对于订定有用的计谋和猜测将来的效果至关紧张。
别的，从特定场景下的强化学习应用转向通用模子，在练习算力和本钱的均衡上大概另有肯定难度。
从国内发布的模子来看，现在“慢思索”类大模子开辟的基座模子参数不大。好比Deepseek和昆仑万维给出的模子版本，都创建在规模量更小的模子上：Skywork o1 Open基于Llama 3.1 8B的开源模子，Deepseek也夸大现在利用的是一个较小的基座模子，还无法完全开释长头脑链的潜力。
“一个大概率会确定的事变是，在练习 RL 的阶段，昨们所必要的算力大概并不比预练习要少，这大概是一个非共识。”谈及o1时，阶跃星辰CEO姜大昕曾经提到过这个题目。
将来的大模子不应该耗费大量精神在简朴的题目上，要想跑出真正可以或许开释头脑链本领的模子，还必要肯定时间。
突破AGI二阶段
国内加快探索产物落地
大厂们为什么将o1视为了下一个必备项？
在OpenAI和智谱给出的“通往AGI五阶段”的界说中，两家公司均将多模态和大语言模子本领归在L1阶段，也就是最为底子的本领配备。
而o1的出现，则标记着大模子本领突破到了L2阶段。自此，大模子开始真正拥有了逻辑头脑本领，在无人力干预的环境下举行规划、验证和反思。
当下，固然外洋以OpenAI为代表，率先实现了“慢思索”大模子本领的实现，但国内厂商在后续追赶的思绪上想的更多。在同步跟进o1类产物的同时，大模子公司们已经在思索怎样将o1的本领和现有AI应用方向联合。
针对大模子练习希望停滞的疑虑，可以看到，在数据枯竭的环境下，o1可以或许为Scaling Law提供新的支持。
此前，大模子练习已经走入了“无数据可用”的逆境。当可用的优质数据资源变得越来越有限，给依靠大量数据举行练习的AI大模子带来了挑衅。
更多大模子公司的参加，或将联手探索出更大的大概性。“o1 已经 scale 到了一个很大的规模，我以为它带来了一个 Scaling 技能的新范式，不妨称之为 RL Scaling。而且 o1 还不成熟，它照旧一个开端。”姜大昕说。
在现有的一些AI应用上，头脑链的本领已经资助提拔了AI技能的利用结果。
以智谱的“会反思的AI搜刮”为例，联合头脑链本领，让AI可以或许将复杂题目拆解成多个步调，举行渐渐搜刮和推理。通过联网搜刮 + 深度推理，再将全部答案信息综合整理到一起，AI可以或许给到一个更加精准的答案，
当大模子开始学会“自我思索”，通往L3（Agent）的大门也正在被大模子公司们推开。
“从L1到L2花了一段时间，但我以为L2最令人高兴的事变之一是它可以或许相对快速地实现L3，昨们预计这种技能终极将带来的智能体将非常有影响力。”谈及o1，Sam Altman肯定了“慢思索”模子对推动智能体发展的潜力。
在智能体的本领实现上，头脑链是智能体功能的紧张一步。应用头脑链本领，大模子才气对担当到的使命举行规划，将复杂的需求拆解成多个步调，支持智能体的使命规划。
近来涌现的一批“自主智能体”产物就是Agent本领的突破：通过将实行使命拆解到极致，AI开始学会像人一样用手机、电脑，资助用户完成跨应用操纵。智谱、光彩等公司推出的智能体，已经可以通过指令帮用户完成点单购买的使命。
但以现在的环境，开辟者还必要详细联合o1类产物的本领，去调解智能体的输出结果，让它更靠近人类的利用风俗。
在怎样不外度思索的环境下，均衡大模子的推理进化和用户对服从的需求？这是杨植麟几个月前在云栖大会上的提问，这个题目，还必要留给国内大模子厂商们继承办理。
责任编辑 | 陈斌
海量资讯、精准解读，尽在新浪财经APP
|
197
0
