11月12日消息，像OpenAI如许的人工智能公司正致力于开辟新型练习技能，以便降服在构建更大规模语言模子时碰到的不测耽误和挑衅。这些技能旨在使算法以更雷同于人类的方式“思索”。 多位人工智能范畴的科学家、研究职员和投资者以为，OpenAI最新发布的o1模子，其背后的技能大概会重塑人工智能范畴的竞争格局，并影响人工智能公司对资源（如能源和芯片范例）的连续需求。 OpenAI对此未予置评。自谈天呆板人ChatGPT发布以来，浩繁科技公司从人工智能高潮中受益，估值大幅上升。这些公司公开宣称，通过增长数据和盘算本领来“扩大”模子规模，可以连续改进人工智能技能。 然而，一些顶尖科学家如今公开指出，模子“越大越好”的理念存在范围性。OpenAI前首席科学家、Safe Superintelligence（SSI）首创人伊利亚·苏茨克维（Ilya Sutskever）表现，扩大预练习方式已进入瓶颈期。预练习是指练习人工智能模子的阶段，模子利用大量未标志的数据来明白语言模式和布局。 苏茨克维曾提倡通过增长数据和盘算本领来推动天生式人工智能的进步，并因此创造了ChatGPT。本年早些时间，苏茨克维脱离OpenAI，并建立了SSI。他指出：“2010年代是模子规模扩张的期间，而如今昨们又回到了古迹和发现的期间。每个人都在探求下一个突破点，如今选择精确的扩展方式比以往任何时间都更为紧张。” 苏茨克维未透露SSI团队在探索的新方法的详细细节，仅表现团队正在研究扩大预练习规模的替换途径。 据三位知恋人士透露，重要人工智能实行室的研究职员在试图发布逾越OpenAI GPT-4模子性能的大语言模子时，碰到了耽误和一些不尽如人意的效果，而GPT-4模子至今已推出近两年。 这些大模子的“练习运行”不但本钱高昂，大概到达数万万美元，而且必要同时运行数百个芯片，体系复杂，硬件故障风险也较高。别的，研究职员通常要等上数月才气评估模子的终极性能，这增长了开辟过程中的不确定性。 更为棘手的是，大语言模子对数据的需求量极大，当前人工智能模子已险些耗尽环球全部易获取的数据资源。同时，电力短缺也成为限定练习运行的另一浩劫题，由于这一过程必要巨大的能源支持。 为应对这些挑衅，研究职员正积极探索“测试时间盘算”技能，该技能在模子的“推理”阶段加强其性能。比方，模子可以或许及时天生并评估多种大概性，终极选择最佳路径，而非立刻给出答案。 这种方法答应模子将更多的处置惩罚本领用于具有挑衅性的使命，如数学或编码题目，或是必要雷同人类推理和决议的复杂操纵。 OpenAI研究员诺姆·布朗（Noam Brown）上个月在旧金山举行的TED人工智能大会上表现：“究竟证实，让呆板人在扑克牌游戏中思索20秒，与将模子扩大练习10万倍的结果相称。” OpenAI在其新发布的o1模子中接纳了“测试时间盘算”技能，该模子原名Q*和“草莓”，能以多步调方式“思索”题目，雷同于人类的推理方式。同时，o1模子还联合了博士和行业专家的数据与反馈。其焦点是在GPT-4等“底子”模子之上举行了额外的练习。OpenAI表现，筹划将此技能应用于更多、更大的底子模子。 与此同时，据五名知恋人士透露，Anthropic、xAI及谷歌DeepMind等其他顶尖人工智能实行室的研究职员也在积极研发各自的“测试时间盘算”技能。 OpenAI首席产物官凯文·威尔（Kevin Weil）在10月的一次科技集会上表现：“当前有许多结果触手可及，昨们可以敏捷采取，进一步提拔模子性能。当竞争对手追赶时，昨们将力图保持领先三步。” 谷歌和xAI未回应置评哀求，Anthropic也暂未发表批评。 这一趋势或将重塑人工智能硬件的竞争格局。迄今为止，对英伟达人工智能芯片的需求不停占据市场主导职位。着名风险投资机构如红杉资源和安德森·霍洛维茨（Andreessen Horowitz）等已敏锐捕获到这一变化，并正在评估其高额投资的影响。这些机构已向OpenAI、xAI等多家人工智能实行室的人工智能模子开辟投入巨资。 红杉资源合资人索尼娅·黄（Sonya Huang）表现：“这一变化将引领昨们从大规模预练习集群迈向基于云的分布式推理服务器——推理云。” 英伟达最先辈的人工智能芯片需求激增，推动该公司市值在10月份逾越苹果，成为环球市值最高的公司。然而，与英伟达在练习芯片市场的主导职位差别，这家芯片巨头在推理市场大概碰面临更多竞争。 针对其产物需求大概受到的影响，英伟达回应称，在近来的演示中已夸大o1模子背后技能的紧张性。英伟达首席实行官黄仁勋指出，利用其芯片举行推理的需求正在不停上升。 他在印度的一次集会上表现：“昨们现已发现第二个缩放定律，即推理时的缩放定律……全部这些因素共同推动了Blackwell（该公司最新的人工智能芯片）需求的激增。”（小小） |
