 本年以来，随着天生式人工智能的发展，“AI幻觉”进入大众视野，受到关注和讨论。“AI幻觉”指大语言模子编造其以为是真实存在的乃至看起来公道或可信的信息。 3月21日，在2025国际底子科学大会（ICBS 2025）消息发布会上，图灵奖得主、中国科学院院士、清华交织信息研究院院长姚期智，在谈及将来AI发展的重点及挑衅时表现，昨们必要更多地关注AI安全方面的题目，并做好相干研究。AI理想大概说幻觉以及它天生式的答案等，对利用AI来举行关键应用会带来一些风险。假如在一些重点的应用步伐当中不能包管其安全性，就会存在一些毛病。相识AI为什么会出现这种不安全的征象很紧张，由于从应用层面来说，只有安全的AI技能才气赢得市场。 姚期智夸大，昨们仍旧必要许多的理论研究来加深对AI的相识，从而更好地控制它，以实现更好的AI算法。“昨们看到，现在AI前沿研究更像是实行科学——昨们取得了许多成绩，有许多的数据，但昨们不太相识到底是为什么。以是我以为这方面还必要进一步扩展，昨们必要更好、更加深入地来相识AI的原理和基准。”姚期智说。 姚期智以为，将来，不但要防止一些滥用AI的题目，还要思量贸易安全性这类的题目。从科学的角度来说，必须要相识AI的安全界限，必要在AI范畴做出更多理论探索。 自从Open AI到DeepSeek，天生式人工智能的主力军大多数是90后、95后乃至00后，为什么会有如许一个征象？这种征象背后的技能代际跃迁逻辑是什么？ 关于这些题目，姚期智在会上表现，如今有这么多年轻学者在人工智能范畴做出庞大贡献，重要与人工智能的发展门路有关。 姚期智说，人工智能科学已经存在了许多年，有七八十年的汗青；而近来大模子的出现，改变了人工智能学科的整个情势。 “大模子的出现，相称于昨们在从前试过的许多条门路内里，发现了一条带给昨们想不到的惊人本领的路径，它乃至办理了图灵测试这个原始的最紧张的题目。这条门路从技能上来讲，不像数学、物理那样必要那么多复杂的数学、物理底子。这使得做人工智能范畴的前沿研究，相对轻易动手、轻易靠近。”姚期智表现，“以是许多年轻人在学了大学本科课程以后，就已经看到了人工智能的前沿。这就是为什么DeepSeek背后100多个了不得的年轻人可以或许做出这些工作结果。这是一件非常令人高兴的事，它使中国在人工智能学科发展中得到了有利职位。” |
