开云Kaiyun·体育官方网站 登录入口缓解单纯依赖模子里面常识库可能产生的“幻觉”问题-开云(中国)Kaiyun·体育官方网站 登录入口

发布日期：2026-02-24 19:11    点击次数：64

　　每经记者 宋欣悦    每经剪辑 高 涵    开云Kaiyun·体育官方网站 登录入口

　　近日，“推迟”“质疑”“未达预期”这类词语时时出当今东说念主工智能（AI）行业的商榷和报说念中。被世东说念主期待“炸场”的OpenAI连气儿12天的AI发布会细细品来也少了些“窜改性”的滋味，更像是在已有恶果上的修修补补。

　　此前，OpenAI的荟萃首创东说念主伊尔亚·苏茨克维就曾在多个时势提到，AI的朝上并不是线性的，将来几年内，尽管有多数资金和不时进入，技艺冲破的速率可能会有所放缓。

　　AI发展速率真的在放缓吗？AI发展面对着哪些挑战？咱们距离通用东说念主工智能（AGI）还有多远？针对这些热门问题，《逐日经济新闻》记者（以下简称NBD）专访了复旦大学缱绻机学院副素养、博士生导师郑骁庆。

　　郑骁庆合计，从速率来讲，AI发展并莫得放缓，但面前AI发展面对着三大中枢挑战：AI“幻觉”焕发、数据秘密、算力和动力遵守。在他看来，面前的AI技艺依然处于“高级别师法”的阶段，离果真的AGI还有一段距离。“AGI不仅需要在知道才调、学习才调等方面杰出现存技艺，还需在心理勾通和自主有计划等界限有所冲破。”

　　AI发展并未延缓，但仍面对三大挑战

　　NBD：在您看来，近期AI的发展速率比拟以前两年，有若何的变化？

　　郑骁庆：我合计，东说念主工智能的发展速率并莫得放缓。

　　新一轮生成式东说念主工智能的标识性工作，推行上便是OpenAI在2022年底推出的ChatGPT。这么一个冲破性的事件，距今仅有两年足下的时间。在这段时间里，ChatGPT的奏效使得统共学术界和产学界进入了多数的东说念主力和物力来鼓动生成式东说念主工智能的发展。

　　弗成说面前东说念主工智能技艺的发展变慢了，推行上，它仍在加快前进。固然，在发展的流程中，咱们不可幸免地会碰到一些问题和新的挑战，这些都是面前如实存在的。

　　NBD：面前东说念主工智能面对哪些要紧挑战？

　　郑骁庆：因为我的不时工作弯曲汇注在当然谈话处理和机器学习方面，是以我从这个界限来谈。

　　率先，面前大型谈话模子面对的一个主要问题是“幻觉”焕发，即模子可能会生成看似正确但推行上缺陷的信息。因为很多用户并不具备辩认信息真伪的才调，是以很容易被这种“幻觉”影响。特殊是在医学、法律、金融等高风险应用界限中，存在一定风险。

　　其次，大模子高度依赖大数据。推行上，包括OpenAI在内的AI公司，在考验模子时，也并未表现其使用了哪些数据。因为这些数据多若干少会触及版权或个东说念主秘密。这种问题不仅存在于模子的构建和考验流程中，在用户在使用大模子时，也可能表示个东说念主信息。因此，数据的秘密问题是另一个要紧挑战。

　　临了，AI大模子的算力消费高大，资源本钱昂贵。如何裁减使用门槛，让更多用户特殊是中小企业概况包袱得起东说念主工智能技艺，是咱们需要想考的问题。在高大的缱绻和动力消费情况下，如何达成更高效、更节能的AI系统，可能成为将来的发展想法。

　　数据最小化：只取所需，不要贪多

　　NBD：您合计有哪些重要技艺可能会去处分或者缓解这些挑战呢？

　　郑骁庆：要缓解“幻觉”问题，一种战略是“对都”。面前，较为锻真金不怕火的技艺技巧是行使强化学习来达成与东说念主类偏好的对都。在对都东说念主类偏好的流程中，一个中枢圭臬是“老诚性”，即模子必须提供真实信息，而非胡编乱造。

　　另外，“检索增强生成”（RAG）亦然一项重要技艺。在发问时先提供关系的布景辛劳，模子和会过检索这些辛劳来扶助生成谜底，这么不错在一定进程上普及生成谜底的准确性和实在度，缓解单纯依赖模子里面常识库可能产生的“幻觉”问题。

　　还有一种技艺是谜底生成的后续考据。模子生成谜底后，咱们不错行使其他模子对谜底中的重要不雅点和身分进行考据，以确保正确性。

　　对于数据秘密问题，高质料的数据是高质料应用的基础，我合计企业需要找到创新与数据秘密之间的均衡点。率先，企业需要辞退数据最小化原则，只网罗和使用与目的任务径直关系的最极少的数据，只取所需，而不要贪多。

　　其次，企业一定要作念好数据的加密和脱敏处理。尤其是在AI应用中，模子的考验数据如果莫得保护好，挫折者可能通过模子揣摸出秘密信息，进而对企业和用户带来高大的安全隐患。

　　咱们还不错探讨使用新技艺来处分这个问题，比如联邦学习，它允很多个数据领有者各自孝敬出模子所需的考验数据，在数据联邦的情况下完成模子的考验，而不会表示数据领有者的数据。

　　AI处于“高级别师法”阶段 不具备“小样本学习”才调

　　NBD：近日，OpenAI首席实行官萨姆·阿尔特曼在摄取媒体采访时暗意，预测通用东说念主工智能（AGI）将在2025年到来。在您看来，咱们离AGI近了吗？

　　郑骁庆：阿尔特曼看成OpenAI的首席实行官，从买卖的角度来说，他对于AGI的达成可能会比较乐不雅。但对于咱们不时者来讲，我握一定的保属意见。

　　面前的AI技艺，本体上依然一种高级别的师法，与东说念主类的智能统统不一样。东说念主类的智能，举个例子，咱们从小就能流利地使用谈话，并产生谈话的新抒发。但推行上，咱们在成长流程中战役到谈话环境的数据量，远远小于面前东说念主工智能模子战役到的数据量。也便是说，东说念主类大脑具有一种刚毅的小样本学习才调，即仅凭极少样本，就能泛化到未见过的情境，而这是面前模子无法作念到的。

　　面前，对于AGI还存在一个争议：AGI是要作念仿真（按照东说念主脑想路来作念），如故按照实用主义的想路来作念？具体而言，仿真旅途主张在长远勾通和模拟东说念主脑机制的基础上构建东说念主工智能系统；而实用主义旅途则愈加端庄驱散，合计唯有东说念主工智能系统的输出效果与东说念主类独特，就不错合计其具备智能。

　　当今的发展主若是在走实用主义的说念路，而这条发展旅途面对的最大的问题在于，尽管AI在某些单一任务上可能发达相配优异，但要从一个任务搬动到另一个任务，尤其是面对全新任务时，经常需要多数的新数据重新进行考验。比如，咱们造就AI笔墨抒发，它的语音处理才调可能就不睬想；而造就它语音，它的笔墨抒发才调又可能受到影响。因此，在处理触及多种数据形式（如文本、图像、音频）的跨模态任务时，AI的发达仍然不够出色。

　　东说念主类智能统统不同，东说念主类概况依靠在其他任务中积蓄的劝诫，在新任务上通常发达出色。即使面对未知的任务，东说念主类也能计划出探索和不时的旅途，从而胜利完成任务。因此，我合计通用东说念主工智能必须具备通用性和搬动性。这种通用性搬动性意味着，一朝AI在某个任务上学会某项技能或常识，它应该概况将其搬动到各式不同类型的任务上。

　　另外一个值得探讨的主见是，元学习（Meta Learning）。之是以说起元学习，是因为面前AI，包括ChatGPT在内，存在一个权贵的问题：推理才调不及。元学习是一种更高级次的学习措施，它形式的是“学会如何学习”（learning to learn），而不单是是学习什么。

　　翻译

　　搜索

　　复制

海量资讯、精确解读，尽在新浪财经APP

使命剪辑：李桐 开云Kaiyun·体育官方网站 登录入口