NG体育娱乐人工智能（AI）中广泛使用的大语言模型不时出现的“一本正经地胡诌”是其难以克服的问题。近日，英国牛津大学研究团队开发出一种名为“语义熵”的新方法，有望大幅提升AI回答的可靠性。
5月30日，在瑞士日内瓦举行的2024年“人工智能造福人类全球峰会”上，参会者和一个用于社会关怀的机器人互动。新华社记者连漪摄
大语言模型的“胡诌”在业界被称为“幻觉”，牛津大学计算机科学系的研究人员提出“语义熵”方法试图解决这一问题。在热力学中，熵描述的是系统的混乱或者说不稳定程度。这项研究中，熵衡量了大语言模型回答的不确定性，不确定性高意味着大语言模型的回答可能存在虚构。
该研究成果已发表在近期出版的英国《自然》杂志上。论文中说，如果AI对同一个问题，给出了许多语义相似的答案，那说明它对自己的回答比较有把握；反之，如果答案五花八门，那就意味着AI自己也“心里没底”，很可能是在“胡诌”。
研究人员利用“语义熵”方法，让大语言模型对同一问题生成多个答案，然后将语义相近的答案聚类，最后根据聚类结果计算熵值。熵值越高，表示大语言模型的回答越不确定。
值得注意的是，这一方法不仅考虑了大语言模型回答的字面差异，更关注语义层面的一致性。这使得“语义熵”能够更准确地识别AI的“胡诌”，而不会被表达方式的多样性所迷惑NG体育。
研究结果表明，“语义熵”方法在多个数据集和任务中都表现出色，能有效检测大语言模型的错误回答，并通过拒绝回答不确定的问题来提高整体准确率。更重要的是，这一方法无需修改AI模型本身，可以直接应用于现有的大语言模型。
研究人员说，“语义熵”技术有望在问答系统、文本生成、机器翻译等多个领域发挥重要作用，帮助AI生成更可靠、更有价值的内容。这不仅将提升AI在实际应用中的表现，也将增强用户对AI系统的信任。
水岸人家安乐居。大运河以其便捷的航运与丰饶的物资，使得百姓们过上安宁富足的生活。大运河沿线不仅经济繁荣NG体育，更孕育出别具一格的风俗文化。跟随一组AI海报，体验属于大运河的风土人情↓↓↓
十届北京国际图书博览会于6月19日至23日在北京举办。一系列出版产业的创新成果展现从AI 编辑高效完成图书的出版流程，到按需印刷技术，科技已经成为助力出版业高质量发展的关键因素NG体育。你的图书品类是什么，面向的读者是什么，把这些关系信息输入进去之后，1到3分钟就能把选题的结果输出出来。原来出版社的编辑更多的是让画师去做样稿，一来一回至少要一周NG体育，我们的AI画师可以很快地输出你想表达的那个场景。
今年年初，文生视频工具Sora震撼登场，电影行业再次被AIGC（人工智能生成内容）的潜力所震撼。在第二十六届上海国际电影节期间NG体育，博纳影业在25周年——“向新而生”的新闻发布会中公布了众多重磅消息，其中不乏AI的“身影”。据介绍，电影《传说》中将出现AI生成的“20多岁的成龙”。此外，AI全流程生成式技术制作的短剧《三星堆：未来启示录》留给观众无限遐想。
人工智能（AI）中广泛使用的大语言模型不时出现的“一本正经地胡诌”是其难以克服的问题。近日，英国牛津大学研究团队开发出一种名为“语义熵”的新方法，有望大幅提升AI回答的可靠性。
