不要欺骗你的人工智能

中国经济网络保留的所有权利 中国经济网络新媒体矩阵 在线音频 - 视觉节目许可证（0107190）（北京ICP040090） 目前，在我国，AI模型的应用显示出快速增长。 QuestMobile发布的最新数据表明，在启动DeepSeek（2025年2月）后，活跃用户的数量超过1.8亿。但是，尽管AI应用程序越来越流行，但许多网民发音：AI的蜜月尚未完成，我发现它对我说谎！ 有些人使用AI来搜索信息，并发现AI会收到伪造的论文，包括期刊名称，纸张标题，带有-set，网站地址和其他信息，但它们都累积了；有一个虚假的消息，“ 80年代后的ANG死亡率超过5.2％”被广泛分散。根据谣言分析，最初的信息来源可能来自AI对话... 这确实不是一个新问题，而是一个古老的问题自大型模型诞生以来，已经存在的问题 - ai guni -guni。一些专家认为，AI的幻觉是大型模型的“遗传疾病”。因为对大型AI模型的培训取决于大量数据，但是数据的真实性无法支付。在训练大型AI模型的过程中，大量数据被高度压缩，并取得累积，并且内容之间关系的数学表示是输入，而不是内容本身。当AI与人进行交流时，该模型会根据统计数据的可能性生成文本，追求优秀而不是Tunay，并且很容易编译似乎流利但与事实完全不一致的内容。 由于AI的幻觉是“遗传疾病”，可以治愈这种疾病吗？如何治疗？ 首先，AI的幻觉还带有AI的“超能力”，而无需消除它们。 AI幻觉也有很好的一面。 AI自动geNerates内容是大型语言模型和最具创造力的技术成功的众所周知的功能。作为大型模型的自然特征，AI幻觉决定了大型模型的创造力，对于实现通用人工智能（AGI）非常重要，并且可以在恐怖研究，文学和艺术中发挥作用。 例如，在游戏开发，动画设计，小说创作等领域，人工智能可能会破坏固定的心态并激发创造的灵感。例如，科学研究通常需要无关紧要的想法来打破僵局。 AI以异常方式的创造力可以促进科学研究中“ AI幻觉 - 实验实验 - 理论重建”的新范式的出现。 其次，即使无法删除AI的幻觉，也可以控制它们。 我们将不允许它进入AI的幻觉。一方面，AI的幻觉造成了大量的错误信息。这些m新一代AI系统学到了iSInfortion，该系统将开发出“数据污染-Algorithm吸收 - 重新污染”的恶性循环。另一方面，在诸如业务，医疗保健和法律之类的耐受性较低的地区，AI的幻觉是一个“致命”的问题。因此，我们应该创建一种两国的技术研发和管理机制，以防止AI幻觉信息的扩散。 在技​​术层面上，获得一系列增强（RAG），多模型交叉验证，知识更新机制等的技术。将来仍然有必要继续提高培训数据标准的质量和清洁，严格检测资源和真实性，并减少噪声噪声；介绍有关增强和人类反馈机制的研究，以提高AI的推理能力；增强AI大型模型发现功能，并使用AI处理AI。 在用户级别上，请勿直接接受AI输出的Sago。可以使用多种AI模型分别提出答案，然后交叉验证，比较并获得最佳结果。更有必要将手动交叉验证用于基本的输出任务，并根据文学数据库和行业知识图等专业工具进行判断。 在法规层面上，我国家的监管机构促进了“ AI生成的内容”标记，这反映了透明度的开发人工智能以及改善AI生成产生的监测和解释内容的要求。将来，我们还必须加快人工智能的法律立法进程，并建立整个法规和全链系统。 为了实现“不愚弄AI”的目标，算法工程师不仅需要开发潜在的安全线，而且还需要汇总一个受信任的AI生态系统对于整个社会。我们希望AI的AI行业能够解决对这种AI幻觉的AI幻觉控制问题，并在创意和现实主义之间达到平衡。