随着AI技术的迅猛发展，越来越多的人开始依赖AI工具进行创作和工作。然而，尽管AI已经在全球范围内引起了广泛关注，许多专业人士对其使用仍持谨慎态度。晓姐是一名资深的文字工作者，她在大模型推出之初便尝试借助AI进行写作，但始终无法完全信赖AI。她指出，AI生成的内容虽然逻辑清晰，但往往缺乏可靠的信息来源和出处，需要进一步考证。
晓姐的经历并非个例。近期，社交媒体上出现了大量关于“AI幻觉”的警示，提醒用户警惕AI生成内容中的错误信息。根据Vectara平台的最新数据显示，目前市场上主流的AI大模型均存在不同程度的幻觉率，即使是表现较好的OpenAI-o3也有0.8%的幻觉率，而DeepSeek-V3的幻觉率更是达到了3.9%。
AI幻觉的根源与表现
Vectara公司联合创始人阿姆尔·阿瓦达拉表示，AI模型在训练过程中会压缩数万亿个单词间的关系，然后通过庞大的网络模型重新展开这些信息。尽管这些模型能够重构出接近98%的训练内容，但剩下的2%却容易产生不准确或虚假信息。这意味着，AI生成的内容并不总是可靠的，尤其是在专业领域。
专业人士的真实反馈
高校教师林哥在批阅学生作业时发现，一些内容明显是由AI生成的，不仅引用不当，甚至出现了凭空捏造的现象。他认为，过度依赖AI可能导致人们对文字和内容失去审美鉴别力，以及对事实的判断能力。同样，家装设计师小屈也表示，AI绘图虽然可以节省时间，但在精确度和设计一致性方面仍存在不足，因此他只将其作为辅助工具。
AI幻觉的影响与风险
AI幻觉不仅影响了个人的工作效率，还在更大范围内带来了风险。世界经济论坛发布的《2025年全球风险报告》指出，错误和虚假信息已成为2025年全球面临的五大风险之一。此外，AI在法律和医疗领域的错误建议也可能带来严重的后果。例如，美国律师史蒂文·施瓦茨曾在法庭文件中引用了AI生成的并不存在的法律案例，而在医学领域，AI提供的错误诊断可能危及患者的生命。
降低AI幻觉的方法
AI企业专家石云升指出，降低AI幻觉的问题可以通过“预训练、微调和推理”三个层级来解决。例如，在企业环境中，用户可以通过“提示词+知识库”的方式来防止AI输出幻觉。此外，微调技术也可以提高AI在特定领域的准确性。对于普通用户而言，虽然难以接触预训练和微调技术，但在AI推理阶段提供更多详细信息也能有效减少幻觉的发生。
AI无法取代人类的价值
尽管AI技术日益强大，但它仍然无法完全取代人类的独特价值。张雪峰曾表示，除了打破信息差，人类还能提供情绪价值和深度思考引发的创新。这些“网上非公开的”信息和对情感的理解，正是人类存在的意义所在。因此，面对AI幻觉，保持警惕并合理利用AI工具，是我们每个人的责任。
© 版权声明
文章版权归作者所有，未经允许请勿转载。
