澳大利亚政府与德勤的一份合同引发的报告风波，暴露出生成式人工智能在专业领域的潜在风险，也为咨询行业使用AI技术敲响了警钟。

报告错误频出，AI“幻觉”或是根源

去年，澳大利亚政府与知名会计事务所德勤签订了一份价值44万澳元的合同，委托其编写一份关于澳大利亚福利系统中自动实施处罚的信息技术系统的独立评估报告。然而，今年早些时候德勤发布的报告却错误百出，不仅引用了根本不存在的参考文献，还出现了虚构的法院判决等低级错误。悉尼大学学者克里斯托弗·拉奇最早发现这些问题，并推测这些错误可能是生成式AI的“幻觉”导致的。所谓“幻觉”，是指生成式AI在生成内容时，凭空编造出一些看似合理但实际上并不存在的信息。

德勤承认用AI，退款与修改并行

报告内容遭到质疑后，德勤承认在编写报告时使用了生成式AI工具，但并未说明错误与AI有关，坚称“报告中的实质性内容、结果和建议不受影响”。德勤在报告附录中承认使用了“DEWR许可的生成式AI大语言模型工具链”。尽管德勤修改了报告中出现的纰漏，如删除了虚构的参考文献列表，并更正了多处笔误，但这一行为并未平息外界的质疑。德勤已同意向澳大利亚政府退还合同的最后一期费用，但具体金额未透露，澳大利亚就业和劳资关系部发言人也拒绝透露该部门是否认为报告的错误与德勤员工使用AI有关，仅强调“独立审查的实质性内容将被保留，建议没有发生变化”。

事件影响：德勤陷入尴尬，AI风险引关注

这起事件将德勤置于尴尬境地，因为该公司正在向客户和企业高管提供有关AI的咨询和培训服务，且每年全球收入达705亿美元，有关AI的咨询在其中的占比越来越高。德勤还多次强调，所有AI生成的内容都必须经过人工审查，但此次事件却暴露出其在实际操作中可能并未严格执行这一原则。

全球知名的四大会计事务所已为AI研发投入巨额资金，希望利用这项技术来加快向客户提供建议和审计的速度。然而，德勤这起尴尬的事件，反映出咨询公司在使用AI技术时存在的风险，特别是AI“幻觉”问题的风险。英国会计监管机构6月曾警告说，四大会计事务所日益依赖AI和自动化工具来进行风险评估，但这些公司并未有效追踪此类技术对审计质量的影响。

澳大利亚《金融评论报》认为，AI技术的好坏取决于其使用者，如果德勤能够指派员工对报告的内容和参考文献的准确性进行充分的审查，本可以避免这起尴尬的事件。该报评论称：“AI在现代职场中无处不在，但它还无法完美替代人的智慧和判断。”这起事件为各行业使用AI技术提供了深刻的教训，提醒人们在依赖AI的同时，不能忽视人类的专业判断和审查作用。