DeepSeek应用于内部审计实践中的风险思考
今年,南京审计大学发布了《面向审计行业DeepSeek大模型操作指南》、《面向工程审计行业的DeepSeek大模型应用指南》,为审计从业者提供了人工智能技术落地的实务指引,DeepSeek大模型能够快速处理海量数据,提升审计效率;通过算法和模型,增加审计精准度,拓展审计覆盖面,降低人力和时间成本。在赋能内部审计创造价值的同时,也存在多重风险,亟需引起重视。
一是AI幻觉干扰职业判断。南都大数据研究院指出,AI幻觉是大型语言模型的基本特征,人工智能风险事件数据库记录的2024年220起AI风险事件中,有16起与AI幻觉相关[]。在DeepSeek应用过程中,幻觉会带来诸多风险,DeepSeek编造的虚假信息可能误导用户做出错误决策,或污染数据库,降低AI训练数据质量,尤其是在审计这种对信息真实性和准确度要求较高的领域,AI幻觉会导致审计结论失真、审计效率降低,基于AI幻觉得出的审计报告可能存在违反监管的要求,削弱管理层对内部审计的信任。
二是数据隐私导致安全风险。现阶段尚无AI能够有效的保护数据隐私,内部审计涉及企业海量敏感数据,包括财务数据、业务机密、人事档案等。DeepSeek大模型在数据采集、传输、存储与处理环节,存在多维度风险。如今年发生的LVMH集团客户数据泄露[]、AI招聘聊天机器人供应商Paradox.ai数百万求职者信息泄露问题[],昭示网络攻击可能突破系统防护,导致商业机密泄露。在DeepSeek大模型训练过程中,数据若未妥善脱敏,也可能暴露企业核心信息,造成信息泄露,影响数据安全。
三是“黑箱”特性导致可解释性差。AI大模型(尤其是DeepSeek这种深度学习模型)的内部工作机制及其复杂,审计人员往往难以清晰解释其为何得出某个特定审计发现、风险评估或异常标记,难以直观判断审计意见的合理性及验证结果的准确性,会影响到审计轨迹的完整性,无法向管理层、审计委员会解释DeepSeek得出的审计结论。
四是数据质量与偏见问题。DeepSeek大模型的输出质量高度依赖输入数据的质量,如果训练数据或审计数据本身存在错误、遗漏、不完整或不一致,可能导致内审结果失真,审计反馈不准确,降低审计质效,加之DeepSeek的算法对特定行业的垂直场景支持有限,当内审涉及大量行业专用术语和复杂规则时,模型可能无法满足精准需求,导致输出结果偏离内审的实际业务需求。
五是合规与监管风险。2024年,全球AI风险事件同比增长近50%[],现有审计准则主要针对传统人工审计流程,对AI在风险评估、异常识别、审计结论生成等关键环节的应用缺乏明确规范,导致审计人员在应用DeepSeek大模型时缺乏指引,存在合规模糊地带。
为此,建议:
一是强化输入限定与事实核查。在使用DeepSeek时,明确限定回答应基于训练时提供的特定知识库(如公司政策、法律法规、审计手册)或本次审计项目的文包,同时,对DeepSeek生成的内容及关键信息(如引用的法规、数据计算结果、异常判断依据),必须进行严格的人工事实核查,要求其提供其结论所依据的具体数据来源或证据位置,并通过两个独立信源交叉验证。
二是进行本地化部署以保证数据安全。在使用DeepSeek时,优先考虑在内部私有云或本地化两种方式部署大模型(或使用提供严格数据隔离的行业专用模型),确保与企业核心业务系统遵循相同的隐私保护、安全及访问控制标准,避免敏感数据离开企业控制范围(如宿城区审计局基于DeepSeek-V3架构搭建财政审计、投资审计等专项分析子系统[])。同时,强化数据脱敏与权限管理机制,对输入模型的敏感数据进行脱敏处理(如移除或混淆个人身份信息),以确保在提升工作效率的同时,有效平衡数据安全与业务需求。
三是强化审计职业判断。将DeepSeek的输出视作审计证据的一部分,强制要求DeepSeek输出必须附带清晰、可理解的解释(如该交易被标记为高风险,主要原因是交易金额远超该供应商历史平均水平、交易发生在非工作时间、收款账户为新设立账户)。所有重要的审计判断、结论和报告必须由审计人员进行复核、验证和最终决策,对高风险领域(如关联方交易、大额资金支出)单据执行抽样检查,在审计底稿中,完整记录DeepSeek输入数据、使用的提示、模型版本、输出结果及其解释、审计人员复核的过程和依据,建立清晰的审计轨迹。
四是构建可控的审计环境。审计人员应确保可以获得原始系统数据以进行再次分析和验证,高度关注训练数据的质量与完整性,建议搭建集中数据处理单元及标准化接口协议并针对内部审计的特点,进行定制化的训练(如搭建本地法律法规知识库、财务分析模型),以提高数据输出的质量,同时,人工审查DeepSeek识别出的异常或高风险点。
五是纳入企业风险管理体系。关注国内外内部审计准则制定机构(如国际内部审计师协会、中国内部审计协会)、行业监管机构篮球比分直播AI应用的指引和要求,在使用中,将DeepSeek严格纳入企业整体的风险管理体系,进行登记、验证、监控和报告,对DeepSeek的使用设定审批流程和使用权限,根据数据涉密等级进行管理。
DeepSeek通过技术赋能推动内部审计职能定位向价值守护型职能进化,其成功应用依赖于审计人员的专业判断、组织协同与数智技术框架的完善,需要在效率提升与风险控制间寻求平衡,通过正视风险并采取系统性的应对措施,内部审计部门可以有效地驾驭DeepSeek大模型的力量,将其转化为提升审计质量、效率和价值创造的强大引擎。(李欣欣)