巴比伦娱乐场

图片

巴比伦娱乐场

图片
AI深度伪造技术对证据审查的影响及应对
时间:2025-09-16  作者:赵利杰?乔路  来源:检察日报-明镜周刊·实务
【字体:  

随着DeepSeek的横空出世,大模型人工智能技术呈快速发展趋势,深度伪造技术也在AI进化的潮流中“水涨船高”,明星换脸、换声的虚假视频在网络上不断涌现。例如近年在互联网上爆红的“AI换脸”技术,浙江杭州的虞某就巴比伦娱乐场“AI换脸”软件生成大量淫秽视频进行传播,甚至还提供换脸定制服务,最终被判处有期徒刑七年三个月。

深度伪造技术依托生成式对抗网络的核心架构,具备快速优化迭代能力,能够高效率、低成本地生成虚假的文字、图片、视频、音频,达到以假乱真的效果,严重影响司法办案的效率和效果。如何构建适配的证据甄别机制与审查规范,依法保障案件办理质量、维护司法公正与权威,已然成为当前检察机关履职中亟待前瞻性思考和布局的实践课题。

笔者结合办理的王某等多人通过复制某旅游景区检票系统程序,使用深度伪造技术制作假的景区门票,盗窃景区门票收入一案发现,深度伪造技术的广泛应用,给检察机关在证据审查方面带来前所未有的挑战:一是深度伪造直指关键证据。刑事审查中证明力较强的监控视频、通话录音、聊天记录截图、转账记录截图等,更容易被深度伪造技术“加工”,且难以留下伪造痕迹。二是深度伪造直接冲击检察人员的证据逻辑。对于音视频等形式的证据,其在逻辑链条中的优先级一般是高于其他言辞证据的,深度伪造使检察人员无法再相信“眼见为实”,击破逻辑演绎推理案件事实的基础。三是深度伪造技术辨别成本更高。当视频和图片不再是可靠的证据,辩护律师若以视频和图片经过深度伪造提出质证意见时,检察人员就需要花费更多的时间精力和物质成本审查和举证,直至排除合理怀疑。

随着人工智能技术的不断发展,深度伪造技术使用成本、准入门槛逐渐降低,必将会成为犯罪分子常用的犯罪手段。如何应对深度伪造技术给检察机关司法办案带来的风险挑战,揭开伪造证据面纱,更加精准还原案件事实,笔者认为:

一是加强对深度伪造证据固有缺陷的审查。目前AI的能力仍无法生成“完美”伪造的图片或者视频,经过深度伪造的证据可能存在一些固有的不自然或者不协调的地方。例如深度伪造视频中人物会存在动作重复、僵硬、不协调、不自然,让观察者有轻微的异常感;面部尤其是眼部、嘴部动作不连贯,牙齿可能出现重影分层,手部变形或者手指数量不对等问题。在审查办理案件过程中,对于经原始视频片段编辑生成的伪造视频,可以将重要的视频片段与其他视频片段比对,分析视频的编码格式和参数,查看码率等是否一致,分析有无异常修改痕迹。

二是加强对证据来源和证据保存的审查。深度伪造证据多以电子数据、视听资料为载体,检察人员要遵循“先外后内”的审查顺序,首先审查外在载体的同一性,其后审查提取过程和内容完整性。要严格适用“两高一部”发布的《关于办理刑事案件收集提取和审查判断电子数据若干问题的规定》和《公安机关办理刑事案件电子数据取证规则》,引导公安机关对电子数据和视听资料依法取证。例如对当事人手机中存储的视频、照片和聊天记录,要尽量扣押、封存原始存储介质,对于当事人主动提供的证据,要和手机中的原始数据进行比对,核查照片、视频的作者姓名、分辨率、文件格式以及拍摄时间等原数据信息,分析是否有修改痕迹,确保证据的真实性。

三是加强对抗技术的部署和运用。当前,针对深度伪造视频的识别技术有多种模式,常见的可以采用视频帧内差异的检测技术,有针对面部关键点特征的检测、双流网络检测和胶囊网络检测等技术,也出现了以视频完整性为基础进行检测的方法等。检察机关应当加强与技术公司的合作,借助AI的能力检测AI。

四是严厉打击伪造证据的行为。在刑事诉讼中,证人、鉴定人、记录人、翻译人对与案件有重要关系的情节,故意作虚假证明、鉴定、记录、翻译,意图陷害他人或者隐匿罪证的行为均构成伪证罪。检察人员在办案中要加强对伪造证据行为的发现和依法处置,对深度伪造证据企图逃避打击或者意图陷害他人的要依法追究刑事责任或者及时向公安机关移送线索,斩断黑灰产业链条。同时,与司法行政机关、律师协会等相关部门建立协作机制,对法律从业人员强化职业道德宣传,防止其参与或诱导他人作伪证,共同做好相关犯罪的预防工作。

五是提升检察人员的识别意识和鉴别能力。技术潮流来势汹涌,检察人员对人工智能技术的认识,要始终走在法律从业者的前列。主动关注人工智能等领域的最新学术研究成果和技术报告,对网络中流行的深度伪造技术工具要有所掌握。及时了解深度伪造图片、视频等热点事件和新闻报道,掌握深度伪造技术在不同领域的应用或滥用的动态情况,增强在案件办理中对深度伪造证据的警惕性。积极参与人工智能技术的培训,加强检察人员对人工智能的实际接触和实际操作,推动人工智能技术与检察工作深度融合,有效应对人工智能技术带来的风险挑战。

(作者单位:陕西省眉县人民检察院)

[责任编辑: 操余芳 贾欣然]
检察日报数字报 | 正义网 |
Copyrights?最高人民检察院 All Rights Reserved.