AI热潮下“深度伪造”问题不容忽视

最近几个月，人工智能生成内容（AIGC）的关注度持续升温，全球竞逐AI赛道，人工智能的发展速度已远超我们的想象。以ChatGPT、文心一言等为代表的大模型以“聊天式”交互界面不断降低AI的使用门槛，AI产业迎来高光时刻，但利用AI进行诈骗的案例时有发生，人工智能技术突破和进步结出的AI硕果不应成为滋养“深度伪造（Deepfake）”的沃土。

AI发展狂飙

但给它的自由不能过了火

(资料图片)

今年2月，一段由AI生成的美国主持人乔·罗根（Joe Rogan）推销保健品的广告在某社交平台上疯传。这段由Deepfake制作的内容使得公众难以分辨名人形象的真伪，最终被平台删除。“深度伪造（Deepfake）”一词由深度学习（Deep Learning）和伪造（fake）组合而来，Deepfake是一种人工智能技术，能够将人的面部表情和声音与另一个人的图像和声音结合起来，从而创造出虚假的视频或音频。这种技术可用于制作虚假新闻、电信网络诈骗、制作色情作品等，具有极大的潜在危险性。

未经授权的深度伪造视频开辟了一个新的法律灰色地带，名人个人形象的品牌价值管理受到影响，多维度精心打造的商业形象可能不复存在。那么对于普通人，深度伪造视频会带来怎样的危害？近日，一起由“AI换脸”实施的诈骗引发热议，受害人10分钟被骗走430万元，视频通话的“好友”竟不是朋友本人，“确认过眼神”还是一脚踏入AI骗局。

伴随AI技术的革新和突破，生成虚假视频的技术难度和成本大幅降低，为深度伪造野蛮生长提供了养料，相关法律法规也要及时更新，整治AI换脸、AI偷脸，积极引导负责任的AI研发与应用活动，用“法”打败“魔法”。去年12月，《互联网信息服务深度合成管理规定》发布，对人脸生成、替换、操控，合成人声、仿声等都有明确约束。显然，随着制度设计更精准、相关立法更健全，深度伪造的生长空间将越来越逼仄。

防范AI滥用

确保技术健康有序发展

使用ChatGPT导致芯片机密数据泄露，“AI孙燕姿”靠翻唱成为音乐圈新顶流，推特疯传AI生成的“五角大楼爆炸图”引美股下跌……随着人工智能技术的蓬勃发展，AI已经融入日常娱乐、企业生产的方方面面，与此同时，数据泄露、作品侵权、虚假新闻传播等滥用AI的事件也层出不穷，为人工智能技术健康有序发展带来挑战。

ChatGPT虽然是工作效率提升“神器”，写方案、调代码等游刃有余，但是，把数据尤其是涉密数据“投喂”给AI大模型，也意味着，这些数据可能成为大模型的训练数据，进而泄露给未经授权的第三方，对国家安全、企业竞争力等产生严重影响。为确保涉密数据的安全性，通常不建议将其输入ChatGPT中，应使用更加安全的方法来存储、处理涉密信息，例如使用专用的安全存储设备或系统、采用加密技术对敏感信息进行加密和保护等。

此外，借助AI能够制作出非常逼真的虚假视频或图像，这些虚假作品很难被人眼识别出来，容易误导公众。为规范人工智能发展，去年12月，《互联网信息服务深度合成管理规定》正式发布，明确了合成数据和技术管理规范。其中提到：深度合成服务提供者对使用其服务生成或编辑的信息内容，应当添加不影响使用的标识。提供智能对话、合成人声、人脸生成、沉浸式拟真场景等生成或者显著改变信息内容功能的服务的，应当进行显著标识，避免公众混淆或者误认。

近期，也有平台和企业发布了“关于人工智能生成内容的平台规范暨行业倡议”，明确禁止利用生成式人工智能技术创作、发布侵权内容，包括但不限于肖像权、知识产权等，一经发现，平台将严格处罚。

AI创新在前

但要严守科技伦理底线

2019年，英国一家能源公司的CEO接到其母公司总裁的电话，要求将22万欧元转入匈牙利银行账户，他照做了，但实际这个“总裁”的声音是人工合成的。Deepfake不仅能够用于伪造他人的人脸和声音信息，“复活”已故人士也不在话下。2020年10月，美国网红卡戴珊发布了一段由Deepfake创建的其已故父亲的视频；2022年，猫王埃尔维斯·普雷斯利在美国达人秀第17季中被Deepfake“复活”……

为应对深度伪造带来的潜在问题，各国政府纷纷出台相关法规和措施。2018年12月，美国参议院提出了《2018年恶意伪造禁令法案》，对制作深度伪造内容引发犯罪和侵权行为的个人，以及明知内容为深度伪造还继续分发的社交媒体平台，进行罚款和处以长达两年的监禁。2019年6月，美国众议院提出《深度伪造责任法案》（Deepfakes Accountability Act），要求任何创建深度伪造视频媒体文件的人，必须用“不可删除的数字水印以及文本描述”来说明该媒体文件是篡改或生成的，否则将属于犯罪行为。

欧盟主要通过个人信息保护和虚假信息治理等法律法规来从法律层面限制人工智能造假技术的应用。2022年6月，欧洲委员会公布了加强版《反虚假信息行为准则》，要求谷歌、Meta等在欧盟拥有巨量用户的大型科技公司，采取措施来打击其平台上的深度伪造和虚假账户，否则将面临高达其全球营业额6％的罚款。

在应对深度伪造带来的监管挑战上，中国有关部门行动迅速，制定的规章更为精细全面，去年12月发布的《互联网信息服务深度合成管理规定》覆盖了深度伪造的文本、图像、音频、视频和虚拟场景等，进一步明确了合成数据和技术的相关管理规范。值得注意的是，其中提到的文本内容包括由AI大语言模型生成的文本，AI生成虚假新闻等情况的应对和处理将有规可依。

此外，近日成立的工业和信息化部科技伦理委员会、工业和信息化领域科技伦理专家委员会，将为进一步健全产业科技创新体系、完善工业和信息化领域科技伦理治理体系等提供重要基础。AI技术和应用要创新要发展，但不可跨越伦理红线。

关键词：