遏制“深度合成”作恶，引导技术向善

　　国家互联网信息办公室、工业和信息化部、公安部近日联合发布《互联网信息服务深度合成管理规定》。规定强调不得利用深度合成服务从事法律、行政法规禁止的活动，要求深度合成服务提供者落实信息安全主体责任，将于2023年1月10日起施行。（12月12日《新华每日电讯》）

　　按照管理规定，深度合成技术，是指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术，包括但不限于篇章生成、图像生成、音乐生成、人脸生成、人脸替换、人脸操控、姿态操控、三维重建等等。由此看来，包括“AI写作”“AI绘画”“AI音乐”“AI变声”“AI换脸”等AI技术的应用，均在此次出台的管理规定约束之列。

　　近年来，互联网信息服务深度合成技术快速发展，满足了用户需求，改进了用户体验，比如用户只需用言语简单描述自己希望看到的画面，AI技术便可自动生成相关画作；只需上传一张自己的照片，就能把别的图片和视频里的人脸变成自己的，能妥妥体验当主角的感觉……然而，深度合成技术是一柄“双刃剑”，容易侵犯他人原作版权，也容易被不法分子用于制作、复制、发布、传播违法和不良信息，诋毁、贬损他人名誉、荣誉，伪造音频、视频，实现变声、变脸，仿冒他人身份实施诈骗，影响传播秩序和社会秩序，损害人民群众合法权益，危害国家安全和社会稳定。

　　因此，利用深度合成技术作恶，必须遏制。若任由其在互联网蔓延，会进一步冲毁互联网世界的信任堤坝。当然，AI技术是无罪的，问题出在技术使用者身上，包括深度合成服务提供者、技术支持者，他们应当受到来自道德伦理的约束、法律的规制。

　　管理规定提出：不得利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息，或从事法律、行政法规禁止的活动；建立健全用户注册、算法机制机理审核、科技伦理审查、信息发布审核、数据安全、个人信息保护、反电信网络诈骗、应急处置等管理制度，具有安全可控的技术保障措施；提供智能对话、合成人声、人脸生成、沉浸式拟真场景等生成或者显著改变信息内容功能的服务的，应当进行显著标识，避免公众混淆或者误认……管住AI技术背后的人，深度合成服务才可能健康发展。

　　其实，对于深度合成技术，2019年11月国家网信办等联合印发了《网络音视频信息服务管理规定》，要求利用新技术新应用制作、发布、传播非真实音视频信息的，应当以显著方式予以标识。2021年1月正式实施的民法典提出，“不得利用信息技术手段伪造等方式侵害他人的肖像权”，“未经肖像权人同意，不得制作、使用、公开肖像权人的肖像”。此次制定的是系统性、专门性规定，为促进深度合成服务规范发展提供了有力法治保障。

　　徒法不足以自行。各地网信等部门应强化常态化监管，发现存在较大信息安全风险的，应按照职责依法要求其采取暂停信息更新、用户账号注册或者其他服务等措施，明确违反规定的法律责任，同时加大处罚力度。前段时间，杭州互联网法院审理了一起因“AI换脸”APP利用深度合成技术侵害他人肖像权的案件，APP开发者被判赔礼道歉并赔偿损失5000元。有网友认为，对这类“AI换脸”APP应作出更到位的处罚。处罚到位，才有威慑力。

　　相关部门除了提升监管能力水平，引导技术向善，还要动员全社会的力量。政府、企业、社会、网民等多方主体共同参与，尤其是广大网民主动举报，共同推动深度合成技术的依法、合理、有效使用，积极防范化解深度合成技术带来的风险，有助于促进互联网信息服务健康发展，维护网络空间良好生态。（何勇海）