据工业和信息化部官网消息,国家互联网信息办公室、工业和信息化部、公安部近期发布《互联网信息服务深度合成管理规定》(以下简称《规定》),其中提出深度合成服务提供者和技术支持者提供人脸、人声等生物识别信息编辑功能的,应当提示深度合成服务使用者依法告知被编辑的个人,并取得其单独同意。《规定》自2023年1月10日起施行。
据了解,深度合成技术,是指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术,包括但不限于篇章生成、文本风格转换、问答对话等生成或者编辑文本内容的技术;文本转语音、语音转换、语音属性编辑等生成或者编辑语音内容的技术;音乐生成、场景声编辑等生成或者编辑非语音内容的技术;人脸生成、人脸替换、人物属性编辑、人脸操控、姿态操控等生成或者编辑图像、视频内容中生物特征的技术;图像生成、图像增强、图像修复等生成或者编辑图像、视频内容中非生物特征的技术;三维重建、数字仿真等生成或者编辑数字人物、虚拟场景的技术。
《规定》要求,深度合成服务提供者和使用者不得利用深度合成服务制作、复制、发布、传播虚假新闻信息。转载基于深度合成服务制作发布的新闻信息的,应当依法转载互联网新闻信息稿源单位发布的新闻信息。
同时,深度合成服务提供者应当基于移动电话号码、身份证件号码、统一社会信用代码或者国家网络身份认证公共服务等方式,依法对深度合成服务使用者进行真实身份信息认证,不得向未进行真实身份信息认证的深度合成服务使用者提供信息发布服务。
在数据和技术管理规范方面,《规范》提出,深度合成服务提供者和技术支持者提供人脸、人声等生物识别信息编辑功能的,应当提示深度合成服务使用者依法告知被编辑的个人,并取得其单独同意。
深度合成服务提供者和技术支持者提供具有以下功能的模型、模板等工具的,应当依法自行或者委托专业机构开展安全评估:
一、生成或者编辑人脸、人声等生物识别信息的;
二、生成或者编辑可能涉及国家安全、国家形象、国家利益和社会公共利益的特殊物体、场景等非生物识别信息的。
此外,深度合成服务提供者提供以下深度合成服务,可能导致公众混淆或者误认的,应当在生成或者编辑的信息内容的合理位置、区域进行显著标识,向公众提示深度合成情况:
一、智能对话、智能写作等模拟自然人进行文本的生成或者编辑服务;
二、合成人声、仿声等语音生成或者显著改变个人身份特征的编辑服务;
三、人脸生成、人脸替换、人脸操控、姿态操控等人物图像、视频生成或者显著改变个人身份特征的编辑服务;
四、沉浸式拟真场景等生成或者编辑服务;
五、其他具有生成或者显著改变信息内容功能的服务。