没过多久，人工智能机器人ChatGPT火了，管理条例出台了，技术和用户体验都得到了提升，给大家带来了很多新鲜感。然而，人工智能问答有时真假难辨，有时陷入伦理道德困境。ChatGPT开发者表示，ChatGPT存在似是而非、答案过长、回答模棱两可的问题时猜测用户意图、响应有害指令等问题。Deepfake技术被一些不法分子用来制作、复制、发布、传播违法不良信息，甚至冒充他人实施诈骗。Deepfake技术最常见的滥用是视频伪造，俗称“换头视频”，将模仿对象的视频逐帧转换成大量图片，然后将目标模仿对象的脸替换为目标物体的面部并将其合成为假视频。二次深度合成技术可以将这一过程自动化，进一步降低违法犯罪活动的门槛。近日，国家互联网信息办公室等三部门印发《互联网信息服务深度合成管理规定》，制定深度合成技术与服务管理规定。据中国网通12月11日消息，国家互联网信息办公室、工业和信息化部、公安部联合印发《互联网信息服务深度合成管理规定》（以下简称《规定》），即将实施2023年1月10日，《规定》提到，深度合成服务的监督管理单位为国家网信部门，负责统筹协调国家深度合成服务的治理和相关监督管理工作。国务院电信主管部门和公安部门按照各自职责负责深度融合业务的监督管理工作。《规定》对深度合成服务商和技术支持方提出了详细要求。深度合成服务提供者需落实信息安全主体责任，依法依约履行管理职责，加强内容管理和审核，同时提醒深度合成服务技术支持者和用户承担信息安全义务。一个重要的方式。此外，提供人脸、声音等生物特征信息编辑功能的深度合成服务商和技术支持者，应当提醒使用深度合成服务的用户依法通知被编辑个人，并取得其单独同意。深度合成服务商提供智能对话写作、合成人声、人脸生成与替换、沉浸式逼真场景等深度合成服务，可能造成公众混淆或误认的，应当将其置于生成或编辑后的合理位置信息内容，显着标注区域，提醒公众合成深度。网信部门和有关主管部门发现深度合成服务存在较大信息安全风险的，可以按照职责要求深度合成服务提供者和技术支持者采取暂停信息更新、用户账号注册等措施，或其他相关服务。附《规定》原文：《互联网信息服务深度融合管理规定》第一章总则第一条为了加强互联网信息服务深度融合管理，弘扬社会主义核心价值观，维护国家安全和社会公共利益，保护公民、法人和其他组织，根据《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》、《互联网信息服务管理办法》等法律、行政法规，制定本条例。第二条适用本条例在中华人民共和国境内利用深度合成技术提供互联网信息服务（以下简称深度合成服务）。法律、行政法规另有规定的，依照其规定。第三条国家网信部门负责统筹协调国家深度综合服务治理和相关监督管理工作。国务院电信主管部门和公安部门按照各自职责负责深度融合业务的监督管理工作。地方网信部门负责统筹协调本行政区域内深度综合业务的治理和相关监督管理工作。地方电信主管部门、公安部门按照各自职责负责本行政区域内深度复合业务的监督管理工作。第四条开展深度综合服务，应当遵守法律法规，尊重社会公德和道德，坚持正确的政治导向、舆论导向、价值导向，推动深度综合服务向好。第五条鼓励相关行业组织加强行业自律，建立健全行业标准、行业指南和自律管理制度，监督引导深度合成服务商和技术支持方制定完善业务规范，按照规范开展业务。依法办事，接受社会监督。第二章一般规定第六条任何组织和个人不得利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息，不得利用深度合成服务从事危害国家安全和利益的活动，损害国家形象，或者侵害社会公共利益，扰乱经济社会秩序，侵犯他人合法权益等法律、行政法规禁止的行为。深度合成服务提供者和使用者不得利用深度合成服务制作、复制、发布、传播虚假新闻信息。转载基于深度综合服务制作、发布的新闻信息，应当依法转载互联网新闻信息稿来源单位发布的新闻信息。第七条深度合成服务提供者应当落实信息安全主体责任，建立健全用户注册、算法机制审查、科技伦理审查、信息发布审查、数据安全、个人信息保护、反电信等管理制度网络诈骗、应急响应等，具有安全可控的技术保障。第八条深度合成服务提供者应当制定并公开管理规则和平台公约，完善服务协议，依法依约履行管理职责，并突出提示深度合成服务技术支持者和用户承担信息安全义务。第九条深度合成服务提供者应当根据手机号码、身份证号码、统一社会信用代码、国家网络身份认证公共服务，依法对深度合成服务用户的真实身份信息进行身份验证，不得向其提供真实身份信息。用户无真实性深度合成服务身份信息认证用户提供信息发布服务。第十条深度合成服务提供者应当加强对深度合成内容的管理，采用技术或人工方式对深度合成服务用户输入的数据和合成结果进行审核。深度综合服务提供者应当建立健全识别违法不良信息的特征库，完善存储标准、规则和流程，记录和留存相关网络日志。深度合成服务提供者发现违法不良信息的，应当依法采取处理措施，保存相关记录，并及时向网信部门和有关主管部门报告；依法依约对相关深度综合服务用户采取警告、限制功能、暂停使用等措施。服务、关闭账户等处置措施。第十一条深度合成服务提供者应当建立健全辟谣机制，发现通过深度合成服务制作、复制、发布、传播虚假信息的，应当及时采取辟谣措施，做好相关记录，并向网信部门和有关主管部门报告。第十二条深度合成服务提供者应当建立用户投诉和公众投诉举报的便捷门户，公布处理过程和反馈时限，及时受理、处理并反馈处理结果。第十三条互联网应用商店等应用分发平台应当落实上市审核、日常管理、应急处置等安全管理职责，对深度合成应用进行安全评估和备案审核；采取不上架、警示、暂停服务、下架等处置措施。第三章数据与技术管理规定第十四条深度合成服务提供者和技术支持者应当加强对训练数据的管理，采取必要措施确保训练数据安全；训练数据中包含个人信息的，应当遵守个人信息保护的相关规定。提供人脸、声音等生物识别信息编辑功能的深度合成服务提供者和技术支持者，应当提醒深度合成服务用户依法通知被编辑个人，并取得其单独同意。第十五条深度合成服务提供者和技术支持者应当加强技术管理，定期对合成算法生成机制进行评审、评估和验证。提供具有下列功能的模型、模板等工具的深度合成服务提供者和技术支持者，应当依法自行或者委托专业机构进行安全评估：（一）生成或者编辑人脸、声音等生物识别信息；2)生成或编辑特殊物体、场景等可能涉及国家安全、国家形象、国家利益、社会公共利益的非生物识别信息。第十六条深度合成服务提供者应当对用户利用其服务生成、编辑的信息内容采取不影响用户使用的技术措施，并依照法律、行政法规和国家有关规定保存日志信息。第十七条深度合成服务提供者提供下列深度合成服务，可能引起公众混淆或者误认的，应当在其生成或者编辑的信息内容的合理位置和区域进行显着标识，并提醒公众深度合成：（1））智能对话、智能写作等模拟自然人生成或编辑文本；(2)合成人声、仿声等显着改变个人身份特征的语音生成或编辑服务；(3)人脸生成、人脸替换、编辑等产生或显着改变人脸操纵、手势操纵等个人身份特征的服务；(4)沉浸式逼真场景等生成或编辑服务；(5)其他具有产生或显着改变信息内容功能的服务。深度合成服务提供者提供前款规定以外的深度合成服务的，应当提供显着标识功能，提示深度合成服务用户可以进行显着标识。第十八条任何组织和个人不得利用技术手段删除、篡改、隐藏本规定第十六条、第十七条规定的深合成标识。第四章监督检查与法律责任第十九条具有舆论属性或社会动员能力的深度综合服务提供者，应当按照《互联网信息服务算法推荐管理规定》的规定办理备案、变更、注销备案手续。深度合成服务技术支持者应当参照前款规定办理备案变更和注销备案手续。已完成备案的深度合成服务商和技术支持者应当在其对外提供服务的网站、应用等显着位置标明备案编号并提供公开信息链接。第二十条深度合成服务提供者开发上线具有舆论属性或者社会动员能力的新产品、新应用、新功能的，应当按照国家有关规定进行安全评估。第二十一条网信部门、电信主管部门、公安部门依据职责对深度合成业务实施监督检查。深度合成服务提供者和技术支持者应当依法配合，提供必要的技术和数据支持与协助。网信部门和有关主管部门发现深度合成服务存在较大信息安全风险的，可以按照职责要求深度合成服务提供者和技术支持者采取暂停信息更新、用户账号注册等措施，或其他相关服务。深度合成服务提供者和技术支持者应当按要求采取措施，整改消除隐患。第二十二条深度合成服务提供者和技术支持者违反本规定的，依照有关法律、行政法规的规定予以处罚；构成犯罪的，依法追究刑事责任。造成严重后果的，依法从重处罚。构成违反治安管理行为的，由公安机关依法给予治安管理处罚；构成犯罪的，依法追究刑事责任。构成犯罪的，依法追究刑事责任。第五章附则第二十三条本规定下列用语的含义：深度合成技术，是指利用深度学习、虚拟现实等生成合成算法，生产文本、图像、音频、视频、虚拟等网络信息的技术。场景等，包括但不限于：（1）文字生成、文字风格转换、问答对话等文字内容生成或编辑技术；（二）文本转语音、语音转换、语音属性编辑等语音内容生成或编辑技术；（三）音乐生成、场景音编辑等非语音内容的生成或编辑技术；(4)图像和视频内容中生物特征的生成或编辑，如人脸生成、人脸替换、人物属性编辑、人脸操纵、手势操纵等。(5)图像和视频中非生物特征生成或编辑技术视频内容，如图像生成、图像增强、图像修复等；（六）三维重建、数字仿真等数字人物和虚拟场景生成、编辑技术。深度合成服务商是指提供深度合成服务的组织和个人。深度合成服务技术支持者是指为深度合成服务提供技术支持的组织和个人。深度综合服务用户是指使用深度综合服务生产、复制、发布、传播信息的组织和个人。训练数据是指用于训练机器学习模型的标记或基准数据集。沉浸式模拟场景是指应用深度合成技术生成或编辑的具有高度真实感的虚拟场景，供参与者体验或交互。第二十四条深度合成服务提供者和技术支持者从事网络出版服务、网络文化活动、网络视听节目服务，还应当遵守新闻出版、文化和旅游、广播电视等主管部门的规定。第二十五条本规定自2023年1月10日起施行。
