一、背景
从基于深度合成技术的Deepfake出现开始,深度合成技术一直就饱受争议。从ZAO的换脸引起公众警觉,到“假靳东”的案件,不断降低的深度合成技术使用门槛让传统上“有图有真相”发展到“有视频都未必有真相”。此外,元宇宙、虚拟人等基于深度合成技术的理念也伴随着商业热度滚滚而来,要求法律与监管部门不能忽视这一生机勃勃的技术。
2022年1月28日,网信部门发布了《互联网信息服务深度合成管理规定》,标志着监管部门为虚拟空间打造的又一块拼图已具备雏形。该征求意见稿的发布,是监管部门对算法、元宇宙等近期热点领域已知与潜在风险的回应。
《互联网信息服务深度合成管理规定》并不是我国法规首次关注深度合成内容,此前在《互联网信息服务算法推荐管理规定》《网络音视频信息服务管理规定》《网络信息内容生态治理规定》等法律法规中均涉及深度合成内容,但这些法规更多是从音视频或较为宏观的角度关注,而此次公开的《互联网信息服务深度合成管理规定》则针对深度合成内容的特点,更有针对性地进行规制。
三星在Decentraland中推出“House of Sam”元宇宙体验:金色财经报道,三星拉美地区的公司将在Decentraland中建立一个名为“House of Sam”的空间,它将允许用户与该品牌的不同产品进行虚拟接触,并通过玩小游戏来为他们的化身赢得三星品牌的奖励。
三星拉美地区的营销总监Arthur Wong说:“我们的客户将能够相互交流,并参与我们在Decentraland免费提供的独家演出、课程和活动,这是元宇宙中最民主和开放的空间之一。我们的目标是越来越接近Z世代,即我们的年轻消费者。”(Bitcoin.com)[2022/10/4 18:39:18]
二、适用范围
《互联网信息服务深度合成管理规定》将深度合成技术定义为:“利用以深度学习、虚拟现实为代表的生成合成类算法制作文本、图像、音频、视频、虚拟场景等信息的技术。”与其说是定义,不如说是描述。
广州元宇宙创新联盟挂牌成立:3月26日消息,广州元宇宙创新联盟昨天上午在南沙创享湾挂牌成立。佳都科技集团旗下佳都科技软件、方纬科技、云从科技在内的20多位联盟成员单位代表、专家学者代表参加了本次活动。联盟成员现场发出倡议,要紧抓创新机遇,勇攀科技高峰,破解发展难题,引领元宇宙健康快速发展。(证券时报)[2022/3/26 14:18:58]
征求意见稿将以下使用深度学习的技术列为规制范围:
当然,使用传统技术、未涉及深度学习技术的相关场景不在《互联网信息服务深度合成管理规定》的调整范围之内。
随着深度合成技术的广泛使用,《互联网信息服务深度合成管理规定》的调整范围远不只是Deepfake,而是包括了数字化工作的各个维度:客服平台的聊天机器人与营销机器人、广泛运用于地震等突发事件或体育赛事中的写稿机器人、相机中的美颜功能、游戏中3D场景或捏脸功能、元宇宙所构建的虚拟空间……不一而足。
三星电子CEO:公司将元宇宙作为新增长业务,将开发元宇宙设备:3月17日消息,在昨日举办的股东大会上,三星电子副董事长兼首席执行官韩钟熙表示,三星电子将积极培育机器人和元宇宙作为新增长业务。韩钟熙称,将开发优化的元宇宙设备和解决方案,让客户可以随时随地体验元宇宙。此前消息,三星高管暗示将推出一款可在元宇宙平台上运行的新设备。(韩国经济报)[2022/3/17 14:02:44]
三、合规义务框架
《互联网信息服务深度合成管理规定》所设定的合规义务框架围绕着“深度合成服务提供者”与“深度合成服务使用者”两方主体搭建。
梳理后合规义务框架如下:
山水比德:公司拟结合现有技术团队筹建“元宇宙团队” 并已部署团队开展预研工作:1月4日消息,山水比德在互动平台表示,自公司成立以来便组建专业的技术团队,持续对智能设计、智慧城市、数字孪生、虚拟现实、净零碳等新兴领域进行研发投入,公司拟结合现有技术团队筹建“元宇宙团队”,并已部署团队开展预研工作,并将根据相关技术成熟度的变化,适时推进产品立项,打造新的业务增长点。同时,公司也会积极洽谈外部专业合作伙伴,共同研究和拓展元宇宙相关应用场景和商业模式,请您继续关注公司的公开信息。(财联社)[2022/1/4 8:23:30]
征求意见稿将服务提供者视为类似社交媒体平台的角色,有义务对平台内的用户行为进行监督。但是,在现实中深度合成服务提供者的技术同样依赖于第三方的提供,如可能会需要使用外部的引擎来支持自己的服务,在这样的场景下,如何定位各方的主体角色可能是需要推敲论证的,可能更应该将之视为征求意见稿之外的技术开发者,而非服务提供者更加合适。
灰度:元宇宙仍在兴起,许多关键组件已“初具规模”:12月19日消息,加密货币信托基金灰度在推特发文称,它们推出了一篇《元宇宙》报告,文中,灰度认为“加密云经济”是下一个新兴市场投资前沿,以及,元宇宙处于 Web 3.0 互联网发展的前沿。元宇宙是一组相互关联的体验式 3D 虚拟世界,位于任何地方的人们都可以在其中进行实时社交,从而形成跨越数字和物理世界的持久的、用户所有的互联网经济。元宇宙仍在兴起,但许多关键组件已经初具规模,并正在彻底改变从电子商务到媒体和娱乐,甚至房地产的方方面面。[2021/12/20 7:49:48]
四、合规启示
基于此前我们为该领域企业提供法律服务的经验,我们建议企业可以依据以下思路开展合规工作:
1.梳理深度合成技术应用场景
企业可以通过问卷、访谈等形式,结合业务场景,全面梳理企业深度学习技术的使用情况。在梳理的过程中,可能需要特别关注用户较多的使用场景。
2.风险评估
就相关技术的使用进行风险评估。对算法、深度合成技术的评估主要通过:查阅材料、查看系统、访谈人员、系统测试、攻击测试、算法测试、查看算法等方式进行。如涉及个人信息的处理,可能还需要将个人信息保护影响评估纳入评估机制中。
3.搭建内部制度规则、完善技术
在主体责任、算法审核、用户注册、信息内容、数据安全和个人信息保护、未成年人保护、教育培训等领域将深度合成技术的风险管控纳入考量。此外,还需要建立内容审核、事件响应、辟谣、协助调查等机制。
4.制定管理规则、平台公约,更新服务协议
针对深度识别技术的使用,要求使用者在使用时:1)不得合成违法违规的内容;2)不得将合成内容用于违法或侵权用途;3)不得将合成内容谎称为自然内容;4)用于合成的素材应当合法合规,对人像、声音等生物识别信息获取单独同意并完成个人信息保护影响评估;5)对生成内容的知识产权的归属、数据处理的权限进行约定;6)其他需要约定或声明的内容。
5.标识深度合成内容
通过添加水印、电子签名等方式,对深度合成内容进行标识,避免公众误认。在此过程中,更重要的是设计该法定提示如何在有效告知公众的基础上,避免对业务的正常开展造成过大的冲击。
6.完成算法备案
在法规正式实施后,尽快在相关系统完成算法备案,对备案中可能需要填写的服务提供者的名称、服务形式、应用领域、算法类型、算法自评估报告、拟公示内容等信息,公司可以提前起草进行准备,以便在相关系统上线后尽快完成备案。
附:其他法规中关于深度合成技术的规定
《互联网信息服务算法推荐管理规定》
发现未作显著标识的算法生成合成信息的,应当作出显著标识后,方可继续传输不得生成合成虚假新闻信息《网络信息内容生态治理规定》
网络信息内容服务使用者和网络信息内容生产者、网络信息内容服务平台不得利用深度学习、虚拟现实等新技术新应用从事法律、行政法规禁止的活动。《网络音视频信息服务管理规定》
网络音视频信息服务提供者基于深度学习、虚拟现实等新技术新应用上线具有媒体属性或者社会动员功能的音视频信息服务,或者调整增设相关功能的,应当按照国家有关规定开展安全评估。网络音视频信息服务提供者和网络音视频信息服务使用者利用基于深度学习、虚拟现实等的新技术新应用制作、发布、传播非真实音视频信息的,应当以显著方式予以标识。网络音视频信息服务提供者和网络音视频信息服务使用者不得利用基于深度学习、虚拟现实等的新技术新应用制作、发布、传播虚假新闻信息。转载音视频新闻信息的,应当依法转载国家规定范围内的单位发布的音视频新闻信息。网络音视频信息服务提供者应当加强对网络音视频信息服务使用者发布的音视频信息的管理,部署应用违法违规音视频以及非真实音视频鉴别技术,发现音视频信息服务使用者制作、发布、传播法律法规禁止的信息内容的,应当依法依约停止传输该信息,采取消除等处置措施,防止信息扩散,保存有关记录,并向网信、文化和旅游、广播电视等部门报告。网络音视频信息服务提供者发现不符合本规定第十一条第一款要求的信息内容的,应当立即停止传输该信息,以显著方式标识后方可继续传输该信息。网络音视频信息服务提供者应当建立健全辟谣机制,发现网络音视频信息服务使用者利用基于深度学习、虚拟现实等的虚假图像、音视频生成技术制作、发布、传播谣言的,应当及时采取相应的辟谣措施,并将相关信息报网信、文化和旅游、广播电视等部门备案。
近日,加密视频播客UpOnly邀请到以太坊创始人Vitalik进行对话,主持人为知名加密行业KOLCobie与Ledger.
视频|链小6、林涵风? 配音|?随易 联合出品?|?DeFi之道 2021年的加密世界 混沌初开 疯狂、混乱、魔幻 但同时也孕育着生机这一年 加密世界快速膨胀 年初七千多亿美元的市值 在11月份.
前言 当前,国内区块链领域正处于高速发展阶段,各行业积极探索区块链落地应用并赋能实体经济,但在企业开展区块链业务时,难以避免以下问题:市场上区块链底层平台众多,一旦选定后难以变更.
据TheBlock1月12日报道,加密货币服务初创公司ZeroHash于本周三宣布,它在D轮融资中筹集了1.05亿美元的资金.
2021年是“十四五”开局之年,区块链被纳入七大数字经济重点产业之一,全国各省市积极在区块链产业发展和创新应用上谋篇布局取得了哪些成果?1月20日.
元宇宙是以区块链为核心的Web3.0数字新生态。 链新原创作者|李鸣 李鸣:中国电子技术标准化研究院区块链研究室主任、IEEE区块链合格评定委员会主席.