AI生成内容标识对于打造可信网络空间具有重要意义,以下是相关介绍: 背景与必要性随着生成式AI技术的普及,机器创作与人类原创作品的界限日益模糊,深度伪造等技术滥用可能导致虚假消息传播、身份信息冒充、恶意内容生成等问题,削弱公众对网络传播内容的信任根基,因此需要通过标识来确保用户辨别信息来源,预防技术滥用。 相关政策法规我国出台了《人工智能生成合成内容标识办法》,该办法是在《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》和《生成式人工智能服务管理暂行办法》的基础上,进一步细化了AI生成内容标识的具体实施规范。欧盟2024年8月正式生效的《人工智能法案》规定了要确保人工智能生成合成内容的透明度义务,要求平台添加强制性水印。美国加州2024年8月发布《数字内容溯源标识法案》,要求在人工智能生成物中嵌入可溯源数据,以确保内容来源的透明度。 《人工智能生成合成内容标识办法》的主要内容标识要求:明确人工智能生成内容的标识需向公众公示内容由人工智能生成,采用显式与隐式标识相结合的方式。显式标识要求在文本、音频、图片、视频等内容的适当位置添加显著提示标识,如文字提示、语音提示、显著的图形标识等,让用户直观感知内容属性;隐式标识则要求在文件元数据中添加相关信息,如生成合成内容属性信息、服务提供者名称或编码、内容编号等,保障技术追溯可能性。责任划分: 生成环节:网络信息服务提供者是标识主体,负有添加标识的法定义务,在提供AI生成合成内容服务时,需按照要求添加显式和隐式标识。 传播环节:网络信息内容传播平台承担着标识验证和补充责任,需核验文件元数据中的隐式标识,对于不同情况的内容(确为、可能和疑似生成合成内容)采取相应的标识添加措施,并在文件元数据中添加传播要素信息。互联网应用程序分发平台应在应用程序上架或上线审核前核验服务提供者是否按要求提供生成合成内容标识功能。 作用与意义赋予公众选择权:AI生成内容标识使公众能够辨别信息是否由AI生成,从而赋予公众是否信赖和欣赏该内容的选择权,增强用户的知情权。提升内容可追溯性:通过隐式标识等方式,能够对AI生成内容进行溯源,明确内容的生成者、生成来源等信息,有助于在出现问题时进行责任追究,遏制虚假信息传播。促进产业健康发展:为AI产业发展建立了清晰的规则体系,有助于构建公平、透明且高效的市场环境,增强市场主体参与产业的积极性,推动人工智能产业标准化进程,促进产业链上下游的协同创新。维护网络生态安全:有助于防范深度伪造等技术滥用带来的风险,打造可信赖的人工智能技术,维护网络空间的清朗环境,保障国家信息安全和社会稳定。
|
|