AIGC内容戴上“紧箍咒”,《标识办法》护航信息真实

AIGC内容戴上“紧箍咒”,《标识办法》护航信息真实

作者:编辑 发表时间:2025-03-17 13:47

《人工智能生成内容标识新规》将正式实施,社会各界反响热烈

近日,备受瞩目的《人工智能生成内容标识新规》由国家互联网信息办公室携手工业和信息化部、公安部及国家广播电视总局联合发布,并将于2025年9月1日正式生效。这一新规的出台,迅速在社会各界引发了广泛讨论和关注。

AIGC技术:从无序到规范

在AIGC技术迅猛发展的背景下,其应用已广泛渗透到文本、图像、视频等多个领域。据2024年12月HRTechChina与新秀数据联合发布的报告显示,截至2024年10月底,全球AIGC行业融资总额高达3434亿元,投资事件达939起。中国虽只占全球融资额的十分之一,但投资事件数量却接近四成。然而,技术的快速推进也带来了虚假信息泛滥、版权纠纷频发等问题,尤其是AI换脸诈骗案件频发,引起了公众的广泛关注。

新规亮点:双重标识体系

针对上述问题,《人工智能生成内容标识新规》提出了创新的双重标识体系,系统性地规范了AI生成内容的传播边界。新规要求,通过文字、图形等方式直观提示的显式标识,以及需在文件数据中嵌入溯源信息的隐式标识,共同构成了“看得见的警示+看不见的防线”。这一设计既保障了普通用户的知情权,也为内容溯源提供了技术支持。

行业反应积极,期待健康发展

京东集团相关业务负责人表示,新规如同AI生成行业的“红绿灯”,既是对技术发展的必要约束,也为行业的健康发展提供了明确指引。京东已在数字人直播中广泛应用标识,确保用户能够明确区分数字人主播与真人主播。同时,采集人像和声音时,京东均签署了严格授权协议,再进行商业化应用。

一位深圳创业者则认为,新规将促使AI企业优化技术架构,加速技术落地。以他们团队开发的AI绘图工具为例,过去通过隐式标识实现版权保护的成本较高,现在政策明确了数字水印等技术方案的合规性,将有效降低应用成本。

市民观点各异,呼吁透明化

新规的实施效果不仅关乎企业技术路线的调整,更直接影响到亿万用户的信息安全与消费选择。市民刘女士表示,强制标识AI生成内容能提醒大家提高警惕,减少被骗的概率。而设计师薛先生则建议,对商业推广类内容必须显式标识,个人创作类内容则可允许选择性标注,以避免破坏作品氛围。

专家建议:构建创新与安全的平衡

深圳职业技术大学人工智能学院专业主任易海博指出,新规明确了合成内容的源头,一旦发现虚假、非法内容,可追溯至生成合成者。他预计,AIGC标识检测将成为新业务,并可能发展成新的职业工种,如人工智能标识检测员。同时,他也提到,可能会出现AIGC标识检测工具软件,形态可能是云服务,随着检测服务的普及,价格将越来越低廉。

深圳市智能制造产业促进会常务会长喻波则强调,在政策执行过程中,要破解“技术-监管-伦理”三角难题。他建议参考欧盟《数字服务法案》,建立“人工复核+算法纠错”双轨机制,并建立动态评估机制,确保政策始终贴合行业发展需求。喻波还建议深圳试点“一网统管”平台,实现数据跨部门共享,避免监管空白或重叠,形成高效协同的监管合力。

相关文章
更多