AI拜年走红 专家提醒存风险 滥用隐患需警惕
春节临近,合成短视频在各大社交平台走红,AI技术以一种前所未有的娱乐化姿态介入了传统节日。专家指出,正规的大型AI服务平台和专业视频合成工具已经开始尝试加入防止滥用的机制。例如,强制添加AI生成标识或水印,让观众能够轻易分辨出这是合成内容。此外,用户协议中也明确禁止未经授权使用他人的形象和声音。部分平台还建立了后台内容检测和过滤机制,利用AI自身识别疑似深度合成的视频。
然而,实际情况是,许多工具仍然缺乏足够的防护机制,特别是开源模型或小型应用,可能根本没有添加标识或监管限制热点话题,这为滥用提供了空间。AI拜年视频走红 专家提醒存风险 滥用隐患需警惕