AI 恐怖 数据泄露引发担忧
2月9日,影视飓风Tim发布了一段视频,介绍字节跳动新推出的AI视频模型Seedance 2.0。Tim在视频中对该模型给予了高度评价,称赞其生成的视频在精细度、摄像机运动流畅度、分镜连续性及音画匹配度方面表现出色,称其为“改变视频行业的AI”。
在体验过程中,Tim发现了一个让他感到惊讶的功能。他仅上传了自己的人脸照片,系统便自动生成了与他本人高度相似的声音,并能精准匹配他的语气特质。更令人震惊的是,当他上传一张只包含楼栋正面的照片时,模型生成的运镜竟能转到楼栋背面,仿佛它已经知道楼栋背面的样子。
基于这些发现,Tim推测影视飓风团队过往发布的大量视频可能已被用于Seedance 2.0的学习训练。他表示不确定平台用户协议中是否有关于数据授权的相关条款,但他和他的团队从未收到过授权通知或任何报酬。他们还测试了其他博主如何同学的素材,发现模型对人物形象的还原度极高。
Tim提醒大家,如果一个人的所有数据被纳入AI数据集,那么AI可以100%模拟该人的形态和声音,这可能会让家人难以分辨内容真假,这一现象值得所有人警惕。
根据官方资料,Seedance 2.0由字节跳动研发,能够通过文本或图像创建电影级视频,采用双分支扩散变换器架构,可同时生成视频与音频。用户只需上传一张图片或编写详细提示,该模型即可在60秒内生成带原生音频的多镜头序列视频。其多镜头叙事功能可以根据单个提示自动生成多个关联场景,自动保持角色、视觉风格及氛围的一致性,无需手动编辑。官方表示,这项功能非常适合创建从开头到高潮的完整叙事序列,确保专业级的连贯性。AI 恐怖 数据泄露引发担忧