OpenAI承诺加强AI视频安全监管 严控Sora深度伪造风险

据外媒CNBC报道，OpenAI与美国演员工会（SAG-AFTRA）等共同发布联合声明，宣布将建立深度合作机制，重点防范其AI视频生成工具Sora可能引发的深度伪造（Deepfake）滥用问题。

据悉，Sora作为OpenAI推出的文本到视频生成模型，凭借其“1分钟长视频生成”“物理规律模拟”“多镜头叙事”等能力，自曝光以来便引发全球关注。然而，其强大的内容生成能力也带来深度伪造风险——不法分子可能利用该技术伪造名人影像、篡改历史事件或制造虚假新闻，对个人名誉、社会信任甚至国家安全构成威胁。

此次合作中，OpenAI承诺在Sora的后续版本中实施严格的“选择加入”（Opt-In）政策：所有艺术家、表演者及普通用户需明确授权后，其声音、肖像方可被用于AI生成内容。例如，若用户希望生成布莱恩·克兰斯顿的虚拟影像，必须通过其本人或授权代表的确认，并明确使用场景与期限。此外，OpenAI将建立快速响应机制，对涉嫌侵权的生成内容进行下架处理，并配合执法部门追溯源头。

此外，OpenAI宣布将向合作方开放部分技术细节，鼓励第三方机构开发深度伪造检测工具。目前，已有斯坦福大学、MIT等高校参与相关研究，试图通过算法识别AI生成内容的微小瑕疵。