一、Sora 简介
OpenAI 于 2024 年 2 月正式发布了首个文本‑生成‑视频模型 Sora,能够根据用户的文字提示生成时长最长 60 秒、画质达 4K 的高质量视频。Sora 采用视觉块嵌入技术,将视频压缩为低维潜在空间再进行像素级重建,支持多角色、复杂动作、镜头运动等功能,被视为“视频生成领域的 ChatGPT 时刻”。发布后,Sora 在社交平台的下载量迅速突破 100 万次,成为 AI 生成内容(AIGC)领域的热点产品。
二、事件概述:Sora 生成马丁·路德·金(MLK)形象被暂停
- 违规内容出现
- 部分用户利用 Sora 生成了对已故民权领袖 马丁·路德·金 的深度伪造视频,其中包括让马丁·路德·金在 “我有一个梦想” 演讲中出现粗口、抱怨烟雾报警器等不敬情节,甚至出现马丁·路德·金与另一位民权领袖马尔科姆·X 摔跤的荒诞画面。
- 遗产方投诉
- 马丁·路德·金遗产管理机构(King Inc.)以及马丁·路德·金的女儿伯尼斯·金向 OpenAI 投诉,认为这些视频对马丁·路德·金形象构成冒犯并侵犯了其肖像权。
- OpenAI 的紧急响应
- OpenAI 在官方 X(原 Twitter)账号发布声明,宣布 紧急暂停 Sora 中任何关于马丁·路德·金的生成功能。声明强调:“虽然描绘历史人物涉及言论自由,但公众人物及其家属应拥有对其肖像使用的最终控制权”。
- 同时,OpenAI 表示将为其他已故公众人物的合法代表提供 “opt‑out” 权限,允许其要求 Sora 停止使用其肖像进行“客串”。
三、舆论与行业反响
- 媒体与专家评论
- 多家媒体将此事称为 AI 视频生成伦理争议的“标志性案例”。《华盛顿邮报》指出,Sora 的深度伪造能力让历史人物形象容易被恶意篡改,呼吁平台在技术层面加入更严格的身份验证与内容审查机制。
- 法律学者认为,此举凸显了 肖像权与言论自由的冲突,建议立法层面明确“已故公众人物的肖像使用”规则,以防止类似深度伪造的滥用。
- 公众与社群反应
- 在社交媒体上,许多用户对 OpenAI 的快速响应表示赞赏,认为这是对“数字遗产”保护的积极信号。与此同时,也有声音担心此举可能导致对历史人物的审查过度,影响学术与艺术创作的自由。
- 行业连锁效应
- 该事件引发了对 AI 视频生成整体监管 的讨论。OpenAI 随后在 Sora 中加入了 水印(标识视频为 AI 生成)以及对 公众人物肖像的默认禁用,并要求用户在上传真实人物照片时进行身份验证。此举被视为业界对 深度伪造 风险的首次系统性回应。
四、Sora 争议的更广层面
- 版权争议
- 除了人物肖像,Sora 还能生成受版权保护的影视、动漫、游戏角色。自 2025 年 10 月推出 Sora 2 后,多家版权方(如迪士尼、好莱坞电影协会)已通过“选择退出”机制要求 OpenAI 停止使用其 IP,导致平台面临大规模版权侵权指控。
- 技术滥用风险
- 生成式视频的低门槛让普通用户也能轻松制作 深度伪造 内容。案例包括 Robin Williams、罗宾·威廉姆斯等已故明星的“复活”视频,引发公众对 死亡人物数字化再现 的伦理担忧。
- 监管与政策动向
- 美国国会与多国监管机构已开始就 AI 生成视频的 真实性标识、版权责任、肖像权保护 进行立法讨论。OpenAI 的此次暂停被视为企业自律的先行示范,可能影响后续行业标准的制定。
五、后续与展望
- 技术层面:OpenAI 正在完善 Sora 的 内容过滤、水印 与 身份验证 流程,计划在 2025 年下半年向更广泛的付费用户开放更安全的版本。
- 政策层面:OpenAI 已公开承诺与全球遗产管理机构合作,建立 数字肖像权登记平台,让合法继承人能够统一管理其已故亲属的 AI 生成使用权。
- 行业影响:该事件加速了 AI 视频生成领域的 合规化进程,多家竞争对手(如 Runway、Pika)也相继推出类似的“opt‑out”功能,以避免同类争议。
六、结语
OpenAI 对 Sora 生成马丁·路德·金形象的紧急暂停,标志着 AI 视频生成技术从“技术炫耀”向 伦理合规 转型的关键节点。它提醒我们:在 AI 能力快速突破的同时,必须同步建立 法律、技术与社会共识,才能让生成式 AI 真正服务于创造而非侵害。
声明:文章均为AI生成,请谨慎辨别信息的真伪和可靠性!