Sora来了,会砸掉谁的饭碗? 受到各界关注

　　让伪造更逼真难辨x7Q灵异岛|www.lingyidao.com

　　OpenAI在Sora技术报告的标题中写道，视频生成模型是“世界模拟器”。x7Q灵异岛|www.lingyidao.com

　　如果世界可以被模拟，那么真与假的边界何在？不少业内人士担心，Sora将为“深度伪造”（Deepfake）技术推波助澜。加利福尼亚大学伯克利分校信息学院副院长法里德表示：“当新闻、图像、音频、视频——任何事情都可以伪造时，那么在那个世界里，就没有什么是真实的。”x7Q灵异岛|www.lingyidao.com

　　针对造假顾虑，OpenAI称在真正面向公众推出产品时，将确保生成视频包含来源元数据，并推出检测视频真伪的工具。OpenAI还承诺，在产品中使用Sora前将采取安全措施，包括由“错误信息、仇恨内容和偏见等领域的专家”对模型进行对抗性测试以评估危害或风险；核查并拒绝包含极端暴力、性内容、仇恨图像、他人IP等文本输入提示等。x7Q灵异岛|www.lingyidao.com

　　不过，OpenAI承认，即便进行了广泛的研究和测试，“我们无法预测人们使用我们技术的所有有益方式和滥用我们技术的所有方式”。x7Q灵异岛|www.lingyidao.com

　　AI狂飙 能管得住吗x7Q灵异岛|www.lingyidao.com

　　科技领域颠覆式创新不断涌现，如何实现拥抱技术进步和确保社会安全的平衡，越来越受到各界关注。x7Q灵异岛|www.lingyidao.com

　　OpenAI表示，将与世界各地的政策制定者、教育工作者和艺术家合作，了解他们的担忧，确定Sora的积极使用案例，并认为从现实世界的使用中学习是创建和发布越来越安全的人工智能系统的关键组成部分。x7Q灵异岛|www.lingyidao.com

　　业内人士指出，在当下治理框架、管控措施都未跟上的情况下，仅靠企业恐无法提供社会所需的人工智能安全性和信任度。x7Q灵异岛|www.lingyidao.com