拜登给你打电话？Sora来了，网友担忧……

2024-02-21 10:47 由央视财经发表于 #国际

美国OpenAI公司发布的首个视频生成模型“Sora”在给相关内容制作行业带来震撼的同时，也引发了人们对其“深度伪造视频”可能加剧错误和虚假信息传播的担忧 。

当前，包括谷歌和Runway在内的多家公司，都在积极研发此类人工智能项目。但OpenAI强调，“Sora”的突出之处在于其图像的真实感，以及能够生成比其他模型更长的视频片段。不过目前，“Sora”仍然存在缺陷，例如可能混淆一些文本指令中的空间细节、左右方向等。

人工智能产品开发者莫斯塔克：我认为这是自互联网出现以来，我们在技术上取得的最大飞跃之一，它将创造全新的行业，将使媒体更加令人兴奋和有趣。我认为这将不可避免地创造大量新的工作岗位，我认为它将改变一切。

不过，人工智能技术带来许多新机遇的同时，也不可避免地造成了前所未有的挑战和隐患。其中，人工智能生成欺骗性内容干扰选举被认为是全球面临的重要挑战。当地时间1月23日，2024年美国总统选举共和党党内初选在新罕布什尔州举行。在此之前，很多美国选民都表示，自己接到了一通“来自美国总统拜登的电话”。

人工智能生成的虚假电话录音：真是一派胡言，当选票作数的时候，我们就能知道民主投票的价值了，你要把选票留到11月再投。

很快，白宫新闻秘书皮埃尔就澄清说，这是一则伪造的电话录音。

意大利《共和国报》报道说，视频生成模型可以让“名人或政客说从未说过的话、做从未做过的事”，如果有人利用模型克隆拜登、特朗普或其他竞选美国总统，或2024年欧洲议会席位的人，可能会加剧错误信息和虚假信息的传播。

网友质疑：“我好奇生成这些视频的学习材料来源，为了生成有效视频，它需要大量不同的视频数据。”“人工智能的发展就像无人驾驶的汽车，不知道会走向何方。”