向“AI残渣”宣战!马斯克称Grok将能识别AI生成视频并追溯来源

智通财经app获悉，埃隆・马斯克宣布，其人工智能公司xAI开发的聊天机器人Grok将很快获得识别AI生成视频并追踪其网络来源的能力，以应对不断扩散的深度伪造(Deepfake)内容。据悉，Grok 即将推出的新功能能直接在视频比特流中分析AI生成特征(AI signatures)，识别出压缩或生成过程中留下的微妙痕迹，这些特征往往肉眼不可见，却能揭示内容真伪。

在过去几个月，随着OpenAI的Sora App爆红，AI视频生成正在重塑互联网生态。Sora 2具备自然光影一致性、音画同步和多人物逻辑连贯性，使AI合成视频与真实拍摄几乎无法区分。但这项技术的普及也引发了广泛的社会担忧：从名人造谣到政治操纵，AI伪造视频的传播速度已超越事实查证机制。批评者将这类泛滥的虚假内容称为“AI Slop”(AI残渣)，指那些大量生成、未经验证的AI影像正充斥网络。

一名 X 平台用户在一篇帖子中表达了此类担忧。该用户表示：“在未来一两年内——很可能更早——任何讨厌你的人，都可以生成你做出或说出恶劣言行的虚假视频，而这些视频将与真实录像几乎无法区分，以至于你根本无法证明它是伪造的。目前没有任何措施被采取来阻止这种情况的发生。”对此，马斯克回应称，Grok即将推出一项新功能。他写道：“Grok将能够分析视频比特流中的人工智能特征，并进一步搜索互联网以评估其来源。”