“福克斯推出区块链深度伪造检测工具,我们实测效果如何?”

Fox Verify

在人工智能时代,对数字媒体真实性的验证变得愈发困难。近日,Fox公司宣布推出了一款名为“Verify”的区块链工具,此举在媒体圈引起了一定的波澜。这个项目旨在解决两个日益严峻的问题:一是随着人工智能的发展,“深度伪造”内容越来越容易误导读者;二是发布者发现他们的内容在未经许可的情况下被用来训练人工智能模型。

有人可能会认为,这只是Fox公司的公关手段,将“人工智能”和“区块链”这两个热门词汇搅合在一起,以此来建立新闻信任度。尤其是对于那些信誉存疑的老牌媒体集团来说,这似乎是一个不错的新闻素材。然而,我们不妨暂且抛开这些讽刺意味,认真考量Fox及其新工具。

在对抗深度伪造内容方面,Fox表示人们可以通过上传URL和图片到Verify系统,以确定它们是否真实,即这些内容是否已被发布者添加到Verify数据库中。而在版权许可方面,人工智能公司可以使用Verify数据库,以合规的方式获取并支付内容费用。

Fox公司的内部技术部门——Blockchain Creative Labs与Polygon合作,后者是一个低费用、高吞吐量的区块链,运行于庞大的以太坊网络之上,为整个系统提供支持。将新内容添加到Verify,本质上是在Polygon区块链上添加了一个数据库条目,其中存储了其元数据和其他信息。

与许多其他加密实验不同,这次区块链的应用或许真的有其意义:Polygon为Verify上的内容提供了一个不可篡改的审计追踪,并确保了第三方发布者无需信任Fox来管理他们的数据。

尽管Verify目前看起来更像是一个高级的数据库检查器,一个简单的网络应用程序,使用Polygon的技术来跟踪图片和URL,但这并不意味着它没有用处,尤其是在帮助传统出版商在大型语言模型世界中导航许可协议方面。

然而,当我们将内容上传到Verify的网络应用程序时,很快就发现了该应用对消费者的局限性。用户可以输入URL,我们尝试输入一个Fox新闻文章的链接,并按下“回车”,页面上出现了一系列证明文章来源的信息。我们还下载并重新上传了文章中的一个图片,以测试其验证功能。尽管Verify完成了这些简单的任务,但很难想象会有多少人需要验证他们直接从Fox新闻网站获取的内容来源。

即使Verify能够正常工作,它也无法告诉你内容是否由人工智能生成——只能告诉你内容来自Fox或其他使用Verify的来源。即便是像《体育画报》这样的可信新闻媒体,也因使用人工智能生成的内容而卷入争议。

消费者对内容真实性的漠不关心也是一个问题。人们倾向于不太在意他们正在阅读的内容是否属实,这一点Fox公司肯定是意识到的。这在人们希望某些内容是真的时尤其如此。

对消费者来说,要想让像Verify这样的工具真正有用,可能需要将其直接构建到人们用来查看内容的工具中,如网络浏览器和社交媒体平台。

对于出版商而言,Verify似乎是一个不错的主意,特别是考虑到出版商和人工智能公司当前面临的法律问题。纽约时报最近对OpenAI和微软提起诉讼,声称其内容在未经许可的情况下被用来训练人工智能模型。Verify可能为人工智能公司访问在线内容提供了一个标准框架,从而在与人工智能公司的谈判中为新闻出版商提供了一定优势。