DARPA发布深度伪造检测工具，并开始合作挑战以开发更多

DARPA（美国国防高级研究计划局）已向公众发布了其语义取证（SemaFor）程序中开发的深度伪造检测工具。该机构在许可或开放许可下提供了近二十种工具，用于检测深度伪造的照片和视频以及人工智能生成的文本和语音。为了鼓励持续开发，在人工智能取证开放研究挑战评估（AI FORCE）计划下，每四周将发布一系列合作挑战，以帮助开发新的工具和算法来应对人工智能威胁。

当谷歌工程师 Blake Lemoine 在 2022 年声称谷歌的 LaMDA AI 知道它有知觉时，AI 潘多拉魔盒被确认打开。无论人工生命如何定义，人工智能的用户都可以肯定地看到它的能力是巨大的，而且往往比人类的能力更好。看过《终结者》或《攻壳机动队》的读者也会认识到，人工智能的威胁，无论是由用户发起的还是自己发起的，都是巨大的。

DARPA的使命“对国家安全的突破性技术进行关键投资”，使其在其SemaFor计划下瞄准了人工智能威胁问题。该机构已经开发了一个包含19个组件的分析目录，随着时间的推移，还会添加更多组件。所有组件都是开源的，旨在向公众传播必要的反人工智能工具。

这些工具包括为检测人工智能威胁而开发的代码和算法，例如人工智能在 Twitter 和其他地方发布的假新闻和文本、虚假的拜登总统电话以及由 Midjourney 等生成工具创建的虚假教皇图片。

DARPA还希望通过其AI FORCE计划与公共研究人员和开发人员合作，每四周针对一个新的兴趣领域，以鼓励创新。

来源：IT时代网

IT时代网(关注微信公众号ITtime2000，定时推送，互动有福利惊喜)所有原创文章版权所有，未经授权，转载必究。
创客100创投基金成立于2015年，直通硅谷，专注于TMT领域早期项目投资。LP均来自政府、互联网IT、传媒知名企业和个人。创客100创投基金对IT、通信、互联网、IP等有着自己独特眼光和丰富的资源。决策快、投资快是创客100基金最显著的特点。