在“美颜相机”已经让不少网友分辨不清真假的

在“美颜相机”让不少网友分不清真假的当下,Facebook也在努力让通过Deepfake制作的内容“代表”,以便日后相关内容可追溯。与密歇根州立大学 (MSU) 研究人员合作的最新相关研究将继续获得资助。可以看出,这个联合团队创造了一种逆向工程deepfake伪造的方法。

对齐:居中”>

(图片来自:Facebook AI官网)

具体来说基于稀疏表示与字典学习的图像去噪算法研究,这套逆向工程工具会分析 AI 生成的图像,以揭示创建它的机器学习模型的识别特征。

这项工作的实用性在于,它可以帮助 Facebook 追踪其在各种社交网络上传播深度伪造的不良行为者。

此类内容可能包含虚假信息,或者已经广泛传播的、未经同意的捏造色情内容——后者也是现阶段 Deepfake 技术的主要争论点。

图片[1]-在“美颜相机”已经让不少网友分辨不清真假的-老王博客

这项工作仍处于早期研究阶段,逆向工程团队尚未准备好部署。然而,该领域之前的研究已经能够确定哪一组已知的 AI 模型生成了 deepfake 内容。

相比之下,由 Vishal Asnani 领导的 MSU 研究团队将致力于进一步识别未知的模型架构。因为这些称为“超参数”的特性意味着每个机器学习模型都必须经过相应的调整过程(就像引擎中的部件一样)。

简而言之基于稀疏表示与字典学习的图像去噪算法研究,deepfake 内容会在图像上留下独特的指纹,调查人员可以使用它来追踪其来源。

Facebook 研究负责人 Tal Hassner 在接受外媒采访时表示:“识别未知模型的特征很重要,因为 Deepfake 软件非常容易定制。如果调查人员试图追踪相关活动,别有用心的人也必须加倍努力掩盖他们的踪迹。”

Hassner 还将这项工作与取证技术进行了比较,取证技术在生成的图像中寻找特定模式,以确定用于捕获源内容的相机型号。生成的算法不仅可以识别生成模型的特征,还可以识别出哪一组已知模型与 deepfake 内容相关联。

在标准的基准测试中,Facebook AI 研究团队已经取得了相当先进的检测结果,尽管距离实际应用还有很长的路要走。

比如在去年的 Deepfake 伪造检测比赛中,最终获胜的算法只能达到 65.18% 的检测率。而这样的“猫捉老鼠游戏”显然还会持续很长一段时间。

© 版权声明
THE END
喜欢就支持一下吧
点赞0
分享
评论 抢沙发

请登录后发表评论