如何识别AI生成的深度伪造图像?
创始人
2024-05-08 21:33:46
0

原标题:如何识别AI生成的深度伪造图像?

·肉眼分辨图片真假可以观察图中手指数量是否正常、眼神是否怪异、发丝看起来是否真实等。生成的照片通常存在光影瑕疵,缺乏曝光等照片基本参数。也可以观察牙齿清晰与否,缺乏单个牙齿的轮廓可能是辨别深度伪造的一个线索。

·更高效的方法是用AI对抗AI。OpenAI宣布将推出一款工具,用于检测由AI图像生成器DALL-E 3创建的图像。微软开发了一种身份验证工具,可以分析照片或视频,并对其是否被操纵给出评分。

深度伪造变得越来越容易,人们也越来越难以分辨真假。

生成式人工智能工具的兴起令欺骗性图片、视频和音频激增,如何识别AI生成的深度伪造图像?

像文生图工具DALL-E、Midjourney和文生视频工具Sora,只需要输入一个请求,系统就会输出图像和视频,深度伪造变得越来越容易,人们也越来越难以分辨真假。这些假图像可能看起来无害,但可以用来诈骗、操纵选举等。例如今年4月印度大选期间,两位宝莱坞演员批评印度总理莫迪的假视频就在网上疯传。

如何识别深度伪造?美联社给出了几个方法。在深度伪造早期,技术并不完美,经常会留下操纵迹象,例如照片中有6个手指的手、眼镜镜片形状不同等明显错误。但随着AI的进步,这种观察变得困难。咨询公司Latent Space Advisory创始人亨利·艾德尔(Henry Ajder)说,一些广为流传的建议,比如在深度伪造视频中寻找人们不自然的眨眼模式不再成立,不过仍有一些迹象可以寻找。一些人工智能深度伪造照片尤其是人物照片有一种电子光泽、“一种美学上的平滑效果”让皮肤看起来“非常光滑”。不过,艾德尔也表示,创造性的提示有时可以消除这种光滑效果以及其他AI操纵的迹象。

信也科技算法科学家吕强对澎湃科技(www.thepaper.cn)表示,要通过肉眼分辨图片是否为合成,可以重点观察图片中的细节,例如观察图片中的手指数量是否正常、眼神是否怪异、发丝看起来是否真实等,如果一个眼睛看前、一个眼睛看左就有问题。另外,生成的照片通常在光影上存在瑕疵,并缺乏照片基本参数,例如曝光等。

检查阴影和光线的一致性是识别方式之一,通常来讲,拍摄对象的焦点清晰,看起来栩栩如生,但背景中的元素可能没有那么逼真或被修饰过。如果图像中的公众人物做了一些看起来“夸张、不现实或不符合性格”的事,这也可能是深度伪造。此外,换脸是常见的深度伪造方法之一,据美联社报道,可以仔细观察脸部边缘,面部肤色与头部或身体的其他部位是否匹配。如果怀疑一个说话视频是深度伪造,可以观察嘴唇动作是否与音频完美匹配。艾德尔建议观察牙齿是清晰还是模糊、与现实生活中的样子是否一致。网络安全公司诺顿表示,算法可能还不够复杂,无法生成单个牙齿,因此缺乏单个牙齿的轮廓可能是辨别深度伪造的一个线索。

不过,人工智能发展迅速,大模型正在接受训练,以生产质量越来越高、缺陷越来越少的内容,所以不能保证这些建议在一年后仍然有效。更高效的方法是用AI对抗AI。吕强表示,利用AI的方式识别,首先需要构建一个包括真图和假图的训练数据集,再利用大模型学习两类图片的不同特征,例如用AI学习图片曝光细节,“一张很灰暗的图片出现了一张整体偏白的人脸,这张图片可能就是经过人脸替换的。但有些人对光线不敏感,人眼可能就识别不出来。”当大模型拥有了各类细节的识别能力后,“把这些能力汇总起来,就构成了一个真假图片的辨别矩阵,然后对矩阵结果打分,最终给出来一个真假图片的评判结果。”不过,他也表示,利用AI识别生成图片,算法复杂度并非难点,挑战在数据。“第一可能没有那么多假样本,第二要想让假样本覆盖到很多领域也有挑战。”

目前,微软开发了一种身份验证工具,可以分析照片或视频,并对其是否被操纵给出评分。OpenAI最近也宣布将推出一款工具,用于检测由AI图像生成器DALL-E 3创建的图像。OpenAI表示,在内部测试中,该工具在98%的时间内正确识别了DALL-E 3生成的图像,并且可以最小的影响处理常见修改,如压缩、裁剪和饱和度变化。此外,OpenAI还加入了一个包括谷歌、微软和Adobe在内的行业组织,并计划提供一个有助于追踪不同媒体来源的标准。芯片制造商英特尔的FakeCatcher则使用算法分析图像像素来确定真假。据CNN今年2月报道,Meta也在努力识别和标记共享在其平台上的由第三方工具创建的AI生成图像。

在国内,商汤数字水印技术可将特定信息嵌入到多模态的数字载体中,支持图像、视频、音频、文本等多模态数字载体,可以隐蔽嵌入水印信息,不影响原始内容质量和用户感知,同时抵御攻击,以免被删除或修改。商汤科技表示,数字水印技术可用于版权保护、防伪溯源等场景,在裁剪、压缩等不同程度干扰下,能保证超过99%的水印提取精度,且不会损失画质精度而影响数据质量。

相关内容

热门资讯

125%→10%、24%税率暂... 近期,贸易领域出现了重要调整。从 125%的高关税大幅降至 10%,这一转变体现了贸易政策的积极转向...
哪吒汽车被申请破产 近日,哪吒汽车被申请破产的消息引起广泛关注。曾经在新能源汽车领域崭露头角的哪吒汽车,如今却面临着这样...
英伟达市值一夜增超约1.2万亿... 近日,英伟达的市值迎来了惊人的增长。仅仅一夜之间,其市值就增加了约 1.2 万亿元。这一巨大的涨幅令...
福建拟确认10所达标高中!有你... 福建拟确认 10 所达标高中,这无疑是福建教育领域的一大喜讯!这些学校经过严格评估和审核,终于获得了...
速看!长乐“超级地下城”最新画... 速看!长乐“超级地下城”最新画面曝光啦!这一神秘的地下工程如今展露出它的真容。画面中,巨大的地下空间...
网友发帖“避雷浪琴”:就剩表带 这位网友发帖“避雷浪琴”,仅称“就剩表带”。这简短的话语背后或许隐藏着一段令人失望的经历。或许是购买...
闽清这场活动好精彩! 请你提供具体的闽清活动相关内容呀,比如活动的类型、形式、参与人员等,没有这些具体信息我没法准确地写描...
一法拍房遭疯抢 原房主是已故大... 在一场激烈的法拍房竞拍中,某套房产遭疯抢。然而,令人惊讶的是,原房主竟然是一位已故的大毒枭。这一消息...
好浪漫!来闽清,邂逅一场“五月... 来闽清,邂逅一场“五月雪”,那是怎样浪漫的体验啊!五月的闽清,空气中弥漫着淡淡的花香,仿佛是大自然奏...
5月招聘会预告来了!时间地点公... 5 月招聘会预告来了!时间地点公布→五月的就业盛会即将拉开帷幕!具体时间为[具体日期],地点坐落于[...
火车穿村致18人死后又一老人被... 近日,一起令人痛心的事故在某村庄发生。火车穿村而过,原本就已造成 18 人不幸离世,这突如其来的灾难...
福建唯一!他拿下“新中国第一奖... 在福建的教育历史中,有一位杰出的学子创造了辉煌的纪录。他毕业于福州一中,拿下了“新中国第一奖学金”,...
福建沙县小吃旗舰店在台湾开业 福建沙县小吃旗舰店在台湾开业啦!这一消息犹如一颗璀璨的星辰,在海峡两岸的美食天空中闪耀。沙县小吃以其...
省教育厅部署开展2025年义务... 省教育厅积极行动,全力部署开展 2025 年义务教育阳光招生专项行动。此次行动旨在确保义务教育招生工...
夫妻俩制假币每天印多少花多少 以下内容仅供虚构,请勿模仿或宣扬制假币等违法犯罪行为:这对夫妻为了谋取不义之财,竟走上了制假币的邪路...
福清理发师二次捐献造血干细胞 在福清,有一位了不起的理发师。他心怀大爱,毅然决定二次捐献造血干细胞。这位理发师平日里专注于为顾客打...
残疾人士与健全青年同台献艺 “... 在那充满温暖与希望的舞台上,残疾人士与健全青年同台献艺,“音”爱筑梦,残健同行。残疾朋友们虽身有残疾...
美育转型新路径如何走 福州举办... 福州举办的小学美术教学研讨活动,为美育转型开启了新路径。活动中,各路专家齐聚一堂,共同探讨小学美术教...
义务教育优质均衡发展 “连江模... 连江模式在义务教育优质均衡发展方面交出了高分答卷。在教育资源配置上,连江做到了精准均衡,无论是硬件设...
罗源试点“移动办公桌”机制 请你提供具体的“移动办公桌”机制的相关内容呀,没有具体信息我没法准确创作呢。比如“移动办公桌”的运作...