人工智能换脸 警告!人工智能给卫星图像“换脸”
“藏不如骗”,卫星拍照盛行的当下,饱受“过度透明”困扰的各国军方努力寻找隐真示假的新途径。现在,美国军方就被一种“照片换脸术”迷住了,这就是基于人工智能的深度伪造技术——生成对抗网络(GAN),它能让笃信“眼见为实”的情报人员感到“什么都不敢相信了”。
生成对抗网络修改图像的常见模式
“假币贩子”与“警察”
GAN包括生成模型与判别模型两块,分别负责生成样本和判别样本,通过二者零和博弈,在对抗中实现学习,提高精度。这一智能提高过程可通过一个例子解释:生成模型类似假币贩子,生成假币后让警察(判别模型)检验,若被识破,则回去重新研究,改进技术,生产出更逼真的假币。通过不断反复,假币贩子的造假技术得到改进,而警察判别水平也不断提升。
在识别、发现目标和从虚构图像中判别真实图像方面,GAN已初露锋芒。过去,找出卫星图像上某些目标具体是什么,分析师要先掌握大量卫星图像做参考,无论识别速度还是精度都无法和GAN媲美。美国密苏里大学运用GAN技术,在亚洲某大国一块面积5万多平方英里的卫星图像上识别出90个地空导弹阵地,用时仅45分钟,这一任务若安排人工,至少需要60小时。
那么,GAN要是“逆向运用”——深度伪造和篡改图像,又会怎样呢?专家注意到,人工智能判别图像,通常基于特定目标的固定特征,如“图像中出现猫的特定元素,就识别为一只猫”。GAN则可将这一算法反推:要让目标被识别为一只猫,就使其出现猫的特定元素。依托深度学习掌握的相关元素及其内在联系,GAN能为照片构建或生成出这些元素。设想一下,若有人蓄意篡改谷歌地图,多年后,无人驾驶车辆上路,后果会怎样?不可想象!
叙利亚政府军军火库被摧毁前后对比
“污染信息源头”
面对GAN,美军既激动又紧张。随着民间依赖公开来源卫星图像去了解地形地貌,只需利用GAN对图像进行不易察觉的细微修改,然后公开,就能引起不小的麻烦。
美国国家地理空间情报局首席信息官托德·迈尔斯指出,不仅是美军,潜在对手也意识到GAN的价值,用“污染信息源头”来保守秘密。例如,用GAN处理过的卫星图像,让对方人工智能判读系统发现某条河流渡口有桥,而军队据此制定战术计划,可结果部队到达后才发现那里根本没有桥,从而贻误战机。
迈尔斯强调,与社交网络上用“换脸术”伪造名人言行的视频不同,卫星图像“换脸”的军事效果更厉害。“换脸”视频涉及元素多,综合运用声纹、脉搏、呼吸、眨眼等生物指标鉴别,识破的难度并不大,可卫星图像却是平面的,缺乏多样化鉴别元素,只需在图像中混入少量经专业人士蓄意篡改的数据,便可有效干扰人工智能识别系统,起到以假乱真的作用。
迈尔斯称,军事和情报部门并非不能解决问题,但需要对卫星图像进行多次重复收集,并辅以其他相关佐证,不但需要技术支撑,还相当费时费钱。
总之,GAN在军事上极具潜在价值。当被问及美国能否有效克服开源情报领域的“造假”时,中央情报局数字处长安德鲁·霍尔曼坦言,“我们才刚刚意识到这一问题的严重性”。
