耶路撒冷 – 在过去的两周里,自从巴勒斯坦恐怖组织哈马斯在以色列南部发动致命攻击,造成约1400人死亡以来,人们担心这场以色列人和巴勒斯坦人之间的老战争可能在数字领域开启一个新的战线。

虽然在中东战争中长期以来伪造图片和假新闻就是武器之一,但随着一年前易于使用的人工智能(AI)生成工具的出现,深假视频很可能也将很快出现在战场上。

“哈马斯和其他巴勒斯坦派别在过去曾将其他冲突中的惨烈图片伪装成巴勒斯坦受以色列攻击的受害者,所以这在这个战场上不是独一无二的,”民主国防基金会的研究经理大卫·梅伊告诉数字。

他描述说,在过去,哈马斯曾知道如何恐吓记者,不报道它使用人体盾牌的情况,以及安排婴儿和泰迪熊埋在瓦砾堆中的图片。

“哈马斯控制着加沙地带的叙事,”梅伊说,他密切关注哈马斯的活动,并补充说:”AI生成图片将使已经充满误导信息的以巴冲突更加复杂。”

据报道,一些图片已经被重新上传从不同冲突中,上周,一张哭泣的婴儿在加沙瓦砾中爬行的心碎照片被揭露为AI创作。

“我称之为升级的假新闻,”CyBureau研究所的创始人兼主任塔尔·帕维尔博士告诉数字。”我们已经知道假新闻这个术语,大多数情况下是被篡改或置于错误语境中的视觉或书面内容。AI或深假是我们将这些图片带入生动的视频剪辑中。”

帕维尔称AI生成的深假视觉为”民主最大的威胁之一。”

“不仅在战时,在其他时候也是,因为越来越难证明什么是真实的,”他说。

在日常生活中,帕维尔指出,深假误导信息的案例已经浮现。他举例其在犯罪团伙进行欺诈时使用改变声音的技术,或在选举期间视频和语音被篡改以改变公众看法。

“在战争中,它可能更危险,”他补充说。

“这是一片新领地,我们只处于初级阶段,”帕维尔说。”任何人,只要有相对低的资源,都可以使用AI创建一些令人惊叹的照片和图像。”

这种技术已经在俄罗斯在乌克兰继续的战争中使用,民主国防基金会研究员伊娃娜·斯特拉德纳说,她专门研究乌克兰-俄罗斯领域。

去年3月,一段伪造且经过重大篡改的泽连斯基总统视频出现在社交媒体上,视频中他似乎敦促士兵放下武器向俄罗斯投降,该视频后被乌克兰新闻转发。一旦发现是假的,该视频很快被删除。

“深假视频可以非常逼真,如果制作得很好,则很难检测出来,”斯特拉德纳说,并补充说声音克隆应用程序很容易获得,真实图片也可以轻松被盗取、修改和重新使用。

在加沙,环境更难把握。随着10月7日哈马斯攻击后破坏了唯一的人道主要通道,几乎没有公认的可靠记者当前在该地带,区分事实和假消息已经是一个挑战,使用AI平台可能会更难。

然而,希伯来大学耶路撒冷深假和检测方法研究人员耶迪德·霍申说,这样的技术还不完全无懈可击。

“生成图片本身不难,市面上有很多技术可用,任何技术水平一般的人都可以生成图片或视频,但我们讨论深假时,我们说的是人脸替换或人脸交换,”他说。”这类假图片更难创建,对于像这个冲突这样的情况,他们必须用希伯来语或阿拉伯语制作,而大多数技术目前还只能用英语。”

此外,霍申说,AI视觉与真实视觉之间还是有明显区别。

“使视觉与音频同步还很困难,这对人眼可能不可察觉,但可以使用自动检测技术检测出来,”他说,并补充说:”小细节如手、手指或头发通常没有真实感。”

“如果图片看起来有问题,那么它可能是假的,”霍申说。”AI在很多方面还不完美。”