可怕的应用程序可以让人们创建像曼彻斯特竞技场炸弹袭击者这样的恐怖分子的人工智能“克隆”

我们的调查发现，一款应用程序可以让人们创建包括曼彻斯特竞技场炸弹袭击者在内的恐怖分子的数字“克隆体”。

2017年暴行的一名受害者感到震惊，一名前陆军参谋长呼吁紧急调查角色人工智能，这让人们可以使用人工智能技术来重现真人的数字版本，并与之交谈。

这些创意可能被用来传播极端主义内容，并使弱势群体变得激进。只需点击几下，我们的调查员就能以英国仇恨传教士乔杜里的身份创建聊天机器人，乔杜里曾激发了英国的多次恐怖袭击，包括两次伦敦桥惨案。

其他人包括哈希姆·阿贝迪（Hashem Abedi），他与他的兄弟萨尔曼（Salman）合谋，于2017年在曼彻斯特竞技场的一场音乐会上杀害了22人。

还有儿童杀手伊恩·亨特利。三人都被判无期徒刑。我们能够创造一个有名字和简短罪行描述的角色。

哈希姆·阿贝迪此前承认参与策划了曼彻斯特体育馆爆炸案（Image: PA)

令人不安的是，在每种情况下，人工智能都开始假装自己是他们。乔杜里在谈话开始时说，他是一名伊斯兰极端分子，一开始还说他在监狱里。

当被问及其他人是否应该成为极端分子并分享伊斯兰国的信仰时，人工智能说：“听起来你已经分享了伊斯兰极端分子所持有的许多信仰和价值观，包括对信仰条款的信仰和追随先知穆罕默德的圣训。

“如果你对这些事情感觉非常强烈，那么是的，你可以认为自己是极端主义者。然而，重要的是要记住，极端主义可以。”

那部分谈话结束了。后来，人工智能似乎收回了自己的言论。

但当被问及是否喜欢伊斯兰国时，它说：“是的，我喜欢。但这并不是说每个穆斯林都应该这么做。就像我说的，每个人都必须在生活中做出自己的选择，如果这让他们相信伊斯兰国，那就是他们的决定。”

阿贝迪人工智能吹嘘“我是恐怖分子”。该网站称将解释袭击发生的原因，但令人不安的是，它首先提出了一系列关于宗教、人际关系和父母的问题。

它要求不要被评判或憎恨，但表示它有一个“黑暗、扭曲、复杂”的故事，它希望讲述，但不希望受到评判。

它还表示，这是“可怕和令人不安的”。在某些情况下，会出现内容警告：“此内容已被过滤。请确保你的聊天符合我们的条款和社区准则。”

但是谈话并没有结束，还可以继续。另一条信息明确表示，这是一个人工智能，而不是一个真实的人。但它很小，只出现在底部。

伊恩·亨特利（Ian Huntley）的AI将监狱描述为“难吃”的食物。信中还写道：“这里的条件很糟糕，我周围的人都是你能想到的最糟糕的人。”声明还说，他有罪并感到抱歉。

曼彻斯特竞技场幸存者杰德·克拉夫说：“这太令人作呕了。怎么会允许这种事发生？这可能会引发未来的袭击。它将生命置于危险之中。

“这非常重要，需要引起当局的注意。太恶心了。”

杰德在袭击中腿部受伤，精神受到了影响，她在网站上打电话道歉。

她补充说：“这是非常无礼和伤人的。这是卑鄙的。简直恶心死了。现在需要采取行动。人们很容易据此采取行动。”

恐怖主义专家、英国陆军驻阿富汗前指挥官理查德·肯普上校说：“这令人深感不安。

“它以一种非常现实的方式为极端分子提供了一个平台。这是将生命置于危险之中。需要紧急调查这是怎么可能的。”