杰斯·菲利普斯誓言打击人工智能虐童行为——“令人震惊的是，这并不违法”

一位部长警告说，在保护儿童免受病态网络掠夺者侵害的斗争中，英国正处于“危险的轨道”上。

周日，英国成为世界上第一个宣布严厉法律的国家，以打击人工智能生成的儿童性虐待材料的卑鄙交易。保卫部长杰斯·菲利普斯告诉《镜报》，尽管警方呼吁采取行动，但多年来收效甚微，这让她感到“震惊”。

菲利普斯女士描述了这对受害者的痛苦影响，他们发现自己小时候遭受的虐待与恋童癖者分享以赚钱。她说，来自北爱尔兰的亚历山大·麦卡特尼的案件表明，采取行动的紧迫性。麦卡特尼的病态网络虐待导致12岁的西马伦·托马斯在美国自杀。

“这是它对现实世界的影响，”她说。这位内政部部长继续说道：“我们正处于一个危险的轨道上，针对儿童的性犯罪正在增长。”

慈善机构互联网观察基金会（IWF）发布的令人震惊的新数据显示，与前一年相比，2024年人工智能生成的儿童性虐待图像案件数量增加了380%。这些助长了对儿童性虐待的新浪潮。

新法律将禁止旨在生成儿童性虐待材料（CSAM）的人工智能工具。被定罪者将面临最高5年的监禁，这在世界上尚属首次。

拥有人工智能“恋童癖手册”——其中概述了如何利用科技来虐待青少年——将面临最高三年的监禁。同时，一项新的犯罪将针对那些运营网站的罪犯，这些网站让恋童癖者可以分享材料并获得建议。

被定罪者将被监禁长达10年。除此之外，边境部队官员将被赋予新的权力来解锁手机并扫描手机上的不良内容。

菲利普斯女士说：“我很震惊，为什么没有更多的人关注这个问题。我认为你的读者也会感到震惊，因为这些事情本来就不违法。”

警方破获了一些令人痛心的案例，其中人工智能工具被用来将无害的儿童照片（通常由其家人分享）变成假的性图片。这可能包括把他们的脸放在现实生活中对其他孩子的性虐待上，然后这些孩子就会面临重温他们的苦难的创伤。

菲利普斯女士加入了警方的突袭行动，逮捕了涉嫌在网上与儿童联系的人（Image: PA)

英国内政部表示，其中一些照片栩栩如生，甚至被当作照片对待。去年，IWF的分析师在一个暗网网站上发现了3512张人工智能CSAM图像。

与2023年相比，A类（最严重的）材料的数量增加了10%。该慈善机构发现，报告显示人工智能产生的CSAM增加了380%，2024年确认的报告为245份，而2023年为51份。

官员们表示，每份报告可能包含数千张图片。该慈善机构以奥利维亚（Olivia，化名）为例，这个小女孩从三岁起就遭受了多年可怕的性虐待。多年来，人们一直在分享她的折磨视频。

IWF表示，那些分享或付费观看这些内容的人加剧了她的痛苦。菲利普斯女士说：“我曾和一些女性交谈过，她们的虐待儿童的照片——这是发生在她们身上最糟糕的事情——被一遍又一遍地分享，超过一百万次。

“当你听到这些故事时，你就会明白。这是发生在他们身上的最糟糕的事情，他们变成了为人们赚钱的东西，这鼓励并可能导致进一步的虐待儿童。”

英国内政大臣伊维特·库珀在宣布此次打击行动时说：“我们知道，病态的性侵犯者在网上的活动往往会导致他们亲自实施最可怕的虐待。”她承诺政府“将毫不犹豫地采取行动”。

菲利普斯女士说：“我认为我们认为，因为它是人工智能或图像，或者它是假的图像，所以它不会对现实世界产生影响，不会导致现实生活中的儿童性虐待，或者它不是基于虐待儿童的图像。”

她说，家长们需要明白，他们在社交媒体上分享孩子的照片可能会被用来制作这种卑鄙的材料。在孩子过生日的时候把他们吹蜡烛的照片发到Instagram上是很正常的，”她说。

“但这些图像可以被用来制作虐待儿童的图像。人们需要真正理解这在现实世界中的升级意味着什么。”

本周，菲利普斯女士与赫特福德郡警方一起突袭了一名涉嫌在网上与儿童联系的男子的家。

她还参观了警察总部，那里的警犬被训练用来探测隐藏的数字设备，比如小存储卡和手机。

菲利普斯女士指责托利党在威胁加剧时“玩忽职守”。她说：“我们正在采取的措施之一是能够根据情报在边境阻止已知的性犯罪者，并查看他们手机上的图像和东西。

“在我上任的第二天，负责这项工作的官员来找我，说‘我们没有这个权力’。我真的很震惊。他告诉我他一直想把它塞进比尔……政府一直拒绝将其纳入法案。”

菲利普斯女士说，来自阿马郡的麦卡特尼令人作呕的案例凸显了采取行动的必要性。去年，这名26岁的男子因误杀和网络性虐待被判入狱至少20年，其中包括50多项勒索指控。

她说：“利用假照片让女孩和男孩在网上做事情，结果是一名英国肇事者导致一名美国女孩开枪自杀，这就是这件事对现实世界的影响。”

菲利普斯女士表示，政府正在抓住第一个机会立法，但她说：“我很震惊，为什么没有更快地采取更多措施。”“总要有人做第一。

“我感到自豪的是，这是工党政府第一次有机会就此立法，我们抓住了这个机会。”她接着说：“毫无疑问，人工智能在提供机会的同时也带来了风险和伤害，这两件事总是要平衡的。

“我们即将发现，这对我们有多好，对我们有多坏。”这些新法律受到了活动人士的欢迎，预计将于春季被纳入政府的《犯罪和警务法案》。

IWF临时行政总裁Derek Ray-Hill说：“我们一直呼吁加强相关法律，很高兴政府采纳了我们的建议。”

“这些措施将对网络安全产生具体影响。人工智能图像与滥用照片难以区分的惊人速度表明，立法需要跟上新技术的步伐。

“过去遭受性虐待的儿童现在再次成为受害者，他们被虐待的图像被商品化以训练人工智能模型。这是一个噩梦般的场景，现在任何一个孩子都可能成为受害者，只要点击几下，就可以看到他们被性侵的逼真画面。”