诈骗、换脸、面部识别，一位刑警经历的AI犯罪（组图）

刘星辰是东北某市的一名警察。他发现，近两年来，利用AI技术进行犯罪的案件，已经影响普通民众的生活。即使远离一线城市，一些三、四线城市甚至县城的人们因为对这种科技手段疏于防范，成为了这类犯罪的受害者。受害者从家财万贯的老板，到儿女外出打拼的空巢老人，以及被虚假色情图片勒索盯上的女性，都有出现。

刘星辰说，如今AI犯罪受限于技术水平，目前尚未普遍。但考虑到这一技术发展的日新月异，防范AI技术参与的新型犯罪手法，成了他和同事工作中重点关注的领域之一。

以下是他的讲述。

AI诈骗瞄准空巢老人

我叫刘星辰，是东北某市的一名警察。2023年年底，我们就接触过有AI参与诈骗的事例。

当时，我们反诈部门的同事接警处理了一起和AI有关的诈骗的警情。报警的是我们当地一家银行的柜员。

当天，这位银行柜员接待了一位心急的老年人。老人特别着急地想要汇款。如今银行对于大额的汇款都会特别谨慎，于是柜员留了心眼，问老人发生了什么事。

老人说，他的孩子生病了，急着用钱，但银行卡被冻结了，希望老人打3万元到他发来的银行卡号里。银行职员一听，询问了老人知道的信息，帮老人查询了他孩子的银行卡账号，发现银行卡并未被冻结，于是提醒老人，可能是被骗了。

老人将信将疑，给柜员看了他的“孩子”发来的视频。视频很短，只有10秒钟左右，看起来像是拿着聊天软件现场录制的，一位青年人对着镜头说，自己生病了，急着用钱，但银行卡被冻结了，希望老人打3万元到他发来的银行卡号里。

老人说，视频里就是他的孩子本人。因为不会操作网络银行，他才着急忙慌地跑到附近的银行去汇款。

银行柜员一看，觉得视频明显不对劲。里面的人物面部动作的时候缺乏应有的折叠，肌肉的拉伸也不正常。于是，柜员给我们专门的反诈部门打电话，我们派了人去。

看过那则视频的同事回来跟我们说，那个视频，实际上很容易看出来是用AI替换了人脸。

老人一方面可能眼部功能不好，一方面也因为爱子心切，情急之下没能发现视频的破绽。幸好他不会操作网络银行，到银行求助。一番调查下来，我们确定这是一起诈骗案。

这则短短十秒小成本制作的AI换脸视频，差点骗走了老人家的积蓄。

如今，我们总是在新闻里看到AI科技突飞猛进，看起来这是很高大上的事物，老百姓们会觉得这样的技术离我们很远。但是在我们的工作中，这两年也会发现，和AI相关的犯罪，其实已经在不知不觉中，悄悄渗透到了小城市、小县城的平民百姓的日常生活之中。

在前面那起遭到及时制止的犯罪里，骗子利用了老人不擅长使用电子产品的特性。老人不会使用微信备注，所以，骗子把微信的头像和昵称改成和他孩子一样之后，就成功假冒了老人孩子，老人并没有注意到这点。

我们去追溯，老人是什么时候，通过什么样的方式添加了犯罪分子的微信。结果发现，对方很可能是一个连锁的犯罪产业链。平时，这些组织的上游可能会以组织老人开会学习养生知识等名义，发点鸡蛋、米面粮油为借口笼络老人，然后组织他们去泡温泉、去玩之类的。上课的时候，有些组织会给老人们发二维码，让老人扫码进群后，有一个所谓的客服，会在群里挨个添加老人的微信。说实话，他们如果通过群聊而非面对面、扫一扫添加好友，也会给后续侦办案件增加难度。

这些犯罪分子，应该也是先通过聊天等手段得知老人的各种信息后，做的这么一个东西。视频也不是那种特别复杂的AI换脸，只是把一小段视频把人的脸换了一个面部，人物稍微动作，也就露出破绽了。

在小城市或者县城，空巢老人很容易成为这类AI犯罪的受害人。AI参与对老人的诈骗，我们目前知道的很多是已经被拦截下来的。老人被骗钱有两种情况。一种是被及时发现、拦截，结果还算好的。有的案子当时没有拦截下来，至少老人知道是骗局了，后续不会再赚钱造成进一步损失。

另外，也有的老人发现自己被骗后不会去报警，我们知道的时候，是因为其它案件中，我们做资金穿透，发现犯罪分子还对其他受害者进行诈骗，或者外省市发现电信诈骗后反馈给我们，我们才发现的。

有时候，我们找上门去，老人都不承认。再上火，再后悔，有的老人也不会往外说、不会寻求帮助。

这些年，针对各类人群的诈骗确实挺厉害的。去年，我们这边全市发生了5、6期这种模拟人脸的诈骗犯罪。我们分析，犯罪分子能使用AI影像去诈骗，是因为他们的行业现在比较卷，所以他们有的人觉得需要向新的套路。

其实现在诈骗主流还是最简单的方法——投资返利。肯定会有鱼上钩。一天打1000个电话，1万个电话，有一个人上当他们就够了。

这两年诈骗的案件很多，用AI诈骗在里面算技术含量比较高的，更多犯罪分子还是会使用以往打电话的诈骗方式。比例上来说，目前遇到AI参与其中的诈骗案不算多，还没变成主流，但是其苗头也应该引起注意。

我们也十分警惕，因为也许就下个月，下周或者明天，犯罪分子就发展出了用AI犯罪的高明手法。

发生相关诈骗之后，对应的社区也专门做了宣传，主要就是提醒老人家们，现在已经有这种事情发生了。这样，如果老人家们遇到类似的事情，知道它是有犯罪可能的，就增加了防范于未然的可能性。

利用AI技术闯过面部识别

随着AI技术的发展，AI技术帮助犯罪的能力肯定会不断增强。你比如说，人脸识别。

虽然目前人脸识别咱们看有它拙劣的一面。但是细想一下，拿着这个东西对着手机，人脸识别，眨眨眼睛，张张嘴，它就能解开手机，打开手机银行操作资金。一旦能做到这点，对受害人来说就是无法挽回的损失。

相关的案例，其实已经有了。

去年警校同学聚会，有一个江浙地区的同学就跟我们说了一个他遇到的案子。当时，他们那一位老板晚上在KTV玩耍过后，发现手机丢失了。

一开始，老板没当回事。结果没过一会儿，他就发现有人开始动他银行卡里的资金。犯罪分子把他的钱转走后，就把手机丢掉了。

同学说，这个犯罪过程中，犯罪分子就是利用AI技术，躲过了手机银行人脸识别这一关。银行卡识别的流程方便快捷，用户眨眨眼睛，张张嘴，左右转头，通过识别后，就过关了。犯罪分子需要提前用AI制作一份可以用于完成人脸识别的视频，然后偷走目标手机，而后通过面部识别解锁手机，进行银行转账。

这种犯罪实施起来好像很简单，但是另一方面，我们警方也很好锁定犯罪嫌疑人。因为你要制作受害者的面部识别资料，首先得要准备好多角度、数量足够多的受害者面部相片。同时，偷走手机也要有接触受害者的机会。一般来说，满足相关条件的人选一排查，锁定的范围就很小了。一般来说，这类犯罪查到最后很容易发现是熟人作案。

这起案件发生后，警方跟银行确定情况。银行方面提供了线索，说账户被动前，有人拿手机做了人脸识别。警方一听，手机不在身边，还是能做人脸识别，那肯定是通过面部合成技术。

他们请受害人那位老板回忆，身边有没有人有条件接触相关的东西。老板想到了他的一个债主。后来警方结合转账后手机丢掉前的定位，案发第二天中午，就抓到了犯罪嫌疑人。

听我同学说，最终犯罪分子定的盗窃罪，送进了监狱。具体的后续，我们当时没有细问，因为我们之间更关注的，当时是这种新型犯罪的方式本身。听到同学说，他们发现犯罪分子可以通过AI来解锁手机和银行卡，我们就觉得很厉害。犯罪分子是怎么做的，它能侵权到什么样的程度？知道得更多，对于我们日常工作也更有用。

警方调查后发现，它实际上是一件民间资金纠纷导致的犯罪。那个受害者老板欠钱，对方要不到，才大费周章谋划了这么一个局。后续他们能不能把被欠的钱要回来，我们就不得而知了。

人脸识别，包括虹膜识别，我会认为挺危险的，它们都有被解锁的事例发生。根据我从警这些年的经历和见闻，指纹是比较稳的，再一个就是物理锁。物理锁中最稳的是四面锁，那种特别奇怪的，在锁具店可能都配不出来钥匙的那种，几乎没有出现过盗窃的例子。

人脸识别和虹膜识别，都有过被打开的案例。可以说，如果AI把人使用各种精深科技这件事变得更加简单，犯罪成本就会更低。目前的情况，它还需要再发展发展，还没达到太多能够应用于犯罪上的科技。暂时，我感觉它在犯罪领域上还不是特别强，因为它还不能够大范围铺开，不过值得警惕。

AI犯罪潜在的威胁

去年在国际社会上，利用AI Deepfake技术合成色情影像侵权的案件闹得人心惶惶。我的新书里，我写过一篇描述犯罪分子用AI合成色情影像，用来勒索钱财的案例。

在那起案件中，犯罪分子潜藏在受害女性的工作生活中，通过偷拍的方式获得了用AI制造虚假情色视频所需的相片。而后，犯罪分子把受害女性的面貌用AI技术制作成了情色视频，借此勒索女受害人。最终在事情败露后被抓获。

其实，利用影像合成色情图片拿去敲诈勒索，最早10年前就有这种案例。

这种诈骗即便是发展到现在，合成的条件再怎么逼真，套路也是一样的。

在这些案件中，受害者被“架”了上去。有的照片技术不高，一眼假，受害人也知道是假的。但是犯罪分子就是为了恶心受害人，用这种方式达到威慑力。他们要的钱财也不多，对受害人来说不伤筋动骨，让你花钱消灾。

我们的理解，AI本身有很强的学习功能。这样的特性，可以让很多骗子轻而易举地进入一些知识门槛比较高的领域。你比如说合同诈骗。进行诈骗的人，要对特定的行业有一定的了解，包括这个行业的报价和行业均价对比什么的，一些合同的细枝末节，不了解的人也很容易露出马脚。所以，一个骗子可以诈骗的范围特别窄，特定行业里诈骗的人也比较有限。

以往，可能犯罪分子会找顾问来做诈骗，甚至为了一次诈骗包装出一家皮包公司，这样的情况，无论是成功或者被识破，行业里出现合同诈骗的消息，也会立刻传开。前期付出的成本很高，所以这种诈骗者过去一直没有怎么流行起来。

那么未来，有没有可能一旦AI流行起来，它可能会取代原来犯罪集团里顾问的角色，又或者犯罪分子可以利用AI技术来进行合同造假？这是我们需要防范的