作者：库里，深潮 TechFlow OpenAI 这两天发了一份报告，内容是有人拿 ChatGPT 干坏事，被他们抓了。报告很长，列出了一大批 AI 滥用的案例。有俄罗斯人搞虚假宣传的，有疑似间谍搞社会工程学的，但我今天想聊的是其中一个案子：柬埔寨杀猪盘。杀猪盘不稀奇，柬埔寨园区的故事大家听过太多了。稀奇的是 AI 在里面的角色。在这个诈骗团伙里，ChatGPT 负责谈恋爱，负责翻译主管指令，负责每天写工作日报，负责给每一个受害者估价。杀猪盘里，内部术语叫 kill value，就是预估能从你身上榨出多少钱。一整条流水线下来，ChatGPT 可能是里面最忙的员工。OpenAI 给这个案子起了个代号，叫 Operation Date Bait （约会钓鱼）。流程是这样的。诈骗团伙先造了一个假的高端约会服务，名字叫 Klub Romantis，logo 用 ChatGPT 做的。然后在社交媒体上投付费广告，关键词选的是高尔夫、游艇、高档餐厅，专门瞄准印尼年轻男性。你点进广告，先跟一个 AI 聊天机器人对话。机器人扮性感前台，让你挑喜欢什么类型的女生，选完了给你一个 Telegram 链接，附带专属邀请码。聊到位了，接待员把你转给一个”导师”。导师开始让你做”任务”，每个任务要充钱，金额一次比一次大。买 VIP 卡、给”心仪女孩”投票、付酒店订金，名目多得很。最后一步，他们内部叫 kill。编一个理由，什么数据处理出错、什么验证押金，让你一次性转一大笔。OpenAI 在报告里放了一封诈骗团伙发给受害者的信，要求支付 2050 万印尼盾，折合大概 1.2 万美元，说付完还返 35%奖金。钱到账，Telegram 上骗子会把你拉黑，并给你备注已结案。OpenAI 一共发现了至少六家假律所。还有一个网站，直接仿冒了 FBI 的互联网犯罪投诉中心。页面上有个”提交投诉”按钮，你点一下，跳转到一个 Telegram 账号。到了 Telegram，”律师”开始跟你聊。话术是 ChatGPT 生成的，专门要求写成”美式英语”，语气模仿专业律师。他们跟你说，我们跟国际刑事法院有合作，追回资金之前不收费。但是要先付 15%的服务费激活账户，用加密货币付。他们还让你签保密协议。这份保密协议也是 ChatGPT 写的，目的是让你不要去找别人核实。FBI 后来专门为这事发了公开警告，说这个骗局主要针对老年人，利用的就是受害者急于追回损失的心理。看完这两个案子，我觉得在现在 AI 成为标配的环境下，最让人苦笑的地方在这里：第一次骗你的时候，你是一个目标。第二次骗你的时候，你是一个更好的目标，因为你已经证明过自己会上当了。最后，OpenAI 在报告里把诈骗流程总结成了三步。第一步叫 ping，冷触达，想办法让目标注意到你。第二步叫 zing，制造情绪，让你心动、兴奋或者害怕。第三步叫 sting，收割，把钱拿走。这个框架总结得挺好的，仔细看看，这三步哪一步是 AI 做不了的？以前搞杀猪盘，最大的成本是人。你得雇一屋子人坐在电脑前聊天，而且得会说目标的语言。柬埔寨园区早年招人，还挑英语好的，给的工资也高。现在看报告里提到的约会诈骗案，主管讲中文，员工讲印尼语，目标也是印尼人。三方语言不通，搁以前这活没法干。加一个 ChatGPT，全通了。语言只是其中一件事。报告里还有个细节，诈骗工人甚至问 ChatGPT 怎么接 OpenAI 的 API，想把聊天环节彻底自动化。也就是说，AI 不是让骗术变高明了，骗术还是那些骗术。AI 是让骗术变便宜了。现在按照 OpenAI 的说法，这个团伙可能同时在处理数百个诈骗案例。规模上去了，单个受害者分到的人力成本反而更低，那自然可以去骗更多单价更小的人。还有一个问题我觉得更值得想一想。OpenAI 能发现这些，是因为诈骗团伙用的是 ChatGPT，聊天记录存在 OpenAI 的服务器上。那些用本地部署开源模型的呢？这份报告能呈现的，可能只是整张拼图里 OpenAI 照得到的那一小块。照不到的地方有多大，谁也不知道。