有部门负责拉新、新媒体账号运营；有人负责技术、产品开发；有团队负责研究人性弱点，针对性地设局；还有人负责资金转移......

他们分工明确，业务之专业，掌握的“骚操作”之多，丝毫不逊色于一家成熟的科技公司。

正因为这群犯罪团伙的“专业”，每年数以亿计的网民陷入诈骗风险，让互联网巨头们不得不花费巨量时间、精力与其“斗智斗勇”。

01 每年1.8亿网友遭遇诈骗风险

我们先来看一个诈骗案例：

留下一封遗书后，陈川（化名）准备跳江自杀。

陈川家境贫穷，父母皆务农，工作一年存了 3 万块钱，本来准备将家里装修一番。

结果意外被骗，不仅存款全军覆没，他还摊上 6 万多的贷款。

几天前，陈川接到一个外地电话，对方自称某金融平台客服。“客服”说，陈川曾在该平台注册账户，有一定贷款额度。现响应国家政策，需要注销所有学生的贷款账户，否则将严重影响征信。 

接着，对方还准确地报出了他的姓名、身份证号和家庭住址，这让陈川相信了对方的身份，并一步步陷入诈骗团伙设下的圈套。 

在对方的误导和诱骗下，陈川共在四个不同的金融平台借款 62600 元，同时将 32259 元存款一并转给了对方。

当意识到被骗时，陈川感到绝望，冲动下写下遗书准备自杀，好在民警及时赶到，挽救了一条生命。

这不是网络故事，而是澎湃新闻曾报道过的一起真实案件。

这样的案件并非个例。根据公安部数据，仅 2022 年 1 月-11 月期间，全国破获电信网络诈骗案件 39.1 万起。 

即便网络反诈力度在不断升级，互联网世界依然存在着大量诈骗现象。

第 50 次《中国互联网络发展状况统计报告》显示，2022 年 6月，17.8% 的网民表示在上网过程中遭遇过网络诈骗。以全国 10.51 亿网民计算，超过 1.86 亿网民都曾遇到过网络诈骗。

图源：第50次《中国互联网络发展状况统计报告》

很多普通人的正常生活深受网络诈骗影响，甚至被摧毁。

2022 年初，一名曾宣称不相信网恋的女性在网友“真名天子”的甜言蜜语下失去了防备。

诈骗分子使用假照片、假身份与其交流，声称自己有一个高利润的项目，引诱用户以未婚妻的名义投资了 500 万元。在聊天提及汇款之时，刚刚上线的抖音反诈产品抖音小安 7 天内 116 次提醒用户确认对方身份，谨慎投资。然而这位女性用户并未理睬警示。

后来，抖音安全团队报了警，在汇款前当地民警又打电话提示她谨防诈骗，可用户深陷其中，没有理睬平台和民警的提醒，直到汇款后再也联系不上骗子，她才幡然醒悟。 

她的原话是：“诈骗者的文字是有灵魂的，他是用灵魂在和我交流。”

事后，在抖音人工外呼的安慰下，她才慢慢从诈骗案件中走出来，表示以后会更加注意抖音和警方的安全提示。

时代的一粒灰，落在个人头上就是一座山。庞大的被骗数据背后是一个个受害者的悲惨遭遇，每一个诈骗事故的出现都可能伴随着一个家庭的悲剧。 

02 一个短视频平台的反诈使命 

有人形容网络诈骗团伙，就像“互联网鬣狗”，哪里有流量，哪里就有他们的身影。

他们每天不停地搜寻着各互联网平台的漏洞，看到一个漏洞，就盯着咬个不停。 

短视频作为近年高速崛起的流量平台，正是这群鬣狗眼中可口的“肥肉”。他们在这里建联、取得信任，然后再把用户引流到第三方社交平台实施诈骗（根据抖音公开的数据，90% 诈骗分子会将诈骗转移至第三方平台）。上文提到的女网友，就是最初在短视频平台被骗。

换个角度，短视频已经成为主流网络应用场景，头部平台们应该如何承担起反诈的责任和使命？如果他们能在源头截住犯罪分子，相关的诈骗案件是否就会大幅减少？

以抖音为例，作为头部短视频平台，他们其实很早就意识到反诈工作的必要性。他们有一支“人工+ AI ”的团队，专门治理诈骗。

抖音的反诈逻辑之一是根据已知诈骗形式和内容，主动治理有诈骗嫌疑的账号、行为、内容和团伙。

更直白地说，抖音构建了一个个持续更新的反诈模型，将诈骗账号的常见行为、语言、特点组建成模型，但凡有账号与模型高度重合，系统就会重点关注，若发现异常行为就会立即报警，随后研判处置。 

举个简单的例子，情感诈骗嫌疑犯常常会把自己塑造为“寂寞的高富帅”人设，并且会频繁且大量地主动“勾搭”成年女性用户，聊天内容也多涉及炒股、创业、资金等话题。如果一个新账号出现以上特点且多个关键词重合，就可能命中反诈模型，被系统重点关注。

数据显示，运用数据库和 AI 模型后，抖音反诈骗成果显著。

即便拦截率高达 96.72%，但诈骗依然难以根治。抖音反诈项目组成员李双（化名）向运营社分享过反诈工作的无奈：

通过上述技术，抖音已经能识别并拦截大部分诈骗信息和行为，但治理做得再好也避免不了仍有用户被骗。

“有时候你甚至会眼睁睁地看着对方被骗，即便你苦口婆心地劝解、警告对方不要转账，也还是会有悲剧发生。”

为什么短视频平台反诈这么困难？受害者为什么宁愿听骗子的假话也不愿相信忠告？

1）诈骗团伙高度专业化，诈骗分子受过专业训练

诈骗团队的专业程度超过普通人的想象。李双曾联合警方抓捕过一个数十人的诈骗团伙，其分工十分明确，成员受过一系列训练，专业程度极高。

这个团伙，有专人建号养号，从事运营工作，业务细致到引流、建群、收集物料；有团队从事技术工作，研发软件、建网站，还有人专门与各平台安全人员对抗，研究平台的漏洞。

具体到实施诈骗又是另一波人，他们专门与受害者聊天，研究受害者的弱点，有针对性地设计剧本、编排诈骗环节；还有些人则专门从事收款、资金转移和业务培训，俨然一家架构齐全的科技公司。

除此之外，诈骗团伙在诈骗技术、内容、形式上也几乎做到“与时俱进”。

据中国信通院公布的数据，仅 2022 年 1 月-10 月期间，全网就出现了 260 余种新诈骗手法。且开始呈现接触周期长、诈骗环节多，多手法叠加、跨平台实施等特点，这也进一步加大了平台的反诈难度。

 2）短视频平台处于诈骗链条早期，反诈局限性强

抖音上每天都会更新数以亿计的内容，从中寻找、发现、确认诈骗行为与风险属于海量工作，需要平台投入大量的时间与精力。

此外，短视频中的诈骗行为通常发生在私信、群聊等私密场景，平台一方面需要治理诈骗，另一方面需要保护用户的隐私，反诈工作变得更加复杂。

更为关键的是，短视频平台在整个诈骗链路中处于早期阶段，诈骗团伙往往不会直接在抖音行骗，超 90% 的诈骗团伙会将受害者引流到第三方平台后再行骗，这些诈骗团伙通常会在抖音伪装成普通用户，想要揭穿他们的假面目并不容易。

以上几点让抖音反诈团队异常苦恼，他们也越发意识到诈骗团伙的“专业性”和对用户的危害。

目前，抖音已有一支人数众多的团队专攻反诈业务，他们每天的工作就是与犯罪分子斗智斗勇。 

03  抖音小安的诞生：治理之外的另一个选择

再来看一个案例：

某个午后，小学生小李独自在家，突然收到父母将被起诉的消息，只有帮父母缴纳 1 万元保证金才可以撤销起诉，否则父母有被抓捕的风险。小李担心父母安危，偷偷完成转账，父母回家后才发现是骗局。

这是 2021 年年初发生的一个诈骗案件，类似的案件还有很多，但这个案件触动了抖音反诈团队。

这两个问题萦绕在团队心中，他们也渐渐意识到想要更全面地反诈，只做平台治理还远远不够。

2022 年 1 月抖音试运营了一款反诈产品——抖音小安。抖音提出了一个反诈的新方向：用户提醒。

具体而言，用户提醒强调与用户的交互，补全了过去一些难以触及的反诈场景，让反诈链条实现了更完整的闭环。

上文提到平台治理的核心是通过技术手段发现、监测、封禁诈骗账号。用户提醒则是在此基础上，构建了重点保护用户画像（老年人、宝妈、大学生等），通过一些强感知的智能交互手段去提醒用户进行自我保护，引导用户规避风险，提升用户安全感知，与平台共治。

更直白一点，就是当用户遇到或者疑似遇到诈骗分子时，抖音希望能够以文字、图片、视频等形式即时发出提醒。

比如有用户在群聊中频繁地加好友，并对其中一个好友实施了诈骗，抖音小安就会提醒其他用户该账号涉及诈骗风险，需要谨慎结交，规避转账行为。

事实上，这类提醒不只是简单的弹窗，而是根据用户可能面临的风险等级，通过底层识别、机器干预、人机互动、人工阻断四个步骤去防止用户上当受骗。

举个简单的案例，小王通过抖音认识了老张。老张因为涉及诈骗被举报，抖音小安监测到小王和老张有过频繁的联系。这时候抖音小安就会主动提醒，告诉小王“老张有诈骗嫌疑，请谨慎交友”。同时也会通过问卷，调查小王和老张是否是现实生活中的熟人、两人是否有财务上的往来等

如果抖音小安发现其中存在异常，则会进一步提高预警程度，通过外呼、人工客服，甚至联系当地民警，一同向小王发出劝诫。

抖音反诈团队成员李双解释：

如今，抖音小安已经试运行一年，并取得了不错的成绩。

2022 年，抖音小安劝阻诈骗被害人数超 5 万，有效保护用户 3316 万，人工服务时长超过 8000 小时。

抖音小安也渐渐把反诈的经验带入其他网络安全领域，向预防治理网暴、不实信息，心理关怀、防拐等方向延展，他们最终的目标是“抖音安全找小安”。

04 结语

2 月 21 日，试运营一年的抖音小安宣布正式上线并投入运营，代表着短视频平台反诈开始“两手抓”、“两条腿走路”。

但随着反诈技术、手段的升级，诈骗方式其实也在同步“更新”。运营社认为，要想全面治理诈骗，单靠一个平台的努力还不够。在互联网日益多元化的今天，一定要多平台联动，实现共同治理，共建一个更安全的互联网环境。