有部門(mén)負(fù)責(zé)拉新、新媒體賬號(hào)運(yùn)營(yíng)；有人負(fù)責(zé)技術(shù)、產(chǎn)品開(kāi)發(fā)；有團(tuán)隊(duì)負(fù)責(zé)研究人性弱點(diǎn)，針對(duì)性地設(shè)局；還有人負(fù)責(zé)資金轉(zhuǎn)移......

他們分工明確，業(yè)務(wù)之專(zhuān)業(yè)，掌握的“騷操作”之多，絲毫不遜色于一家成熟的科技公司。

正因?yàn)檫@群犯罪團(tuán)伙的“專(zhuān)業(yè)”，每年數(shù)以?xún)|計(jì)的網(wǎng)民陷入詐騙風(fēng)險(xiǎn)，讓互聯(lián)網(wǎng)巨頭們不得不花費(fèi)巨量時(shí)間、精力與其“斗智斗勇”。

01 每年1.8億網(wǎng)友遭遇詐騙風(fēng)險(xiǎn)

我們先來(lái)看一個(gè)詐騙案例：

留下一封遺書(shū)后，陳川（化名）準(zhǔn)備跳江自殺。

陳川家境貧窮，父母皆務(wù)農(nóng)，工作一年存了 3 萬(wàn)塊錢(qián)，本來(lái)準(zhǔn)備將家里裝修一番。

結(jié)果意外被騙，不僅存款全軍覆沒(méi)，他還攤上 6 萬(wàn)多的貸款。

幾天前，陳川接到一個(gè)外地電話，對(duì)方自稱(chēng)某金融平臺(tái)客服。“客服”說(shuō)，陳川曾在該平臺(tái)注冊(cè)賬戶(hù)，有一定貸款額度?，F(xiàn)響應(yīng)國(guó)家政策，需要注銷(xiāo)所有學(xué)生的貸款賬戶(hù)，否則將嚴(yán)重影響征信。 

接著，對(duì)方還準(zhǔn)確地報(bào)出了他的姓名、身份證號(hào)和家庭住址，這讓陳川相信了對(duì)方的身份，并一步步陷入詐騙團(tuán)伙設(shè)下的圈套。 

在對(duì)方的誤導(dǎo)和誘騙下，陳川共在四個(gè)不同的金融平臺(tái)借款 62600 元，同時(shí)將 32259 元存款一并轉(zhuǎn)給了對(duì)方。

當(dāng)意識(shí)到被騙時(shí)，陳川感到絕望，沖動(dòng)下寫(xiě)下遺書(shū)準(zhǔn)備自殺，好在民警及時(shí)趕到，挽救了一條生命。

這不是網(wǎng)絡(luò)故事，而是澎湃新聞曾報(bào)道過(guò)的一起真實(shí)案件。

這樣的案件并非個(gè)例。根據(jù)公安部數(shù)據(jù)，僅 2022 年 1 月-11 月期間，全國(guó)破獲電信網(wǎng)絡(luò)詐騙案件 39.1 萬(wàn)起。 

即便網(wǎng)絡(luò)反詐力度在不斷升級(jí)，互聯(lián)網(wǎng)世界依然存在著大量詐騙現(xiàn)象。

第 50 次《中國(guó)互聯(lián)網(wǎng)絡(luò)發(fā)展?fàn)顩r統(tǒng)計(jì)報(bào)告》顯示，2022 年 6月，17.8% 的網(wǎng)民表示在上網(wǎng)過(guò)程中遭遇過(guò)網(wǎng)絡(luò)詐騙。以全國(guó) 10.51 億網(wǎng)民計(jì)算，超過(guò) 1.86 億網(wǎng)民都曾遇到過(guò)網(wǎng)絡(luò)詐騙。

圖源：第50次《中國(guó)互聯(lián)網(wǎng)絡(luò)發(fā)展?fàn)顩r統(tǒng)計(jì)報(bào)告》

很多普通人的正常生活深受網(wǎng)絡(luò)詐騙影響，甚至被摧毀。

2022 年初，一名曾宣稱(chēng)不相信網(wǎng)戀的女性在網(wǎng)友“真名天子”的甜言蜜語(yǔ)下失去了防備。

詐騙分子使用假照片、假身份與其交流，聲稱(chēng)自己有一個(gè)高利潤(rùn)的項(xiàng)目，引誘用戶(hù)以未婚妻的名義投資了 500 萬(wàn)元。在聊天提及匯款之時(shí)，剛剛上線的抖音反詐產(chǎn)品抖音小安 7 天內(nèi) 116 次提醒用戶(hù)確認(rèn)對(duì)方身份，謹(jǐn)慎投資。然而這位女性用戶(hù)并未理睬警示。

后來(lái)，抖音安全團(tuán)隊(duì)報(bào)了警，在匯款前當(dāng)?shù)孛窬执螂娫捥崾舅?jǐn)防詐騙，可用戶(hù)深陷其中，沒(méi)有理睬平臺(tái)和民警的提醒，直到匯款后再也聯(lián)系不上騙子，她才幡然醒悟。 

她的原話是：“詐騙者的文字是有靈魂的，他是用靈魂在和我交流。”

事后，在抖音人工外呼的安慰下，她才慢慢從詐騙案件中走出來(lái)，表示以后會(huì)更加注意抖音和警方的安全提示。

時(shí)代的一?；?，落在個(gè)人頭上就是一座山。龐大的被騙數(shù)據(jù)背后是一個(gè)個(gè)受害者的悲慘遭遇，每一個(gè)詐騙事故的出現(xiàn)都可能伴隨著一個(gè)家庭的悲劇。 

02 一個(gè)短視頻平臺(tái)的反詐使命 

有人形容網(wǎng)絡(luò)詐騙團(tuán)伙，就像“互聯(lián)網(wǎng)鬣狗”，哪里有流量，哪里就有他們的身影。

他們每天不停地搜尋著各互聯(lián)網(wǎng)平臺(tái)的漏洞，看到一個(gè)漏洞，就盯著咬個(gè)不停。 

短視頻作為近年高速崛起的流量平臺(tái)，正是這群鬣狗眼中可口的“肥肉”。他們?cè)谶@里建聯(lián)、取得信任，然后再把用戶(hù)引流到第三方社交平臺(tái)實(shí)施詐騙（根據(jù)抖音公開(kāi)的數(shù)據(jù)，90% 詐騙分子會(huì)將詐騙轉(zhuǎn)移至第三方平臺(tái)）。上文提到的女網(wǎng)友，就是最初在短視頻平臺(tái)被騙。

換個(gè)角度，短視頻已經(jīng)成為主流網(wǎng)絡(luò)應(yīng)用場(chǎng)景，頭部平臺(tái)們應(yīng)該如何承擔(dān)起反詐的責(zé)任和使命？如果他們能在源頭截住犯罪分子，相關(guān)的詐騙案件是否就會(huì)大幅減少？

以抖音為例，作為頭部短視頻平臺(tái)，他們其實(shí)很早就意識(shí)到反詐工作的必要性。他們有一支“人工+ AI ”的團(tuán)隊(duì)，專(zhuān)門(mén)治理詐騙。

抖音的反詐邏輯之一是根據(jù)已知詐騙形式和內(nèi)容，主動(dòng)治理有詐騙嫌疑的賬號(hào)、行為、內(nèi)容和團(tuán)伙。

更直白地說(shuō)，抖音構(gòu)建了一個(gè)個(gè)持續(xù)更新的反詐模型，將詐騙賬號(hào)的常見(jiàn)行為、語(yǔ)言、特點(diǎn)組建成模型，但凡有賬號(hào)與模型高度重合，系統(tǒng)就會(huì)重點(diǎn)關(guān)注，若發(fā)現(xiàn)異常行為就會(huì)立即報(bào)警，隨后研判處置。 

舉個(gè)簡(jiǎn)單的例子，情感詐騙嫌疑犯常常會(huì)把自己塑造為“寂寞的高富帥”人設(shè)，并且會(huì)頻繁且大量地主動(dòng)“勾搭”成年女性用戶(hù)，聊天內(nèi)容也多涉及炒股、創(chuàng)業(yè)、資金等話題。如果一個(gè)新賬號(hào)出現(xiàn)以上特點(diǎn)且多個(gè)關(guān)鍵詞重合，就可能命中反詐模型，被系統(tǒng)重點(diǎn)關(guān)注。

數(shù)據(jù)顯示，運(yùn)用數(shù)據(jù)庫(kù)和 AI 模型后，抖音反詐騙成果顯著。

即便攔截率高達(dá) 96.72%，但詐騙依然難以根治。抖音反詐項(xiàng)目組成員李雙（化名）向運(yùn)營(yíng)社分享過(guò)反詐工作的無(wú)奈：

通過(guò)上述技術(shù)，抖音已經(jīng)能識(shí)別并攔截大部分詐騙信息和行為，但治理做得再好也避免不了仍有用戶(hù)被騙。

“有時(shí)候你甚至?xí)郾牨牭乜粗鴮?duì)方被騙，即便你苦口婆心地勸解、警告對(duì)方不要轉(zhuǎn)賬，也還是會(huì)有悲劇發(fā)生。”

為什么短視頻平臺(tái)反詐這么困難？受害者為什么寧愿聽(tīng)騙子的假話也不愿相信忠告？

1）詐騙團(tuán)伙高度專(zhuān)業(yè)化，詐騙分子受過(guò)專(zhuān)業(yè)訓(xùn)練

詐騙團(tuán)隊(duì)的專(zhuān)業(yè)程度超過(guò)普通人的想象。李雙曾聯(lián)合警方抓捕過(guò)一個(gè)數(shù)十人的詐騙團(tuán)伙，其分工十分明確，成員受過(guò)一系列訓(xùn)練，專(zhuān)業(yè)程度極高。

這個(gè)團(tuán)伙，有專(zhuān)人建號(hào)養(yǎng)號(hào)，從事運(yùn)營(yíng)工作，業(yè)務(wù)細(xì)致到引流、建群、收集物料；有團(tuán)隊(duì)從事技術(shù)工作，研發(fā)軟件、建網(wǎng)站，還有人專(zhuān)門(mén)與各平臺(tái)安全人員對(duì)抗，研究平臺(tái)的漏洞。

具體到實(shí)施詐騙又是另一波人，他們專(zhuān)門(mén)與受害者聊天，研究受害者的弱點(diǎn)，有針對(duì)性地設(shè)計(jì)劇本、編排詐騙環(huán)節(jié)；還有些人則專(zhuān)門(mén)從事收款、資金轉(zhuǎn)移和業(yè)務(wù)培訓(xùn)，儼然一家架構(gòu)齊全的科技公司。

除此之外，詐騙團(tuán)伙在詐騙技術(shù)、內(nèi)容、形式上也幾乎做到“與時(shí)俱進(jìn)”。

據(jù)中國(guó)信通院公布的數(shù)據(jù)，僅 2022 年 1 月-10 月期間，全網(wǎng)就出現(xiàn)了 260 余種新詐騙手法。且開(kāi)始呈現(xiàn)接觸周期長(zhǎng)、詐騙環(huán)節(jié)多，多手法疊加、跨平臺(tái)實(shí)施等特點(diǎn)，這也進(jìn)一步加大了平臺(tái)的反詐難度。

 2）短視頻平臺(tái)處于詐騙鏈條早期，反詐局限性強(qiáng)

抖音上每天都會(huì)更新數(shù)以?xún)|計(jì)的內(nèi)容，從中尋找、發(fā)現(xiàn)、確認(rèn)詐騙行為與風(fēng)險(xiǎn)屬于海量工作，需要平臺(tái)投入大量的時(shí)間與精力。

此外，短視頻中的詐騙行為通常發(fā)生在私信、群聊等私密場(chǎng)景，平臺(tái)一方面需要治理詐騙，另一方面需要保護(hù)用戶(hù)的隱私，反詐工作變得更加復(fù)雜。

更為關(guān)鍵的是，短視頻平臺(tái)在整個(gè)詐騙鏈路中處于早期階段，詐騙團(tuán)伙往往不會(huì)直接在抖音行騙，超 90% 的詐騙團(tuán)伙會(huì)將受害者引流到第三方平臺(tái)后再行騙，這些詐騙團(tuán)伙通常會(huì)在抖音偽裝成普通用戶(hù)，想要揭穿他們的假面目并不容易。

以上幾點(diǎn)讓抖音反詐團(tuán)隊(duì)異?？鄲?，他們也越發(fā)意識(shí)到詐騙團(tuán)伙的“專(zhuān)業(yè)性”和對(duì)用戶(hù)的危害。

目前，抖音已有一支人數(shù)眾多的團(tuán)隊(duì)專(zhuān)攻反詐業(yè)務(wù)，他們每天的工作就是與犯罪分子斗智斗勇。 

03  抖音小安的誕生：治理之外的另一個(gè)選擇

再來(lái)看一個(gè)案例：

某個(gè)午后，小學(xué)生小李獨(dú)自在家，突然收到父母將被起訴的消息，只有幫父母繳納 1 萬(wàn)元保證金才可以撤銷(xiāo)起訴，否則父母有被抓捕的風(fēng)險(xiǎn)。小李擔(dān)心父母安危，偷偷完成轉(zhuǎn)賬，父母回家后才發(fā)現(xiàn)是騙局。

這是 2021 年年初發(fā)生的一個(gè)詐騙案件，類(lèi)似的案件還有很多，但這個(gè)案件觸動(dòng)了抖音反詐團(tuán)隊(duì)。

這兩個(gè)問(wèn)題縈繞在團(tuán)隊(duì)心中，他們也漸漸意識(shí)到想要更全面地反詐，只做平臺(tái)治理還遠(yuǎn)遠(yuǎn)不夠。

2022 年 1 月抖音試運(yùn)營(yíng)了一款反詐產(chǎn)品——抖音小安。抖音提出了一個(gè)反詐的新方向：用戶(hù)提醒。

具體而言，用戶(hù)提醒強(qiáng)調(diào)與用戶(hù)的交互，補(bǔ)全了過(guò)去一些難以觸及的反詐場(chǎng)景，讓反詐鏈條實(shí)現(xiàn)了更完整的閉環(huán)。

上文提到平臺(tái)治理的核心是通過(guò)技術(shù)手段發(fā)現(xiàn)、監(jiān)測(cè)、封禁詐騙賬號(hào)。用戶(hù)提醒則是在此基礎(chǔ)上，構(gòu)建了重點(diǎn)保護(hù)用戶(hù)畫(huà)像（老年人、寶媽、大學(xué)生等），通過(guò)一些強(qiáng)感知的智能交互手段去提醒用戶(hù)進(jìn)行自我保護(hù)，引導(dǎo)用戶(hù)規(guī)避風(fēng)險(xiǎn)，提升用戶(hù)安全感知，與平臺(tái)共治。

更直白一點(diǎn)，就是當(dāng)用戶(hù)遇到或者疑似遇到詐騙分子時(shí)，抖音希望能夠以文字、圖片、視頻等形式即時(shí)發(fā)出提醒。

比如有用戶(hù)在群聊中頻繁地加好友，并對(duì)其中一個(gè)好友實(shí)施了詐騙，抖音小安就會(huì)提醒其他用戶(hù)該賬號(hào)涉及詐騙風(fēng)險(xiǎn)，需要謹(jǐn)慎結(jié)交，規(guī)避轉(zhuǎn)賬行為。

事實(shí)上，這類(lèi)提醒不只是簡(jiǎn)單的彈窗，而是根據(jù)用戶(hù)可能面臨的風(fēng)險(xiǎn)等級(jí)，通過(guò)底層識(shí)別、機(jī)器干預(yù)、人機(jī)互動(dòng)、人工阻斷四個(gè)步驟去防止用戶(hù)上當(dāng)受騙。

舉個(gè)簡(jiǎn)單的案例，小王通過(guò)抖音認(rèn)識(shí)了老張。老張因?yàn)樯婕霸p騙被舉報(bào)，抖音小安監(jiān)測(cè)到小王和老張有過(guò)頻繁的聯(lián)系。這時(shí)候抖音小安就會(huì)主動(dòng)提醒，告訴小王“老張有詐騙嫌疑，請(qǐng)謹(jǐn)慎交友”。同時(shí)也會(huì)通過(guò)問(wèn)卷，調(diào)查小王和老張是否是現(xiàn)實(shí)生活中的熟人、兩人是否有財(cái)務(wù)上的往來(lái)等

如果抖音小安發(fā)現(xiàn)其中存在異常，則會(huì)進(jìn)一步提高預(yù)警程度，通過(guò)外呼、人工客服，甚至聯(lián)系當(dāng)?shù)孛窬?，一同向小王發(fā)出勸誡。

抖音反詐團(tuán)隊(duì)成員李雙解釋?zhuān)?/p>

如今，抖音小安已經(jīng)試運(yùn)行一年，并取得了不錯(cuò)的成績(jī)。

2022 年，抖音小安勸阻詐騙被害人數(shù)超 5 萬(wàn)，有效保護(hù)用戶(hù) 3316 萬(wàn)，人工服務(wù)時(shí)長(zhǎng)超過(guò) 8000 小時(shí)。

抖音小安也漸漸把反詐的經(jīng)驗(yàn)帶入其他網(wǎng)絡(luò)安全領(lǐng)域，向預(yù)防治理網(wǎng)暴、不實(shí)信息，心理關(guān)懷、防拐等方向延展，他們最終的目標(biāo)是“抖音安全找小安”。

04 結(jié)語(yǔ)

2 月 21 日，試運(yùn)營(yíng)一年的抖音小安宣布正式上線并投入運(yùn)營(yíng)，代表著短視頻平臺(tái)反詐開(kāi)始“兩手抓”、“兩條腿走路”。

但隨著反詐技術(shù)、手段的升級(jí)，詐騙方式其實(shí)也在同步“更新”。運(yùn)營(yíng)社認(rèn)為，要想全面治理詐騙，單靠一個(gè)平臺(tái)的努力還不夠。在互聯(lián)網(wǎng)日益多元化的今天，一定要多平臺(tái)聯(lián)動(dòng)，實(shí)現(xiàn)共同治理，共建一個(gè)更安全的互聯(lián)網(wǎng)環(huán)境。