有部門負(fù)責(zé)拉新、新媒體賬號(hào)運(yùn)營；有人負(fù)責(zé)技術(shù)、產(chǎn)品開發(fā)；有團(tuán)隊(duì)負(fù)責(zé)研究人性弱點(diǎn)，針對(duì)性地設(shè)局；還有人負(fù)責(zé)資金轉(zhuǎn)移......

他們分工明確，業(yè)務(wù)之專業(yè)，掌握的“騷操作”之多，絲毫不遜色于一家成熟的科技公司。

正因?yàn)檫@群犯罪團(tuán)伙的“專業(yè)”，每年數(shù)以億計(jì)的網(wǎng)民陷入詐騙風(fēng)險(xiǎn)，讓互聯(lián)網(wǎng)巨頭們不得不花費(fèi)巨量時(shí)間、精力與其“斗智斗勇”。

01 每年1.8億網(wǎng)友遭遇詐騙風(fēng)險(xiǎn)

我們先來看一個(gè)詐騙案例：

留下一封遺書后，陳川（化名）準(zhǔn)備跳江自殺。

陳川家境貧窮，父母皆務(wù)農(nóng)，工作一年存了 3 萬塊錢，本來準(zhǔn)備將家里裝修一番。

結(jié)果意外被騙，不僅存款全軍覆沒，他還攤上 6 萬多的貸款。

幾天前，陳川接到一個(gè)外地電話，對(duì)方自稱某金融平臺(tái)客服。“客服”說，陳川曾在該平臺(tái)注冊(cè)賬戶，有一定貸款額度?，F(xiàn)響應(yīng)國家政策，需要注銷所有學(xué)生的貸款賬戶，否則將嚴(yán)重影響征信。 

接著，對(duì)方還準(zhǔn)確地報(bào)出了他的姓名、身份證號(hào)和家庭住址，這讓陳川相信了對(duì)方的身份，并一步步陷入詐騙團(tuán)伙設(shè)下的圈套。 

在對(duì)方的誤導(dǎo)和誘騙下，陳川共在四個(gè)不同的金融平臺(tái)借款 62600 元，同時(shí)將 32259 元存款一并轉(zhuǎn)給了對(duì)方。

當(dāng)意識(shí)到被騙時(shí)，陳川感到絕望，沖動(dòng)下寫下遺書準(zhǔn)備自殺，好在民警及時(shí)趕到，挽救了一條生命。

這不是網(wǎng)絡(luò)故事，而是澎湃新聞曾報(bào)道過的一起真實(shí)案件。

這樣的案件并非個(gè)例。根據(jù)公安部數(shù)據(jù)，僅 2022 年 1 月-11 月期間，全國破獲電信網(wǎng)絡(luò)詐騙案件 39.1 萬起。 

即便網(wǎng)絡(luò)反詐力度在不斷升級(jí)，互聯(lián)網(wǎng)世界依然存在著大量詐騙現(xiàn)象。

第 50 次《中國互聯(lián)網(wǎng)絡(luò)發(fā)展?fàn)顩r統(tǒng)計(jì)報(bào)告》顯示，2022 年 6月，17.8% 的網(wǎng)民表示在上網(wǎng)過程中遭遇過網(wǎng)絡(luò)詐騙。以全國 10.51 億網(wǎng)民計(jì)算，超過 1.86 億網(wǎng)民都曾遇到過網(wǎng)絡(luò)詐騙。

圖源：第50次《中國互聯(lián)網(wǎng)絡(luò)發(fā)展?fàn)顩r統(tǒng)計(jì)報(bào)告》

很多普通人的正常生活深受網(wǎng)絡(luò)詐騙影響，甚至被摧毀。

2022 年初，一名曾宣稱不相信網(wǎng)戀的女性在網(wǎng)友“真名天子”的甜言蜜語下失去了防備。

詐騙分子使用假照片、假身份與其交流，聲稱自己有一個(gè)高利潤的項(xiàng)目，引誘用戶以未婚妻的名義投資了 500 萬元。在聊天提及匯款之時(shí)，剛剛上線的抖音反詐產(chǎn)品抖音小安 7 天內(nèi) 116 次提醒用戶確認(rèn)對(duì)方身份，謹(jǐn)慎投資。然而這位女性用戶并未理睬警示。

后來，抖音安全團(tuán)隊(duì)報(bào)了警，在匯款前當(dāng)?shù)孛窬执螂娫捥崾舅?jǐn)防詐騙，可用戶深陷其中，沒有理睬平臺(tái)和民警的提醒，直到匯款后再也聯(lián)系不上騙子，她才幡然醒悟。 

她的原話是：“詐騙者的文字是有靈魂的，他是用靈魂在和我交流。”

事后，在抖音人工外呼的安慰下，她才慢慢從詐騙案件中走出來，表示以后會(huì)更加注意抖音和警方的安全提示。

時(shí)代的一?；遥湓趥€(gè)人頭上就是一座山。龐大的被騙數(shù)據(jù)背后是一個(gè)個(gè)受害者的悲慘遭遇，每一個(gè)詐騙事故的出現(xiàn)都可能伴隨著一個(gè)家庭的悲劇。 

02 一個(gè)短視頻平臺(tái)的反詐使命 

有人形容網(wǎng)絡(luò)詐騙團(tuán)伙，就像“互聯(lián)網(wǎng)鬣狗”，哪里有流量，哪里就有他們的身影。

他們每天不停地搜尋著各互聯(lián)網(wǎng)平臺(tái)的漏洞，看到一個(gè)漏洞，就盯著咬個(gè)不停。 

短視頻作為近年高速崛起的流量平臺(tái)，正是這群鬣狗眼中可口的“肥肉”。他們?cè)谶@里建聯(lián)、取得信任，然后再把用戶引流到第三方社交平臺(tái)實(shí)施詐騙（根據(jù)抖音公開的數(shù)據(jù)，90% 詐騙分子會(huì)將詐騙轉(zhuǎn)移至第三方平臺(tái)）。上文提到的女網(wǎng)友，就是最初在短視頻平臺(tái)被騙。

換個(gè)角度，短視頻已經(jīng)成為主流網(wǎng)絡(luò)應(yīng)用場(chǎng)景，頭部平臺(tái)們應(yīng)該如何承擔(dān)起反詐的責(zé)任和使命？如果他們能在源頭截住犯罪分子，相關(guān)的詐騙案件是否就會(huì)大幅減少？

以抖音為例，作為頭部短視頻平臺(tái)，他們其實(shí)很早就意識(shí)到反詐工作的必要性。他們有一支“人工+ AI ”的團(tuán)隊(duì)，專門治理詐騙。

抖音的反詐邏輯之一是根據(jù)已知詐騙形式和內(nèi)容，主動(dòng)治理有詐騙嫌疑的賬號(hào)、行為、內(nèi)容和團(tuán)伙。

更直白地說，抖音構(gòu)建了一個(gè)個(gè)持續(xù)更新的反詐模型，將詐騙賬號(hào)的常見行為、語言、特點(diǎn)組建成模型，但凡有賬號(hào)與模型高度重合，系統(tǒng)就會(huì)重點(diǎn)關(guān)注，若發(fā)現(xiàn)異常行為就會(huì)立即報(bào)警，隨后研判處置。 

舉個(gè)簡(jiǎn)單的例子，情感詐騙嫌疑犯常常會(huì)把自己塑造為“寂寞的高富帥”人設(shè)，并且會(huì)頻繁且大量地主動(dòng)“勾搭”成年女性用戶，聊天內(nèi)容也多涉及炒股、創(chuàng)業(yè)、資金等話題。如果一個(gè)新賬號(hào)出現(xiàn)以上特點(diǎn)且多個(gè)關(guān)鍵詞重合，就可能命中反詐模型，被系統(tǒng)重點(diǎn)關(guān)注。

數(shù)據(jù)顯示，運(yùn)用數(shù)據(jù)庫和 AI 模型后，抖音反詐騙成果顯著。

即便攔截率高達(dá) 96.72%，但詐騙依然難以根治。抖音反詐項(xiàng)目組成員李雙（化名）向運(yùn)營社分享過反詐工作的無奈：

通過上述技術(shù)，抖音已經(jīng)能識(shí)別并攔截大部分詐騙信息和行為，但治理做得再好也避免不了仍有用戶被騙。

“有時(shí)候你甚至?xí)郾牨牭乜粗鴮?duì)方被騙，即便你苦口婆心地勸解、警告對(duì)方不要轉(zhuǎn)賬，也還是會(huì)有悲劇發(fā)生。”

為什么短視頻平臺(tái)反詐這么困難？受害者為什么寧愿聽騙子的假話也不愿相信忠告？

1）詐騙團(tuán)伙高度專業(yè)化，詐騙分子受過專業(yè)訓(xùn)練

詐騙團(tuán)隊(duì)的專業(yè)程度超過普通人的想象。李雙曾聯(lián)合警方抓捕過一個(gè)數(shù)十人的詐騙團(tuán)伙，其分工十分明確，成員受過一系列訓(xùn)練，專業(yè)程度極高。

這個(gè)團(tuán)伙，有專人建號(hào)養(yǎng)號(hào)，從事運(yùn)營工作，業(yè)務(wù)細(xì)致到引流、建群、收集物料；有團(tuán)隊(duì)從事技術(shù)工作，研發(fā)軟件、建網(wǎng)站，還有人專門與各平臺(tái)安全人員對(duì)抗，研究平臺(tái)的漏洞。

具體到實(shí)施詐騙又是另一波人，他們專門與受害者聊天，研究受害者的弱點(diǎn)，有針對(duì)性地設(shè)計(jì)劇本、編排詐騙環(huán)節(jié)；還有些人則專門從事收款、資金轉(zhuǎn)移和業(yè)務(wù)培訓(xùn)，儼然一家架構(gòu)齊全的科技公司。

除此之外，詐騙團(tuán)伙在詐騙技術(shù)、內(nèi)容、形式上也幾乎做到“與時(shí)俱進(jìn)”。

據(jù)中國信通院公布的數(shù)據(jù)，僅 2022 年 1 月-10 月期間，全網(wǎng)就出現(xiàn)了 260 余種新詐騙手法。且開始呈現(xiàn)接觸周期長(zhǎng)、詐騙環(huán)節(jié)多，多手法疊加、跨平臺(tái)實(shí)施等特點(diǎn)，這也進(jìn)一步加大了平臺(tái)的反詐難度。

 2）短視頻平臺(tái)處于詐騙鏈條早期，反詐局限性強(qiáng)

抖音上每天都會(huì)更新數(shù)以億計(jì)的內(nèi)容，從中尋找、發(fā)現(xiàn)、確認(rèn)詐騙行為與風(fēng)險(xiǎn)屬于海量工作，需要平臺(tái)投入大量的時(shí)間與精力。

此外，短視頻中的詐騙行為通常發(fā)生在私信、群聊等私密場(chǎng)景，平臺(tái)一方面需要治理詐騙，另一方面需要保護(hù)用戶的隱私，反詐工作變得更加復(fù)雜。

更為關(guān)鍵的是，短視頻平臺(tái)在整個(gè)詐騙鏈路中處于早期階段，詐騙團(tuán)伙往往不會(huì)直接在抖音行騙，超 90% 的詐騙團(tuán)伙會(huì)將受害者引流到第三方平臺(tái)后再行騙，這些詐騙團(tuán)伙通常會(huì)在抖音偽裝成普通用戶，想要揭穿他們的假面目并不容易。

以上幾點(diǎn)讓抖音反詐團(tuán)隊(duì)異?？鄲?，他們也越發(fā)意識(shí)到詐騙團(tuán)伙的“專業(yè)性”和對(duì)用戶的危害。

目前，抖音已有一支人數(shù)眾多的團(tuán)隊(duì)專攻反詐業(yè)務(wù)，他們每天的工作就是與犯罪分子斗智斗勇。 

03  抖音小安的誕生：治理之外的另一個(gè)選擇

再來看一個(gè)案例：

某個(gè)午后，小學(xué)生小李獨(dú)自在家，突然收到父母將被起訴的消息，只有幫父母繳納 1 萬元保證金才可以撤銷起訴，否則父母有被抓捕的風(fēng)險(xiǎn)。小李擔(dān)心父母安危，偷偷完成轉(zhuǎn)賬，父母回家后才發(fā)現(xiàn)是騙局。

這是 2021 年年初發(fā)生的一個(gè)詐騙案件，類似的案件還有很多，但這個(gè)案件觸動(dòng)了抖音反詐團(tuán)隊(duì)。

這兩個(gè)問題縈繞在團(tuán)隊(duì)心中，他們也漸漸意識(shí)到想要更全面地反詐，只做平臺(tái)治理還遠(yuǎn)遠(yuǎn)不夠。

2022 年 1 月抖音試運(yùn)營了一款反詐產(chǎn)品——抖音小安。抖音提出了一個(gè)反詐的新方向：用戶提醒。

具體而言，用戶提醒強(qiáng)調(diào)與用戶的交互，補(bǔ)全了過去一些難以觸及的反詐場(chǎng)景，讓反詐鏈條實(shí)現(xiàn)了更完整的閉環(huán)。

上文提到平臺(tái)治理的核心是通過技術(shù)手段發(fā)現(xiàn)、監(jiān)測(cè)、封禁詐騙賬號(hào)。用戶提醒則是在此基礎(chǔ)上，構(gòu)建了重點(diǎn)保護(hù)用戶畫像（老年人、寶媽、大學(xué)生等），通過一些強(qiáng)感知的智能交互手段去提醒用戶進(jìn)行自我保護(hù)，引導(dǎo)用戶規(guī)避風(fēng)險(xiǎn)，提升用戶安全感知，與平臺(tái)共治。

更直白一點(diǎn)，就是當(dāng)用戶遇到或者疑似遇到詐騙分子時(shí)，抖音希望能夠以文字、圖片、視頻等形式即時(shí)發(fā)出提醒。

比如有用戶在群聊中頻繁地加好友，并對(duì)其中一個(gè)好友實(shí)施了詐騙，抖音小安就會(huì)提醒其他用戶該賬號(hào)涉及詐騙風(fēng)險(xiǎn)，需要謹(jǐn)慎結(jié)交，規(guī)避轉(zhuǎn)賬行為。

事實(shí)上，這類提醒不只是簡(jiǎn)單的彈窗，而是根據(jù)用戶可能面臨的風(fēng)險(xiǎn)等級(jí)，通過底層識(shí)別、機(jī)器干預(yù)、人機(jī)互動(dòng)、人工阻斷四個(gè)步驟去防止用戶上當(dāng)受騙。

舉個(gè)簡(jiǎn)單的案例，小王通過抖音認(rèn)識(shí)了老張。老張因?yàn)樯婕霸p騙被舉報(bào)，抖音小安監(jiān)測(cè)到小王和老張有過頻繁的聯(lián)系。這時(shí)候抖音小安就會(huì)主動(dòng)提醒，告訴小王“老張有詐騙嫌疑，請(qǐng)謹(jǐn)慎交友”。同時(shí)也會(huì)通過問卷，調(diào)查小王和老張是否是現(xiàn)實(shí)生活中的熟人、兩人是否有財(cái)務(wù)上的往來等

如果抖音小安發(fā)現(xiàn)其中存在異常，則會(huì)進(jìn)一步提高預(yù)警程度，通過外呼、人工客服，甚至聯(lián)系當(dāng)?shù)孛窬?，一同向小王發(fā)出勸誡。

抖音反詐團(tuán)隊(duì)成員李雙解釋：

如今，抖音小安已經(jīng)試運(yùn)行一年，并取得了不錯(cuò)的成績(jī)。

2022 年，抖音小安勸阻詐騙被害人數(shù)超 5 萬，有效保護(hù)用戶 3316 萬，人工服務(wù)時(shí)長(zhǎng)超過 8000 小時(shí)。

抖音小安也漸漸把反詐的經(jīng)驗(yàn)帶入其他網(wǎng)絡(luò)安全領(lǐng)域，向預(yù)防治理網(wǎng)暴、不實(shí)信息，心理關(guān)懷、防拐等方向延展，他們最終的目標(biāo)是“抖音安全找小安”。

04 結(jié)語

2 月 21 日，試運(yùn)營一年的抖音小安宣布正式上線并投入運(yùn)營，代表著短視頻平臺(tái)反詐開始“兩手抓”、“兩條腿走路”。

但隨著反詐技術(shù)、手段的升級(jí)，詐騙方式其實(shí)也在同步“更新”。運(yùn)營社認(rèn)為，要想全面治理詐騙，單靠一個(gè)平臺(tái)的努力還不夠。在互聯(lián)網(wǎng)日益多元化的今天，一定要多平臺(tái)聯(lián)動(dòng)，實(shí)現(xiàn)共同治理，共建一個(gè)更安全的互聯(lián)網(wǎng)環(huán)境。