很可惜 T 。T 您現(xiàn)在還不是作者身份,不能自主發(fā)稿哦~
如有投稿需求,請把文章發(fā)送到郵箱tougao@appcpx.com,一經(jīng)錄用會有專人和您聯(lián)系
咨詢?nèi)绾纬蔀榇河鹱髡哒埪?lián)系:鳥哥筆記小羽毛(ngbjxym)
作者|小瑪
上篇文章分享了搭建風(fēng)控體系在調(diào)研評估和埋點(diǎn)接入時所踩過的坑,這篇將繼續(xù)將筆者之前在搭建過程中踩過的坑分享給大家。
風(fēng)控流程方案設(shè)計會牽扯到多方系統(tǒng),好的設(shè)計既考慮策略的優(yōu)、簡、易,同時能兼顧于各系統(tǒng)的耦合,也是風(fēng)控的重要環(huán)節(jié)之一,在設(shè)計過程中,須清楚如下兩點(diǎn):
整個風(fēng)控體系搭建的方向是針對業(yè)務(wù)關(guān)注的某類或者某幾類風(fēng)險,在搭建過程中一方面需要從黑產(chǎn)情報中獲知其目前掌握的攻擊技術(shù)、作案手段以及工具資源,另一方面需要掌握現(xiàn)有業(yè)務(wù)系統(tǒng)所能支撐的資源情況,比如運(yùn)營資源、數(shù)據(jù)資源、處置資源等等。筆者之前參與的一個風(fēng)控設(shè)計項(xiàng)目因?yàn)闆]有深入了解業(yè)務(wù)側(cè)的實(shí)際資源情況,導(dǎo)致交稿方案中的名單落地因?yàn)闃I(yè)務(wù)方資源跟不上而被推翻。
每一個細(xì)節(jié)都務(wù)必與業(yè)務(wù)側(cè)以及開發(fā)側(cè)確認(rèn)!每一個細(xì)節(jié)都務(wù)必與業(yè)務(wù)側(cè)以及開發(fā)側(cè)確認(rèn)!每一個細(xì)節(jié)都務(wù)必與業(yè)務(wù)側(cè)以及開發(fā)側(cè)確認(rèn)!因?yàn)楣P者花費(fèi)最多時間的就在這個環(huán)節(jié),所以重要的事情說三遍。一個好的風(fēng)控體系可以理解為一個資源整合優(yōu)化的過程:全量的接入數(shù)據(jù),經(jīng)過復(fù)雜運(yùn)算后,通過與各個系統(tǒng)間的耦合,將壞數(shù)據(jù)“篩選”出來。每一步都是環(huán)環(huán)相扣,承前啟后的,所以設(shè)計的時候要考慮好這一步與下一步的關(guān)聯(lián)以及對全局的影響。筆者曾經(jīng)在一個風(fēng)控項(xiàng)目中在業(yè)務(wù)響應(yīng)側(cè)就出現(xiàn)過一個問題,由于沒有過細(xì)考慮過某些維度字段的實(shí)際落地細(xì)節(jié)問題,導(dǎo)致開發(fā)在接入的過程中發(fā)現(xiàn)由于業(yè)務(wù)前端本身對接系統(tǒng)太多,無法采集到這個字段,最終導(dǎo)致該字段無法落地到名單標(biāo)簽中,最終導(dǎo)致閉環(huán)系統(tǒng)里里缺了這個字段,后面為了解決這個事情讓項(xiàng)目耽誤了一段時間。
在這個環(huán)節(jié),業(yè)務(wù)方的開發(fā)人員已經(jīng)完成基本的數(shù)據(jù)采集以及接口開發(fā)工作,后面就進(jìn)入聯(lián)調(diào)校驗(yàn)階段,筆者的日常工作中需要使用風(fēng)控引擎對接各個業(yè)務(wù)系統(tǒng),風(fēng)控引擎其本質(zhì)是將從各個業(yè)務(wù)端輸入進(jìn)來的數(shù)據(jù),經(jīng)過各類數(shù)據(jù)分析計算,最終輸出風(fēng)控處置結(jié)果(如下圖)。由于業(yè)務(wù)線復(fù)雜多變,每一次的需求變動,以及每個變量的修改/增減、規(guī)則調(diào)整、模型迭代優(yōu)化或者代碼的優(yōu)化,都有可能影響引擎性能,因此在每次搭建的測試聯(lián)調(diào)階段都需要確認(rèn)接入的數(shù)據(jù)是否滿足風(fēng)控需求。
在這個過程中,筆者之前踩過的坑有如下這些:
風(fēng)控測試驗(yàn)證不是說通過業(yè)務(wù)方的測試傳入幾個必傳參數(shù)就完事了,這里面有兩點(diǎn)須確認(rèn):數(shù)據(jù)、決策結(jié)果。
如上圖所示,風(fēng)控接口一般會收到基礎(chǔ)用戶數(shù)據(jù)、業(yè)務(wù)參數(shù)數(shù)據(jù)、設(shè)備指紋采集數(shù)據(jù)、第三方的名單或者接口調(diào)用的數(shù)據(jù),在這個環(huán)節(jié)需要確認(rèn)數(shù)據(jù)的準(zhǔn)確度與一致性。筆者之前經(jīng)常在這個環(huán)節(jié)遇到問題,不同業(yè)務(wù)線的開發(fā)人員經(jīng)常會錯誤理解采集點(diǎn)或者經(jīng)常丟失,導(dǎo)致返回的參數(shù)始終無法命中風(fēng)控策略,需要反復(fù)多次的聯(lián)調(diào)驗(yàn)證,因?yàn)檫@個環(huán)節(jié)的數(shù)據(jù)將決定生產(chǎn)環(huán)境的上線結(jié)果,因此這一步需要格外重視。此外,如果有客戶端測試環(huán)境,建議通過該環(huán)境的操作確認(rèn)風(fēng)控埋點(diǎn)位置是否都有采集,這一步做的目的也是為了精準(zhǔn)確認(rèn)數(shù)據(jù)的采集情況。
如上圖所示,風(fēng)控引擎接收到測試數(shù)據(jù)后,通過模型及規(guī)則的一系列復(fù)雜計算,最終輸出決策結(jié)果,因?yàn)闆Q策引擎只輸出一個風(fēng)險評價數(shù)據(jù),真正影響到業(yè)務(wù)的是處置階段,這個環(huán)節(jié)重的點(diǎn)是驗(yàn)證決策結(jié)果的準(zhǔn)確度。決策結(jié)果的準(zhǔn)確度主要指按照約定好的模型和規(guī)則是否可以準(zhǔn)確響應(yīng),反映準(zhǔn)確度的評價標(biāo)準(zhǔn)一般可包含覆蓋率、交叉率、誤傷率、準(zhǔn)確率、WOE、IV值、ROC、KS等,分析完成后,最后根據(jù)分析的測試結(jié)果,可輸出決策評估報告給業(yè)務(wù)方。筆者在這一步主要遇到的問題是在做策略時沒有深入了解一線業(yè)務(wù)的真實(shí)情況,或者業(yè)務(wù)方自己也忽視了這些情況,這就導(dǎo)致經(jīng)常從數(shù)據(jù)分析角度看用戶是有問題的,但實(shí)際上這些異常是有合理的業(yè)務(wù)解釋的,所以對于決策結(jié)果準(zhǔn)確度上,除了要具備嚴(yán)謹(jǐn)?shù)臄?shù)據(jù)分析能力以外,還需要緊密的業(yè)務(wù)合作。
這里筆者想講的響應(yīng)問題包含兩點(diǎn):性能響應(yīng)與業(yè)務(wù)響應(yīng),前者是通過相關(guān)指標(biāo)的監(jiān)控驗(yàn)證系統(tǒng)間對接后的性能的響應(yīng)問題,后者是通過客戶端的展示驗(yàn)證是否與背后的風(fēng)控處置結(jié)果一致。
業(yè)務(wù)側(cè)通常需要“零感知”的風(fēng)控效果,因此對風(fēng)控系統(tǒng)通常有明顯的調(diào)用時長(RT)限制,此外,對于體量較大的業(yè)務(wù)方還會對QPS、TPS等有明確要求,因此在測試聯(lián)調(diào)階段,也需要考慮增加對此類指標(biāo)的監(jiān)控。筆者之前遇到的問題主要來自于響應(yīng)時長問題,不同業(yè)務(wù)方對響應(yīng)時長的級別不同,對于那些RT可以滿足的風(fēng)控接入,如果需要極短的響應(yīng)時間,可考慮使用輕量級的接入,因此在測試階段重點(diǎn)關(guān)注該數(shù)據(jù)是否達(dá)標(biāo)。如果RT不能滿足的風(fēng)控接入,可通過異步接口調(diào)用,同樣也要驗(yàn)證RT是否達(dá)標(biāo)。
風(fēng)控決策結(jié)果輸出之后,業(yè)務(wù)側(cè)需要按照預(yù)期設(shè)計好的邏輯響應(yīng)落地,在這個環(huán)節(jié)需要驗(yàn)證的是:每一個風(fēng)控結(jié)果的輸出都有對應(yīng)的業(yè)務(wù)處置落地,并且客戶端也有對應(yīng)的響應(yīng)話術(shù),以及正確的事后閉環(huán) 。展開來說,每個決策結(jié)果跟業(yè)務(wù)現(xiàn)有的處置手段都存在映射關(guān)系,不存在有冗余的決策結(jié)果或者處置手段,且每個處置手段都在客戶端有相應(yīng)的響應(yīng)動作,最后,每個需要有處置手段的數(shù)據(jù)都可以將關(guān)鍵的風(fēng)控維度落地,并多次使用。筆者有一次因?yàn)樵谶@個環(huán)節(jié)因?yàn)槿狈?jīng)驗(yàn),設(shè)計了繁冗復(fù)雜的落地方案,結(jié)果在測試驗(yàn)證的時候發(fā)現(xiàn)業(yè)務(wù)方并沒有做好客戶端的相關(guān)改造,結(jié)果導(dǎo)致在改造完成之前先用臨時的急救方案替代正式的方案。
好了,以上就是我在風(fēng)控領(lǐng)域搭建時遇到的坑以及總結(jié)的經(jīng)驗(yàn),希望這些能夠幫助到大家今后的工作。
-END-
本文為作者獨(dú)立觀點(diǎn),不代表鳥哥筆記立場,未經(jīng)允許不得轉(zhuǎn)載。
《鳥哥筆記版權(quán)及免責(zé)申明》 如對文章、圖片、字體等版權(quán)有疑問,請點(diǎn)擊 反饋舉報
我們致力于提供一個高質(zhì)量內(nèi)容的交流平臺。為落實(shí)國家互聯(lián)網(wǎng)信息辦公室“依法管網(wǎng)、依法辦網(wǎng)、依法上網(wǎng)”的要求,為完善跟帖評論自律管理,為了保護(hù)用戶創(chuàng)造的內(nèi)容、維護(hù)開放、真實(shí)、專業(yè)的平臺氛圍,我們團(tuán)隊(duì)將依據(jù)本公約中的條款對注冊用戶和發(fā)布在本平臺的內(nèi)容進(jìn)行管理。平臺鼓勵用戶創(chuàng)作、發(fā)布優(yōu)質(zhì)內(nèi)容,同時也將采取必要措施管理違法、侵權(quán)或有其他不良影響的網(wǎng)絡(luò)信息。
一、根據(jù)《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》《中華人民共和國未成年人保護(hù)法》等法律法規(guī),對以下違法、不良信息或存在危害的行為進(jìn)行處理。
1. 違反法律法規(guī)的信息,主要表現(xiàn)為:
1)反對憲法所確定的基本原則;
2)危害國家安全,泄露國家秘密,顛覆國家政權(quán),破壞國家統(tǒng)一,損害國家榮譽(yù)和利益;
3)侮辱、濫用英烈形象,歪曲、丑化、褻瀆、否定英雄烈士事跡和精神,以侮辱、誹謗或者其他方式侵害英雄烈士的姓名、肖像、名譽(yù)、榮譽(yù);
4)宣揚(yáng)恐怖主義、極端主義或者煽動實(shí)施恐怖活動、極端主義活動;
5)煽動民族仇恨、民族歧視,破壞民族團(tuán)結(jié);
6)破壞國家宗教政策,宣揚(yáng)邪教和封建迷信;
7)散布謠言,擾亂社會秩序,破壞社會穩(wěn)定;
8)宣揚(yáng)淫穢、色情、賭博、暴力、兇殺、恐怖或者教唆犯罪;
9)煽動非法集會、結(jié)社、游行、示威、聚眾擾亂社會秩序;
10)侮辱或者誹謗他人,侵害他人名譽(yù)、隱私和其他合法權(quán)益;
11)通過網(wǎng)絡(luò)以文字、圖片、音視頻等形式,對未成年人實(shí)施侮辱、誹謗、威脅或者惡意損害未成年人形象進(jìn)行網(wǎng)絡(luò)欺凌的;
12)危害未成年人身心健康的;
13)含有法律、行政法規(guī)禁止的其他內(nèi)容;
2. 不友善:不尊重用戶及其所貢獻(xiàn)內(nèi)容的信息或行為。主要表現(xiàn)為:
1)輕蔑:貶低、輕視他人及其勞動成果;
2)誹謗:捏造、散布虛假事實(shí),損害他人名譽(yù);
3)嘲諷:以比喻、夸張、侮辱性的手法對他人或其行為進(jìn)行揭露或描述,以此來激怒他人;
4)挑釁:以不友好的方式激怒他人,意圖使對方對自己的言論作出回應(yīng),蓄意制造事端;
5)羞辱:貶低他人的能力、行為、生理或身份特征,讓對方難堪;
6)謾罵:以不文明的語言對他人進(jìn)行負(fù)面評價;
7)歧視:煽動人群歧視、地域歧視等,針對他人的民族、種族、宗教、性取向、性別、年齡、地域、生理特征等身份或者歸類的攻擊;
8)威脅:許諾以不良的后果來迫使他人服從自己的意志;
3. 發(fā)布垃圾廣告信息:以推廣曝光為目的,發(fā)布影響用戶體驗(yàn)、擾亂本網(wǎng)站秩序的內(nèi)容,或進(jìn)行相關(guān)行為。主要表現(xiàn)為:
1)多次發(fā)布包含售賣產(chǎn)品、提供服務(wù)、宣傳推廣內(nèi)容的垃圾廣告。包括但不限于以下幾種形式:
2)單個帳號多次發(fā)布包含垃圾廣告的內(nèi)容;
3)多個廣告帳號互相配合發(fā)布、傳播包含垃圾廣告的內(nèi)容;
4)多次發(fā)布包含欺騙性外鏈的內(nèi)容,如未注明的淘寶客鏈接、跳轉(zhuǎn)網(wǎng)站等,誘騙用戶點(diǎn)擊鏈接
5)發(fā)布大量包含推廣鏈接、產(chǎn)品、品牌等內(nèi)容獲取搜索引擎中的不正當(dāng)曝光;
6)購買或出售帳號之間虛假地互動,發(fā)布干擾網(wǎng)站秩序的推廣內(nèi)容及相關(guān)交易。
7)發(fā)布包含欺騙性的惡意營銷內(nèi)容,如通過偽造經(jīng)歷、冒充他人等方式進(jìn)行惡意營銷;
8)使用特殊符號、圖片等方式規(guī)避垃圾廣告內(nèi)容審核的廣告內(nèi)容。
4. 色情低俗信息,主要表現(xiàn)為:
1)包含自己或他人性經(jīng)驗(yàn)的細(xì)節(jié)描述或露骨的感受描述;
2)涉及色情段子、兩性笑話的低俗內(nèi)容;
3)配圖、頭圖中包含庸俗或挑逗性圖片的內(nèi)容;
4)帶有性暗示、性挑逗等易使人產(chǎn)生性聯(lián)想;
5)展現(xiàn)血腥、驚悚、殘忍等致人身心不適;
6)炒作緋聞、丑聞、劣跡等;
7)宣揚(yáng)低俗、庸俗、媚俗內(nèi)容。
5. 不實(shí)信息,主要表現(xiàn)為:
1)可能存在事實(shí)性錯誤或者造謠等內(nèi)容;
2)存在事實(shí)夸大、偽造虛假經(jīng)歷等誤導(dǎo)他人的內(nèi)容;
3)偽造身份、冒充他人,通過頭像、用戶名等個人信息暗示自己具有特定身份,或與特定機(jī)構(gòu)或個人存在關(guān)聯(lián)。
6. 傳播封建迷信,主要表現(xiàn)為:
1)找人算命、測字、占卜、解夢、化解厄運(yùn)、使用迷信方式治病;
2)求推薦算命看相大師;
3)針對具體風(fēng)水等問題進(jìn)行求助或咨詢;
4)問自己或他人的八字、六爻、星盤、手相、面相、五行缺失,包括通過占卜方法問婚姻、前程、運(yùn)勢,東西寵物丟了能不能找回、取名改名等;
7. 文章標(biāo)題黨,主要表現(xiàn)為:
1)以各種夸張、獵奇、不合常理的表現(xiàn)手法等行為來誘導(dǎo)用戶;
2)內(nèi)容與標(biāo)題之間存在嚴(yán)重不實(shí)或者原意扭曲;
3)使用夸張標(biāo)題,內(nèi)容與標(biāo)題嚴(yán)重不符的。
8.「飯圈」亂象行為,主要表現(xiàn)為:
1)誘導(dǎo)未成年人應(yīng)援集資、高額消費(fèi)、投票打榜
2)粉絲互撕謾罵、拉踩引戰(zhàn)、造謠攻擊、人肉搜索、侵犯隱私
3)鼓動「飯圈」粉絲攀比炫富、奢靡享樂等行為
4)以號召粉絲、雇用網(wǎng)絡(luò)水軍、「養(yǎng)號」形式刷量控評等行為
5)通過「蹭熱點(diǎn)」、制造話題等形式干擾輿論,影響傳播秩序
9. 其他危害行為或內(nèi)容,主要表現(xiàn)為:
1)可能引發(fā)未成年人模仿不安全行為和違反社會公德行為、誘導(dǎo)未成年人不良嗜好影響未成年人身心健康的;
2)不當(dāng)評述自然災(zāi)害、重大事故等災(zāi)難的;
3)美化、粉飾侵略戰(zhàn)爭行為的;
4)法律、行政法規(guī)禁止,或可能對網(wǎng)絡(luò)生態(tài)造成不良影響的其他內(nèi)容。
二、違規(guī)處罰
本網(wǎng)站通過主動發(fā)現(xiàn)和接受用戶舉報兩種方式收集違規(guī)行為信息。所有有意的降低內(nèi)容質(zhì)量、傷害平臺氛圍及欺凌未成年人或危害未成年人身心健康的行為都是不能容忍的。
當(dāng)一個用戶發(fā)布違規(guī)內(nèi)容時,本網(wǎng)站將依據(jù)相關(guān)用戶違規(guī)情節(jié)嚴(yán)重程度,對帳號進(jìn)行禁言 1 天、7 天、15 天直至永久禁言或封停賬號的處罰。當(dāng)涉及欺凌未成年人、危害未成年人身心健康、通過作弊手段注冊、使用帳號,或者濫用多個帳號發(fā)布違規(guī)內(nèi)容時,本網(wǎng)站將加重處罰。
三、申訴
隨著平臺管理經(jīng)驗(yàn)的不斷豐富,本網(wǎng)站出于維護(hù)本網(wǎng)站氛圍和秩序的目的,將不斷完善本公約。
如果本網(wǎng)站用戶對本網(wǎng)站基于本公約規(guī)定做出的處理有異議,可以通過「建議反饋」功能向本網(wǎng)站進(jìn)行反饋。
(規(guī)則的最終解釋權(quán)歸屬本網(wǎng)站所有)