很可惜 T 。T 您現(xiàn)在還不是作者身份,不能自主發(fā)稿哦~
如有投稿需求,請(qǐng)把文章發(fā)送到郵箱tougao@appcpx.com,一經(jīng)錄用會(huì)有專人和您聯(lián)系
咨詢?nèi)绾纬蔀榇河鹱髡哒?qǐng)聯(lián)系:鳥哥筆記小羽毛(ngbjxym)
日常的數(shù)據(jù)分析工作中,除了基本的拆解法、對(duì)比法做分析外,也經(jīng)常需要用到模型的方法來(lái)做預(yù)測(cè)或者分類。這里會(huì)介紹建模分析的基本流程及常見(jiàn)處理方法。
在拿到數(shù)據(jù)后,不能著急立刻開始清洗數(shù)據(jù)或者模型訓(xùn)練,而是先了解數(shù)據(jù)(除建模分析外,其他的數(shù)據(jù)開發(fā)也要做這一步),這樣才能避免后期的踩坑,否則十有八九是要復(fù)工的。那“了解數(shù)據(jù)”這一環(huán)節(jié),具體要了解哪些東西呢?
了解各個(gè)特征的業(yè)務(wù)含義和計(jì)算邏輯
各個(gè)特征的分布是否符合預(yù)期
特征之間的相關(guān)性如何,是否符合基本邏輯
特征和目標(biāo)值的相關(guān)性如何,是否符合基本邏輯
在相關(guān)性分析這里,數(shù)值型變量之間可通過(guò)計(jì)算相關(guān)系數(shù)或者畫圖呈現(xiàn);數(shù)值型變量和分類變量可通過(guò)箱線圖呈現(xiàn)關(guān)系。
在初步了解數(shù)據(jù)后,需要做一些數(shù)據(jù)預(yù)處理的行為。第一步就是對(duì)缺失值處理,一般根據(jù)樣本量多少以及缺失比例,來(lái)判斷是“寧缺毋濫”的刪除,還是缺失值填充。具體處理的思路可以是這樣的:
統(tǒng)計(jì)計(jì)算樣本量n,各個(gè)特征數(shù)據(jù)缺失率y,各樣本數(shù)據(jù)特征缺失率x
特征缺失率x比較高的樣本一般都建議刪除;因?yàn)槎鄠€(gè)特征都缺失,填補(bǔ)也比較困難,即使填補(bǔ)信息偏差也會(huì)比較大。
如果某特征缺失率y比較大,則刪除此特征;如果特征缺失率低且樣本量比較大的話,可刪除特征缺失的樣本。如果樣本量少不可刪除,則對(duì)缺失值做填充。
根據(jù)特征的眾數(shù)、中位數(shù)或者平均值來(lái)填充;也可以對(duì)樣本做分類,根據(jù)所在類的平均值眾數(shù)等填充;
通過(guò)回歸法來(lái)做樣本填充,缺失值作為因變量,其他特征做自變量去預(yù)測(cè);
還可通過(guò)比較復(fù)雜的方法,如多重插補(bǔ)法。
處理完缺失值后,需要做異常數(shù)據(jù)處理。之前介紹過(guò)一篇異常數(shù)據(jù)處理的方法,數(shù)據(jù)分析-異常數(shù)據(jù)識(shí)別;這篇介紹了多種適應(yīng)不同場(chǎng)景下的異常數(shù)據(jù)識(shí)別方法。
對(duì)于很多模型,如線性回歸、邏輯回歸、Kmeans聚類等,需要計(jì)算不同特征的系數(shù),或者計(jì)算樣本距離。這種情況下,如果不同特征的數(shù)值量級(jí)差的特別大,會(huì)嚴(yán)重影響系數(shù)和距離的計(jì)算,甚至這種計(jì)算都會(huì)失去意義。所以在建模前必須要做的就是要去量綱,做標(biāo)準(zhǔn)化處理。當(dāng)然有些模型是不需要做數(shù)據(jù)標(biāo)準(zhǔn)化處理的,如決策樹、隨機(jī)森林、樸素貝葉斯等。
1. 最小—最大規(guī)范化
(x-min)/(max-min),將其規(guī)范到[0,1]之間
2. z值規(guī)范化
(x-均值)/標(biāo)準(zhǔn)差,將其規(guī)范為均值為0,標(biāo)準(zhǔn)差為1;
如果這種情況,受離群點(diǎn)影響比較大的話,可以用中位數(shù)代替均值,用絕對(duì)標(biāo)準(zhǔn)差代替標(biāo)準(zhǔn)差。
還需要注意的是,如果樣本分布非常有偏的話,可以先做box-cox變換,將其往正態(tài)分布變換后再標(biāo)準(zhǔn)化。
在做完基本的數(shù)據(jù)清洗以及特征變換后,需要做的是特征選擇,一般做特征選擇的原因是:
某些特征存在多重共線性,這種情況對(duì)線性回歸和邏輯回歸影響比較大;
特征太多,有些特征增加了模型復(fù)雜性卻與模型無(wú)關(guān),不能全部入模,需要篩選出價(jià)值更高的特征。
是什么:模型的解釋變量之間由于存在精確相關(guān)關(guān)系或高度相關(guān)關(guān)系而使模型估計(jì)失真或難以估計(jì)準(zhǔn)確;
1)影響模型的穩(wěn)定性,而且影響模型的解釋;
舉個(gè)例子,假設(shè)消費(fèi)支出=0.3*收入,這樣可能的模型輸出的是:
消費(fèi)支出+收入
1.3*收入
1.6*收入-消費(fèi)支出
同樣的數(shù)值輸出,不同的公式計(jì)算,會(huì)非常模型解釋和穩(wěn)定性的。
2)線性回歸模型,會(huì)導(dǎo)致最小二乘估計(jì)無(wú)法計(jì)算系數(shù),即使可計(jì)算系數(shù)方差也很大,即1)中提到的不穩(wěn)定。
計(jì)算特征之間的相關(guān)系數(shù),對(duì)于相關(guān)性特別高的特征,根據(jù)業(yè)務(wù)需要保留有代表性的特征
方差膨脹因子(VIF)
計(jì)算每個(gè)特征被其他特征擬合的情況,如特征j,被其他特征線性擬合的決定系數(shù)為R2;通常擬合越好,決定系數(shù)就越大且最大可達(dá)到1。
所以,當(dāng)方差膨脹因子過(guò)大,說(shuō)明此特征存在多重共線性。一般大于10會(huì)認(rèn)為有比較強(qiáng)的多重共線性問(wèn)題。
刪除共線性強(qiáng)的特征
線性回歸模型的話,可采用嶺回歸的估算方式解決
不同的模型和應(yīng)用場(chǎng)景下特征篩選方式不同:
對(duì)于二分類問(wèn)題來(lái)說(shuō),篩選邏輯是:篩選出對(duì)二分類結(jié)果區(qū)分度比較高的特征;可以通過(guò)計(jì)算IV(information value)值的大小來(lái)篩選,一般IV值越大,此特征對(duì)二分類結(jié)果更有區(qū)分度。
對(duì)于回歸預(yù)測(cè)問(wèn)題,主要針對(duì)多元線性回歸。篩選特征的方法有:
特征子集選擇法、正則化法以及降維法。
1. 特征子集選擇法
特征子集選擇法有向前逐步選擇法和向后逐步選擇法:
向前逐步選擇
具體方法就是從0個(gè)特征開始,一個(gè)一個(gè)逐步從剩余特征中添加使得模型擬合誤差最小的特征,在添加過(guò)程中得到模型擬合最優(yōu)的特征組合。
向后逐步選擇
和向前逐步選擇類似,只是反過(guò)來(lái)了,讓所有特征入模,再一步一步剔除效果不好的特征,從而達(dá)到最優(yōu)。
2. 正則化壓縮無(wú)意義特征的系數(shù)
比較好用的方法是lasso。一般的線形回歸我們只會(huì)希望它的誤差平方和最小,但是lasso的目標(biāo)函數(shù)在原有目標(biāo)函數(shù)后面加了一項(xiàng)系數(shù)懲罰項(xiàng)。這樣讓目標(biāo)函數(shù)最小,可以實(shí)現(xiàn)無(wú)意義特征的系數(shù)為0,從而實(shí)現(xiàn)特征選擇。
3. PCA降維
這個(gè)是將原有有一定線性關(guān)系的特征線形組合成新的相互獨(dú)立的特征,所以不適合原有特征已經(jīng)相互獨(dú)立的情況。
以上就是數(shù)據(jù)建模的前期準(zhǔn)備流程,做完這些內(nèi)容就可以開始模型訓(xùn)練,對(duì)模型結(jié)果進(jìn)行預(yù)測(cè)分析啦,而這部分則是不同模型會(huì)有不同的具體處理方法??傊?,模型訓(xùn)練前的數(shù)據(jù)分析、數(shù)據(jù)清洗以及特征選擇非常重要,甚至他們是決定建模是否成功的關(guān)鍵因素,所以這部分工作一定要做細(xì)做準(zhǔn)確。
感謝閱讀,以上就是我要分享的內(nèi)容 ^_^
-END-
本文為作者獨(dú)立觀點(diǎn),不代表鳥哥筆記立場(chǎng),未經(jīng)允許不得轉(zhuǎn)載。
《鳥哥筆記版權(quán)及免責(zé)申明》 如對(duì)文章、圖片、字體等版權(quán)有疑問(wèn),請(qǐng)點(diǎn)擊 反饋舉報(bào)
我們致力于提供一個(gè)高質(zhì)量?jī)?nèi)容的交流平臺(tái)。為落實(shí)國(guó)家互聯(lián)網(wǎng)信息辦公室“依法管網(wǎng)、依法辦網(wǎng)、依法上網(wǎng)”的要求,為完善跟帖評(píng)論自律管理,為了保護(hù)用戶創(chuàng)造的內(nèi)容、維護(hù)開放、真實(shí)、專業(yè)的平臺(tái)氛圍,我們團(tuán)隊(duì)將依據(jù)本公約中的條款對(duì)注冊(cè)用戶和發(fā)布在本平臺(tái)的內(nèi)容進(jìn)行管理。平臺(tái)鼓勵(lì)用戶創(chuàng)作、發(fā)布優(yōu)質(zhì)內(nèi)容,同時(shí)也將采取必要措施管理違法、侵權(quán)或有其他不良影響的網(wǎng)絡(luò)信息。
一、根據(jù)《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》《中華人民共和國(guó)未成年人保護(hù)法》等法律法規(guī),對(duì)以下違法、不良信息或存在危害的行為進(jìn)行處理。
1. 違反法律法規(guī)的信息,主要表現(xiàn)為:
1)反對(duì)憲法所確定的基本原則;
2)危害國(guó)家安全,泄露國(guó)家秘密,顛覆國(guó)家政權(quán),破壞國(guó)家統(tǒng)一,損害國(guó)家榮譽(yù)和利益;
3)侮辱、濫用英烈形象,歪曲、丑化、褻瀆、否定英雄烈士事跡和精神,以侮辱、誹謗或者其他方式侵害英雄烈士的姓名、肖像、名譽(yù)、榮譽(yù);
4)宣揚(yáng)恐怖主義、極端主義或者煽動(dòng)實(shí)施恐怖活動(dòng)、極端主義活動(dòng);
5)煽動(dòng)民族仇恨、民族歧視,破壞民族團(tuán)結(jié);
6)破壞國(guó)家宗教政策,宣揚(yáng)邪教和封建迷信;
7)散布謠言,擾亂社會(huì)秩序,破壞社會(huì)穩(wěn)定;
8)宣揚(yáng)淫穢、色情、賭博、暴力、兇殺、恐怖或者教唆犯罪;
9)煽動(dòng)非法集會(huì)、結(jié)社、游行、示威、聚眾擾亂社會(huì)秩序;
10)侮辱或者誹謗他人,侵害他人名譽(yù)、隱私和其他合法權(quán)益;
11)通過(guò)網(wǎng)絡(luò)以文字、圖片、音視頻等形式,對(duì)未成年人實(shí)施侮辱、誹謗、威脅或者惡意損害未成年人形象進(jìn)行網(wǎng)絡(luò)欺凌的;
12)危害未成年人身心健康的;
13)含有法律、行政法規(guī)禁止的其他內(nèi)容;
2. 不友善:不尊重用戶及其所貢獻(xiàn)內(nèi)容的信息或行為。主要表現(xiàn)為:
1)輕蔑:貶低、輕視他人及其勞動(dòng)成果;
2)誹謗:捏造、散布虛假事實(shí),損害他人名譽(yù);
3)嘲諷:以比喻、夸張、侮辱性的手法對(duì)他人或其行為進(jìn)行揭露或描述,以此來(lái)激怒他人;
4)挑釁:以不友好的方式激怒他人,意圖使對(duì)方對(duì)自己的言論作出回應(yīng),蓄意制造事端;
5)羞辱:貶低他人的能力、行為、生理或身份特征,讓對(duì)方難堪;
6)謾罵:以不文明的語(yǔ)言對(duì)他人進(jìn)行負(fù)面評(píng)價(jià);
7)歧視:煽動(dòng)人群歧視、地域歧視等,針對(duì)他人的民族、種族、宗教、性取向、性別、年齡、地域、生理特征等身份或者歸類的攻擊;
8)威脅:許諾以不良的后果來(lái)迫使他人服從自己的意志;
3. 發(fā)布垃圾廣告信息:以推廣曝光為目的,發(fā)布影響用戶體驗(yàn)、擾亂本網(wǎng)站秩序的內(nèi)容,或進(jìn)行相關(guān)行為。主要表現(xiàn)為:
1)多次發(fā)布包含售賣產(chǎn)品、提供服務(wù)、宣傳推廣內(nèi)容的垃圾廣告。包括但不限于以下幾種形式:
2)單個(gè)帳號(hào)多次發(fā)布包含垃圾廣告的內(nèi)容;
3)多個(gè)廣告帳號(hào)互相配合發(fā)布、傳播包含垃圾廣告的內(nèi)容;
4)多次發(fā)布包含欺騙性外鏈的內(nèi)容,如未注明的淘寶客鏈接、跳轉(zhuǎn)網(wǎng)站等,誘騙用戶點(diǎn)擊鏈接
5)發(fā)布大量包含推廣鏈接、產(chǎn)品、品牌等內(nèi)容獲取搜索引擎中的不正當(dāng)曝光;
6)購(gòu)買或出售帳號(hào)之間虛假地互動(dòng),發(fā)布干擾網(wǎng)站秩序的推廣內(nèi)容及相關(guān)交易。
7)發(fā)布包含欺騙性的惡意營(yíng)銷內(nèi)容,如通過(guò)偽造經(jīng)歷、冒充他人等方式進(jìn)行惡意營(yíng)銷;
8)使用特殊符號(hào)、圖片等方式規(guī)避垃圾廣告內(nèi)容審核的廣告內(nèi)容。
4. 色情低俗信息,主要表現(xiàn)為:
1)包含自己或他人性經(jīng)驗(yàn)的細(xì)節(jié)描述或露骨的感受描述;
2)涉及色情段子、兩性笑話的低俗內(nèi)容;
3)配圖、頭圖中包含庸俗或挑逗性圖片的內(nèi)容;
4)帶有性暗示、性挑逗等易使人產(chǎn)生性聯(lián)想;
5)展現(xiàn)血腥、驚悚、殘忍等致人身心不適;
6)炒作緋聞、丑聞、劣跡等;
7)宣揚(yáng)低俗、庸俗、媚俗內(nèi)容。
5. 不實(shí)信息,主要表現(xiàn)為:
1)可能存在事實(shí)性錯(cuò)誤或者造謠等內(nèi)容;
2)存在事實(shí)夸大、偽造虛假經(jīng)歷等誤導(dǎo)他人的內(nèi)容;
3)偽造身份、冒充他人,通過(guò)頭像、用戶名等個(gè)人信息暗示自己具有特定身份,或與特定機(jī)構(gòu)或個(gè)人存在關(guān)聯(lián)。
6. 傳播封建迷信,主要表現(xiàn)為:
1)找人算命、測(cè)字、占卜、解夢(mèng)、化解厄運(yùn)、使用迷信方式治??;
2)求推薦算命看相大師;
3)針對(duì)具體風(fēng)水等問(wèn)題進(jìn)行求助或咨詢;
4)問(wèn)自己或他人的八字、六爻、星盤、手相、面相、五行缺失,包括通過(guò)占卜方法問(wèn)婚姻、前程、運(yùn)勢(shì),東西寵物丟了能不能找回、取名改名等;
7. 文章標(biāo)題黨,主要表現(xiàn)為:
1)以各種夸張、獵奇、不合常理的表現(xiàn)手法等行為來(lái)誘導(dǎo)用戶;
2)內(nèi)容與標(biāo)題之間存在嚴(yán)重不實(shí)或者原意扭曲;
3)使用夸張標(biāo)題,內(nèi)容與標(biāo)題嚴(yán)重不符的。
8.「飯圈」亂象行為,主要表現(xiàn)為:
1)誘導(dǎo)未成年人應(yīng)援集資、高額消費(fèi)、投票打榜
2)粉絲互撕謾罵、拉踩引戰(zhàn)、造謠攻擊、人肉搜索、侵犯隱私
3)鼓動(dòng)「飯圈」粉絲攀比炫富、奢靡享樂(lè)等行為
4)以號(hào)召粉絲、雇用網(wǎng)絡(luò)水軍、「養(yǎng)號(hào)」形式刷量控評(píng)等行為
5)通過(guò)「蹭熱點(diǎn)」、制造話題等形式干擾輿論,影響傳播秩序
9. 其他危害行為或內(nèi)容,主要表現(xiàn)為:
1)可能引發(fā)未成年人模仿不安全行為和違反社會(huì)公德行為、誘導(dǎo)未成年人不良嗜好影響未成年人身心健康的;
2)不當(dāng)評(píng)述自然災(zāi)害、重大事故等災(zāi)難的;
3)美化、粉飾侵略戰(zhàn)爭(zhēng)行為的;
4)法律、行政法規(guī)禁止,或可能對(duì)網(wǎng)絡(luò)生態(tài)造成不良影響的其他內(nèi)容。
二、違規(guī)處罰
本網(wǎng)站通過(guò)主動(dòng)發(fā)現(xiàn)和接受用戶舉報(bào)兩種方式收集違規(guī)行為信息。所有有意的降低內(nèi)容質(zhì)量、傷害平臺(tái)氛圍及欺凌未成年人或危害未成年人身心健康的行為都是不能容忍的。
當(dāng)一個(gè)用戶發(fā)布違規(guī)內(nèi)容時(shí),本網(wǎng)站將依據(jù)相關(guān)用戶違規(guī)情節(jié)嚴(yán)重程度,對(duì)帳號(hào)進(jìn)行禁言 1 天、7 天、15 天直至永久禁言或封停賬號(hào)的處罰。當(dāng)涉及欺凌未成年人、危害未成年人身心健康、通過(guò)作弊手段注冊(cè)、使用帳號(hào),或者濫用多個(gè)帳號(hào)發(fā)布違規(guī)內(nèi)容時(shí),本網(wǎng)站將加重處罰。
三、申訴
隨著平臺(tái)管理經(jīng)驗(yàn)的不斷豐富,本網(wǎng)站出于維護(hù)本網(wǎng)站氛圍和秩序的目的,將不斷完善本公約。
如果本網(wǎng)站用戶對(duì)本網(wǎng)站基于本公約規(guī)定做出的處理有異議,可以通過(guò)「建議反饋」功能向本網(wǎng)站進(jìn)行反饋。
(規(guī)則的最終解釋權(quán)歸屬本網(wǎng)站所有)