很可惜 T 。T 您現(xiàn)在還不是作者身份，不能自主發(fā)稿哦～
如有投稿需求，請(qǐng)把文章發(fā)送到郵箱tougao@appcpx.com，一經(jīng)錄用會(huì)有專(zhuān)人和您聯(lián)系
咨詢(xún)?nèi)绾纬蔀榇河鹱髡哒?qǐng)聯(lián)系：鳥(niǎo)哥筆記小羽毛（ngbjxym）
來(lái)源：銀杏財(cái)經(jīng)
2023年7月13日，國(guó)家互聯(lián)網(wǎng)信息辦公室等七部門(mén)聯(lián)合發(fā)布《生成式人工智能服務(wù)管理暫行辦法》（以下簡(jiǎn)稱(chēng)“《辦法》”）。
《辦法》針對(duì)從去年起成為科技圈頂流的生成式人工智能行業(yè)提出了監(jiān)管辦法。
2022年11月，ChatGPT發(fā)布之后，生成式人工智能迅速席卷整個(gè)互聯(lián)網(wǎng)行業(yè)。各大互聯(lián)網(wǎng)企業(yè)紛紛入局，截至目前，國(guó)內(nèi)發(fā)布的10億參數(shù)規(guī)模以上的大模型就有超過(guò)100個(gè)，應(yīng)用領(lǐng)域涵蓋搜索、對(duì)話(huà)、協(xié)助創(chuàng)作、媒體生成、教育、翻譯等。
艾媒咨詢(xún)預(yù)測(cè)，預(yù)計(jì)2023年中國(guó)AIGC核心市場(chǎng)規(guī)模將達(dá)79.3億元，2028年將達(dá)2767.4億元。
但自從ChatGPT一夜爆紅以來(lái)，由人工智能生成的虛假和錯(cuò)誤信息屢見(jiàn)不鮮。同時(shí)生成式人工智能的出現(xiàn)，也嚴(yán)重沖擊了創(chuàng)作領(lǐng)域原有的生態(tài)，版權(quán)問(wèn)題也讓全世界的立法機(jī)構(gòu)也陷入了難題。
《辦法》的出臺(tái)會(huì)解決這些問(wèn)題嗎？對(duì)生成式人工智能行業(yè)有什么樣的影響？業(yè)內(nèi)如何看待此次《辦法》的出臺(tái)？
《銀杏科技》對(duì)話(huà)了多位相關(guān)從業(yè)人士，他們分別是高級(jí)算法工程師、自然語(yǔ)言處理高級(jí)研究員孫科、連續(xù)創(chuàng)業(yè)者譚偉、偉君律師事務(wù)所律師錢(qián)川。
他們表示，《辦法》的出臺(tái)一方面降低訓(xùn)練模型的門(mén)檻，促進(jìn)了行業(yè)創(chuàng)新，同時(shí)還明確了算法的安全主體責(zé)任，要求企業(yè)在應(yīng)用開(kāi)發(fā)期間就針對(duì)算法進(jìn)行安全評(píng)估。
對(duì)于“裸奔”了數(shù)個(gè)月的生成式人工智能行業(yè)來(lái)說(shuō)，《辦法》出臺(tái)意味著行業(yè)將迎來(lái)一個(gè)全新的發(fā)展階段。
以下為部分對(duì)話(huà)實(shí)錄：
問(wèn)：對(duì)于開(kāi)發(fā)者來(lái)說(shuō)，《辦法》的出臺(tái)有什么樣的影響？
孫科：《辦法》出臺(tái)之后，企業(yè)在開(kāi)發(fā)產(chǎn)品的過(guò)程中需要提前做好規(guī)劃以應(yīng)對(duì)生成式人工智能產(chǎn)品較長(zhǎng)的開(kāi)發(fā)流程和更多的合規(guī)控制點(diǎn)。
如果只是做ChatGPT這樣的聊天應(yīng)用，除了算法備案之外，還需要遵守《網(wǎng)絡(luò)安全法》、《數(shù)據(jù)安全法》、《個(gè)人信息保護(hù)法》等多項(xiàng)法規(guī)，此外還需要ICP經(jīng)營(yíng)許可證、軟件著作權(quán)、網(wǎng)絡(luò)文化經(jīng)營(yíng)許可證、增值電信業(yè)務(wù)經(jīng)營(yíng)許可證等審批，如果要在其他領(lǐng)域還需要完成相應(yīng)的許可和備案。
生成式人工智能的開(kāi)發(fā)涉及到多個(gè)不同的環(huán)節(jié)，企業(yè)內(nèi)部也需要對(duì)相應(yīng)的環(huán)節(jié)進(jìn)行規(guī)劃以滿(mǎn)足合規(guī)要求。
問(wèn)：《辦法》為什么要求將算法備案？具體要備案哪些信息？
孫科：算法備案制度本質(zhì)是監(jiān)管部門(mén)事前設(shè)置算法問(wèn)責(zé)的問(wèn)責(zé)點(diǎn)，用以確認(rèn)算法推薦服務(wù)提供者是否履行了法律規(guī)定的各項(xiàng)義務(wù)，是否在算法的設(shè)計(jì)、運(yùn)行和結(jié)果輸出層面有主觀過(guò)錯(cuò)。
在具體實(shí)施上可能也會(huì)采取與推薦算法、深度合成算法類(lèi)似的“大廠(chǎng)先行”模式，由互聯(lián)網(wǎng)大廠(chǎng)率先普及。生成式人工智能算法備案可能也并不需要公開(kāi)算法機(jī)制，但同一App，甚至同一應(yīng)用場(chǎng)景下的不同算法需要分別進(jìn)行備案。
雖然在《辦法》中沒(méi)有明確細(xì)則，但參考此前的經(jīng)驗(yàn)，企業(yè)需要將名稱(chēng)、服務(wù)形式、應(yīng)用領(lǐng)域、算法類(lèi)型、算法自評(píng)估報(bào)告、擬公示內(nèi)容等信息進(jìn)行備案，向監(jiān)管主體提示算法可能存在的濫用、惡意利用、漏洞、違法和不良信息生成、傳播等違法違規(guī)的風(fēng)險(xiǎn)，并在服務(wù)網(wǎng)站和程序頁(yè)面上注明備案號(hào)和公示鏈接。
另外，生成的內(nèi)容也需要進(jìn)行標(biāo)注。
問(wèn)：對(duì)于創(chuàng)業(yè)者，《辦法》的出臺(tái)會(huì)帶來(lái)什么樣的新機(jī)遇嗎？
譚偉：創(chuàng)業(yè)者可以將大模型必備的大量計(jì)算和數(shù)據(jù)資源成本降低不少?！掇k法》提出，將推動(dòng)生成式人工智能基礎(chǔ)設(shè)施和公共訓(xùn)練數(shù)據(jù)資源平臺(tái)建設(shè)、促進(jìn)算力資源協(xié)同共享，提升算力資源利用效能。推動(dòng)公共數(shù)據(jù)分類(lèi)分級(jí)有序開(kāi)放，擴(kuò)展高質(zhì)量的公共訓(xùn)練數(shù)據(jù)資源。
和其他領(lǐng)域相比，人工智能，尤其是大模型生成式人工智能領(lǐng)域完全是一個(gè)重資產(chǎn)行業(yè)，沒(méi)有算力、沒(méi)有數(shù)據(jù)就沒(méi)有產(chǎn)品。
以目前行業(yè)內(nèi)較為熱門(mén)的開(kāi)源大數(shù)據(jù)模型BLOOM為例，這個(gè)高達(dá)1760億參數(shù)的大模型的訓(xùn)練需要使用384個(gè)GPU，將花費(fèi)3.5個(gè)月時(shí)間，僅硬件成本就高達(dá)576萬(wàn)美元。如果將訓(xùn)練時(shí)間縮短至24天，則需要1024個(gè)GPU，硬件成本超過(guò)1530萬(wàn)美元。
《辦法》的出臺(tái)一方面能夠降低計(jì)算和數(shù)據(jù)成本，另一方面利好共享算力服務(wù)提供商。
問(wèn)：您的創(chuàng)業(yè)項(xiàng)目針對(duì)的是大模型的算力基礎(chǔ)設(shè)施，《辦法》會(huì)帶來(lái)什么樣的影響？
譚偉：對(duì)于大模型創(chuàng)業(yè)企業(yè)，硬件成本就能勸退大多數(shù)團(tuán)隊(duì)了。我計(jì)劃組建一個(gè)類(lèi)似于Folding@home的分布式計(jì)算網(wǎng)絡(luò)來(lái)支持大模型的訓(xùn)練。
這是世界上最大的分布式計(jì)算項(xiàng)目，針對(duì)分子生物領(lǐng)域進(jìn)行計(jì)算，它并不依靠強(qiáng)大的超級(jí)計(jì)算機(jī)進(jìn)行計(jì)算，主要的貢獻(xiàn)者是成千上萬(wàn)的個(gè)人電腦和游戲機(jī)。
每部參與的電腦都安裝了一個(gè)在后臺(tái)運(yùn)行的客戶(hù)端程序，在系統(tǒng)不忙碌的時(shí)候調(diào)用中央處理器運(yùn)行模擬工作。現(xiàn)時(shí)世界上絕大部分的個(gè)人電腦，在一般的情況下都很少用盡本身的計(jì)算能力。
Folding@home就是使用這些本來(lái)都浪費(fèi)了的運(yùn)算力量。Folding@home是第一臺(tái)千萬(wàn)億次級(jí)計(jì)算機(jī)，每秒能夠執(zhí)行一百萬(wàn)億次運(yùn)算，最近還成為了第一臺(tái)超大規(guī)模計(jì)算機(jī)，每秒可執(zhí)行十億億次運(yùn)算。
類(lèi)似的分布式計(jì)算項(xiàng)目其實(shí)不少，但針對(duì)大模型訓(xùn)練的并不多，《辦法》的出臺(tái)是一個(gè)入局的好機(jī)會(huì)。
問(wèn)：為什么《辦法》并沒(méi)有強(qiáng)調(diào)生成式人工智能涉及到的版權(quán)問(wèn)題？生成作品的知識(shí)產(chǎn)權(quán)應(yīng)該歸屬于誰(shuí)？
錢(qián)川：《辦法》并未在知識(shí)產(chǎn)權(quán)方面對(duì)生成式人工智能進(jìn)行過(guò)多限制，還是希望能夠鼓勵(lì)企業(yè)在該領(lǐng)域的創(chuàng)新，開(kāi)發(fā)出自主可控的生成式人工智能產(chǎn)品，避免“不管就亂，一管就死”。
就目前情況而言，生成作品的知識(shí)產(chǎn)權(quán)問(wèn)題暫時(shí)沒(méi)有一個(gè)完善的解決方案。大多數(shù)國(guó)家依然按照以往的規(guī)定來(lái)界定生成作品的版權(quán)。
著作權(quán)法意義上的作品應(yīng)滿(mǎn)足以下四個(gè)條件：由人類(lèi)創(chuàng)作，具有獨(dú)創(chuàng)性，是蘊(yùn)含一定思想內(nèi)容的表達(dá)形式，且不屬于法律法規(guī)、通用數(shù)表、公式等著作權(quán)法排除對(duì)象。
完全由人工智能獨(dú)立創(chuàng)作或按照自然人輸入的提示詞生成的作品，是無(wú)法在法律上被稱(chēng)為 “作品”的。人工智能并未被界定為人類(lèi)，不享有人權(quán)，當(dāng)然也不擁有版權(quán)，更不用說(shuō)歸屬與誰(shuí)了。
問(wèn)：訓(xùn)練人工智能時(shí)使用了他人公開(kāi)在互聯(lián)網(wǎng)上的作品，創(chuàng)造出AI孫燕姿、AI畢加索，此類(lèi)行為是否侵犯了知識(shí)產(chǎn)權(quán)？
錢(qián)川：訓(xùn)練人工智能使用的數(shù)據(jù)知識(shí)產(chǎn)權(quán)保護(hù)暫時(shí)沒(méi)有成功案例。目前只有具有數(shù)據(jù)產(chǎn)權(quán)的數(shù)據(jù)庫(kù)可能會(huì)受到保護(hù)。
一方面，數(shù)據(jù)產(chǎn)權(quán)的保護(hù)辦法我們還在探索當(dāng)中，今年年初的數(shù)據(jù)二十條規(guī)定就是一個(gè)初步的方案。另一方面，目前國(guó)家知識(shí)產(chǎn)權(quán)局和深圳、上海已經(jīng)開(kāi)始研究數(shù)據(jù)的確權(quán)工作，但具體如何確權(quán)還需實(shí)踐。
本文為作者獨(dú)立觀點(diǎn)，不代表鳥(niǎo)哥筆記立場(chǎng)，未經(jīng)允許不得轉(zhuǎn)載。
《鳥(niǎo)哥筆記版權(quán)及免責(zé)申明》 如對(duì)文章、圖片、字體等版權(quán)有疑問(wèn)，請(qǐng)點(diǎn)擊 反饋舉報(bào)
我們致力于提供一個(gè)高質(zhì)量?jī)?nèi)容的交流平臺(tái)。為落實(shí)國(guó)家互聯(lián)網(wǎng)信息辦公室“依法管網(wǎng)、依法辦網(wǎng)、依法上網(wǎng)”的要求，為完善跟帖評(píng)論自律管理，為了保護(hù)用戶(hù)創(chuàng)造的內(nèi)容、維護(hù)開(kāi)放、真實(shí)、專(zhuān)業(yè)的平臺(tái)氛圍，我們團(tuán)隊(duì)將依據(jù)本公約中的條款對(duì)注冊(cè)用戶(hù)和發(fā)布在本平臺(tái)的內(nèi)容進(jìn)行管理。平臺(tái)鼓勵(lì)用戶(hù)創(chuàng)作、發(fā)布優(yōu)質(zhì)內(nèi)容，同時(shí)也將采取必要措施管理違法、侵權(quán)或有其他不良影響的網(wǎng)絡(luò)信息。
一、根據(jù)《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》《中華人民共和國(guó)未成年人保護(hù)法》等法律法規(guī)，對(duì)以下違法、不良信息或存在危害的行為進(jìn)行處理。
1. 違反法律法規(guī)的信息，主要表現(xiàn)為：
1)反對(duì)憲法所確定的基本原則；
2)危害國(guó)家安全，泄露國(guó)家秘密，顛覆國(guó)家政權(quán)，破壞國(guó)家統(tǒng)一，損害國(guó)家榮譽(yù)和利益；
3)侮辱、濫用英烈形象，歪曲、丑化、褻瀆、否定英雄烈士事跡和精神，以侮辱、誹謗或者其他方式侵害英雄烈士的姓名、肖像、名譽(yù)、榮譽(yù)；
4)宣揚(yáng)恐怖主義、極端主義或者煽動(dòng)實(shí)施恐怖活動(dòng)、極端主義活動(dòng)；
5)煽動(dòng)民族仇恨、民族歧視，破壞民族團(tuán)結(jié)；
6)破壞國(guó)家宗教政策，宣揚(yáng)邪教和封建迷信；
7)散布謠言，擾亂社會(huì)秩序，破壞社會(huì)穩(wěn)定；
8)宣揚(yáng)淫穢、色情、賭博、暴力、兇殺、恐怖或者教唆犯罪；
9)煽動(dòng)非法集會(huì)、結(jié)社、游行、示威、聚眾擾亂社會(huì)秩序；
10)侮辱或者誹謗他人，侵害他人名譽(yù)、隱私和其他合法權(quán)益；
11)通過(guò)網(wǎng)絡(luò)以文字、圖片、音視頻等形式，對(duì)未成年人實(shí)施侮辱、誹謗、威脅或者惡意損害未成年人形象進(jìn)行網(wǎng)絡(luò)欺凌的；
12)危害未成年人身心健康的；
13)含有法律、行政法規(guī)禁止的其他內(nèi)容；
2. 不友善：不尊重用戶(hù)及其所貢獻(xiàn)內(nèi)容的信息或行為。主要表現(xiàn)為：
1)輕蔑：貶低、輕視他人及其勞動(dòng)成果；
2)誹謗：捏造、散布虛假事實(shí)，損害他人名譽(yù)；
3)嘲諷：以比喻、夸張、侮辱性的手法對(duì)他人或其行為進(jìn)行揭露或描述，以此來(lái)激怒他人；
4)挑釁：以不友好的方式激怒他人，意圖使對(duì)方對(duì)自己的言論作出回應(yīng)，蓄意制造事端；
5)羞辱：貶低他人的能力、行為、生理或身份特征，讓對(duì)方難堪；
6)謾罵：以不文明的語(yǔ)言對(duì)他人進(jìn)行負(fù)面評(píng)價(jià)；
7)歧視：煽動(dòng)人群歧視、地域歧視等，針對(duì)他人的民族、種族、宗教、性取向、性別、年齡、地域、生理特征等身份或者歸類(lèi)的攻擊；
8)威脅：許諾以不良的后果來(lái)迫使他人服從自己的意志；
3. 發(fā)布垃圾廣告信息：以推廣曝光為目的，發(fā)布影響用戶(hù)體驗(yàn)、擾亂本網(wǎng)站秩序的內(nèi)容，或進(jìn)行相關(guān)行為。主要表現(xiàn)為：
1)多次發(fā)布包含售賣(mài)產(chǎn)品、提供服務(wù)、宣傳推廣內(nèi)容的垃圾廣告。包括但不限于以下幾種形式：
2)單個(gè)帳號(hào)多次發(fā)布包含垃圾廣告的內(nèi)容；
3)多個(gè)廣告帳號(hào)互相配合發(fā)布、傳播包含垃圾廣告的內(nèi)容；
4)多次發(fā)布包含欺騙性外鏈的內(nèi)容，如未注明的淘寶客鏈接、跳轉(zhuǎn)網(wǎng)站等，誘騙用戶(hù)點(diǎn)擊鏈接
5)發(fā)布大量包含推廣鏈接、產(chǎn)品、品牌等內(nèi)容獲取搜索引擎中的不正當(dāng)曝光；
6)購(gòu)買(mǎi)或出售帳號(hào)之間虛假地互動(dòng)，發(fā)布干擾網(wǎng)站秩序的推廣內(nèi)容及相關(guān)交易。
7)發(fā)布包含欺騙性的惡意營(yíng)銷(xiāo)內(nèi)容，如通過(guò)偽造經(jīng)歷、冒充他人等方式進(jìn)行惡意營(yíng)銷(xiāo)；
8)使用特殊符號(hào)、圖片等方式規(guī)避垃圾廣告內(nèi)容審核的廣告內(nèi)容。
4. 色情低俗信息，主要表現(xiàn)為：
1)包含自己或他人性經(jīng)驗(yàn)的細(xì)節(jié)描述或露骨的感受描述；
2)涉及色情段子、兩性笑話(huà)的低俗內(nèi)容；
3)配圖、頭圖中包含庸俗或挑逗性圖片的內(nèi)容；
4)帶有性暗示、性挑逗等易使人產(chǎn)生性聯(lián)想；
5)展現(xiàn)血腥、驚悚、殘忍等致人身心不適；
6)炒作緋聞、丑聞、劣跡等；
7)宣揚(yáng)低俗、庸俗、媚俗內(nèi)容。
5. 不實(shí)信息，主要表現(xiàn)為：
1)可能存在事實(shí)性錯(cuò)誤或者造謠等內(nèi)容；
2)存在事實(shí)夸大、偽造虛假經(jīng)歷等誤導(dǎo)他人的內(nèi)容；
3)偽造身份、冒充他人，通過(guò)頭像、用戶(hù)名等個(gè)人信息暗示自己具有特定身份，或與特定機(jī)構(gòu)或個(gè)人存在關(guān)聯(lián)。
6. 傳播封建迷信，主要表現(xiàn)為：
1)找人算命、測(cè)字、占卜、解夢(mèng)、化解厄運(yùn)、使用迷信方式治病；
2)求推薦算命看相大師；
3)針對(duì)具體風(fēng)水等問(wèn)題進(jìn)行求助或咨詢(xún)；
4)問(wèn)自己或他人的八字、六爻、星盤(pán)、手相、面相、五行缺失，包括通過(guò)占卜方法問(wèn)婚姻、前程、運(yùn)勢(shì)，東西寵物丟了能不能找回、取名改名等；
7. 文章標(biāo)題黨，主要表現(xiàn)為：
1)以各種夸張、獵奇、不合常理的表現(xiàn)手法等行為來(lái)誘導(dǎo)用戶(hù)；
2)內(nèi)容與標(biāo)題之間存在嚴(yán)重不實(shí)或者原意扭曲；
3)使用夸張標(biāo)題，內(nèi)容與標(biāo)題嚴(yán)重不符的。
8.「飯圈」亂象行為，主要表現(xiàn)為：
1)誘導(dǎo)未成年人應(yīng)援集資、高額消費(fèi)、投票打榜
2)粉絲互撕謾罵、拉踩引戰(zhàn)、造謠攻擊、人肉搜索、侵犯隱私
3)鼓動(dòng)「飯圈」粉絲攀比炫富、奢靡享樂(lè)等行為
4)以號(hào)召粉絲、雇用網(wǎng)絡(luò)水軍、「養(yǎng)號(hào)」形式刷量控評(píng)等行為
5)通過(guò)「蹭熱點(diǎn)」、制造話(huà)題等形式干擾輿論，影響傳播秩序
9. 其他危害行為或內(nèi)容，主要表現(xiàn)為：
1)可能引發(fā)未成年人模仿不安全行為和違反社會(huì)公德行為、誘導(dǎo)未成年人不良嗜好影響未成年人身心健康的；
2)不當(dāng)評(píng)述自然災(zāi)害、重大事故等災(zāi)難的；
3)美化、粉飾侵略戰(zhàn)爭(zhēng)行為的；
4)法律、行政法規(guī)禁止，或可能對(duì)網(wǎng)絡(luò)生態(tài)造成不良影響的其他內(nèi)容。
二、違規(guī)處罰
本網(wǎng)站通過(guò)主動(dòng)發(fā)現(xiàn)和接受用戶(hù)舉報(bào)兩種方式收集違規(guī)行為信息。所有有意的降低內(nèi)容質(zhì)量、傷害平臺(tái)氛圍及欺凌未成年人或危害未成年人身心健康的行為都是不能容忍的。
當(dāng)一個(gè)用戶(hù)發(fā)布違規(guī)內(nèi)容時(shí)，本網(wǎng)站將依據(jù)相關(guān)用戶(hù)違規(guī)情節(jié)嚴(yán)重程度，對(duì)帳號(hào)進(jìn)行禁言 1 天、7 天、15 天直至永久禁言或封停賬號(hào)的處罰。當(dāng)涉及欺凌未成年人、危害未成年人身心健康、通過(guò)作弊手段注冊(cè)、使用帳號(hào)，或者濫用多個(gè)帳號(hào)發(fā)布違規(guī)內(nèi)容時(shí)，本網(wǎng)站將加重處罰。
三、申訴
隨著平臺(tái)管理經(jīng)驗(yàn)的不斷豐富，本網(wǎng)站出于維護(hù)本網(wǎng)站氛圍和秩序的目的，將不斷完善本公約。
如果本網(wǎng)站用戶(hù)對(duì)本網(wǎng)站基于本公約規(guī)定做出的處理有異議，可以通過(guò)「建議反饋」功能向本網(wǎng)站進(jìn)行反饋。
(規(guī)則的最終解釋權(quán)歸屬本網(wǎng)站所有)