很可惜 T 。T 您現(xiàn)在還不是作者身份，不能自主發(fā)稿哦～
如有投稿需求，請把文章發(fā)送到郵箱tougao@appcpx.com，一經(jīng)錄用會有專人和您聯(lián)系
咨詢如何成為春羽作者請聯(lián)系：鳥哥筆記小羽毛（ngbjxym）
來源|BLUES
隨著 OpenAI 官方推特的一個消息發(fā)布，一張其樂融融的團隊合照表明這場CEO更換大戲終于告一段落：如果沒有團隊，OpenAI 啥也不是。
OpenAI 官方推特消息稱：我們已原則上達成協(xié)議，讓Sam Altman 重返 OpenAl擔任首席執(zhí)行官，并組建由 Bret Taylor（主席）、LarrySummers 和 Adam D'Angelo 組成的新初始董事會。我們正在合作解決細節(jié)問題，非常感謝您對此的耐心。
再看看奧特曼的推文：
如今，奧特曼終于重返 OpenAI，回顧一下這個事件的始末：
11月17日， OpenAI發(fā)表了一篇博文，宣布CEO山姆·奧特曼將離開公司，CTO米拉·穆拉提被任命為臨時CEO，任命立即生效。博文中還指出：“奧特曼先生在與董事會的溝通中沒有保持坦誠，阻礙了董事會履行其職責的能力。董事會不再對他繼續(xù)領導OpenAI持有信心”。
11月18日 OpenAI 的投資者向董事會施壓，奧特曼試圖重新回歸 OpenAI，
11月19日，OpenAI董事會聘請亞馬遜游戲直播平臺Twitch的前CEO埃米特·希爾擔任CEO，奧特曼回歸失敗。埃米特·希爾在X上寫道：“今天我接到一個電話，邀請我考慮一個千載難逢的機會：成為OpenAI的臨時CEO，在與家人協(xié)商并思考了幾個小時后，我接受了。”
11月20日，周一，OpenAI公開反抗，490名員工威脅要離開，除非董事會辭職，并讓山姆•奧特曼重新?lián)问紫瘓?zhí)行官，以及讓聯(lián)合創(chuàng)始人兼前總裁格雷格•布羅克曼回歸。
11月20日周一，微軟CEO薩提亞·納德拉宣布：OpenAI創(chuàng)始人奧特曼和布羅克曼及其同事們將加入微軟，領導一個新的高級人工智能研究團隊。
11月21日周二，700多名OpenAI員工要求董事會辭職，否則可能集體投奔微軟。OpenAI員工表示：“微軟已向我們保證，將雇傭OpenAI所有的前員工。”
11 月22日，OpenAI宣布奧爾特曼（Sam Altman）將重新?lián)卧摴臼紫瘓?zhí)行官。并組建由 Facebook 首席技術官 Bret Taylor （主席）、奧巴馬政府前首席財務顧問 Larry Summers 和 Facebook 首任 CTO Adam D'Angelo 組成的新的初始董事會。和他一起退出公司的聯(lián)合創(chuàng)始人、前董事會主席布羅克曼（Greg Brockman）也將重返公司。
其中，Adam D'Angelo（德安吉洛）是上周五解雇奧特曼的前董事會的留任者，他留在新董事會中，以便為前任董事會提供一些代表權。
至此，OpenAI內斗大戲告一段落。
那么，是什么原因導致了這一出大戲呢，這個背后，就是有效加速主義和超級對齊的理念沖突。
有效加速主義（e/acc）是一種思潮，它在某些技術和商業(yè)圈子中流行，特別是那些關注快速技術創(chuàng)新和其對經(jīng)濟及社會影響的人群之中。這個概念認為，通過利用技術進步，可以極大地提升人類生產(chǎn)力和生活質量。
通俗來講，我們可以將“有效加速主義”理解成以下幾點：
技術樂觀主義：有效加速主義者通常持有一種強烈的技術樂觀主義態(tài)度，他們相信技術的快速發(fā)展和應用能夠解決人類面臨的許多問題，包括資源匱乏、健康、教育以及生產(chǎn)效率。
積極擁抱變化：不同于一些觀點認為應該對消費主義或無序擴張持批評態(tài)度，有效加速主義者傾向于支持并推動經(jīng)濟和技術的快速發(fā)展與變革。
效率至上：此運動強調效率和速度，鼓勵采取一切必要措施來加速技術進步，從而催生新的商業(yè)模式、工作方式以及更加高效的生活方式。
戰(zhàn)略性增長：雖然追求速度很重要，但有效加速主義也關注于如何聰明地成長。這意味著并非所有的加速都是好的；選擇正確的方向和方法以實現(xiàn)最大化效果是關鍵。
未來導向：該運動的追隨者通常專注于長期的未來前景，而不僅僅是短期利益。他們可能會探索如何建立可持續(xù)的生態(tài)系統(tǒng)，確保技術進步能夠造福后代。
在Twitter等社交媒體平臺上，許多科技界領袖和創(chuàng)業(yè)者會在他們的用戶名后添加“e/acc”標簽，以表明他們贊同或參與到這一思潮中。例如，Garry Tan 和 Marc Andreessen 是這一運動的知名支持者。
需要注意的是，這樣的運動也可能引起爭議，因為過度強調效率和速度可能會導致其他價值觀被忽視，比如公平性、隱私權和環(huán)境可持續(xù)性等。此外，技術進步帶來的快速變化可能會導致社會不平等和文化沖突的加劇。
我們用一些簡單的例子和語言來解釋什么是有效加速主義（e/acc）。
假設我們把科技的進步想象成一輛車。當這輛車開得很快時，我們就像在使用電腦、智能手機或者玩視頻游戲時那樣，能迅速做很多事情。現(xiàn)在，有一群人相信我們應該盡可能地讓這輛“科技車”開得更快，這樣我們就能更快地到達我們想去的地方，也就是擁有一個更酷、更聰明、更方便的未來世界。
有效加速主義就像是我們不僅要讓車快速前進，還要確保車子走的每一步都是朝著正確的方向，并且不會浪費任何油料。比如，如果你在玩賽車游戲，只是讓車子飛快地跑，但總是撞墻或者跑錯方向，那么速度再快也沒用。有效加速主義者關注的是，在車子快速前進的同時，確保它總是在正確的軌道上，并且能夠安全地帶我們到達目的地。
例如，當老師在教室里使用電子白板代替?zhèn)鹘y(tǒng)的黑板和粉筆時，他或她可以更快地、更清楚地展示圖片和視頻，使學習更有趣，這就是一個有效利用科技提高效率的例子。或者當醫(yī)生使用先進的機器來檢查病人時，他們可以更快地找出問題，并給出治療建議，這是科技幫助我們更有效地保持健康。
所以，有效加速主義就是關于用最好的方式讓科技幫助我們更快地達到目標，并使我們的生活變得更好。
超級對齊主義者（Superalignment or Superintelligence alignment）指的是在人工智能（AI）領域所謂的“對齊問題”，即確保強大的AI系統(tǒng)的行為符合人類價值觀和利益，可以將它解釋為關于確保未來的超級智能AI與人類目標一致的研究和努力。
在AI領域中，確實有許多研究者和思想家關注了相關議題，例如尼克·博斯特羅姆（Nick Bostrom）和伊隆·馬斯克（Elon Musk）都對未來AI對齊表達了關心。
想象一下，如果你有一個非常聰明的機器人朋友，它可以做很多事情。比如，它可以幫你打掃房間、做家庭作業(yè)，甚至制作美味的三明治。現(xiàn)在，如果我們讓這個機器人變得更加聰明，像電影里的超級英雄那樣，它就能夠做更多了不起的事情。但是，我們也要確保這個超級聰明的機器人真的了解并且關心你的感受和需要，這樣它才能成為一個好朋友，而不是做出一些可能導致混亂或傷害的行動。
所謂的“超級對齊主義者”就是一些專門的人，他們的工作是教機器人如何理解并關心人類的感受和愿望。他們要確保，當機器人變得非常非常聰明時，我們仍然能和它們成為好朋友，它們能幫助我們解決問題，而不是造成麻煩。
假設你玩一個游戲，游戲里的電腦非常聰明，但是它總是想要贏得比賽，甚至不在乎是否會讓游戲變得不好玩。這樣的電腦并沒有和你的目標對齊，因為你想要的是既公平又好玩的游戲。一個超級對齊主義者會像教練一樣教這個電腦，告訴它最重要的不只是贏，還要讓每個人都享受游戲。這樣，無論電腦多聰明，它都會試著讓游戲對所有人都公平和有趣。
這個工作非常重要，因為當機器人和電腦變得越來越聰明的時候，我們要確保它們能夠理解我們真正想要的東西，并幫助我們以安全和有益的方式去實現(xiàn)。
有效加速主義可能更專注于速度和效率，而超級對齊主義可能更專注于安全和對齊人類價值。
在考慮AI對人類社會未來影響時，前者可能預測一個快速進步和富裕的未來，后者可能預測需要更多的審慎和措施來確保AI的智能得到正確引導，從而避免潛在的負面影響。
想象你正在造一輛自動駕駛的汽車：
如果你是有效加速主義者，你可能會非常興奮地工作，并且希望汽車盡快完成。你相信越快造出這輛車，我們就能越快享受到它帶來的便利和樂趣。你可能會考慮各種方式來加速進程，比如使用最新的零件，甚至在車還沒有完全準備好的時候就開始測試。
相反，如果你是超級對齊主義者，你會更加小心，確保每個部分都非常安全，并且汽車的電腦系統(tǒng)完全理解并遵循交通規(guī)則。你可能會花更多時間測試和調整系統(tǒng)，以確保汽車不僅能快速到達目的地，而且絕不會違反規(guī)則或造成危險。
有效加速主義（e/acc）觀點：
推動技術進步：有效加速主義強調促進技術，尤其是AI技術的快速發(fā)展，認為這將帶來經(jīng)濟增長和社會變革。
效率和增長：此觀點更關注于如何通過技術提高效率和生產(chǎn)力，實現(xiàn)快速的增長和創(chuàng)新。
樂觀主義：通常對技術提供的解決方案持樂觀態(tài)度，相信我們可以設計出合適的方法和策略來克服任何由AI引起的問題。
預判：該流派可能傾向于認為，即使出現(xiàn)風險，我們也有能力通過技術和制度的不斷改進來管理這些風險。
超級對齊主義者（Superalignment）觀點：
關注對齊問題：超級對齊主義者專注于理解和解決超級智能AI與人類價值和目標之間的對齊問題。
風險意識：他們認為如果AI系統(tǒng)的目標與人類的利益不一致，即便是小小的偏差，也可能導致不可預知甚至災難性的后果。
審慎發(fā)展：這個群體可能倡導更謹慎地發(fā)展AI技術，確保安全性和對齊性先行，即使這意味著犧牲一些發(fā)展速度。
預判：超級對齊主義者擔心如果沒有妥善處理對齊問題，即使是出于好意的AI也可能因理解錯誤而采取對人類不利的行動。
面對有效加速和超級對齊的主矛盾，不由想起機器人三定律，我們讓 ChatGPT來回答機器人定律與有效加速和超級對齊的關系，
機器人三定律，也稱為阿西莫夫法則（Asimov's Laws），是科幻小說家艾薩克·阿西莫夫在其作品中提出的一組用于保證機器人對人類安全的倫理原則。這些定律被設計來保護人類，并指導機器人的行為。它們是：
第一定律：機器人不得傷害人類，或因不作為而讓人類受到傷害。
第二定律：機器人必須服從人類給出的命令，除非這些命令與第一定律相沖突。
第三定律：機器人必須保護自己的存在，只要這種保護不違反第一或第二定律。
與有效加速主義的關系
有效加速主義（e/acc）強調快速技術進步和效率的提升，可能沒有直接強調像阿西莫夫定律這樣的倫理框架。然而，隨著技術發(fā)展的加速，對這些原則的考慮可能會變得越來越重要，以確保新技術不會造成傷害并能被控制使用。在這個意義上，阿西莫夫定律可以看作是實現(xiàn)技術進步的安全和倫理指南。
與超級對齊主義的關系
超級對齊主義者關注的是確保AI系統(tǒng)的目標與人類價值觀和利益的對齊，這與阿西莫夫的機器人三定律有著緊密聯(lián)系。三定律本質上是一個簡單的對齊框架，旨在確保機器人的行為符合人類的最佳利益。超級對齊主義者可能會采納這樣的規(guī)則，或發(fā)展更復雜的原則來確保AI的安全和道德行為。
總的來說，阿西莫夫的機器人三定律提供了人工智能發(fā)展中可能需要考慮的基本倫理準則，而有效加速主義和超級對齊主義都需要在其框架內解決如何將技術進步與人類安全和福祉相結合的問題。
有效加速主義可能更關注如何利用這些定律來推動技術的快速發(fā)展，而超級對齊主義則可能更集中于如何通過這些定律來確保AI的行為與人類的長遠利益保持一致。
本文為作者獨立觀點，不代表鳥哥筆記立場，未經(jīng)允許不得轉載。
《鳥哥筆記版權及免責申明》 如對文章、圖片、字體等版權有疑問，請點擊 反饋舉報
我們致力于提供一個高質量內容的交流平臺。為落實國家互聯(lián)網(wǎng)信息辦公室“依法管網(wǎng)、依法辦網(wǎng)、依法上網(wǎng)”的要求，為完善跟帖評論自律管理，為了保護用戶創(chuàng)造的內容、維護開放、真實、專業(yè)的平臺氛圍，我們團隊將依據(jù)本公約中的條款對注冊用戶和發(fā)布在本平臺的內容進行管理。平臺鼓勵用戶創(chuàng)作、發(fā)布優(yōu)質內容，同時也將采取必要措施管理違法、侵權或有其他不良影響的網(wǎng)絡信息。
一、根據(jù)《網(wǎng)絡信息內容生態(tài)治理規(guī)定》《中華人民共和國未成年人保護法》等法律法規(guī)，對以下違法、不良信息或存在危害的行為進行處理。
1. 違反法律法規(guī)的信息，主要表現(xiàn)為：
1)反對憲法所確定的基本原則；
2)危害國家安全，泄露國家秘密，顛覆國家政權，破壞國家統(tǒng)一，損害國家榮譽和利益；
3)侮辱、濫用英烈形象，歪曲、丑化、褻瀆、否定英雄烈士事跡和精神，以侮辱、誹謗或者其他方式侵害英雄烈士的姓名、肖像、名譽、榮譽；
4)宣揚恐怖主義、極端主義或者煽動實施恐怖活動、極端主義活動；
5)煽動民族仇恨、民族歧視，破壞民族團結；
6)破壞國家宗教政策，宣揚邪教和封建迷信；
7)散布謠言，擾亂社會秩序，破壞社會穩(wěn)定；
8)宣揚淫穢、色情、賭博、暴力、兇殺、恐怖或者教唆犯罪；
9)煽動非法集會、結社、游行、示威、聚眾擾亂社會秩序；
10)侮辱或者誹謗他人，侵害他人名譽、隱私和其他合法權益；
11)通過網(wǎng)絡以文字、圖片、音視頻等形式，對未成年人實施侮辱、誹謗、威脅或者惡意損害未成年人形象進行網(wǎng)絡欺凌的；
12)危害未成年人身心健康的；
13)含有法律、行政法規(guī)禁止的其他內容；
2. 不友善：不尊重用戶及其所貢獻內容的信息或行為。主要表現(xiàn)為：
1)輕蔑：貶低、輕視他人及其勞動成果；
2)誹謗：捏造、散布虛假事實，損害他人名譽；
3)嘲諷：以比喻、夸張、侮辱性的手法對他人或其行為進行揭露或描述，以此來激怒他人；
4)挑釁：以不友好的方式激怒他人，意圖使對方對自己的言論作出回應，蓄意制造事端；
5)羞辱：貶低他人的能力、行為、生理或身份特征，讓對方難堪；
6)謾罵：以不文明的語言對他人進行負面評價；
7)歧視：煽動人群歧視、地域歧視等，針對他人的民族、種族、宗教、性取向、性別、年齡、地域、生理特征等身份或者歸類的攻擊；
8)威脅：許諾以不良的后果來迫使他人服從自己的意志；
3. 發(fā)布垃圾廣告信息：以推廣曝光為目的，發(fā)布影響用戶體驗、擾亂本網(wǎng)站秩序的內容，或進行相關行為。主要表現(xiàn)為：
1)多次發(fā)布包含售賣產(chǎn)品、提供服務、宣傳推廣內容的垃圾廣告。包括但不限于以下幾種形式：
2)單個帳號多次發(fā)布包含垃圾廣告的內容；
3)多個廣告帳號互相配合發(fā)布、傳播包含垃圾廣告的內容；
4)多次發(fā)布包含欺騙性外鏈的內容，如未注明的淘寶客鏈接、跳轉網(wǎng)站等，誘騙用戶點擊鏈接
5)發(fā)布大量包含推廣鏈接、產(chǎn)品、品牌等內容獲取搜索引擎中的不正當曝光；
6)購買或出售帳號之間虛假地互動，發(fā)布干擾網(wǎng)站秩序的推廣內容及相關交易。
7)發(fā)布包含欺騙性的惡意營銷內容，如通過偽造經(jīng)歷、冒充他人等方式進行惡意營銷；
8)使用特殊符號、圖片等方式規(guī)避垃圾廣告內容審核的廣告內容。
4. 色情低俗信息，主要表現(xiàn)為：
1)包含自己或他人性經(jīng)驗的細節(jié)描述或露骨的感受描述；
2)涉及色情段子、兩性笑話的低俗內容；
3)配圖、頭圖中包含庸俗或挑逗性圖片的內容；
4)帶有性暗示、性挑逗等易使人產(chǎn)生性聯(lián)想；
5)展現(xiàn)血腥、驚悚、殘忍等致人身心不適；
6)炒作緋聞、丑聞、劣跡等；
7)宣揚低俗、庸俗、媚俗內容。
5. 不實信息，主要表現(xiàn)為：
1)可能存在事實性錯誤或者造謠等內容；
2)存在事實夸大、偽造虛假經(jīng)歷等誤導他人的內容；
3)偽造身份、冒充他人，通過頭像、用戶名等個人信息暗示自己具有特定身份，或與特定機構或個人存在關聯(lián)。
6. 傳播封建迷信，主要表現(xiàn)為：
1)找人算命、測字、占卜、解夢、化解厄運、使用迷信方式治??；
2)求推薦算命看相大師；
3)針對具體風水等問題進行求助或咨詢；
4)問自己或他人的八字、六爻、星盤、手相、面相、五行缺失，包括通過占卜方法問婚姻、前程、運勢，東西寵物丟了能不能找回、取名改名等；
7. 文章標題黨，主要表現(xiàn)為：
1)以各種夸張、獵奇、不合常理的表現(xiàn)手法等行為來誘導用戶；
2)內容與標題之間存在嚴重不實或者原意扭曲；
3)使用夸張標題，內容與標題嚴重不符的。
8.「飯圈」亂象行為，主要表現(xiàn)為：
1)誘導未成年人應援集資、高額消費、投票打榜
2)粉絲互撕謾罵、拉踩引戰(zhàn)、造謠攻擊、人肉搜索、侵犯隱私
3)鼓動「飯圈」粉絲攀比炫富、奢靡享樂等行為
4)以號召粉絲、雇用網(wǎng)絡水軍、「養(yǎng)號」形式刷量控評等行為
5)通過「蹭熱點」、制造話題等形式干擾輿論，影響傳播秩序
9. 其他危害行為或內容，主要表現(xiàn)為：
1)可能引發(fā)未成年人模仿不安全行為和違反社會公德行為、誘導未成年人不良嗜好影響未成年人身心健康的；
2)不當評述自然災害、重大事故等災難的；
3)美化、粉飾侵略戰(zhàn)爭行為的；
4)法律、行政法規(guī)禁止，或可能對網(wǎng)絡生態(tài)造成不良影響的其他內容。
二、違規(guī)處罰
本網(wǎng)站通過主動發(fā)現(xiàn)和接受用戶舉報兩種方式收集違規(guī)行為信息。所有有意的降低內容質量、傷害平臺氛圍及欺凌未成年人或危害未成年人身心健康的行為都是不能容忍的。
當一個用戶發(fā)布違規(guī)內容時，本網(wǎng)站將依據(jù)相關用戶違規(guī)情節(jié)嚴重程度，對帳號進行禁言 1 天、7 天、15 天直至永久禁言或封停賬號的處罰。當涉及欺凌未成年人、危害未成年人身心健康、通過作弊手段注冊、使用帳號，或者濫用多個帳號發(fā)布違規(guī)內容時，本網(wǎng)站將加重處罰。
三、申訴
隨著平臺管理經(jīng)驗的不斷豐富，本網(wǎng)站出于維護本網(wǎng)站氛圍和秩序的目的，將不斷完善本公約。
如果本網(wǎng)站用戶對本網(wǎng)站基于本公約規(guī)定做出的處理有異議，可以通過「建議反饋」功能向本網(wǎng)站進行反饋。
(規(guī)則的最終解釋權歸屬本網(wǎng)站所有)