隨著ChatGPT熱潮，當(dāng)全社會(huì)都在為AI的進(jìn)化而歡呼雀躍之時(shí)，很多科技界和學(xué)術(shù)界部分人卻認(rèn)為 AI 技術(shù)風(fēng)險(xiǎn)越來(lái)越高。

鈦媒體App 3月29日消息，未來(lái)生命研究所（Future of Life Institute）今天公布了一封《暫停大型人工智能研究》的公開(kāi)信，呼吁所有AI實(shí)驗(yàn)室立即暫停訓(xùn)練比GPT-4更強(qiáng)大的人工智能（AI）系統(tǒng)至少6個(gè)月，呼吁共同開(kāi)發(fā)和實(shí)施用于高級(jí)AI開(kāi)發(fā)的共享安全協(xié)議，并接受獨(dú)立外部監(jiān)督，以避免可能導(dǎo)*端風(fēng)險(xiǎn)的大規(guī)模技術(shù)變革。

該機(jī)構(gòu)以“引導(dǎo)變革性技術(shù)造福生活，遠(yuǎn)離極端的大規(guī)模風(fēng)險(xiǎn)”為使命。信中稱，只有當(dāng)確保強(qiáng)大的 AI 系統(tǒng)的效果是積極的，其風(fēng)險(xiǎn)是可控的才能繼續(xù)開(kāi)發(fā)。AI 實(shí)驗(yàn)室和獨(dú)立專家應(yīng)在暫停期間，共同制定和實(shí)施一套先進(jìn)的 AI 設(shè)計(jì)和開(kāi)發(fā)的共享安全協(xié)議，由獨(dú)立的外部專家進(jìn)行嚴(yán)格的審查和監(jiān)督。

截止目前，世界首富、特斯拉CEO馬斯克，蘋(píng)果聯(lián)合創(chuàng)始人Steve Wozniak，“AI教父”Geoffrey Hinton，Stability AI 創(chuàng)始人Emad Mostaque等1000多名科技大咖和 AI 技術(shù)專家均簽署了這封公開(kāi)信。

值得一提的是，此前有推特網(wǎng)友發(fā)現(xiàn)OpenAI CEO Sam Altman曾出現(xiàn)在呼吁暫停大型 AI 訓(xùn)練公開(kāi)信簽名處，推特研發(fā)工程師Rahul Ligma也在列，現(xiàn)在二人名字均已消失。

實(shí)際上，隨著ChatGPT和GPT-4風(fēng)靡全球、全球熱議，一時(shí)與ChatGPT相關(guān)的各種信息遍布網(wǎng)絡(luò)。但隨著討論熱度轉(zhuǎn)向通用 AI 技術(shù)帶來(lái)的風(fēng)險(xiǎn)話題，OpenAI公司CEO奧特曼（Sam Altman）自身也加入其中。

3月27日公布的麻省理工學(xué)院研究科學(xué)家Lex Fridman節(jié)目中，奧特曼提到，強(qiáng)大的 AI 殺死人類有一定可能性。“很多關(guān)于 AI 安全和挑戰(zhàn)的預(yù)測(cè)被證明是錯(cuò)誤的，我們必須正視這一點(diǎn)，并盡早嘗試找到解決問(wèn)題的方法?！?/p>

在奧特曼看來(lái)，GPT-4已經(jīng)讓大家看到，AI“殺死”人類不再是空談。他坦言，“客服”將會(huì)是受到大規(guī)模沖擊的工作類型。

今天的這封公開(kāi)信中，核心是呼吁所有 AI 實(shí)驗(yàn)室立即暫停比GPT-4更強(qiáng)大的 AI 系統(tǒng)的訓(xùn)練，時(shí)間至少持續(xù)6個(gè)月，并稱政府應(yīng)該介入并制定暫停令。但信中指出，這并不意味著暫停一般的 AI 開(kāi)發(fā)，只是從危險(xiǎn)的競(jìng)賽中退后一步，限制不可預(yù)測(cè)的研究和開(kāi)發(fā)。

公開(kāi)信中強(qiáng)調(diào)，AI 的研究和開(kāi)發(fā)應(yīng)該重新聚焦于，使目前*進(jìn)和強(qiáng)大的系統(tǒng)更加準(zhǔn)確、安全、可解釋、透明、穩(wěn)健、一致、值得信賴和忠誠(chéng)。

鈦媒體App根據(jù)現(xiàn)有公開(kāi)信息整理，目前ChatGPT相關(guān)技術(shù)依然存在無(wú)法進(jìn)行事實(shí)核查容易提供詐騙信息、個(gè)人數(shù)據(jù)與商業(yè)秘密泄露、輸出虛假信息、語(yǔ)料庫(kù)與生成文本的侵權(quán)問(wèn)題等問(wèn)題，存在一定的法律漏洞。如果沒(méi)有監(jiān)督和解決，AI 技術(shù)可能會(huì)威脅人類日常生活。

據(jù)報(bào)道，數(shù)據(jù)安全服務(wù)Cyberhaven檢測(cè)到并阻止了其客戶公司160萬(wàn)名員工中4.2%的人將數(shù)據(jù)輸入ChatGPT的請(qǐng)求，因?yàn)榇嬖谛孤稒C(jī)密信息、客戶數(shù)據(jù)、源代碼或監(jiān)管信息的風(fēng)險(xiǎn)。目前，摩根大通已經(jīng)限制員工使用 ChatGPT，亞馬遜、微軟和沃爾瑪也已向員工發(fā)出警告，要求員工謹(jǐn)慎使用生成式 AI 服務(wù)。

截至目前，多位科技大咖和學(xué)術(shù)界人士對(duì)于 AI 技術(shù)帶來(lái)的風(fēng)險(xiǎn)挑戰(zhàn)表達(dá)諸多看法，對(duì)AI發(fā)展的潛在威脅表示關(guān)切，強(qiáng)調(diào)在推動(dòng)技術(shù)進(jìn)步的同時(shí)確保人類的安全和福祉：

特斯拉CEO馬斯克（Elon Musk）：他認(rèn)為 AI 是人類面臨的*威脅之一。他警告說(shuō)，如果沒(méi)有適當(dāng)?shù)谋O(jiān)管和控制，AI可能導(dǎo)致意想不到的后果，甚至危及人類生存；

已故著名物理學(xué)家霍金 (Stephen Hawking)：在生前，霍金表示 AI 的發(fā)展可能是人類最偉大的成就，也可能是最終的災(zāi)難。他認(rèn)為，如果AI發(fā)展得當(dāng)，將為人類帶來(lái)巨大利益；但如果失控，可能導(dǎo)致人類的毀滅；

微軟創(chuàng)始人比爾·蓋茨（Bill Gates）：他認(rèn)為在某些方面，AI可能會(huì)取代人類工作，導(dǎo)致失業(yè)率上升。此外，他還擔(dān)憂AI在未來(lái)可能會(huì)成為一種強(qiáng)大且不受控制的力量；

哲學(xué)家，牛津大學(xué)未來(lái)人類研究所所長(zhǎng)Nick Bostrom：在他的著作中，他認(rèn)為，如果AI發(fā)展超過(guò)人類智能，可能會(huì)導(dǎo)致無(wú)法預(yù)測(cè)和控制的后果；

哲學(xué)家，神經(jīng)科學(xué)家Sam Harris：AI的發(fā)展可能會(huì)導(dǎo)致人類失去對(duì)未來(lái)的控制。他強(qiáng)調(diào)，隨著AI技術(shù)的進(jìn)步，人類必須思考如何在保持創(chuàng)新的同時(shí)確保安全與穩(wěn)定。

在科學(xué)界希望暫停強(qiáng)大 AI 技術(shù)研究的消息公布之后，國(guó)內(nèi)很多商業(yè)大咖也表達(dá)相關(guān)看法。

其中，自動(dòng)駕駛芯片公司地平線創(chuàng)始人兼CEO余凱在其微信朋友圈稱，通用人工智能（AGI）正在失控的發(fā)展，會(huì)給人類帶來(lái)巨大的風(fēng)險(xiǎn)，呼吁推動(dòng) AI 計(jì)算的平權(quán)。保護(hù)自己的隱私，透明干預(yù)各種AGI模型的行為，控制AGI帶來(lái)的風(fēng)險(xiǎn)。

3月29日，360公司創(chuàng)始人、董事長(zhǎng)周鴻祎表示，GPT是一個(gè)改變世界的東西，它開(kāi)啟了 AI 技術(shù)新時(shí)代。而如今，GPT-4已經(jīng)是世界上最聰明的“人”。“我們不要用原來(lái)的眼光看待今天的 GPT，所以很多人對(duì) AI 有焦慮。”

腦機(jī)接口公司腦虎科技聯(lián)合創(chuàng)始人、CEO彭雷表示，照這個(gè)發(fā)展速度，他預(yù)測(cè)未來(lái)兩年內(nèi)會(huì)出來(lái)一個(gè)類似“核不擴(kuò)散條約”的“AGI不擴(kuò)散條約”，限定超過(guò)一定量級(jí)的大模型被部署和訓(xùn)練，甚至安理會(huì)成員國(guó)來(lái)締約簽署，并搞個(gè)類似“國(guó)際原子能機(jī)構(gòu)”來(lái)監(jiān)督模型的參數(shù)和運(yùn)行狀態(tài)，類似管理離心機(jī)一樣。

事實(shí)上，奧特曼先前對(duì)外媒表示，他擔(dān)心 AI 取代人類工作的變化很快到來(lái)。“人類已經(jīng)證明自己可以適應(yīng)重大技術(shù)變革，但如果這種情況發(fā)生在個(gè)位數(shù)的幾年內(nèi)便是我擔(dān)心的部分。人類擁有無(wú)限創(chuàng)造力，我們找到新工作、找到新的事情去做?！?/p>

早前，微軟研究院團(tuán)隊(duì)發(fā)布長(zhǎng)達(dá)154頁(yè)的論文《通用 AI的火花：GPT-4早期實(shí)驗(yàn)》。結(jié)果表明，微軟認(rèn)為，GPT-4是一種非常強(qiáng)大的 AI 系統(tǒng)，它在許多任務(wù)和領(lǐng)域中表現(xiàn)出了驚人的能力，并且在某些方面甚至可以與人類相媲美。然而，GPT-4仍然存在一些局限性和挑戰(zhàn)，需要進(jìn)一步研究和發(fā)展才能實(shí)現(xiàn)更深入、更全面的AGI系統(tǒng)。

OpenAI 的官方研究顯示，美國(guó)80%的工作職業(yè)中，都將因GPT-4而取代人類工作。該研究發(fā)現(xiàn)，除會(huì)計(jì)師外，數(shù)學(xué)專家、口譯員、作家以及近20%的美國(guó)勞動(dòng)人口，也深受AI影響。最不受影響的工作包括快餐廚師、摩托車技師和石油和天然氣雜工。

“GPT-4可被視作 AGI 的早期版本?！蔽④浹芯繄F(tuán)隊(duì)表示，GPT-4標(biāo)志著計(jì)算機(jī)科學(xué)領(lǐng)域及其他領(lǐng)域真正的范式轉(zhuǎn)變?！?/p>

高盛3月27日發(fā)布報(bào)告指出，全球預(yù)計(jì)將有3億個(gè)工作崗位最終被 AI 取代。假設(shè)生成式 AI 實(shí)現(xiàn)了各企業(yè)承諾的能力，勞動(dòng)力市場(chǎng)將面臨挑戰(zhàn)，AI 可以接手美國(guó)和歐洲高達(dá)四分之一的工作。報(bào)告預(yù)計(jì)，隨著勞動(dòng)生產(chǎn)力提高，AI 應(yīng)用有望使全球在下一個(gè)10年內(nèi)，推動(dòng)全球GDP（國(guó)內(nèi)生產(chǎn)總值）年復(fù)合增長(zhǎng)率將達(dá)到7%。

那么，ChatGPT是如何看待公開(kāi)信中 AI 對(duì)人類社會(huì)的影響？

ChatGPT回應(yīng)稱：這表示隨著 AI 技術(shù)的不斷發(fā)展和普及，AI 可能對(duì)社會(huì)和人類造成的影響將越來(lái)越大。這封公開(kāi)信提出的呼吁和建議，應(yīng)該被視為引起更廣泛和深入討論的起點(diǎn)和參考，而不是一個(gè)終點(diǎn)或解決方案。