//OpenAI創(chuàng)始人：AI可能毀滅人類，必須開發(fā)新技術來解決！//

OpenAI創(chuàng)始人兼首席執(zhí)行官Sam Altman上周六（3月25日）在接受科技博客主Lex Fridman的采訪時表態(tài)，他不會回避“人工智能可能殺死全人類”的說法。

在Youtube平臺公布的視頻中，F(xiàn)ridman在訪談中提到了人工智能研究者、LessWrong研究所創(chuàng)始人Eliezer Yudkowsky的觀點。Yudkowsky此前指出“人工智能可能殺死所有人”，并認為，當人工智能發(fā)展為超級智能時，幾乎無法與人類站在統(tǒng)一戰(zhàn)線上。

對于此，Altman回應道，“我認為有這種可能性，并且承認這一點很重要，因為如果我們不談論它、不把它視為潛在的事實，那么我們就不會投入足夠的努力去解決這個問題?！?/p>

“我認為我們必須開發(fā)新的技術來解決這個問題…我所知道的解決這類問題的*方法就是不斷迭代，盡早學習?！?/p>

GPT的推理能力

在此次采訪中，Altman提出了一點關于GPT的新穎之處，即推理能力。

“這個模型的神奇之處在于…對于很多它都不準確的定義，它可以進行某種推理?！?/p>

Altman指出，“我認為這很了不起，最令人興奮的是，在提取人類知識的過程中，它產(chǎn)生了這種推理能力。”

關于偏向性的爭議

在與Lex Fridman的談論中，Sam Altman討論了關于語言模型GPT的一個爭議性話題，即GPT是否太過“woke”（有清醒、覺醒之意）了，也就是說該語言模型給出的答案是否存在偏向性。

例如，世界各地許多存在右翼傾向的新聞媒體指責OpenAI的ChatGPT在某些交互示例中，表現(xiàn)出自由主義偏見。

“Woke”這個詞*是埃隆·馬斯克在推特上提出的。他寫道，“訓練AI覺醒的風險，換句話說就是訓練其撒謊，是相當致命的”。

對此，Altman在此次采訪中表示，“說實話，我甚至不知道‘woke’是什么意思”。

不過Altman也承認，“GPT確實存在偏見，而且可能永遠都是如此?！?/p>

Altman繼續(xù)解釋道，任何一個版本的GPT都不會是完全沒有偏見的、能被全世界公認是公正的。這是因為ChatGPT在推出之際，借助了外部力量進行迭代更新，也就是讓全世界的人參與進來去“塑造”它，所以該模型所存在的偏見是無法避免的。

Altman還指出，OpenAI已經(jīng)對模型進行了重大改進，以減輕固有偏見并提高其準確性，一些對GPT模型批評最嚴厲的人，也贊揚了OpenAI在GPT-3.5版本升級為GPT-4版本之時所做的改進。Altman同時也承認，未來還有很多工作要做。

與馬斯克的恩怨

在此次訪談中，他也提到了OpenAI和埃隆·馬斯克之間的恩怨。自OpenAI推出ChatGPT后，馬斯克一直在推特上提出批評。

Altman，“埃隆顯然正在推特上從不同角度攻擊我們”。

馬斯克是OpenAI的聯(lián)合創(chuàng)始人，但之后由于理念不同，在2019年與該公司徹底分道揚鑣。而最近幾個月，在ChatGPT帶動的人工智能熱潮中，馬斯克重新燃起了他對OpenAI的“關心“。

這位億萬富翁指責OpenAI與微軟的合作讓它從以前的非營利組織變成了現(xiàn)在“*的營利公司”。據(jù)悉，微軟已向OpenAI投資了100多億美元。

馬斯克還把矛頭對準了該公司的熱門聊天機器人ChatGPT，他在推特上諷刺這項技術“好得嚇人”，并表示“我們離危險的強大人工智能不遠了”。

對于馬斯克的“非營利性”指控，Altman回應道，“我們很早就意識到，我們需要的資金遠遠超過我們作為非營利組織所能籌集到的資金?！?/p>

Altman回應道，他理解馬斯克對人工通用智能（AGI）的保留意見，AGI是一種能夠像人類一樣思考和學習智力任務的人工智能系統(tǒng)。也有不少該領域的專家同樣對AGI技術表示擔憂，稱如果這些系統(tǒng)以意想不到的方式運行或變得難以控制，可能會導致“災難性的結果”。

與此同時，Altman也提到，“馬斯克在我心中是英雄，我支持也理解他的擔憂…但希望馬斯克能承認OpenAI在解決AGI安全問題是所付出的努力。”

目前，OpenAI公司鼓勵對監(jiān)管這些系統(tǒng)展開討論，并表示正在收集公眾的反饋，以完善其技術。