//OpenAI創(chuàng)始人：AI可能毀滅人類，必須開(kāi)發(fā)新技術(shù)來(lái)解決！//

OpenAI創(chuàng)始人兼首席執(zhí)行官Sam Altman上周六（3月25日）在接受科技博客主Lex Fridman的采訪時(shí)表態(tài)，他不會(huì)回避“人工智能可能殺死全人類”的說(shuō)法。

在Youtube平臺(tái)公布的視頻中，F(xiàn)ridman在訪談中提到了人工智能研究者、LessWrong研究所創(chuàng)始人Eliezer Yudkowsky的觀點(diǎn)。Yudkowsky此前指出“人工智能可能殺死所有人”，并認(rèn)為，當(dāng)人工智能發(fā)展為超級(jí)智能時(shí)，幾乎無(wú)法與人類站在統(tǒng)一戰(zhàn)線上。

對(duì)于此，Altman回應(yīng)道，“我認(rèn)為有這種可能性，并且承認(rèn)這一點(diǎn)很重要，因?yàn)槿绻覀儾徽務(wù)撍⒉话阉暈闈撛诘氖聦?shí)，那么我們就不會(huì)投入足夠的努力去解決這個(gè)問(wèn)題。”

“我認(rèn)為我們必須開(kāi)發(fā)新的技術(shù)來(lái)解決這個(gè)問(wèn)題…我所知道的解決這類問(wèn)題的*方法就是不斷迭代，盡早學(xué)習(xí)?！?/p>

GPT的推理能力

在此次采訪中，Altman提出了一點(diǎn)關(guān)于GPT的新穎之處，即推理能力。

“這個(gè)模型的神奇之處在于…對(duì)于很多它都不準(zhǔn)確的定義，它可以進(jìn)行某種推理?！?/p>

Altman指出，“我認(rèn)為這很了不起，最令人興奮的是，在提取人類知識(shí)的過(guò)程中，它產(chǎn)生了這種推理能力?！?/p>

關(guān)于偏向性的爭(zhēng)議

在與Lex Fridman的談?wù)撝?，Sam Altman討論了關(guān)于語(yǔ)言模型GPT的一個(gè)爭(zhēng)議性話題，即GPT是否太過(guò)“woke”（有清醒、覺(jué)醒之意）了，也就是說(shuō)該語(yǔ)言模型給出的答案是否存在偏向性。

例如，世界各地許多存在右翼傾向的新聞媒體指責(zé)OpenAI的ChatGPT在某些交互示例中，表現(xiàn)出自由主義偏見(jiàn)。

“Woke”這個(gè)詞*是埃隆·馬斯克在推特上提出的。他寫(xiě)道，“訓(xùn)練AI覺(jué)醒的風(fēng)險(xiǎn)，換句話說(shuō)就是訓(xùn)練其撒謊，是相當(dāng)致命的”。

對(duì)此，Altman在此次采訪中表示，“說(shuō)實(shí)話，我甚至不知道‘woke’是什么意思”。

不過(guò)Altman也承認(rèn)，“GPT確實(shí)存在偏見(jiàn)，而且可能永遠(yuǎn)都是如此?！?/p>

Altman繼續(xù)解釋道，任何一個(gè)版本的GPT都不會(huì)是完全沒(méi)有偏見(jiàn)的、能被全世界公認(rèn)是公正的。這是因?yàn)镃hatGPT在推出之際，借助了外部力量進(jìn)行迭代更新，也就是讓全世界的人參與進(jìn)來(lái)去“塑造”它，所以該模型所存在的偏見(jiàn)是無(wú)法避免的。

Altman還指出，OpenAI已經(jīng)對(duì)模型進(jìn)行了重大改進(jìn)，以減輕固有偏見(jiàn)并提高其準(zhǔn)確性，一些對(duì)GPT模型批評(píng)最嚴(yán)厲的人，也贊揚(yáng)了OpenAI在GPT-3.5版本升級(jí)為GPT-4版本之時(shí)所做的改進(jìn)。Altman同時(shí)也承認(rèn)，未來(lái)還有很多工作要做。

與馬斯克的恩怨

在此次訪談中，他也提到了OpenAI和埃隆·馬斯克之間的恩怨。自O(shè)penAI推出ChatGPT后，馬斯克一直在推特上提出批評(píng)。

Altman，“埃隆顯然正在推特上從不同角度攻擊我們”。

馬斯克是OpenAI的聯(lián)合創(chuàng)始人，但之后由于理念不同，在2019年與該公司徹底分道揚(yáng)鑣。而最近幾個(gè)月，在ChatGPT帶動(dòng)的人工智能熱潮中，馬斯克重新燃起了他對(duì)OpenAI的“關(guān)心“。

這位億萬(wàn)富翁指責(zé)OpenAI與微軟的合作讓它從以前的非營(yíng)利組織變成了現(xiàn)在“*的營(yíng)利公司”。據(jù)悉，微軟已向OpenAI投資了100多億美元。

馬斯克還把矛頭對(duì)準(zhǔn)了該公司的熱門聊天機(jī)器人ChatGPT，他在推特上諷刺這項(xiàng)技術(shù)“好得嚇人”，并表示“我們離危險(xiǎn)的強(qiáng)大人工智能不遠(yuǎn)了”。

對(duì)于馬斯克的“非營(yíng)利性”指控，Altman回應(yīng)道，“我們很早就意識(shí)到，我們需要的資金遠(yuǎn)遠(yuǎn)超過(guò)我們作為非營(yíng)利組織所能籌集到的資金?！?/p>

Altman回應(yīng)道，他理解馬斯克對(duì)人工通用智能（AGI）的保留意見(jiàn)，AGI是一種能夠像人類一樣思考和學(xué)習(xí)智力任務(wù)的人工智能系統(tǒng)。也有不少該領(lǐng)域的專家同樣對(duì)AGI技術(shù)表示擔(dān)憂，稱如果這些系統(tǒng)以意想不到的方式運(yùn)行或變得難以控制，可能會(huì)導(dǎo)致“災(zāi)難性的結(jié)果”。

與此同時(shí)，Altman也提到，“馬斯克在我心中是英雄，我支持也理解他的擔(dān)憂…但希望馬斯克能承認(rèn)OpenAI在解決AGI安全問(wèn)題是所付出的努力。”

目前，OpenAI公司鼓勵(lì)對(duì)監(jiān)管這些系統(tǒng)展開(kāi)討論，并表示正在收集公眾的反饋，以完善其技術(shù)。