新南威爾士大學(xué) | 每個(gè)人都在使用ChatGPT,但沒人知道它到底是如何工作的
指南者留學(xué)
2023-01-07 17:31:03
閱讀量:1203
<p>ChatGPT是目前最新、最令人印象深刻的人工智能聊天機(jī)器人。這款應(yīng)用于兩周前發(fā)布,在短短5天內(nèi)就突破了100萬用戶。</p>
<p> </p>
<p>它被使用得如此之多,以至于它的服務(wù)器已經(jīng)達(dá)到了幾次容量。</p>
<p> </p>
<p>開發(fā)該軟件的OpenAI公司已經(jīng)被認(rèn)為是潛在的谷歌殺手。當(dāng)ChatGPT可以寫出一整段來解釋答案時(shí),為什么要在搜索引擎上查找呢?(甚至有一個(gè)Chrome擴(kuò)展可以讓你同時(shí)做這兩件事。)</p>
<p> </p>
<p>但如果我們永遠(yuǎn)不知道ChatGPT功能背后的秘密呢?</p>
<p> </p>
<p>該聊天機(jī)器人利用了過去幾十年公開科學(xué)文獻(xiàn)中發(fā)表的許多技術(shù)進(jìn)步。但任何獨(dú)特的創(chuàng)新都是秘密。OpenAI很可能正試圖建立一條技術(shù)和業(yè)務(wù)護(hù)城河,將其他公司擋在門外。</p>
<p> </p>
<p>ChatPGT網(wǎng)站由于大量用戶涌入而多次宕機(jī)。OpenAI /截圖</p>
<p> </p>
<p>它能做什么(不能做什么)</p>
<p><br />ChatGPT功能非常強(qiáng)大。想聽一段關(guān)于聊天機(jī)器人的俳句嗎?確定。</p>
<p> </p>
<p>聊天機(jī)器人,太聰明了</p>
<p> </p>
<p><strong><span class="h1">沒完沒了地處理</span></strong></p>
<p> </p>
<p>答案來自虛空。</p>
<p> </p>
<p>來個(gè)關(guān)于聊天機(jī)器人的笑話怎么樣?沒有問題。</p>
<p> </p>
<p>為什么聊天機(jī)器人要過馬路?</p>
<p> </p>
<p>去你屏幕的另一邊!</p>
<p> </p>
<p>ChatGPT還可以做很多其他的技巧。它可以按照用戶的要求編寫計(jì)算機(jī)代碼,起草商業(yè)信函或租賃合同,撰寫家庭作業(yè),甚至通過大學(xué)考試。</p>
<p> </p>
<p>同樣重要的是ChatGPT不能做什么。例如,它很難區(qū)分真理和謬誤。它通常也是一個(gè)有說服力的說謊者。</p>
<p> </p>
<p>最快的海洋哺乳動(dòng)物是什么?</p>
<p> </p>
<p>最快的海洋哺乳動(dòng)物是旗魚。</p>
<p> </p>
<p>旗魚不是哺乳動(dòng)物。</p>
<p> </p>
<p>你是對的,旗魚不是哺乳動(dòng)物。我為這個(gè)錯(cuò)誤道歉。最快的海洋哺乳動(dòng)物是游隼。</p>
<p> </p>
<p>ChatGPT有點(diǎn)像你手機(jī)上的自動(dòng)完成功能。你的手機(jī)是根據(jù)單詞字典進(jìn)行訓(xùn)練的,所以它能完成單詞。ChatGPT在幾乎所有的網(wǎng)絡(luò)上都受過訓(xùn)練,因此可以完成整個(gè)句子甚至整個(gè)段落。</p>
<p> </p>
<p>然而,它不明白自己在說什么,只知道接下來最有可能出現(xiàn)什么詞。</p>
<p> </p>
<p><strong><span class="h1">僅按名稱打開</span></strong></p>
<p><br />在過去,人工智能的進(jìn)步一直伴隨著同行評議的文獻(xiàn)。</p>
<p> </p>
<p>例如,在2018年,谷歌Brain團(tuán)隊(duì)開發(fā)了BERT神經(jīng)網(wǎng)絡(luò),現(xiàn)在大多數(shù)自然語言處理系統(tǒng)都基于此(我們懷疑ChatGPT也是如此),這些方法發(fā)表在同行評審的科學(xué)論文中,代碼也是開源的。</p>
<p> </p>
<p>2021年,DeepMind的蛋白質(zhì)折疊軟件AlphaFold 2被評為《科學(xué)》年度突破。該軟件及其結(jié)果是開源的,因此世界各地的科學(xué)家都可以使用它們來推進(jìn)生物學(xué)和醫(yī)學(xué)。</p>
<p> </p>
<p>在ChatGPT發(fā)布之后,我們只有一篇簡短的博文來描述它是如何工作的。目前還沒有跡象表明會(huì)有相應(yīng)的科學(xué)出版物,也沒有跡象表明這些代碼將是開源的。</p>
<p> </p>
<p>要理解為什么ChatGPT可以保密,你必須了解一下它背后的公司。</p>
<p> </p>
<p>OpenAI可能是硅谷出現(xiàn)的最奇怪的公司之一。它成立于2015年,是一家非營利組織,旨在以“造福全人類”的方式推廣和開發(fā)“友好的”人工智能。埃隆·馬斯克、彼得·蒂爾和其他科技界領(lǐng)軍人物承諾為其目標(biāo)提供10億美元。</p>
<p> </p>
<p>他們的想法是,我們不能相信以盈利為目的的公司開發(fā)出越來越強(qiáng)大的人工智能,與人類的繁榮保持一致。因此,人工智能需要由非營利機(jī)構(gòu)開發(fā),而且顧名思義,需要以開放的方式進(jìn)行。</p>
<p> </p>
<p>2019年,OpenAI轉(zhuǎn)型為一家有上限的營利性公司(投資者的最高回報(bào)率為投資的100倍),并從微軟獲得了10億美元的投資,以便擴(kuò)大規(guī)模并與科技巨頭競爭。</p>
<p> </p>
<p>似乎資金阻礙了OpenAI最初的開放計(jì)劃。</p>
<p> </p>
<p><strong><span class="h1">從用戶身上獲利</span></strong></p>
<p><br />除此之外,OpenAI似乎正在利用用戶的反饋來過濾ChatGPT產(chǎn)生幻覺的虛假答案。</p>
<p> </p>
<p>根據(jù)OpenAI的博客,最初在ChatGPT中使用強(qiáng)化學(xué)習(xí),使用昂貴的手工構(gòu)建的訓(xùn)練集來降低虛假和/或有問題的答案的排名。</p>
<p> </p>
<p>但ChatGPT現(xiàn)在似乎正在被它的100多萬用戶調(diào)整。我想,用其他任何方式獲得這種人的反饋都是非常昂貴的。</p>
<p> </p>
<p>我們現(xiàn)在面臨的前景是,使用科學(xué)文獻(xiàn)中沒有描述的方法,以及數(shù)據(jù)集僅限于一家似乎只是名義上開放的公司,人工智能將取得重大進(jìn)展。</p>
<p> </p>
<p>下一個(gè)在哪里?</p>
<p><br />在過去十年中,人工智能的快速發(fā)展在很大程度上得益于學(xué)術(shù)界和商界的開放態(tài)度。我們擁有的所有主要人工智能工具都是開源的。</p>
<p> </p>
<p>但在開發(fā)更有能力的人工智能的競賽中,這種情況可能即將結(jié)束。如果人工智能領(lǐng)域的開放性降低,我們可能會(huì)看到這一領(lǐng)域的進(jìn)展放緩。我們還可能看到新的壟斷企業(yè)出現(xiàn)。</p>
<p> </p>
<p>如果歷史可以借鑒的話,我們知道缺乏透明度是科技領(lǐng)域不良行為的觸發(fā)因素。因此,當(dāng)我們繼續(xù)贊美(或批評)ChatGPT時(shí),我們不應(yīng)該忽視它出現(xiàn)在我們身上的情況。</p>
<p> </p>
<p>除非我們小心謹(jǐn)慎,否則似乎標(biāo)志著人工智能黃金時(shí)代的事情實(shí)際上可能標(biāo)志著它的終結(jié)。</p>
<p> </p>
<p>談話</p>
<p> </p>
<p>托比·沃爾什,新南威爾士大學(xué)人工智能教授,新南威爾士大學(xué)悉尼分校研究組負(fù)責(zé)人</p>
<p> </p>
<p>本文基于創(chuàng)作共用許可,從The Conversation重新發(fā)布。閱讀原文。</p>
<p> </p>
<blockquote>
<p>注:本文由院校官方新聞直譯,僅供參考,不代表指南者留學(xué)態(tài)度觀點(diǎn)。</p>
</blockquote>