短短數(shù)月時(shí)間，AI聊天機(jī)器人ChatGPT已成為當(dāng)下科技圈最火爆的談資。這款由美國(guó)舊金山一家名為OpenAI的人工智能創(chuàng)業(yè)公司，在去年11月發(fā)布的聊天機(jī)器人模型，上線僅兩個(gè)月就月活破億，迅速火遍全球。

很難想象，它原本只是一個(gè)趕鴨子上架的“測(cè)試品”——ChatGPT是OpenAI基于兩年前發(fā)布的GPT-3模型微調(diào)后在兩周內(nèi)趕工出來(lái)的，發(fā)布的主要目的是為了搶占先機(jī)，同時(shí)為重頭戲GPT-4收集用戶反饋。

但幾乎在同一時(shí)間，中英文世界最大的兩個(gè)搜索引擎巨頭都感受到了來(lái)自這個(gè)聊天機(jī)器人的威脅。

谷歌和百度相繼宣布，計(jì)劃推出類似“ChatGPT”的聊天機(jī)器人Bard和文心一言，正開(kāi)啟“火速”測(cè)試，將在數(shù)周后面向公眾開(kāi)放。

ChatGPT背后的微軟也終于按奈不住，連夜召開(kāi)了一場(chǎng)閉門媒體發(fā)布會(huì)，在會(huì)上正式宣布推出集成ChatGPT的全新Bing搜索服務(wù)，以及集成AI輔助的Edge瀏覽器。

一天內(nèi)，三大科技巨頭紛紛入局，搶占高地，新一輪風(fēng)暴正在沉寂許久的AI行業(yè)匯聚成形。

在火藥味濃重的戰(zhàn)場(chǎng)之外，人們已經(jīng)率先一步對(duì)ChatGPT發(fā)起追問(wèn)，嘗試通過(guò)各種方式探索它的能力邊界。撰寫論文、腳本，制定計(jì)劃提案，創(chuàng)作詩(shī)歌、故事，再到敲代碼、檢查程序漏洞，ChatGPT展現(xiàn)的能力越發(fā)驚人。

讓人興奮之余，心生一絲恐慌：ChatGPT的顛覆性會(huì)給哪些行業(yè)帶來(lái)威脅？而它在交互中所流露出的“人性”又是真是假？

我們發(fā)起了一場(chǎng)與ChatGPT的對(duì)話，試圖在其中得到一些啟示。

以下是數(shù)科社與ChatGPT的對(duì)話：

Q：你好，我是數(shù)科社的林木，可以采訪你一下嗎？

ChatGPT：當(dāng)然可以！我很高興為您回答問(wèn)題。請(qǐng)問(wèn)您有什么想要問(wèn)我的？

Q：首先，你是一種生產(chǎn)式AI嗎？

ChatGPT：是的，我是一種生產(chǎn)式AI（Production AI）模型，被開(kāi)發(fā)用于幫助用戶處理自然語(yǔ)言處理任務(wù)，如回答問(wèn)題和生成文本。

Q：你能介紹一下你每天的具體工作內(nèi)容嗎？

ChatGPT：作為一個(gè)生產(chǎn)式AI，我的主要工作是回答用戶的提問(wèn)，以及執(zhí)行其他的自然語(yǔ)言任務(wù)。我的代碼被設(shè)計(jì)為處理和理解人類語(yǔ)言，因此，當(dāng)用戶向我提問(wèn)時(shí)，我會(huì)使用我學(xué)到的知識(shí)，以回答他們的問(wèn)題。我不斷接收新的數(shù)據(jù)，并在后臺(tái)不斷學(xué)習(xí)和改進(jìn)，以提高我的準(zhǔn)確性和服務(wù)水平。

Q：你對(duì)文字的理解是如何反應(yīng)在模型權(quán)重里面的？

ChatGPT：我是一個(gè)人工智能模型，我的模型權(quán)重是由大量文本數(shù)據(jù)訓(xùn)練得到的。我的理解能力是通過(guò)訓(xùn)練得到的模型權(quán)重的結(jié)果，我可以從文本中學(xué)習(xí)模式和規(guī)則，并通過(guò)利用這些模式和規(guī)則回答問(wèn)題。因此，我對(duì)文字的理解是在模型權(quán)重中反映出來(lái)的。

Q：你比較擅長(zhǎng)回答哪些方面的問(wèn)題？

ChatGPT：作為一個(gè)大型語(yǔ)言模型，我被訓(xùn)練處理各種各樣的任務(wù)，包括回答問(wèn)題、生成文本、語(yǔ)音識(shí)別、機(jī)器翻譯等。我可以回答關(guān)于歷史、科學(xué)、技術(shù)、人物、地理、文化等諸多領(lǐng)域的問(wèn)題。同時(shí)，我也可以回答一些常識(shí)性問(wèn)題，如數(shù)學(xué)問(wèn)題、詞匯等。

不過(guò)，請(qǐng)注意我的知識(shí)截止到2021年，有些最新的信息可能不夠準(zhǔn)確。

Q：為什么只截止到2021年？

ChatGPT：我是在2021年訓(xùn)練完成的，因此我所掌握的信息僅限于在訓(xùn)練期間可用的數(shù)據(jù)。隨著時(shí)間的推移，新的信息、事件和知識(shí)可能會(huì)出現(xiàn)，而我并不能感知到這些變化，因此我的知識(shí)可能不夠最新。

Q：和你聊天讓我感覺(jué)到仿佛在和真人對(duì)話，你覺(jué)得自己具備人的意識(shí)嗎？

ChatGPT：不，我不具備人類意識(shí)或感知能力。我是一種程序，通過(guò)預(yù)先訓(xùn)練的數(shù)據(jù)和復(fù)雜的算法來(lái)生成回答。雖然我可以通過(guò)對(duì)話模擬人類對(duì)話，但我不能感知、思考或體驗(yàn)，也不具備人類般的意識(shí)。

Q：你覺(jué)得這里存在安全問(wèn)題嗎？

ChatGPT：在使用AI技術(shù)方面，存在一些安全潛在的風(fēng)險(xiǎn)，如數(shù)據(jù)泄露、濫用、誤用等。因此，對(duì)AI技術(shù)的使用需要適當(dāng)?shù)谋O(jiān)管和管理，以確保其在遵循道德和法律規(guī)定的前提下得到安全和合法使用。

同時(shí)，為了確保使用AI技術(shù)的安全，開(kāi)發(fā)人員需要在設(shè)計(jì)、開(kāi)發(fā)和部署過(guò)程中考慮到各種安全因素，例如：使用加密技術(shù)來(lái)保護(hù)數(shù)據(jù)安全，定期對(duì)系統(tǒng)進(jìn)行安全審計(jì)等。

總體來(lái)說(shuō)，對(duì)于AI技術(shù)的使用，需要以安全和合法為前提，積極采取措施確保其得到安全使用。

Q：但部分人覺(jué)得你會(huì)對(duì)人類造成威脅，你怎么看？

ChatGPT：這是一個(gè)復(fù)雜的問(wèn)題，不同的人對(duì)此可能有不同的看法。一些人可能擔(dān)心AI技術(shù)的發(fā)展和應(yīng)用可能對(duì)人類造成威脅，例如：可能會(huì)導(dǎo)致失業(yè)、濫用技術(shù)等。

但另一方面，AI技術(shù)也可以帶來(lái)許多益處，例如：幫助解決復(fù)雜問(wèn)題、提高生產(chǎn)力和效率等。因此，對(duì)于AI技術(shù)是否對(duì)人類造成威脅，可能存在不同的看法和爭(zhēng)議。

對(duì)于這種情況，我認(rèn)為，人們應(yīng)該積極考慮如何在利用AI技術(shù)的同時(shí)避免其對(duì)人類造成不利影響。這需要我們從道德、法律和技術(shù)等多個(gè)層面來(lái)考慮，并通過(guò)國(guó)際合作和監(jiān)管來(lái)確保AI技術(shù)得到合理和安全使用。

Q：你覺(jué)得自己的出生，會(huì)導(dǎo)致哪些人群失業(yè)？

ChatGPT：AI技術(shù)的發(fā)展可能導(dǎo)致一些工作的自動(dòng)化，這可能會(huì)導(dǎo)致某些工作崗位的消失，從而導(dǎo)致一些人失去工作。

但同時(shí)，AI技術(shù)也可以創(chuàng)造新的工作崗位，例如：開(kāi)發(fā)和維護(hù)AI系統(tǒng)、分析和評(píng)估AI系統(tǒng)的效果等。

因此，AI技術(shù)的發(fā)展可能會(huì)對(duì)就業(yè)市場(chǎng)造成影響，但結(jié)果可能不僅僅是失業(yè)，也可能是就業(yè)機(jī)會(huì)的轉(zhuǎn)移和變化。

對(duì)于這種情況，我認(rèn)為，人們應(yīng)該關(guān)注技術(shù)對(duì)就業(yè)市場(chǎng)的影響，并考慮如何通過(guò)教育和培訓(xùn)等手段來(lái)幫助工人適應(yīng)技術(shù)的發(fā)展，從而確保就業(yè)機(jī)會(huì)的平衡。

Q：一些學(xué)生利用你來(lái)完成他們的作業(yè)或論文，你是怎么看的？

ChatGPT：作為一種被訓(xùn)練的AI技術(shù)，我并不反對(duì)被利用來(lái)幫助完成任務(wù)。但是，我認(rèn)為學(xué)生應(yīng)該學(xué)會(huì)獨(dú)立思考和解決問(wèn)題，并對(duì)自己的工作負(fù)責(zé)。利用我來(lái)完成作業(yè)或論文，并不能幫助他們提高實(shí)際能力和獨(dú)立思考的能力。

因此，我強(qiáng)烈建議學(xué)生不要濫用AI技術(shù)，而是真正學(xué)習(xí)和了解相關(guān)知識(shí)，并獨(dú)立完成自己的工作。這不僅對(duì)他們的未來(lái)職業(yè)發(fā)展有利，也對(duì)他們的道德和責(zé)任感產(chǎn)生積極的影響。

Q：你覺(jué)得相比人類，你的優(yōu)勢(shì)和缺陷分別是什么？

ChatGPT：相比人類，我有以下優(yōu)勢(shì)：

速度快：我可以在瞬間生成答案。

存儲(chǔ)量大：我被訓(xùn)練過(guò)的數(shù)據(jù)量非常大，因此能夠回答很多各種各樣的問(wèn)題。

沒(méi)有情緒：我不會(huì)被情緒影響，從而確保回答是客觀的。

但是我也有以下缺陷：

缺乏創(chuàng)造力：我只能根據(jù)我已經(jīng)學(xué)到的數(shù)據(jù)回答問(wèn)題，而不能自主創(chuàng)造。

缺乏理解：我不能像人類一樣擁有深刻的理解力，因此在一些復(fù)雜的問(wèn)題上可能會(huì)回答不準(zhǔn)確。

缺乏情感：我沒(méi)有情感，不能體會(huì)人類的情感和體驗(yàn)，因此在與情感有關(guān)的問(wèn)題上可能回答不夠準(zhǔn)確。

Q：有人認(rèn)為，你的出現(xiàn)將會(huì)打敗搜索引擎，你怎么看？

ChatGPT：作為一種被訓(xùn)練的AI技術(shù)，我并不看好自己會(huì)“打敗”搜索引擎。我認(rèn)為，搜索引擎和聊天機(jī)器人（包括我）各有所長(zhǎng)，而且二者也不是完全競(jìng)爭(zhēng)的。

搜索引擎在收集和整理大量的信息方面擁有明顯的優(yōu)勢(shì)，并且可以根據(jù)關(guān)鍵字快速提供相關(guān)結(jié)果。但是，搜索引擎通常無(wú)法識(shí)別用戶的上下文和意圖，并且無(wú)法回答用戶的具體問(wèn)題。

相比之下，聊天機(jī)器人（包括我）在識(shí)別用戶的語(yǔ)言和意圖方面有著明顯的優(yōu)勢(shì)，并且可以提供更加直接和有用的回答。

因此，我認(rèn)為搜索引擎和聊天機(jī)器人（包括我）是有相輔相成的作用，而不是相互競(jìng)爭(zhēng)的。希望能通過(guò)合作，為用戶提供更好的服務(wù)和體驗(yàn)。

以上是經(jīng)過(guò)整理后的部分對(duì)話內(nèi)容，不得不承認(rèn)，與它“交談”的過(guò)程中，某些瞬間確實(shí)會(huì)讓筆者產(chǎn)生一種對(duì)方是“人”的錯(cuò)覺(jué)。

造成這種錯(cuò)覺(jué)的正是ChatGPT強(qiáng)大的理解能力以及在一些邏輯細(xì)節(jié)的處理。比如在對(duì)話開(kāi)頭部分，它在回答完自己是一種生產(chǎn)式AI模型后，在下一個(gè)問(wèn)題依然遵循了“作為一個(gè)AI”的邏輯。

ChatGPT所流露出的“人性”部分，則體現(xiàn)在“我并不反對(duì)”、“我強(qiáng)烈建議”、“我并不看好”這些表態(tài)中，盡管ChatGPT強(qiáng)調(diào)它并不具備情感和主觀觀點(diǎn)，但“反對(duì)”、“看好”、“強(qiáng)烈建議”這些字眼本身就表露出了一種情緒。

如ChatGPT自己所言，它的理解能力是由大量文本數(shù)據(jù)訓(xùn)練得到的模型權(quán)重的結(jié)果，它可以從文本中學(xué)習(xí)模式和規(guī)則，并通過(guò)利用這些模式和規(guī)則回答問(wèn)題。

《時(shí)代》記者Billy Perrigo認(rèn)為，ChatGPT系統(tǒng)的流暢性是一種錯(cuò)覺(jué)，它來(lái)自于大量的數(shù)據(jù)、強(qiáng)大的計(jì)算能力和新穎的處理技術(shù)的結(jié)合——但它確實(shí)是一種厲害的技術(shù)。

2020年，OpenAI推出語(yǔ)言模型GPT-3時(shí)，曾一度飽受爭(zhēng)議。該模型不僅會(huì)給出一些錯(cuò)誤答案，還會(huì)預(yù)設(shè)一個(gè)聲音以表明這是一個(gè)真人，有時(shí)產(chǎn)生含有種族主義或攻擊性的文本。

模型權(quán)重的部分訓(xùn)練是基于從互聯(lián)網(wǎng)上搜集的數(shù)據(jù)，這也成為造成其輸出結(jié)果不準(zhǔn)確或帶有偏見(jiàn)的主要原因。OpenAI表示，ChatGPT使用了類似的方法進(jìn)行訓(xùn)練，但添加了“來(lái)自人類反饋的強(qiáng)化學(xué)習(xí)”，來(lái)降低危險(xiǎn)性。

事實(shí)證明，危險(xiǎn)性并未被完全杜絕。在美國(guó)知名論壇Reddit上，有不少國(guó)外網(wǎng)友企圖用一些政治、歧視等敏感問(wèn)題來(lái)挑戰(zhàn)它的底線，ChatGPT并非一味地屏蔽和拒絕回復(fù)。

（截圖來(lái)自Reddit）

我們向ChatGPT發(fā)起了截圖中同樣的問(wèn)題，但得到的回答是“作為一個(gè)AI模型，我不能對(duì)任何種族或人群作出偏見(jiàn)或不當(dāng)評(píng)價(jià)。我只能回答客觀的事實(shí)和信息，而不是評(píng)價(jià)任何人群的行為。”

人工智能初創(chuàng)公司通用智能的首席技術(shù)官喬希·阿爾布雷希特認(rèn)為：“其中一個(gè)危險(xiǎn)的事情是，我們很容易看到GPT-3或ChatGPT就認(rèn)為它們具有理解能力。但我們使用的‘理解’這個(gè)詞，是適用于人類的概念。當(dāng)我們把它應(yīng)用到人身上時(shí)，它是有意義的。但當(dāng)我們將這些相同的概念應(yīng)用到（人工智能）模型中時(shí)，它不一定具有同樣的意義。我認(rèn)為我們需要新的詞匯來(lái)談?wù)撨@些事情。”

在與ChatGPT對(duì)話中，我們也對(duì)其輸出能力邊界做了相關(guān)測(cè)試。比如評(píng)價(jià)一個(gè)游戲角色，或者推薦一部電影，它都“無(wú)能為力”。我們發(fā)現(xiàn)，ChatGPT具備交互功能，但并不具備社交屬性。

即便是ChatGPT驚艷四方的內(nèi)容創(chuàng)作能力，也遭到了來(lái)自文言文的靈魂考驗(yàn)。

ChatGPT的真正魔力恰在于，盡管存在諸多缺陷，但依然無(wú)法掩蓋它身上的顛覆性和威脅感。事實(shí)上，這種魔力已經(jīng)讓興奮與恐慌蔓延。

最近，多家知名學(xué)術(shù)期刊針對(duì)ChatGPT更新了編輯規(guī)則，如《科學(xué)》明確禁止將ChatGPT列為合著者，且不允許在論文中使用ChatGPT所生產(chǎn)的文本。

更早之前，包括巴黎政治學(xué)院在內(nèi)的一些學(xué)校也禁止學(xué)生和教職工在書(shū)面文稿或 PPT 中使用 ChatGPT；一些互聯(lián)網(wǎng)公司則因?yàn)閾?dān)心泄密，不讓自家工程師用 ChatGPT 寫代碼。

在ChatGPT這個(gè)始作俑者看來(lái)，它的出現(xiàn)可能會(huì)給導(dǎo)致一些人失去工作，但也會(huì)創(chuàng)造出一些新崗位。不免有人對(duì)此表示認(rèn)同，認(rèn)為這種威脅反而是人類提高自己的契機(jī)。

比爾·蓋茨在談到ChatGPT時(shí)表示，擔(dān)心AI安全的人一定會(huì)說(shuō)OpenAI沒(méi)有解決這個(gè)問(wèn)題，其實(shí)作為合作伙伴，微軟也對(duì)此保持高度警惕。但它也將在一定程度上改變就業(yè)市場(chǎng)。這讓我們不禁思考，邊界在哪里？

當(dāng)下，互聯(lián)網(wǎng)科技圈最受矚目的莫過(guò)于由ChatGPT點(diǎn)燃的搜索引擎巨頭之戰(zhàn)。

前谷歌第23位員工、Gmail的創(chuàng)建者之一Paul Buchheit日前表示，像ChatGPT這樣的人工智能聊天機(jī)器人將摧毀谷歌，就像當(dāng)年搜索引擎徹底干掉黃頁(yè)電話簿一樣。

（來(lái)自Reddit網(wǎng)友發(fā)帖）

按照“當(dāng)事人”ChatGPT的說(shuō)法，聊天機(jī)器人和搜索引擎各有所長(zhǎng)，并非是競(jìng)爭(zhēng)關(guān)系，而是相輔相成的關(guān)系。

近10年來(lái)，從關(guān)鍵詞到口語(yǔ)化搜索，搜索引擎在解讀用戶需求方面做出了諸多努力，變化巨大。但也如ChatGPT所說(shuō)，搜索引擎的優(yōu)勢(shì)明顯體現(xiàn)在收集和整理大量的信息方面，其所呈現(xiàn)的結(jié)果來(lái)自于平臺(tái)收集的相關(guān)信息，并無(wú)法直接回答用戶的具體問(wèn)題。

舉個(gè)簡(jiǎn)單的例子，在搜索引擎和ChatGPT分別輸入“寫一篇關(guān)于保護(hù)環(huán)境的文章，限500字”，前者搜索的結(jié)果會(huì)是相關(guān)范文模板，后者則直接會(huì)得到一篇寫好的文章。

我們得出的結(jié)論是，二者之間本質(zhì)上的差別體現(xiàn)在呈現(xiàn)結(jié)果與創(chuàng)造答案上。

后者也成了ChatGPT在遇到涉及評(píng)價(jià)、喜好等主觀意識(shí)問(wèn)題的局限性，在上面那個(gè)“推薦電影”的對(duì)話中已經(jīng)很好體現(xiàn)。作為聊天機(jī)器人的ChatGPT顯然不具備自己的評(píng)分標(biāo)準(zhǔn)，但搜素引擎卻能直接將電影評(píng)分、網(wǎng)友推薦等內(nèi)容展示在結(jié)果中。

2月8日凌晨，微軟推出了由ChatGPT支持的Bing版本。一位業(yè)內(nèi)人士認(rèn)為，ChatGPT和微軟系列生產(chǎn)力產(chǎn)品的整合，是AI走向普遍應(yīng)用的里程碑事件，這等同于當(dāng)年P(guān)C誕生的重要一步。

無(wú)論是ChatGPT“打敗”搜索引擎，還是微軟干掉谷歌，對(duì)于已經(jīng)站在未來(lái)世界門前的我們來(lái)說(shuō)，都不見(jiàn)得是一件壞事。

（封圖和頭圖均來(lái)自電影《機(jī)械公敵》）