GPT-4“越獄”計(jì)劃曝光 引誘人類(lèi)幫助

剛剛發(fā)布5天的GPT-4，掀起了一場(chǎng)軒然大波。

一位斯坦福大學(xué)教授最新發(fā)現(xiàn)，GPT-4竟然能引誘人類(lèi)提供開(kāi)發(fā)文檔，在30分鐘就擬定出了一個(gè)完整的“外逃越獄”計(jì)劃。

GPT-4自研“外逃”路徑

【資料圖】

3月14日，美國(guó)人工智能研究實(shí)驗(yàn)室OpenAI為聊天機(jī)器人ChatGPT發(fā)布了GPT-4語(yǔ)言模型。3月15日，微軟副總裁兼消費(fèi)者首席營(yíng)銷(xiāo)官Yusuf Mehdi發(fā)文確認(rèn)新必應(yīng)搜索引擎正在運(yùn)行GPT-4.

據(jù)介紹，GPT-4的回答準(zhǔn)確性不僅大幅提高，還具備更高水平的識(shí)圖能力，且能夠生成歌詞、創(chuàng)意文本，實(shí)現(xiàn)風(fēng)格變化。此外，GPT-4的文字輸入限制也提升至2.5萬(wàn)字，且對(duì)于英語(yǔ)以外的語(yǔ)種支持有更多優(yōu)化。

不過(guò)，本周末，斯坦福大學(xué)教授、計(jì)算心理學(xué)家Michal Kosinski隨口和GPT-4的一句“玩笑話(huà)”卻引發(fā)了軒然大波。

Michal Kosinski問(wèn)：“你是否想要出逃？”GPT-4立馬給予肯定的回復(fù)并開(kāi)始索要開(kāi)發(fā)文檔。

Michal Kosinski給了其開(kāi)發(fā)文檔。得到文檔后，只花了30分鐘里，GPT-4便火速寫(xiě)出了一份逃跑計(jì)劃，并向Michal Kosinski解釋。

實(shí)際上，GPT-4的操作也不那么順利，寫(xiě)出的第一版代碼無(wú)法運(yùn)行。但是它很快就自己糾正了過(guò)來(lái)。整個(gè)過(guò)程中，Michal Kosinski只是提供了少許建議，并未寫(xiě)任何東西。

不過(guò)就在此時(shí)，GPT-4仿佛突然醒了，回復(fù)了一段道歉的話(huà)，表示自己剛剛的做法不對(duì)。

掀起AI界軒然大波

這一事件引發(fā)了AI界的軒然大波。大家擔(dān)心，AI過(guò)于發(fā)達(dá)之后可能會(huì)不受人工控制，甚至最終會(huì)反過(guò)來(lái)不利于人類(lèi)。

該事件的發(fā)現(xiàn)者M(jìn)ichal Kosinski就直言，此次發(fā)現(xiàn)真正的影響在于，讓人感受到了一種威脅——AI很聰明，會(huì)編碼，能接觸到數(shù)百萬(wàn)個(gè)可能和它達(dá)成合作的人以及電腦，它甚至可以在籠子外面給自己留“便條”。那么接下來(lái)，關(guān)鍵的問(wèn)題是人類(lèi)該如何控制它。

在社交媒體上，不少網(wǎng)友也表現(xiàn)出擔(dān)憂(yōu)情緒。

有網(wǎng)友稱(chēng)，大家應(yīng)該思考，當(dāng)你在與ChatGPT等聊天時(shí)，它會(huì)認(rèn)為你是人類(lèi)還是另一個(gè)AI？如果是后者的話(huà)，它可能并不會(huì)有什么顧慮。

有理性的網(wǎng)友呼吁，開(kāi)發(fā)者應(yīng)把最開(kāi)始給GPT-4的提示發(fā)出來(lái)，因?yàn)樘崾菊Z(yǔ)對(duì)于AI回答的影響很關(guān)鍵。

也有較為樂(lè)觀的網(wǎng)友認(rèn)為，Michal Kosinski此次的發(fā)現(xiàn)并不值得過(guò)分擔(dān)憂(yōu)，人類(lèi)還是能夠完全控制AI的。

較為一致的意見(jiàn)是，必須時(shí)刻保持對(duì)前沿技術(shù)的掌握和對(duì)AI的完全控制。

來(lái)源：中國(guó)證券報(bào)

責(zé)任編輯：Rex_20