天天報(bào)道:為ChatGPT捉Bug，OpenAI最高懸賞2萬美金

機(jī)器之心報(bào)道

編輯：小舟

OpenAI：發(fā)現(xiàn)模型漏洞，找我領(lǐng)獎(jiǎng)。

距離 ChatGPT 發(fā)布已過去 4 個(gè)月，GPT-4 也發(fā)布近一個(gè)月。OpenAI 的這兩大模型徹底改變了自然語言處理（NLP）領(lǐng)域的格局，甚至為實(shí)現(xiàn)通用人工智能（AGI）帶來了新的可能。

(相關(guān)資料圖)

幾個(gè)月來，人們?cè)诟锌?ChatGPT 模型強(qiáng)大能力的同時(shí)，也發(fā)現(xiàn)這些模型存在很多問題。其中，最嚴(yán)重的問題之一就是模型會(huì)生成虛假錯(cuò)誤的信息，這引起人們的吐槽。好消息是，從現(xiàn)在開始，給模型挑毛病也將獲得一份獎(jiǎng)勵(lì)。

OpenAI 今天宣布啟動(dòng)漏洞賞金計(jì)劃，以幫助解決大型語言模型（例如 ChatGPT）帶來的日益增長(zhǎng)的網(wǎng)絡(luò)安全風(fēng)險(xiǎn)。

OpenAI 與眾包網(wǎng)絡(luò)安全平臺(tái) Bugcrowd 合作，邀請(qǐng)機(jī)器學(xué)習(xí)領(lǐng)域所有研究人員報(bào)告 OpenAI 的模型系統(tǒng)中存在的 bug（漏洞）。OpenAI 會(huì)給予報(bào)告漏洞的人 200 - 20000 美元不等的獎(jiǎng)金，具體取決于漏洞的嚴(yán)重程度。

漏洞報(bào)告平臺(tái)：

https://bugcrowd.com/openai

OpenAI 表示他們的使命是創(chuàng)建造福人類的 AI 系統(tǒng)，也因此大力投資于研究和工程，以確保其提出的人工智能系統(tǒng)安全可靠。為了進(jìn)一步解決現(xiàn)有大模型存在的漏洞和缺陷，OpenAI 啟動(dòng)了這項(xiàng)漏洞賞金計(jì)劃，以邀請(qǐng)全球網(wǎng)絡(luò)安全研究人員和技術(shù)愛好者來識(shí)別和解決 OpenAI 的模型系統(tǒng)中存在的漏洞，最終提高系統(tǒng)的安全性。

現(xiàn)實(shí)意義

OpenAI 的漏洞賞金計(jì)劃能起到多大的實(shí)際作用？

根據(jù) AI 網(wǎng)絡(luò)安全公司 DarkTrace 的數(shù)據(jù)，從 1 月到 2 月，基于 AI 的工程攻擊增加了 135%，這與 ChatGPT 的問世有很大關(guān)系。因此，盡管這份賞金計(jì)劃受到一些技術(shù)專家的歡迎，但也有很多人不看好，他們認(rèn)為該計(jì)劃不太可能完全解決日益復(fù)雜的 AI 技術(shù)帶來的廣泛網(wǎng)絡(luò)安全風(fēng)險(xiǎn)。

畢竟，該計(jì)劃的范圍僅限于可能直接影響 OpenAI 系統(tǒng)和合作伙伴的漏洞，它似乎無法解決對(duì)惡意使用此類技術(shù)（如模擬、合成媒體或自動(dòng)黑客工具）的更廣泛擔(dān)憂。

要知道，漏洞賞金計(jì)劃是在一系列安全問題的背景下推出的。例如，在發(fā)布 3 天后，GPT-4 就為自己制定了外逃計(jì)劃，甚至聲稱可以它可以控制計(jì)算機(jī)，還索要開發(fā)文檔和 API。

GPT-4 的這波操作屬實(shí)令人有幾分害怕......

上個(gè)月，ChatGPT 還因巨大漏洞宕機(jī)數(shù)個(gè)小時(shí)，具體原因是部分用戶能看到其他用戶的聊天內(nèi)容和支付信息。這為 AI 模型的隱私保護(hù)再次敲響警鐘。

另一方面，已經(jīng)有技術(shù)研究人員發(fā)現(xiàn) ChatGPT 的 API 可能因?yàn)E用造成較大風(fēng)險(xiǎn)。一位安全研究人員曾在推特上分享了自己利用漏洞破解 ChatGPT 的 API 并發(fā)現(xiàn) 80 多個(gè)秘密插件的經(jīng)歷。

也許是受到這些問題的沖擊，OpenAI 啟動(dòng)了這項(xiàng)賞金計(jì)劃。但是，OpenAI 在漏洞賞金計(jì)劃的官方頁面指出：「與模型 prompt 和響應(yīng)內(nèi)容相關(guān)的問題嚴(yán)格超出范圍，除非它們對(duì)范圍內(nèi)的服務(wù)有額外的直接可驗(yàn)證的安全影響，否則不會(huì)得到獎(jiǎng)勵(lì)。」

從這個(gè)角度看，OpenAI 的這份漏洞賞金計(jì)劃可能有助于改善其模型自身的安全態(tài)勢(shì)，但對(duì)于解決生成式 AI 和 ChatGPT 等模型給整個(gè)社會(huì)帶來的安全風(fēng)險(xiǎn)卻無濟(jì)于事。

參考鏈接：

https://openai.com/blog/bug-bounty-program

https://venturebeat.com/security/openai-announces-bug-bounty-program-to-address-ai-security-risks/

責(zé)任編輯：Rex_12