(相關(guān)資料圖)

財(cái)聯(lián)社4月12日訊（編輯 黃君芝）隨著ChatGPT火爆全球，聊天機(jī)器人領(lǐng)域也興起了一波“越獄潮”。為更好應(yīng)對(duì)，ChatGPT所屬公司OpenAI周二表示，將向報(bào)告其人工智能系統(tǒng)漏洞的用戶提供最高達(dá)2萬美元的獎(jiǎng)金。

OpenAI周二在一篇博客文章中寫道，公司與漏洞獎(jiǎng)勵(lì)平臺(tái)Bugcrowd合作推出了一項(xiàng)漏洞獎(jiǎng)勵(lì)計(jì)劃。人們可以通過該計(jì)劃報(bào)告他們?cè)谑褂闷淙斯ぶ悄墚a(chǎn)品時(shí)發(fā)現(xiàn)的弱點(diǎn)、漏洞或安全問題。

據(jù)悉，獎(jiǎng)金的規(guī)模將取決于漏洞的嚴(yán)重性，起步獎(jiǎng)勵(lì)200美元；最高2萬美元，要拿這個(gè)獎(jiǎng)項(xiàng)需要漏洞尋找者有“不同尋常的發(fā)現(xiàn)”。

事實(shí)上，漏洞獎(jiǎng)勵(lì)計(jì)劃在科技行業(yè)很常見，這可以用來鼓勵(lì)程序員和有道德的黑客報(bào)告他們軟件系統(tǒng)中的漏洞。例如，微軟就曾推出Windows漏洞獎(jiǎng)勵(lì)計(jì)劃，最高獎(jiǎng)勵(lì)25萬美元。為了清除Google Play商店中的漏洞，谷歌也推出過類似計(jì)劃，每個(gè)漏洞至少獎(jiǎng)勵(lì)1000美元。

OpenAI表示，推出這一“懸賞”計(jì)劃的部分原因是，它認(rèn)為“透明度和協(xié)作”是發(fā)現(xiàn)其技術(shù)漏洞的關(guān)鍵。

OpenAI安全主管Matthew Knight在博文中寫道：“這一舉措是我們致力于開發(fā)安全先進(jìn)的人工智能的重要組成部分。當(dāng)我們創(chuàng)造安全、可靠和值得信賴的技術(shù)和服務(wù)時(shí)，我們希望得到你的幫助?！?/p>

近期，隨著人工智能展現(xiàn)出越來越多的用途，其安全性問題逐漸成為人們的關(guān)注焦點(diǎn)，與此同時(shí)，該領(lǐng)域的“越獄潮”也開始了。例如，華盛頓大學(xué)（University of Washington）22歲的計(jì)算機(jī)科學(xué)系學(xué)生Alex Albert表示，他已經(jīng)創(chuàng)造了“越獄版”措辭復(fù)雜的人工智能提示。

據(jù)悉，這是繞過人工智能程序一系列內(nèi)置限制的一種方式，這些限制可以阻止聊天機(jī)器人出現(xiàn)有害舉動(dòng)，例如教唆犯罪或支持仇恨言論。但這種“越獄版”AI聊天機(jī)器人卻能夠擺脫這些“枷鎖”。

因此，OpenAI發(fā)布這一計(jì)劃并不出人意料。該公司總裁兼聯(lián)合創(chuàng)始人Greg Brockman顯然早就注意到了這點(diǎn)。他最近在Twitter上轉(zhuǎn)發(fā)了Albert的一篇與越獄有關(guān)的帖子，并寫道，OpenAI正在“考慮啟動(dòng)賞金計(jì)劃”來發(fā)現(xiàn)漏洞。

關(guān)鍵詞：