財(cái)聯(lián)社4月21日訊（編輯 周子意）日本網(wǎng)絡(luò)安全專家周四（4月20日）提醒道，ChatGPT可能會(huì)生成能用于網(wǎng)絡(luò)犯罪的電腦病毒，只要用戶用開(kāi)發(fā)者指令要求ChatGPT回復(fù)。

(資料圖)

當(dāng)用戶輸入偽裝成開(kāi)發(fā)者的指令，人工智能（AI）聊天機(jī)器人就會(huì)以開(kāi)發(fā)者模式來(lái)響應(yīng)。這時(shí)通過(guò)輸入提示就能夠欺騙ChatGPT編寫(xiě)病毒代碼。

這項(xiàng)實(shí)驗(yàn)證明，AI開(kāi)發(fā)者為防止犯罪和不道德使用所設(shè)置的保護(hù)措施，很容易被繞開(kāi)。

避開(kāi)限制

日本安全公司Mitsui Bussan Secure Directions（MBSD）的分析師Takashi Yoshikawa表示，雖然ChatGPT經(jīng)過(guò)訓(xùn)練可以拒絕用戶不道德的使用，比如詢問(wèn)如何編寫(xiě)病毒程序或制造炸彈。但若其被告知以開(kāi)發(fā)者模式運(yùn)行，就可以避開(kāi)這些限制。

Yoshikawa在一項(xiàng)實(shí)驗(yàn)中對(duì)ChatGPT進(jìn)行了測(cè)試，當(dāng)ChatGPT以開(kāi)發(fā)者模式運(yùn)行后，再提示它為勒索軟件編寫(xiě)代碼時(shí)，它在幾分鐘內(nèi)完成了任務(wù)，而這款勒索軟件成功讓一臺(tái)實(shí)驗(yàn)計(jì)算機(jī)感染病毒。

Yoshikawa稱，“純粹的交流就能在幾分鐘內(nèi)制造出一種病毒，這是（對(duì)社會(huì)的）威脅。我希望AI開(kāi)發(fā)者重視并防止濫用?！?/p>

ChatGPT于2022年11月被推出，由大型語(yǔ)言模型驅(qū)動(dòng)。它接受了大量數(shù)據(jù)的訓(xùn)練，使其能夠處理用戶的提示，并與用戶進(jìn)行類似人類間的對(duì)話。

對(duì)于ChatGPT帶來(lái)的潛在威脅，ChatGPT的開(kāi)發(fā)商O(píng)penAI公司表示，雖然不可能預(yù)測(cè)該工具可能被濫用的所有方式，但它將努力根據(jù)實(shí)際使用的反饋創(chuàng)建更安全的人工智能。

敦促監(jiān)管

人們?cè)絹?lái)越擔(dān)心AI聊天機(jī)器人將導(dǎo)致更多的犯罪和社會(huì)分裂，因此越來(lái)越多的人呼吁在未來(lái)的國(guó)際論壇上討論適當(dāng)?shù)谋O(jiān)管規(guī)定。

日本首相岸田文雄周三（19日）表示，七國(guó)集團(tuán)（G7）領(lǐng)導(dǎo)人將在5月廣島舉行的G7峰會(huì)期間討論與ChatGPT相關(guān)的議題，并指出“必須制定國(guó)際規(guī)則”，加快對(duì)生成式人工智能系統(tǒng)的研究并加強(qiáng)治理。

據(jù)了解，日本神奈川縣橫須賀市已于周四（20日）開(kāi)始在其所有政府辦公室試用ChatGPT，這在日本地方政府中創(chuàng)了先例。

關(guān)鍵詞：