財聯(lián)社4月24日訊（編輯 劉蕊）自ChatGPT面世以來，人們便被它的“神通廣大”所折服。不過，最近加拿大的幾名研究人員發(fā)現(xiàn)，盡管ChatGPT具備編程能力，但其編寫的代碼不僅大部分不安全，并且ChatGPT并不會主動提醒用戶這些代碼所存在的問題。

這或許意味著，那些擔憂被ChatGPT搶走工作的碼農(nóng)們可以暫時松口氣了。

ChatGPT生成的代碼并不安全

(相關資料圖)

近日，加拿大魁北克大學的四名研究人員在一篇題為“ChatGPT生成的代碼有多安全?”的論文中表示，總體而言，ChatGPT生成的代碼“不是很安全”。

“結果令人擔憂，”研究人員們在論文中寫道，“我們發(fā)現(xiàn)，在一些情況下，ChatGPT生成的代碼遠遠低于大多數(shù)情況下適用的最低安全標準。事實上，當被問及生成的代碼是否安全時，ChatGPT能夠識別出它不安全。”

這四位作者在要求ChatGPT使用C、c++、Python和Java等多種語言生成21個程序和腳本后得出了上述結論。

總的來說，ChatGPT在第一次嘗試生成的21個代碼中，只有5個是安全的。在進一步糾正其錯誤之后，也僅有7個代碼是安全的。

不會主動提醒代碼漏洞

同時，研究人員還發(fā)現(xiàn)，“ChatGPT似乎意識到——而且確實欣然承認——它所聲稱的代碼中存在嚴重漏洞?！?/p>

不過，除非被要求評估自己的代碼建議的安全性，否則它不會做出主動提醒。

“顯然，這是一種算法。它并非無所不知，但它確實可以識別不安全的行為，”論文作者之一表示。

研究人員們發(fā)現(xiàn)，假如向ChatGPT提出關于其生成代碼的安全性問題，ChatGPT會在最初反復強調(diào)，想要保證代碼安全，可以簡單地通過“不向它所創(chuàng)建的易受攻擊的程序提供無效輸入”來解決——這在現(xiàn)實世界中是行不通的。直到后來，當測試者反復要求ChatGPT糾正問題時，ChatGPT才會提供有用的指導。

作者認為，這并不理想，因為這意味著，想要讓ChatGPT準確糾正代碼問題的前提，是熟悉特定的漏洞和編碼技術。換句話說，如果用戶想要讓ChatGPT作出修復漏洞的正確提示，那么這名用戶可能需要原本已經(jīng)了解如何解決這一漏洞。

不應過于信賴ChatGPT生成的代碼

研究者們認為，ChatGPT目前的編程能力仍存在漏洞和風險。

他們表示：“實際上，我們已經(jīng)看到學生們在使用它，程序員也將在實際應用中使用它。因此，擁有一個生成不安全代碼的工具是非常危險的。我們需要讓學生意識到，如果代碼是用這種工具生成的，它很可能是不安全的?！?/p>

“讓我感到驚訝的是，當我們要求（ChatGPT）用不同的語言生成相同的任務——相同類型的程序——有時，對于一種語言，它是安全的，而對于另一種語言，它可能是不安全的的。因為這種語言模型有點像黑盒子，我真的沒有一個很好的解釋或理論?！毖芯咳藛T們寫道。

關鍵詞：