過度依賴GenAI開發軟件會危及安全

根據Legit Security的說法,GenAI正在迅速改變軟件開發流程,它自動化了那些曾經需要開發人員花費數小時乃至數天才能完成的任務,從而提高了效率和生產力。
Legit的首席技術官Liav Caspi表示:“隨著GenAI改變軟件開發,并日益嵌入開發生命周期中,開發者和安全團隊之間存在一些真正的安全問題擔憂。我們的研究發現,團隊在平衡GenAI的創新和它所帶來的風險方面面臨挑戰,因為這些風險會使他們的應用程序和軟件供應鏈暴露于新的漏洞之中。雖然GenAI無疑是軟件開發的未來,但企業必須留意其帶來的新風險,并確保他們對其使用有足夠的可見性和控制力。”
GenAI在軟件開發中的使用增加
88%的開發人員報告稱在其開發企業中使用GenAI,這反映了開發團隊如何利用AI增強自身能力以應對緊張工期和復雜項目需求方面的廣泛轉變。盡管采用率很高,但安全仍然是一個關鍵問題。例如,Legit之前的研究顯示,大型語言模型(LLM)和AI模型包含錯誤和漏洞,可能導致AI供應鏈攻擊。
96%的安全和軟件開發專業人員表示,他們的公司使用基于GenAI的解決方案來構建或交付應用程序。在這些受訪者中,79%表示其全部或大多數開發團隊經常使用GenAI。
84%的安全專業人員對使用代碼助手表示擔憂,并指出未知和/或惡意代碼是他們的主要擔憂。
98%的人認為安全團隊需要更好地掌握GenAI解決方案在開發中的使用情況。94%的人表示,他們需要更有效的方法來管理公司在研究和開發工作中對GenAI的使用。85%的開發人員和75%的安全人員對過度依賴GenAI解決方案來開發軟件表示擔憂。
開發人員擔心AI對批判性思維的影響
相比安全專業人員(3%),更多開發人員(8%)報告稱擔心在開發中使用AI會導致批判性思維喪失。95%的受訪者預測,在未來五年內,軟件開發人員將更加依賴GenAI,沒有人預見依賴程度會降低。
關于GenAI如何與開發人員協同工作,56%的受訪者認為未來GenAI將在人類監督下處理大多數任務,29%的人相信人類與AI將協作工作,15%的人預測GenAI最終將取代開發人員。只有1%的人認為GenAI作為一種工具將會消失。
安全專業人員和開發人員之間的觀點存在顯著差異。61%的安全專業人員認為GenAI將在人類監督下完成大部分工作,而持此觀點的開發人員比例為51%。
另一方面,36%的開發人員認為GenAI與開發人員將密切協作,而持此觀點的安全專業人員比例為23%。






















