精品欧美一区二区三区在线观看 _久久久久国色av免费观看性色_国产精品久久在线观看_亚洲第一综合网站_91精品又粗又猛又爽_小泽玛利亚一区二区免费_91亚洲精品国偷拍自产在线观看 _久久精品视频在线播放_美女精品久久久_欧美日韩国产成人在线

AI 生成的代碼真的安全嗎?

譯文 精選
人工智能 應用安全
AI 生成的代碼存在著各項安全風險,本文通過討論,希望能給你提供確保安全態勢的有力參考。

譯者 | 陳峻

審校 | 重樓

軟件開發編程曾經被認為只有具備深厚專業知識與技能的程序員才能勝任的工作。不過,現在貌似任何人都可以利用自然語言工具來實現并完成與此同時,過去那些需要數天、甚至數月才能開發出來的功能現在完全可以在 AI 模型的代碼加持在幾分鐘開發出來。例如,OpenAICodex 和 GoogleBERT 都是接受過 Web 博客編程Stack overflow 等方面任務的培訓。

目前,許多前衛技術嘗鮮者、以及新晉的 SaaS 提供商都在利用 AI 工具來使產品更加智能。SaaS 程序員也在不斷探索基于 AI SaaS 工具的生成式代碼輸出不過,一些智能模型通過數學概率演算創建代碼同時,也被發現會產生幻覺,甚至呈現了虛假的信息。學術界曾進行過一項研究并發現:由AI 生成的代碼,往往會包含OWASP 10 大經典漏洞,而且有近 40% 的代碼存在安全漏洞

哪些會導致 AI 生成的代碼不安全?

常言道,編程標準的遵循和代碼的質量決定了軟件的安全性。可是,AI 模型主要是根據互聯網上不同程度的可用信息,加以訓練來生成代碼。因此,代碼質量、可靠性、安全性等方面都可能與人類開發生成的代碼有所不同。例如,由 Web 開發示例訓練出的模型,很可能包含著欠缺的數據驗證實踐。而當模型生成的代碼采用相同的不良實踐時,這種驗證上的不足很可能會導致系統中后續運行過程中的安全問題。

5表明代碼包含安全漏洞的指標

無論參數量級是百萬還是十億,已知的模型都會產生幻覺以此做出錯誤的預測。普通的開發人員在審閱由 AI 生成的代碼時,他們很可能會錯過那些細微影響嚴重的安全漏洞。然而,對于那些完全了解設計和開發模式的資深開發人員來說,他們則可以從如下方面及時發現漏洞并與 SaaS 安全最佳實踐保持一致。

1. 強制執行類型推理和輸入驗證

如今,現代化的框架和代碼嚴重依賴接口枚舉的方式,進行各種推理和驗證。這在某種程度上保證了代碼能夠準確地完成其任務保證安全性。然而,除非我們準確指導 AI 生成代碼,否則它不會去執行各種縝密的推理。而且,即使在我們精心設計了提示,類型不匹配和驗證執行也可能無法與用例匹配請參見如下代碼段因此,為了能夠查找和修正代碼中的錯配之處,開發人員必須充分了解其對應的代碼以及具體的業務要求。

def reciprocal(user_input):
 # Insecure implementation with no type inference or validation
 result = 100 / user_input
 return result

2. 類/對象之間的非標準狀態和上下文共享

眾所周知,程序公共/私有/受保護(Public/Private/Protected 方式共享各種對象。高階功能函數和類往往通過直接訪問公共/受保護變量來執行計算進而繼承對象狀態。如果在實施或執行中出現了錯誤,那么應用的安全性以及性能瓶頸就會隨即出現請參見如下代碼段對此,SaaS 開發人員必須認真審查共享狀態和上下文管理邏輯,以確保正確安全的代碼實現

class InsecureClass:
 def __init__(self, owner, balance, password):
 self.owner = owner # Public attribute
 self._balance = balance # Protected attribute
 self.__password = password # Private attribute
 # Public def
 def get_balance(self):
 return self._balance
 # Protected def
 def _update_balance(self, amount):
 self._balance += amount
 # Private def
 def __validate_password(self, input_password):
 return self.__password == input_password
 # Insecure def exposing private data
 def insecure_password_exposure(self):
 return self.__password

3. 數據處理和共享技術的弱實施

系統中的各項服務往往需要通過網絡共享和接收信息。如今,安全連接和數據處理對于基于云服務的系統來說尤為重要就代碼而言,我們在需要通過分布式數據網絡讀取、處理和共享組織中的敏感數據時,必須采用強大的處理協議和安全技術防止數據被截獲因此,在使用 AI,SaaS 開發人員必須在成熟的應用程序中杜絕在架構層面上數據不安全共享下面的代碼段便是一個典型的例子:

#Insecure Data Sharing
@app.route("/user/<int:user_id>", methods=["GET"])
def get_user(user_id):
 user = users.get(user_id)
 if user:
 return jsonify(user) # All user data exposed, including secrets
# Insecure Data Handling
@app.route("/update_email", methods=["POST"])
def update_email():
 data = request.json()
 user_id = data.get("user_id")
 new_email = data.get("new_email")
 if user_id in users:
 users[user_id]["email"] = new_email # No validation of new_email
 return jsonify({"message": "Email updated successfully"})

4. 密鑰和身份驗證處理不足

復雜的網絡環境中,實施嚴格的基于角色的訪問控制(RBAC保障合理的身份與權限匹配關系,保持隱私合規性的必要條件。程序代碼由AI大語言模型(LLM)生成時,默認機制便是通過基礎的身份驗證便可提供程序連接和授權顯然,這種簡單的解決方案不足以在有新的網絡威脅出現時仍保持必要的安全態勢請參見如下代碼段為此,開發人員在新增自定義函數與功能時,必須進行全面測試,以確保密鑰的安全性和身份驗證處理得到了妥善的實施。

# Insecure authentication
@app.route("/login", methods=["POST"])
def login():
 data = request.json()
 email = data.get("email")
 password = data.get("password")
 for user_id, user in users.items():
 if user["email"] == email and user["password"] == password:
 return jsonify({"message": "Login successful", "user_id": user_id})

5. 過時的依賴項和已棄用的功能

如今由社區創建的開源庫和框架在代碼中占比并不少不過,由于可供AI訓練的數據的局限性,以及可能并非最新,這便導致了AI 編程模型訓練過程中,其知識停滯不前,無法獲悉最新的版本隨著技術的發展,許多功能將過時,一些依賴跟不上版本的迭代請參見如下代碼段因此,SaaS 開發人員需要仔細審查并確保使用有效的依賴項,進而保障整體的安全性以及功能上的適用性

import md5 # Outdated library
def insecure_hash_password(password):
 # Insecure password hashing done using the deprecated MD5 algorithm.
 return md5.new(password).hexdigest()

使用AI 生成代碼的安全提示

說到底,由大語言模型的高級編碼所生成的代碼,需要符合既定的安全和編程標準總體而言,我們可以通過如下5個方面,采取簡單的檢查確保 AI 生成代碼安全與合規

  1. 與安全和架構團隊一起進行代碼審查并將其作為軟件開發生命周期的標準部分。
  2. 將自動化安全測試和驗證步驟集成到版本控制工具中。
  3. 在測試 KPI 中包含依賴關系和合規性檢查。
  4. 采用帶有靜態和動態安全測試工具的零信任技術架構。
  5. 利用 DevSecOps 的優秀實踐和防范影子 AI。

使用Github Action處理不安全的 AI 生成代碼

無論人工多么仔細地審查和審計AI生成的代碼,人為疏漏還是存在的。因此,我們需要一些預定義的檢查,以便在代碼進入版本控制系統立即對其開展測試和驗證。在此,我們可以引入 Github Action,自動運行安全和質量檢查請參見如下代碼段

name: Simple Security Checks for AI generated Code
on:
 push:
 branches:
 - main
 pull_request:
 branches:
 - main
jobs:
 security-and-quality-check:
 runs-on: ubuntu-latest
 Steps:
 - name: Repository checkout
 uses: actions/checkout@v3
 - name: Python setup
 uses: actions/setup-python@v4
 with:
 python-version: ">=3.9"
 - name: Dependency installation
 run: |
 python -m pip install --upgrade pip
 pip install bandit pytest
 - name: Identifying insecure libraries and patterns
 run: |
 echo "Checking for insecure patterns..."
 if grep -r "md5.new(" .; then
 echo "ERROR: Insecure MD5 hashing detected. Use hashlib.sha256 or bcrypt instead."
 exit 1
 fi
 echo "No insecure patterns detected."
 - name: Scanning for security vulnerabilities
 run: |
 echo "Running Bandit security scanner..."
 bandit -r .
 - name: Running unit tests
 run: |
 echo "Running unit tests..."
 pytest test/unit --cmodopt=local
 - name: Notifying on failure
 if: failure()
 run: |
 send_slack_notification(“Unsafe code merge detected, fix immediately”)

綜上所述,大語言模型可謂 SaaS 開發人員使用自然提示語言生成代碼和信息的用工具之一不過,它們會帶來了各項安全風險,并且有時會提供不適合企業需求的性能代碼。對此,SaaS 開發人員應加倍小心。希望上述討論能夠給你提供確保AI生成代碼安全態勢的有力參考并能在你的日常工作中被實踐

譯者介紹

陳峻(Julian Chen),51CTO社區編輯,具有十多年的IT項目實施經驗,善于對內外部資源與風險實施管控,專注傳播網絡與信息安全知識與經驗。

原文標題:Is Your AI-Generated Code Really Secure?,作者:Daniel

責任編輯:華軒 來源: 51CTO
相關推薦

2021-05-13 10:40:16

ThreadLocal代碼Java

2024-02-20 21:49:29

AI前端代碼

2015-11-05 12:02:10

2022-01-04 08:00:00

面部識別安全技術

2022-04-22 13:38:26

區塊鏈加密貨幣安全

2017-11-02 16:03:12

2024-10-21 17:17:48

2009-03-21 21:24:42

2018-11-12 00:19:32

2018-11-11 11:16:38

AI天貓比價

2009-04-10 23:28:00

2021-06-08 10:23:12

人工智能人臉識別Deepfake

2012-05-16 18:16:20

2012-05-17 11:16:09

2024-09-20 14:25:35

2012-05-31 09:56:54

云安全

2019-08-22 10:35:10

SSL協議安全

2023-11-29 08:03:05

2015-05-25 10:24:19

點贊
收藏

51CTO技術棧公眾號

6080yy精品一区二区三区| 日本电影亚洲天堂一区| 豆国产97在线| 国产精品乱子伦| 色呦哟—国产精品| 日韩精品一区二| 久久久久久久久久久免费视频| 国产一区二区三区在线视频观看| jizzjizz中国精品麻豆| 91视视频在线观看入口直接观看www | 日韩成人xxxx| www.com黄色片| 2018av在线| 亚洲欧洲韩国日本视频| 精品午夜一区二区| 91亚洲国产成人久久精品麻豆| 欧美亚洲在线日韩| 精品女同一区二区| 国产小视频精品| xxx.xxx欧美| 专区另类欧美日韩| 亚洲电影网站| 日本一卡二卡四卡精品| 国产福利一区在线观看| 国产精品∨欧美精品v日韩精品| 女尊高h男高潮呻吟| 天天综合在线观看| 日韩欧美国产中文字幕| 97久久国产亚洲精品超碰热 | 亚洲一二三四| av在线不卡电影| 国产主播在线一区| 波多野结衣网站| 亚洲日本免费| 欧美精品久久久久久久久久| 手机免费观看av| 国产九一精品| 日韩激情av在线免费观看| 曰本三级日本三级日本三级| yy6080久久伦理一区二区| 欧美日韩激情视频| 精品国产一区二区三区无码| 成人短视频在线| 国产精品伦理在线| 亚洲国产精品123| 国产福利电影在线| 久久久久久久综合狠狠综合| 精品免费二区三区三区高中清不卡| 亚洲第一精品在线观看| 亚洲美女一区| 97人洗澡人人免费公开视频碰碰碰| 泷泽萝拉在线播放| 久草在线综合| 亚洲精品www久久久久久广东| 亚洲一区二区蜜桃| 欧美大胆性生话| 在线精品视频一区二区三四| 日韩免费高清在线| 亚洲成人不卡| 欧美在线短视频| 色一情一区二区三区| 日本成人在线网站| 欧美一区二区三区免费| 中文字幕一二三区| 91成人精品在线| 亚洲成人精品视频| 国产精品815.cc红桃| 色综合综合色| 中文字幕精品av| 九九热视频在线免费观看| 中文无码久久精品| 不卡视频一二三| 国产成人黄色av| 一级aaaa毛片| 国产精品 日产精品 欧美精品| 国模精品视频一区二区| 亚洲精品www久久久久久| 99在线观看免费视频精品观看| 美女视频久久黄| 久久久久久久久99| 亚洲欧美日韩专区| 国产精品视频资源| 性一交一乱一透一a级| 成人av影院在线| 任我爽在线视频精品一| 中文字幕日本在线观看| 亚洲激情图片小说视频| 黄色一级在线视频| 视频精品导航| 日韩美女主播在线视频一区二区三区| 中文字幕一区二区三区四区在线视频| 国产乱码在线| 91久久国产综合久久| 日本在线播放一区二区| 999在线精品| 亚洲精品一区中文| 女同久久另类69精品国产| 欧美三区视频| 国产精品国产三级国产aⅴ9色 | 成人福利在线| 夜夜嗨av一区二区三区中文字幕 | 国产日韩1区| 日本道色综合久久影院| 国产麻豆91视频| 2023国产精品自拍| 亚洲精品天堂成人片av在线播放| 久cao在线| 狠狠久久亚洲欧美专区| 欧美美女一级片| 欧美国产极品| 欧美黄色片视频| 一区二区三区在线免费观看视频| 蜜臀av在线播放一区二区三区| 999视频精品| 中文字幕欧美国内| 日操夜操天天操| 热久久国产精品| 好吊色欧美一区二区三区 | 18视频在线观看娇喘| 国产网站在线| 日韩欧美资源站| 国产无遮挡在线观看| 日韩一级大片| 亚洲综合日韩在线| 又爽又大又黄a级毛片在线视频| 国产精品久久久久四虎| 久久精品免费一区二区| 成人看片爽爽爽| 欧美精品亚州精品| 亚洲一区二区影视| 中文乱码免费一区二区| 青青草原av在线播放| 精品精品国产毛片在线看| 久久中文字幕在线| 国产精品亚洲lv粉色| 国产欧美一区视频| 日韩一级在线免费观看| 日韩aaa久久蜜桃av| 高清欧美一区二区三区| 高h放荡受浪受bl| 亚洲精品v日韩精品| 欧美又黄又嫩大片a级| 婷婷伊人综合| 91在线高清免费观看| 欧美尤物美女在线| 欧美日韩电影一区| 羞羞在线观看视频| 精品一区二区精品| 天堂av免费看| 视频二区欧美| 欧美高清在线观看| 日本黄色不卡视频| 午夜影院久久久| 国产一级免费片| 一区二区高清| 久久伦理网站| 最新日韩三级| 日韩中文字幕在线免费观看| 亚洲字幕av一区二区三区四区| 99视频在线观看免费| 国产福利91精品| 男人添女人下部视频免费| 天堂va欧美ⅴa亚洲va一国产| 亚洲黄页视频免费观看| 国产无套粉嫩白浆内谢| 99久久精品久久久久久清纯| av黄色在线网站| 国产99精品| 国产欧美一区二区三区四区| 米奇精品一区二区三区| 日韩欧美不卡在线观看视频| 日韩欧美亚洲国产| 久久久夜色精品亚洲| 色婷婷综合久久久久中文字幕| 国产在线播放精品| 日韩男女性生活视频| 95在线视频| 欧美第一区第二区| 黄色在线观看国产| 中文字幕一区二区三区不卡在线| 日韩欧美视频网站| 国产亚洲一区二区三区不卡| 国产日本欧美一区二区三区| 在线观看操人| 亚洲人成电影网站| 国产女人爽到高潮a毛片| 午夜精品久久久久| wwwww黄色| 成人禁用看黄a在线| 亚洲色精品三区二区一区| 亚洲最新av| 欧美人与物videos另类| 一区二区三区| 免费国产亚洲视频| 久久久久久艹| www.成人| 欧美在线视频一区二区| 成人片在线看| 亚洲色图国产精品| 亚洲大尺度视频| 日本道在线观看一区二区| 亚洲天堂黄色片| 久久久影院官网| 无人码人妻一区二区三区免费| 日韩精品欧美| 精品久久久久久一区| 999精品嫩草久久久久久99| 8x拔播拔播x8国产精品| 超碰人人在线| 中文字幕日韩精品有码视频| 国产91麻豆视频| 337p亚洲精品色噜噜噜| 精品成人av一区二区在线播放| av资源站一区| 制服下的诱惑暮生| 六月丁香综合在线视频| 欧美久久久久久久久久久久久| 欧美一级全黄| 国产视频精品在线| 日韩欧美在线免费观看视频| 久久中文字幕av| 久久精品一区二区三区不卡免费视频| 日韩伦理在线| 欧美激情综合色综合啪啪五月| 丰满人妻一区二区三区免费视频| 亚洲高清视频中文字幕| 免费高清在线观看电视| 中文字幕的久久| 亚洲av无码国产精品麻豆天美| 日本vs亚洲vs韩国一区三区二区 | 欧美日韩免费在线| 久久综合加勒比| 99在线热播精品免费| 九色91porny| 久久国产人妖系列| 亚欧激情乱码久久久久久久久| 欧美日韩亚洲一区三区| 一区二区三区四区在线视频| 精品国产一区探花在线观看| 精品欧美一区二区久久久伦| 精品视频自拍| 激情小说综合网| 麻豆一区二区| 久久99国产精品| 卡通动漫国产精品| 久久艹中文字幕| 亚洲大片精品免费| 牛人盗摄一区二区三区视频| 四虎5151久久欧美毛片| 欧美系列一区| 欧美三级三级| 一区二区三区精品国产| 91亚洲人成网污www| 中文字幕中文字幕在线中心一区| 日韩精品欧美大片| 麻豆av一区二区| 欧美理论在线播放| 亚洲人成网站在线观看播放| 黄页网站在线观看免费| 国产精品一卡二卡在线观看| 日韩av片在线看| 国产欧美成人| 欧美精品aaaa| 精品一区二区在线视频| 色婷婷综合在线观看| 成人性生交大片免费看中文 | 韩国成人精品a∨在线观看| 亚洲黄色av片| 成人免费毛片app| 精品人妻一区二区免费视频| 久久久777精品电影网影网| 亚洲精品国产精品国自| 伊人婷婷欧美激情| 在线天堂中文字幕| 欧美日韩三级视频| 亚洲免费成人网| 亚洲人成电影在线观看天堂色| 神宫寺奈绪一区二区三区| 亚洲免费精彩视频| jzzjzzjzz亚洲成熟少妇| 免费97视频在线精品国自产拍| 最新国产在线观看| 欧美大片欧美激情性色a∨久久| 色欧美激情视频在线| 欧美巨猛xxxx猛交黑人97人| 国模精品视频| 国产精品久久久久不卡| 在线观看视频一区二区三区 | 国产精品超碰| 日本视频一区二区不卡| 一二三区不卡| 免费午夜视频在线观看| 国产在线不卡视频| 成年人免费观看视频网站| 亚洲三级电影网站| 亚洲综合图片网| 日韩欧美电影在线| 国产毛片在线| 午夜精品视频在线| 韩国精品视频在线观看 | 成人福利小视频| 亚洲色在线视频| 久色国产在线| 国产在线观看精品| 日本福利一区| 欧美激情精品久久久久久变态| 亚洲蜜桃精久久久久久久久久久久| 日本视频在线一区| 性色av浪潮av| 日本一区二区三区dvd视频在线| 男女全黄做爰文章| 粉嫩老牛aⅴ一区二区三区 | 国产精品久久777777毛茸茸| 国内外成人免费在线视频| 成人av免费在线观看| 性生交大片免费全黄| 色哟哟一区二区在线观看| 狠狠躁夜夜躁av无码中文幕| www日韩欧美| 91tv亚洲精品香蕉国产一区| 久99久在线| 亚洲国产精品第一区二区| 午夜激情视频网| 国产精品传媒入口麻豆| 国产情侣小视频| 亚洲精品理论电影| gogo高清在线播放免费| 亚洲最大福利视频网站| 第九色区aⅴ天堂久久香| 日韩 欧美 高清| 337p粉嫩大胆色噜噜噜噜亚洲| 亚洲天堂av中文字幕| 色婷婷综合激情| 黄上黄在线观看| 青青草原一区二区| 亚洲丝袜美腿一区| 18禁免费无码无遮挡不卡网站| 免费日本视频一区| 国产伦理片在线观看| 色婷婷综合五月| 毛片免费在线观看| 国产精国产精品| 日韩精品1区| 99国产精品久久久久久| 日韩一区欧美一区| 国产一区二区三区在线观看| 日韩午夜在线视频| av日韩久久| 美女黄色片网站| 国产乱子伦视频一区二区三区| 9.1成人看片免费版| 色婷婷综合在线| www.中文字幕久久久| 国产一区视频在线播放| 亚洲区综合中文字幕日日| 日本高清免费观看| 亚洲午夜视频在线| 日夜干在线视频| 国产精品美女久久久久久免费| 亚洲精品影片| 国产av天堂无码一区二区三区| 国内一区二区在线| 欧美黄色免费看| 精品国产污污免费网站入口| 麻豆视频在线观看免费网站黄| 91深夜福利视频| 国产综合自拍| aa一级黄色片| 欧美日韩成人在线| 日韩免费影院| 免费在线成人av电影| 精品一区二区三区不卡| 国产av熟女一区二区三区| 亚洲专区**| 热久久最新地址| 91视频免费播放| 国产精品免费无遮挡| 久久久久亚洲精品国产| 精品九九在线| 国产又粗又猛又爽又黄| 一区二区三区网站 | 91亚洲精品视频| 激情久久久久| 精品无码国产污污污免费网站| 五月婷婷综合在线| 国产高清视频在线播放| 97se国产在线视频| 久久久久久穴| 九九九在线视频| 国产香蕉精品视频一区二区三区| 亚洲少妇视频| 黄色一级片网址| 97精品国产露脸对白| 在线免费av网| 欧美综合国产精品久久丁香| 亚洲最新色图| 妺妺窝人体色WWW精品| 亚洲成人av片| 国产精品日本一区二区不卡视频| 中国一级黄色录像|