機器學習系統的弱點：需要保護它們的5個原因
我們每日辛勤工作的最終目標就是能讓生活更輕松方便，人類歷史就是這樣發展的。機器學習就是這樣一種提升便利性的力量，它能從Spotify根據我們以前的播放列表提供的推薦，過濾垃圾郵件和網絡釣魚郵件。
雖然機器學習是一個先進技術帶來的天才禮物，但總是屈服于臭名昭著的惡意軟件和攻擊。每個企業的發展都離不開客戶和投資者的信任。只有在客戶的數據不被泄露和隱私得到維護的情況下，這種信任才得以維持。
然而，隨著數據成為新的“燃料”，這已成為一項艱巨的任務。每一個大大小小的組織都在爭分奪秒地保護自己和客戶不受數據泄露的影響。這篇文章將帶你了解機器學習系統需要保護的5個原因。
數據盜竊
我們預計電子商務很快將突破萬億美元大關，這顯然也將導致數字欺詐激增。據Juniper Research的報告稱，預計到2023年，“無卡交易詐騙”(CNP)的規模將達到1300億美元。另一個令人擔憂的消息是，近50%的電子商務公司已經成為它的受害者。
知識產權盜竊
專利就像是你的創造力和技藝的“合法壟斷”(美國專利和商標法長達20年)。在企業環境中，知識產權戰爭可能會比Eminem和IggyAzalea之間的斗爭更嚴重。以下這些都是在不同行業所存在的知識產權被侵犯的形式：
- 技術人員：雇員竊取計算解決方案或外包他們的工作，以賺取雙倍薪水。
- 醫療保健：醫護人員和藥劑師開出超出其授權能力的處方。
- 教育：申請虛假助學貸款的人。
- 財務：偽造虛假交易的發票。
不合規
網絡安全法的實施無異于公司的責任，而公司的責任則伴隨著大量的制衡。
- 完整的隱私政策：根據2004年《加利福尼亞州在線隱私保護法》(California Online Privacy Protection Act)，在加利福尼亞州(現在幾乎覆蓋整個美國)經營在線業務和網站或收集客戶信息(跟蹤或研究目的)的公司必須在網站上盡可能詳細說明其隱私政策。該法解釋了所收集信息的范圍，以及第三方共享的目的。
- 個人數據與個人信息或個人可識別信息有很大區別(可以互換使用它們，但每種都有特定的法律分類)，甚至聯邦貿易委員會(FTC)也需要提出隱私法并予以支持。
- 計劃把視野擴展到美國以外，但是記住要和你的律師預約。美國以外的數據隱私法與美國法律并不一致，比如歐盟的GDPR賦予其公民收集、刪除公司獲取的信息的權利;而中國的數據保護法允許政府干預并保存軟件包的源代碼副本。
服務質量(QoS)下降
服務質量揭示了計算服務的完整性能，攻擊者可以利用該服務輕松地在系統中傳輸大量優化的授權。由此，攻擊者可以降低服務質量或強制向人工操作人員升級。
支持QoS的網絡容易受到另一種形式的攻擊——QoS攻擊。支持QoS的網絡，例如差別化服務網絡，以不同的成本提供不同類別的服務。這種收費差異可能會刺激一些用戶竊取帶寬或任何其他與網絡相關的資源。
中毒分析
數據中毒是金融業最大的潛在威脅，因為它可以導致任何基于人工智能的安全系統漏洞。它具有很強的操縱性，在持續損害數據和破壞客戶信任的同時，也容易被忽視。取證專家還發現，追蹤如此復雜但易受攻擊的狀態向量極為困難，這表明基于云的基礎設施還需要熟練的安全模塊。
除了享受服務之外，還需要警惕潛在威脅。要始終保護和過濾潛在威脅的安全性，這有點像現代的數據角斗士。希望你現在可以更加意識到保護機器學習系統的緊迫性。
本文轉載自微信公眾號「讀芯術」，可以通過以下二維碼關注。轉載本文請聯系讀芯術公眾號。
