如何搭建自己的人工智能系統?

像很多事情一樣，答案是“視情況而定”。如果我們將深度學習作為一個日益流行的人工智能的例子。工作負載，為數據集的深度學習訓練構建 AI 系統在很大程度上取決于您可以輕松訪問的資源、專業知識和基礎設施數量。例如，您可能作為獨立開發人員或在較小環境中作為研究人員使用的系統看起來與支持大型組織努力“支持”與客戶的業務交互所需的系統有很大不同，或者提高臨床護理質量，或檢測大量金融交易數據中的欺詐行為。最終，這變成了您是設計和構建自己的系統，還是針對您的問題采用專門構建的解決方案的問題。

對于前者，當今消費市場中常見的 GPU 技術往往會進入“自己動手”的人工智能領域。系統非常強大，并且提供比基于 CPU 的系統明顯更好的性能。可以在當今的 GPU 上實現通用并行計算的現成工具包，結合支持流行深度學習框架所需的編程技能，可以產生很好的結果，正如 Alex Krizhevsky 的“AlexNet”首次證明的那樣，該工具包贏得了 ImageNet Large規模視覺識別挑戰。

[[430157]] 

2012 年，使用在 GPU 和 NVIDIA CUDA 上運行的卷積神經網絡。

對于后者(大規模深度學習，對于大型組織)——有兩個重要的考慮因素會影響你實施人工智能的方法。系統：

1. 你需要多快開始看到結果?

如果您正在進行探索之旅，并且喜歡玩各種硬件和軟件配置的智力挑戰和有時“偵探工作”，那么您很可能沒有按照老板設定的時間表進行操作，或者某種商業或研究勢在必行。在這種情況下，當您將您感興趣的包括 GPU、驅動程序、庫和深度學習框架在內的系統拼湊在一起時，沿著一條曲折的道路走下去可能完全沒問題，并在您承擔角色時篩選可能有數百頁的文檔“系統集成商”。 

但是，如果您的努力受到從數據中獲取洞察力的首要需求的引導，那么您可能需要一條更簡單、更快速的路徑來實現這一目標。在這種情況下，您需要利用“解決方案化”平臺或設備，例如 NVIDIA DGX-1 或 DGX Station。

集成您需要的所有組件，并通過已發布的基準測試進行驗證，在您關心的框架上提供可量化的性能。此類設備應根據它們的“即插即用”程度以及開通體驗是否直觀、引導您完成易于導航的簡單管理界面、管理數據集、分配資源、并安排工作。這種部署模式使您不必戴上“IT 管理員”的帽子，并讓您盡快開始訓練神經網絡，在短短一天內啟動并運行。

獲得更快洞察的另一個方面是協同工作的硬件和軟件的性能。 GPU 優化的深度學習軟件堆棧的好處是能夠在深度學習訓練中達到比單獨使用 GPU 硬件更高的加速因子。與使用相同 Tesla V100 GPU 構建但缺乏集成、優化的深度學習軟件的其他系統相比，NVIDIA DGX 系統的深度學習性能提高了 30%。這里重要的一點是，即使你構建了一個 A.I.您自己的系統，使用絕對最新的 GPU 技術，相對于集成的硬件和軟件系統，該系統仍然處于性能劣勢，該系統經過全面優化和軟件工程，以實現每個深度學習框架的最大性能。

2. 我準備花多少時間管理和優化基礎設施? 

類似于“探索之旅”路線，您的 AI 系統可能看起來非常不同，具體取決于您遵循的路線。如果您熱衷于花時間微調您的軟件堆棧，使用不同的框架和支持庫組合，并且不介意在社區論壇中尋求故障排除支持，那么構建您自己的系統可能是您的最佳選擇。現實情況是，要調整“完美”的深度學習堆棧，從框架到 GPU，通常需要大量的軟件工程技能支出驅動程序，以及中間的每一層。還要考慮到框架本身通常是開源的，并且在不斷發展。因此，確保您的堆棧以最佳性能運行意味著承諾在工時進行調整和重新調整，并可能在持續的基礎上重新構建您的堆棧。如果這是您的章程，那么這可能不是問題，但如果您正在資助其他人來完成這項工作，則可能意味著數十萬美元的軟件工程運營支出，以確保您最大限度地提高人工智能的投資回報率。

或者，AI像 NVIDIA 的 DGX 這樣的設備，包括訪問流行的深度學習框架，如 TensorFlow、Caffe2、MXNet 等，以及支持庫，所有這些都與硬件集成，可以節省大量時間和金錢。此類產品具有預先優化的堆棧，由解決方案提供商定期(最好是每月)更新。這使您免受開源軟件的流失和不確定性的影響，同時如果您對硬件和軟件中的任何元素有問題，還可以為您提供企業級支持。

此外，由于數據科學和人工智能的實驗性質，開發人員經常發現他們自己(或他們的團隊)需要同時對系統資源和軟件配置的不同組合進行實驗，以確定哪種模型可以最快地獲得洞察力。基于 Docker 的容器能夠支持深度學習堆棧的多個版本的共存，每個版本彼此隔離，并具有自己的支持驅動程序和庫的實例。這使系統操作系統的基本映像保持“干凈”，并避免在實驗者想要嘗試不同的配置排列時必須重新映像設備的可能性。容器與正確的管理和調度設備相結合，還可以使研究人員團隊同時使用該平臺，并在他們正在開發的模型上進行協作，從而提高系統的利用率，推動您部門的人工智能獲得更高的投資回報。 

所有這一切都可以為您(試圖利用人工智能力量的數據科學家)提高生產力。在您的企業中。所以，你真的有兩條途徑來構建人工智能。系統，每個系統都適合您可能正在處理的一組不同的時間表、業務目標和運營設置。選擇最終將歸結為您是否有自由擴展您的章程以包括系統集成商和 IT 管理員的角色，或者您的職責是否讓您始終專注于數據科學并為您的組織獲取洞察力。