~您知道什么是英特爾® 深度學習部署工具包嗎？免費的您用不用？~在人工智能開發(fā)的時代，醫(yī)療影像AI的價值在于實現(xiàn)臨床醫(yī)生和影像醫(yī)生的高效合作。~下面就來看看使用了英特爾®?深度學習部署工具包，尤其是利用其中核心函數(shù)庫--英特爾®?MKL-DNN?優(yōu)化經(jīng)過訓練的?GE?解決方案后，提升了什么性能？~而這又會為下一代診斷掃描儀和智能醫(yī)療影像時代的人工智能部署指明什么樣的道路呢？~英特爾®?深度學習部署工具包幫助在英特爾®?架構上提供優(yōu)化的推理性能，為臨床診斷掃描及其他醫(yī)療工作流賦能人工智能。
英特爾®?技術的深度學習解決方案的提出背景
醫(yī)療影像在診斷廣泛的醫(yī)療問題、規(guī)劃治療和評估治療效果方面的價值極高。與其他衛(wèi)生保健和人口信息相結合，醫(yī)療影像數(shù)據(jù)也可以帶來新的見解與洞察，從而激發(fā)下一代的治療突破。深度學習和其他形式的人工智能（AI）具有巨大潛力，可簡化醫(yī)療影像工作流、增強影像質量并提高影像數(shù)據(jù)的研究價值。為了履行人工智能增強型醫(yī)療影像的承諾，開發(fā)人員和其他創(chuàng)新者必須在靈活的平臺上部署其人工智能解決方案，這些平臺無需提高成本即可為深度學習創(chuàng)新提供高性能和可擴展性。作為全公司人工智能革新計劃的一部分，英特爾在經(jīng)濟、通用的英特爾®?架構上為高性能深度學習提供處理器、工具和框架。除了英特爾®?至強®?可擴展處理器和英特爾®?固態(tài)盤外，關鍵技術還包括英特爾®?深度學習部署工具包和面向深度神經(jīng)網(wǎng)絡的英特爾®?數(shù)學核心函數(shù)庫（英特爾®?MKL-DNN）。通過這些技術，創(chuàng)新者可以按照優(yōu)化方式，在來自各種框架和訓練平臺的各種英特爾架構上，輕松地部署和整合其深度學習模型。開發(fā)人員可以使用英特爾架構交付其創(chuàng)新產(chǎn)品，而不會為部署環(huán)境增加成本和復雜程度。英特爾和?GE (General Electric Company)?醫(yī)療集團利用?GE?的深度學習圖像分類解決方案探索英特爾®?技術。雙方發(fā)現(xiàn)，與基準版本的解決方案相比，使用英特爾®?深度學習部署工具包和英特爾®?MKL-DNN?優(yōu)化經(jīng)過訓練的?GE?解決方案后，可將吞吐量平均提高?14?倍，超過?GE?的吞吐量目標近六倍。這些發(fā)現(xiàn)為下一代診斷掃描儀和智能醫(yī)療影像時代指明了人工智能部署的途徑。
英特爾®?技術的深度學習解決方案的應用實例
對于醫(yī)療影像人工智能解決方案，部署架構必須提供適應繁忙放射科工作流的高推理吞吐量，同時不限制靈活性，也不會為部署環(huán)境增加不必要的復雜性和成本。訓練基礎設施與推理基礎設施有顯著不同，選擇高度優(yōu)化的推理基礎設施可以大幅加快推理的吞吐量。采用英特爾®?技術的深度學習解決方案有助于在各種醫(yī)療影像應用中提供高吞吐量的推理。例如，浙江大學數(shù)學科學學院*?和浙江?DE?影像解決方案有限公司*?的開發(fā)團隊開發(fā)出一種深度學習解決方案，有助改善中國甲狀腺癌篩查?；谟⑻貭?reg;?技術的解決方案檢查超聲影像來識別甲狀腺病變并進行分類。中國政府使用基于英特爾技術的深度學習解決方案擴展醫(yī)療系統(tǒng)的能力，以檢測可預防性失明的兩種常見病因。愛爾眼科醫(yī)院集團*（中國領先的眼保健醫(yī)院網(wǎng)絡）與醫(yī)療影像集成解決方案提供商?MiiS*?公司聯(lián)手創(chuàng)建在英特爾®?至強®?可擴展處理器上運行的云解決方案，將深度學習推理能力與?MiiS?的手持檢眼鏡整合在一起。
英特爾®?技術的深度學習解決方案的概述：英特爾® 深度學習部署工具包
1. 英特爾® 深度學習部署工具包簡介英特爾®?深度學習部署工具包是一套免費的工具，使用戶能夠優(yōu)化深度學習模型，以加快英特爾®?處理器上的執(zhí)行速度。該工具包從?Caffe*、Apache?MXNet*、TensorFlow*、Kaldi*?和其他常見的深度學習框架導入訓練模型，而不用考慮用于訓練模型的硬件平臺。英特爾®?深度學習部署工具包中含有面向深度神經(jīng)網(wǎng)絡的英特爾®?數(shù)學核心函數(shù)庫（英特爾®?MKL-DNN），這是一個高性能庫，旨在加速多代英特爾處理器上的神經(jīng)網(wǎng)絡原語、提高應用性能并縮短開發(fā)時間。英特爾®?MKL-DNN?還以獨立的開源軟件包形式提供。深度學習部署工具包是?Intel®?Computer?Vision?Software?Development?Kit（英特爾®?計算機愿景軟件開發(fā)工具包）的一個組件。
圖1：優(yōu)化模型使用英特爾® 深度學習部署工具包和面向深度神經(jīng)網(wǎng)絡的英特爾® 數(shù)學核心函數(shù)庫（英特爾® MKL-DNN），在臨床和研究環(huán)境中的企業(yè)“邊緣”為人工智能解決方案的實際部署提供出色的推理性能
2. 英特爾® 深度學習部署工具包優(yōu)勢
由于工具包將常見的深度學習框架導入訓練模型，無需考慮訓練模型的硬件平臺，因此，開發(fā)人員可以使用統(tǒng)一的應用編程接口（API），將各種經(jīng)過訓練的神經(jīng)網(wǎng)絡模型與應用邏輯整合在一起。該工具包通過降低解決方案的總占用空間并優(yōu)化基于英特爾®?架構的選定硬件來最大化推理性能。通過降低解決方案的總占用空間并優(yōu)化基于英特爾®?架構的選定硬件來最大化推理性能。
該工具包還可增強模型以改善執(zhí)行、存儲和傳輸，并支持與應用邏輯的無縫整合。開發(fā)人員還可以在目標硬件環(huán)境中測試和驗證他們的模型，以確認準確度和性能。最終可得到便于嵌入、占用空間小、性能優(yōu)異的推理解決方案，以行業(yè)標準技術實現(xiàn)高吞吐量部署。
英特爾® 深度學習部署工具包推理性能檢驗
英特爾與GE?Healthcare（領先的醫(yī)療影像設備和其他醫(yī)療技術提供商）聯(lián)手檢驗一項?GE?深度學習解決方案的推理性能。在使用?Python*?編程語言和開源軟件（包括?TensorFlow?和?Keras*?深度學習庫）開發(fā)和訓練基于人工智能的新模型基礎上，英特爾人工智能優(yōu)化專家與GE?的?CT?影像專家協(xié)作，使用英特爾®?深度學習部署工具包安裝和優(yōu)化面向英特爾技術環(huán)境的解決方案并檢驗該解決方案的性能。針對節(jié)省成本的推理性能需求，設定了一個目標：使用英特爾®?至強®?處理器的四個或四個以下專用內核，每秒對?100?個影像進行分類。
運行該解決方案的系統(tǒng)由?2.20GHz?的英特爾®?至強®?處理器?E5-2650?v4?提供支持，配有?264?GB?內存和英特爾®?固態(tài)盤數(shù)據(jù)中心系列?480?GB，采用?CentOS?Linux*?7.4.1708。該系統(tǒng)位于英特爾在俄勒岡州希爾斯伯勒的數(shù)據(jù)中心健康和生命科學實驗室，使用受隱私保護的數(shù)據(jù)集，該數(shù)據(jù)集內包含?8,834?個?CT?掃描影像。
圖2：英特爾® 至強® 處理器 E-2650 在四個內核上的推理性能超過GE目標接近6倍，對于需要更多內核的解決方案演示了穩(wěn)定的可擴展性能
結果令人印象深刻。由英特爾®?深度學習開發(fā)工具包和英特爾®?MKL-DNN?生成的優(yōu)化代碼使推理吞吐量比同一系統(tǒng)上運行的基準?TensorFlow?模型平均提高了?14?倍，輕松滿足?GE?的性能目標。實際上，英特爾®?至強®?處理器?E5-2650?的單個內核的運行速度幾乎比?GE?的性能目標快?150%，該處理器的四個內核超出?GE?醫(yī)療性能目標近六倍（參見圖?2）。英特爾基準測試表明，新型英特爾®?至強®?鉑金?8180?處理器針對一系列人工智能工作負載的執(zhí)行速度比上一代快?2.4?倍。
GE?Healthcare?首席工程師?David?Chevalier?表示：“我們希望將客戶的部署成本降低，因此，當在各種臨床應用環(huán)境中運行各種各樣的人工智能和影像處理任務時，需要高性能和靈活性。我們認為，英特爾的通用處理器、工具和框架可以提供一種經(jīng)濟的方法，通過它可以在醫(yī)療影像領域按照有意義的新方式利用人工智能。”
英特爾® 深度學習部署工具包靈活的部署
英特爾®?至強®?處理器和深度學習部署工具包僅使用少數(shù)幾個?CPU?內核即可提供出色的推理性能，這使得創(chuàng)新者（如?GE?Healthcare）可以在同樣經(jīng)濟的邊緣服務器基礎設施上，以高性能運行一個或多個人工智能解決方案，可處理重構、注冊、分段和降噪等本地影像處理任務。人工智能開發(fā)人員可以利用英特爾的性能調整框架和工具在英特爾架構上部署他們的推理解決方案，而無需考慮他們使用的開發(fā)和訓練環(huán)境。
英特爾處理器上基于?CPU?的推理使創(chuàng)新者（如?GE）可以靈活地更改推理發(fā)生位置。盡管醫(yī)療影像人工智能部署目前在本地服務器的推理設備上運行，下一代推理可能會移至內部或外部的云中或者掃描儀本身中（圖?3）。
總結
借助靈活的英特爾架構上的高推理吞吐量，創(chuàng)新者（如?GE?Healthcare）更接近于提供實用的醫(yī)療影像解決方案，利用深度學習和其他形式的人工智能來提高圖像質量、診斷能力和臨床工作流程。*?其他的名稱和品牌可能是其他所有者的資產(chǎn)。
文章摘自英特爾精英匯
歡迎聯(lián)系寶通集團咨詢英特爾產(chǎn)品信息
寶通集團聯(lián)系方式
咨詢熱線：0755-88603572
寶通官網(wǎng)：m.bjshst.cn
客戶垂詢郵箱：cuifang.mo@ex-channel.com
客戶垂詢QQ：1627678462
地址：深圳市福田區(qū)深南大道1006號國際創(chuàng)新中心C座11樓
郵編：518026
當前位置：
粵公網(wǎng)安備 44030402001885號
友情鏈接： 金沙古酒 | 中青寶 | 寶德控股 | 寶德計算 |