近日，金山云基于Tesla T4的GPU云服務(wù)器正式對外商用，這也是繼去年國內(nèi)首家商用Tesla V100之后，金山云在GPU云服務(wù)器領(lǐng)域再一次拔得頭籌，代表金山云在新技術(shù)應(yīng)用上始終處于行業(yè)領(lǐng)先水平。
作為全面升級的新一代GPU云服務(wù)器，T4采用了最新的Turing架構(gòu)，單卡提供8.1 TFLOPS的單精浮點計算能力和65 TFLOPS的混合精度(FP16/FP32)矩陣計算能力。Tesla T4相比于上一代產(chǎn)品Tesla P4，其整體性能有了較大的提升，在給定場景下，T4的推理性能提升超過350%。
震撼的多精度推理性能為AI全面加速
Tesla T4基于Turing架構(gòu)，提供了更加強大的訓練和推理能力，在原有對FP32和FP16支持的基礎(chǔ)上，Turing架構(gòu)中的Tensor Core新增了對INT8和INT4的支持，并探索性地推出了INT1精度模式。通過對多種精度模式的支持，T4能夠有效縮短在線預(yù)測和離線訓練時長。根據(jù)Nvidia公布的測試數(shù)據(jù)，在語言推理的場景中(NLP: GNMT Model)，T4相對于P4，其性能提升超過350%。
Tesla T4使用TU104核心，搭載136億個晶體管，共40個SM(stream multiprocessor)，每個SM單元中有64個CUDA Core和8個混合精度的矩陣運算單元Tensor Core，共2560個CUDA core和320個Tensor core，提供8.1 TFLOPS的單精度性能和65 TFLOPS的混合精度(FP16/FP32)性能。此外，T4中還集成了Turing架構(gòu)首次引入的RT Core，可實現(xiàn)高效的光線追蹤(Ray Tracing)功能，在圖形圖像渲染方面有著廣泛的應(yīng)用。目前，金山云基于T4的GPU加速計算服務(wù)已全面商用，為諸多客戶提供著高性能的計算支撐。
優(yōu)異的機器學習能力讓技術(shù)更智能
T4針對深度學習應(yīng)用場景，進行了全方位的優(yōu)化。首先，T4卡配備了320個Tensor Core。Tensor Core作為專門用于執(zhí)行張量/矩陣運算的計算單元，能夠為訓練和推理場景中的矩陣運算提供極大的加速，被廣泛用于各種深度學習的場景中。Turing Tensor Core相對于先前的Volta版，強化了推理的功能，支持了INT8和INT4兩種精度模式，算力分別高達130TOPS和260TOPS。其次，T4繼承了Volta架構(gòu)中首次引入的Multi-Process Service(MPS)功能，優(yōu)化了對batch較小時推理的性能，減少啟動延遲，從而能夠支持更多的并發(fā)請求。
及時響應(yīng)是提升用戶參與度的關(guān)鍵，隨著模型準確性和復(fù)雜性的提高，快速交付正確答案所需的計算能力也在呈指數(shù)級提升。T4擁有先進的實時推理性能，在會話式人工智能、推薦系統(tǒng)和可視化搜索等場景的處理上，可提供低延時、高吞吐量的計算能力，進而實時滿足更多的處理請求。T4通過優(yōu)異的機器學習推理能力讓技術(shù)應(yīng)用更為智能。除了深度學習外，T4在視頻轉(zhuǎn)碼和虛擬桌面等諸多場景中都能夠發(fā)揮重要的作用。
作為中國領(lǐng)先的云計算服務(wù)提供商，金山云始終致力于通過最前沿的技術(shù)、最高效的產(chǎn)品為客戶提供更加安全、穩(wěn)定、便捷的云服務(wù)。目前基于T4的 GPU云服務(wù)器已經(jīng)開放商用，卓越的深度學習推理性能，讓用戶能夠更加快速、高效地構(gòu)建AI業(yè)務(wù)，運行大規(guī)模模型推理應(yīng)用。同時，基于Tesla T4的實例具備易擴展和高性價比的特性，能夠為用戶節(jié)省大量計算成本，有效提升AI產(chǎn)品迭代的速度，提高企業(yè)AI競爭力。
- 蜜度索驥：以跨模態(tài)檢索技術(shù)助力“企宣”向上生長
- 國美創(chuàng)新汽車流通模式，顛覆傳統(tǒng)，引領(lǐng)行業(yè)新潮流
- 科技一周動態(tài)：OpenAI人形機器人挑戰(zhàn)滴滴，出行行業(yè)迎來新變革
- 本田全球產(chǎn)量四連降：中國市場跌幅逾28%，銷量下滑引關(guān)注
- 寧德時代表示：磷酸鐵鋰減產(chǎn)傳聞純屬烏龍，市場仍對電池需求高漲
- 開源數(shù)據(jù)庫新秀openGauss：關(guān)系型數(shù)據(jù)庫產(chǎn)品占比達28.5%，領(lǐng)跑三大主流技術(shù)路線
- 索尼CEO回應(yīng)主機市場：不衰落才是我們的態(tài)度，挑戰(zhàn)市場核心地位
- 蔚來維權(quán)升級：多個賬號遭固定證據(jù) 蔚來多地起訴引關(guān)注
- 半導(dǎo)體行業(yè)迎來創(chuàng)新力作：SemiKong發(fā)布，助力芯片上市提速30%
- 智能手表表帶有毒？蘋果、谷歌三星等品牌陷新風波
- 小米汽車交付量破紀錄，明年目標挑戰(zhàn)36萬輛，出行變革再加速
免責聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關(guān)資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負任何法律責任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。
