2月17日消息，近日，深信服一朵云面向AI進(jìn)行全新升級(jí)，為用戶打造更匹配大模型場(chǎng)景的智算承載、應(yīng)用構(gòu)建的AI平臺(tái)，面向用戶基于DeepSeek承載和應(yīng)用的場(chǎng)景，提供一鍵部署、性能更優(yōu)、快速開發(fā)應(yīng)用的最佳實(shí)踐方案。
總的來說，深信服一朵云面升級(jí)包含三個(gè)方面：
1、 線下基礎(chǔ)設(shè)施從傳統(tǒng)業(yè)務(wù)承載平臺(tái)向智算承載平臺(tái)升級(jí)，廣泛適配包括DeepSeek在內(nèi)的最新大模型。
深信服現(xiàn)已打造「HCI+AICP新一代超融合」解決方案，只需在原集群基礎(chǔ)上增加一臺(tái)GPU節(jié)點(diǎn)，就能基于本地集群快速部署并承載DeepSeek在內(nèi)的企業(yè)級(jí)大模型。
除了支持英偉達(dá)GPU，深信服AICP算力平臺(tái)和多家國(guó)產(chǎn)廠商開展了廣泛的軟硬件兼容測(cè)試，可適配天數(shù)智芯、昇騰、海光、沐曦、燧原等多款國(guó)產(chǎn)卡，為用戶實(shí)現(xiàn)算力異構(gòu)管理。
2、 線上托管云上線全新AI服務(wù)目錄，提供DeepSeek等企業(yè)級(jí)大模型服務(wù)，用戶可通過訂閱來快速獲取AI能力。
深信服托管云已支持基于專屬資源+AICP的方式，為用戶提供專屬的企業(yè)級(jí)大模型服務(wù)，可滿足用戶對(duì)于線上部署專屬服務(wù)模型的需求。
深信服會(huì)持續(xù)豐富線上服務(wù)目錄，用戶可以很容易地通過訂閱的方式，快速平滑地獲取AI能力，如DeepSeek等模型服務(wù)。
3、 全新發(fā)布AI應(yīng)用創(chuàng)新平臺(tái)，助力用戶快速構(gòu)建大模型應(yīng)用，讓AI應(yīng)用的開發(fā)和運(yùn)營(yíng)變得更簡(jiǎn)單。
深信服AI應(yīng)用創(chuàng)新平臺(tái)內(nèi)置RAG最佳實(shí)踐流程，支持智能分片與直連企業(yè)自有知識(shí)庫(kù)。用戶僅需通過簡(jiǎn)單操作，即可構(gòu)建高質(zhì)量的RAG應(yīng)用。深信服AI應(yīng)用創(chuàng)新平臺(tái)支持基于業(yè)務(wù)評(píng)測(cè)數(shù)據(jù)集的應(yīng)用效果評(píng)估，并自動(dòng)生成優(yōu)化建議，用戶無(wú)需理解復(fù)雜技術(shù)細(xì)節(jié)，即可完成配置優(yōu)化，實(shí)現(xiàn)效果提升。
據(jù)介紹，向AI升級(jí)后，深信服全面優(yōu)化推理性能，讓跑在一朵云上的大模型應(yīng)用可以實(shí)現(xiàn)推理性能的大幅提升，降低大模型整體使用成本。
相比基于個(gè)人開發(fā)者常用的Ollama方案部署DeepSeek，深信服通過AICP算力平臺(tái)的部署方案在多實(shí)例、并發(fā)推理場(chǎng)景中可實(shí)現(xiàn)5-10倍的性能提升。大模型并發(fā)度更高、吞吐量更大、推理響應(yīng)延時(shí)更低，讓用戶在企業(yè)級(jí)AI應(yīng)用構(gòu)建及實(shí)際使用時(shí)，資源投入更低、體驗(yàn)更優(yōu)。
4卡4090運(yùn)行DeepSeek-32B模型，模擬64并發(fā)場(chǎng)景，做問答測(cè)試
以32B模型為例，日常問答場(chǎng)景（2k上下文），AICP并發(fā)是Ollama的8~10倍，總吞吐10倍以上。
硬件資源：INT4用2*4090，F(xiàn)P16用4*4090
知識(shí)庫(kù)應(yīng)用場(chǎng)景（4k上下文），AICP并發(fā)是Ollama的2倍，總吞吐4~8倍。
硬件資源：INT4用2*4090，F(xiàn)P16用4*4090
- “微博尋夫”女主勝訴，分手費(fèi)1.2億，A股為何頻現(xiàn)天價(jià)離婚案？
- 亞馬遜擬發(fā)射首批27顆衛(wèi)星挑戰(zhàn)SpaceX
- Apple Books被控虛假宣傳 蘋果面臨50億美元集體訴訟
- 鴻蒙版微信更新：多項(xiàng)重磅功能上線 HarmonyOS發(fā)展迎來“日日新”
- 亞馬遜競(jìng)購(gòu)TikTok美國(guó)業(yè)務(wù)，1.7億用戶命運(yùn)4月5日揭曉？
- 英偉達(dá)Blackwell Ultra采用液冷散熱，液冷市場(chǎng)“奇點(diǎn)”臨近
- 美團(tuán)：開始試點(diǎn)為騎手補(bǔ)貼養(yǎng)老保險(xiǎn) 后續(xù)逐步覆蓋至全國(guó)
- 半導(dǎo)體設(shè)備國(guó)產(chǎn)化迫在眉睫，新凱來“軟硬協(xié)同”模式引關(guān)注
- 開啟美育教育新范式，網(wǎng)龍首創(chuàng)“數(shù)字化細(xì)節(jié)重構(gòu)”藝術(shù)形式亮相世界級(jí)大展
- 出海再提速！比亞迪“西安號(hào)”滾裝船正式下水，“深圳號(hào)”即將首航
免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。
