普通人如何在電腦上嘗鮮AI技術(shù)？三招教你玩轉(zhuǎn)AI

TechWeb 文 / 新喀鴉

隨著科技的飛速發(fā)展，人工智能（AI）已經(jīng)不再是遙不可及的未來(lái)科技，而是逐步融入我們生活的各個(gè)角落。從智能家居的便捷操控，到線上服務(wù)的智能推薦，再到醫(yī)療、教育等行業(yè)的深度應(yīng)用，AI正以其獨(dú)特的魅力改變著世界。然而，對(duì)于許多普通人而言，AI似乎仍然是一個(gè)充滿神秘感的高科技領(lǐng)域。那么作為普通人，我們?cè)撊绾螄L鮮AI技術(shù)呢？

以網(wǎng)頁(yè)版AI為代表的“云端AI”

當(dāng)我們提到AI時(shí)，相信很多人的腦海中都會(huì)浮現(xiàn)出一個(gè)名字——ChatGPT。沒(méi)錯(cuò)，就是那個(gè)在科技圈掀起軒然大波的聊天機(jī)器人。它的發(fā)布，仿佛一道璀璨的閃電，照亮了AI領(lǐng)域的夜空，讓我們真切地感受到了人工智能的無(wú)限可能。

ChatGPT是一款集成了尖端自然語(yǔ)言處理技術(shù)與深度學(xué)習(xí)能力的聊天機(jī)器人，它宛如一位博學(xué)多才的全能顧問(wèn)，無(wú)論在哪個(gè)領(lǐng)域，都能針對(duì)您的問(wèn)題提供詳盡的解答。對(duì)于內(nèi)容創(chuàng)作者而言，ChatGPT更是一位不可或缺的助手，它能生成高質(zhì)量的圖片、編寫精準(zhǔn)的代碼、構(gòu)思富有創(chuàng)意的文案、制作專業(yè)的PPT，并對(duì)文檔進(jìn)行潤(rùn)色，使文章內(nèi)容更加出色。當(dāng)然這些僅僅是ChatGPT功能的冰山一角，各位可以去親自體驗(yàn)一番，了解它真正的實(shí)力。

從使用角度來(lái)說(shuō)，ChatGPT使用起來(lái)非常簡(jiǎn)單。我們只需要打開(kāi)網(wǎng)頁(yè)，登錄賬號(hào)就可以享受到相關(guān)的AI功能。

值得一提的是，在今年4月，OpenAI宣布ChatGPT（3.5版本）免費(fèi)了。也就是說(shuō)如果你只是想體驗(yàn)ChatGPT 3.5版本的話，連賬號(hào)也不需要，只要打開(kāi)ChatGPT的網(wǎng)頁(yè)就可以了。

如果你目前無(wú)法使用ChatGPT的話，國(guó)內(nèi)也有很多廠商推出了類似ChatGPT的產(chǎn)品，比如百度的文心一言。根據(jù)百度官方的介紹，文心大模型4.0綜合能力和GPT-4相比毫不遜色。文心一言的使用方式和ChatGPT類似，也是只需要打開(kāi)網(wǎng)頁(yè)，登錄百度賬號(hào)就可以享受到相關(guān)的AI功能。目前文心大模型3.5免費(fèi)開(kāi)放，文心大模型4.0則需要購(gòu)買會(huì)員才可以使用。國(guó)內(nèi)除了文心一言，還有其他一系列AI應(yīng)用，如通義千問(wèn)、豆包、智譜清言、騰訊混元以及訊飛星火等，這些AI應(yīng)用在使用方法上是大同小異的。

當(dāng)然以上這些其實(shí)都屬于“云端AI”的范疇。“云端AI”簡(jiǎn)單來(lái)說(shuō)就是將AI相關(guān)的數(shù)據(jù)處理放在服務(wù)器上跑，用戶只需要通過(guò)網(wǎng)頁(yè)、應(yīng)用程序輸入指令即可。這種部署模式有三個(gè)好處：

1、便宜：目前云端算力成本并不算太高，因此很多“云端AI”是免費(fèi)開(kāi)放的，就算是收費(fèi)的會(huì)員，價(jià)格也不算太貴。以文心一言會(huì)員VIP為例，目前一個(gè)月也只要49.9元（連續(xù)包月，可隨時(shí)取消）。

2、不挑設(shè)備：AI既然是放在服務(wù)器上跑，那么對(duì)于用戶使用的終端基本就沒(méi)什么性能要求了。畢竟找個(gè)能正常訪問(wèn)網(wǎng)頁(yè)的電腦還是很容易的。

3、易用：由于“云端AI”的部署、維護(hù)、升級(jí)等工作是由廠商負(fù)責(zé)，所以對(duì)于用戶來(lái)說(shuō)基本是“即開(kāi)即用”，往往只需要點(diǎn)開(kāi)個(gè)網(wǎng)頁(yè)登錄賬號(hào)就能直接使用AI功能。

基于現(xiàn)有硬件本地部署AI

雖然“云端AI”有諸多優(yōu)勢(shì)，但還是有一個(gè)問(wèn)題不能忽視，那就是數(shù)據(jù)私密性。此前三星就被曝出因ChatGPT而泄露芯片機(jī)密。當(dāng)時(shí)因?yàn)槿菃T工直接將企業(yè)機(jī)密信息以提問(wèn)的方式輸入到ChatGPT中，導(dǎo)致相關(guān)內(nèi)容進(jìn)入學(xué)習(xí)數(shù)據(jù)庫(kù)，從而造成信息泄露。對(duì)于這種情況，本地部署大模型其實(shí)是個(gè)很好的解決辦法。

由于本地部署大模型是將AI放到本地設(shè)備上跑，相關(guān)的信息并不會(huì)發(fā)送到其它服務(wù)器上。所以當(dāng)我們用這種方式處理個(gè)人隱私信息或者企業(yè)機(jī)密信息時(shí)就無(wú)需擔(dān)憂信息外泄的風(fēng)險(xiǎn)。

不過(guò)從另一個(gè)方面看，本地設(shè)備的算力性能往往不如服務(wù)器，因此只有部分性能強(qiáng)的設(shè)備才適合本地部署大模型。

以英偉達(dá)發(fā)布的Chat With RTX為例，Chat With RTX 是一款基于語(yǔ)言大模型的應(yīng)用程序，可讓用戶便捷連接到自己的內(nèi)容（文檔、筆記、視頻或其他數(shù)據(jù)），利用RAG(檢索增強(qiáng)生成)、TensorRT-LLM 和 RTX 加速，全部在用戶個(gè)人的 Windows RTX PC 或工作站上本地運(yùn)行，獲得快速、安全的結(jié)果。

其在硬件方面主要就兩點(diǎn)要求：

1、擁有8GB以上顯存的RTX 30或RTX 40系列顯卡。當(dāng)然同規(guī)格的專業(yè)顯卡也可以。

2、電腦內(nèi)存超過(guò)16GB。

對(duì)于顯卡來(lái)說(shuō)，即使是2022年發(fā)布的RTX 3050也能滿足相關(guān)需求。RTX 3050基本可以算是最近幾年“游戲電腦”的基本配置了，所以目前很多現(xiàn)有的 “游戲電腦”都能符合這樣的配置要求。

如果你想要部署其它本地大模型，硬件配置要求可能會(huì)稍微高一點(diǎn)。簡(jiǎn)單來(lái)說(shuō)大模型參數(shù)量越大，需要的顯存就越多。假設(shè)你使用的顯卡其顯存大小為16GB，那么想要本地部署7B以下參數(shù)量級(jí)的大模型應(yīng)該是問(wèn)題不大的。

簡(jiǎn)單總結(jié)一下，這種部署模式有兩個(gè)優(yōu)點(diǎn)：

1、數(shù)據(jù)在本地計(jì)算，無(wú)需擔(dān)心信息外泄。

2、大多數(shù)最近幾年購(gòu)買的“游戲電腦”基本都可以跑，不需要額外購(gòu)置新設(shè)備。

通過(guò)AI PC本地部署大模型

早在2023年9月，英特爾CEO帕特·基辛格在硅谷提出了PC的革命性概念——AI PC。英特爾也是最先提出AI PC概念的廠商。AI PC簡(jiǎn)單來(lái)說(shuō)就是能玩轉(zhuǎn)AI功能的PC。

具體來(lái)說(shuō)，AI PC集成了中央處理器（CPU）、圖形處理器（GPU）和神經(jīng)網(wǎng)絡(luò)處理單元（NPU），每種處理器都具有特定的AI加速功能。NPU是一種專用加速器，它能高效地在PC上直接處理人工智能和機(jī)器學(xué)習(xí)（ML）任務(wù)，而不是將數(shù)據(jù)發(fā)送到云端進(jìn)行處理。因此用AI PC跑AI也無(wú)需擔(dān)憂信息外泄的風(fēng)險(xiǎn)。

相較于常規(guī)的游戲電腦，AI PC在輕薄與便攜性方面展現(xiàn)出了顯著的優(yōu)勢(shì)。這主要?dú)w因于游戲電腦通常需要配備獨(dú)立顯卡，而這類顯卡不僅體積龐大，還需要配備龐大的散熱模組來(lái)應(yīng)對(duì)其散熱需求，進(jìn)而需要更高功率的電源來(lái)保障供電穩(wěn)定。因此，游戲電腦在設(shè)計(jì)上往往顯得更為厚重，便攜性相對(duì)較差。而AI PC則能憑借其更為緊湊的設(shè)計(jì)，為用戶提供更為輕便的使用體驗(yàn)。

所以對(duì)于工作中需要用到AI，且需要經(jīng)常到處跑的人來(lái)說(shuō)，AI PC會(huì)是個(gè)不錯(cuò)的選擇。畢竟如果可以選的話，應(yīng)該沒(méi)多少人愿意背著“板磚”（游戲電腦）出門吧？

目前市面上的AI PC按所用處理器劃分可以分成四個(gè)主要陣營(yíng)，分別是蘋果、英特爾、AMD、高通。

蘋果：蘋果在AI領(lǐng)域的布局其實(shí)挺早，只不過(guò)蘋果似乎不太喜歡AI這個(gè)標(biāo)簽，搞出來(lái)的成果往往會(huì)以“機(jī)器學(xué)習(xí)”這類更細(xì)化的名字命名。比如蘋果在2017年推出了Core ML框架，這是蘋果為其開(kāi)發(fā)者準(zhǔn)備的機(jī)器學(xué)習(xí)框架。支持iOS、MacOS、tvOS和watchOS。也就說(shuō)是在蘋果生態(tài)內(nèi)開(kāi)發(fā)AI，基本不需要考慮兼容性等問(wèn)題，可以按照統(tǒng)一的規(guī)范進(jìn)行開(kāi)發(fā)。另外蘋果從M1芯片開(kāi)始推出了“統(tǒng)一內(nèi)存”的概念，使用統(tǒng)一內(nèi)存跑大模型在帶寬和容量方面會(huì)有明顯優(yōu)勢(shì)。

英特爾：英特爾專為AI PC推出了英特爾酷睿Ultra處理器，在這款處理器中除了擁有CPU、GPU以外，還集成了用于客戶端的片上AI加速器“神經(jīng)網(wǎng)絡(luò)處理單元（NPU）”。不過(guò)需要說(shuō)明的是，通常并不是只有NPU來(lái)處理AI應(yīng)用，CPU、GPU也會(huì)承擔(dān)對(duì)應(yīng)的AI加速功能。

AMD：AMD的AI PC處理器利用了三種計(jì)算引擎：基于Zen架構(gòu)的CPU、基于AMD RDNA的集成或獨(dú)立GPU、以及基于AMD XDNA的AI引擎（NPU）。XDNA是該公司在收購(gòu)Xilinx后提出的新架構(gòu)。它是一種自適應(yīng)數(shù)據(jù)流架構(gòu)，被認(rèn)為可以大幅度改變PC體驗(yàn)。AMD XDNA還可以優(yōu)化AI算法運(yùn)行效率，進(jìn)而減少電耗。

高通：近期微軟推出了基于高通驍龍 X Elite和驍龍 X Plus處理器的AI PC產(chǎn)品Surface Pro和Surface Laptop。微軟的AI PC在宣傳上似乎更偏向于“生態(tài)賦能”。具體來(lái)說(shuō)，英特爾、AMD在宣傳AI PC的時(shí)候往往會(huì)重點(diǎn)介紹AI的本地化部署優(yōu)勢(shì)。而微軟似乎并不太在乎本地部署AI這件事。比如微軟在發(fā)布會(huì)時(shí)重點(diǎn)介紹的Copilot，其中的不少功能是需要將數(shù)據(jù)上傳到服務(wù)器進(jìn)行處理，也就是相當(dāng)于在走“云端AI”的路子。不過(guò)對(duì)于微軟來(lái)說(shuō)也可以理解，畢竟微軟是一個(gè)系統(tǒng)廠商，它肯定還是希望推進(jìn)Windows和Copilot生態(tài)的發(fā)展。

結(jié)語(yǔ)

1、對(duì)于想在電腦上嘗鮮AI技術(shù)的人來(lái)說(shuō)，類似ChatGPT、文心一言之類的“云端AI”是首選。畢竟價(jià)格便宜而且使用起來(lái)也很簡(jiǎn)便。

2、對(duì)于擔(dān)憂信息外泄風(fēng)險(xiǎn)的人來(lái)說(shuō)，基于現(xiàn)有硬件本地部署AI是個(gè)不錯(cuò)的選擇。其優(yōu)勢(shì)在于無(wú)需額外購(gòu)置設(shè)備，擁有一臺(tái)“游戲電腦”通常就能滿足需求。缺點(diǎn)在于這類“游戲電腦”往往缺乏便攜性，不便于移動(dòng)使用。

3、對(duì)于上班、出差，而且還需要使用AI的人來(lái)說(shuō)，AI PC會(huì)是個(gè)不錯(cuò)的選擇。畢竟AI PC普遍輕薄、便攜，帶AI PC出差可以顯著減輕我們肩膀上的壓力。

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。