樹莓派 Zero大改造：老設(shè)備變身AI神器，本地運(yùn)行大模型驚艷
近年來(lái)，大語(yǔ)言模型（LLM）的應(yīng)用越來(lái)越廣泛，而在個(gè)人設(shè)備上部署這些模型的趨勢(shì)也愈發(fā)明顯。近日，越南開(kāi)發(fā)者 Binh Pham 成功地將樹莓派 Zero 改造為一個(gè)小型 USB 驅(qū)動(dòng)器，使其能夠在本地運(yùn)行 LLM，無(wú)需任何額外設(shè)備。這一創(chuàng)新實(shí)驗(yàn)展示了老舊設(shè)備在 LLM 領(lǐng)域的潛力。
樹莓派 Zero 是一款小巧的微型計(jì)算機(jī)，雖然其硬件性能有限，但在本次實(shí)驗(yàn)中，Pham 成功地將其轉(zhuǎn)化為一個(gè)輕量級(jí)的 USB 驅(qū)動(dòng)器。這一創(chuàng)新項(xiàng)目主要得益于 llama.cpp 和 llamafile 的支持，這兩者結(jié)合了指令集和一系列輕量級(jí)軟件包，旨在提供一種離線的輕量級(jí)聊天機(jī)器人體驗(yàn)。
首先，Pham 將設(shè)備連接到 USB 接口，并為其 3D 打印了一個(gè)外殼，解決了硬件問(wèn)題。然而，由于樹莓派 Zero W 的內(nèi)存限制，項(xiàng)目變得更加復(fù)雜。Pham 在嘗試將 llama.cpp 編譯到該設(shè)備時(shí)遇到了失敗，此前也無(wú)人嘗試在樹莓派 Zero 或 One 上編譯該軟件。為了克服這一障礙，Pham 對(duì) llama.cpp 的 ARMv8 指令集進(jìn)行了轉(zhuǎn)換，并移除所有基于現(xiàn)代硬件的優(yōu)化或注釋。這一步驟是關(guān)鍵的一步，因?yàn)闃漭?Zero 的 CPU 采用的是 ARMv6 架構(gòu)，而非 ARMv8 架構(gòu)。
在成功修改 llama.cpp 源代碼后，Pham 將注意力轉(zhuǎn)向軟件的運(yùn)行和用戶體驗(yàn)的優(yōu)化。他構(gòu)建了一個(gè)基于文本文件輸入的 LLM 實(shí)現(xiàn)，這些文本文件作為主要的提示，而 LLM 則會(huì)根據(jù)這些提示生成故事，并以完整的輸出文件形式返回。這一創(chuàng)新性的方法為 LLM 的本地運(yùn)行提供了新的可能性。
為了測(cè)試性能，Pham 對(duì)多個(gè)模型進(jìn)行了基準(zhǔn)測(cè)試。他設(shè)置了 64 個(gè) token 的限制，并對(duì) 15M 到 136M 不等的模型進(jìn)行了測(cè)試。其中，Tiny15M 模型的每個(gè) token 處理速度為 223 毫秒，而較大的 Lamini-T5-Flan-77M 模型的每個(gè) token 處理速度為 2.5 秒。這些測(cè)試結(jié)果揭示了樹莓派 Zero 在處理 LLM 時(shí)可能存在的性能瓶頸。盡管這一項(xiàng)目具有創(chuàng)新性，但在實(shí)際應(yīng)用中，使用老舊的輕量級(jí)硬件運(yùn)行本地 LLM 并不具備太多實(shí)用價(jià)值。
盡管如此，這一項(xiàng)目仍然具有啟示性意義。它展示了如何在資源有限的設(shè)備上運(yùn)行 LLM，并提出了新的可能性。對(duì)于那些不追求高性能模型的用戶來(lái)說(shuō)，使用樹莓派 Zero 等老舊設(shè)備運(yùn)行 LLM 可能是一個(gè)實(shí)用的選擇。而對(duì)于開(kāi)發(fā)者來(lái)說(shuō)，這一項(xiàng)目也為他們提供了一個(gè)有趣的研究課題，即如何利用老舊設(shè)備來(lái)優(yōu)化 LLM 的性能。
總的來(lái)說(shuō)，樹莓派 Zero 的大改造展示了老舊設(shè)備在 LLM 領(lǐng)域的潛力。雖然這一項(xiàng)目在性能上可能存在限制，但在未來(lái)，隨著 LLM 的進(jìn)一步發(fā)展以及硬件技術(shù)的進(jìn)步，我們期待看到更多的創(chuàng)新實(shí)驗(yàn)和探索。對(duì)于個(gè)人用戶和開(kāi)發(fā)者來(lái)說(shuō)，這些創(chuàng)新實(shí)驗(yàn)將為 LLM 的應(yīng)用和發(fā)展提供新的思路和可能性。
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。 ）
