借助Cloud Ai和Edge AI，該架構可以按其使用目的發(fā)揮作用。設計新的智能服務的人員必須知道如何充分利用兩種技術，既可以改善服務的固有性能，又可以確保創(chuàng)新的軟件解決方案具有越來越好的用戶體驗。
當我們談論人工智能時，本質上是在談論一種方法，如果以有意識的方式將其應用于公司數(shù)據(jù)（數(shù)字，圖像，聲音，文本），則可以肯定地加快流程，使其自動化，直接影響收入，成本和風險。商業(yè)。此外，人工智能和機器學習的認知工具日益民主化甚至最小的公司也可以踏上這一激動人心的旅程。今天，我們比以往任何時候都可以依靠可以整合傳統(tǒng)業(yè)務平臺并使其朝著更高績效水平發(fā)展的具體硬件和軟件工具，引入預測技術統(tǒng)計數(shù)據(jù)是除常規(guī)描述性統(tǒng)計數(shù)據(jù)之外的日常工具，預測并不意味著猜測。這意味著相對于對事件的觀察，應使用合理且數(shù)學上使事件發(fā)生或基準發(fā)生概率估計之間的誤差最小化的方法。如果誤差很小，那么這意味著您將能夠以很高的精度預測下一個，因為我的設備將給我，或者圖像或聲音所屬的類別，或我很可能在本文中寫的字眼。這是AI的“魔力”。除了執(zhí)行這些操作外，計算機還需要進行大量復雜的計算，因此需要大量的硬件資源，尤其是如果這些計算是在我們的筆記本電腦或臺式機上進行的。實際上，當我們談論人工智能時，實際上是在談論矩陣計算，即數(shù)學運算，加法，乘法，數(shù)值矩陣的轉置。普通的CPU，盡管是最新一代的，但其計算能力始終受其固有的計算能力以及CPU必須同時管理多個進程（必須使整個機器正常工作）的限制。它不能太飽和。在標準架構中也無法并行處理許多CPU。顯然，這成為一個限制。然后是云計算技術。
GPU的重要性
為了完成這項重要任務，提供了GPU（即圖形處理單元）：它們是處理器（如NVIDIA制造的處理器），旨在管理視頻游戲中的典型復雜處理（最終，它們始終是用于確定游戲機位置的矩陣計算）。 3D空間中多邊形的點和面）。通過擴展，如果GPU可以進行3D計算，則它可以輕松地用于涉及連續(xù)處理數(shù)字數(shù)據(jù)的任何其他任務。
此外，還應當指出的是，作為陳述Nvidia首席執(zhí)行官黃仁勛（Jensen Huang）認為，圖形處理器的計算能力增長比摩爾定律規(guī)定的增長幅度更大。實際上，這項法律以1965年宣布英特爾聯(lián)合創(chuàng)始人戈登·摩爾（Gordon Moore）的名字命名，它指出CPU芯片的計算能力每兩年翻一番。另一方面，黃仁勛強調了當今摩爾定律如何被每年僅幾個百分點的CPU功率增長所否定，而GPU的增長卻遠不止于此。實際上，在五年的時間里，GPU的能力增長了25倍以上，而按照摩爾定律，CPU的增長應該只有10倍。
此外，可以并行化多個CPU，從而確保為我們的AI或3D工程保證正確的計算能力。
該序言是必要的，以了解擁有足夠的硬件設備不僅涉及巨額投資，而且還需要占用機器24/7來收回投資成本。并非所有公司都有能力和技能來擁有專用于這些目的的服務器場。
此外，必須說AI在兩個不同的時刻占據(jù)了機器：訓練（即我們教機器執(zhí)行特定任務的那一刻）和推理的時刻，即當機器使用預測模型以預測未來數(shù)據(jù)。實際上，第一階段的培訓會大量消耗機器的資源，進行有時甚至長達數(shù)天的計算，然后返回一個統(tǒng)計模型，該模型代表對我們要處理的機器的任務的數(shù)學解釋。隨后，此模型用于所謂的推理，即用于執(zhí)行與訓練相同但針對算法從未見過的數(shù)據(jù)的新任務的實際預測活動。例如，
該預測階段對于機器而言不那么繁重，但是在任何情況下它都將更頻繁地執(zhí)行，因此就時間而言將占用大量機器。
云計算
正是由于以下原因，云才為公司提供了幫助：減輕了對機器的多年投資的一部分，通過將所有處理負載轉移到遠程機器來優(yōu)化硬件結構的TCO總擁有成本。這些機器可以根據(jù)需要進行適當激活或停用，因此需要付費使用，而不是為設備付費。然后，公司產(chǎn)生的使用成本也包括一系列服務，其中包括一些必不可少的服務，例如網(wǎng)絡安全，災難恢復，符合GDPR等。其他可選模型，例如按需機器學習模型已經(jīng)可用并準備用于一般用途。
對于供應商和客戶而言，云計算絕對是一個巨大的機會。以亞馬遜為例，其收入的50％以上來自AWS平臺。通過諸如AWS或Microsoft的Azure或Google Cloud之類的服務，公司可以將其軟件產(chǎn)品轉換為真正的平臺即服務（PaaS /平臺即服務），公司為此需要支付經(jīng)常性費用。這樣做的好處是，即使在初步設計階段并沒有立即意識到這些需求，也可以遠程執(zhí)行甚至復雜的功能，也可以根據(jù)您的需求擴展機器的配置。通過單擊的簡單性，添加了視頻卡，增加了Ram，并在新計算機上安裝了節(jié)點。如果您需要支持更大的請求負載，則可以大大減少服務設置或升級時間。
此外，一些提供商在其云服務中還提供特殊卡TPU（張量處理單元），這是專門設計用于處理數(shù)據(jù)多維矩陣（張量事實）的處理器，這些數(shù)據(jù)多維矩陣是AI的更復雜算法的典型特征。這樣一來，您就可以在云中執(zhí)行非常復雜的計算，而所需時間僅為本地計算機可以執(zhí)行的時間的一小部分。
代替看云的局限性，必須說，管理往返于遠程服務器的數(shù)據(jù)需要大量使用網(wǎng)絡帶寬，以及與API（應用程序接口）微服務的連續(xù)客戶端/服務器通信。這是因為推理活動實際上已轉換為遠程設備。
因此，根據(jù)我們將要創(chuàng)建的服務類型，服務器將或多或少地加載操作。例如，對象（例如面部）的連續(xù)識別將需要結構化的后端，以便支持對將在流傳輸中發(fā)送的幀進行分段的需求。
Edge AI的作用
為了優(yōu)化其中一些活動，存在Edge AI，即可以在用戶附近使用設備以在現(xiàn)場執(zhí)行相同的推理操作而無需將信息傳輸?shù)骄W(wǎng)絡的可能性。
簡而言之，Edge Ai意味著為電子設備配備具有AI的自身智能，并可能還為其提供與網(wǎng)絡以及設備之間的連接性。Edge AI有什么好處？
優(yōu)點很多，僅考慮此體系結構方法可以在延遲方面為服務的有效性帶來巨大的效用。例如。在物聯(lián)網(wǎng)設備（相機/傳感器等）上，可以使用AI專用芯片（例如Movidius或OpenVino等）增強的面部識別或異常預測更加有效。
這也降低了隱私風險。如果數(shù)據(jù)在網(wǎng)絡上傳輸，可能會被攔截或破壞。但是，通過在本地處理預測，數(shù)據(jù)將保留在設備中，無需傳輸?shù)狡渌胤健?/p>
那么，與在云中為來自多個設備的數(shù)據(jù)管理多個推理處理線程相比，在單個設備上進行單個推理無疑是一項成本較低的任務。
最后，很明顯，占用帶寬的數(shù)據(jù)較少，可以使用普通的連接基礎結構來構建智能服務，而不會為特定的連接產(chǎn)生額外的費用。
首先，由于這些智能設備允許對AI模型進行幾乎實時的處理，因此打開了一個巨大潛力的場景。
借助這項技術，可以想象沒有排隊的自由流動結賬服務，因為相機可以識別出托盤中的食物?；虬踩O備的自動檢測服務（例如COVID面罩），入侵的檢測以及能耗的監(jiān)視和預測或機械的自動預測管理等。
在特定的用例中，將人工智能的力量傳遞到最后一英里可以使它成為力量的乘數(shù)，從而導致計算工作的細分，并提高了設計服務的有效性和效率。
結論
我們的結論是，盡管沒有明確的選擇，但對于Cloud Ai和Edge AI，架構已可以用于其用途，而設計新的智能服務的人將必須能夠充分利用這兩種技術不僅可以改善服務的固有性能，還可以確保創(chuàng)新的軟件解決方案具有更好的用戶體驗。
（免責聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網(wǎng)站對有關資料所引致的錯誤、不確或遺漏，概不負任何法律責任。
任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權或存在不實內(nèi)容時，應及時向本網(wǎng)站提出書面權利通知或不實情況說明，并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關文章源頭核實，溝通刪除相關內(nèi)容或斷開相關鏈接。 ）
