人工智能的重要性怎么強調都不為過。人工智能正被用于改進從智能手機到農(nóng)業(yè)設備到醫(yī)療系統(tǒng)再到半導體生產(chǎn)的一切。AI 也被用于解決非常復雜的問題，這些問題到目前為止根本無法解決。

開發(fā)人工智能技術本身就是一個充滿活力的領域，但人工智能的全部意義在于實現(xiàn)幾乎所有其他電子應用的創(chuàng)新。人工智能的潛在市場與近年來出現(xiàn)的任何技術的前景一樣無限，這讓投資者異常興奮。

少數(shù)人工智能初創(chuàng)公司吸引的不是數(shù)千萬美元，而是數(shù)億美元。一小部分仍然吸引了超過 10 億美元的投資者現(xiàn)金。SambaNova 就是其中之一。該公司現(xiàn)在被認為整體價值超過 50 億美元，這使其比財富 500 強中的許多公司更有價值。對于一家僅在兩年前從隱身模式中脫穎而出的初創(chuàng)公司來說，處于這個位置是一個有趣的位置。風險投資絕不能保證成功，但至少籌集到 10 億美元可以證明許多投資者認為 SambaNova 正在走向成功。

首先，SambaNova 主要關注數(shù)據(jù)中心，所以我們關注數(shù)據(jù)中心的培訓和服務模型。當然，整個目標是提供能夠訓練非常非常大、準確的模型的能力。如果你看看當前的計算能力格局，主要由 GPU 主導，你需要的是很多很多 GPU，因為每個 GPU 可以擁有的內存量有限。

因此，SambaNova 帶來的是一個或兩個或四分之一機架的能力，能夠提供數(shù) TB 的內存。這樣一來，您就可以構建龐大的模型，可以為任何感興趣的特定工業(yè)垂直或商業(yè)垂直服務。

因此，例如，用于金融部門或用于開發(fā)聊天機器人和客戶服務、基于語音的商務的巨大自然語言處理模型。此外，自然語言處理也可用于癌癥研究。

或者我們稱之為真實分辨率的巨大視覺模型，它允許您在不降低分辨率使圖像更加模糊的情況下處理醫(yī)學圖像，這樣您就可以將其適應傳統(tǒng)系統(tǒng)的內存要求。

或者，相反，人們?yōu)楣芾碛邢迌却嫠龅牧硪患率菍⒋蠹s 20k x 20k 的圖像切成小塊，然后可以處理這些小塊中的每一個。但是您獨立處理補丁，并且您可能會丟失跨邊界的重要功能。因此，通過能夠處理 20k x 20k 的圖像并創(chuàng)建可以采用圖像的整個分辨率的模型，你們都可以獲得精細的細節(jié)，有可能取消你試圖成像的任何東西。您還可以獲得跨越大片圖像的特征，并使用這些特征來提高您嘗試做的任何事情的準確性。

因此，在醫(yī)學成像、天文學、科學成像、X 射線成像中，所有這些都在生成巨大的圖像，而這些圖像無法用今天的能力輕松處理。我們能夠使用 SambaNova 系統(tǒng)做到這一點。

這么多種類的用例。第三個經(jīng)典用例是大型推薦系統(tǒng)。您要做的是準確捕捉您要為其推薦的潛在客戶的個性。這以所謂的巨大嵌入表的形式出現(xiàn)，它捕捉了這種細節(jié)。這些表達到了 TB 級。

同樣，您希望能夠處理那些大型嵌入表，因為嵌入表越大，模型越準確，您就能提供更好的推薦。

因此，所有這些功能都由 SambaNova 系統(tǒng)提供。我們在系統(tǒng)開發(fā)過程中關注的關鍵特性之一是能夠訓練這些大型模型(以及這些大型模型，它們將為您提供最先進的準確性)，但也為他們服務。

這有兩個好處。一是，你服務于你所訓練的，對吧?因此，您不必在不同的服務環(huán)境中重新驗證模型。所以通常情況下，今天，你在 GPU 上訓練，因為 GPU 非常擅長大批量訓練，對吧?所以當你談到訓練時，你需要批次中有很多例子，因為這是填充 GPU 能力以使其高效的唯一方法。

但是如果批次太小，GPU 就會變得非常低效。所以人們所做的就是他們說，GPU 不擅長做小批量。因此，我們將轉向 CPU，因為在推理方面，您一次會收到一個請求。這些請求不會成批出現(xiàn)，或者如果您等到收到一批請求，那么您當然會延遲最先出現(xiàn)的請求。所以你的延遲會變得更糟。

所以你想要的是既能非常有效地進行大批量訓練，又能非常有效地進行單批次推理的能力。所以我們可以用 SambaNova 系統(tǒng)做到這一點。因此，將 SambaNova 系統(tǒng)視為非常有效地進行訓練和推理的能力。然后是真正的完整循環(huán)：一旦你可以在同一個平臺上進行訓練和推理，你就可以在它們之間動態(tài)切換。

因此，正在開發(fā)一類新的模型，使您能夠進行所謂的持續(xù)訓練，在這種情況下，您獲得的數(shù)據(jù)分布會發(fā)生變化，并且您想進行調整。舉個例子，假設你有一個攝像頭正在觀察東北某處的十字路口。十字路口的景象在夏季和冬季看起來會大不相同。你希望能夠改變你的模型以適應雪、冰或雨，而不是在陽光明媚的日子訓練它。

所以事實證明你可以嘗試訓練 Uber 模型，但如果你有一個自適應的模型，結果會好得多。但這需要什么呢?這意味著您需要能夠非常有效地進行訓練和推理。所以這一切都指向我們所說的融合。所以你設置了非常低的功率推斷。

好吧，你可以想象，如果你有一些移動設備需要進行推理，你真的很關心低功耗，但在很多情況下，你想要做的是，你在服務器中有一些邊緣計算能力，哪個更靠近邊緣，或者你實際上一直回到某個數(shù)據(jù)中心。但無論哪種情況，您想要的是同時進行訓練和推理的能力。

這就是我們對 SambaNova 的看法，因為這種能力提供了計算能力，而且還有更多。

同時做這兩件事的能力是罕見的還是獨一無二的?這個問題的來源是，你看看最大的 GPU 供應商，你會看到他們進入 CPU 并做了大量研究來弄清楚如何在處理和內存之間快速有效地來回移動數(shù)據(jù)。同樣的事情還有一些最大的 CPU 公司進入 GPU 領域并進行試驗，試圖找出處理處理和內存并簡化交換的方法。他們正在取得進展。