IT之家 2 月 21 日消息，科技媒體 Wccftech 昨日（2 月 20 日）發(fā)布博文，報(bào)道稱 AI 芯片初創(chuàng)公司 Taalas 為解決大模型的延遲與成本難題，推出“硬連線”（Hard-wiring）技術(shù)，直接將 AI 模型固化在硅片中。

在 AI 算力競爭日益激烈的當(dāng)下，延遲已成為制約智能體（Agentic）應(yīng)用的核心瓶頸。不同于 Cerebras 或 Groq 試圖通過集成 SRAM 來加速的路徑，成立僅 2.5 年的初創(chuàng)公司 Taalas 選擇了更為激進(jìn)的 ASIC（專用集成電路）路線。

IT之家援引博文介紹，該公司研發(fā)出一種能將任意 AI 模型轉(zhuǎn)化為定制硅片的平臺，其核心邏輯在于“融合計(jì)算與存儲”，直接將特定 LLM 的神經(jīng)網(wǎng)絡(luò)映射到硅片電路中，在 DRAM 級密度下完成所有計(jì)算。

這種設(shè)計(jì)徹底摒棄了 HBM（高帶寬內(nèi)存）、復(fù)雜封裝及昂貴的散熱系統(tǒng)，從物理層面消除了數(shù)據(jù)傳輸?shù)摹皟?nèi)存墻”障礙。

Taalas 已展示其首款產(chǎn)品 HC1，該芯片專為 Meta 的 Llama 3.1 8B 模型設(shè)計(jì)。從技術(shù)規(guī)格來看，HC1 采用臺積電 6nm 工藝制造，芯片面積高達(dá) 815 mm2，這一尺寸幾乎與 NVIDIA 的 H100 相當(dāng)。

Taalas 的在線聊天機(jī)器人演示在 EE Times 試用時達(dá)到了每秒 15,000+ tokens，但公司表示，在某些條件下內(nèi)部測試已接近 17000 tokens（Taalas 承認(rèn)其版本的 Llama3.1-8B 被“激進(jìn)”量化）。

然而，巨大的芯片面積僅容納了 80 億參數(shù)的模型，這與當(dāng)前萬億參數(shù)的前沿模型相比顯得“容量有限”。這表明，為了實(shí)現(xiàn)極致的硬連線速度，Taalas 在單位面積的參數(shù)密度上做出了巨大妥協(xié)，這也是該技術(shù)路線面臨的主要物理限制之一。

盡管參數(shù)密度不高，但 HC1 的性能表現(xiàn)極具顛覆性。官方數(shù)據(jù)顯示，相比現(xiàn)有的高端算力基礎(chǔ)設(shè)施，Taalas 方案的每秒 Token 生成數(shù)（TPS）提升了 10 倍，同時生產(chǎn)成本降低至 20 分之一。

為了解決單芯片容量不足的問題，Taalas 采用了集群化擴(kuò)展策略。在針對 DeepSeek R1 模型的測試中，通過 30 芯片的集群配置，實(shí)現(xiàn)了高達(dá) 12000 TPS / User 的吞吐速度（據(jù)公司稱，GPU 目前的技術(shù)約為每人每秒 200 個 tokens）。這一數(shù)據(jù)意味著在實(shí)時交互和復(fù)雜推理任務(wù)中，用戶將獲得近乎零延遲的體驗(yàn)。

TPS 是衡量大語言模型生成速度的關(guān)鍵指標(biāo)，代表模型每秒能輸出多少個文本單位（Token）。相當(dāng)于打字員的打字速度，TPS 越高，AI 回復(fù)得越快，用戶等待時間越短。

該媒體指出 Taalas 的技術(shù)路線雖然誘人，但商業(yè)模式面臨獨(dú)特挑戰(zhàn)。由于模型權(quán)重被“硬連線”在硅片中，芯片一旦制造完成便無法更改模型參數(shù)。

這意味著客戶必須為特定的模型版本（如 Llama 3.1 或 DeepSeek R1）購買專用硬件，一旦算法迭代，硬件可能面臨淘汰風(fēng)險。

廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。