IT之家 4 月 14 日消息，YouTube 博主 Alex Ziskind 前天發(fā)布視頻，使用 Tiny Corp 最近發(fā)布的開源驅(qū)動，將英偉達(dá) RTX 5090 顯卡與蘋果 Mac mini M4 Pro 搭配使用，并在 macOS 上成功運行。

蘋果多年前與英偉達(dá)鬧掰，導(dǎo)致 macOS 系統(tǒng)失去后者的 GPU 驅(qū)動支持，也讓 CUDA 生態(tài)在 macOS 幾乎消亡，開發(fā)者只能被迫轉(zhuǎn)向蘋果自家的 Metal 架構(gòu)。

據(jù)介紹，“Tiny GPU”開源定制驅(qū)動可以通過雷靂 5/USB4 接口連接外置顯卡，讓 RTX 5090 直接與蘋果芯片 Mac 通信，完全不需要虛擬機等性能折損方案。

Alex Ziskind 在視頻中成功將 RTX 5090 連接到 Mac mini，運行 Llama 3.1 8B 模型時性能約為 7.48 Token/s。

他在視頻中強調(diào)，RTX 5090 并沒有在 macOS 中跑出全部性能。主要是因為驅(qū)動當(dāng)前依賴 Tiny Grad 編譯器，未使用 Metal / CUDA 原生優(yōu)化，性能相比 Metal 原生方案慢了 10 倍。不過 Blackwell 架構(gòu)的優(yōu)勢也有體現(xiàn)，其首 Token 響應(yīng)速度相比 Metal 方案快 3-4 倍。

因此，雖然這套方案目前還無法替代成熟的 Metal 開發(fā)環(huán)境，但它仍是蘋果 Mac 平臺近年來首個可用的外接顯卡跑大模型方案。

廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。