DeepSeek-R1的發(fā)布讓大家度過(guò)了一個(gè)熱鬧的春節(jié)。DeepSeek用較低的成本，取得了跟OpenAI相同的效果，這也意味我們的客戶(hù)可以私有化部署與OpenAI能力接近的基座大模型。

研華AIR-520 是一款支持4卡單槽GPU或2卡雙槽GPU的桌面級(jí)LLM服務(wù)器，主要用于推理和微調(diào)兩個(gè)方向。我們已經(jīng)打包好3個(gè)推薦配置，便于大家直接選型。推薦配置如和您的應(yīng)用有差距，也可靈活調(diào)配。

近半年來(lái)隨著AI Agent的廣泛使用，大家對(duì)LLM服務(wù)器的推理能力比較看重，在DeepSeek發(fā)布后，我們也使用AIR-520-L70A1 RTX 4000 ADA 4卡版主機(jī)，對(duì)工業(yè)客戶(hù)最常用的DeepSeek-R1 32B、70B兩個(gè)模型進(jìn)行了測(cè)試。

系統(tǒng)配置：

DeepSeek-R1 32B 測(cè)試：

DeepSeek-R1 70B測(cè)試：

通過(guò)測(cè)試，我們可以看到AIR-520的優(yōu)異表現(xiàn)。若客戶(hù)對(duì)性能還有更高的要求，AIR-520還有高配機(jī)型選擇。

工業(yè)客戶(hù)在使用大模型應(yīng)用的時(shí)候，除了算力的要求，客戶(hù)會(huì)更看重，解決方案的安全、合規(guī)、穩(wěn)定的特性。AIR-520整機(jī)通過(guò)了NVIDIA官方產(chǎn)品認(rèn)證，是工業(yè)企業(yè)客戶(hù)很好的選擇。