Audio Player

ADEY1154

DeepSeek 轟動一時,因為提供低價且媲美科技巨頭的開源 AI 模型,讓資源有限的美國、歐洲新創躍躍欲試。不過,試圖使用這家中國新創 AI 模型的美國企業,遇到了許多麻煩。

好用的 DeepSeek 服務難尋

《Business Insider》報導,一般而言,多數新創因為還在初期發展階段,且無力購買 NVIDIA 晶片取得專用運算能力,因此會透過雲端運算公司提供的 API 存取 AI 模型,依照自己的 token 用量付費。

對於這些新創而言,API 供應商的穩定性、速度、可靠性都非常重要。另外,報導指出基於安全考量,許多美國新創擔憂與中國 API 共享數據,因此傾向透過美國雲端供應商提供的 API 來使用中國模型。

追蹤雲端供應商 AI 模型可用性和效能的網站 Artificial Analysis 顯示,截至 2/5,有 7 個雲端正在運行 DeepSeek 模型。但是,對於許多 API 供應商來說,提供和 DeepSeek 一致的速度仍是一大挑戰──多數雲端的運行速度只有 DeepSeek 自身 API 速度的 1/3,表現較好的 Fireworks AI 速度也只有一半

專為軟體開發人員提供 AI 工具的新創 Ping 負責人 Theo Browne 告訴外媒,他找不到好的使用來源,「目前多數公司提供的體驗都很糟糕。」自 1 月底以來,健康保險新創 Counterforce Health 嘗試過 6 家不同的 API 供應商都失敗,原因不是太慢,就是太不可靠。

直接用 DeepSeek API?除了安全還有諸多問題

Browne 最後直接使用了 DeepSeek 的 API,而不是美國的雲端,但外媒評論,這對於注重安全的公司來說不是好的選擇。

除了國家安全考量,DeepSeek 託管於中國的 API 在 1/26 遭網路攻擊,導致暫時限制註冊。雲端資安公司 Wiz Research 研究團隊則發現,DeepSeek 的 ClickHouse 資料庫對外開放,缺乏身分驗證或防禦機制,讓敏感資料外洩。此外,DeepSeek 在 2/6 宣布因「資源限制」,暫停 API 服務儲值。

外媒分析,除了網路攻擊,DeepSeek 服務緩慢且不穩定的原因,可能是因為雲端沒有足夠強大的硬體來運行大語言模型,而使用更多、更弱的硬體會增加複雜性、降低速度。使用需求大增也會影響速度和可靠性。

DeepSeek 風險未知,恐影響未來生意

不過,新創還有其他猶豫的理由。軟體安全新創 Security Pal 執行長 Pukar Hamal 對於中國 AI 模型的安全性感到擔憂,並向媒體表示即使是透過地端或美國 API 運作,採用 DeepSeek 可能會影響未來生意

Hamal 表示,對於希望撐過早期發展階段的新創來說,便宜的中國模型可能非常有吸引力,但如果想要把產品賣給大型企業客戶,可能會變成一種負擔。

他解釋,「當一家新創想要出售產品時,企業想知道你背後的資料架構系統,如果他們發現你嚴重依賴中國 AI 模型,就不可能把它賣出去。」他認為 DeepSeek 只是一種炒作,「我想幾週後我們就不會再談論這個話題了。」

目前,美國議員已計劃提出一項法案,禁止政府設備使用 DeepSeek 的聊天機器人,因為擔心該應用可能會將用戶資訊提供給中國政府。其他國家也已採取措施,包含澳洲、韓國、台灣已禁止政府機構等公家單位使用 DeepSeek,義大利則全國禁用。

不過,DeepSeek 價格令人難以抗拒

不過對於許多新創來說,低成本的 AI 模型吸引力極大,安全問題在營運初期可能變得次要。Counterforce Health 的執行長甚至表示,「坦白說,我們甚至不完全信任 Anthropic 和其他模型,因為你真的不知道資料流向了哪裡。」

雲端服務供應商 Hyperbolic 自從推出 DeepSeek 模型服務,推理用戶增加了 150%,而 Fireworks 的 1 月用戶較上季成長 400%。

美國新創陸續採用 DeepSeek,但呼籲雲端供應商提高可用性和速度。媒體分析,大規模採用 DeepSeek 其實不如外界想的容易,而市場變化快速,當採用障礙越大,下一個大型開源模型取代它的可能性就越大。

本圖/文由「Techorange科技報橘」授權刊登,非經同意不得任意轉載。
原文出處:「幾週後我們不會再談 DeepSeek」美國 AI 新創想用但遇 3 大麻煩