蘋果加碼裝置端 AI,聯手 PrismML 有望實現 iPhone 本地執行大模型
TradingKey - 蘋果(AAPL)再度加碼裝置端 AI,有望讓 AI 大模型在 iPhone 本地運行。矽谷 AI 新創公司 PrismML 執行長表示,蘋果正與其洽談技術合作,希望藉助極致模型壓縮技術,擬讓高效能大模型直接在 iPhone 本地運行,突破裝置端 AI 的硬體瓶頸。PrismML 正式公布阿里巴巴通義千問(Qwen)模型的壓縮版本,將原體積 54GB、270 億參數的大模型壓縮至 4GB 以內,可完整運行在 iPhone 15 及更新機型上。將實現記憶體占用降低 90% 以上、推論速度提升 6-8 倍、功耗下降 3-6 倍。