Bonsai 27B が iPhone で動作――3.9GB に圧縮されたローカル推論モデル、開発者向けに新展開
PrismML が Qwen3.6-27B を1～2ビット量子化で圧縮し、iPhone で動作する Bonsai 27B をリリース。3.9GB のストレージで 90% の元モデル性能を維持しながら、プライバシーと低コスト推論を実現。Apple を含む複数企業がテスト中。
続きを読む
タグ一覧に戻る
量子化
記事数: 3 件
圧縮AIの潮流を作るMultiverseの挑戦
MultiverseがOpenAI、Meta、DeepSeek、Mistralの圧縮モデルと連携アプリ/APIを同時公開し、低コストで検証できる環境が整い企業の実運用移行が加速する期待が高まりました。
続きを読む
メモリ圧縮でAIの精度と省エネを同時に向上
新研究は、AIモデルのメモリ表現を圧縮することで複雑タスクの精度向上とエネルギー削減が同時に期待できると示しました。実用化には再現性の検証や適用範囲の整理、評価指標の統一が鍵で、産業と研究の連携で現場導入が進む見込みです。
続きを読む