Bonsai 27B が iPhone で動作――3.9GB に圧縮されたローカル推論モデル、開発者向けに新展開
PrismML が Qwen3.6-27B を1～2ビット量子化で圧縮し、iPhone で動作する Bonsai 27B をリリース。3.9GB のストレージで 90% の元モデル性能を維持しながら、プライバシーと低コスト推論を実現。Apple を含む複数企業がテスト中。
続きを読む
タグ一覧に戻る
推論効率
記事数: 2 件
Databricks元AI責任者が設立したUnconventional AI、消費電力を最大1000倍削減する革新的な画像生成モデル「Un-0」を発表
Naveen Rao氏率いるUnconventional AIが、従来のAIシステムとは全く異なるオシレーター基盤アーキテクチャを採用した画像生成モデル「Un-0」を発表。AI推論の消費電力を最大1000倍削減することを目指す革新的なアプローチが、業界内で注目を集めています。
続きを読む