タグ一覧に戻る

Mixture of Experts

記事数: 2 件
Tencent、効率的な巨大モデル Hy3 をオープンソース化――295B パラメータでも高速推論
LLM・生成AI

Tencent、効率的な巨大モデル Hy3 をオープンソース化――295B パラメータでも高速推論

Tencent がオープンソース LLM『Hy3』を発表。295 億パラメータのモデルながら、実際のアクティブは 21 億のみで、最大5倍サイズのモデルと同等の性能を実現。ハルシネーション率も 5.4% に削減し、ローカル実行・低コスト推論を求める開発者に新たな選択肢を提供。

Tencent オープンソース LLM Hy3 効率化 Mixture of Experts
続きを読む
Cohere、最高性能の言語モデル Command A+ をオープンソース公開——218 億パラメータ、48言語対応
LLM・生成AI

Cohere、最高性能の言語モデル Command A+ をオープンソース公開——218 億パラメータ、48言語対応

カナダの AI 企業 Cohere が、同社最強の言語モデル Command A+ を Apache 2.0 ライセンスでオープンソース化。218 億パラメータの Mixture of Experts モデル、マルチモーダル対応、128K トークン のコンテキスト、Hugging Face で即座に利用可能。開発者に新たな選択肢。

Cohere オープンソース 言語モデル Command A+ Mixture of Experts
続きを読む