Googleが画像生成AIの制御手法「Diffusion Controller」を発表、LoRAを上回る精度
Google Researchが拡散モデルの生成過程を後付けで細かく制御する「Diffusion Controller」を公開。既存モデルを凍結したまま軽量アダプターを追加する方式で、業界標準のLoRAを性能で上回った。
続きを読むGoogle Researchが拡散モデルの生成過程を後付けで細かく制御する「Diffusion Controller」を公開。既存モデルを凍結したまま軽量アダプターを追加する方式で、業界標準のLoRAを性能で上回った。
続きを読むLoRAは条件次第でFullFTに迫る性能を示します。データ量とLoRAの容量、全層適用の可否が鍵で、実務では容量見積りとランク設計を重視すると効果的です。
続きを読むTinkerの公開によりQwen-235Bなどの大規模モデルがワンクリックに近い手軽さで微調整できるようになり、分散トレーニング管理を提供側が担い、LoRAで計算資源を共有してコストを抑えつつ研究や実験が加速すると期待され、オンボーディングは本日開始予定で主要大学や研究所が既に試験導入している点も注目です。
続きを読む