Google、DiffusionGemmaでテキスト生成を最大4倍高速化
要約: **Google**が新たなテキスト生成モデル「DiffusionGemma」を発表。最大4倍の高速化を実現するとされ、既存の生成過程を拡張拡散法で最適化した点が注目される。実用面ではレイテンシ低下が期待され、リアルタイム応答が求められるアプリに影響が出る可能性がある。個人的には、生成品質と速度の両立が鍵となるだろう。
出典: [Google、最大4倍高速のテキスト生成モデル「Diffu ...
出典: [Google、最大4倍高速のテキスト生成モデル「Diffu ...