ノートPCなどの上で動くAIエージェント特化モデル「LFM2.5」がさらなる高速化を果たした。Liquid AIは8月20日、LFM2.5ファミリーの推論速度を大幅に引き上げる「DSparkドラフトモデル」をHugging Faceで公開した。LFM(Liquid Foundation Model)初の投機的デコーディングモデルで、出力品質を維持しつつ、デコーディング速度を最大3.2倍高速化できるとする。
ノートPCなどの上で動くAIエージェント特化モデル「LFM2.5」がさらなる高速化を果たした。Liquid AIは8月20日、LFM2.5ファミリーの推論速度を大幅に引き上げる「DSparkドラフトモデル」をHugging Faceで公開した。LFM(Liquid Foundation Model)初の投機的デコーディングモデルで、出力品質を維持しつつ、デコーディング速度を最大3.2倍高速化できるとする。
購読すると最新の投稿がメールで送信されます。
コメントを残す