Liquid AIは6月25日(米国時間)、同社最小のエージェントAIモデル「LFM2.5-230M」をオープンウェイトで公開した。ツール呼び出しやデータ抽出といった軽量なエージェント用途に特化している。パラメータ数は230M(=0.2B)で、Hugging Faceからダウンロードして利用できる。CPUで4bit量子化したモデルを利用した場合、スマートフォン「Galaxy S25 Ultra」では213tok/s、シングルボードコンピュータの「Raspberry Pi 5」でも42tok/sの高速な応答を実現するという。
スマホでも213tok/sの爆速推論を実現するモデル「LFM2.5-230M」無料公開
AI luv ur STORYをもっと見る
購読すると最新の投稿がメールで送信されます。
コメントを残す