跳到正文
Hugging Face Blog·· 18 天前精选AI 评分75

IBM 发布 Granite Switch 4.1 单端点多模态模型

Granite Switch 4.1: Chat, Decisions, and Speech from One Endpoint

AI 导读

IBM 发布 Granite Switch 4.1,8B 与 30B 两个版本通过 Decision aLoRA 与 Speech-to-text 组件在同一端点切换对话、决策与语音转写,共享 KV cache 并已在 vLLM 与 llama.cpp 中支持。

推荐理由

原版给出了一个模型端点同时支撑对话、决策和语音转写的能力组合,读者可直接对比多模型方案在显存与延迟上的差异。

来源:Hugging Face Blog · huggingface.co