跳到正文
Berkeley AI Research·· 2026-07-29精选AI 评分50

K-Search:把CUDA内核优化知识迁移到Apple Silicon的MLX后端

From CUDA to MLX: How K-Search Brings Decades of Kernel Expertise to Apple Silicon

AI 导读

伯克利Sky Lab的K-Search框架新增MLX后端,通过结构化CUDA-to-MLX翻译层把CUDA内核优化知识迁移到Apple Silicon,在Attention内核上达到原生MLX性能的0.97倍,在Mamba SSM内核上相较mlx-lm社区实现获得最高约20倍prefill加速。

推荐理由

展示了如何把CUDA内核优化知识自动迁移到Apple Silicon,给出了Attention和Mamba SSM在MLX上的实测加速数据。

来源:Berkeley AI Research · bair.berkeley.edu