Berkeley AI Research·· 2026-07-29精选AI 评分50
K-Search:把CUDA内核优化知识迁移到Apple Silicon的MLX后端
From CUDA to MLX: How K-Search Brings Decades of Kernel Expertise to Apple Silicon
AI 导读
伯克利Sky Lab的K-Search框架新增MLX后端,通过结构化CUDA-to-MLX翻译层把CUDA内核优化知识迁移到Apple Silicon,在Attention内核上达到原生MLX性能的0.97倍,在Mamba SSM内核上相较mlx-lm社区实现获得最高约20倍prefill加速。
推荐理由
展示了如何把CUDA内核优化知识自动迁移到Apple Silicon,给出了Attention和Mamba SSM在MLX上的实测加速数据。
来源:Berkeley AI Research · bair.berkeley.edu