Berkeley AI Research 介绍 SPEX 与 ProxySPEX 算法以大规模识别大语言模型中的关键交互

Berkeley AI Research 提出 SPEX 和 ProxySPEX 算法，通过稀疏恢复机制在大量特征、训练数据及内部组件中高效识别对大语言模型输出驱动关键交互。ProxySPEX 借助层级结构仅需约 10 倍更少的消融实验即可达到与 SPEX 相当的性能，显著降低了计算成本。