苹果研究人员训练神经网络，让 RAG 检索速度大增

据Apple Machine Learning发布的信息：

在 2026 年 ICML 会议上，苹果研究人员提出了一种名为摊销最大内积搜索（MIPS）的新技术，用来改进 RAG 和搜索系统。传统的搜索系统通常依赖几何近似方法，比如对数据进行聚类并将查询与聚类中心进行比较；但由于用户的查询通常是简短的问题，而数据库里的键是长篇的文本，两者的差异会导致这种传统方法经常出错。为了解决这个问题，研究人员离线训练了小型神经网络（SupportNet 和 KeyNet），让它们通过监督学习来适应常见的查询分布。

其中，SupportNet 能够学习数据簇的数学支撑函数，从而更准确地引导查询，其找到正确数据分区速度比传统方法快近 2 倍。而 KeyNet 则充当“查询重写器”，直接将输入的提问转换为预测的键向量，让现有的索引系统在检索时能够少扫描多达 11 倍的数据库。这种方法通过牺牲一次性的训练成本换取了极快的推理速度，展示了在生产环境中提前摸清用户提问规律如何能大幅优化计算资源。