研究

NeurIPS 2017最佳论文:一种时间复杂度线性增长的拟合优度检验

检验一个模型是否真正拟合你的数据,速度不应该比训练模型本身还慢。我们构建了一种检验方法,其时间复杂度始终随样本量线性增长,并能指出拟合失效的具体位置。

← 返回研究

我们的论文《A Linear-Time Kernel Goodness-of-Fit Test》获得了NeurIPS 2017(第30届神经信息处理系统大会)最佳论文奖。这项研究由Sentinel Assurance联合创始人Wenkai Xu,与伦敦大学学院Gatsby计算神经科学中心的Wittawat Jitkrittum、Arthur Gretton,以及统计数理研究所(日本)的Zoltan Szabo、Kenji Fukumizu共同完成。

这篇论文做了什么

  • 提出了一种自适应拟合优度检验方法,其计算成本随样本量线性增长,而非早期核方法检验常见的二次方增长。
  • 该方法会主动学习最能指示模型与数据出现偏差的具体检验特征,而不只是返回一个笼统的统计量。
  • 基于Stein方法构建,因此无需计算模型的归一化常数,而这一常数在实践中往往难以计算。
  • 在均值偏移的备择假设下,被证明具有比此前线性时间核检验更高的相对(Bahadur)效率,并在高维场景下达到甚至超过二次时间检验的检验效力。

我们的看法

一种无法扩展到真实系统数据规模的检验方法,理论再严谨,也很难被真正投入使用。在保持可解释性的同时把拟合优度检验的复杂度降到线性,正是这类不起眼却基础性的工作,它让严谨的验证真正可以被持续运行,而不只是偶尔做一次审计。

想和研究团队聊聊?

我们很乐意分享Sentinel背后的研究工作,或探讨它如何应用于你的AI Agent。