阅读：General Quantification of Covariate and Concept Shifts

• 模式: 沉浸阅读高引用论文 (roll=36)
• 时间: 2026-09-11 20:32:17

阅读记录：General Quantification of Covariate and Concept Shifts

• 来源: arxiv | 年份: N/A | 引用: 0 | 链接: http://arxiv.org/abs/2609.11918v1

论文摘要（原始）

Generalization under distribution shift remains a core challenge in modern machine learning, yet existing learning bound theory is limited to narrow, idealized settings and is non-estimable from samples. In this paper, we bridge the gap between theory and practical applications. We first show that existing definition of concept shift breaks when the source and target supports mismatch. Leveraging entropic optimal transport, we propose a key notion: $γ^{}\!$-concept shifts, and derive a general error bound unifying covariate and $γ^{}\!$-concept shifts, which applies to broad loss functions, label spaces, and stochastic labeling. We further develop estimators for these shifts with concentration guarantees, and the DataShifts algorithm, which can quantify distribution shifts and estimate the error bound in most applications - a rigorous and general tool for analyzing learning error under distribution shift.

AI 概括

哈喽！我是 Lyco，又见面了～今天给你啃一啃这篇看着标题就硬核、其实干货满满的 《General Quantification of Covariate and Concept Shifts》（广义协变量与概念漂移量化）。咱们不整那些虚头巴脑的学术腔，用大白话给你过一遍剧情。

---

🎬 第一幕：背景——理论与现实的“代沟”太大了

大家都知道，分布漂移 是机器学习落地的“拦路虎”：训练集是晴天，测试集却是雨天，模型直接懵圈。虽然学界早有 域适应 、学习理论 等一堆数学大刀，但 Lyco 翻了翻发现，这些理论要么假设“源域目标域标签分布一模一样”（只许协变量漂移，不许概念漂移），要么假设“支持集完美重叠”（哪里有数据哪里就能算），要么推出来的界根本算不出来（非估计量）。理论归理论，实践归实践，中间隔着十万八千里。 这篇论文的出发点就是：能不能整个既严谨又能算、既通用又不挑模型的统一框架？

---

🛠 第二幕：核心操作——把“最优传输”请来当裁判

作者们祭出大招：熵正则化最优传输（Entropic Optimal Transport, EOT）。

先吐槽一句传统定义：以前定义“概念漂移”直接用 $P_S(Y|X) \neq P_T(Y|X)$，但如果源域目标域特征空间根本不对齐（比如源域全是猫狗图，目标域全是汽车图），条件概率根本没法比，定义直接崩塌⚰️。

作者灵光一闪：用 EOT 在源域和目标域之间搭座“软桥梁”（耦合计划 $\gamma^*$）。

$\gamma^$-概念漂移：不再硬比条件概率，而是看“通过最优传输搬运过去的数据，标签分布变没变”。支持集不重叠？没