2.3课后思考-支持向量机的限制条件

问题：支持向量机的限制条件如果从≥1变成≥2，则（ω,b）会变成（aω,ab）。如果X_i和ω是M维向量，a为多少？

🟨一、原始问题回顾（标准 Hard-Margin SVM）

我们想求解这个最优化问题：

最小化目标函数：

min(ω,b) 1/2 ||ω||²

在满足约束：

y_i(ω^TX_i+b)≥1,∀i

🟦 二、现在我们把约束改成 ≥2，会发生什么？

现在变成了： y_i(ω^TX_i+b)≥2

但注意！这个时候我们并没有改变数据的分布，我们只是人为地把间隔要求提高了。

🟨 三、缩放不变性（SVM 中的关键性质）

支持向量机的结果对 ω 和 b 的缩放是不变的。也就是说：

如果一组 (ω,b) 满足约束： y_i(ω^TX_i+b)≥1

那么对于任意正数 a > 0，(aω,ab) 会满足： y_i((aω)^TX_i+ab)=a⋅y_i(ω^TX_i+b)≥a

所以如果我们要求约束是： y_i(ω^TX_i+b)≥2

就可以从原来的解 (ω,b) 乘以 a = 2 得到一个新解： (ω′,b′)=(2ω,2b)

✅ 四、结论：a = 2

当支持向量机的间隔约束从 ≥1 变为 ≥2 时，最优解 (ω,b) 会变成：(ω′,b′)=(2ω,2b)

即：
缩放因子 a = 2

🧠 补充说明（更通用理解）

其实我们可以说：
当你把原来的约束 y_i(ω^TX_i+b)≥C 从 C 改为任意正数 k，那么解会变为： (ω′,b′)=(kω,kb)

所以你可以通用记忆为：

若约束从 ≥1 变为 ≥k，则解 (ω,b) 会变为(kω,kb)