机器算法验证 - 为什么在核函数的定义中将k称为求值的表示者 - 吾爱随笔录

为什么在核函数的定义中将k称为求值的表示者

机器算法验证机器学习数据挖掘支持向量机

2022-04-17 22:55:09

为什么被称为评估的代表？从 Bernhard Schölkopf 的“Learning with kernels”一书中，我们有以下几行（第 33 页）： $k$

$\langle k(.,x),f\rangle = f(x)$ ，特别是 $\langle k(.,x), k(.,x')\rangle = k(x,x')$

根据这本书，这个有趣的属性是从定义中得出的。如何？ $\phi$

我无法理解这一点，这对于理解再现内核希尔伯特空间的概念至关重要。任何帮助表示赞赏。

幸运的是，需要参考的图书部分，即第 2.2.2 节（从第 32 页开始）是Google 图书预览的一部分。另请注意，此部分独立于其他部分。

2个回答

当它说“直接来自定义”时，它意味着直接来自的定义，而不是直接来自的定义。第 33 页上的公式 2.24 是一个定义（这就是为什么它使用 := 表示法而不仅仅是一个等号。）定义说如果和然后被定义为。特别是，如果和，则公式 2.24 中的定义表示（想想一个 $\langle -,- \rangle$ $\Phi$ $f = \sum_i \alpha_i k(.,x_i)$ $g = \sum_j \beta_j k(.,y_j)$ $\langle f,g\rangle$ $\sum_{i,j} \alpha_i \beta_j k(x_i, y_j)$ $f=k(.,x)$ $g=k(.,x')$

⟨ f, g ⟩ = k (x, x^{'})

$\langle f, g \rangle = k(x,x')$

α_{i}

$\alpha_i$ 和一个是和其余的）。这是公式 2.30。

β_{j}

$\beta_j$

1

$1$

0

$0$

公式 2.29 类似但更通用。假设我们有一些。然后并再次定义 2.24 说这等于 根据定义。但这只是，所以给出 (2.29)。 $f = \sum_j \beta_j k(.,x_j)$

⟨ k (, . x), f ⟩ = ⟨ k (., x), \sum β_{j} k (., x_{j}) ⟩

$\langle k(,.x), f \rangle = \langle k(.,x), \sum\beta_j k(.,x_j) \rangle$

\sum β_{j} k (x, x_{j})

$\sum \beta_j k(x, x_j)$

f (x)

$f(x)$

在 RKHS 框架中，任何函数都可以使用希尔伯特范数最小化解决方案最小化，只需通过在其余数据点和本身评估的内核的线性组合。 $f(\cdot)$ $x$

即，详细地说，如果您不知道函数Hilbert-norm 最小化最小化器的结果，那么您需要在再现内核 Hilbert 空间 (RKHS) 中做的就是获取再现 psd 内核它是两个参数（成对）的函数，其中在一个参数中您修复；您想要计算的点，使得是最小化器，然后在另一个参数中，您选择数据集中除之外的每个其他点，如然后“代表定理”确保存在一组与 $f's$ $K(\cdot,\cdot)$ $x$ $f(\cdot)$ $x$ $x$ $K(x,\cdot)$ $\alpha's$ $K(x,\cdot)$ 这样结果 “可以”表示/以下属性：其中占位符获取其余数据点和总和是在每个点上。 $f(x)$ ${evaluated}/admits$ $f(x)=\sum{K(x,\cdot)}$ $\cdot$

其它你可能感兴趣的问题