数据挖掘 - 了解逻辑回归成本函数 - 吾爱随笔录

线性回归成本函数：

J (θ) = \frac{1}{2 m} \sum_{i = 1}^{m} (h_{θ} (x^{(i)}) - y^{(i)})^{2}

$J(\theta) = \frac{1}{2 m} \sum_{i=1}^m (h_{\theta}(x^{(i)}) - y^{(i)})^2$

在哪里：

h_{θ} (x) = θ_{0} + θ_{1} x_{1}

$h_{\theta}(x) = \theta_0 + \theta_1 x_1$

逻辑回归成本函数

J (θ) = \frac{1}{m} \sum_{i = 1}^{m} - (y^{(i)} \times l o g (h_{θ} (x (i))) + (1 - y (i)) \times l o g (1 - h_{θ} (x (i))))

$J(\theta) = \frac{1}{m} \sum_{i=1}^m - (y^{(i)} \times log(h_{\theta}(x{(i)})) + (1-y{(i)}) \times log(1 - h_{\theta}(x{(i)})))$

在哪里：

h_{θ} (x) = g (θ_{0} + θ_{1} x_{1} + θ_{2} x_{2})

$h_{\theta}(x) = g(\theta_0 + \theta_1 x_1 + \theta_2 x_2)$

直观地linear regression很容易理解，因为它优化了假设和训练数据之间的平均平方距离。但在的情况下logistic regression，我无法理解成本函数。

逻辑回归成本函数代表什么？