一种用于预测的算法——逻辑回归.doc

一种用于预测的算法逻辑回归征；w也是一个(n,1)维的矩阵，它表示权重（weight），它一一对应于每个输入的特征，也可以说它指示了某个特征的重要程度；b是一个实数，在这里可以将其看作为一个阀值。如何理解w和b呢？我举个例子来帮助大家理解。可以把上面的算法过程看作是一种通过权衡输入然后再做出决定的一个过程。假设周末即将到来，你听说在你的城市将会有一个音乐节。你要决定是否去参加这个节日。你需要通过权衡3个因素（3个特征）来做出决定：1、天气好吗 2、你的女友是否愿意陪你去 3、举办地点离地铁近吗 这3个因素就对应着上图中的x1、x2，x3（它们是x这个训练样本中的3个特征）。我们可以给它们赋个值，如果天气好，那么x1为1，否则为0，x2和x3雷同；假设你很讨厌坏天气，如果天气不好，你就不会去参加这个节日，对其它两个因素要求不高（这里假设你是个老司机，女人多得是，不怕冷落了女友）。那么我们分别给3个权重赋值为7,2,2。w1的值大很多，这表明天气对你来说很重要，比你的女友是否愿意去，以及交通的便利性更重要。而b我们可以看作一个阀值，假设我们给b赋值为-5，那么也就是说，只要天气好，即使女友不陪你去、交通也不方便，你也会去参加这个节日x1 * w1 + x2 * w2 + x3 * w3 = 1 * 7 + 0 * 2 + 0 * 2 = 7（这里的*代表乘法）(我们这里先不考虑函数)，而7 +（-5）> 0，结果是你会去那个音乐节。如果我们选择不同的w和b值，那么对于同一个输入x，会有不同的结果输出。训练神经网络的目的就是通过训练过程来得到这些w和b值（后面会教大家如何来训练得到它们）。这些w和b值可以让神经网络得到一项判断能力，一项预测能力输入一张图片，神经网络根据训练好的w和b，通过上面的公式根据每个像素的值以及与其对应的权重值以及阈值来判定这张图里是否有猫。神经网络就是这样来进行预测的。它和我们人类的思考方式是一样的。虽然我们人可以做出非常复杂的判断，但是基本原理是很简单的。人为什么能轻松分辨出一个图片中是否有猫？因为我们人就是一个巨型的神经网络，这个神经网络里面包含了数亿甚至更多的神经元（上图蓝色的圆圈就表示一个神经元），每个神经元都可以接受多个输入，在日常生活中，小孩子通过大人的教导，不断的看见猫，我们的神经元对标签:内容