<p>K近邻算法（或简称kNN）是易于理解和实现的算法，而且是你解决问题的强大工具。</p>    <p>在本教程中，你将基于Python（2.7）从零开始实现kNN算法。该实现主要针对分类问题，将会用鸢尾花分类问题来演示。</p>    <p>这篇教程主要针对Python程序员，或者你可以快速上手Python，并且对如何从零实现kNN算法感兴趣。</p>    <p style="text-align:center"><img src="https://simg.open-open.com/show/9aa4482e0ecbf4a9098e229cf53c0656.png"></p>    <p>kNN算法图片，来自Wikipedia，保留所有权利</p>    <h2>什么是kNN</h2>    <p>kNN算法的模型就是整个训练数据集。当需要对一个未知数据实例进行预测时，kNN算法会在训练数据集中搜寻k个最相似实例。对k个最相似实例的属性进行归纳，将其作为对未知实例的预测。</p>    <p>相似性度量依赖于数据类型。对于实数，可以使用欧式距离来计算。其他类型的数据，如分类数据或二进制数据，可以用汉明距离。</p>    <p>对于回归问题，会返回k个最相似实例属性的平均值。对于分类问题，会返回k个最相似实例属性出现最多的属性。</p>    <h2>kNN如何工作</h2>    <p>kNN属于基于实例算法簇的竞争学习和懒惰学习算法。</p>    <p>基于实例的算法运用数据实例（或数据行）对问题进行建模，进而做出预测决策。kNN算法算是基于实例方法的一种极端形式，因为其保留所有的训练集数据作为模型的一部分。</p>    <p>kNN是一个竞争学习算法，因为为了做出决策，模型内部元素（数据实例）需要互相竞争。 数据实例之间客观相似度的计算，促使每个数据实例都希望在竞争中“获胜”或者尽可能地与给定的未知数据实例相似，继而在预测中做出贡献。</p>    <p>懒惰学习是指直到需要预测时算法才建立模型。它很懒，因为它只在最后一刻才开始工作。优点是只包含了与未知数据相关的数据，称之为局部模型。缺点是，在大型训练数据集中会重复相同或相似的搜索过程，带来昂贵的计算开销。</p>    <p>最后，kNN的强大之处在于它对数据不进行任何假设，除了任意两个数据实例之间距离的一致计算。因此，它被称为成为无参数或者非线性的，因为它没有预设的函数模型。</p>    <h2>使用测量值对鸢尾花分类</h2>    <p>本教程中我们演示的是鸢尾花分类问题。</p>    <p>原始数据集由来自3个品种鸢尾花的150个观察结果组成。对每一朵花有四个测量值：萼片长度、萼片宽度、花瓣长度、花瓣宽度，单位都是厘米。待预测鸢尾花属于Setosa，Versicolour，Virginica三个种类之一。</p>    <p>这是一个标准的数据集，所有示例的种类都是已知的。因此我们可以将数据集分割成训练数据集和测试数据集，并使用预测结果来评估实现的算法。这个问题，比较好的分类算法的准确度在90%以上，通常为96%甚至更好。</p>    <p>你可以从iris.data上免费下载数据集，更多细节见参考资料部分。</p>    <h2>怎样用Python实现k-Nearest Neighbors</h2>    <p>本教程将KNN算法分为如下几步：</p>    <p>数据处理：打开CSV文件获取数据，将原始数据分为测试集/训练集。</p>    <p>相似性度量：计算每两个数据实例之间的距离。</p>    <p>近邻查找：找到k个与当前数据最近的邻居。</p>    <p>结果反馈：从近邻实例反馈结果。</p>    <p>精度评估：统计预测精度。</p>    <p>主函数：将上述过程串起来。</p>    <h3>1. 数据处理</h3>    <p>我们首先要做的是把文件中的数据加载进来。这些数据以CSV形式存放在文件中，不包含header行和其它任何引用。我们可以使用open函数打开这些文件，然后使用csv module中的reader函数去读取文件。</p>    <pre>  <code class="language-python">import csv  with open('iris.data', 'rb') as csvfile:      lines = csv.reader(csvfile)      for rowin lines:          print ', '.join(row)  </code></pre>    <p>接下来，我们需要将这些数据拆分为kNN用于做预测的训练集(training dataset)和用来评估模型精度的测试集(test dataset)。</p>    <p>首先，我们需要将以字符串形式载入的鸢尾花测量数据转换为容易处理的数组。接下来，我们需要将数据集随机的分为训练集与测试集。通常训练集/测试集的划分比例标准为67/33。</p>    <p>将上述步骤合在一起，我们可以定义一个叫loadDataset的函数，该函数可以加载指定的CSV文件，并按照指定的比例随机分为训练集与测试集。</p>    <pre>  <code class="language-python">import csv  import random  def loadDataset(filename, split, trainingSet=[] , testSet=[]):      with open(filename, 'rb') as csvfile:          lines = csv.reader(csvfile)          dataset = list(lines)          for x in range(len(dataset)-1):              for y in range(4):                  dataset[x][y] = float(dataset[x][y])              if random.random() < split:                  trainingSet.append(dataset[x])              else:                  testSet.append(dataset[x])  </code></pre>    <p>将鸢尾花数据集的csv文件下载到本地目录，我们可以用鸢尾花数据集按照如下方式测试这个函数：</p>    <pre>  <code class="language-python">trainingSet=[]  testSet=[]  loadDataset('iris.data', 0.66, trainingSet, testSet)  print 'Train: ' + repr(len(trainingSet))  print 'Test: ' + repr(len(testSet))  </code></pre>    <h3>2.相似性度量</h3>    <p>为了进行预测我们需要计算任意两个数据实例的相似性。这是必要的，因为对于给定的每一个测试集中的数据实例，我们都可以在训练集中找出k个相似性最高的数据实例，这样就可以依次进行预测。</p>    <p>假定鸢尾花的4个测量数据都为数值形式且单位相同，我们可以直接采用欧氏距离(Euclidean distance)进行相似性度量。欧式距离定义为：两组向量对应元素之差的平方和再做平方根运算。</p>    <p>另外，我们要控制哪个字段参与欧式距离的计算。具体来讲，我们只想包括前四个属性。一种方法是采用固定长度的向量来限制欧式距离，忽略最后的维度。</p>    <p>将上述步骤合在一起，我们可以将euclideanDistance函数定义为：</p>    <pre>  <code class="language-python">import math  def euclideanDistance(instance1, instance2, length):      distance = 0      for x in range(length):          distance += pow((instance1[x] - instance2[x]), 2)      return math.sqrt(distance)  </code></pre>    <p>我们可以用一些样本数据来测试这个函数，具体如下：</p>    <pre>  <code class="language-python">data1 = [2, 2, 2, 'a']  data2 = [4, 4, 4, 'b']  distance = euclideanDistance(data1, data2, 3)  print 'Distance: ' + repr(distance)  </code></pre>    <h3>3. 近邻查找</h3>    <p>由于我们有相似性度量的方法，因此可以采用该方法寻找未知数据实例的k个相似性最高的实例。</p>    <p>处理过程直接计算所有样本点到给定点的欧式距离，进而筛选距离最近的样本点子集。</p>    <p>下面是getNeighbors函数，该函数遍历训练集并返回与测试实例距离最近的k个近邻样本点（采用已经定义好的euclideanDistance函数）。</p>    <pre>  <code class="language-python">import operator  def getNeighbors(trainingSet, testInstance, k):      distances = []      length = len(testInstance)-1      for x in range(len(trainingSet)):          dist = euclideanDistance(testInstance, trainingSet[x], length)          distances.append((trainingSet[x], dist))      distances.sort(key=operator.itemgetter(1))      neighbors = []      for x in range(k):          neighbors.append(distances[x][0])      return neighbors  </code></pre>    <p>我们可以按如下方法来测试这个函数：</p>    <pre>  <code class="language-python">trainSet = [[2, 2, 2, 'a'], [4, 4, 4, 'b']]  testInstance = [5, 5, 5]  k = 1  neighbors = getNeighbors(trainSet, testInstance, 1)  print(neighbors)  </code></pre>    <h3>4. 结果反馈</h3>    <p>我们已经找到了测试实例的最近的邻居，下一步就是基于这些近邻做出预测结果。</p>    <p>我们可以让每个邻居对测试实例的类别属性进行投票，最终以票数多者做为预测结果。</p>    <p>下面的函数提供了从近邻投票中反馈多数投票结果的机制。该函数假定每个邻居的最后一列为类别属性。</p>    <pre>  <code class="language-python">import operator  def getResponse(neighbors):      classVotes = {}      for x in range(len(neighbors)):          response = neighbors[x][-1]          if responsein classVotes:              classVotes[response] += 1          else:              classVotes[response] = 1      sortedVotes = sorted(classVotes.iteritems(), key=operator.itemgetter(1), reverse=True)      return sortedVotes[0][0]  </code></pre>    <p>我们可以输入近邻数据测试该函数，结果如下：</p>    <pre>  <code class="language-python">neighbors = [[1,1,1,'a'], [2,2,2,'a'], [3,3,3,'b']]  response = getResponse(neighbors)  print(response)  </code></pre>    <p>该方法在平局的情况下依然会有一个返回结果，但是我们可以对其特殊处理，例如返回空值或者选择一个无偏随机结果</p>    <h3>5. 精度评估</h3>    <p>我们已经具备了所有的kNN算法片段。还有一件事情仍需我们重点关注，那就是就是如何评估预测精度。</p>    <p>评估模型精度最简单的方法就是计算正确预测结果数量占全部预测结果数量的比例，称为分类精度。</p>    <p>下面是getAccuracy函数，该函数统计所有的正确预测并返回正确分类的百分比精度。</p>    <pre>  <code class="language-python">def getAccuracy(testSet, predictions):      correct = 0      for x in range(len(testSet)):          if testSet[x][-1] is predictions[x]:              correct += 1      return (correct/float(len(testSet))) * 100.0  </code></pre>    <p>我们可以采用测试集与预测结果来测试该函数，结果如下：</p>    <pre>  <code class="language-python">testSet = [[1,1,1,'a'], [2,2,2,'a'], [3,3,3,'b']]  predictions = ['a', 'a', 'a']  accuracy = getAccuracy(testSet, predictions)  print(accuracy)  </code></pre>    <h3>6. 主函数</h3>    <p>目前为止，我们已经具备了所有的算法组成元素，下面我们将这些元素串起来，组成主函数。</p>    <p>下面是从零开始实现的kNN算法完整Python代码。</p>    <pre>  <code class="language-python"># Example of kNN implemented from Scratch in Python     import csv  import random  import math  import operator     def loadDataset(filename, split, trainingSet=[] , testSet=[]):      with open(filename, 'rb') as csvfile:          lines = csv.reader(csvfile)          dataset = list(lines)          for x in range(len(dataset)-1):              for y in range(4):                  dataset[x][y] = float(dataset[x][y])              if random.random() < split:                  trainingSet.append(dataset[x])              else:                  testSet.append(dataset[x])  def euclideanDistance(instance1, instance2, length):      distance = 0      for x in range(length):          distance += pow((instance1[x] - instance2[x]), 2)      return math.sqrt(distance)   def getNeighbors(trainingSet, testInstance, k):      distances = []      length = len(testInstance)-1      for x in range(len(trainingSet)):          dist = euclideanDistance(testInstance, trainingSet[x], length)          distances.append((trainingSet[x], dist))      distances.sort(key=operator.itemgetter(1))      neighbors = []      for x in range(k):          neighbors.append(distances[x][0])      return neighbors  def getResponse(neighbors):      classVotes = {}      for x in range(len(neighbors)):          response = neighbors[x][-1]          if responsein classVotes:              classVotes[response] += 1          else:              classVotes[response] = 1      sortedVotes = sorted(classVotes.iteritems(), key=operator.itemgetter(1), reverse=True)      return sortedVotes[0][0]   def getAccuracy(testSet, predictions):      correct = 0      for x in range(len(testSet)):          if testSet[x][-1] == predictions[x]:              correct += 1      return (correct/float(len(testSet))) * 100.0  def main():      # prepare data      trainingSet=[]      testSet=[]      split = 0.67      loadDataset('iris.data', split, trainingSet, testSet)      print 'Train set: ' + repr(len(trainingSet))      print 'Test set: ' + repr(len(testSet))      # generate predictions      predictions=[]      k = 3      for x in range(len(testSet)):          neighbors = get          Neighbors(trainingSet, testSet[x], k)      result = getResponse(neighbors)      predictions.append(result)      print('> predicted=' + repr(result) + ', actual=' + repr(testSet[x][-1]))      accuracy = getAccuracy(testSet, predictions)      print('Accuracy: ' + repr(accuracy) + '%')     main()  </code></pre>    <p>运行上述实例代码，你将会看到每一项预测分类结果和与之对应的测试集的实际分类结果。在运行的结尾，你将会看到整个模型的预测精度。当前的实例的预测精度略高于98%。</p>    <pre>  <code class="language-python">...  > predicted='Iris-virginica', actual='Iris-virginica'  > predicted='Iris-virginica', actual='Iris-virginica'  > predicted='Iris-virginica', actual='Iris-virginica'  > predicted='Iris-virginica', actual='Iris-virginica'  > predicted='Iris-virginica', actual='Iris-virginica'  Accuracy: 98.0392156862745%  </code></pre>    <h2>思路扩展</h2>    <p>本节向读者提供了一些思路扩展，以便大家在本教程实现代码的基础上进一步应用和探索。</p>    <ul>     <li>回归问题：你可以将本实现应用到一些回归问题（预测基于数值的属性）。对近邻实例的汇总可能涉及要预测属性的平均数或者中位数</li>     <li>归一化：当属性之间的度量单位不同时，很容易造成某些属性在距离度量层面成为主导因素。对于这类问题，你应该在相似性度量前将属性值都放缩到0-1范围内（称为归一化）。将模型升级以支持数据归一化。</li>     <li>多种距离度量：通常有许多距离度量方法可供选用，如果你愿意，甚至可以创造出针对特定领域的距离度量方法。实现替代的距离度量方法，例如曼哈顿距离(Manhattan distance)或向量点积(vector dot product)。</li>    </ul>    <p>该算法还有很多扩展形式可以探索。这里给出两个扩展思路，包括基于距离权重的k-most相似性实例去预测以及更进一步的基于树形结构查找相似度去查找。</p>    <h2>更多的学习资源</h2>    <p>本节将向读者提供一些k-Nearest Neighbors算法的深入学习资源，从理论上阐述kNN算法的工作原理，以及代码实现中应注意的实际问题。</p>    <h3>问题</h3>    <p>Wikipedia的鸢尾花数据集 UCI Machine Learning Repository的鸢尾花数据集</p>    <h3>代码</h3>    <p>本节提供了kNN算法在主流机器学习库中的开源实现链接。如果你考虑在业务应用中自己实现新版算法，可以先检查下这些已有的开源版本是否满足需要。</p>    <p>scikit-learn中的kNN实现</p>    <p>Weka中的kNN实现（非官方）</p>    <h3>参考书籍</h3>    <p>你也许已经有一本或者更多有关机器学习应用方面的书籍。本节重点介绍常见的机器学习书籍中有关k-Nearest Neighbors的章节。</p>    <p>《模型预测应用》，159-300页</p>    <p>《数据挖掘：实用机器学习技术，第三版（数据管理系统的摩根考夫曼系列）》，76页，128页，235页</p>    <p>《黑客机器学习》，第十章</p>    <p>《机器学习实战》，第二章</p>    <p>《编程集体智慧：构建WEB2应用程序》，第二章，第八章，第293页</p>    <h2>总结</h2>    <p>在本教程中，你了解了k近邻算法的工作原理，其中一些隐喻可以用来思考本算法，并延伸到其他算法。我们用python从零开始实现了kNN算法，你理解了每一行代码，因此你可以基于本实现去探索扩展，满足你自己的项目需求。</p>    <p>以下是本教程涉及的5类学习算法：</p>    <ul>     <li><strong>K近邻算法</strong> ：理解和实现起来较简单的算法，非常强大的非参数算法</li>     <li><strong>基于实例的算法</strong> ：使用数据集（观察值）对问题建模</li>     <li><strong>竞争算法</strong> ：通过模型元素之间的内部竞争来做出预测决策</li>     <li><strong>懒惰学习</strong> ：需要做出预测时才开始建立模型</li>     <li><strong>相似性计算</strong> ：计算数据实例之间的客观距离是该算法的一个关键特征</li>    </ul>    <p>你用本教程实现kNN算法了吗？你是怎么做的？你学到了什么？</p>    <p> </p>    <p>来自：http://python.jobbole.com/87407/</p>    <p> </p>