1.数据压缩如果几个特征高度相关，我们可以用1个特征进行表示，这就是降维降维可以对数据进行压缩，节约存储空间，并提高训练速度 2.数据可视化可以通过降维将数据进行可视化 3.主成成分分析（Principal Component Analysis Problem Formulation）PCA是最 ...

1.k-均值算法k-均值是一个迭代算法，假设我们想将数据聚类为n组，方法为： 选择k个随机的点，称为聚类中心 对于数据集中的每一个数据，按照距离k个中心点的距离，将其与距离最近的中心点关联起来，与同一个中心点关联的所有点聚成一类。 计算每一个组的平均值，将该组所关联的中心点移到平均值的位置 重复上 ...

1.优化目标首先先来复习一下逻辑回归：下面是逻辑回归的假设函数 如果有一个y=1的样本，如果能够让它能够被正确分类，即希望 ,就需要 。y=0时同理 下面是逻辑回归一个样本的代 ...

误差分析 开始时先构建一个简单的（特征量少）系统，快速得到一个结果，并进行交叉验证 画出学习曲线，找出算法存在的问题逐步改进，决定增加数据、添加特征或其他方法 当不容易画出学习曲线时我们可以采用误差分析的方法，即人工检查交叉检验集中在算法中产生误差的实例，看看这些实例是否有某种趋势 通过 ...

性能改进方法先放结论，后面再详细写一下原因 方法 适用范围 获得更多的训练实例 高方差 减小特征数量 高方差 获得更多特征 高偏差 增加多项式特征( , , 等) 高偏差 减小归一化程度 ...

一、概述简单的说KNN是通过测量某样本与已知样本的距离来进行分类的。工作原理如下：首先我们有一个带标注的训练样本集。当我们输入一个新的样本，将新样本的每个特征与训练样本集中数据的对应特征进行比较。选择k个在坐标系中与新样本最接近的数据，这些数据中出现次数最多的分类即可看作新数据的分类。 通常k< ...

1. 基本概念1.1 线程1.1.1 什么是线程线程是操作系统能够进行运算调度的最小单位。它被包含在进程之中，是进程中的实际运作单位。一条线程指的是进程中一个单一顺序的控制流，一个进程中可以并发多个线程，每条线程并行执行不同的任务。一个线程是一个execution context（执行上下文）。一个 ...

1. 为什么用MongoDB？假如我们要位每篇文章添加评论功能，会发现每篇文章可能要多篇评论，而且这个数目是动态变化的，而且每篇评论还包括好几项内容：评论的人、评论的时间、以及评论内容。这时候要将这些内容都塞进上述的那个表，就显得很困难。通常的做法是为评论(comment)单独建一个表：| ID | ...

组成：字符+操作符 常用操作符： 操作符 说明 实例 . 表示任何单个字符 [] 字符集，对单个字符给出取值范围 [abc]表示a或b或c，[a-z]表示a到z任意单个字符 [^] 非字符，给出排除范围 [^abc]表示非a或b或c的单个字符 * 前一个字符0次或无限次扩 ...

一、非线性假设当特征数量太多时，如果再用多项式进行预测，项数会非常多( )所以普通的线性回归和逻辑回归将不能很好的解决这类复杂的问题，因此模拟人的大脑，构建了神经网络 二、模型表示神经元模型: hθ(x)=g(θTx)=11+e−θTx，我们称这是一个以S ...