重点重点重点重点重点

1.利用计算机从历史数据中找出规律，并把这些规律用到对未来不确定场景的决策中。 

2.概率论和数据分析 

3.原动力 自动决定 数据代替专家 经济驱动 

4..业务系统发展历史 基于专家经验 基于统计-分纬度统计 机械学习-在线学习 

5.离线学习 在线学习 

6.购物篮分析 关联规则 啤酒加尿布 

7.用户细分精准营销 聚类 

8.垃圾邮件 朴素贝叶斯算法 

9.信用卡欺诈 决策树 

10.互联网广告 ctr预估 

11.推荐系统 协同过滤 

12.自然语言处理 情感分析 实体识别 

13.图像识别 深度学习 

14.语音识别 个性化医疗 情感分析 人脸识别 自动驾驶 智慧机械人 私人虚拟助理 手势控制 视频内容自动识别 机械实时翻译 

15.数据分析和机械学习的区别 交易数据VS行为数据 少量数据VS海量数据 采样分析VS全量分析 历史VS未来 用户驱动VS数据驱动目标用户公司高层VS普通个体 

16.算法分类1 有监督学习 分类算法 回归算法 无监督学习 聚类 半监督学习 越学越好 

17.算法分类2 分类与回归 聚类 标注 

18.算法分类3 生成模型 判别模型 

19.常见算法 C4.5 K-Means SVM Apriori EM PageRank AdaBoost kNN NaiveBayes CART FP-Growth LDA 逻辑回归 RF GBDT Word2Vector HMM CRF 推荐算法 深度学习 

20.机械学习解决问题的框架 特征工程 损失函数 

21.案例 图片按照色彩聚类

1.机器学习就是利用计算机从历史数据中找规律，把这些规律用到对未来不确定场景的决策。【关键词 不确定因素 判断 决策 依靠的是计算机的历史数据的规律挖掘】 2.机器学习依靠计算机   数据分析依靠人的经验 知识水平 3.机器学习发展的原动力是 从历史数据找规律用到对未来自动做决定  用数据代替expert【业务逻辑】 经济驱动，数据变现 4.业务系统发展的历史：基于专家经验->基于统计（离线学习）->机器学习（在线学习） 5.典型应用：关联规则 算法 【啤酒和纸尿裤】 6.用户细分精准营销：聚类 算法  【神州大众卡，全球通，神州行，动感地带。。。】 7.垃圾邮件：朴素贝叶斯 算法 8.信用卡欺诈：决策树 9.互联网广告：ctr预估【预测点击率进行排序】 10.推荐系统：协同过滤 11.自然语言处理  情感分析，实体识别 12.图像识别：深度学习 13.更多应用：语音识别，个性化医疗，智慧机器人，私人虚拟助理，手势控制，人脸识别，自动驾驶，视频内容自动识别，机器实时翻译

机器学习和数据分析的区别 数据特点  交易数据【跟钱有关系】【一致性强】 VS 行为数据【用户的历史行为】【no SQL数据库 像mongoDB】          少量数据               VS 海量数据  采样分析               VS 全量分析 15.数据分析（OLAP）（报告过去的事情）       机器学习（预测未来的事情） 16.机器学习算法分类  有监督学习【已经打上标签】 无监督学习【聚类 自己推测标签】  半监督学习          根据内容：     分类与回归    聚类       标注          很重要：       生成模型【告诉你样本属于哪个类的概率】      判别模型 【告诉你结果】 17.分类 C4.5   聚类 K-Means   统计学习  SVM   关联分析  Apriori 【基本淘汰 代价太大】   统计学习  EM   链接挖掘  PageRank  【谷歌】   集装与推进 AdaBoost [人脸识别]   分类  kNN     Naive Bayes  CART   高级算法： FP-Growth  逻辑回归  RF GBDT 推荐算法 LDA  Word2Vector  HMM CRF 深度学习 18.机器学习解决问题     确定目标： 业务需求  收集数据      特征工程【70%】   训练模型： 定义模型-产生公式（根据具体要解决的问题）  定义损失函数（预测的结果与真实的结果之间的偏差最小的函数）  优化算法（使损失函数取极小值）   模型评估： 交叉验证   效果评估 19.图片中的每一个像素点是以一个rgb来存的red，green，blue来表示每个成分有多大来存 的，每个图是一个二进制的文件 20.K-Means聚类的算法，特征工程就是将图片以向量或是其他的形式来表示的

机器学习解决问题的框架2：

训练模型

（1）定义模型：确定模型，训练出模型的参数

（2）定义损失函数（定义偏差的大小）：评价真实结果与模型的预测结果的相似程度和差异度。 机器学习解决的问题，有时不能得到精确解只能寻找近似解。 偏差最小的函数，针对很大的数据集，就是损失函数。 让损失函数求最小，就是优化算法。对于线性回归模型，计算预测结果与实际结果的差值；对于分类模型，则需要定义自己的损失函数

（3）优化算法：对算法进行优化，使损失函数取极小值，如梯度下降法......

监督式学习:分类，回归 非监督式学习:聚类 标注 逻辑回归与朴素贝叶斯本质区别:生成模型与判别模型的区别 生成模型->估计的是联合概率分布 判别模型->估计的是条件概率分布 监督式学习:分类，回归 分类 C4.5 聚类 K-Means 统计学习SVM 关联分析fp-growth RF 深度学习 业务需求->数据->特征工程 定义模型->定义损失函数->优化算法->交叉验证

利用计算机从历史数据中找出规律，并把这些规律用到对未来不确定场景的决策。

逻辑回归 百度搜索引擎推荐结果的排序

rf 决策树算法的改进

推荐算法

lda 文本分析自然语言的处理

word2vector文本挖掘

深度学习 图像识别

传统的统计学

机器学习课程小结

机器学习解决问题框架

模型评估

        交叉验证

        效果评估

其中训练模型中的损失函数定义和优化算法是最为困难的。

机器学习解决问题框架

    训练模型

        定义模型

        定义损失函数

        优化算法

机器学习解决问题框架三步走：

1确定目标

    业务需求

    数据

    特征工程

int main()
{
    good;
}

训练模型：定义模型、{定义损失函数、优化算法}（难、有趣的地方）

模型评估：交叉评估、效果评估