的训练数据，学习一个从输入变量X到输入变量Y的函数映射。Y = f (X)，训练数据通常是(n×x,y)的形式，其中n代表训练样本的大小，x和y分别是变量X和Y的样本值。 有监督学习可以被分为两类：
回归问题：预测某一样本的所对应的实数输出（连续的）。比如预测某一地区人的平均身高。
除此之外，集成学习也是一种有监督学习。它是将多个不同的相对较弱的机器学习模型的预测组合起来，用来预测新的样本。
线性回归是指完全由线性变量组成的回归模型。在线性回归分析中，只包括一个自变量和一个因变量，且二者的关系可用一条直线近似表示，这种回归分析称为一元线性回归分析。
如果回归分析中包括两个或两个以上的自变量，且因变量和自变量之间是线性关系，则称为多元线 逻辑回归
自变量并不一定非要定类变量，它们也可以是定量变量。如果X是定类数据，此时需要对X进行哑变量设置。
Lasso方法是一种替代最小二乘法的压缩估计方法。Lasso的基本思想是建立一个L1正则化模型，在模型建立过程中会压缩一些系数和设定一些系数为零，当模型训练完成后，这些权值等于0的
1.14 K近邻(KNN)KNN做回归和分类的主要不同之处在于最后做预测时候的决策方法不一样。KNN做分类预测时，一般是选择多数表决法，即训练集里和预测的样本特征最近的K个样本，预测为里面有最多类别数的类别。
决策树中每个内部节点都是一个分裂问题：指定了对实例的某个属性的测试，它将到达该节点的样本按照某个特定的属性进行分割，并且该节点的每一个后继分支对应于该属性的一个可能值。
众数就是分类结果。回归树的叶节点所含样本中，其输出变量的平均值就是预测结果。1.16 bp
算法训练的多层前馈网络，是目前应用最广泛的神经网络模型之一。bp神经网络的学习规则是使用最速下降法，通过反向传播来不断调整网络的权值和阈值，使网络的分类错误率最小（误差平方和最小）。BP 神经网络是一种多层的前馈神经网络，其主要的特点是：信号
支持向量机分类（SVM）是一类按监督学习方式对数据来进行二元分类的广义线性分类器，其决策边界是对学习样本求解的最大边距超平面。
在给定一个事件发生的前提下，计算另外一个事件发生的概率——我们将会使用贝叶斯定理。假设先验知识为d，为了计算我们的假设h为真的概率，我们将要使用如下贝叶斯定理：
集成学习是一种将不同学习模型（比如分类器）的结果组合起来，通过投票或平均来进一步提升准确率。一般，对于分类问题用投票；对于回归问题用平均。这样的做法源于“众人拾材火焰高”的想法。 集成算法主要有三类：Bagging，Boosting 和Stac
GBDT 是以 CART 回归树为基学习器的 Boosting 算法，是一个加法模型，它串行地训练一组 CART 回归树，最终对所有回归树的预测结果加和，由此得到一个强学习器，每一颗新树都拟合当前损失函数的负梯度方向。最后输出这一组回归树的加和，直接得到回归结果或者套用 sigmod 或者 softmax 函数获得二分类或者多分类结果。
aboostadaboost给予误差率低的学习器一个高的权重，给予误差率高的学习器一个低的权重，结合弱学习器和对应的权重，生成强学习器。回归问题与分类问题算法的不同点在于误差率计算的方法不一样，分类问题一般都采用0/1损失函数，而回归问题一般都是平方损失函数或者是线 XGBoost
XGBoost 是极端梯度上升(Extreme Gradient Boosting)的简称，XGBoost 算法是一类由基函数与权重进行组合形成对数据拟合效果佳的合成算法。由于 XGBoost 模型具有较强的泛化能力、较高的拓展性、较快的运算速度等优势， 从2015年提出后便受到了统计学、数据挖掘、机器学习领域的欢迎。
xgboost是GBDT的一种高效实现，和GBDT不同，xgboost给损失函数增加了正则化项；且由于有些损失函数是难以计算导数的，xgboost使用损失函数的二阶泰勒展开作为损失函数的拟合。
LightGBM 是 XGBoost 一种高效实现，其思想是将连续的浮点特征离散成 k 个离散值，并构造宽度为 k 的直方图。然后遍历训练数据，计算每个离散值在直方图中的累计统计量。在进行特征选择时，只应该要依据直方图的离散值，遍历寻找最优的分割点；且使用带有深度限制的按叶子生长（leaf-wise）策略，节省了不少时间和空间上的开销。
catboost 是一种基于对称决策树算法的 GBDT 框架，主要解决的痛点是高效合理地处理类别型特征和处理梯度偏差、预测偏移问题，提高算法的准确性和泛化能力。
extra-trees (极其随机的森林)和随机森林非常类似，这里的“及其随机”表现在决策树的结点划分上，它干脆直接用随机的特征和随机的阈值划分，这样我们每一棵决策树形状、差异就会更大、更随机。2 无监督学习无监督学习问题处理的是，只有输入变量X没有相应输出变量的训练数据。它利用没有专家标注训练数据，对数据的结构建模。
将相似的样本划分为一个簇（cluster）。与分类问题不同，聚类问题预先并不知道类别，自然训练数据也没有类别的标签。
分层聚类法作为聚类的一种，是对给定数据对象的集合进行层次分解，根据分层分解采用的分解策略。层次聚类算法按数据分层建立簇，形成一棵以簇为节点的树。如果按自底向上进行层次分解，则称为凝聚的层次聚类
。利用特征提取方法和特征选择方法，能够达到降维的效果。特征选择是指选择原始变量的子集。特征提取是将数据从高纬度转换到低纬度。广为熟知的主成分分析算法就是特征提取的方法。2.21 PCA主成分分析
主成分分析将多个有一定相关性的指标进行线性组合，以最少的维度解释原数据中尽可能多的信息为目标进行降维，降维后的各变量间彼此线性无关，最终确定的新变量是原始变量的线性组合，且越往后主成分在方差中的比重也小，综合原信息的能力越弱。
奇异值分解（SVD）是在机器学习领域普遍的应用的算法，他不光可以用在降维算法中的特征值分解，还可以用于
线性判别的原理是将样本投影到一条直线上，使得同类样本的投影点尽可能接近，不同样本的投影点尽可能远离；在对新样本做分类时，将其投影到同样的直线上，再根据投影点的位置来确定新样本的类别。
》得到广大读者好评，电子发烧友网再接再厉再次为读者诚挚奉上非常详尽的《单片机C语言
为解决相关FPGA工程师及爱好者提供相关实际案例和电路参考，电子发烧友网隆重整合推出《FPGA设计实例
导语：单片机对于初学者来说确实很难理解，不少学过单片机的同学或电子爱好者，甚至在毕业时仍旧是一无所获。基于此，电子发烧友网将整合《单片机关键
导语：单片机对于初学者来说确实很难理解，不少学过单片机的同学或电子爱好者，甚至在毕业时仍旧是一无所获。基于此，电子发烧友网将整合《单片机关键
》得到广大读者好评，根据有网友提出美中不足的是所用单片机编程语言为汇编，基于此，电子发烧友网再接再厉再次为读者诚挚奉
》得到广大读者好评，根据有网友提出美中不足的是所用单片机编程语言为汇编，基于此，电子发烧友网再接再厉再次为读者诚挚奉上非
》得到广大读者好评，根据有网友提出美中不足的是所用单片机编程语言为汇编，基于此，电子发烧友网再接再厉再次为读者诚挚奉上非
与发展趋势 72.1 FPGA结构和工作原理 72.1.1 梦想成就伟业 72.1.2 FPGA结构 82.1.3 软核、硬核以及固核的概念 152.1.4
本帖最后由 lee_st 于 2017-10-31 08:57 编辑 FPGA开发
本帖最后由 lee_st 于 2017-10-31 08:56 编辑 FPGA开发
本帖最后由 lee_st 于 2017-10-31 08:57 编辑 FPGA开发
本帖最后由 zgzzlt 于 2012-8-16 13:58 编辑 GPS设计
本帖最后由 zgzzlt 于 2012-8-16 13:56 编辑 LED技术
》内容结构类似，都是从最简单的概念和原理入手结合设计实例，帮助工程师解决CFL/LED
本帖最后由 xianer317 于 2014-6-21 19:30 编辑 《电子工程师创新设计必备宝典系列之FPGA开发
本帖最后由 eehome 于 2013-1-5 09:53 编辑 单片机
》，共分为四个系列，以飨读者，敬请期待！此系列对于业内电子工程师也有收藏和参考价值。
》得到广大读者好评，根据有网友提出美中不足的是所用单片机编程语言为汇编，基于此，电子发烧友网再接再厉再次为读者诚挚奉上非常详尽的《单片机C
》内容结构类似，都是从最简单的概念和原理入手结合设计实例，帮助工程师解决CFL
` 本帖最后由 zgzzlt 于 2012-8-16 13:54 编辑 电子工程师创新设计必备宝典系列之FPGA开发
- 工程师必备手册:一、 LED发展史二、 LED的分类三、 LED驱动技术原理四、 LED驱动设计技巧五、 LED驱动设计参考案例及选型指导六、 LED散热解决方案
篇，从第一章到第五章，下册为开发技巧篇，为第六章以后内容。本书可当作MCU应用工程师、大中专
本文以Protel 99se提供的4 Port Serial Interface为例进行说明。
,本书分为上篇和下篇两部分，上篇介绍CFL照明设计中基本概念和电路设计技巧，下篇介绍LED照明中的基本概念和电路设计技巧
+熔丝补救方 并行编程，最早的编程方法，功能最强大，但需要连接较多的引脚，常常要12V~24
+熔丝补救方 并行编程，最早的编程方法，功能最强大，但需要连接较多的引脚，常常要12V~24V的高压，以示区别，下面称为 高压并行编程。
目前液晶外屏的生产线已发展到第六代、第七代。生产工艺流程相当复杂，坏掉就很难更换，对于笔记本、
号称MP3杀手的Ogg Vorbis音乐格式，不但音质出众，而且完全免费、开源。现在，它离我们慢慢的接近了。近日，台电科技发布了国
随身听是一种便携的随身听音设备，即为随身的需要，各方面为随身而做的设计和改善就慢慢的变多，比
随着IT产品及新视听设备的迅猛发展，无论是在多媒体教学、商务谈判，还是家庭娱乐领
电子白板是现代课堂常用的教学工具之一，通过与PC和投影仪连接，老师可以将讲课的内容清晰地
随着移动网络技术的突飞猛进，如今手机上网早已不是什么难事，很多的互联网业务现在都能够在手机上实现。而除了运营
本文以Protel 99Se提供的4 Port Serial Interface为例进行说明。
是介绍飞行器的无感电刷详细的介绍了有关飞行器的加速剂，陀螺仪等升力转换。
告诉你，实际能抢到多少钱？肯定不能让你发家致富，但是定一个小目标还是能的，以下就是为你整理好的微博、春晚现场、QQ、支付宝最强抢红包
二、 GPS 应用基础三、 GPS 接收机原理图四、 GPS 模块五、 手机
资料下载的电子资料下载，更有其他相关的电路图、源代码、课件教程、中文资料、英文资料、参考设计、用户指南、解决方案等资料，希望有机会能够帮助到广大的电子工程师们。
(共97页PDF）(广西普德新星电源技术有限公司)-无感无刷直流电机驱动
