原理知道一百遍不如自己动手写一遍，当然，现在基本上不需要自己来写算法的底层code了，各路大神们已经为我等凡夫俗子写好了，直接调用就行。
这里介绍在MATLAB中和Python中应用贝叶斯算法的小例子。
1、matlab实现朴素贝叶斯算法
先load matlab中自带的数据集
load fisheririsX = meas(:,3:4);Y = species;tabulate(Y)%返回概率表格
用朴素贝叶斯算法进行拟合，大家可以注意下matlab的机器学习算法的命名规则，都是以fit开头,中间一个字母'c'或者'r'， 'c'代表是分类算法(classification)，'r'代表回归算法(regression)，后面的字母就是算法的通用名称。
以下是对X、Y进行拟合，指定Y变量中分类的名称分别为'setosa', 'versicolor' 和 'virginica'
Mdl = fitcnb(X,Y,'ClassNames',{'setosa','versicolor','virginica'})
Mdl = ClassificationNaiveBayes ResponseName: 'Y' CategoricalPredictors: [] ClassNames: {'setosa' 'versicolor' 'virginica'} ScoreTransform: 'none' NumObservations: 150 DistributionNames: {'normal' 'normal'} DistributionParameters: {3x2 cell}这里返回了贝叶斯分类器的各种参数，包含分类名称、数据行数是否归一化等。
在matlab中，默认每一个特征的都符合高斯分布，拟合结果中也计算了每一个特征的均值和方差。
假如我们想看分类为'setosa'类的X的第一个特征的均值和方差。
setosaIndex = strcmp(Mdl.ClassNames,'setosa');estimates = Mdl.DistributionParameters{setosaIndex,1}estimates =
均值是1.4620，方差是0.1737
接下来我们将拟合结果可视化，让大家更直观地感受拟合效果。
figure 打开一个新的画布gscatter(X(:,1),X(:,2),Y);%画出散点图h = gca;cxlim = h.XLim;%获取x轴坐标cylim = h.YLim; %获取y轴坐标hold onParams = cell2mat(Mdl.DistributionParameters);%获取高斯分布的参数Mu = Params(2*(1:3)-1,1:2); % 提取均值列Sigma = zeros(2,2,3);for j = 1:3 Sigma(:,:,j) = diag(Params(2*j,:)).^2; % Create diagonal covariance matrix xlim = Mu(j,1) + 4*[1 -1]*sqrt(Sigma(1,1,j)); ylim = Mu(j,2) + 4*[1 -1]*sqrt(Sigma(2,2,j));ezcontour(@(x1,x2)mvnpdf([x1,x2],Mu(j,:),Sigma(:,:,j)),[xlim ylim])% 绘制多元正态分布的等高线endh.XLim = cxlim;%设置X轴显示范围h.YLim = cylim;%设置Y轴显示范围title('Naive Bayes Classifier -- Fisher''s Iris Data')xlabel('Petal Length (cm)')ylabel('Petal Width (cm)')hold off
默认情况下，先验类概率分布是根据数据集计算的各类的相对频率分布，在这种情况下，对于每个分类，其相对频率分布均为33%。但是假如你知道在总样本中50%的'setosa'，20%是'versicolor'，30%是' ViGiCina’。你可以在训练分类器的时候指定先验概率。
prior = [0.5 0.2 0.3];Mdl = fitcnb(X,Y,'ClassNames',classNames,'Prior',prior)%指定每一类的概率
使用10倍交叉验证估计两个模型的交叉验证误差。
rng(1); % For reproducibilitydefaultCVMdl = crossval(defaultPriorMdl);defaultLoss = kfoldLoss(defaultCVMdl)CVMdl = crossval(Mdl);Loss = kfoldLoss(CVMdl)
2、Python(sklearn实现贝叶斯算法)
2.1利用GaussianNB类建立简单模型.
import numpy as npfrom sklearn.naive_bayes import GaussianNBX = np.array([[-1, -1], [-2, -2], [-3, -3],[-4,-4],[-5,-5], [1, 1], [2,2], [3, 3]])y = np.array([1, 1, 1,1,1, 2, 2, 2])clf = GaussianNB() #默认priors=Noneclf.fit(X,y)GaussianNB(priors=None)
2.2经过训练集训练后，观察各个属性值
clf.priors #无返回值，因priors=None
clf.set_params(priors=[0.625, 0.375]) #设置priors参数值GaussianNB(priors=[0.625, 0.375])clf.priors #返回各类标记对应先验概率组成的列表clf.class_count_ #获取各类标记对应的训练样本数clf.sigma_#获取各个类标记在各个特征上的方差
