聚类分析
造诣-
聚类分析
(Cluster Analysis )
一、
简介
聚类分析也是一种分类技术。
与多元分析的其他方法相比，
该方法较为粗糙，
理论上还
不完善，
但应用方面取得了很大成功。
与回归分析、
判
别分析一起被称为多元分析的三大方
法。
1.
聚类的目的
< br>根据已知数据，计算各观察个体或变量之间亲疏关系的统计量（距离或相关系数）
。根
据某种准则（最短距离法、最长距离法、中间距离法、重心法）
，使同一类内的差别较小，
而类与类之间的差别较大，最终将观察个体或变量分为若
干类。
2.
聚类分析的应用例子
同一种疾病（如肝炎）
，根据临床表现等将病人分成若干类（甲、乙、丙、丁
、戊型
肝炎）
根据疾病的若干临床表现，将病人分成轻、中、重三型
在儿童生长发育研究中，把以形态学为主的指标归于一类，以
机能为主的指标归于
另一类
3.
聚类的种类
根据分类的原理可将聚类分析分为：
系统聚类与快速聚类
根据分类的对象可将聚类分析分为：
系统
Q<
/p>
型与
R
型（即样品聚类
< br>clustering
for
individuals
与指标聚类
clustering
for
variables)
4.
聚类分析数据格式
5.
判别分析数据格式
6.
聚类分析与判别分析间的联系
先采用
聚类分析获得各个个体的类别（
classification
）
；然后采用判别分析建立判别函
数，对新个体进行类型识别
（
(identification
）
二、图示法聚类分析
1.
散点图（
Scatter
diagrams
）
2.
轮廓图
(Profile
diagram
）
三、距离与相似系数
（一）距离
假使每个样品有
p
个变量，则每个样品都可以看成
p
维空间中的一个点，
n
个样品就是
p
维
空间中的
n
个点，则第
i
样品与第
j<
/p>
样品之间的距离记为
dij
1.
欧式（
Euclidian
）距离
1.1
二维空间欧式距离
1.2
欧式距离的平方
2.
明氏（
Minkowski
）距离
实例计算
绝对值距离
Euclidian
距离的平方
Euclidian
距离
变量标准化（作用：消除量纲的影响
）
3. Mahalanobis
距离
Mahalanobis
距离
缺点
：样品协方差矩阵不变不合理。
优点
：马
氏距离既排除了各指标间的相关性干扰，又消除了各指标的量纲
Mahalanobis
距离实例
4.
Lance
和
Williams
距离
5.
斜交空间距离
1
2
1
p
p
(
X
ki
X
kj
)(
X
li
X
lj
)
r
kl
p
2
< br>k
1
l
1
可考虑变量间相关性问题
6.
配合距离
X
1
(
V<
/p>
,
Q
,
S
,
T
,
K
)
X
2
(
V
,
M
,
S
,
F
,
K
)
m
2
配合数
d
12
<
/p>
m
1
m
2
不配合数
配合数
2
2
＝
＝
2
3
5
适用于分类变量，尤其是名义尺度变量
（二）相似系数
研究样品间的关系常用距离，
研究指标间的关系常用相似系数。
相似系数常用的有：
夹
角余弦与相关系数
1.
夹角余弦（
Cosine
）
2.
Pearson
相关系数
四、系统聚类法（
hierarchical
clustering method
）
系统聚类法是诸聚类分析方法中使用最多的一种，按下列步骤进行：
1
、将
n
个样品各作为一类
< br>
2
、计算
n
< br>个样品两两之间的距离，构成距离矩阵
3
、计算新类与当前各类的距离。再合并、计算，直至只有一类为止
4
、画聚类图，解释类与类之间的距离
1.
最短距离法
(single
linkage)
2.
最长距离法
(complete
linkage)
3.
中间距离法
(median
method)
4.
类平均法
(average
linkage)
5.
可变类平均法
(flexible-beta method)
6.
重心法
(centroid
method)
离差平方和法
(Ward's
minimum-variance method)
ty
的相似分析法
(Mcquitty's
similarity analysis)
9.
最大似然估计法
(EML)
10.
密度估计
(density
linkage)
11.
两阶段密度估计法
(two-
stage density linkage)
等。
（一）最短距离法
(single
linkage
，
nearest neighbor)
D
MJ
<
/p>
min(
D
KJ
,
D
LJ
)
样品间
：欧氏距离
< br>类类间
：两类间两两样品距离最短。即图中样品
A2
和
B1
之间的距离
6
个民族的粗死亡率与期望寿命