Python 聚类数值数据

Python Clustering numerical data

我正在学习一个教程,其中 'kmeans' 算法是整个示例的主要部分。 'rows' 列表作为要聚类的数据传递。 Pearson 函数提供了第二个参数,一个关系系数,k=3 是聚类的数量。来自 kmeans 函数的 'bestmatches' return 是一个 grouped/clustered 索引值列表,对应于属于每个集群的行中的元素。因为我需要制作散点图,所以我需要它们的值。我如何 return 值而不是索引值?

rows=[(1,1),(3,6),(11,2),(7,19),(22,11),(32,11)]

def pearson(v1,v2):

#sums
sum1=sum(v1)
sum2=sum(v2)
print(sum1)
#sums of the sqs
sum1Sq=sum([pow(v,2) for v in v1])
sum2Sq=sum([pow(v,2) for v in v2])

#sum of products
pSum=sum([v1[i]*v2[i] for i in range(len(v1))])

#calculate pearson R
num=pSum-(sum1*sum2/len(v1))
den=sqrt((sum1Sq-pow(sum1,2)/len(v1))*(sum2Sq-pow(sum2,2)/len(v1)))
if den==0: return 0

return 1.0-num/den 



def kmeans(rows,distance=pearson,k=3):
#Determine the min and max values for each point

#COunt through "rows"(data) and find min and max values
ranges=[(min([row[i] for row in rows]),max([row[i] for row in rows]))

for i in range(len(rows[0]))]    
#create k randomly placed centroids within len of 'data'
clusters=[[random.random()*(ranges[i][1]-ranges[i][0])+ranges[i][0]

for i in range(len(rows[0]))] for j in range(k)]
lastmatches=None
for t in range(100):
    print 'Iteration %d' % t

    bestmatches=[[] for i in range(k)]

    #find which centroid is the closest to each row
    for j in range(len(rows)):
        row=rows[j]
        bestmatch=0
        for i in range(k):
            d=distance(clusters[i],row)
            if d<distance(clusters[bestmatch],row): bestmatch=i

        bestmatches[bestmatch].append(j)

    if bestmatches==lastmatches: break
    lastmatches=bestmatches

    #move centroids to the avg of members
    for i in range(k):
        avgs=[0.0]*len(rows[0])
        if len(bestmatches[i])>0:
            #print(len(bestmatches[i]))
            for rowid in bestmatches[i]:
                for m in range(len(rows[rowid])):
                    avgs[m]+=rows[rowid][m]
                for j in range(len(avgs)):
                    avgs[j]/=len(bestmatches[i])
                clusters[i]=avgs

    return bestmatches

不要使用具有皮尔逊相关性的 k-means

这可能会严重失败,因为皮尔逊相关系数和 mean 不兼容,可能会阻止算法收敛。更糟糕的是,它可能会产生无效值。

如果取两个向量

1 2 3 4 5
9 8 7 6 5

那么平均值是

5 5 5 5 5

和结果 mean 不能与 Pearson corrleation 一起使用,因为它是常数值。

K-means 仅适用于 Brgeman 散度,例如平方欧几里德。因为它是关于方差最小化,而不是距离最小化

K-means 不能用于任意距离。如果您有其他距离,请使用 k-medians (PAM) 或其他聚类算法。