使用Python实现K均值聚类算法

Echo_Wish

发布于 2024-04-12 09:15:55

2410

发布于 2024-04-12 09:15:55

K均值（K-Means）算法是一种常用的聚类算法，它将数据集分成K个簇，每个簇的中心点代表该簇的质心，使得每个样本点到所属簇的质心的距离最小化。在本文中，我们将使用Python来实现一个基本的K均值聚类算法，并介绍其原理和实现过程。

什么是K均值算法？

K均值算法是一种迭代的聚类算法，其基本思想是通过不断迭代优化簇的中心点位置，使得每个样本点到其所属簇的质心的距离最小化。算法首先随机初始化K个质心，然后将每个样本点分配给距离最近的质心所属的簇，然后更新每个簇的质心，重复这个过程直到簇不再发生变化或达到最大迭代次数。

使用Python实现K均值算法

1. 导入必要的库

首先，我们需要导入必要的Python库：

import numpy as np
import matplotlib.pyplot as plt
from sklearn.datasets import make_blobs

2. 准备数据

接下来，我们准备一个示例数据集：

X, _ = make_blobs(n_samples=300, centers=4, cluster_std=0.6, random_state=0)

3. 实现K均值算法

接下来，我们实现K均值算法：

def k_means(X, n_clusters, max_iters=100):
    centroids = X[np.random.choice(len(X), n_clusters, replace=False)]
    for _ in range(max_iters):
        clusters = [[] for _ in range(n_clusters)]
        for x in X:
            distances = [np.linalg.norm(x - c) for c in centroids]
            cluster = np.argmin(distances)
            clusters[cluster].append(x)
        new_centroids = [np.mean(c, axis=0) for c in clusters]
        if np.allclose(new_centroids, centroids):
            break
        centroids = new_centroids
    return np.array(centroids), clusters

n_clusters = 4
centroids, clusters = k_means(X, n_clusters)

4. 可视化结果

最后，我们可以绘制数据点和聚类中心的可视化图：

plt.figure(figsize=(8, 6))
for i, cluster in enumerate(clusters):
    cluster = np.array(cluster)
    plt.scatter(cluster[:, 0], cluster[:, 1], label=f'Cluster {i+1}')
plt.scatter(centroids[:, 0], centroids[:, 1], marker='x', color='black', label='Centroids')
plt.xlabel('Feature 1')
plt.ylabel('Feature 2')
plt.title('K-Means Clustering')
plt.legend()
plt.show()