一种简单的方法是使用 EM 拟合“朴素贝叶斯”模型的混合。混合模型的结构是。在这里，索引数据点，每个数据点都是二进制特征的向量。是数据点所属的簇的索引。是集群生成的点的（学习）概率。是为属于的值的（学习的）概率。$P(x_{i1},\ldots,x_{in}) = \sum_k P(y_i=k) \prod_j P(x_{ij}|y_i=k)$$i$$n$$y_i$$i$$P(y_i=k)$$k$$P(x_{ij}|y_i=k)$$j$$k$

该模型将每个集群中的二进制值视为独立的，取决于它们在集群中的成员资格。这是拟合（对角线）高斯混合模型的离散模拟。我和我以前的学生 Tony Fountain 将这种模型应用于硅晶片上的芯片故障集群模式。

该模型是各种被称为潜在类分析或潜在特征分析的实例。John Uebersax 在这个网站上可以找到对这些技术的一个很好的概述，他在其中讨论了各种潜在类别模型，包括 Probit Discrete Latent Trait 模型。Probit 模型使用潜在多元高斯分布对每个集群进行建模，这可以捕获集群内二元响应之间的成对相关性。我相信Uebersax提供了一个软件包，但我没有尝试过。

你的相似之处是什么？

首先尝试找出对您的用例有意义的相似性函数。这在很大程度上取决于用例，因此没有一种万能的解决方案。

一旦您有了相似性的工作概念，请尝试使用这种相似性进行层次聚类或 DBSCAN。请注意，具有工作相似性是这些算法产生良好结果的必要条件。

跳出向量的框框思考，思考你的数据世界

在数学上，你有一个向量空间。但这不是您的数据的含义。PCA 将使这个向量空间的方差最大化，但这意味着什么？

相反，选择对您的数据有意义的方法。例如，频繁项集和关联规则可能对您的数据意味着更多。你的数据可能不是随机数，但它有一些现实，一些语义。您需要将这种与现实的联系纳入您的分析。

亲和传播聚类可能是您尝试的有趣方法。但更重要的是选择符合您要求的二进制指标。如果您有适当的相似性度量，那么在 2D 或 3D 空间中使用 MDS 方法（或非线性降维）可视化数据也会很有帮助。

我使用余弦距离的层次聚类来解决类似的问题，并且效果很好。如果它们没有共同的服务，则距离将为 1。如果它们具有完全相同的服务，则距离将为 0。