像人工神经网络一样训练图形模型

数据挖掘 机器学习 图形模型
2022-03-05 10:59:28

我目前有一个 Graph 模型,我在其中映射实体之间不同类型的连接,并根据我自己的个人经验为这些连接分配权重。此外,我想了解这些实体之间与特定结果相关的联系。看着这个问题,我不禁注意到它与典型的人工神经网络 (ANN) 相似,并且想知道是否/如何将其中的一些理论融入到我的模型中。

让我进一步解释一下;我有一组实体,我有一组连接。每种不同类型的连接都有自己的权重,如下图所示:

在此处输入图像描述

此图中的权重是根据我自己的经验估算的,然后可以将它们相加以查看这些实体之间的关系强度。我想了解与特定产出/结果相关的这种关系强度。

在查看图论的这种特殊应用时,我不禁注意到它与人工神经网络 (ANN) 非常相似,如图所示;

在此处输入图像描述

这里的区别在于,在第一个图中,节点代表实体,而在第二个图中,节点代表输入值。在 ANN 中,输入值、随机权重和反向传播过程用于帮助确定需要的权重,而在第一个图中,这些值是估计的。我想要做的是使用随机权重和反向传播过程来确定映射实体之间连接的 Graph 模型中的权重。

有没有人有做这样的事情的经验,或者至少可以讨论做这样的事情的可能性?

谢谢!

1个回答

首先,请注意:不要让图结构让您认为这可以用神经网络解决;这种结构仅表明这是一个层次模型

其次,让我们考虑以下几点:

  • 在您的第一个图中,您没有将 A、B 或 C 连接到输出。我假设从 A、B、C 到输出存在关系。
  • 您提到您对从 A 到 B 和从 A 到 C 的关系有专家先验知识。
  • 我还假设 A、B、C 和输出是数字变量。
  • 我们不知道是否可以观察到 A、B、C 和输出。
  • 我们不知道为什么从 A 到 C 有 3 条线,从 A 到 B 有 2 条线,所以我不会考虑这一点。

如果上述任何假设不正确,您可能需要提供更多信息。

现在:

如果只有 A 和输出是可观察的,我们说的是潜变量模型。潜在变量最适合分层贝叶斯方法。如果变量之间的关系是线性的,您可以将其建模为贝叶斯线性模型,例如分层贝叶斯回归来建模您的变量并将您的先验知识作为权重的先验分布注入。在这里,您可以看到分层贝叶斯回归在潜变量模型中的应用。这种方法简单且可解释,它们优雅地处理先验知识并处理不确定性。

如果所有变量都是可观察的,您可以定义不同的极其简单的“神经网络”模型的组合来解决您的问题:网络 1 将接收 A 并输出 C;网络 2 将接收 A 并输出 B;网络 3 将接收 A、B 和 C 并生成输出。如果变量之间的关系是线性的,则网络 1 和网络 2 是简单的乘法。然后,您可以使用您的先验知识初始化它们的权重。培训会调整权重以适应所有内容,但不会让您了解除了拟合权重之外的关系。

我建议您考虑一下贝叶斯层次模型是否适合您的问题。