经验法则是：

• 从与特征数量相等（或略高）的隐藏神经元数量开始。
• 在您的情况下，它将是 9。我的建议是从 9*2 = 18 开始，以涵盖更广泛的可能性。
• 确保您的测试和验证集被“公平地”选择：随机选择并多次改变种子以测试不同的配置是可以的。

一般来说，与特征数量相等的神经元数量往往会使每个隐藏的神经元尝试学习每个特征添加的特殊事物，因此可以说它是分别“学习每个特征”。虽然这听起来不错，但它可能会过度拟合。

由于您的输入数量和数据集大小很小，因此可以从两倍 (18) 的隐藏层大小开始并开始降低。当训练误差和测试误差稳定在低于阈值的差异时，您可能会找到更好的泛化模型。

神经网络非常擅长通过从起点深入探索解决方案来找到局部最优值。不过，出发点也很重要。如果您没有得到很好的概括，您可能会尝试使用混合神经网络的方法找到良好的初始起点。例如，一种常见的方法是使用遗传算法找到权重的初始组合，然后从该点开始神经网络。鉴于您的搜索空间将被更好地覆盖（以防您的问题确实需要）。

至于机器学习中的每个问题，在将数据引入 NN 之前清理数据非常重要。尽量写的很详细，以免 NN 学习到你已经知道的东西。例如，如果您知道两个特征是如何相关的，则通过明确相关性来改善输入数据，从而减少 NN 的工作量（这实际上可能会给您带来麻烦）。

顶层：

规则是选择能够令人满意地执行的最简单的网络。请参阅本出版物及其PDF。

方法论：

你建议的测试也是如此（在每个隐藏节点的数量上训练许多网络）并绘制结果。在最少数量的节点下，您会看到最差的性能。随着节点数量的增加，您会看到性能提高（错误减少）。在某个点 N，您会看到性能似乎达到了上限，超过此上限的节点数将停止显着提高性能。随着训练变得更加困难，进一步增加可能会开始稍微损害性能）。那一点 N 是您想要的节点数。

它是如何为我工作的：

我第一次使用这种方法时，它创建了一个漂亮的近乎 sigmoid 的函数，其中包含非常明确的节点数量，这些节点需要达到良好的效果。我希望这对你有用，也对我有用。