问题标签 [perceptron]

我无法看到阈值在单层感知器中的实际作用。无论阈值是多少，数据通常都是分开的。似乎较低的阈值可以更平均地划分数据；这是它的用途吗？

我正在迈出神经网络的第一步，为此我正在试验一个非常简单的单层、单输出感知器，它使用 sigmoidal 激活函数。每次使用以下方法呈现训练示例时，我都会在线更新我的权重：

这weights是一个长度为 n 的向量，它还包含来自偏置神经元（-阈值）的权重，result是在给定 时由感知器计算的结果（并使用 sigmoid 处理）input，correct是正确的结果，并且{input,1}是输入1（来自偏置神经元的固定输入）。现在，当我尝试训练感知器执行逻辑 AND 时，权重不会收敛很长时间，而是会保持类似的增长，并且它们与阈值保持大约 -1.5 的比率，例如三个权重在顺序：

我希望感知器停止在 1、1、-1.5。

除了这个看起来与学习中缺少的停止条件有关的问题之外，如果我尝试使用恒等函数作为激活函数，我得到的权重值会上下波动：

我得到了类似的结果tanh。我无法对此作出解释。

谢谢图努兹_

我正在尝试使用反向传播神经网络为特定问题建模执行留一法交叉验证。我的训练数据中有 8 个特征和 20 个实例。我试图让 NN 在构建预测模型时学习一个函数。现在，问题是预测中的错误率非常高。我的猜测是，与所考虑的特征数量相比，训练中的实例数量更少。这个结论是否正确。是否有任何最佳特征与实例比率？

http://en.wikipedia.org/wiki/Perceptron#Example

我的问题是，当 NAND 只取 2 个参数并返回 1 时，为什么每个向量中有 3 个输入值：

http://en.wikipedia.org/wiki/Sheffer_stroke#Definition

为方便起见，粘贴代码：

我是神经网络的初学者。我正在学习感知器。我的问题是为什么权重向量垂直于决策边界（超平面）？我参考了很多书，但都提到权重向量垂直于决策边界，但没有人说为什么？

谁能给我解释或参考一本书？

我正在构建一个单层感知器，它具有相当长的特征向量（30-200k），全部标准化。

假设我有 30k 个特征，这些特征在预测一个类时有些用处，但随后又添加了 100 个非常好的预测特征。预测的准确性只上升了微不足道的数量。但是，如果我手动增加 100 个优秀特征的权重（比如增加 5 倍），准确率会提高几个百分点。

我的印象是，训练过程的性​​质应该自然地赋予更好的特征更高的权重。然而，似乎最好的功能正在被更差的功能“淹没”。

我尝试用大量的迭代来运行它，但这并没有帮助。

如何以相当简单的方式使算法适应更好的权重特征？此外，一种相当快速的方式；如果我的功能更少，那么运行算法很容易，一次只留下一个，但对于 30k 来说这并不可行。

我有几个数组：

我想用这种方式制作一个矩阵 xy：

我已经尝试过很多这样的事情：

，但是我遇到了很多错误。

我知道这应该很容易，最大的问题是我的帖子标题（因此，我寻求帮助的方式）是错误的，所以我为此道歉。

我想我应该提到我正在尝试创建一个多层感知器，它将使用该矩阵和这个公式进行训练：

提前致谢！

如果我们有 10 个特征向量，那么我们可以在输入层有 10 个神经节点。如果我们有 5 个输出类，那么我们可以在输出层有 5 个节点。但是在 MLP 中选择隐藏层数和多少神经元的标准是什么？ 1个隐藏层中的节点？

我正在尝试实现感知器算法，但我无法弄清楚以下几点。

• 迭代次数的理想值应该是多少
• 这个算法适合大量数据吗？
• 阈值会随着迭代而变化吗？
• 如果是的话，它对最终输出有什么影响？

我有几个功能可以投票决定某个数据项是否值得向我的用户展示。您可以将它们中的每一个视为 0 到 1 之间的数字，其中 1 表示它很好，0 表示不值得向我的用户展示。我刚刚做了一件非常标准的事情，即为每个属性选择一个权重并执行一个加权求和来确定一个单一的指标来做出决定（很像一个单一的感知单元）。

但是，有时不同的属性会相互压倒并产生不好的结果。我认为基本问题是真正的最优函数是相当非线性的，当然，这些加权和给出的唯一规则根据定义是线性的。为了解决这个问题，在加权和中被“压倒”的特征之一上，我用它来乘以整个单个指标。这使得这个重要的特性可以充当“看门人”——如果这个特性太低，它就可以阻止数据流出。

为了通过执行标准加权和来达到类似的效果，我必须使该特征的权重如此之高，以至于其他特征基本上没有发言权......基本上它回到了最佳规则的非线性，因为这个功能在某些范围内可能非常重要，但在其他范围内则不然。

我想知道关于使用一个特征来乘以这样的整个结果的知识是什么？加权和是最常用的东西（除了简单性）是否有特定的原因？

PS。一旦我有更多的数据，我可能会使用标准的机器学习技术来实际学习规则，但现在我正在对样本数据集进行手动训练。我现在要追求简单，同时仍在努力使其正常工作。