带约束的sgdclassizer

Question

我试图使用scikit learnSGDClassifier（确切地说，我使用的是partial_fit）对一个巨大的数据集进行逻辑回归。我得到的系数是不同的符号，而我想强迫分类器只寻找正值（我知道这可能不是最好的方法论方面的方法，但它是什么，现在是可以的）。你知道吗

我的问题是： 有没有办法用SGDClassifier对系数施加约束？你知道吗

谢谢你的时间

Answer 1

在当前的实现中，SGDClassifier不可能做到这一点。你知道吗

如果你想实现这一点，你必须加上一个惩罚，称之为“积极性”，这确保了这个约束是通过在负值上设置无限成本来验证的。你知道吗

也许可以使用this paper, Duchi 2009来实现这一点（但是我认为在新的文献中有一些后续的内容可能更适合这项工作）。在每一个小批量中，你需要做的是投射到正品上。这是通过简单地设置所有负值发生在梯度步骤后的逻辑损失为0。你知道吗