尝试绘制简单函数 - python

Question

我实现了一个简单的线性回归，我想通过拟合一个非线性模型来尝试

具体来说，我试图为函数y = x^3 + 5建立一个模型

这是我的密码

import numpy as np
import numpy.matlib
import matplotlib.pyplot as plt

def predict(X,W):
    return np.dot(X,W)

def gradient(X, Y, W, regTerm=0):
    return (-np.dot(X.T, Y) + np.dot(np.dot(X.T,X),W))/(m*k) + regTerm * W /(n*k)

def cost(X, Y, W, regTerm=0):
    m, k = Y.shape
    n, k = W.shape
    Yhat = predict(X, W)
    return np.trace(np.dot(Y-Yhat,(Y-Yhat).T))/(2*m*k) + regTerm * np.trace(np.dot(W,W.T)) / (2*n*k)

def Rsquared(X, Y, W):
    m, k = Y.shape
    SSres = cost(X, Y, W)
    Ybar = np.mean(Y,axis=0)
    Ybar = np.matlib.repmat(Ybar, m, 1)
    SStot = np.trace(np.dot(Y-Ybar,(Y-Ybar).T))

    return 1-SSres/SStot

m = 10
n = 200
k = 1

trX = np.random.rand(m, n)
trX[:, 0] = 1

for i in range(2, n):
    trX[:, i] = trX[:, 1] ** i

trY = trX[:, 1] ** 3 + 5
trY = np.reshape(trY, (m, k))

W = np.random.rand(n, k)

numIter = 10000
learningRate = 0.5

for i in range(0, numIter):
    W = W - learningRate * gradient(trX, trY, W)

domain = np.linspace(0,1,100000)
powerDomain = np.copy(domain)
m = powerDomain.shape[0]
powerDomain = np.reshape(powerDomain, (m, 1))
powerDomain = np.matlib.repmat(powerDomain, 1, n)

for i in range(1, n):
    powerDomain[:, i] = powerDomain[:, 0] ** i

print(Rsquared(trX, trY, W))
plt.plot(trX[:, 1],trY,'o', domain, predict(powerDomain, W),'r')
plt.show()

我得到的R^2非常接近于1，这意味着我发现了一个非常好的拟合训练数据，但它没有显示在绘图上。当我绘制数据时，通常是这样的：

看起来我对数据拟合不足，但是有这么一个复杂的假设，有200个特征（意味着我允许多项式达到x^200），只有10个训练示例，我应该非常清楚地对数据拟合过度，所以我希望红线穿过所有蓝点，并在它们之间狂野。你知道吗

这不是我得到的让我困惑的东西。 怎么了？你知道吗

Answer 1

你忘了设置powerDomain[:,0]=1，这就是你的绘图在0出错的原因。是的，你太适合了：看看一旦你离开训练领域，你的情节会以多快的速度升温。你知道吗