python 简单的神经前向网络异或函数
python simple neural forward net XOR function
我已经实现了这个简单的模型来学习神经网络,它训练得很好并给出了最初给出的输出。
这是我有点茫然的地方,在异或函数识别的例子中,我希望能够测试它,而不是训练它。好像网上看的都是关于训练的,然后就到此为止了。
这是否意味着对于每个新输入,模型都必须重新计算并训练整个集合?跟权重有关系吗?您将如何继续使用模型 运行 "live" 并将新输入作为其实时反馈的一部分以及正在进行的循环训练?
谢谢
import numpy as np
def nonlin(x, deriv=False):
if(deriv==True):
return x*(1-x)
return 1/(1+np.exp(-x))
#4x2
x = np.array([[0,0],[0,1],[1,0],[1,1]])
print (x)
#1x4
y = np.array([[0],[1],[1],[0]])
np.random.seed(1)
syn0 = 2*np.random.random((2,4))-1
print (syn0)
syn1 = 2*np.random.random((4,1))-1
for j in range(60000):
l0 = x;
l1 = nonlin(np.dot(l0,syn0))
l2 = nonlin(np.dot(l1,syn1))
l2_error = y - l2
l2_delta = l2_error*nonlin(l2, deriv=True)
l1_error = l2_delta.dot(syn1.T)
l1_delta = l1_error * nonlin(l1,deriv=True)
syn1 += l1.T.dot(l2_delta)
syn0 += l0.T.dot(l1_delta)
if(j % 10000) ==0:
print ("Error:" + str(np.mean(np.abs(l2_error))))
print ("Output after training")
print (syn0)
print (syn1)
print (l2)
您只需要分解出实际进行神经网络计算的代码,这里是您修改后的代码:
import numpy as np
def nonlin(x, deriv=False):
if(deriv==True):
return x*(1-x)
return 1/(1+np.exp(-x))
#4x2
x = np.array([[0,0],[0,1],[1,0],[1,1]])
print ("x=",x)
#1x4
y = np.array([[0],[1],[1],[0]])
print ("y=",y)
np.random.seed(1)
syn0 = 2*np.random.random((2,4))-1
print (syn0)
syn1 = 2*np.random.random((4,1))-1
def NN(x):
l0 = x;
l1 = nonlin(np.dot(l0,syn0))
l2 = nonlin(np.dot(l1,syn1))
return (l0,l1,l2)
for j in range(60000):
l0,l1,l2 = NN(x)
l2_error = y - l2
l2_delta = l2_error*nonlin(l2, deriv=True)
l1_error = l2_delta.dot(syn1.T)
l1_delta = l1_error * nonlin(l1,deriv=True)
syn1 += l1.T.dot(l2_delta)
syn0 += l0.T.dot(l1_delta)
if(j % 10000) ==0:
print ("Error:" + str(np.mean(np.abs(l2_error))))
print ("Output after training")
print ("trained l0 weights:",syn0)
print ("trained l1 weights:",syn1)
l0,l1,l2 = NN(x)
print ("NN(",x,") == ",l2)
这里的NN(x)是执行神经网络计算的函数。它returns 输入向量、隐藏层和输出层的值在一个元组中。您可以为更清晰的界面编写单独的函数:
def NNout(x,syn0,syn1):
l0 = x;
l1 = nonlin(np.dot(l0,syn0))
l2 = nonlin(np.dot(l1,syn1))
return l2
我已经实现了这个简单的模型来学习神经网络,它训练得很好并给出了最初给出的输出。
这是我有点茫然的地方,在异或函数识别的例子中,我希望能够测试它,而不是训练它。好像网上看的都是关于训练的,然后就到此为止了。
这是否意味着对于每个新输入,模型都必须重新计算并训练整个集合?跟权重有关系吗?您将如何继续使用模型 运行 "live" 并将新输入作为其实时反馈的一部分以及正在进行的循环训练?
谢谢
import numpy as np
def nonlin(x, deriv=False):
if(deriv==True):
return x*(1-x)
return 1/(1+np.exp(-x))
#4x2
x = np.array([[0,0],[0,1],[1,0],[1,1]])
print (x)
#1x4
y = np.array([[0],[1],[1],[0]])
np.random.seed(1)
syn0 = 2*np.random.random((2,4))-1
print (syn0)
syn1 = 2*np.random.random((4,1))-1
for j in range(60000):
l0 = x;
l1 = nonlin(np.dot(l0,syn0))
l2 = nonlin(np.dot(l1,syn1))
l2_error = y - l2
l2_delta = l2_error*nonlin(l2, deriv=True)
l1_error = l2_delta.dot(syn1.T)
l1_delta = l1_error * nonlin(l1,deriv=True)
syn1 += l1.T.dot(l2_delta)
syn0 += l0.T.dot(l1_delta)
if(j % 10000) ==0:
print ("Error:" + str(np.mean(np.abs(l2_error))))
print ("Output after training")
print (syn0)
print (syn1)
print (l2)
您只需要分解出实际进行神经网络计算的代码,这里是您修改后的代码:
import numpy as np
def nonlin(x, deriv=False):
if(deriv==True):
return x*(1-x)
return 1/(1+np.exp(-x))
#4x2
x = np.array([[0,0],[0,1],[1,0],[1,1]])
print ("x=",x)
#1x4
y = np.array([[0],[1],[1],[0]])
print ("y=",y)
np.random.seed(1)
syn0 = 2*np.random.random((2,4))-1
print (syn0)
syn1 = 2*np.random.random((4,1))-1
def NN(x):
l0 = x;
l1 = nonlin(np.dot(l0,syn0))
l2 = nonlin(np.dot(l1,syn1))
return (l0,l1,l2)
for j in range(60000):
l0,l1,l2 = NN(x)
l2_error = y - l2
l2_delta = l2_error*nonlin(l2, deriv=True)
l1_error = l2_delta.dot(syn1.T)
l1_delta = l1_error * nonlin(l1,deriv=True)
syn1 += l1.T.dot(l2_delta)
syn0 += l0.T.dot(l1_delta)
if(j % 10000) ==0:
print ("Error:" + str(np.mean(np.abs(l2_error))))
print ("Output after training")
print ("trained l0 weights:",syn0)
print ("trained l1 weights:",syn1)
l0,l1,l2 = NN(x)
print ("NN(",x,") == ",l2)
这里的NN(x)是执行神经网络计算的函数。它returns 输入向量、隐藏层和输出层的值在一个元组中。您可以为更清晰的界面编写单独的函数:
def NNout(x,syn0,syn1):
l0 = x;
l1 = nonlin(np.dot(l0,syn0))
l2 = nonlin(np.dot(l1,syn1))
return l2