import torch import numpy import random from torch.autograd import Variable import torch.nn.funct ...

上一篇文章我们介绍的线性模型的求解，但有很多模型是非线性的，比如： 这里表示有两个输入，一个输出。 现在我们已经不能采用y=ax+b的形式去定义一个函数了，我们只能知道输入变量的数量，但不知道某个变量存在几次方的分量，所以我们采用一个神经网络去定义一个函数。 我们假设 ...

newrbe x->表示向量 1.这个形式的神经网络不需要训练， 2.net模型中会保存全部训练数据即矩阵 IW中，新输入的样本p-> 会跟IW矩阵中的每个样本计算距离， radbas(||dist||.* b->)后 形成a-> 所以向量a-> ...

3.1 案例背景 遗传算法（Genetic Algorithms）是一种模拟自然界遗传机制和生物进化论而形成的一种并行随机搜索最优化方法。 其基本要素包括：染色体编码方法、适应度函数、遗传操作和运行参数。 非线性函数：$y=x_{1}^{2}+x_{2}^{2}$ 3.2 模型建立 ...

2.1 案例背景 在工程应用中经常会遇到一些复杂的非线性系统，这些系统状态方程复杂，难以用数学方法准确建模。在这种情况下，可以建立BP神经网络表达这些非线性系统。该方法把未知系统看成是一个黑箱，首先用系统输入输出数据训练BP神经网络，使网络能够表达该未知函数，然后用训练好的BP神经网络预测系统 ...

背景：一直想要梳理一下自己对广义线性模型的认识及思考，所有就有了这篇随笔。 前提： 1、首先明确，介绍模型会按照模型的三要素来展开，即模型（模型的参数空间），策略（如何选择最优模型，一般指代价函数/损失函数），算法（模型学习参数的方法，包括最优化方法等） 2、因为介绍的模型都是线性模型 ...

1、简单介绍 线性回归模型为，其中w1和w2为对应特征x1、x2的权重，b为偏差。 用神经网络图表现线性回归模型如下，图中未展示权重和偏差： 输入层为x1、x2，输入层个数为2，在神经网络中输入层个数即为特征数。输出为o，输出层个数为1.，即为线性回归模型中的输出。由于输入层不参与计算 ...

autograd 及Variable Autograd: 自动微分 　　autograd包是PyTorch中神经网络的核心, 它可以为基于tensor的的所有操作提供自动微分的功能, 这是一个逐个运行的框架, 意味着反向传播是根据你的代码来运行的, 并且每一次的迭代运行都可能不 ...