LSTM 解决回归问题时，出现了 model.predict() 输出的值几乎是常数值的问题，后来发现是因为数据没有标准化（归一化），导致 loss 不下降，也就是不收敛。后来加入了数据的标准化之后，就可以拟合了。 from keras.datasets import mnist from keras.layers import Dense, LSTM from keras.utils import to_categorical from keras.models import Sequential import keras from keras.layers.core import Den...

import numpy as np a = np.array([[0,2, 0], [0,5, 0], [0,8, 0]]) del_index = [] for col in range(3): if a[0][col] == 0: del_index.append(col) print(del_index) a = np.delete(a, del_index, axis = 1) # axis=1 删除列，axis=0 删除行 print(a) 输出： [0, 2] # 要删除的列 # 删除...

线性算法:（Logistic回归、SVM） 非线性算法（决策树、随机森林、朴素贝叶斯） 无监督算法（EM） LR 虽然变量 x x x 可能是非线性的，比如 x 2 x^2 x2，但是其系数（参数） θ \theta θ 一定是线性的。 参考： 看了这个解释，终于明白线性回归模型了 逻辑回归到底是线性的还是非线性的？

主要参考： 2020年深度学习调参技巧合集

今天早上起来一看官网，状态从初试变成了复试 昨晚面试的，时间是2020-10-19 20:30，本来想着这么晚了还面试（虽然今年BBAT都还没开奖，但是笔记十月底了，今年是怎么了…），不会是KPI吧，如果还有HC，那不是部门不太好就是部门要求太高，找不到合适的人选。而且由于腾讯的面试邀请链接只能看到 “基础研究”，看不到被捞的部门，所以面试一开始，我先一通问，他们的部门，架构啥的，做啥方向的。。。（但是还没自我介绍就这么问其实有点不太礼貌） 结合最后提问环节得知大概情况是这样，他们是 TEG-AiLab-机器学习中心，现在这种研究部门也开始对接一些落地项目了，我这个小组所对接的是 农业 ...

一、常规维护代码 git init // 初始化本仓库 git remote add origin 远程仓库地址 // 链接远程仓库 git pull origin [要pull的分支名] // 下载到本地（更新本地的分支） git add . // 将本地代码放入暂存区 git commit -m "提交说明" // 将暂存区...

Python 代码 import numpy as np from scipy.stats import norm, chi2 from scipy import stats import matplotlib.pyplot as plt from sklearn.decomposition import PCA #生成正常数据 num_sample=100 a = 10*np.random.randn(num_sample, 1) x1 = a + np.random.randn(num_sample, 1) x2 = 1*np.sin(a) + np.random.randn(num_...

1. 选择 Configure jupyter server 2. 在 Pycharm 的 Terminal 输入 jupyter notebook 3. 将 url 复制到本文第一个图的 “configured server” 框内

import numpy as np import pandas as pd import matplotlib.pyplot as plt def wgn(x, snr=10): """ 给数据 x 添加指定信噪比为 SNR dB 的高斯噪声 """ np.random.seed(100) snr = 10 ** (snr / 10.0) xpower = np.sum(x ** 2) / len(x) npower = xpower / snr return np.random....

Kohonen提出了一种神经网络模型。   自组织映射神经网络， 即Self Organizing Maps (SOM)， 可以对数据进行无监督学习聚类。 SOM是一种比较简单的神经网络，他不像BP网络那样具有三层结构，他只包含输入层和输出层（或称作映射层），由于没有中间的隐藏层（一般视为黑匣子），所以SOM映射之后的输出保持了输入数据原有的拓扑结构，SOM正因为这么一个优点而被应用在数据处理方面。 SOM是一种无监督的聚类方法。它模拟人脑中处于不同区域的神经细胞分工不同的特点，即不同区域具有不同的响应特征，而且这一过程是自动完成的。自组织映射网络通过寻找最优参考矢量集合来对输入模式集合进...

pip install Cmake pip insatll xlearn

一、理论 I、 前深度学习时代 一、Logistic Regression，LR 1. 逻辑回归的数学基础 逻辑回归作为广义线性模型的一种，假设 y y y 服从伯努利分布。 其概率质量函数为： f X ( x ) = p x ( 1 − p ) 1 − x = { p  if  x = 1 q  if  x = 0 f_{X}(x)=p^{x}(1-p)^{1-x}=\left\{\begin{array}{ll} p & \text { if } x=1 \\ q & \text { if } x=0 \end{array}\right. fX​(x)=p...

参考：微博 冯扬 写的“在线最优化求解” 在线最优化求解 见微知著，你真的搞懂Google的Wide&Deep模型了吗？

参考： L1正则化引起稀疏解的多种解释