原理： TensorFlow使用的求导方法称为自动微分（Automatic Differentiation），它既不是符号求导也不是数值求导，而类似于将两者结合的产物。最基本的原理就是链式法则，关键思想是在基本操作（op）的水平上应用符号求导，并保持中间结果（grad）。基本操作的符号求导定义在\tensorflow\python\ops\math_grad.py文件中，这个文件中的所有函数都用RegisterGradient装饰器包装了起来，这些函数都接受两个参数op和grad，参数op是操作，第二个参数是grad是之前的梯度。   链式求导代码： 举个例子：

python datetime    Python提供了多个内置模块用于操作日期时间，像calendar，time，datetime。time模块我在之前的文章已经有所介绍，它提供的接口与C标准库time.h基本一致。相比于time模块，datetime模块的接口则更直观、更容易调用。今天就来讲讲datetime模块。     datetime模块定义了两个常量：datetime.MINYEAR和datetime.MAXYEAR，分别表示datetime所能表示的最小、最大年份。其中，MINYEAR = 1，MAXYEAR = 9999。（对于偶等玩家，这个范围已经足够用矣~~）   ...

ROC（Receiver Operating Characteristic）曲线和AUC常被用来评价一个二值分类器（binary classifier）的优劣，对两者的简单介绍见这里。这篇博文简单介绍ROC和AUC的特点，以及更为深入地，讨论如何作出ROC曲线图以及计算AUC。 ROC曲线 需要提前说明的是，我们这里只讨论二值分类器。对于分类器，或者说分类算法，评价指标主要有precision，recall，F-score1，以及我们今天要讨论的ROC和AUC。下图是一个ROC曲线的示例2。 正如我们在这个ROC曲线的示例图中看到的那样，ROC曲线的横坐标为false positiv...

理解流程大致如下： 信息量X轴表示P y轴表示信息量   信息论 交叉熵是信息论中的一个概念，要想了解交叉熵的本质，需要先从最基本的概念讲起。 1 信息量 首先是信息量。假设我们听到了两件事，分别如下： 事件A：巴西队进入了2018世界杯决赛圈。 事件B：中国队进入了2018世界杯决赛圈。 仅凭直觉来说，显而易见事件B的信息量比事件A的信息量要大。究其原因，是因为事件A发生的概率很大，事件B发生的概率很小。所以当越不可能的事件发生了，我们获取到的信息量就越大。越可能发生的事件发生了，我们获取到的信息量就越小。那么信息量应该和事件发生的概率有关。 假设X是一个离散型随机变...

在简单讨论Python和Java中反斜线之前首先要明确一点：正则表达式作为处理字符串一种有效的技术和工具，在很多语言中都使用了这样的技术(例如Python和Java等)。但是在每一种语言中使用的时候都有一定的不同。自己要通过多实践，去代码中仔细推敲它们的规则。 1. Java中反斜线 以上是JDK API 1.6对反斜线”\”的解释 ”\”在Java中作为转义字符。通俗理解为“\”会将元字符(也就是可被转义、具有特定含义的字符)转义为普通字符，反斜线”\”和被转义的字符共同代表特定的含义，或具有某种性质； 在不表示转移构造的任何字母字符面前使用反斜线时(注意是字母字符)，会...

重在递归的理解 算法步骤： （1）：选取主元（数组中随机一个即可，为简化程序，以下选取数组开头为主元）； （2）：小于等于主元的放左边，大于等于主元的放右边； （3）：分别对左边，右边递归，即重复（1）（2）步。 void QuickSort(int array[], int left, int right) { if (left >= right) return; int base = array[left]; int i = left; int j = right; while (i < j) // 小于等...