DeepBayes:Gaussian Process

Introduction

这篇是记录高斯过程的,转载请注明。
Ref:
1.Deep Bayes Slides

The Gaussian Distribution

图片说明
The marginal and conditional distributions are also Gaussians.
图片说明
图片说明
图片说明

Functional classes

图片说明

Gaussian processes

图片说明

Mean values and Covariances
Mean value is constructed from a priori given deterministic function:
图片说明
Covariance matrix is constructed from covariance function
图片说明
图片说明
所以到这时候,我们可以把高斯过程总结为:
定义在连续域伤的函数,且是每个时刻对应的高斯函数的联合分布,或者说是是一个函数集合。
Example:
squared-exponential kernel
The parameters give the overall lengthscale in dimension i
图片说明
图片说明
Example: Constructing new covariances from old
图片说明
Using GP for nonlinear regression
Training data set图片说明
Model:
图片说明
图片说明

Prediction

Let us denote input test point as , and output
图片说明
Consider joint training and test marginal likelihood
图片说明
where 图片说明 and 图片说明

Interpolation

Condition distribution
图片说明

Smoothing

图片说明 predicts what we'll see next.

Determination of covariance function parameters

图片说明

Gradient based optimization

图片说明

Bayesian Optimization

图片说明

Acquisition functions

图片说明

Summary

高斯过程建模的优点是形式闭合,但是计算量比较大。

算法小屋 文章被收录于专栏

不定期分享各类算法以及面经。同时也正在学习相关分布式技术。欢迎一起交流。

全部评论

相关推荐

原来已经一年了,因为没有加任何实验室没有学长学姐带,再一次偶然的机会下刷到我们学校的牛肉哥,和他聊天之后发现他也没加实验室能进大厂,我就燃起了希望,去年大概 4 月份找好路线 零基础 开始学 5 月背八股和开始刷算法很难受 7-8 月焦虑躯体化害怕找不到实习 9 月找到一家像样的小厂去实习了 4 个月大三上期末考试结束之后 1 月份回来边实习边准备工作压力很大 当时只有字节、百度、商汤的面试,字节三面挂了,百度 oc,商汤 二面挂(差评 无效面试),之后来深圳百度实习之后还是觉得不甘心一直没把算法和八股扔下一直在准备,百度实习的时候 mt 交给我一个特别重要的工作数据库迁移(特别感谢 mt ,这个需求学到了很多东西处理了一堆线上问题),本来看着暑期他们面试都很困难,然后听说百度要涨实习薪资(然而 5 月并没有涨),就想着留在百度吧也懒得面试了,4 月 20 多的时候字节 hr 打电话约面问我要不要尝试一下询问了 1 月份三面为啥会挂有没有学习 ai 知识(因为字节这边后端岗位偏 ai),我来到百度之后全面拥抱 AI 也认识了我的好兄弟 X 哥,他在百度 XX 部门 Agent 实习,他属于是我 Agent 的启蒙老师,来百度之后一直在了解 AI 这一块,我就接受了字节的面试,一面的时候 20 分钟实习拷打然后突然说 30 分钟代码考核我心就凉了以为是 kpi,算法题是手撕高并发安全下的令牌桶限流器,我写了整整 80 多行代码最后也写出来了,但是从来没看到过出这种题能 oc 的我也就不管了,后边面试也是很顺利但是流程有点长可能一直在横向吧总结结果是好的!!!感谢这一年努力的自己和遇到的各位互联网大佬分享的知识!!!ps 图二纯感慨 (觉得🍬请不要喷我)欢迎大家一起交流学习呀!!!!
点赞 评论 收藏
分享
评论
点赞
收藏
分享

创作者周榜

更多
牛客网
牛客网在线编程
牛客网题解
牛客企业服务