Markdown

第一篇 Markdown (Typora)

基础语法

目录

标题篇

级数个#加空格,如# 表示后面的文字作为一级标题,## 表示后面的文字作为二级标题。

字体篇

加粗:将想要加粗的文字在左右用两个*号括起来 :

**加粗**

斜体:将想要斜体的文字在左右用一个*号括起来 :

斜体加粗:将想要斜体的文字在左右用三个*号括起来

删除线:将想要加删除线的文字在左右用两个~号括起来波浪线

段落篇

  • 生成目录:[toc], 但是hexo上传博客用此方法显示目录不成功ORZ。

  • 分割线:三个及以上的-或者*,试一试


  • 无序列表:就是这个前面的小黑点,一个+-或者*加上空格,后面跟上文字。

  • 有序列表:数字标号的。数字加点加上空格

    1. 这是第一个
    2. 这是第二个


插入类

  • 插入图片:![图片下方的文字](图片地址 "图片标题")

拿一张试试:试验图片

  • 插入超链接:[超链接名称](超链接地址 "标题")

    试试:我的博客

  • 插入公式:$$包含TeX 或 LaTeX 格式的数学公式。

  • 插入表格:|分列,-分割表头和内容,左右两边加:文字居中,只加一边文字偏哪边,默认偏左。

    举例

    1
    2
    3
    4
    表头|表头
    --|--
    内容|内容
    内容|内容

    试一个:没有成功诶,需要在两端也加上|才会显示表格,可是把最后一行作为表头显示了,emmm,应该是编辑器导致的差异。不过Typora可以很方便地直接右击插入表格。。。

表头 表头
内容 内容
内容 内容
  • 插入代码块

    单行代码:一个反引号`括起来,反引号就是Esc下面那个键,记得换成英文输入法。

    print('hello world!')

    多行代码:三个反引号`括起来。

    1
    2
    import numpy as np
    import pandas as pd

概率论相关(1)-先验概率、后验概率与似然

先验概率、后验概率与似然

今天看到一个比较好的关于先验、后验和似然的通俗解释,先验概率就是基于历史数据的统计经验,后验概率是在已知结果发生时推断原因的概率,似然概率是已知原因推断结果的概率。

根据上述解释,假设我们有一个数据集,这个数据集服从某一种分布,也可以理解为是一个黑盒子模型,黑盒子模型里面包含了很多参数,则似然概率就是已知参数得到某样本的概率,后验概率就是已知某样本得到参数的概率。

为了更理解这一概念,再来看一下著名的贝叶斯公式:

其中$p(\theta)$是先验概率, $P(\theta \mid x)$是后验概率,$p(x \mid \theta)$是似然函数。

这里区分一下两个概念,对于$p(x \mid \theta)$如果$\theta$已知且不变,x是变量,则此函数称为概率函数,而如果x已知且保持不变,$\theta$是变量,则此函数称为似然函数。

最大似然估计(MLE)

最大似然,也就是说要让似然最大,则在数据集上的学习过程就是求模型参数使得当前观察到的样本概率最大,所以最大似然估计的目的就是根据已知的样本结果,反推最有可能导致这个结果的参数值。最大似然估计的适用场景是”模型已定、参数未知”,一个重要前提是样本集中的样本都是独立同分布的随机变量,因为只有独立同分布,样本集的似然函数才能等于各样本似然函数的乘积。

假设一个用于学习的样本集是:$D=\left{x{1}, x{2}, \cdots, x{N}\right}$,来估计参数向量θ,则$l(\theta)=p(D \mid \theta)=p\left(x{1}, x{2}, \cdots, x{N} \mid \theta\right)=\prod{i=1}^{N} p\left(x{i} \mid \theta\right)$,则使得似然函数最大的参数值求解过程为:

最大后验估计(MAP)

最大后验估计与最大似然估计的不同之处在于最大后验估计中引入了先验概率,因此结合贝叶斯公式和最大似然估计,最大后验估计就转化为了:

L2正则就是加入了高斯先验,L1正则就是加入了拉普拉斯先验。

贝叶斯估计

在MLE和MAP中,都是假设模型参数$\theta$未知,但都是固定的值,属于点估计,而在贝叶斯估计中,假设模型参数是未知的随机变量,而不是确定值,最终得到的参数不是具体的值,而是一个分布,然后用这个分布的期望来作为最终的参数值。

总结

最后让我们用大佬讲义中的片段总结一下本篇的主要内容:

参考资料

贝叶斯估计、最大似然估计、最大后验概率估计

极大似然估计、最大后验估计

My first blog

This is my first blog which is just for test. Happy~
I will present my learning process in this blog from today on. Fighting~

Hello World

Welcome to Hexo! This is your very first post. Check documentation for more info. If you get any problems when using Hexo, you can find the answer in troubleshooting or you can ask me on GitHub.

Quick Start

Create a new post

1
$ hexo new "My New Post"

More info: Writing

Run server

1
$ hexo server

More info: Server

Generate static files

1
$ hexo generate

More info: Generating

Deploy to remote sites

1
$ hexo deploy

More info: Deployment