Hello World Welcome to Hexo! This is your very first post. Check documentation for more info. If you get any problems when using Hexo, you can find the answer in troubleshooting or you can ask me on GitHub. Quick 2024-10-28
扩散模型疑难点 ![DDPM]算法 1. 为什么在每一步训练过程中可以仅采样一个随机高斯噪声? 为了模拟出从任意步数的隐变量向前一步隐变量去噪的过程,按道理,我们应当分别采样两个高斯噪声,分别用于模拟从x0x_0x0转移到xt−1x_{t-1}xt−1的过程和和从xt−1x_{t-1}xt−1转移到xtx_{t}xt的过程。 对于原本的损失函数(参见《Understanding Diffusion Mod 2024-09-25
DL_tricks 1. Softmax函数计算概率时,数值不稳定,上溢。 如果,存在较大的xix_ixi时,对其使用使用expexpexp指数函数很容易出现上溢。 而当负数过多时,分母每一个部分都为0,相加也为0,会出现除以0问题。 以下中的bbb为xi…xnx_i \dots x_nxi…xn中的maxmaxmax。 Softmax(xi)=exp(xi)∑j=1nexp(xj)=exp(xi−b)⋅ 2024-08-14 实际技巧 #学习笔记
Score based model学习笔记 内容来源于: 人民大学 李崇轩老师 《深度生成模型:原理与应用》 CW的博客 《深度生成模型》 Jakub M.T Energy based model 一种最灵活的概率建模方式,其通过神经网络定义了样本的能量。其中,能量越低状态越稳定,应当拥有更高的概率。 但是,对于一个概率分布来说,其要满足归一化和非负性的要求。 也就是 p(x)>0p(x)>0 p(x)>0 和 ∫p(x) 2024-08-09 生成式算法 #学习笔记
《Understanding Diffusion Models》阅读笔记2 《Understanding Diffusion Models: A Unified Perspective》阅读笔记2 原文链接 第二种等价解释:学习扩散噪声参数 笔记1中学习从xtx_txt预测x0x_0x0,是通过将μθ\mu_{\theta}μθ凑成μq\mu_{q}μq的形式推导出来的 在这里,也是一样,设置μθ\mu_{\theta}μθ和μq\mu_{q}μq拥有一样的形 2024-08-08 生成式算法 #学习笔记
《Understanding Diffusion Models: A Unified Perspective》阅读笔记1 《Understanding Diffusion Models: A Unified Perspective》阅读笔记1 原文链接 Pre1:条件独立与马尔科夫性 P(AB∣C)=P(A∣C)P(B∣C)⇒P(B∣AC)=P(B∣C)P( AB| C) = P( A| C) P( B| C) \Rightarrow P( B| AC) = P( B| C)P(AB∣C)=P(A∣C)P(B∣C)⇒ 2024-08-05 生成式算法 #学习笔记
常用安装方法 无root安装ffmpeg 1conda install ffmpeg -c conda-forge 无root安装mesh库 创建虚拟环境版本:3.8 激活,安装boost库 1conda install -c conda-forge boost 下载mesh库源代码 修改Makefile文件中的--install-option 到 --config-setting BOOST_ 2024-08-02 #常用方法
泛化误差上界证明&《统计学习方法》第一章课后题 泛化误差上界证明&《统计学习方法》第一章课后题 泛化误差 整体思路 基本假设: 数据集的样本容量NNN,损失函数的值域范围,假设空间的样本容量大小ddd。 列出对于一个假设空间中的fff的经验风险和期望风险。 利用Hoeffding不等式将对于fff的期望风险与经验风险的差值大于ϵ\epsilonϵ的概率列出。 写出对于假设空间F\cal{F}F中任何函数的期望风险与经验风险差值 2024-08-01 课后作业 > 笔记 #《统计学习方法》笔记
规整化流笔记 规整化流 & NICE模型 参考: 人民大学李崇轩老师《深度生成模型:原理与应用》课程 https://www.jiqizhixin.com/articles/2018-08-13-7 统计学习建模p(x∣θ)p(x|\theta)p(x∣θ)的目标: 采样该结构,生成数据。 评估测试数据的似然概率。在拒绝采样或评估模型时有用。(unconditional likelihood e 2024-07-31 生成式算法 #学习笔记
Hexo Fluid 基本功能 Hexo_Fluid_基本功能 官方指令文档 基本功能 添加文章 在博客根目录下执行 1hexo new "name_of_article" 会在hexo-blog\source\_posts中新建name_of_article.md与同名文件夹 删除文章 在_posts文件夹下将md文件与文件夹删除,并删除根目录下的.deploy_git文件夹。 最后执行 1 2024-07-30 博客维护 #学习笔记