Github远端开发环境尝试 Github远端开发环境尝试 前情提要:经过前两次的Blog升级,现在已经可以从本地VSCode上传到Github,通过workflow actions在云上自动化编译并部署静态内容到相应的分支上。但是这要求本地需要有一个可以安装VSCode的环境,但背个iPad实在是太方便了,谁愿意背笔记本啊。由此对目前的云开发方式进行了一定的探索工作。 提示:网页版的VSCode在iPadOS16是无法成功 2024-07-18 #Dev
RAG系统理论学习 RAG系统理论学习 对于RAG应用的检索系统搭建的理论与工程部分进行学习。参考文献:https://arxiv.org/abs/2312.10997 0 引入当LLM遇到超出其训练数据或遇到需要查询当前数据时,就会产生hallucinations幻觉现象。现在通过RAG技术,在外部知识库中通过计算语义相似度semantic similarity calculation,检索相关文档块,降低幻觉产 2024-07-15 #论文
Virtual Box虚拟机设置 Virtual Box 虚拟机配置 前情提要:无法使用增强模块且只能使用免费版的情况下,对虚拟机进行分辨率的修改。 百度了好一会都是只能给出一个使用增强模块的方法,情急之下,使用ChatGPT进行搜索,在合适的Prompt下,真的给出了相当可行的方案,由此进行记录。 1 修改虚拟机配置文件 关闭虚拟机。 找到虚拟机的配置文件(通常是.vbox文件)。 使用文本编辑器(如Notepad++)打开该 2024-07-02 #Dev
Prompt Engineering 人工构建Prompt Prompt Engineering 人工构建Prompt 学习链接:微信公众号 人工构建Prompt适合Zero-Shot的情况,可以浅尝效果。人工构建Prompt相当泛用,因此学习一些它的应用场景。 1 LAMA 源码地址:Github LAMA数据集,是一个对预训练语言模型的探针,使用Prompt来分析预训练语言模型掌握了哪些知识。 2 GPT3GPT3 是通过大量语料训练得到的,对于大 2023-11-08 #Prompt Learning
Prompt Engineering Prompt Engineering学习 如何利用好大语言模型,就需要给模型合适的Prompt,引导它给出合适的答案,我认为是模型微调的一种新方法。本文是自用的一个学习笔记,方便后续回顾。 学习链接:微信公众号 0 NLP发展史 阶段一:feature engineering 这个阶段的模型十分依赖前期的特征工程,往往需要人工去手动提取和筛选定义特征,这个阶段特征质量会影响最后的模型效果。 2023-11-08 #Prompt Learning
关于熵的学习 关于熵的学习 学习完扩散模型的推导肯定需要学习如何去训练一个扩散模型,它的先导知识需要了解熵的概念。这个概念连着之前学的哈夫曼编码和哈夫曼树就不难理解。 学习链接:知乎 1 熵 $entropy$数学定义:$H(x)=-\Sigma_xp(x)logp(x)=\Sigma_x\frac{1}{p(x)}$ $H(x)$为随机变量$x$代表的平均信息量,也可以理解为从概率分布$P$中获得一个样本$ 2023-09-20 #Machine Learning
解决了在Github Action自动化部署的环境下,解决需要修改node_modules的问题 前情提要:我用Github Action配置了自动化部署后,再次上传博文时发现Letax渲染出现了问题。想来想去,突然想到,之前修改过Kramed渲染引擎的escape和em。下述我解决问题的思路。 发现问题首先是本地渲染并没有问题,随后想到Github Action会在云上重新npm install,这样我本地的node_modules的修改并没有上传,百度搜索到的办法有两种:重新上传一个你 2023-09-19 #Blog
扩散模型学习 扩散模型 看了篇论文,里面提到了扩散模型,前段时间听师兄说老师最近对扩散模型很感兴趣,所以我就找了个视频学习了一下 学习视频:B站 学习代码:Github 非常感谢这位UP,讲得非常深入浅出。 1 扩散模型简单来说就是这个方程: x_t = \sqrt{1-β_t}\times x_{t-1} + \sqrt{β_t}\times ϵ_{t} \tag1其中ϵ是噪声,x是图像,上述方程描述了噪 2023-09-16 #Machine Learnig
通过一个事故学习查找sql的执行历史 代码123456789101112131415161718SELECT spid, blocked, DB_NAME(sp.dbid) AS DBName, program_name, waitresource, sp.waittime, sp.stmt_start, lastwai 2023-08-24 #Dev