MySQL和Redis是两种不同类型的数据库管理系统，它们在数据存储、数据处理和使用方式等方面有很大的区别。以下是它们之间的主要区别： 数据库类型： MySQL是一种关系型数据库管理系统(RDBMS)，它以表格的形式存储数据，并使用结构化查询语言(SQL)进行数据操作。 Redis是一种键值存储系统，它以键值对的形式存储数据，并提供丰富的数据结构(如字符串、列表、哈希表、集合等)进行数据操作。 数据模型： MySQL使用传统的表格模型，数据以行和列的形式组织，支持复杂的关系和约束。 Redis使用键值对模型，每个键…

若依框架介绍 2024-Java若依框架专题课[资料完整] 课程安排 前置知识 环境准备 若依版本 RuoYi-Vue 若依搭建 后端搭建 初始化项目 克隆地址：https://gitee.com/y_project/RuoYi-Vue MySQL导入与配置 redis启动 项目启动 前端搭建 下载和安装 Node.js 和 npm 下载和安装 Node.js 和 npm - npm 中文文档 Nodists/Nodist：Windows的Natural Node.js和NPM版本管理器。 项目启动 # 克隆项目 …

环境配置 检查JDK安装 java卸载 java安装（JDK17） Download the Microsoft Build of OpenJDK | Microsoft Learn maven安装 maven下载 http://maven.apache.org/download.cgi 环境变量设置 Maven配置 生成.m2文件夹 mvn help:system 先运行一条简单的命令：mvn help:system。该命令会打印出所有的Java系统属性和环境变量，这些信息对我们日常的变成工作很有帮助。该命令的目…

余弦相似度 余弦相似性通过测量两个向量的夹角的余弦值来度量它们之间的相似性。两个向量之间的角度的余弦值确定两个向量是否大致指向相同的方向。两个向量有相同的指向时，余弦相似度的值为1；两个向量夹角为90°时，余弦相似度的值为0；两个向量指向完全相反的方向时，余弦相似度的值为-1。这结果是与向量的长度无关的，仅仅与向量的指向方向相关。余弦相似度通常用于正空间，因此给出的值为0到1之间。 层归一化（Layer Normalization） 作用：对单个样本的所有特征进行标准化，加速训练。 步骤： 计算均值与方差： $$ …

文字转数字 加入位置信息编码 QKV分成三份 数字缩放 神经网络层 数字缩放 全部数字列队 概率转化 文字转数字 最初字符使用的是独热编码，现在大部分使用现成的第三方库。 对于字符的复用问题，每个字符可以对应多个数字。 对于一句话中的每个字符，从字典里抽出对应的行组成矩阵。完成字符转向量第一步。 位置信息编码 使用正余弦映射位置信息，与字符向量相加。完成字符转向量。

开启了代理，但是git仍然连接拒绝的原因： windows 中 git 默认不会使用系统代理，所以即使连接代理或者打开代理软件，浏览器仍然可以访问 GitHub 或 Gitee；但是使用 git 命令行连接 GitHub 或 Gitee 远程仓库可能会出现无法访问的现象。 解决方法：Windows、Linux、Mac OS 中 git 命令相同： 设置代理命令： 配置socks5代理 git config --global http.proxy socks5 127.0.0.1:12334 git config -…

Transformer Architecture 多头自注意力机制->层归一化->线性层

How LLM Works 文档补充（document completer） 生成式模型（generator model） fune-tuning 使用QA进行模型微调 RLHF 基于人类反馈的强化学习 promp engineer 指令工程

大语言模型 模型定义 大型语言模型 (LLM) 是一种因其能够实现通用语言理解和生成而显著的语言模型。LLM通过在计算密集型的自监督和半监督训练过程中学习文本文档的统计关系来获得这些能力。LLM是遵循变换器架构的人工神经网络。 模型文件 moe结构 模型规模是提升模型性能的关键因素之一。在有限的计算资源预算下，用更少的训练步数训练一个更大的模型，往往比用更多的步数训练一个较小的模型效果更佳。 混合专家模型 (MoE) 的一个显著优势是它们能够在远少于稠密模型所需的计算资源下进行有效的预训练。这意味着在相同的计算预算…

在 主题footer.php添加以下代码 <script> document.addEventListener("DOMContentLoaded", function() { document.querySelectorAll('pre code').forEach(code => { // 获取 code 中的内容并去掉最后一个换行符 let codeContent = code.textContent.trimEnd(); // 使用 trimEnd …