From a97e9263dd462a756c5ca432c4479c242e7bfea1 Mon Sep 17 00:00:00 2001 From: wdndev Date: Mon, 18 Mar 2024 23:29:41 +0800 Subject: [PATCH] readme --- .../README.md" | 0 .../README.md" | 0 .../README.md" | 0 README.md | 61 +++++++++++-------- 4 files changed, 34 insertions(+), 27 deletions(-) rename "08.\346\243\200\347\264\242\345\242\236\345\274\272rag/08.\346\243\200\347\264\242\345\242\236\345\274\272rag.md" => "08.\346\243\200\347\264\242\345\242\236\345\274\272rag/README.md" (100%) rename "09.\345\244\247\350\257\255\350\250\200\346\250\241\345\236\213\350\257\204\344\274\260/09.\345\244\247\350\257\255\350\250\200\346\250\241\345\236\213\350\257\204\344\274\260.md" => "09.\345\244\247\350\257\255\350\250\200\346\250\241\345\236\213\350\257\204\344\274\260/README.md" (100%) rename "10.\345\244\247\350\257\255\350\250\200\346\250\241\345\236\213\345\272\224\347\224\250/10.\345\244\247\350\257\255\350\250\200\346\250\241\345\236\213\345\272\224\347\224\250.md" => "10.\345\244\247\350\257\255\350\250\200\346\250\241\345\236\213\345\272\224\347\224\250/README.md" (100%) diff --git "a/08.\346\243\200\347\264\242\345\242\236\345\274\272rag/08.\346\243\200\347\264\242\345\242\236\345\274\272rag.md" "b/08.\346\243\200\347\264\242\345\242\236\345\274\272rag/README.md" similarity index 100% rename from "08.\346\243\200\347\264\242\345\242\236\345\274\272rag/08.\346\243\200\347\264\242\345\242\236\345\274\272rag.md" rename to "08.\346\243\200\347\264\242\345\242\236\345\274\272rag/README.md" diff --git "a/09.\345\244\247\350\257\255\350\250\200\346\250\241\345\236\213\350\257\204\344\274\260/09.\345\244\247\350\257\255\350\250\200\346\250\241\345\236\213\350\257\204\344\274\260.md" "b/09.\345\244\247\350\257\255\350\250\200\346\250\241\345\236\213\350\257\204\344\274\260/README.md" similarity index 100% rename from "09.\345\244\247\350\257\255\350\250\200\346\250\241\345\236\213\350\257\204\344\274\260/09.\345\244\247\350\257\255\350\250\200\346\250\241\345\236\213\350\257\204\344\274\260.md" rename to "09.\345\244\247\350\257\255\350\250\200\346\250\241\345\236\213\350\257\204\344\274\260/README.md" diff --git "a/10.\345\244\247\350\257\255\350\250\200\346\250\241\345\236\213\345\272\224\347\224\250/10.\345\244\247\350\257\255\350\250\200\346\250\241\345\236\213\345\272\224\347\224\250.md" "b/10.\345\244\247\350\257\255\350\250\200\346\250\241\345\236\213\345\272\224\347\224\250/README.md" similarity index 100% rename from "10.\345\244\247\350\257\255\350\250\200\346\250\241\345\236\213\345\272\224\347\224\250/10.\345\244\247\350\257\255\350\250\200\346\250\241\345\236\213\345\272\224\347\224\250.md" rename to "10.\345\244\247\350\257\255\350\250\200\346\250\241\345\236\213\345\272\224\347\224\250/README.md" diff --git a/README.md b/README.md index b24c2b6..f898754 100644 --- a/README.md +++ b/README.md @@ -24,20 +24,20 @@ ### [01.大语言模型简介](01.大语言模型简介/README.md) -##### 大模型发展历程 +##### 1.1 大模型发展历程 1. 语言模型 -##### 常见大模型 +##### 1.2 常见大模型 1. [llama系列模型](01.大语言模型简介/llama系列模型/llama系列模型.md ) 2. [chatglm系列模型](01.大语言模型简介/chatglm系列模型/chatglm系列模型.md) -##### LLM基础题目 +##### 1.3 LLM基础题目 ### [02.大语言模型基础](02.大语言模型基础/README.md) -##### Transformer模型 +##### 2.1 Transformer模型 1. [attention](02.大语言模型基础/1.attention/1.attention.md) 2. [layer\_normalization](02.大语言模型基础/2.layer_normalization/2.layer_normalization.md) @@ -46,13 +46,13 @@ 5. [token及模型参数](02.大语言模型基础/4.token及模型参数/4.token及模型参数.md) 6. [激活函数](02.大语言模型基础/5.激活函数/5.激活函数.md ) -##### 大语言模型结构 +##### 2.2 大语言模型结构 ### [03.语言模型训练数据集](03.语言模型训练数据集/03.语言模型训练数据集.md) ### [04.分布式训练](04.分布式训练/README.md) -##### 基础知识 +##### 4.1 基础知识 1. [概述](04.分布式训练/1.概述/1.概述.md) 2. [数据并行](04.分布式训练/2.数据并行/2.数据并行.md) @@ -64,19 +64,19 @@ 8. [moe并行](04.分布式训练/8.moe并行/8.moe并行.md ) 9. [总结](04.分布式训练/9.总结/9.总结.md ) -##### DeepSpeed +##### 4.2 DeepSpeed 1. DeepSpeed介绍 -##### 软硬件 +##### 4.3 软硬件 1. 显存问题 -##### 分布式相关题目 +##### 4.4 分布式相关题目 ### [05.有监督微调](05.有监督微调/README.md) -##### 理论 +##### 5.1 理论 1. [基本概念](05.有监督微调/1.基本概念/1.基本概念.md) 2. [prompting](05.有监督微调/2.prompting/2.prompting.md) @@ -84,18 +84,18 @@ 4. [lora](05.有监督微调/4.lora/4.lora.md) 5. [总结](05.有监督微调/5.总结/5.总结.md) -##### 微调实战 +##### 5.2 微调实战 1. LLaMa2微调 -##### 有监督微调相关题目 +##### 5.3 有监督微调相关题目 1. 微调 2. 预训练 ### [06.推理](06.推理/README.md) -##### 推理框架 +##### 6.1 推理框架 1. llm推理框架简单总结 2. vLLM @@ -103,57 +103,64 @@ 4. Faster Transformer 5. TRT LLM -##### 推理优化技术 +##### 6.2 推理优化技术 1. LLM推理优化技术 -##### 推理相关题目 +##### 6.3 推理相关题目 ### [07.强化学习](07.强化学习/README.md) -##### 强化学习原理 +##### 7.1 强化学习原理 1. [策略梯度(pg)](07.强化学习/策略梯度(pg)/策略梯度(pg).md "策略梯度(pg)") 2. [近端策略优化(ppo)](07.强化学习/近端策略优化(ppo)/近端策略优化(ppo).md) -##### RLHF +##### 7.2 RLHF 1. [大模型RLHF:PPO原理与源码解读](07.强化学习/大模型RLHF:PPO原理与源码解读/大模型RLHF:PPO原理与源码解读.md) 2. [DPO](07.强化学习/DPO/DPO.md) -##### 一些题目 +##### 7.3 一些题目 1. [rlhf相关](07.强化学习/1.rlhf相关/1.rlhf相关.md "1.rlhf相关") 2. [强化学习](07.强化学习/2.强化学习/2.强化学习.md "2.强化学习") -### [08.检索增强rag](08.检索增强rag/08.检索增强rag.md) +### [08.检索增强rag](08.检索增强rag/README.md) -##### RAG +##### 8.1 RAG 1. [检索增强llm](08.检索增强rag/检索增强llm/检索增强llm.md) 2. [rag(检索增强生成)技术](08.检索增强rag/rag(检索增强生成)技术/rag(检索增强生成)技术.md) -##### Agent +##### 8.2 Agent 1. [大模型agent技术](08.检索增强rag/大模型agent技术/大模型agent技术.md) -### [09.大语言模型评估](09.大语言模型评估/09.大语言模型评估.md) +### [09.大语言模型评估](09.大语言模型评估/README.md) -##### 模型评估 +##### 9.1 模型评估 1. [评测](09.大语言模型评估/1.评测/1.评测.md) -##### LLM幻觉 +##### 9.2 LLM幻觉 1. [大模型幻觉](09.大语言模型评估/1.大模型幻觉/1.大模型幻觉.md) 2. [幻觉来源与缓解](09.大语言模型评估/2.幻觉来源与缓解/2.幻觉来源与缓解.md) -### [10.大语言模型应用](10.大语言模型应用/10.大语言模型应用.md) +### [10.大语言模型应用](10.大语言模型应用/README.md) -##### 思维链(CoT) +##### 10.1 思维链(CoT) -##### LangChain 框架 +1. [思维链(cot)](10.大语言模型应用/1.思维链(cot)/1.思维链(cot).md "1.思维链(cot)") + + + + +##### 10.2 LangChain 框架 + +1. [langchain](10.大语言模型应用/1.langchain/1.langchain.md "1.langchain") ### [98.LLMs相关课程](98.LLMs相关课程/README.md)