Skip to content

Commit

Permalink
readme
Browse files Browse the repository at this point in the history
  • Loading branch information
wdndev committed Mar 18, 2024
1 parent acf55c0 commit a97e926
Show file tree
Hide file tree
Showing 4 changed files with 34 additions and 27 deletions.
File renamed without changes.
File renamed without changes.
File renamed without changes.
61 changes: 34 additions & 27 deletions README.md
Original file line number Diff line number Diff line change
Expand Up @@ -24,20 +24,20 @@

### [01.大语言模型简介](01.大语言模型简介/README.md)

##### 大模型发展历程
##### 1.1 大模型发展历程

1. 语言模型

##### 常见大模型
##### 1.2 常见大模型

1. [llama系列模型](01.大语言模型简介/llama系列模型/llama系列模型.md )
2. [chatglm系列模型](01.大语言模型简介/chatglm系列模型/chatglm系列模型.md)

##### LLM基础题目
##### 1.3 LLM基础题目

### [02.大语言模型基础](02.大语言模型基础/README.md)

##### Transformer模型
##### 2.1 Transformer模型

1. [attention](02.大语言模型基础/1.attention/1.attention.md)
2. [layer\_normalization](02.大语言模型基础/2.layer_normalization/2.layer_normalization.md)
Expand All @@ -46,13 +46,13 @@
5. [token及模型参数](02.大语言模型基础/4.token及模型参数/4.token及模型参数.md)
6. [激活函数](02.大语言模型基础/5.激活函数/5.激活函数.md )

##### 大语言模型结构
##### 2.2 大语言模型结构

### [03.语言模型训练数据集](03.语言模型训练数据集/03.语言模型训练数据集.md)

### [04.分布式训练](04.分布式训练/README.md)

##### 基础知识
##### 4.1 基础知识

1. [概述](04.分布式训练/1.概述/1.概述.md)
2. [数据并行](04.分布式训练/2.数据并行/2.数据并行.md)
Expand All @@ -64,96 +64,103 @@
8. [moe并行](04.分布式训练/8.moe并行/8.moe并行.md )
9. [总结](04.分布式训练/9.总结/9.总结.md )

##### DeepSpeed
##### 4.2 DeepSpeed

1. DeepSpeed介绍

##### 软硬件
##### 4.3 软硬件

1. 显存问题

##### 分布式相关题目
##### 4.4 分布式相关题目

### [05.有监督微调](05.有监督微调/README.md)

##### 理论
##### 5.1 理论

1. [基本概念](05.有监督微调/1.基本概念/1.基本概念.md)
2. [prompting](05.有监督微调/2.prompting/2.prompting.md)
3. [adapter-tuning](05.有监督微调/3.adapter-tuning/3.adapter-tuning.md)
4. [lora](05.有监督微调/4.lora/4.lora.md)
5. [总结](05.有监督微调/5.总结/5.总结.md)

##### 微调实战
##### 5.2 微调实战

1. LLaMa2微调

##### 有监督微调相关题目
##### 5.3 有监督微调相关题目

1. 微调
2. 预训练

### [06.推理](06.推理/README.md)

##### 推理框架
##### 6.1 推理框架

1. llm推理框架简单总结
2. vLLM
3. Text Generation Inference
4. Faster Transformer
5. TRT LLM

##### 推理优化技术
##### 6.2 推理优化技术

1. LLM推理优化技术

##### 推理相关题目
##### 6.3 推理相关题目

### [07.强化学习](07.强化学习/README.md)

##### 强化学习原理
##### 7.1 强化学习原理

1. [策略梯度(pg)](07.强化学习/策略梯度(pg)/策略梯度(pg).md "策略梯度(pg)")
2. [近端策略优化(ppo)](07.强化学习/近端策略优化(ppo)/近端策略优化(ppo).md)

##### RLHF
##### 7.2 RLHF

1. [大模型RLHF:PPO原理与源码解读](07.强化学习/大模型RLHF:PPO原理与源码解读/大模型RLHF:PPO原理与源码解读.md)
2. [DPO](07.强化学习/DPO/DPO.md)

##### 一些题目
##### 7.3 一些题目

1. [rlhf相关](07.强化学习/1.rlhf相关/1.rlhf相关.md "1.rlhf相关")
2. [强化学习](07.强化学习/2.强化学习/2.强化学习.md "2.强化学习")

### [08.检索增强rag](08.检索增强rag/08.检索增强rag.md)
### [08.检索增强rag](08.检索增强rag/README.md)

##### RAG
##### 8.1 RAG

1. [检索增强llm](08.检索增强rag/检索增强llm/检索增强llm.md)

2. [rag(检索增强生成)技术](08.检索增强rag/rag(检索增强生成)技术/rag(检索增强生成)技术.md)

##### Agent
##### 8.2 Agent

1. [大模型agent技术](08.检索增强rag/大模型agent技术/大模型agent技术.md)

### [09.大语言模型评估](09.大语言模型评估/09.大语言模型评估.md)
### [09.大语言模型评估](09.大语言模型评估/README.md)

##### 模型评估
##### 9.1 模型评估

1. [评测](09.大语言模型评估/1.评测/1.评测.md)

##### LLM幻觉
##### 9.2 LLM幻觉

1. [大模型幻觉](09.大语言模型评估/1.大模型幻觉/1.大模型幻觉.md)
2. [幻觉来源与缓解](09.大语言模型评估/2.幻觉来源与缓解/2.幻觉来源与缓解.md)

### [10.大语言模型应用](10.大语言模型应用/10.大语言模型应用.md)
### [10.大语言模型应用](10.大语言模型应用/README.md)

##### 思维链(CoT)
##### 10.1 思维链(CoT)

##### LangChain 框架
1. [思维链(cot)](10.大语言模型应用/1.思维链(cot)/1.思维链(cot).md "1.思维链(cot)")




##### 10.2 LangChain 框架

1. [langchain](10.大语言模型应用/1.langchain/1.langchain.md "1.langchain")

### [98.LLMs相关课程](98.LLMs相关课程/README.md)

Expand Down

0 comments on commit a97e926

Please sign in to comment.