Inicio Explorar Axuda
Iniciar sesión
junxiaoyao
/
regression2chatgpt
1
0
Fork 0
Ficheiros Incidencias 0 Pull Requests 0 Wiki
Árbore: 113a06fe50
Ramas Etiquetas
regression2chat...
/
ch11_llm
Gen TANG 098ee9208e typo in ch11 %!s(int64=2) %!d(string=hai) anos
..
README.md f5c5896bd6 update comment for ch11 %!s(int64=2) %!d(string=hai) anos
char_gpt.ipynb f5c5896bd6 update comment for ch11 %!s(int64=2) %!d(string=hai) anos
gpt2.ipynb f5c5896bd6 update comment for ch11 %!s(int64=2) %!d(string=hai) anos
gpt2_lora.ipynb f5c5896bd6 update comment for ch11 %!s(int64=2) %!d(string=hai) anos
gpt2_lora_optimum.ipynb 098ee9208e typo in ch11 %!s(int64=2) %!d(string=hai) anos
gpt2_reward_modeling.ipynb f5c5896bd6 update comment for ch11 %!s(int64=2) %!d(string=hai) anos
lora_tutorial.ipynb f5c5896bd6 update comment for ch11 %!s(int64=2) %!d(string=hai) anos

README.md

代码 说明
char_gpt.ipynb 从零开始实现GPT-2，并使用模型进行自然语言的自回归学习（根据背景文本预测下一个字母是什么）
gpt2.ipynb 使用开源的GPT-2模型
lora_tutorial.ipynb 实现简单版本的LoRA以及开源工具中LoRA的使用示例
gpt2_lora.ipynb 使用LoRA对GPT-2进行监督微调（微调方式并不是最优的）
gpt2_lora_optimum.ipynb 使用LoRA对GPT-2进行更优雅的监督微调
gpt2_reward_modeling.ipynb 使用LoRA对GPT-2进行评分建模