04-Stable Diffusion的训练与部署-23-lora训练的代码结构原创

各位小伙伴们大家好，在上一个视频当中我们给大家介绍了Laura训练的思想，那接下来我们就给大家来看一下如果使用Laura的训练方式来训练我们的stableion模型的话，如何来实现，那在这里使用lower训练stableion的过程，我们是基于开源代码来实现的，那我们使用它来训练我们的stable的话，要求我们的显存在8G以上，当然你越高越好，那在我们这个课程当中啊，我们是在hi平台当中的Jupiter lab当中来给大家进行实现的。好，那接下来我们首先就给大家来看一下Laura去训练我们的stableion的整个代码结构，那在这里我们首先第一个是我们的hugging face，因为在这里训练的时候，我们需要使用分布式训练来进行加速，所以我们的hugging face当中我就有相应的加速器相关的内容。另外呢，还有在进。

行训练过程当中，我们的文本编码器，也就是说clip模型啊，也是存放在我们的哈face当中的，那稍后呢，我们会给到这个文件夹当中来给大家去看一下里面的具体内容。另外logs当中保存的是我们的日志信息，也就说我们每次去训练我们的模型的时候，我们的日志信息都保存在这个文件夹当中。在下面output是我们的输出结果，这个输出结果当中保存的是你在训练过程当中产生的一系列的模型参数，我们都在output当中，那稍后我们也给大家去看一下这个内容。再接下来SD models当中保存的是我们的预训练模型参数，我们前面给大家介绍Laura训练方式的时候，我们说过，Laura呢需要在预训练模型的基础上来完成，我们的训练，所以在这里面SD model当中我们就存储了预训练模型的参数，那这个预训练的模型参数。

啊，在我们整个训练过程当中都不会发生变化。再下一个文件夹呢，是我们的开源代码，我们刚刚说了我们lo训练是基于这个开源框架来实现的，那这个开源框架相应的代码就在这个文件夹下面，这是我们在这里这个文件夹下面就去训练模型的PY文件，那稍后我们给大家去看一下这里面的内容，那我要训练模型，那我们肯定要有数据，那我们的数据呢，就放在串文件夹下面，那这个串文件夹下面的训练及数据的放置方式啊，有它一些要求，那这个稍后我们来给大家进行详细的介绍，这是我们在这个lower训练stableion的时候，整个代码结构，我要完成模型训练的话，我们是从我们这个训练脚本当中来调用我们这一系列的方法的，那在这个训练SH文件当中，我们就完成了整个模型的训练过程，好，那代码结构我们在讲义当中就给大家介绍这些内容，下面我们到Jupiter lab当中。

来给大家去看一下代码结构的内容，首先我们来看hugging face，刚刚说了我们在这个文件夹当中啊，是有我们的加速器，还有clip模型的预训练权重，那下面我们来看一下，大家看这个文件夹当中就是我们的加速器，也是我去实现加速的话，分布式训练的话，诶都是通过它来实现的，另外呢，我们这里面还存放了我们的clip模型的权重，也就是说我们的文本编码器的预训练模型是放在这个里面的，好，这是hugging face当中的相关内容，那除了hugg face之外，接下来就是我们的日志文件夹，大家看一下，在这里面我们就存储了我们每次来进行模型训练的时候，它的一个日志信息，再接下来就是我们。这个output文件夹，那这个output文件夹当中啊，保存的是我们训练出来的模型权重，大家看一下，这里就是我们训练出来的模型权重，那这些模型权重就是罗训练的结果，也就是说是我们预训练模型旁边那个A和B的结果，就是这里这个。

参数好，下面我们再看下一个文件夹的是我们的SD models，这里面保存的是什么？是我们的预训练模型，那在这里这个预训练模型我们使用我们前面使用dream boss训练出来的那个格子衫的模型来作为我们的预训练模型，在这个预训练模型的基础上，我们再去添加自己的风格。好下面再看我们的这个文件夹下面，那这个文件夹下面就是我们的开源代码，那在这个开源代码当中哈，我们最重要的呢，我们要知道在这里有一个train network.py文件，我们就是通过这个train network.py文件来模完成模型训练的，好那在接下来我们再回到我们的文件夹当中来啊，然后称当中呢，保存的是我一系列的训练图片，大家注意一下，在进行lower方式的训练的时候，我们的训练级数据是有PNG文件，以及对这个PNG文件进行描述的TXT文件，那稍后我们为大家来看。

一下这个内容，这是我们的训练级数据，好，那训练级数据给大家介绍完成之后，然后下面我们再来看一下最后我们的训练脚本，那这个训练脚本当中啊，就是定义了我们一系列的参数，包括我们的数据呀，包括我们的开源代码呀，我们的预训练模型呀，训练的方式啊，这些内容我们都在这个衬点SH文件当中定义了，那最后要进行训练，我们只需要去执行这个衬点SH文件就可以了。好，那方式来训练stableion的代码结构，我们就给大家介绍这些，我们先把视频暂停一下，下一个视频当中，我们来大家去介绍一下Laura方式训练stableusion的时候数据及如何来进行构建。