前言：

上一课，我们讲了大模型的基本概念和几种大模型的使用定位。

本节课，我们具体介绍下，如何下载这些模型。和安装使用。

大模型通常顾名思义，会很大。一般的用户不太有资源去生产它，我们最多的使用场景是去下载和使用它即可。

那么目前全球范围内有一些比较主流的平台提供这种云上的服务，当然也有一些雨后春笋般出现的公司在大模型管理生成器方面有所推进。

知识点：

下载大模型
使用大模型

国外常用的下载站点

https://civitai.com/ 被人们常成为C站。可能是对应于国内的B站。

CivitAI 上的模型主要分为四类：Checkpoint、LoRA、Textual Inversion、Hypernetwork，分别对应 4 种不同的训练方式。

Checkpoint：通过 Dreambooth 训练方式得到的大模型，特点是出图效果好，但由于训练的是一个完整的新模型，所以训练速度普遍较慢，生成模型文件较大，一般几个 G，文件格式为 safetensors 或 ckpt。
LoRA：一种轻量化的模型微调训练方法，是在原有大模型的基础上，对该模型进行微调，用于输出固定特征的人或事物。特点是对于特定风格特征的出图效果好，训练速度快，模型文件小，一般几十到一百多 MB，需要搭配大模型使用。
Textual Inversion：一种使用文本提示来训练模型的方法，可以简单理解为一组打包的提示词，用于生成固定特征的人或事物。特点是对于特定风格特征的出图效果好，模型文件非常小，一般几十 K，但是训练速度较慢，需要搭配大模型使用。
Hypernetwork：类似 LoRA，但模型效果不如 LoRA，需要搭配大模型使用。

模型推荐：Checkpoint > LoRA > Textual Inversion > Hypernetwork

通常情况 Checkpoint 模型搭配 LoRA 或 Textual Inversion 模型使用，可以获得更好的出图效果。

补充：还有一类 VAE 模型，简单理解它的作用就是提升图像色彩效果，让画面看上去不会那么灰蒙蒙，此外对图像细节进行细微调整。

另外一个国外的大模型巨头网站是

https://huggingface.co

Hugging Face 是一家引領機器學習和人工智慧領域的創新公司，專注於自然語言處理（NLP），代表模型是家喻戶曉的 transformers 庫。

Hugging Face 是開源的，授權是 Apache-2.0 license，也就是免費同時也可以商用，這個特性鼓勵了全球社群的合作與知識共享，使其社群分常強大。

現今許多 LLM 的模型都發布在 Hugging Face 上，如果有想要玩 LLM 模型，推薦一定要學會如何使用 Hugging Face。

步驟1. 找到你想要下載的庫

例如我想下載基於 llama2 的 fine tuning 的中文對話 model

步驟2. 點選 Files and versions

步驟3. 下載

有兩種方法可以下載模型：直接下載或使用 Git clone。這取決於你的需求和項目的性質。例如，如果你僅需模型的一部分或特定文件，直接下載是個不錯的選擇。而如果你計劃長期使用或需要完整的庫，則建議使用 Git clone。

方法a). 點選下載

適合你只想載某個特定的東西，直接點選下載便可以。

方法b). Git clone

使用 git 把該庫 clone 下來，點選 Clone repository 就可以看到如何在下載

这部分的内容可能对于普通学习者来说，有点难度了。其实牵涉到编程的细节内容了。可以忽视。

只要輸入上述指令，便可以輕鬆下載：

git lfs install
git clone https://huggingface.co/hfl/chinese-llama-2-7b

你可以選擇使用 GIT_LFS_SKIP_SMUDGE=1，這種方式只會下載小檔案，而 git lfs 儲存的大文件，會儲存一個文字的 pointer file。因此在有非常多大檔案且想要指定下載，或有網路傳輸考量時，可以使用這種方式：

一樣先將將庫 clone 下來
手動 pull 想要的檔案， — include="*.bin" 代表我要將所有 .bin 的檔案下載下來，可以依據你的需求改變

git lfs install
GIT_LFS_SKIP_SMUDGE=1 git clone https://huggingface.co/hfl/chinese-llama-2-7b
git lfs pull --include="*.bin"

Error

如果在 clone 時遇到以下錯誤的話：

fatal: 'lfs' appears to be a git command, but we were not
able to execute it. Maybe git-lfs is broken?

需要下載 git-lfs，使用下面的指令便可正常運作：

sudo apt install git-lfs
git lfs install

通過以上步驟，你便能夠成功地從 Hugging Face 下載所需的模型。Hugging Face 不僅提供了一個龐大的模型庫，還創建了一個支持知識共享和合作的強大社區。無論你是研究人員、開發人員還是對 AI 技術感興趣的愛好者，學會如何有效地使用 Hugging Face 將大大提高你在機器學習領域的工作效率和創新能力。