Category: 人工智能

GLM-4-9b-chat部署简要过程

1、前置条件:Linux下安装conda、cuda、docker、pip、git等环境类工具类支持,安装过程可以从网络上找资料。

2、下载GLM-4预训练模型文件

mkdir GLM-4

cd GLM-4

git clone https://www.modelscope.cn/tclf90/glm-4-9b-chat-GPTQ-Int8.git

Continue reading…