1
2
3
git clone https://github.com/oobabooga/text-generation-webui
cd text-generation-webui
./start_linux.sh --share

后来就能在127.0.0.1上建立服务,就不用share了,把chatglm2-6b放到models目录下,加载模型的时候需要设置–trust-remote-code。正常启动也用./start_linux.sh脚本,我还没找到更好的启动方式。

我这破笔记本不会搞大模型,加载chatglm2-6b模型,卡到所有程序都崩了,音乐都不会听,网页也没了,内存爆了,系统的加减音量f键到现在都不能用。

https://github.com/oobabooga/text-generation-webui

https://www.bilibili.com/read/cv26775194 【文本生成整合包】语音识别,语音合成,角色扮演本地版

2310102323