text-generation-webui

运行 GPT-J 6B、OPT、GALACTICA、LLaMA 和 Pygmalion 等大语言模型的 gradio web UI,使用下拉菜单在不同模型之间切换

支持cpu，gpu，支持linux，windows，wsl子系统等环境安装。

git clone https://github.com/oobabooga/text-generation-webui

./start_linux.sh

安装会很慢，安装python，pytourch,模型文件等，手动下载安装好后，再执行该命令。