运行 GPT-J 6B、OPT、GALACTICA、LLaMA 和 Pygmalion 等大语言模型的 gradio web UI,使用下拉菜单在不同模型之间切换 https://github.com/oobabooga/text-generation-webui

2 Commits

1 Branches

0 Releases

天问 5d6fb85cde Update 'README.md'		5 months ago
README.md	5d6fb85cde Update 'README.md'	5 months ago

text-generation-webui

运行 GPT-J 6B、OPT、GALACTICA、LLaMA 和 Pygmalion 等大语言模型的 gradio web UI,使用下拉菜单在不同模型之间切换

支持cpu，gpu，支持linux，windows，wsl子系统等环境安装。

git clone https://github.com/oobabooga/text-generation-webui

./start_linux.sh

安装会很慢，安装python，pytourch,模型文件等，手动下载安装好后，再执行该命令。