运行 GPT-J 6B、OPT、GALACTICA、LLaMA 和 Pygmalion 等大语言模型的 gradio web UI,使用下拉菜单在不同模型之间切换 https://github.com/oobabooga/text-generation-webui

天问 5d6fb85cde Update 'README.md' 1 year ago
README.md 5d6fb85cde Update 'README.md' 1 year ago

README.md

text-generation-webui

运行 GPT-J 6B、OPT、GALACTICA、LLaMA 和 Pygmalion 等大语言模型的 gradio web UI,使用下拉菜单在不同模型之间切换

支持cpu,gpu,支持linux,windows,wsl子系统等环境安装。

git clone https://github.com/oobabooga/text-generation-webui

./start_linux.sh

安装会很慢,安装python,pytourch,模型文件等,手动下载安装好后,再执行该命令。