运行 GPT-J 6B、OPT、GALACTICA、LLaMA 和 Pygmalion 等大语言模型的 gradio web UI,使用下拉菜单在不同模型之间切换 https://github.com/oobabooga/text-generation-webui
天问 5d6fb85cde Update 'README.md' | 1 year ago | |
---|---|---|
README.md | 1 year ago |
运行 GPT-J 6B、OPT、GALACTICA、LLaMA 和 Pygmalion 等大语言模型的 gradio web UI,使用下拉菜单在不同模型之间切换
支持cpu,gpu,支持linux,windows,wsl子系统等环境安装。
git clone https://github.com/oobabooga/text-generation-webui
./start_linux.sh
安装会很慢,安装python,pytourch,模型文件等,手动下载安装好后,再执行该命令。