Browse Source

Initial commit

天问 2 years ago
commit
4d02ddaee7
1 changed files with 3 additions and 0 deletions
  1. 3 0
      README.md

+ 3 - 0
README.md

@@ -0,0 +1,3 @@
+# RedPajama
+
+Together 宣布了 RedPajama,这是一个与其他 AI 组织合作创建大型语言模型的开源项目。 RedPajama 发布了一个 1.2 万亿代币数据集,该数据集复制了 LLaMA 配方,使组织能够预训练可获得许可的模型。