分享

ChatGPT 和 Bard 的 8 个开源替代品

本帖最后由 nettman 于 2023-5-26 06:34 编辑


1.png


1.美洲驼(LLaMA)

LLaMA项目包含一组基础语言模型,其大小从 70 亿到 650 亿个参数不等。这些模型在数百万个令牌上进行训练,并且专门在公开可用的数据集上进行训练。因此,LLaMA-13B 优于 GPT-3 (175B),LLaMA-65B 的性能与 Chinchilla-70B 和 PaLM-540B 等最佳模型相似。


1.png

2. 羊驼(Alpaca)

Stanford Alpaca声称它可以与 ChatGPT 竞争,任何人都可以以不到 600 美元的价格复制它。Alpaca 7B 是根据 LLaMA 7B 模型在 52K 指令跟随演示中进行微调的。


1.png

3.骆马(Vicuna)

Vicuna是根据 LLaMA 模型对从ShareGPT收集的用户共享对话进行微调的。Vicuna-13B 模型已达到 OpenAI ChatGPT 和 Google Bard 90%* 以上的质量。在 90% 的情况下,它的表现也优于 LLaMA 和 Stanford Alpaca 模型。训练 Vicuna 的费用约为 300 美元。


1.png
地址:https://lmsys.org/blog/2023-03-30-vicuna/


4. OpenChatKit
OpenChatKit:开源 ChatGPT Alternative是一个用于创建聊天机器人的完整工具包。它提供了用于训练您自己的指令调整的大型语言模型、微调模型、用于更新机器人响应的可扩展检索系统以及用于过滤问题的机器人审核的指令。

1.png
地址:
https://www.kdnuggets.com/2023/0 ... pt-alternative.html

5. GPT4ALL

GPT4ALL是一个社区驱动的项目,并在大量精选的辅助交互语料库上进行了训练,包括代码、故事、描述和多轮对话。该团队提供了数据集、模型权重、数据管理过程和训练代码以促进开源。此外,他们还发布了可以在您的笔记本电脑上运行的模型的量化 4 位版本。您甚至可以使用 Python 客户端来运行模型推理。


1.png

地址:
https://github.com/nomic-ai/gpt4all

6.乌鸦RWKV(Raven RWKV


Raven RWKV 7B是一款开源聊天机器人,由RWKV语言模型提供支持,可产生与 ChatGPT 类似的结果。该模型使用的 RNN 可以在质量和缩放方面匹配变压器,同时速度更快并节省 VRAM。Raven 在 Stanford Alpaca、code-alpaca 和更多数据集上进行了微调。


地址:https://huggingface.co/spaces/BlinkDL/Raven-RWKV-7B

1.png


7. OPT

OPT:Open Pre-trained Transformer Language Models 不如 ChatGPT 好,但它在零样本和少样本学习以及刻板偏见分析方面表现出了卓越的能力。您还可以将它与 Alpa、Colossal-AI、CTranslate2 和 FasterTransformer 集成以获得更好的结果。

注意:它之所以上榜是因为它的受欢迎程度,因为它在文本生成类别中的每月下载量为 624,710 次。


1.png

地址:https://arxiv.org/abs/2205.01068

8.法兰-T5-XXL(Flan-T5-XXL)

Flan-T5-XXL在一组表述为指令的数据集上微调 T5 模型。指令微调显着提高了各种模型类(如 PaLM、T5 和 U-PaLM)的性能。Flan-T5-XXL 模型针对 1000 多项额外任务进行了微调,涵盖了更多语言。


1.png

地址:https://huggingface.co/google/fl ... +step+by+step#usage


-----------我的底线--------------
中文版ChatGPT
https://chat.aboutyun.com/

加微信赠送Chat GPT教程:



获取更多资源:
领取100本书+1T资源
http://www.aboutyun.com/forum.php?mod=viewthread&tid=26480

大数据5个项目视频
http://www.aboutyun.com/forum.php?mod=viewthread&tid=25235

名企资源、名企面试题、最新BAT面试题、专题面试题等资源汇总
https://www.aboutyun.com/forum.php?mod=viewthread&tid=27732


加微信w3aboutyun,可拉入技术爱好者群

没找到任何评论,期待你打破沉寂

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关闭

推荐上一条 /2 下一条