Featured image of post 一些大语言模型(LLM)相关的开源项目

一些大语言模型(LLM)相关的开源项目

NextChat

GitHub top language

一键免费部署私人 ChatGPT 网页应用,支持 GPT3, GPT4 & Gemini Pro 模型。

Alt text

one-api

GitHub top language

支持多种大模型, 国内的阿里通义千问、百度文心一言等都可以接入。并且有独立的管理页面,支持令牌管理、兑换码管理、通道管理等。 Alt text 很多其他的项目使用它来做多种模型的gateway,实现统一的api调用。

graph LR
    A(用户)
    A -->|使用 One API 分发的 key 进行请求| B(One API)
    B -->|中继请求| C(OpenAI)
    B -->|中继请求| D(Azure)
    B -->|中继请求| E(其他 OpenAI API 格式下游渠道)
    B -->|中继并修改请求体和返回体| F(非 OpenAI API 格式下游渠道)

fastGPT

GitHub top language

FastGPT 是一个基于 LLM 大语言模型的知识库问答系统。它的亮点在于可视化的工作流编排和知识库管理,从而实现复杂的问答场景。

Alt text

dify

GitHub top language

Dify 是一个 LLM 应用开发平台,开箱即用的 AI WebApp, 也可集成至你的应用的后端即服务。可以基于任何模型自部署类似 Assistants API 和 GPTs 的能力。

Alt text

fastChat

GitHub top language FastChat 是一个开放平台,用于训练、服务和评估基于大型语言模型的聊天机器人。 支持先进的模型(如vicuna)和评估(MT-Bench)。 具有 Web UI 以及和 OpenAI 兼容的 RESTful API。

Alt text

autogen

GitHub top language

AutoGen 是一个框架,支持使用多个代理来开发 LLM 应用程序,这些代理可以相互对话来解决任务。 AutoGen 代理是可定制的、可对话的,并且无缝地允许人类参与。

它简化了复杂的工作流程的编排, 支持复杂工作流程的多种对话模式。

借助可定制和可对话的代理,开发人员可以使用 AutoGen 构建各种涉及对话自主性、代理数量和代理对话拓扑的对话模式。

Alt text

anything-llm

GitHub top language

可以使用商业或开源的 LLM 和 vectorDB 来构建私有 ChatGPT。他可以将文档转换为对话中的上下文(PDF, TXT, DOCX, etc)。

Alt text

web-llm

GitHub top language

WebLLM是一个模块化、可定制的javascript软件包,通过硬件加速将语言模型聊天直接带到Web浏览器上。一切都在浏览器内运行,使用WebGPU进行加速。

Alt text

LLMsPracticalGuide

GitHub top language

一些与LLM相关的指南、论文等。

Alt text

open-llms

GitHub top language

一些开源且可商用的LLM模型列表

Awesome-Chinese-LLM

GitHub top language

整理了一些开源的中文大语言模型

Licensed under CC BY-NC-SA 4.0