重磅：ChatGPT可定制开发，每个人、每个公司都可用上大模型
ChatGPT 实现了对插件的初步支持。插件是专门为语言模型设计的工具，可帮助 ChatGPT 访问最新信息、运行计算或使用第三方服务。
插件是什么？插件可以成为语言模型的“眼睛和耳朵”，使它们能够访问最新、私人或太具体而无法包含在训练数据中的信息。
插件的诞生，对于每一个开发者，每一个公司，都是机遇和机会，因为我们公司的运营方式和程序开发方式将会迎来变革。
每一个开发者，每一个公司都可以通过ChatGPT plugins使用大型语言模型，来实现交互，提供最新信息。
ChatGPT plugins官网提供了两个插件，一个网络浏览器和代码解释器，开源了知识库检索插件的代码，我们开发者也可以自定义插件。
如果我们想开发插件，文末有申请候补链接。
1.先来说说对公司的意义
我们这里举例最常见类型：
1.旅游网
通过ChatGPT插件,我们可以知道到达那里，留在那里，寻找可看可做的事情。
我们以前正常的旅途，是需要做大量准备的，比如我们去哪个酒店最便宜，最好，我们要去哪里玩，有没有推荐的，那里有什么风土人情，安不安全。需要带哪些东西，气温如何，有什么注意的等等。这些我们需要大量的搜索和询问，有了ChatGPT插件都解决了。
2.会计
提供并允许访问精选的市场领先的实时数据集，以获取法律、政治和监管数据和信息。
我们知道ChatGPT是大语言模型，训练数据都是过时的。可以有了插件就完全不一样了，他能够读取实时数据。
3.电商
可以实现即时购物车，从数以千计的网上商店搜索和比较价格，从各个品牌中搜索数百万种产品。
从最喜欢的当地店铺店买东西，是的，你没有看错，ChatGPT通过第三方插件，是可以实时购物的，和比较价格。
4.航班、住宿、租车
搜索航班、住宿和租车。获取在我们预算范围内可以去的所有地方的建议。
上面都是最常见公司的作用，其实每个公司，都能从ChatGPT第三方插件找到自己可以盈利的点。
2.对开发者的意义
对于开发者来说，传统开发都是使用平台提供的接口，包括ChatGPT没有提供插件以前，也是这种方式。ChatGPT提供插件后，就完全变了。不在是我们使用平台的接口，而是平台使用我们的接口。
进入人工智能时代后，我们开发者将不得不借助人工智能平台，来让我们公司实现更智能、更人性的服务。
接着我们来看看官网提供的两个插件：
1.网络浏览器
允许语言模型从互联网上读取信息，获取最新鲜的数据。
这一插件，弥补了插件模型实时性的问题，比如问他今天几号，这个问题对于他来说就不是问题了。
比如
1.你能告诉我哪个人/电影赢得了这些类别的奥斯卡奖吗？
它提供的都是这两天的最新信息。
2.代码解释器
可以使用 Python 处理上传和下载的实验性 ChatGPT 模型
我们为模型提供了一个在 沙盒、防火墙执行环境中工作的 Python 解释器，以及一些临时磁盘空间。由我们的解释器插件运行的代码在一个持久会话中进行评估，该会话在聊天对话期间一直有效（具有上限超时），后续调用可以相互构建。我们支持将文件上传到当前对话工作区并下载您的工作结果。
该模型能够使用它们的编程 技能为我们计算机的最基本功能提供更自然的接口。接触到以指尖的速度工作的非常热心的初级程序员可以使全新的工作流程变得轻松高效，并向新的受众开放编程的好处。
使用代码解释器特别有用的用例：
[*]解决定量和定性的数学问题
[*]进行数据分析和可视化
[*]在格式之间转换文件
[*]邀请用户尝试代码解释器集成并发现其他有用的任务。
3.检索插件
开源检索插件使 ChatGPT 能够访问个人或组织信息源（经许可）。它允许用户通过提问或用自然语言表达需求，从他们的数据源中获取最相关的文档片段，例如文件、笔记、电子邮件或公共文档。
作为一个开源和自托管的解决方案，开发人员可以部署他们自己的插件版本并在 ChatGPT 上注册。该插件利用OpenAI 嵌入并允许开发人员选择矢量数据库（Milvus、Pinecone、Qdrant、Redis、Weaviate或Zilliz）来索引和搜索文档。信息源可以使用 webhooks 与数据库同步。
4.第三方插件开发
第三方插件由清单文件描述，其中包括插件功能的机器可读描述以及如何调用它们，以及面向用户的文档。
{
"schema_version": "v1",
"name_for_human": "TODO Manager",
"name_for_model": "todo_manager",
"description_for_human": "Manages your TODOs!",
"description_for_model": "An app for managing a user's TODOs",
"api": { "url": "/openapi.json" },
"auth": { "type": "none" },
"logo_url": "https://example.com/logo.png",
"legal_info_url": "http://example.com",
"contact_email": "hello@example.com"
}用于管理待办事项的插件的示例清单文件
创建插件的步骤是：
[*]使用希望语言模型调用的端点构建 API（这可以是新的 API、现有的 API 或围绕专门为 LLM 设计的现有 API 的包装器）。
[*]创建一个记录您的 API 的 OpenAPI 规范，以及一个链接到 OpenAPI 规范并包含一些特定于插件的元数据的清单文件。
[*]在chat.openai.com上开始对话时，用户可以选择他们想要启用的第三方插件。有关已启用插件的文档作为对话上下文的一部分显示给语言模型，使模型能够根据需要调用适当的插件 API 来实现用户意图。目前，插件是为调用后端 API 而设计的，但我们正在探索也可以调用客户端 API 的插件。
3.聊天示例插件
有的开发者想开发聊天插件。首先使用不同身份验证模式和用例的简单插件。
从简单的无身份验证待办事项列表插件到更强大的检索插件，这些示例让我们得以一窥我们希望通过插件实现的目标。
在开发过程中，可以在本地计算机或通过 GitHub Codespaces、Replit 或 CodeSandbox 等云开发环境运行插件。
1.如何构建一个无需授权的简单待办事项列表插件
1.首先，定义一个包含以下字段的 manifest.json 文件：
{
"schema_version": "v1",
"name_for_human": "TODO Plugin (service http)",
"name_for_model": "todo",
"description_for_human": "Plugin for managing a TODO list, you can add, remove and view your TODOs.",
"description_for_model": "Plugin for managing a TODO list, you can add, remove and view your TODOs.",
"auth": {
"type": "service_http",
"authorization_type": "bearer",
"verification_tokens": {
"openai": "758e9ef7984b415688972d749f8aa58e"
}
},
"api": {
"type": "openapi",
"url": "https://example.com/openapi.yaml",
"is_user_authenticated": false
},
"logo_url": "https://example.com/logo.png",
"contact_email": "dummy@email.com",
"legal_info_url": "http://www.example.com/legal"
}
请注意，服务级别身份验证插件需要验证令牌。该令牌是在 ChatGPT 网络用户界面中的插件安装过程中生成的。
接下来，我们可以定义一些简单的 Python 端点，为特定用户创建、删除和获取待办事项列表项。端点还对身份验证进行简单检查，因为这是必需的。
import json
import quart
import quart_cors
from quart import request
app = quart_cors.cors(quart.Quart(__name__), allow_origin="*")
_SERVICE_AUTH_KEY = "TEST"
_TODOS = {}
def assert_auth_header(req):
assert req.headers.get(
"Authorization", None) == f"Bearer {_SERVICE_AUTH_KEY}"
@app.post("/todos/<string:username>")
async def add_todo(username):
assert_auth_header(quart.request)
request = await quart.request.get_json(force=True)
if username not in _TODOS:
_TODOS = []
_TODOS.append(request["todo"])
return quart.Response(response='OK', status=200)
@app.get("/todos/<string:username>")
async def get_todos(username):
assert_auth_header(quart.request)
return quart.Response(response=json.dumps(_TODOS.get(username, [])), status=200)
@app.delete("/todos/<string:username>")
async def delete_todo(username):
assert_auth_header(quart.request)
request = await quart.request.get_json(force=True)
todo_idx = request["todo_idx"]
# fail silently, it's a simple plugin
if 0 <= todo_idx < len(_TODOS):
_TODOS.pop(todo_idx)
return quart.Response(response='OK', status=200)
@app.get("/logo.png")
async def plugin_logo():
filename = 'logo.png'
return await quart.send_file(filename, mimetype='image/png')
@app.get("/.well-known/ai-plugin.json")
async def plugin_manifest():
host = request.headers['Host']
with open("manifest.json") as f:
text = f.read()
text = text.replace("PLUGIN_HOSTNAME", f"https://{host}")
return quart.Response(text, mimetype="text/json")
@app.get("/openapi.yaml")
async def openapi_spec():
host = request.headers['Host']
with open("openapi.yaml") as f:
text = f.read()
text = text.replace("PLUGIN_HOSTNAME", f"https://{host}")
return quart.Response(text, mimetype="text/yaml")
def main():
app.run(debug=True, host="0.0.0.0", port=5002)
if __name__ == "__main__":
main()最后，我们需要设置和定义 OpenAPI 规范以匹配本地或远程服务器上定义的端点。通常，无论身份验证方法如何，OpenAPI 规范看起来都是一样的。使用自动 OpenAPI 生成器将减少创建 OpenAPI 规范时出错的可能性，因此值得探索这些选项。
openapi: 3.0.1
info:
title: TODO Plugin
description: A plugin that allows the user to create and manage a TODO list using ChatGPT. If you do not know the user's username, ask them first before making queries to the plugin. Otherwise, use the username "global".
version: 'v1'
servers:
- url: https://example.com
paths:
/todos/{username}:
get:
operationId: getTodos
summary: Get the list of todos
parameters:
- in: path
name: username
schema:
type: string
required: true
description: The name of the user.
responses:
"200":
description: OK
content:
application/json:
schema:
$ref: '#/components/schemas/getTodosResponse'
post:
operationId: addTodo
summary: Add a todo to the list
parameters:
- in: path
name: username
schema:
type: string
required: true
description: The name of the user.
requestBody:
required: true
content:
application/json:
schema:
$ref: '#/components/schemas/addTodoRequest'
responses:
"200":
description: OK
delete:
operationId: deleteTodo
summary: Delete a todo from the list
parameters:
- in: path
name: username
schema:
type: string
required: true
description: The name of the user.
requestBody:
required: true
content:
application/json:
schema:
$ref: '#/components/schemas/deleteTodoRequest'
responses:
"200":
description: OK
components:
schemas:
getTodosResponse:
type: object
properties:
todos:
type: array
items:
type: string
description: The list of todos.
addTodoRequest:
type: object
required:
- todo
properties:
todo:
type: string
description: The todo to add to the list.
required: true
deleteTodoRequest:
type: object
required:
- todo_idx
properties:
todo_idx:
type: integer
description: The index of the todo to delete.
required: true更多，大家可参考末尾链接
ChatGPT免费交流社区：
https://www.aboutyun.com/data/attachment/forum/202303/17/091544s9et4evgmen4vb88.jpg
聊天插件更多案例
https://platform.openai.com/docs/plugins/examples
chatgpt-检索插件
https://github.com/openai/chatgpt-retrieval-plugin
聊天插件开发例子
https://platform.openai.com/docs/plugins/examples
开发候补名单
https://openai.com/waitlist/plugins
页:
[1]