创建健康的 AI 实用函数：ChatGPT 示例 – 第二部分

上一篇：
创建健康的 AI 效用函数：多样性的重要性——第一部分
https://www.aboutyun.com/forum.php?mod=viewthread&tid=35168




在“创建健康的 AI 效用函数：多样性的重要性”系列的第一部分中，我谈到了拥抱冲突和多样性以创建健康的 AI 效用函数的重要性；也就是说，创建一个 AI 实用功能，不断平衡相互冲突的 KPI 和指标，以提供负责任和道德的结果。

人工智能效用函数是定义人工智能系统的目标或目标的数学函数。它用于评估人工智能系统可以采取的不同行动或决策，并选择能够最大化预期效用或结果价值的行动或决策。

将不同利益相关者相互冲突的效用价值纳入 AI 效用函数对于构建能够适应和适应不断变化的环境同时仍提供有意义、相关和负责任的结果的 AI 模型至关重要。人工智能系统必须考虑各种利益相关者的不同利益和目标，并在人工智能模型与其运行环境交互时不断寻求平衡和重新平衡这些经济利益和目标之间的权衡。

鉴于 AI 效用函数在指导有意义的、相关的、道德的 AI 结果方面的重要性，理解 AI 效用函数在 ChatGPT 中扮演的角色将很有趣。是的，与所有 AI 模型一样，ChatGPT 使用 AI 实用功能来提供负责任和合乎道德的结果。

但首先，让我看看我是否可以简化对 ChatGPT 工作原理的描述，这是我在与 AI 社区以外（有时甚至是内部）的人打交道时遇到的挑战。


ChatGPT 如何运作？


如果我必须向我的岳母解释 ChatGPT，我会说 ChatGPT 是一个简单的概念，可以很好地完成四件事：

第 101 关（岳母）：ChatGPT 是如何工作的？

• 访问和编目互联网上的公共内容
• 解析用户请求以了解用户意图
• 将用户请求（意图）与编目内容相匹配
• 在呈现内容时格式化类似人类的响应
  

是的，很简单。

现在，如果我的姐夫走进房间并想了解 ChatGPT 的工作原理，我会展开上述四项任务中的每一项：

第 201 关（姐夫）：ChatGPT 是如何工作的？

• ChatGPT 根据信息的使用和传播方式访问和分类互联网的公开可用部分。ChatGPT 爬行互联网并从各种来源（例如，网站、文章、博客、数字书籍和研究论文）收集大量信息，然后确定该信息的上下文。此信息存储在大型语言模型 (LLM) 中——一个“知识库”，其中包含从训练 ChatGPT 的上下文信息中收集的信息模式。
• ChatGPT 解析用户请求以确定用户意图。ChatGPT 使用自然语言处理 (NLP) 来分析和理解用户的请求，识别关键字、短语和其他上下文信息，帮助 ChatGPT 了解用户的意图和他们寻求的信息。
• ChatGPT 将用户的请求与编目内容相匹配。根据用户的意图，ChatGPT 搜索其 LLM 以根据用户的请求预测最相关的内容。这涉及权衡各种因素，例如用户的查询、查询的上下文以及内容的相关性和质量。
• ChatGPT 格式化类似人类的响应以向用户呈现内容。ChatGPT 根据 LLM 中包含的模式和信息生成与用户请求相关的响应。ChatGPT 在类似人类的对话中呈现信息，选择正确的词语和措辞以清晰简洁地传达信息（图 1）。
  

创建健康的 ChatGPT AI 实用函数
ChatGPT 作为一种大型语言模型 (LLM)，旨在优化效用函数，即在给定特定输入的情况下生成连贯且有意义的文本的可能性。在训练期间，该模型学习生成文本，在给定输入文本的情况下最大化目标文本的概率（将其视为类固醇的 Google 搜索和 Microsoft Word 自动完成）。此优化过程涉及调整模型的参数以最小化生成的文本和目标文本之间的差异。

AI Utility Function 指导 ChatGPT 的行为，确定模型根据收到的输入生成什么响应。ChatGPT 的 AI 实用程序函数中包含的变量和指标取决于训练模型执行的具体任务。ChatGPT AI Utility Function 中使用的一些变量和指标包括：

• 困惑度指标评估模型在给定先前上下文的情况下预测下一个单词的能力。较低的困惑度表明该模型更擅长预测下一个单词，从而生成更连贯和有意义的文本。
• 流利度指标评估生成的文本符合语法和句法规则的程度。AI 效用函数旨在生成流畅且语法正确的文本。
• 连贯性指标评估生成的文本与输入上下文的关联程度。AI 效用函数追求在给定输入的情况下创建连贯且具有语义意义的文本。
• 多样性指标评估生成的文本的多样性。AI 实用功能旨在创建多样化且有趣的响应，以保持对话的吸引力。
• 相关性度量评估生成的文本与用户的查询或输入的相关性。AI 实用功能旨在为用户创建相关文本。
• 情绪指标评估产生情绪反应的有效性。AI 效用函数可以包括旨在创建传达特定情绪（例如快乐、悲伤或愤怒）的反应的指标。
• 说服指标评估说服用户采取特定行动或采用特定观点的有效性。AI 效用函数可以包括生成有效且有说服力的响应的指标。
• 事实准确性指标旨在创建准确且有证据支持的答案。
• 个性化指标旨在为用户生成个性化和相关的响应。
• 可信度指标旨在评估基于可靠来源的可验证响应。
  

这些指标可以纳入 ChatGPT AI Utility 功能（也许它们已经是）来指导 ChatGPT 确保它生成有效、适当和负责任的响应。



中文版ChatGPT
https://chat.aboutyun.com/

加微信赠送Chat GPT教程：





获取更多资源：
领取100本书+1T资源
http://www.aboutyun.com/forum.php?mod=viewthread&tid=26480

大数据5个项目视频
http://www.aboutyun.com/forum.php?mod=viewthread&tid=25235

名企资源、名企面试题、最新BAT面试题、专题面试题等资源汇总
https://www.aboutyun.com/forum.php?mod=viewthread&tid=27732

感谢分享