创建健康的 AI 效用函数：多样性的重要性——第一部分

有时，您在开始写博客时心中有一个假设，然后随着您研究并意识到您最初的想法是错误的，该意图发生了变化。是的，这是其中一个博客。如果您放弃先前存在的教条并在您的人生旅程中学习，学习会很有趣。

我一直很好奇（一个很好的特质）经济学在开发组织的业务驱动的人工智能和数据战略中的作用。当我们比较经济价值和 AI 效用函数时，这种关系就变得生动起来。

• 经济价值衡量的是商品或服务对个人或公司产生的价值。经济价值也可以是某人愿意为商品或服务支付的最高价格或金额。
• 人工智能效用函数是人工智能系统用来根据受影响的利益相关者的预期结果优化决策过程的数学函数；它定义了人工智能被编程优化的一个或多个目标。效用函数通过评估不同活动的潜在结果并选择最大化预期效用的结果来确定 AI 模型的行为。
  

经济价值与 AI 效用函数之间的关系在于，AI 效用函数由各种内部和外部利益相关者期望结果（以及衡量结果有效性的 KPI 和指标）的效用值组成，以实现特定的目标。业务或运营结果。

例如，旨在提供个性化产品推荐的 AI 系统可以使用有关用户过去购买和偏好的数据来创建反映用户对选定产品或服务的经济价值的效用函数。然后，AI 模型可以根据个人的经济价值优化其个性化建议，如 AI 效用函数中所反映的那样。

人工智能效用函数根据结果的经济价值为人工智能系统的行动分配价值。AI 模型对可能结果的偏好可以通过将这些结果映射到效用值的函数来捕获；数字越高，代表越喜欢该结果（图 1）。




图1 ：AI 效用函数的关键作用


人工智能效用函数和利益相关者的经济价值
理想情况下，AI 效用函数应与受 AI 系统影响的利益相关者的经济价值保持一致。在实践中，设计一个最大化所有利益相关者整体效用的人工智能效用函数是不可能的。不同的利益相关者可能有不同的偏好、价值观、目标和期望的结果，这可能会与其他利益相关者的偏好、价值观、目标和期望的结果发生冲突。例如，优化环境可持续性的人工智能系统可能不是经济增长的最佳选择。

因此，在设计 AI 效用函数时，必须仔细考虑不同利益相关者的经济价值。这涉及在构建 AI 效用函数时了解主要利益相关者的偏好、目标和期望的结果，以平衡相互冲突的目标之间的权衡。平衡不同利益相关者的经济价值的冲突是导致健康的 AI 效用函数的原因（图 2）。




图2 ：经济价值定义轮


将不同利益相关者的冲突效用值纳入 AI 效用函数对于构建能够适应和适应不断变化的环境的健康 AI 模型至关重要。人工智能系统需要考虑不同利益相关者的不同利益和目标（经济价值），并在人工智能模型与其运行环境交互时不断寻求平衡这些经济价值之间的权衡。


人工智能效用函数、多目标优化、帕累托最优解……我的天啊！
多目标优化(MOO) 用于优化具有多个目标的问题，其目标是找到同时优化多个相互冲突的目标的最佳解决方案。在 MOO 中，目标不是寻找单一的最佳解决方案，而是找到一组代表各种目标之间最佳权衡的解决方案。

平衡相互冲突的经济价值的一种方法是使用多目标优化 方法(MOO)，其中人工智能系统旨在同时优化多个效用函数。每个效用函数代表不同的利益相关者或利益相关者群体的偏好和目标。人工智能系统寻求找到一种解决方案，在考虑相互冲突的目标之间进行权衡的同时，最大限度地提高所有利益相关者的整体效用。

多目标优化方法可用于设计同时优化多个效用函数的 AI 系统，例如客户满意度、盈利能力和环境可持续性。多种分析算法可用于同时优化多个目标或效用函数：

• 加权求和法：这种简单的方法通过为每个目标分配权重，将多个目标组合成一个单一的目标函数。然后使用传统优化技术优化目标函数。
• Pareto Front Method：这种方法涉及找到 Pareto 前沿，这是一组不被任何其他解决方案支配的解决方案。这可以使用诸如线性规划或非线性规划的数学规划技术来实现。
• 进化算法：MOO中常用的进化算法有遗传算法、粒子群优化、差分进化、多目标进化算法等。这些算法生成一组候选解，然后使用选择、交叉和变异操作演化出一组代表帕累托前沿的解。
• 约束法：这种方法向目标函数添加约束，以确保生成的解决方案满足某些条件。这些约束可用于确保解决方案可行并满足所有目标。
• 多目标线性规划：在这种方法中，多个目标表示为线性函数，问题被表述为线性规划。然后根据约束优化目标函数。
• 多目标二次规划：这种方法类似于多目标线性规划，但目标函数表示为二次函数。
• 非线性规划：在这种方法中，目标函数和约束表示为非线性函数。可以使用基于梯度的方法和非线性规划求解器等技术来解决该问题。
• 多目标禁忌搜索：这种随机搜索算法使用禁忌列表来防止搜索重新访问已经探索过的解决方案。它的工作原理是在解决方案空间中移动并交换变量以探索空间的新区域。
  

让我们深入研究帕累托最优解（因为我发现这个概念的可视化对我来说很容易理解）。

帕累托最优解
帕累托最优解是多目标优化问题中的一组解，这些解不被问题空间中的任何其他解支配。换句话说，帕累托最优解是一种在不恶化至少一个其他目标的情况下无法改善一个目标的解决方案。

帕累托最优解代表相互冲突的目标之间的最佳折衷。每个帕累托最优解对应于不同目标之间的不同权衡。例如，在旨在优化客户满意度和盈利能力的人工智能系统中，帕累托最优解决方案可能代表为客户提供更多资源和服务（以提高客户满意度）与最小化成本（以提高盈利能力）之间的权衡。

帕累托最优解的集合称为帕累托前沿。帕累托前沿是考虑给定经济系统中最佳结果的基本经济概念。它为分析竞争目标和偏好之间的权衡提供了一个框架。Pareto Frontier 可以可视化为二维或三维空间，其中曲线或曲面上的每个点代表一个 Pareto 最优解（图 3）。


图 3：帕累托边界

帕累托最优使我们能够在相互冲突的目标之间找到最佳折衷方案，并根据这些相互冲突的目标之间的权衡做出明智的决策。

创建健康的 AI 效用函数摘要
如果你想学习和成长，冲突是好的。如果每个人都以同样的方式思考并怀着同样的目标，那将收效甚微。但生活就是取舍，那么我们的 AI 模型和指导 AI 模型行动的 AI Utility Function 也应该如此吗？

了解经济价值和概念，如多目标优化、帕累托解决方案和帕累托前沿，使我们能够创建 AI 效用函数，反映现实生活中平衡竞争但基本目标的斗争。这是创建健康的 AI 实用功能的重要一步，该功能可指导 AI 模型交付负责任和合乎道德的结果的能力。

下一篇：
https://www.aboutyun.com/thread-35169-1-1.html

中文版ChatGPT
https://chat.aboutyun.com/

加微信赠送Chat GPT教程：





获取更多资源：
领取100本书+1T资源
http://www.aboutyun.com/forum.php?mod=viewthread&tid=26480

大数据5个项目视频
http://www.aboutyun.com/forum.php?mod=viewthread&tid=25235

名企资源、名企面试题、最新BAT面试题、专题面试题等资源汇总
https://www.aboutyun.com/forum.php?mod=viewthread&tid=27732