人机环境系统智能中的数与非数

有人认为：“人工智能最大的不足是：常常把非数当成了数去处理”，这意味着人工智能（AI）最大的不足可能是其在某些情况下缺乏人类的智慧和判断力。虽然 AI 在某些领域可以表现得非常出色，例如图像和语音识别、自然语言处理和复杂数据分析，但它仍然无法像人类一样理解情感、道德和伦理等问题。此外，AI 也可能出现偏见和歧视等问题，因为它们的算法是基于数据训练的，如果数据存在偏见，那么算法也会存在偏见。

AI 在某些情况下确实会把非数的事务当成形式化后的数来简化处理，这可能是由于算法的设计缺陷或者数据质量的问题。这可能是 AI 最大的不足之一，而且是很难被解决的非技术问题。科学家和工程师们可以通过改进算法和提高数据质量来尝试解决这些问题，从而提高 AI 的准确性和可靠性，但很多人对这些方法手段仍持保留看法，因为这属于扬汤止沸，还远远没有釜底抽薪。于是就有人进一步地质疑道：“就算所有的文字都可以用数字表示，所有的文学都可以用数学表征吗？”

的确，理论上，不少的文字和某些文学都可以用数字和数学表征。然而，在实际操作中，虽然数字和数学可以在一定程度上表征文字和文学，但在某些情况下，它们可能会丢失一些重要的信息。因此，在处理文字和文学时，我们往往需要结合其他方法和技术来获得更全面和准确的理解。对于文字，我们可以使用数字来表示它们。例如，我们可以用数字 0-9 表示阿拉伯数字，用数字 0-9 和 26 个英文字母表示英文字母。然而，这种表示方法可能会丢失文字的语义和语法信息。例如，单词 "apple" 和 "orange" 在数字表示下都是由字母 "a"、"p"、"p"、"l"、"e" 和 "o"、"r"、"a"、"n"、"g" 组成的，但它们在语义上有着不同的意义。对于文学，我们可以尝试使用数学方法来表征。例如，我们可以使用数学模型来分析文学作品中的语言结构、情感和主题。然而，这种表征方法可能会丢失文学作品的一些独特特征和艺术价值。例如，一首诗歌的美丽可能不仅仅在于它的语言结构和情感，还在于它的韵律、诗歌形式以及可以触及人类灵魂的力量。

将单词 token 化是自然语言处理中常用的方法，它的目的是将连续的自然语言文本转化为离散的模型输入。这种方法在很多任务中都已经取得了很好的效果，例如语言模型、机器翻译、文本分类等。然而，将单词 token 化也存在一些现有技术（包括GPT）很难解决的问题，例如再大的模型也很难学习到有意义的输入（这源于 token 化方法通常会将单词映射到离散的向量空间，从而丢失了部分连续的自然语言信息），进而会导致模型无法理解某些上下文或语义关系，从而影响其表现（为了解决这些问题，研究人员提出了许多改进的方法，例如 Word2Vec、GloVe 等。这些方法试图通过保留更多的语义信息来提高 token 化方法的效果）。毕竟，将单词 token 化是一种有效的自然语言处理方法，而不是一种有效的真实生活语言处理方法，研究人员可以不断改进这些方法，也可以提高大模型的表现和应用效果，但要把自然语言与生活语言进行对齐、把人工智能与人类智能进行近似难度还是不得而知的。

在许多场景下，不可能在没有自由的情况下绝对地对齐人机环境系统智能的方方面面，对齐和自由是正交的，也是矛盾的。在人机融合智能体的构建过程中，对齐是确保智能体按照预期目标行动的关键。然而，对齐可能会限制智能体的自由，因为在对齐的过程中，我们通常会设定一系列规则和约束来确保智能体遵循预定的目标。绝对的对齐可能是难以实现的，因为人机融合智能体可能具有超越人类的智慧和能力，这使得对齐的过程变得更加复杂。如果对齐方法过于严格，可能会限制智能体的创造力和灵活性，使其无法适应复杂的现实环境。因此，在人机融合智能体的构建过程中，我们需要在对齐和自由之间找到一个平衡点。这需要我们制定合理的规则和约束，确保人机融合智能体在一定程度上遵循我们的期望，同时保留一定的自由度，以便智能体可以根据实际情况进行自主决策和适应。

机器的可解释性是解决对齐和自由之间的平衡的关键一环。机器学习和人工智能算法在决策和行为方面的可解释性在人机环境系统智能领域变得越来越重要，因为许多算法和模型变得越来越复杂，难以理解其内部运作。如果机器的学习过程和决策过程缺乏可解释性，我们将无法理解机器的行为，也无法预测其可能的后果。这可能会导致机器在某些情况下失控，产生危险的结果。因此，机器的可解释性应该被视为人机环境系统智能战略的一部分。为了提高机器的可解释性，研究人员已经提出了许多方法，例如局部解释性方法（例如 LIME）、基于模型的解释方法（例如 SHAP）等。这些方法试图通过揭示模型的决策过程和关注特征来提高模型的可解释性。但这些方法还远远没有解决这个问题，仍需要我们投入更多的研究和努力，以确保机器学习和人工智能算法的透明度和可解释性，确保机器在各种应用场景环境中不会失控，并提高人类对机器行为的理解和信任。

人机环境系统交互设计中，事实性（数）设计原则是指在设计过程中，根据事实的需求和原则，制定出的一些指导性的规则。选择合适的事实设计原则和路径，可以更好地实现事实的推理和转化，提高设计质量和用户满意度。然而，在人机环境系统智能中，更多地是需要明确合适的价值（非数）设计原则和路径，以便更好地实现价值（非数）与事实（数）混合的推理和转化。具体实现两者的结合需要在设计过程中首先要明确价值需求和事实原则，包括事实与价值的类型、度量标准、可交换性等（这些信息可以通过市场调研、用户反馈、行业标准等方式获取）；其次，根据相应的需求和原则，分析可用的事实/价值设计原则，包括等价交换原则、商品价值量原则、竞争优势原则、真实性原则、可靠性原则、及时性原则、可追溯性原则等，并具体情况选择合适的原则；再次，根据选择的事实/价值设计原则，制定具体的设计方案，包括设计的目标、采用的技术和方法、预期的结果和评估方法等，对设计方案进行详细的分析和论证，确保可行性和合理性；接着，根据制定的具体事实/价值设计方案，进行具体的设计实施，且根据实际情况进行调整和改进，确保设计方案的顺利实施和高质量的成果；最后，在设计完成后，需要对设计结果进行评估，包括对设计方案的执行情况、事实/价值的实现情况、用户的反馈等进行分析和评估，对事实/价值设计原则和方案进行优化和改进。