AI 时代， 是否存在第三条路？

人工智能正以惊人的速度向前发展。

围绕着它的问题，也同样快速增加。

这些系统应该变得多有能力？

我们如何让它们更安全？

它们应该如何被治理？

谁应该继续承担责任？

这些都是影响深远的问题。

但它们有一个共同点。

它们主要都是关于 AI 的问题。

也许，还有另一个问题。

一个关于我们自己的问题。

两个方向

目前围绕 AI 的讨论，大致沿着两个重要方向发展。

一个方向，是推进 AI。

打造更有能力的模型。

改善推理能力。

扩大应用。

提高实用性。

解决过去难以处理的问题。

另一个方向，是治理 AI。

让 AI 更安全。

更透明。

更能被问责。

更符合人类的意图。

在后果重大的地方，维持有意义的人类监督。

这两个方向，都不应该被忽视。

我们可能两者都需要。

但即使两者并行，仍然留下一个尚未回答的问题。

在这个越来越智能的环境里， 那个仍然必须生活、判断与选择的人， 会发生什么变化？

重新看一次

让人持续参与其中，看起来是一项很直觉的安全保障。

医师审视建议。

主管核准决策。

监管者进行监督。

仍然由人承担责任。

人仍然在那里。

但「人在场」，并不等于「人掌握控制权」。

正如我们在第一篇 Clarity Signal 中所探索的：

人在回路中 ≠ 人真正掌握控制权

而且，还有另一个复杂之处。

让人取得更多智能，并不会自动让人拥有更好的判断。

正如 Signal #002 所探讨的：

更多智能 ≠ 更好的判断

把这两个观察放在一起，一个不同的问题开始浮现。

一个人可能仍然保有作出决定的权力——却同时缺少把决定作好的能力。

这个区别很重要。

有决定权，还不是完整的答案

一个人可以拥有推翻 AI 系统决定的权力。

但他能辨认出什么时候应该这么做吗？

他可以取得一项解释。

但他能判断什么值得注意吗？

他可以看见多个建议。

但他能区分什么只是显著突出，什么才真正相关吗？

他可以在形式上继续为最终决定负责。

但他能辨认出，哪些力量其实早已在影响自己的判断吗——

机器的建议、制度压力、既有信念、急迫感、诱因、恐惧、信心，或习惯？

一个人类决策者的存在，并不能回答这些问题。

反而让这些问题变得更加重要。

缺少的那个面向

我们正在投入大量资源，提高人工智能的能力。

我们也正在投入资源，让 AI 更安全、更能被问责，并受到更好的治理。

这两者都是重要的发展方向。

越来越多研究与政策讨论开始认识到，有意义的人类参与所需要的，不只是让一个人留在决策回路中。

这也带出另一个关于发展的问题：

我们能否有意识地强化那些让我们得以感知、衡量、判断与选择的人类能力？

这并不是要人类在 AI 所能做的每一件事上与 AI 竞争。

甚至可能正好相反。

当机器越来越擅长产生信息、分析、预测与建议，一个独特的人类挑战仍然存在：

我应该注意什么？

这里真正重要的是什么？

什么应该取得更多分量——什么应该更少？

什么时候我应该依赖机器？

什么时候我应该质疑它？

什么时候，我也应该质疑自己？

而最终：

我应该选择什么？

HUMAN + AI 之中的人

越来越多研究正在追问，人类与人工智能如何能够更好地一起工作。

这是一个重要的问题。

但也许，我们应该更仔细地看这段关系中的其中一方：

Human + AI 之中的人。

这个人需要什么能力？

不只是操作 AI 系统的技术能力。

不只是取得更多信息。

也不只是拥有最终决定的形式权力。

而是能够诠释眼前所呈现的信息，辨认什么真正重要，重新衡量什么值得取得分量，并最终作出判断的能力。

这也带出了另一种可能。

一条第三条路

也许，AI 时代需要另一条发展路径。

不是取代 AI 的推进。

不是取代让 AI 变得更安全。

也不是取代对 AI 负责任的治理。

而是与它们并行。

推进 AI。 强化人类能力。 守住人类自主能动性。

第三条路并不是要人类从人工智能面前退却。

也不是要求人类变得比能力越来越强的机器更加聪明。

它问的是另一个问题：

当我们发展能力越来越强的机器时， 我们必须有意识地发展自己身上的什么？

这个问题改变了我们关注的焦点。

从机器的能力——转向与机器互动的人的能力。

从只是让人继续参与——转向追问，是什么让这样的参与真正具有意义。

从保留选择的权力——转向强化真正把选择做好的能力。

什么必须变得更强？

也许，答案在最终决定之前就已经开始。

我们能看清楚眼前的情况吗？

我们能辨认什么正在影响自己吗？

我们能区分什么只是吸引注意，什么才真正相关吗？

我们能重新衡量自己给予不同因素的分量吗？

我们能审视 AI 的建议，而不是自动接受——或自动拒绝它吗？

当自己的假设同样值得被审视时，我们能察觉吗？

我们能在影响与行动之间，创造出足够的空间，让自己有意识地作出选择吗？

这些问题并不是在问，人类与机器谁比较优越。

它们问的是人类判断的质量。

而且，越来越是在问：

人类自主能动性的质量。

CLARITY 视角

Clarity 在这条第三条路之中，探索其中一项命题：

当我们周遭的智能变得越来越充沛， 我们自身看得更清楚、衡量真正重要之事， 并有意识地作出选择的能力， 可能也需要变得更强。

这是一项需要被检验的命题—— 而不是一个已经被证明的主张。

Clarity 计划所追问的是：这项能力是否可以被更深入地理解、培养、练习，并最终被评量。

不是为了与人工智能竞争。

也不是为了拒绝 AI 所能提供的价值。

而是要探索：

当人类使用越来越强大的智能时，需要具备什么，才能不在不知不觉中逐渐让渡自身判断与选择的质量。

开放问题

AI 将会继续变得更有能力。

治理也会持续演进。

系统可能变得更安全、更透明，也更能被问责。

然而，这些发展都无法代替我们回答一个问题：

当我们周遭的智能变得越来越强大， 我们自身有什么必须变得更强？

也许，要守住人类自主能动性，需要的不只是让一个人留在决策回路中。

也许，我们真正需要发展的， 是那个身在回路中的人。

再看一次。 再衡量一次。