AI 時代， 是否存在第三條路？

人工智慧正以驚人的速度向前發展。

圍繞著它的問題，也同樣快速增加。

這些系統應該變得多有能力？

我們如何讓它們更安全？

它們應該如何被治理？

誰應該繼續承擔責任？

這些都是影響深遠的問題。

但它們有一個共同點。

它們主要都是關於 AI 的問題。

也許，還有另一個問題。

一個關於我們自己的問題。

兩個方向

目前圍繞 AI 的討論，大致沿著兩個重要方向發展。

一個方向，是推進 AI。

打造更有能力的模型。

改善推理能力。

擴大應用。

提高實用性。

解決過去難以處理的問題。

另一個方向，是治理 AI。

讓 AI 更安全。

更透明。

更能被問責。

更符合人類的意圖。

在後果重大的地方，維持有意義的人類監督。

這兩個方向，都不應該被忽視。

我們可能兩者都需要。

但即使兩者並行，仍然留下一個尚未回答的問題。

在這個愈來愈智能的環境裡， 那個仍然必須生活、判斷與選擇的人， 會發生什麼變化？

重新看一次

讓人持續參與其中，看起來是一項很直覺的安全保障。

醫師審視建議。

主管核准決策。

監管者進行監督。

仍然由人承擔責任。

人仍然在那裡。

但「人在場」，並不等於「人掌握控制權」。

正如我們在第一篇 Clarity Signal 中所探索的：

人在迴路中 ≠ 人真正掌握控制權

而且，還有另一個複雜之處。

讓人取得更多智能，並不會自動讓人擁有更好的判斷。

正如 Signal #002 所探討的：

更多智能 ≠ 更好的判斷

把這兩個觀察放在一起，一個不同的問題開始浮現。

一個人可能仍然保有作出決定的權力——卻同時缺少把決定作好的能力。

這個區別很重要。

有決定權，還不是完整的答案

一個人可以擁有推翻 AI 系統決定的權力。

但他能辨認出什麼時候應該這麼做嗎？

他可以取得一項解釋。

但他能判斷什麼值得注意嗎？

他可以看見多個建議。

但他能區分什麼只是顯著突出，什麼才真正相關嗎？

他可以在形式上繼續為最終決定負責。

但他能辨認出，哪些力量其實早已在影響自己的判斷嗎——

機器的建議、制度壓力、既有信念、急迫感、誘因、恐懼、信心，或習慣？

一個人類決策者的存在，並不能回答這些問題。

反而讓這些問題變得更加重要。

缺少的那個面向

我們正在投入大量資源，提高人工智慧的能力。

我們也正在投入資源，讓 AI 更安全、更能被問責，並受到更好的治理。

這兩者都是重要的發展方向。

愈來愈多研究與政策討論開始認識到，有意義的人類參與所需要的，不只是讓一個人留在決策迴路中。

這也帶出另一個關於發展的問題：

我們能否有意識地強化那些讓我們得以感知、衡量、判斷與選擇的人類能力？

這並不是要人類在 AI 所能做的每一件事上與 AI 競爭。

甚至可能正好相反。

當機器愈來愈擅長產生資訊、分析、預測與建議，一個獨特的人類挑戰仍然存在：

我應該注意什麼？

這裡真正重要的是什麼？

什麼應該取得更多分量——什麼應該更少？

什麼時候我應該依賴機器？

什麼時候我應該質疑它？

什麼時候，我也應該質疑自己？

而最終：

我應該選擇什麼？

HUMAN + AI 之中的人

愈來愈多研究正在追問，人類與人工智慧如何能夠更好地一起工作。

這是一個重要的問題。

但也許，我們應該更仔細地看這段關係中的其中一方：

Human + AI 之中的人。

這個人需要什麼能力？

不只是操作 AI 系統的技術能力。

不只是取得更多資訊。

也不只是擁有最終決定的形式權力。

而是能夠詮釋眼前所呈現的資訊，辨認什麼真正重要，重新衡量什麼值得取得分量，並最終作出判斷的能力。

這也帶出了另一種可能。

一條第三條路

也許，AI 時代需要另一條發展路徑。

不是取代 AI 的推進。

不是取代讓 AI 變得更安全。

也不是取代對 AI 負責任的治理。

而是與它們並行。

推進 AI。 強化人類能力。 守住人類自主能動性。

第三條路並不是要人類從人工智慧面前退卻。

也不是要求人類變得比能力愈來愈強的機器更加聰明。

它問的是另一個問題：

當我們發展能力愈來愈強的機器時， 我們必須有意識地發展自己身上的什麼？

這個問題改變了我們關注的焦點。

從機器的能力——轉向與機器互動的人的能力。

從只是讓人繼續參與——轉向追問，是什麼讓這樣的參與真正具有意義。

從保留選擇的權力——轉向強化真正把選擇做好的能力。

什麼必須變得更強？

也許，答案在最終決定之前就已經開始。

我們能看清楚眼前的情況嗎？

我們能辨認什麼正在影響自己嗎？

我們能區分什麼只是吸引注意，什麼才真正相關嗎？

我們能重新衡量自己給予不同因素的分量嗎？

我們能檢視 AI 的建議，而不是自動接受——或自動拒絕它嗎？

當自己的假設同樣值得被檢視時，我們能察覺嗎？

我們能在影響與行動之間，創造出足夠的空間，讓自己有意識地作出選擇嗎？

這些問題並不是在問，人類與機器誰比較優越。

它們問的是人類判斷的品質。

而且，愈來愈是在問：

人類自主能動性的品質。

CLARITY 視角

Clarity 在這條第三條路之中，探索其中一項命題：

當我們周遭的智能變得愈來愈充沛， 我們自身看得更清楚、衡量真正重要之事， 並有意識地作出選擇的能力， 可能也需要變得更強。

這是一項需要被檢驗的命題—— 而不是一個已經被證明的主張。

Clarity 計畫所追問的是：這項能力是否可以被更深入地理解、培養、練習，並最終被評量。

不是為了與人工智慧競爭。

也不是為了拒絕 AI 所能提供的價值。

而是要探索：

當人類使用愈來愈強大的智能時，需要具備什麼，才能不在不知不覺中逐漸讓渡自身判斷與選擇的品質。

開放問題

AI 將會繼續變得更有能力。

治理也會持續演進。

系統可能變得更安全、更透明，也更能被問責。

然而，這些發展都無法代替我們回答一個問題：

當我們周遭的智能變得愈來愈強大， 我們自身有什麼必須變得更強？

也許，要守住人類自主能動性，需要的不只是讓一個人留在決策迴路中。

也許，我們真正需要發展的， 是那個身在迴路中的人。

再看一次。 再衡量一次。