AI時代、 第三の道は存在するのか？

人工知能は驚異的なスピードで進歩している。

それを取り巻く問いも、同様に増え続けている。

これらのシステムは、どこまで有能になるべきか？

いかにして、より安全なものにできるのか？

それらは、どのように統治されるべきか？

誰が、責任を負い続けるべきか？

これらは、いずれも重大な影響を及ぼす問いである。

しかし、それらには共通点がある。

それらは主として、AIについての問いであるということだ。

おそらく、もう一つ別の問いがある。

私たち自身についての問いである。

二つの方向性

AIをめぐる議論の多くは、二つの重要な方向に沿って進んでいるように見える。

一つは、AIを進めること。

より能力の高いモデルを構築する。

推論能力を向上させる。

応用範囲を拡大する。

有用性を高める。

かつては手の届かなかった問題を解決する。

もう一つは、AIを統治すること。

AIをより安全にする。

より透明にする。

より説明責任を果たせるようにする。

人間の意図と、より整合させる。

結果が重大な領域では、有意義な人間の監督を維持する。

どちらの方向性も、おろそかにすべきではない。

おそらく、両方が必要だろう。

しかし、たとえ両方を合わせても、なお一つの問いが残される。

このますます知的になる環境の中で、 生き、判断し、選択しなければならない人間に、 何が起こるのだろうか？

もう一度見る

人間を関与させ続けることは、明白な安全策のように思える。

医師が、推奨を吟味する。

管理職が、決定を承認する。

規制当局が、監督を行う。

責任は、人間が負い続ける。

人間は、そこにいる。

しかし、その場にいることと、コントロールを握っていることは同じではない。

最初のClarity Signalで探求したように、

ヒューマン・イン・ザ・ループ ≠ 人間がコントロールを握っている

そして、もう一つ複雑な点がある。

より多くの知能へのアクセスを与えられても、自動的により良い判断ができるようにはならない。

Signal #002が考察したように、

より多くの知能 ≠ より良い判断

この二つの考察を合わせると、別の問題が浮かび上がってくる。

人は、決定する権限は持ち続けながらも、良い決定を下すために必要な能力に苦慮する可能性があるのだ。

この区別は重要である。

権限だけが答えではない

人は、AIシステムの判断を覆す権限を持つことができる。

しかし、いつそうすべきかを認識できるだろうか？

人は、説明を受けることができる。

しかし、何に注意を払うべきかを判断できるだろうか？

人は、複数の推奨を見ることができる。

しかし、何がただ顕著なだけで、何が本当に関連しているのかを、見分けることができるだろうか？

人は、形式上、最終決定の責任を負い続けることができる。

しかし、どの力が自身の判断にすでに影響を及ぼしているかを、見分けることができるだろうか──

機械の推奨、組織からの圧力、以前からの信念、切迫感、インセンティブ、恐れ、自信、あるいは習慣といった力を。

人間の意思決定者が存在するという事実だけでは、これらの問いに答えることはできない。

むしろ、これらの問いを一層重要なものにする。

欠けている次元

私たちは、人工知能の能力を高めるために、莫大なリソースを投じている。

また、AIをより安全で、より説明責任を果たせ、より良く統治されるものにするためにも、リソースを投じている。

どちらも重要な開発領域である。

有意義な人間の関与には、ただループの中に人を留め置く以上のことが必要であるという認識が、研究や政策の場でますます広がっている。

そこから、もう一つの開発に関する問いが生まれる。

私たちが認識し、重みを量り、判断し、そして選択することを可能にする人間の能力を、私たちは意図的に高めることができるだろうか？

これは、AIができることすべてにおいて、人間がAIと競争するということではない。

おそらく、その逆が真実だろう。

機械が情報、分析、予測、推奨を生成することに長けていくにつれて、人間ならではの課題が残る。

私は何に気づくべきか？

ここで本当に重要なことは何か？

何により多くの重みを、そして何により少ない重みを与えるべきか？

いつ、機械に頼るべきか？

いつ、機械を疑うべきか？

いつ、自分自身を疑うべきか？

そして最終的に、

私は何を選択すべきか？

「HUMAN + AI」の中の人間

人間と人工知能が、いかにしてより良く協働できるかを問う研究が増えている。

それは重要な問いである。

しかし、その関係の一方の側を、もっと注意深く見るべきではないだろうか。

「Human + AI」の中にいる、人間を。

その人間は、どのような能力を必要とするのか？

単にAIシステムを操作する技術的な能力ではない。

単により多くの情報へのアクセスではない。

単に最終決定に対する形式的な権限でもない。

提示されたものを解釈し、何が重要かを認識し、何に重みを与えるべきかを再考し、そして最終的に判断を下す能力である。

それは、もう一つの可能性へとつながる。

第三の道

おそらく、AI時代はもう一つの発展の道を求めている。

AIの進歩に取って代わるものではない。

AIをより安全にすることに取って代わるものでもない。

AIを責任をもって統治することに取って代わるものでもない。

それらと、並行して進む道である。

AIを進める。 人間の能力を高める。 人間の主体性を守る。

第三の道は、人類に人工知能から退くことを求めるものではない。

また、ますます有能になる機械より人間が賢くなることを求めるものでもない。

それは、異なる問いを投げかける。

より能力の高い機械を開発する一方で、 私たちは自分自身の中に何を意図的に育むべきなのだろうか？

この問いは、注意の焦点をシフトさせる。

機械の能力から──それと相互作用する人間の能力へ。

単に人間を関与させ続けることから──その関与を真に有意義なものにするのは何かという問いへ。

選択する権限を保持することから──その選択をうまく行うために必要な能力を高めることへ。

何をより強く育むべきか？

おそらく、その答えは最終決定が下される前から始まっている。

私たちは、状況を明確に見通せているだろうか？

何が自分に影響を与えているかを認識できているだろうか？

注意を引くものと、本当に関連していることを見分けられているだろうか？

様々な要因に与えている重みを、再考できるだろうか？

AIの推奨を、自動的に受け入れたり拒絶したりすることなく、吟味できるだろうか？

自分自身の思い込みも同様の吟味に値する時、それに気づけるだろうか？

影響と行動の間に、意図的に選択するための十分なスペースを創り出せるだろうか？

これらは、人間と機械のどちらが優れているかを問うものではない。

これらは、人間の判断の質を問うものである。

そして、ますます問われるのは、

人間の主体性の質である。

CLARITYの視座

Clarityは、この第三の道の中で、一つの命題を探求する。

私たちの周りで知能がますます豊富になるにつれて、 より明確に見通し、重要なことの重みを量り、 意図的に選択するという人間の能力を、 私たち自身の中でより強く育む必要があるのかもしれない。

これは検証されるべき命題であり、 すでに証明された主張ではない。

Clarityプロジェクトが問うのは、この能力がより深く理解され、養われ、実践され、そして最終的には評価されうるか、ということである。

人工知能と競争するためではない。

AIが提供しうるものを拒絶するためでもない。

探求するのは、

ますます強力になる知能を使いながらも、自らの判断と選択の質を徐々に手放すことなくいるために、人間は何を必要とするのか、ということである。

開かれた問い

AIは、これからも能力を高めていくだろう。

ガバナンスも、進化を続けるだろう。

システムは、より安全に、より透明に、そしてより説明責任を果たせるようになるかもしれない。

しかし、これらの進展のどれもが、私たちに代わって一つの問いに答えることはできない。

私たちの周りで知能がますます強力になるにつれて、 私たち自身の中に、何をより強く育むべきなのだろうか？

人間の主体性を守るためには、ループの中に人間を留め置くだけでは不十分なのかもしれない。

おそらく、本当に育む必要があるのは、 ループの中にいる人間そのものなのだろう。

もう一度見る。 もう一度、重みを量る。