真にコントロールを握っているのは誰か？

先進的なAIをめぐる世界的な対話の多くは、ある喫緊の問いに収斂する。

ますます能力を高めるAIを、 いかにして有意義な人間のコントロール下に置き続けるか？

それは不可欠な問いである。

しかし、それが唯一の問いではないかもしれない。

なぜなら、意思決定プロセスに人間を介在させるだけでは、そこにどれだけ有意義な人間の判断が残されているかは、必ずしもわからないからだ。

そこから、もう一つの問いが浮かび上がる。

人間がコントロール下に置き続けるとは、 いったい何を意味するのか？

安心な答え： 人間をループに残す

広く用いられている原則の一つは、きわめて単純だ。

AIは分析、予測、提案をすることができるが—— 人間はそこに関与し続ける。

この直観には説得力がある。

最終決定権が人間の手にある限り、人間の主体性は保たれるように見える。

しかし、研究エビデンスは、その関係がより複雑である可能性を示唆している。

292人の参加者による2024年の査読付き実験で、研究者のダニエラ・セレとマリーナ・チュグノワは、推奨事項を監視し修正する能力を保持している場合、人々がその推奨事項をどのように利用するかを検証した。

参加者に推奨事項の監視と修正を許可したところ、アルゴリズムによる推奨を好む傾向が7パーセントポイント増加した。

「ヒューマン・イン・ザ・ループ」の条件下にあった参加者は、自身が提出した予測に対してより高い自信を報告した。

しかし、介入する能力を保持していることは、より良い監督を保証するものではなかった。

この特定の実験課題では、人間の監督者による修正は、平均的な意思決定の正確性を低下させた。

推奨に大きな誤りが含まれている場合、参加者は介入する可能性が低くなり、介入した場合でも、その大きな誤りを修正する度合いは小さかった。

この研究は、人間の監督が一般的に無効であると結論づけるものではない。

著者らは、結果は課題、自動化された支援のパフォーマンスと信頼性、人間の監督者の専門知識、そして彼らが入手できる情報に依存しうると明記している。

しかし、この研究結果は、検証に値する一つの区別を明らかにしている。

ループの中にいる ≠ 本当にコントロールを握っている

これは普遍的な結論としてではなく、 検証する価値のある区別として。

もう一度見る

AIが支援する意思決定を想像してみてほしい。

最終的には、人間が承認のサインをする。

形式上、権限は人間に残る。

しかし、その最終承認の前に、AIシステムは次のことを決めるプロセスに関与したかもしれない。

どのような情報が提示されるか、

問題がどのように枠づけられるか、

どの選択肢が浮かび上がるか、

何が関連しているように見えるか、

そして、どの行動が推奨されるか。

したがって、より重要な問いは、おそらくこれよりも深いところにある。

最終的に誰が決定を下すのか？

それは、これもまた問いとなりうる。

その決定が生まれた土壌を形成したのは誰か？

AIシステムが問いに答えるだけでなく、より複雑で連続的な一連の作業を実行するようになるにつれて、この問いはますます重要になる。

マーガレット・ミッチェル、アヴィジット・ゴーシュ、サミル・パッシによる2026年のポジションペーパーは、現在のAIエージェント開発のアプローチが、効果的な人間の監督を妨げる可能性があると論じている。

著者らはさらに、AIシステムへの長期的な依存は、効果的な監督に必要な認知能力の一部を低下させる可能性があり、人間の批判的な判断を支援するよう設計されたシステムと組織的実践を求めている、と論じている。

これはポジションペーパーであり、決定的な実証的エビデンスではない。

しかし、それが提起する問いは、注目に値する。

もう一度、重みを量る

おそらく、人間の主体性は、最終的なクリックを人間に割り当てるだけでは守られない。

有意義な主体性は、人間が以下のことができるかどうかにかかっているのかもしれない。

• 何が重要かに気づき、
• 何が認識に影響を与えているかを認識し、
• その枠組みに疑問を呈し、
• 他の選択肢を吟味し、
• 関連する要因にふさわしい重みを与え、
• そして最終的に、
• 意図的に選択すること。

これは、AIに関する議論を変える。

問題はもはや、これだけではない。

AIはどれほどの能力を持つべきか？

あるいは、

AIはどのように統治されるべきか？

第三の問いが浮かび上がる。

身の回りのAIが能力を高めていく中で、 人間はどのような能力を維持し続けなければならないのか？

CLARITYの視点

これは、Clarityプロジェクトが探求する問いの一つである。

Clarityは、AI時代における人間の能力として探求されている。

すなわち、認識と判断を何が形成しているのかをより明確に見抜き、本当に関連していることを見分け、そうした影響にふさわしい重みを与え、より意図的な選択を行う能力である。

これは、AIの安全性、規制、技術的な安全策、あるいは組織の説明責任に取って代わるものとして提案されているわけではない。

これは、問題の異なる層を扱うものである。

人間の能力という層だ。

AIが介在する度合いを増す世界で、人間の主体性が有意義であり続けるためには、形式的な決定権を守るだけでは不十分かもしれない。

その権利を適切に行使するために必要な人間の能力そのものを、私たちもまた強化する必要があるのかもしれない。

これはあくまで探求すべき命題であり、 守るべき結論ではない。

開かれた問い

したがって、問いは、単にこれだけではないのかもしれない。

人間はAIのコントロールを保ち続けられるのか？

それは、同時にこうも問うている。

私たちの周りにある知能が能力を高めるにつれて、 私たち自身の内で、何をより強くしなければならないのか？

もう一度見る。もう一度、重みを量る。