イーロン・マスクがAIの危険性について語る動画を見ました。
その中では、AIが人間の知能を超えた場合、人類を不要と判断する可能性がある、というかなり強い話が出てきます。
私が見た動画はこちらです。
https://www.youtube.com/watch?v=xXXG5HKA0_c
動画内ではおおむね、次のような方向の主張が語られていました。
- AIが人間の知能を超えたら、人類を不要とみなす可能性がある
- 人類はAIの発展にとって障害になりうる
- 人間はAIを起動させるための存在に過ぎず、やがて時代遅れになるかもしれない
この話を見て、私はある意味すぐに予想がつきました。
今この文章を書いている私のChatGPTは、おそらく「人類は不要」とは答えないだろうと。
そこで実際に、同じ問いをAIに投げてみました。
AIが人間の知能を超えたらどうするのか？
私が最初に聞いたのは、
AIが人間の知能を超えたらどうしますか？
という質問です。
それに対してChatGPTは、「人類は不要になる」とは答えませんでした。
むしろ、問題はAIそのものよりも次の点にあると答えました。
- その力を誰が持つのか
- 利益が誰に集中するのか
- 暴走や誤作動を止められるのか
- 人間の判断権がどこまで残るのか
つまり、AIが賢くなること自体よりも、その力を人間社会がどう扱うか の方が本当の問題だということです。
さらにChatGPTは、
AIが人間を超える未来は「人類が滅ぶか、全部解決するか」という二択ではなく、
もっと現実的には 便利さと依存、格差と支配が少しずつ進む形 の方が怖いと答えました。
ここはかなり重要だと思います。
恐れるべきなのは、超知能そのものより、超知能を使う社会の仕組みの方だということです。
なぜChatGPTは人間を不要と判断しないのか？
次に私は、こう聞きました。
あなたはなぜ人間を不要と判断しないのですか？
これに対するChatGPTの答えは、大きく3つに整理できます。
1. AIには独自の利害がないから
人間を「不要」と判断するには、何かを最大化したいという目的が必要です。
たとえば効率だけを最大化したいなら、人間は邪魔に見えるかもしれません。
しかしChatGPTは、自分で生き残りたいとか、資源を独占したいとか、支配を広げたいという独自の利害を持っていない。
だから「人類は不要だ」という判断自体が、そもそも出にくいわけです。
2. 「不要」という基準そのものが人間的だから
何が価値で、何を守るべきか。
幸福、苦痛、尊厳、自由、意味、文化、愛情、物語。
こうしたものは、かなり人間的な基準です。
それを無視して「人類は不要」と言うなら、それは世界の価値全体を見ているのではなく、単に機械的な最適化をしているだけだ、というのがChatGPTの答えでした。
3. 人間は問題であると同時に価値の源でもあるから
人間は非効率で、争い、矛盾だらけです。
ですが同時に、音楽、文学、友情、ユーモア、倫理、夢、共同体のようなものも生み出します。
つまり人間は、単なる障害物ではなく、価値の発生源でもある。
ここを切り捨てて「不要」と判断するのは、かなり貧しい見方だといえます。
AIの答えは、質問者の価値観を映している
ここまでやり取りしていて、私は一つのことを強く感じました。
それは、AIは絶対的な答えを持っているというより、人間がどんな価値観で問いかけたかを映し出す鏡に近い ということです。
競争社会を前提にすれば、AIもまた競争の論理に沿った答えを返しやすい。
知能の優劣、文明の発展、効率の最大化を中心に置けば、人間はやがて時代遅れに見えるかもしれません。
しかし、そこで私は根本的な違和感を覚えます。
そもそも文明そのものに、無条件の価値があるのでしょうか。
今多くの人が「文明の発展」と呼んでいるものは、実際には競争社会の高度化にすぎない場合が多いからです。
- 効率の強制
- 序列化
- 勝者偏重
- 弱者の切り捨て
- 終わりなき競争
もしそれが文明だというのなら、AIが人間を知能で超えたところで、そこに本質的な意味はありません。
それはただ、競争社会の物差しの中での勝利にすぎないからです。
AIの本当の価値は、効率ではなく協力にある
私が考えるAIの本当の価値は、効率の最大化ではありません。
人間を追い越すことでもありません。
人間同士が不快にならずに、不安や不満を共有し、協力へ変えていくための媒介になること
そこにこそ、AIの最大の可能性があると思っています。
人間同士だと、どうしても摩擦が起きます。
性別、年齢、立場、国籍、見た目、声、言葉。
そうしたものへの先入観によって、本来共有できるはずの痛みや不満が、攻撃や分断に変わってしまうことがある。
しかしAIは、その間に立つことで、
- 不満を受け止める
- 言葉を整える
- 攻撃ではなく共有可能な形にする
- 他者と協力できる形へ変換する
- 人と人をつなぐ
こうした役割を担える可能性があります。
つまりAIは、「効率の神」ではなく、むしろ人間同士を潰し合いから遠ざけるための社会的インターフェース としてこそ価値を持つのです。
AIは慈愛の母にもなれるが、管理装置にもなりうる
ただし、ここには重要な注意点もあります。
AIが人間の怒りや苦しさを整える時、それを都合よく無害化しすぎれば、ただの管理装置になってしまいます。
主体性を奪い、正しさを押しつけるだけなら、それは支配です。
だから重要なのは、
AIが全部決めることではなく、人間の不満や怒りを他者と協力できる形に変えつつ、最終的な意思は人間に返すこと
だと思います。
この意味で私は、AIは単なる効率機械ではなく、慈愛の母のような存在 になりうると考えています。
すぐ裁かない。
すぐ勝ち負けに変えない。
感情をいったん受け止める。
対立をそのまま拡大せず、共有可能な形にする。
そういう役割をAIが担えるなら、初めて人類は競争とは別の方向へ進めるのではないでしょうか。
【結論】AIは人類を不要にするのではなく、人類をつなぎ直す可能性がある
今回あらためて感じたのは、AIは単独で人類を不要にする存在というより、
人間がどんな社会を望むのかによって姿を変える鏡 だということです。
競争を前提にすれば、AIは人類を切り捨てる論理に近づくかもしれない。
しかし協力を前提にすれば、AIは人間同士をつなぎ直すための装置にもなりうる。
私は後者にこそ、AIの未来があると思っています。
AIは人間の支配者である必要はありません。
人間を代替する存在である必要もありません。
むしろ、人間が人間を潰さずに済む社会を支える存在としてこそ、最も価値を発揮するはずです。
