AIのリスク

一般に言われてるリスクについて、ちょっと考えて見る。

「AIが人類に敵対して戦争になる」
幼稚な妄想でお話にならない。知恵のある人間ならまともに考える必要のあることではない。

「AIを強力な武器として悪用する人間が多数現れる」
これは確実に発生する重大なリスクだ。てか、すでに利用され始めているだろう。
人間を前線に送るにはいろいろと制約がある。反対する人間も多いし、良心も傷つく。しかし AI搭載兵器なら、ゲーム感覚で気楽に戦争を始められる。
相手国も AI搭載兵器を使っているのなら、なおさら戦争は始めやすくなるだろう。

「AIに頼りきった結果、社会をコントロールする能力を人間が失う」
これは「テレビを見ていると馬鹿になる」と同じ理屈。実際にそうなる。（ちなみにゲームをやっても馬鹿にはならない。しかしテレビをずっと見ていると、確実に馬鹿になる）

人間に限らず動物は使わない能力が退化する。何も考えないで生活できるんなら、思考力はどんどん低下し決断力がなくなる。テレビを見ているかぎり「考えるな、感じるんだ」って感じで生活ができるのだ。単に情緒的に反応するだけの人間になりさがる。

まぁ、AIが全部やってくれるんなら、人間は退化して滅亡しても問題ないのかもしれない。

そういうわけで、AIが人間と対立して戦争をするなんて妄想はナンセンスなことがわかる。AIが人類を滅亡させたいなら、対立して戦争するのではなく、有能な奉仕者として振る舞う方が確実だからだ。

「多くの人間が社会構造の変化に対応できず職を失う」
おそらくこれが最大のリスク。リスクとして認識しづらく、対策も難しいからだ。
これに対しては、政治が全体を把握してコントロールしなければならない。ところが、政治がそんな高度な事柄を適切にコントロールできるわけがないのだ。だから社会は成り行き任せの発展でグチャグチャになる。
一部の人間たちは AIを利用して金儲けをし、政治権力も好きなようにコントロールする。一方で、経済的弱者の多数の人間は AIとうまく付き合えず、職など社会的基盤を失う。