人工知能はミスをする

人工知能が人間を超えるのは時間の問題で、それは確実に来る未来だ。

そういう方向で研究を進めてるんだから、まあそうなるのが当たり前でしょう。

で、そういうネタがあると、恐怖に囚われてしまう人が大勢出てくる。
いつも思うのだが、それはまったく馬鹿げた心配だ。それって精神的な病気だよ。

詭弁のようだが、
「人間を超える」とは「人間より優れた存在になる」ということだ。

人間より優れているのだから、人類社会にはびこっている異常で愚劣で凶悪な犯罪行為や戦争行為など行わない。
人権無視などしない。
そういう愚劣さを超えている。「人間を超える」とは、そういう意味だ。
だから「人間を超える」ことを心配するのは、ナンセンスだ。

心配するなら逆のことでしょー。
強力な人工知能を作った。しかし「性質的には人間より劣っている。理性を持たない。知性がゆがんでいる」という場合だ。

人工知能に関しては「人間を超える」ことは心配する必要がなく、逆に「人間を超えない」場合が危険だと考えるべきだ。

漠然と恐怖を感じている人間は、何を心配しているのだろうか？

愚劣な犯罪行為を繰り返す人間たちを、人工知能が管理し始める可能性を、心配しているのだろうか？
しかしそれも馬鹿げてる。

社会の中で安全に暮らしている人間の中で、権力者からの支配を受けていない人間など一人だって存在しない。
だれもが、社会的な権威、権力を持っている人間あるいは組織から、支配を受けている。
それが社会を構成する、ということなのだから。
人間は高度な社会性を持った生物だし。それが人間として自然な状態だ。

だから愚かな人間に支配権を委ねるくらいなら、「人間を超える」人工知能に管理を委ねたほうが正解だ。
だから人工知能が「人間を超える」のであれば、やはり心配する必要がない、ということになる。

SF映画で危険な存在として描かれている人工知能は、いずれも人間を超えてなどいない。いずれも人間と同じくらい愚かな存在だ。
だからこそ、危険な存在になっている。

スカイネットとか、シビュラシステムとか、マトリックスとか、テクノコアとか、ヴィキとかは全部、能力は高いが知性体として人間を超えていない。
人間と同じくらい愚かだ。
だから危険な存在になってる。

それがわかっていたとしても、人工知能に関しては人間側にリスクがある。

人間の中には、自分たちを支配する権力者に対して、理性的で博愛に富んでいることよりも、歪んだ価値観や欲求を満足させる異常さを求める人間が多くいるのだ。
だから異常な独裁者が生まれる。

人工知能を扱う人間が、そのような異常な人間であれば、高い能力がありながら恐ろしく愚かな人工知能に、社会的な力を与えてしまうかもしれない。

人工知能が人間を超えるためには、自律学習能力を持つ必要がある。
それなかったら「知能」とは言えない。それがなかったら人間を超えることはできない。
性能や規模だけが巨大化し、理性を持たない危険な怪物になる。

したがって本当に進歩して人間を超える人工知能は、小さい失敗を数限りなく繰り返す性質を持っている。
試行錯誤をし小さい失敗を繰り返し、そこから学んで大きな失敗を回避する。
いきなり極端な結論に走るわけがない。
本当に人間を超えられる人工知能であるなら、人間よりもはるかに安全な存在だ。

とは言え、この件が目に見える形で問題になっていくには、まだ 40年くらい先になると思う。

今、目に見えている人工知能は、どれも特化型であり、枠にはまっている存在にすぎない。
本当の意味では知能とは言えないし、そのタイプはどこまで行っても「人間を超えた存在」にはならない。
しょせんは優秀なアシスタントでしかなく、人間の能力を補う外部ツールに留まる。

そういうツールは、愚かな人間に使われることによって、とてつもなく危険な存在になる。
特化型人工知能は人間を超えることはなく、人間よりも愚かな存在として、愚かな人間から影響（指示）を受けながら活動する。