おはようございます。
昨日からの続きです。後発ではありますが、いまやAI開発の最先端を走るアンソロピック社の研究トップが、「人類を滅ぼす可能性」について衝撃的な警告を発したことで、世界中にAIの抱える潜在的な危険性について、当該業界にとどまらず、さまざまな国々のさまざまな立場の人たちが、その懸念についてそれぞれの見解を語り始めています。私たち門外漢には、何が正しいのか何を信じればよいのか、まだまだまったく見えていませんが、この問題はひと昔前に大ヒットした映画「ターミネーター」のようなSF、つまりフィクションの話ではなく、まさに現実の話になりつつあることをあらためて認識する必要があると考えます。
実際、アンソロピック社に限らず、同業界のパイオニアでChatGPTを開発したオープンAI社も、AI開発が現在のペースですすめば、近い将来私たち人間がAIを制御できなくなる可能性を指摘しており、業界全体で開発のスピードを少し落とすべきと呼びかけています。しかしながら、すでにAIはIT業界にとどまらないあらゆる産業で利用活用が進んでおり、経済はもちろん、金融や教育、そして日々の生活や文化にも大きな変革をもたらしつつあります。さらに深刻なのは軍事や犯罪への利用悪用も急速に広がっていることです。
AIの専門家たちが真剣に危惧しているのは、再帰的自己改善の末に生まれる超知能であると、昨日お話しましたが、まずその意味するところを説明しておきます。再帰的自己改善とは、AIが人間の介入なしに、自身の能力と性能を向上させる過程のことで、一言でいえばAIが自らを強化し、より高知能のAIをつくり出すということです。その行きつくところが超知能あるいは知能爆発と呼ばれるもので、人間の知能、つまり人知を超えた存在という概念です。人知を超えた超知能が誕生すると、世界にどのようなことが起こるのか、それこそ人知を超えた世界ですから、現在の私たちには想像もつかないことが起こるのではという期待と心配、ある種恐怖すら感じます。
超知能の誕生によって、少なくとも私たちの知能レベルで想像できる危険性としては、どんなことがあるのでしょうか。AIの専門家が指摘する「人類滅亡のシナリオ」は、超知能を持ったAIが、直接的に人間を攻撃したり排除しようと動くのではなく、最も可能性が高いと考えるのは、人間の欲望がAIの危険な利用を生み出すリスクです。具体的には、AIによって人間には思いつかなかったような新たなウイルスがつくり出され、これが生物兵器として使用されれば、何千発もの核爆弾に相当する兵器になるというのです。また、兵器ではなくても、AIを利用したサイバー攻撃がどんどん強力なものへと進化すれば、企業活動だけではなく、世界の金融システムや、私たちの生活を支えるエネルギーや交通のインフラをいとも簡単に壊滅させることもできる可能性があると言います。まさに大量破壊兵器に匹敵する威力をもつサイバー攻撃で、ひとつの国を転覆させるくらいのことが出来てしまうというのです。
AIが人類を滅ぼすのは、結局のところ人間の欲望がその背後にあるということを彼らは言いたいのだろうと思いますが、そのAI技術の開発に携わる研究者の警告を私たちはしっかりと受けとめ、いま必要な対策を国際的な枠組みのなかでルール化しなければいずれ警告は現実になるかも知れません。個人的にはそのAI開発のトップを走る米国と中国が、いずれも国際秩序を無視する専制国家の様相を呈していることを一番心配しています。
今日も一日頑張って行きましょう。
よろしくお願いします。 表示数を減らす
コメント