AI（人工知能）はどのように進化するのか？

AIの分野において非常に影響力のある人々の中には、AIが「意識を持つ」ものに進化すると考えている人がいます。もしそんな事になれば、SF小説家の預言通り、AIは世界を牛耳り、人類が奴隷になるところまで発展するかもしれません。しかし、この見方がどのぐらい現実的で、それを実現するには、どういった革新的な道をたどる必要があるのでしょうか？

この革新の道を進んだ場合、私たちはある時点で、AIの制御ができなくなっているでしょう。こういった事態を避けるには、それなりの確信をもって、重要な変曲点に近づいている時期を認識しておく必要があります。

これは、鶏が先か、卵が先か、といった古典的な話に例えて考えることもできますが、この場合、私たち人間を優先すべきなのは明らかですよね。私たちなしには、AIは進化し続けることはできません。AIが私たちを必要としなくなるような進化点には決して、到達することはないでしょう。

もしもそういった点にごく近くなってしまったら、鶏を殺すか、はたまた卵を割るべきでしょうか？必要ならば、躊躇することなくAIの電源を切るべきなのでしょうか？それとも、AIへ依存しているシステムがあまりにも多く、その頃には、AIをシャットダウンすることができなくなっているでしょうか？そうなってしまったのであれば、自動的に作動するキルスイッチが必要でしょうか？ただ、そのスイッチが、想定通りの動作をすると信頼して良いのでしょうか？

これらは、もはや仮説に基づいた質問ではなくなっており、深刻な懸念事項と考える識者も増えています。

技術的特異点

私たちには長きにわたり、様々な技術を操ってきた実績があります。問題は、簡単に言えば、知能が単に従順さを装っているのではないということを、どのようにして知るか、ということです。人に関して言えば、未知の動機が隠れているため、こういったことは簡単ではありません。飼いならされたペットの場合は、人よりも簡単でしょう。なぜなら、彼らの動機はシンプルだからです。つまり、問題に対しての答えとしてはおそらく、AIが未知の要因によって動機づけされることが、決してないようにすることだと言えます。

技術の知能が人間の知能を上回る技術的特異点に達するまで、残された年月はわずかしかないかもしれません。予想では、2005年から2030年のどこかで起きると言われており、イーロン・マスク（Elon Musk）は、早ければ2025年には特異点に達すると考えています。技術的特異点は、どんどん短くなるサイクル期間の結果であり、その間、AIは自らを改善し、より知的なバージョンの自己複製を行い、数サイクルを経るうちに、私たちよりもさらに賢くなっています。

AIの方が賢くなった時どうなるかは、誰にも分かりません。単独で動作している単一のAIを解除するのは難しくないでしょう。IoTでは打ち勝つことのできない全能を、AIに与えることも考えるべきではありません。鍵となるのは、何らかのフェイルセーフ機能を内部に構築することで、危険な事態にまで発展させないようにすることです。

興味深いことに、現在、ごく少数の人々がこうしたフェイルセーフ機能がどう働くのか、検証しています。実際のところ、AIの分散型の性質からして、キルスイッチを実行することすら不可能なのかもしれません。

これはSecuring Artificial IntelligenceのETIS SAI ISGを検討している、ETSI ISG (Industry Specification Group)により述べられている潜在的な問題の一つです。 2021年1月に発表されたSAI ISGの最初のレポートは、AIのセキュア化を専門に取り扱う組織やイニシアチブにより作成されました。最初のGroup Reportでは、問題記述の概要が記載されており、ここでは、今日のAIに存在する基本的で、より広範な課題が、部分的に特定されています。このレポートには、今のAIがどのように機能するか理解できるような、基本的なことも記載されています。

このレポートではまた、AIシステムがこれまでのITシステムといかに違うのかということに重点を置いています。例えば、その動作方法がゆえに、AIシステムをひとつ前のポイントまで戻すことは実質不可能です。AIの進化の仕方は、他のITシステムのように断片型、または、手続き型といったものとは異なります。つまり、AIが「間違えた」場合には、それを「正しい」バージョンに戻すことは非常に困難であるということです。同じ理由から、AIシステムのバックアップも困難です。これらの観点から、AIはすでに生きた存在であり、アクティブであり続けるために、前に進み続ける必要があります。

そして、AIはITとは異なるため、ファイヤーウォールのような通常のセキュリティ対策は、AIをセキュアにする上で効果があまりないと考えられています。ETSI SAI ISGは、AIにおけるセキュリティ上の弱点を特定することや、機械学習が進歩を遂げる方法に努力の焦点をおき、そして次に、これらの弱点に対処することに同意しています。従来型のITセキュリティソリューションは適切ではなく、まったく新しいアプローチが必要であると、すでに結論付けられており、これには、AIのトレーニング方法、AIが、従来の攻撃や、AIベースの攻撃から自らを防御する方法、また、これらの攻撃にAIを使用する方法などが含まれます。

強いものから弱いものまで

研究者はAIのことを弱いか強いか考える傾向があります。今の大半のAIシステムは弱いと分類されるものです。これは、システムが、すべてにおいてではなく、特定の事柄を上手に行うようトレーニングされていることを意味します。これには、画像認識などで使用されている専門的なシステムが含まれ、例として、医療画像から癌の兆候を検査するようなシステムが挙げられます。

汎用型人工知能としても知られている強いAIは、トレーニングをしたり、専門知識を与えたりする必要がないものです。基本的に、AI自身ですべてを学びます。一部の人は強いAI、すなわち汎用型人工知能のみが知覚を持つようになると考えているようです。強いAIは、必ずしも技術的特異点と同時に生まれるわけではありませんが、おそらくこの2つは、密接に関係していると推測できるでしょう。  

ロボットは人間の顔をしたAIであり、人間のように見えるのであれば、人間と同じぐらい知的であるべきであるとの前提から、ロボットをより人間に近いものにしようとする動きがあります。そこには真の論理というものはありませんが、その発想は多くの場所で受け入れられています。この発想の意味するところは、人間に近づけるのに十分なAIを持ったロボットを利用できることが、現実の転換期になるだろうということです。

Hanson Roboticsにより開発され、2017年にサウジアラビアから市民権を与えられた人間そっくりのロボットである、ソフィアのような例は、将来を指し示す指針となっています。2007年に推進された「ロボット倫理憲章」のアイデアは世界中に広がっています。こういった憲章は、ロボットと人間の両方を濫用や、悪意ある目的から守るでしょう。2020年にNXPはAI倫理イニシアチブを立ち上げました。これは、エッジデバイスにおける、AI使用の倫理的アプローチの促進を目指しています。ここでは、5つの指導原則からなるもので、無害、人間の自主性の保護、透明性による信頼、リスク緩和、プライバシーとセキュリティをカバーしています。

平行的な開発工程であるものの、AIとロボット工学との間には切り離せないつながりがあるようです。最終的に収束することが予想されるだけでなく、実質避けられないものになるでしょう。

Hardware in the loop

ロボットのポリマースキンの内側、あるいは、人工知能をもつあらゆるデバイスには、多数のハードウェアとソフトウェアが搭載されているでしょう。量子計算は、すべてを変えることができる画期的な技術である一方で、優勢な処理方法となるには、まだまだ時間がかかるでしょう。

これは、今後何十年にもわたり、AIが半導体ベースの集積回路に依存しなくなると考えるのは難しいということを意味します。驚くことではありませんが、このレベルの研究や開発が多く進められています。ソフトウェアは、賢い意思決定のフレームワークを提供しますが、そのフレームワーク構造を提供するのはハードウェアです。

GPUやDSPといった、従来型のアーキテクチャによる、より強力で、よりパラレルなプロセッサだけでなく、AIをまったく別の方法で扱うAIアクセラレータや、新しいアーキテクチャへの関心が高まっています。

従来型のCPUアーキテクチャは本質的にシリアルであり、並列化するための様々なトリックはあるものの、よくあるソフトウェアは依然、手続き型になっています。しかし、ハードウェアでは異なり、FPGAやASICは、並列実行を考慮した言語を使用するよう設計されています。AIアーキテクチャをプログラムする新しいソフトウェア言語はまだありませんが、アーキテクチャ自体は誕生しつつあります。

AIは、ビッグデータの処理のため、あらゆるデータセンターで使用されている一方、エッジデバイスでも使用されています。これらのアプリケーションでは、低電力で作動することがカギとなります。エッジデバイスでAIを使用するうえで、最も期待できることの一つに、技術の使用を容易にすることがあります。音声を使うことに関して、大きな期待が寄せられており、音声コマンドを解釈するAIの使用は、おそらく現代で、インテリジェントな未来を示す典型的な例です。

スタートアップ企業Syntiantが、こういったアプリケーションに限ったニューラルネットワークを2つ開発しました。Neural Decision Processoräは、ニューラルネットワークプロセッサIPをベースにし、つくられています。同社の主張によると、人気のあるニューラルネットワークアーキテクチャの大半において動作し、同時に、消費電力が非常に少ないとのことです。つまり、携帯用のバッテリー式デバイスにおいて、常時言語検知機能の提供が可能になることを意味します。

Intel、Nvidia、Armといった有名なプロセッサ会社の多くや、IBM、Amazonなどの技術会社は、この分野での開発について声明を出しています。大企業では、トレーニングを行うデータセンターでのAI加速化に重点を置いているようです。必要とされる処理の大半をトレーニングが占めているので、これは理にかなっています。ここではどのアプローチが最高であるかを証明する競争がモノを言います。一般的に言えば、この争いは何世代にもわたるプロセッサや、アクセラレータ技術で引き続き行われる可能性が高いでしょう。何世代にもわたり、各技術の差がどんどん小さくなることで、勝者と敗者が決まることが予想されます。

大半のAIや機械学習が推測の域をまだ出ないエッジにおいては、ポジション獲得のため、多くの計画が存在します。市場アナリストの予測から、この分野あたりでは、スタートアップが活躍しています。ここにはなじみの名前ではなく、また、その名前がなじみの企業名となることはないかもしれません。多くのビジネスモデルは、より大きな企業、あるいはより名の知られたブランドにより買収されるためです。

こういった企業に共通しているのは、特定のアプリケーションに重点を置くという点です。これが、私たちが言うところの弱いAI、すなわち、エキスパートシステムです。マシンビジョンは、そのようなアプリケーションの一つで、特に自動運転車などの新たに出現するトレンドに用いられます。

近い未来を予測する

既知の事実を考えれば、AIについて、近い将来に何が起こり得るかを予測することは、それほど難しくはないはずです。このシナリオでは、私たちが「AI」となることもあり得ます。観察したことを検証し、それを既知の事実と関連付け、結果として何が起こるかを推察します。

弱いAIと推論は、ネットワークのエッジにおいて、より一層見る機会が多くなるでしょう。これは、アクセラレータと、最適化された処理用アーキテクチャを使って実装されます。これらのアクセラレータは、従来の組み込み型プロセッサアーキテクチャと一緒に機能するでしょう。同時に、そうした汎用アーキテクチャが進化し、より多くのAI中心の機能と命令が含まれるようになることが期待できます。

今現在、そういった機能は、専門的な用途のものが数えきれないほどあり、市場に大きなフラグメンテーションを引き起こしています。電子機器業界はこれまでにも、このような事態を乗り越えてきた歴史があり、こうしたフラグメントが買収や、一般的なコンセンサスを通じてまとまっていくものと予想できます。ある時点で、すべてのエッジプロセッサが少なくとも共通で、基本的なレベルのAIや機械学習をサポートできる程度まで到達するでしょう。これにより、一定の互換性が生み出されます。

データセンターでは、このようにはいかないかもしれません。アーキテクチャの主唱者が、協調的なナイスプレイをすることはまずないでしょう。こうした状況においては、最も声の大きい者の意見が聞かれやすいということがよくありますが、必ずしも技術的に最高のソリューションが支配するということではありません。歴史が示しているように、勝利するのは必ずしも（あるいは普通といってもいいぐらい）最高の技術ではありませんよね。しかし、AIの場合はリスクが非常に高いため、より慎重な識別が行われるでしょう。このシナリオでは、少なくとも3者の優勢なプレーヤーの席がある可能性が高いです。

弱いAIと強いAIについて、近い将来に、今の景色から劇的に変化することはまずないでしょう。特定のデータに基づいて推論できるようなエキスパートシステムは、エッジ処理アプリケーションにおいて優勢となりますが、一方で、強いAIは、データセンターとサーバーファームの制限の中で開発されるでしょう。つまり、人間を完全に模倣するようなロボットを目にすることは、当分の間はないということです。しかし、驚きの低価格で不必要なサービスを売り込もうとして、人のふりをした自動サービスによる迷惑電話を受けることは、もっと多くなるかもしれませんね。