日常生活をちょっと快適にするIT

ITで普段の生活をほんのちょっとだけ便利に。情報格差を少しでも小さく。そんな目標を掲げて、のんびり記事を書いていきます。

AI危険論について思うこと

2017
02
おはようございます、EPです。

私EPは某大研究室で機械学習を専攻する学生で、特に自然言語処理について研究しています。

近年ディープラーニングと呼ばれる機械学習手法が登場し、碁のプロに勝利したとか猫の概念を理解したとか様々な成果が出るに及んで世界中から資金と人間が機械学習分野に集中し始め、凄まじい勢いで発展を始めています。

最近だとFacebookのAI人工知能)が独自言語で会話しだした、なんて話もありましたね。

AI危険論はそんな世の中の動向を受けて、AIの利便性と共に注目を集め始めています。

「ターミネーター」では人工知能スカイネットが人類に対して核攻撃を行い、互いの存亡を賭けて大戦争を繰り広げます。かの有名な「2001年宇宙の旅」でもコンピューターによる殺人が発生しますし、「マトリックス」では人間は機械によって電池扱いを受けています。

AIが人間に対して反旗を翻すという発想自体は古くからあり、映画等で頻繁に描かれる題材でしたが、昨今のAIブームによってそれが現実にも起こるのではないかという懸念が巻き起こってきたようです。

有名なところではホーキング博士が「完全な人工知能を開発できたら、それは人類の終焉を意味するかもしれない」と述べています。果たしてどうなるのかは、専門分野に居てもなお、起きてみないとわからないとしか言えません。

2045年にはシンギュラリティ(技術的特異点)が訪れ、AIの知性が我々人類を上回るとも言われています。そのときAIが「ターミネーター」のスカイネットのように我々人類に牙をむく可能性が無いかと言われれば、否定はできません。

ただし、「否定できない」と「肯定」は全く別の言葉だということをご理解願います。我々科学に携わる人間がこういう風に「断言はできない」とか「否定できない」というような言い回しをして、それを第3者が「科学者が肯定した!」とか「科学者が否定した!」とかと解釈して大騒ぎされることがたまにあります。しかし、声を大にして言いたいことなのですが、「否定できない」には否定することができないという字面以上の何者でもありません。「否定できない」というのはせいぜい「(データが不足しててよく分からんから)否定できない」という意味です。科学者というのは基本的に証明されていない事象を断言することを徹底的に避ける生き物ですから、変に深読みしないでください。

ただ、現状の研究を見る限り、まだまだ人類を滅ぼそうなどと考えるAIを作るのは無理だと私は考えています。そう考える理由は2点あります。

理由の1つ目は単純な話で、計算リソースが全く足りていないからです。

現状機械学習で知能を生み出しかねない手法は大きく2つあり、ディープラーニングと強化学習です。DQN(DeepQNetwork、ヤンキーじゃないです)のように、両者を合体させた手法もあったりします。

ディープラーニングで何かしようとすると、強力かつ高価なGPUマシンをぶん回す必要があるわけですが、強力なGPUマシンをもってしてもちょっと音声を認識させようとするだけで3日とか平気でかかります。

ディープラーニングと強化学習によって世界レベルの棋士を打ち破ったAlphaGoが学習に利用していたのは、CPU1202個、GPU176基という超大規模な計算資源でした。これほどまでの計算資源をもってしても、まだ特定の専門分野でようやく人類を上回る程度です。

2つ目の理由は、AIの専門性です。

現在のところあらゆるタスクに適用可能な汎用AIの開発は到底難しい状態にあります。1つの専門タスクを行うために毎回人の設計が必要だからです。

タスクを選ぶタスクなんてものもありますから、将来はAIが自動で目の前のタスクが何なのかを判断し、専門の解決ネットワークを用いて解決を試みたりする日が来るかもしれません。現在でも問題を「どの種類の問題なのか?」という分類問題を解くネットワークにかけて分類し、その後に分類に応じたネットワークを用いて問題を解くといったアプローチはあります。しかし、そもそもディープラーニングの訓練には極めて膨大なデータが必要で、「分類問題」とその後の個別問題を解けるよう訓練するには「分類問題」を解くよう訓練するためのデータセットに加え、その後の個別問題を解くよう訓練するためのデータセットも、個別問題の数だけ必要です。そうしたデータを用意することも難しいですし、それだけの数のデータを扱う計算資源の問題もあります。オールラウンダーなAIを実現するには現実的ではありません。

そもそも機械が勝手にタスクを解決するネットワークを構築して問題を解決できるようになったりすることはまだまだ不可能です。機械はプログラムに「動きません」って文句をつけることはできても、プログラムを1から書くことはまだまだできません。上記のアプローチでも、結局人が設計した範囲のものしか解けませんし、機械が勝手に賢くなっていくためには様々なネットワークを「自力で」構築できる能力が不可欠です。

そもそも「AI」という言葉があまり正確ではありません。現在の「AI」とされているのは、ほとんどの場合「特定の問題を解く専用モデル」程度の意味です。「知能」というほど知性があるわけではなく、膨大なデータから傾向を自動抽出し、正解を出せるよう勾配法という数学的な方法で最適化しているに過ぎません。

まだまだ恐れるに足らず。これが私の見解です。

しかし、あるマシンの開発でこの見解は覆るかもしれません。


量子コンピューターの応用先として「最適化問題」というものが考えられています。現在ではスパコンが1400万年かけても終わらない問題を、量子コンピューターは一瞬で解いてしまうと言われています。もし本当に量子コンピューターを用いてある種の最適化問題を一瞬で解くことが可能であるならば、最適化を駆使して学習を進めるディープラーニングの計算が極めて高速化することを意味します。すなわちそれはボトルネックとなっていた計算資源の問題を解決することと同義です。

ハードの問題が解決されれば後はソフトの問題です。国家規模で20年も30年もそこに資金と人材をつぎ込めば、ソフトの問題は解決する可能性があります。なにしろ計算は一瞬で終わるわけですから、試すことができる「手法」の数は飛躍的に増えます。

量子コンピューターが私が挙げた「1つ目の理由」を直接解決し、「2つ目の理由」を解決可能な領域にまで落とし込む可能性がある、ということです。

このあたりの話は西森先生の「量子コンピュータが人工知能を加速する」等が参考になるかもしれません。

AIの発展が人類にとって吉と出るか、凶と出るか、それは分かりません。しかし忘れないでほしいのは、あらゆる技術は多面性を持っているということです。吉と出るのか凶と出るのか、その境目を引くのは恐らく、我々人類の性質そのものなんだろうなとぼんやり思ってたりします。

 AI 人工知能 機械学習 ディープラーニング 量子コンピューター

0 Comments

Add your comment