第19回 西田宗弘准教授

電気金魚の夢

西田 宗弘 准教授

 大学生の頃に,フィリップ・K・ディックの「アンドロイドは電気羊の夢を見るか?」という小説を読んだ[1]。そこには,感情を持った人工知能(AI)の反乱や,それに向き合う人間の苦悩が描かれている。(ちなみに,タイトルにある「電気羊」というのは,主人公が電気羊しか飼えず,本物の羊を飼うことに憧れているということから来ている。)この手の話は今やとてもありふれた話で,近い将来実際に起こり得ると考える人も多くなってきたのではないだろうか。だが,当時の自分には,この本を通して自分の中に生まれた「機械は感情を持ちうるのか」という問いがとても重要な問いに思え,いつかはこの問題に取り組んでみたいと考えるようになった。

 さて,いまやAI全盛の時代に突入しようとしている。少しタイミングを逸した感はあるが,ここらで自分も本格的にこの問題に取り組んでみようと思っている。ただ,「感情」ではなく「学習」について深く掘り下げてみるのが良いと考えている。その理由の一つは,感情らしき物の表現は学習可能で,今のAIの技術がもっと進むと,感情を持っているのか,学習結果を再生しているだけなのか分からなくなると思えるからである。子供が成長していく様子を見ていても,多くの事を学ぶにつれ感情が複雑になって行き,より人間的になって行く。「感情」がもとから備わっていたのか,学習によって獲得したのかを区別するのは,相当難しそうだ。

 もう一つの理由は,最近Michael Jordanという人が書いたAI(Artificial Intelligence: 人口知能)ではなくIA(Intelligence Augmentation: 知能増幅)を目指すべきという提言[2]にとても共感を覚えるからだ。先に書いた「アンドロイドは…」でも書かれているように,知性や感情を持ったAIの実現を考えるとき,どうしてもAIと人間の対立軸で見てしまいがちである。近い将来に人間の仕事の半数以上がAIに奪われるなんて話も出てきている。そのような状況で,人間が知能を退化させて動物的に生きる道を選ぶのか,それとも,知的な活動をさらに発展させて知能を進化させ続けることが出来るのか?後者を選択する為には,AIを人間の知能を増幅する道具(IA)と捉える必要がある。AIが出した答えを鵜呑みにして考えることを放棄するのではなく,AIがどうしてその答を出したのか,あるいは,AIが出した答はどのような意味を持っているのかなどについて深く考え,そこから新しい知恵を獲得しようともがく事が非常に重要に思う。

 さて,この立場に立つと,AIの脳みその中身を覗く手段が必要になる。その一つとして、Googleが考えたDeep Dreamというものがある[3]。AIの中では,人工のニューロンが多層構造を形成しており,浅い層のニューロンは画像などの学習データの中からエッジの形などの比較的単純な特徴を捉え,深い層では,浅い層の結果を集めてより高次の特徴の抽出を行っていると解釈することができる。各ニューロンがどんな特徴をとらえているかを見るために,特定のニューロンがとらえる特徴量を最大化するように、逆に学習データである入力画像の方を改変してみるというのがDeep Dreamのアイデアである。得られた画像は、ニューロンが得た特徴を強調した画像になるため,視覚的に分かりやすく学習の過程を調べることができる。

 ここに一つの例を載せておく。上は我が家で飼っている金魚(電気金魚ではない)の写真である。AIは電気金魚の夢を見るかを調べるために、Deep Dreamを使ってみよう。金魚の画像を見たAIの中のニューロンがどのように活性化しているかを踏まえ、その活性量が上がるように、空の写真を変化させてみた。結果が下段の写真である。ちょっと気持ち悪い悪夢的な写真になってしまうが、金魚の目や鱗の特徴が付与され、空一面に金魚がひしめき合っているような画像になった。はてさて,この悪夢をどう料理したらよいものか。

 

我が家の金魚(ぷく,ちゅう.かぁ.きぃ)

我が家の金魚(ぷく,ちゅう.かぁ.きぃ)

Deep Dreamが見た金魚の白昼夢

Deep Dreamが見た金魚の白昼夢

[1] 「アンドロイドは電気羊の夢を見るか?」フィリップ・K・ディック著,早川書房 (1977).

[2] “Artificial Intelligence ― The Revolution Hasn’t Happened Yet”, Michael Jordan (https://medium.com/@mijordan3/artificial-intelligence-the-revolution-hasnt-happened-yet-5e1d5812e1e7)

[3] “Inceptionism: Going Deeper into Neural Networks”, Google AI Blog (2015)

(https://ai.googleblog.com/2015/06/inceptionism-going-deeper-into-neural.html)

 

(2018年6月7日掲載)


up