取り組まれているプロジェクトの概要をお伺いできますか?

T.K : いま取り組んでいるのは、AIのブラックボックス問題を解決する説明可能AIの実現です。ちょっと話はそれますが、AI技術でいま最も活用されているといっても過言ではないのが、ディープラーニングという技術。データを用意すれば、AIが自ら学習して答えを導き出すというのが最大の特徴で、面倒な特徴抽出作業の手間が削減されるため、広く活用されています。

それだけ聞くと素晴らしい技術に感じるのですが、なにが問題なのでしょう?

T.K : おっしゃる通り、ディープラーニングが普及してからはコスト、スピードともに進歩し、AIを活用した開発はより身近になっています。ですがその一方で、自ら学習し解答を出すディープラーニングの特性上、なぜその解答になったのかがわからない、ブラックボックスという問題が発生しているんです。

なるほど。AIが行う計算過程がブラックボックスになっていると?

T.K : その通りです。例えばアイシンでは、AIを活用して「工場自動化」に取り組んでいるんですが、工場ではお客様に対しての、製品説明が不可欠。従来であれば「こういう欠陥が見つかったので、この製品は検査NG。ですので、この製品はラインから取り除き、納品しません。」という不良品に関しての合意事項があります。ただ、現状のAIでこれを行うのは難しいんです。

現状のAIでは、なにが難しい?

T.K : 簡単な例ですと、ABCという3つの部品を組み付ける工程があって、単純にBの部品の組付け忘れを検出するのは簡単ですが、いまのAIは入力したデータに対して、出力として解答があるだけで、例えばBと同じ外観をしたDという別の部品を組み付けたとしても、最終的にOKかNGか、それだけしか言いません。それが正解ならまだいいですが、入力したデータから学習してAIは判断しているので、そもそもが入力データに存在しない場合は難しいんですよね。

例えば、音楽を流して、その音楽がなにかを当てるアプリもそうですかね?

T.K : そうです。それはAIが正解の音楽をデータとして知っているからできることで、音の波形が似ているから、きっとこの音楽だろうって出てくるんですよ。流された音楽がデータになければ、その音楽は知らないはずなんです。でもAIの悪いところは、知らないって言わない。データから似た波形を探して適当に言うんです。多分これだろうって。現状のAIは自信がなくても自信をもって間違える可能性があるんです。

それは確かに問題ですね…。

T.K : 自動車のような人の安全に直結する業界で使うには、とくに問題になります。データの分布が100%定義できて、そのデータを100%確実にAIが学習できるのであれば、まだ安全ですが。それが保証できない中でAIを使うと、間違った判断をすることがあるので。そのためにも、知らないものは知らないと言えるような、間違った原因をなんで間違ったかと言えるのは、お客様への説明でもそうですし、実際にAIを導入しても、原因がわからないと改善もできないですから。

改善できないと、どんな不都合が?

T.K : PDCAサイクルを回して製品を良くしていくのが自動車業界のやり方なんですけど、原因がわからないAIではそれが一切できないんです。それができて良いものに改善していけるソフトウェアでないと、モノづくりには使えない。そういうAIに進化させるためにも、説明性は必要な技術なんです。

自動車業界だからこそですね。では、具体的なプロジェクトの取り組みを伺わせてください。

T.K : このプロジェクトは、Element.AI(以下、EAI)と共同研究で進めています。AIが説明するというのは非常にキャッチーで、素晴らしいことですが、正直まだ難しいのが現状です。まず、このプロジェクトで目指している説明可能AIは、「次のアクションがなにかを人に示唆できるAI」。AIが出した解答を元に、人が最終的な判断・説明をするという段階ですね。最終的にはこれをもっと進化させて、人が考えなくても説明できればいいですが、いま現在そんな技術は世の中に存在していないので、ファーストステップとしてそこを目指しています。

なぜ、EAIと共同することに?

T.K : まず、この業界はスピード勝負なので、アイシン単独でやるよりもこの領域で進んでいるパートナーと共同した方がいいと思ったんですね。その上で、EAIがパートナーになったのは、チューリング賞を受賞したYoshua Bengio氏が率いており高い技術を持っていること、そして説明可能AI専門の研究チームを持っていることが大きな理由です。その上で、EAIにコンタクトを取ったところ、EAI側も乗り気になってくださったのが始まりです。

EAI側はなぜ乗り気だったんですかね?

T.K : EAIは工場や製品を持っているわけではないので、オープンデータセットと呼ばれる、誰でも使えるデータでしか彼らは技術検証できないんです。その一方でEAIは、巨大テック企業しか使えていないAIの恩恵を、金融や製造といった様々な業界に広めたいという理念を持っています。様々な業界で実証実験をして、より精度や品質を高めていきたいというのがEAIの理念なので、アイシンの持つ世界各地の工場や、幅広い車載製品を生産しているといったところに魅力を感じたんだと思います。

アイシンの持つ業界シェアや、社会的影響の大きさに魅力を感じたと?

T.K : それはあるでしょうね。あと、EAIからすると、アイシンはAIの専門部署を立ち上げてAIがなんたるかも理解していますし、様々なデータも集めることができる。AIリテラシー、豊富なデータセットという点でも、非常に良いパートナーだと言っていただいているので、そこもwin-winかなと思います。

実際に共同してみて、EAIはどんなところが優れていますか?

T.K : EAIの優れている点は、解決策を出せるところですね。「こんなものを実現したい」というのは誰でも言えますが、そんなものは必要としていなくて。EAIの場合は、現実的な課題に対して、いまの自分たちの技術でどう解決するかというソリューションを提案できる。先日も、限られた時間の中で結構重い議題をいろいろと話し合いましたが、ある程度風呂敷は広げつつも、最後にはこういうソリューションだよねって提案できるんです。技術力が高いからこそできることでしょうが、そういう提案ができる点も含め、本当に頼りになるパートナーです。

EAIが提案してということですが、どのような共同体制なんですか?

T.K : アイシンの成果と、EAIの成果。それぞれの役割を分けた上で、どう組み合わせれば一番いいゴールを目指せるかと開発を進めています。基本的には、実際の判定モデルはアイシンのものを使っていて、そのモデルの説明性をより高めていくのがアイシンの役割。一方でEAIの役割はその外側から。つまり、モデルに依存しないところで説明性を上げていくという取り組みですね。モデルを作るためには、様々な条件、パラメーター、データがありますが、そういったものからも説明ができるのではという、モデルの中と外、両方からのアプローチで説明性の高いシステムを作ろうとしています。

それぞれが別のアプローチをしていると。では、このプロジェクトで一番の課題は?

T.K : いま進めている説明可能AIは、もちろん自分たちのアイディアを入れていますが、いまの世の中にある技術の中で、組み合わせたらうまくいきそうなものを取り入れて実装している状況です。ただ、これでは私たちが本当に目指すゴールにはまだまだ届きません。本当のゴールに近づくためには、いまの技術の延長線上ではない技術や、新たな技術が必要になる可能性もあるので、それが今後の大きな課題になってくるはずです。

この先の開発スケジュールは、どのような予定ですか?

T.K : 2020年9月にはいまやっているファーストステップをまとめて、工場に導入していく予定です。いまのところ、ファーストステップはいい形で着地できると思いますが、先ほどもお話したようにその後に大きな課題が残っています。この部分を、恐らく来年度に進めていくことになると思います。

今後のためにも、まずは早期実装ということですね。

T.K : そうですね。いまはAIへの追い風もあり開発しやすい状況ですが、いつまでもこの状況が続くわけではないので。まずは実装して、社会の役に立つところを見せていかないとダメかなと。アイシンのような製造業にとっては、これからとても重要な技術になりますし。まずは工場への適用ですが、今後アイシンが開発、生産する製品に対しても、EAIと開発した技術をどんどん導入できたらと考えています。