「原理を理解できるAI」を作る　AIの思考回路を探る研究

AIはブラックボックス

質問に答えたり、画像認識をしたり、絵を描いたりと、万能に思えるAIですが、実はAIがどういう道筋で考えて何を判断基準にしているかはわかりません。画像や文章などの学習データを大量に与えると、AIは自分で学習して答えが出せるようになります。その答えを人間が見て、正解率が低ければ高くなるようにさらに学習させる、といった方法でAIアプリは作られています。

説明可能なAIを

AIはデータを丸暗記して例えば「この言葉の次に〇〇が来る確率」で答えを出します。データが大量であるほど精度が上がります。今、AIの正解率は非常に高くなりました。しかしブラックボックスであるが故に、自動運転など命に関わる分野では、間違えたときにその理由がわからないためAIに任せることができません。また、データ収集に手間がかかり、学習にはたくさんの電力も必要で、環境問題への影響も心配されています。
例えば掛け算なら、AIは九九を丸暗記して答えを出します。AIに九九の原理を理解させる学習方法（アルゴリズム）があれば、少ない学習で正確な答えが出せます。そうしたアルゴリズム開発の最初のステップとして、思考手順がわかる「説明可能なAI」が求められています。

AIの「思考回路」を変える

現在、AIの計算過程（思考回路）を解析して答えに辿り着くための変数を見つけ、それらを操作して精度を上げる研究が行われています。例えば、色だけ違う同じ車の画像を生成したときに、その計算過程を解析した結果、その画像を表現する768次元の変数の一部が色に関わっていることがわかりました。
この方法を文章の生成AIに応用すれば、言葉の「意味」をAIに教えられる可能性があります。現在のAIは確率で言葉を推測するだけで「意味」を考えてはいないため、同じ意味でも、質問の言葉が違うと答えが異なることがあります。そこで、AIの計算過程からそれらの言葉に対応する変数を見つけて「同じ」と認識させる操作で精度が上がると考えられるのです。

※夢ナビ講義は各講師の見解にもとづく講義内容としてご理解ください。

※夢ナビ講義の内容に関するお問い合わせには対応しておりません。

先生情報 / 大学情報

東京都市大学情報工学部知能情報工学科教授神野健哉先生

興味が湧いてきたら、この学問がオススメ！

知能情報学、通信工学

メッセージ

AIに興味を持つ学生が増えていますが、AIを理解するには数学が必要です。ここ20年ほどで高校のカリキュラムが変わり、AIに必要な分野の数学を高校では学ばなくなりました。そのため大学に入ってから短時間で習得する必要があり、多くの学生が苦労しているようです。今、インターネットで検索すれば、数学の解説をしている動画やサイトがたくさん見つかります。AIの分野に進みたいなら、できれば高校生のうちにそうした数学の勉強も始めておくとよいと思います。

東京都市大学に関心を持ったあなたは

２０２９年に１００周年を迎える東京都市大学は２００９年に武蔵工業大学から校名を変更。武蔵工業大学時代の伝統を引き継ぎつつ、自動車、エネルギー、建築、情報といった理工学分野に加え、環境、IoT、メディア、教育など数多くの専門分野を網羅する総合大学として成長を重ねています。今後も東急グループの一員としての強みを生かし、産学連携や地域社会との共同研究を積極的に進めつつ、未来の都市生活を創造し、そのなかで能力を発揮できる専門性と実践力を養成する「都市の総合大学」として、たゆまぬ発展を続けていきます。