1個の点でAIはだまされる　進化計算で探る、誤認の「ノイズ」

ノイズ1個でAIをだます

AIの代表的な技術である機械学習では、大量のデータを用いて判断基準を学ばせます。例えば、画像認識の場合、「馬」を識別するためには、多数の馬の写真を使って学習を行います。これにより、AIは馬を認識できるようになります。
しかし、学習済みのAIでも、画像の中にほんの1ピクセルの「ノイズ」を入れるだけで、人間の目には馬にしか見えない画像を「飛行機」などと誤判定してしまう場合があります。画像にこのようなノイズを混ぜ込み、AIに誤認識させるものを「敵対的サンプル」と言います。

進化論をマネしたアルゴリズム

例えば、自動運転に使われるAIが、敵対的サンプルで悪意の攻撃を受けた場合、標識を見間違ったりして事故が起きてしまいます。こうした攻撃に備えるために、「進化計算」というアルゴリズムを使ってあらかじめ敵対的サンプルをつくり、どのようなノイズがAIをだますのかを調べる研究が行われています。
「進化計算」とは、生物の進化論を模倣した最適化手法です。生物は環境に適応した性質が次世代に受け継がれることで、最適な形に進化してきました。その「適者生存」の考え方を取り入れて、目的により適したものを残して絞り込んでいく、というような手法です。

17億通りの組み合わせも数百回の計算で

敵対的サンプルをつくるとき、例えば32×32ピクセルの画像であれば、その中のどのピクセルに、どんな色（赤、緑、青の成分の組み合わせ）の「ノイズ」を入れるとAIが誤認するかを特定する必要があります。この場合、17億通り以上の組み合わせからノイズを探索しなければなりません。進化計算を使うことで、数百回の計算でAIが誤認するノイズをつくる方法が確立できました。
また、通常AIはブラックボックスであり、その判定プロセスは不明です。敵対的サンプルをAIに与えて誤判定する過程を追うことで、ブラックボックスだったAIの判定基準を推測することもできます。このような使い方も敵対的サンプルの研究に期待される成果の一つです。

※夢ナビ講義は各講師の見解にもとづく講義内容としてご理解ください。

※夢ナビ講義の内容に関するお問い合わせには対応しておりません。

先生情報 / 大学情報

日本福祉大学工学部工学科情報工学専修教授串田淳一先生

興味が湧いてきたら、この学問がオススメ！

情報通信学、知的システム工学

メッセージ

今、生成AIなども含めてさまざまな場面でAIが使われています。今後もますますAIが生活の中で身近になっていくでしょう。AIは便利な一方で、AIを悪用して人をだますようなコンテンツをつくることができます。また私の研究している敵対的サンプルのように、AIをだますようなデータをつくる攻撃もあります。一般の人でも、AIのリスクを知っておくことは大切です。AIを開発したい人は、プログラミングや工学系の知識など、大学でしっかり学べますので楽しみにしていてください。

日本福祉大学に関心を持ったあなたは

1953年の創立以来、卒業生は約9万人。全国に広がる卒業生ネットワークは、全国各地で就職を強力にバックアップしています。卒業生は福祉・医療、ヘルスケア部門を展開する一般企業や流通・商社、金融・保険、運輸・サービス、情報系の企業など、さまざまな分野にも進出。全国で幅広い分野での活躍が期待されます。また、本学では公務員・教員採用試験合格のために対策講座に力を入れており、多数の卒業生が、地方自治体、官公庁、幼稚園、小学校、中学校、高等学校、特別支援学校などで活躍しています。