偽情報に注意！　AIだってだまされる

ネットワーク機器への攻撃

ネットワークで世の中のいろいろなものがつながり、AI（人工知能）が広く使われるようになった今、悪意のある攻撃者からシステムを守る必要性がますます高くなっています。例えば、「スマートシティ」は、まちの中のいろいろなところにセンサを設置し、そのセンサから得られる情報をAIが分析して、人々の生活が便利になるように役立てるというものです。しかしセキュリティの脆弱（ぜいじゃく）な一部のセンサが攻撃者に乗っ取られ、誤った情報に書き換えられると、それをもとに全体を管理するAIが誤った判断をしてしまうおそれがあります。そこで、さまざまな攻撃を想定し、どのような対策を講じていくかを考える必要があります。

AIは偽情報にだまされる

まずどのような攻撃が可能であるかを、実際に公開されているデータを用いたシミュレーションで検証します。例えばAIが人の行動を判別するためのデータを使った実験で、手首、足首、胸の3箇所につけられたセンサから得られる情報のうち、1つを乗っ取って偽の情報に書き換えます。その結果、それだけでも攻撃者の意図通りにAIが誤った認識をしてしまうことがわかりました。

「攻撃されにくいAI」を開発する

このような一部乗っ取りへの対策として、「センサ同士の整合性」に着目して異常をチェックする学習法が検討されています。例えば、足首のセンサから走っている動きの情報が得られたのに、手首と胸は動いていないのであれば「おかしい」と判断し、足首からの情報は使わないようにするのです。このように一部のセンサからの情報を遮断すると、全体のセンサを使う場合に比べて機能は落ちますが、誤った判断を避けることができます。
さらには、偽情報でAIがだまされるだけではなく、偽情報で学習してしまい、AIが正しく機能しなくなる可能性もあります。このように「AIそのものを壊してしまう」ような、より深刻な攻撃についての検証も今後進める必要があります。

※夢ナビ講義は各講師の見解にもとづく講義内容としてご理解ください。

※夢ナビ講義の内容に関するお問い合わせには対応しておりません。

先生情報 / 大学情報

大阪大学大学院情報科学研究科情報ネットワーク学専攻准教授大下裕一先生

興味が湧いてきたら、この学問がオススメ！

情報ネットワーク学

先生が目指すSDGs

メッセージ

あなたに一番伝えたいのは、「自分が好きなこと」を見つけてほしいということです。高校生のあいだに見つからなければ、大学に入ってからでも構いません。自分が好きなことを仕事にできればもちろん幸せですし、直接仕事に結びつかないとしても、自分が好きなことを続けるという経験は人生を豊かにしてくれます。特に10代のうちに好きなことに出会えたら、ハッピーになれると思います。ぜひ、いろいろなものに接して、自分が興味を持てるものを見つけてください。

先生への質問

先生の学問へのきっかけは？
先輩たちはどんな仕事に携わっているの？

大阪大学に関心を持ったあなたは

自由な学風と進取の精神が伝統である大阪大学は、学術研究でも生命科学をはじめ各分野で多くの研究者が世界を舞台に活躍、阪大の名を高めています。その理由は、モットーである「地域に生き世界に伸びる」を忠実に実践してきたからです。阪大の特色は、この理念に全てが集約されています。また、大阪大学は、常に発展し続ける大学です。新たな試みに果敢に挑戦し、異質なものを迎え入れ、脱皮を繰り返すみずみずしい息吹がキャンパスに満ち溢れています。