AIの脆弱性


AIといえば、今や誰もが知っている言葉ではないでしょうか。
詳しいことまでは分からなくともAI=人工知能といった認識を持っている人は多いはずです。

AIの進歩は凄まじく、一流の将棋や囲碁の棋士がAIとの勝負で敗北するという報道がなされたのも記憶に新しいところです。
また、私達が普段意識しないようなところいにおいても、水面下でAIが活躍しています。

税理士の職域である会計について言えば、クラウド会計などに代表されるいわゆる自動仕訳、通帳やカード明細の摘要などから勘定科目を推測します。

自動仕訳といってもほとんどの場合、仕訳として登録するための最終決定は人の手によって行われるものが多く、推測された内容を変更せずに登録すればその履歴が、変更して登録した場合にはその履歴がAIの中に蓄積され、推測の精度が高まっていくという仕組みです。

このように私達の生活と既にかかわっているAIですが、AIといえどもコンピューターですので、脆弱性という問題がついて回るようです。

先の例にもある通り、AIは学習することによって、結果の精度が高まっていきます。
言い換えれば、学習データが何より重要なものになるということができます。

このAIの学習データですが、第三者がそのデータを再現できてしまうかもしれないという懸念があるそうです。

AIを説明するためによく使われる例として、リンゴの画像を見せ続けることで、見せたことのないリンゴの画像を見せてもAIがリンゴと認識するようになるというものがあります。
このリンゴを認識するAIに対して別のAIが攻撃をかけると、リンゴを認識するAIの学習データを再現できてしまうかもしれないということが懸念されています。

攻撃側のAIも学習機能をもっていますので、攻撃対象のAIが何を学習しているものか分からなくとも、結果(例ではリンゴを認識するためのAIであること)を導き出すことができてしまうようです。
この結果、攻撃側のAIもリンゴを認識するAIと同等の学習データを有することになるようです。
複製というより模写に近いのかもしれません。

実際には攻撃側のAIが学習できるほど、トライ&エラーを繰り返すことが出来るようになっていることは考えにくいようですが、こうしたことが可能となる技術があるということには、注意しなければならないのかもしれません。

さいたま市緑区の税理士 渡辺税務会計・KWAT

埼玉県さいたま市緑区東浦和1-8-18-303

営業時間 平日9:00~18:00

関東信越税理士会浦和支部所属

お問い合わせはこちらから

免責事項

当サイトに掲載する情報に関しまして、細心の注意、調査を行って掲載しておりますが、当サイトのすべてに関して、誤りや変更などに伴うくい違いが含まれる場合もございます。従いまして、これらの正確性および完全性を保証するものではありません。当サイトで公開している情報もしくは内容をご利用されたことで、利用者もしくは第三者の方が直接又は間接的に被害を生じた場合について、当人は一切責任を負うものではありません。