ソニーグループ（株）R&Dセンター Tokyo Laboratory 19 鈴木健二、小林由幸、成平拓也は、論文公開サイト「arXiv（アーカイヴ）」*へAI倫理の技術に関する論文を投稿しました。R&Dセンターでは、説明可能なAIの研究開発に取り組んでおり、その成果を公開しました。説明可能なAIとは、ブラックボックスと言われるAIの判断根拠を人間が知り得るようにする技術です。本論文は、ディープラーニングでの各データの影響度を従来手法に比べて効率的に演算する手法の提案です。悪影響を及ぼすデータを特定して削除することで、データを増やすことなく、ディープラーニングの精度を向上させる手法です。下記のURLから当論文を閲覧・ダウンロードをすることができます。
Kenji Suzuki, Yoshiyuki Kobayashi, Takuya Narihira.
Data Cleansing for Deep Neural Networks with Storage-efficient Approximation of Influence Functions
CoPR, abs/2103.11807, 2021.
URL https://arxiv.org/abs/2103.11807
また、本論文のソースコードも「Sony AI Research Code」*に公開しました。下記からソースコードを入手することができます。
https://github.com/sony/ai-research-code
なお、ソニーのディープラーニングツールであるNeural Network Consoleのプラグイン機能*として当技術を実装しており、プログラミングをすることなくGUI操作にて手軽にお使いいただけます。
注)
- 「arXiv（アーカイヴ）」とは、100万本以上の論文が保存・公開されているコーネル大学図書館が運営しているウェブサイトです。
- 「Sony AI Research Code」とは、ソニーからの論文発表でのソースコードを公開しているGitHub上のレポジトリです。
- 学習、評価の後、右クリックにてプラグインを表示し、SGD influence選択します。Neural Network ConsoleのVersionは、最新版をお使いください（Ver2.0以降のWindows版にて対応）。https://dl.sony.com/ja/
