近年、金融を含む幅広い分野において、人工知能を活用した新しいシステムやサービスの開発・提供が進展している。そうしたサービスを安全に提供するためには、機械学習の機能を実装したシステム（機械学習システム）のセキュリティに配慮しておくことが重要である。本稿では、機械学習システムのモデルやセキュリティ対策の方針を示し、既知の主な脆弱性や攻撃手法に加え、攻撃への対策手法に関する最近の研究事例を紹介する。最後に、機械学習システムを安全に活用していくうえで留意すべき事項を示す。
キーワード：機械学習、人工知能、脆弱性、セキュリティ
掲載論文等の内容や意見は、執筆者個人に属し、日本銀行あるいは金融研究所の公式見解を示すものではありません。