サイバー攻撃の被害者予測システムと内部犯罪に強力な機械学習モデルの構築 -攻撃予測シミュレーションと攻撃利得低減方式の構築-

研究概要

超スマート社会の「悪」の研究

研究代表者 宮地 充子 (大阪大学)

本研究は、セコム科学技術振興財団が、研究者の自由な発想に基づく独創的なアイディアに期待し、安全安心の確保や災害防止等、国民生活に密着する研究課題を助成することで、国民生活の安全安心に寄与する科学技術の発展をより積極的に推進することを目的とした特定領域研究助成における令和4年度の採択プロジェクト『超スマート社会の「悪」の研究』の一つです。

新しい社会でどのような「悪」が企てられているのか、そのありかや動機や目的を探り、来たるべき攻撃を予知することが重要です。これによって、どのような攻撃が誰に対していつ仕掛けられるのかが高い蓋然性をもって予測でき、防御や回復のための手段を講じることができるようになります。

そこから先は、技術と法律の世界です。本研究では、文理融合によって、超スマート社会の安全・安心を飛躍的に高める研究を目指します。また、研究の中で、 近未来に企てられるであろう攻撃を検討した上で具体的に設定し、これの対策となる技術やマネジメント法をパイロットシステムとして示すことを目標とします。

研究概要資料

背景と目的

背景

近年、サイバー攻撃の目的が愉快犯から金銭目的、さらには国家支援の目的などに移行している。コロナ禍における、医療・製薬業界へのサイバー攻撃の急激な増加は創薬にかかわる機械学習の手法などの知的財産や詳細な個人情報を含む患者記録などの高価な情報の存在も重要な要素と考えられる。また、サイバー攻撃による医療機関の業務停止はサイバー攻撃が国民生活に直結することの現れともいえる。

一方、医療・製薬業界の全企業が攻撃被害を受けたわけではなく、攻撃者は攻撃対象を選択しているとも考えられる。つまり、近未来に企てられる攻撃への対策には、サイバー攻撃の予知とともに、攻撃対象から外されるような仕組みの構築が必要である。

プロジェクトの目的

研究課題

サイバー攻撃が多様化し、様々な業種が対象となっている。中には内部不正が原因となっている場合もある。一方、脅威は、攻撃利得と脆弱性から脅威は決定される。攻撃利得として、個人情報は価値が高く、個人情報以外を狙った攻撃でも、有効な個人情報があれば入手されるので、個人情報の保護は不可欠である。脆弱性は機器に加えて、内部不正の場合もある。さらに、サプライチェーン攻撃が現実的になっている。

研究課題1. 脅威予測シミュレーションの構築

攻撃の動機や目的を探り、脆弱性と攻撃利得による脅威分析を実施し、近未来の攻撃の予知シミュレーションを構築。

  • 攻撃利得と脆弱性を鑑みて、脅威は決定する
  • 脆弱性、攻撃利得を現状の分析により再構築
  • 次に、脅威を再定義された脆弱性、攻撃利得から再構築
  • 脅威 = G(脆弱性、攻撃利得)

研究課題2.攻撃利得軽減枠組みの構築

主観的攻撃利得を劣化させるデータ保管技術の構築。

  • 攻撃利得軽減データの枠組みと機械学習の効果のバイデザインの構築
  • 絶対なる安全はないという前提で、攻撃利得を下げるアプローチ

近未来の攻撃

サプライチェーン型攻撃への適応

近年、問題になっているサプライチェーン型攻撃のように近未来の攻撃としては、単一組織から複数組織の攻撃による攻撃利得の最大化を考え、サプライチェーン型攻撃の脆弱性と攻撃利得から評価し、脅威シミュレーョンを実現する。

サプライチェーンとは、製品の原材料・部品の調達から販売に至るまでの一連の流れを指す。企業間の繋がりは、製造現場だけではなく、地方公共団体、総合病院なども様々な業種が互いに関連して事業を継続している。

サプライチェーン攻撃は、組織間の業務上の繋がりを悪用し、比較的セキュリティレベルの低い取引先や子会社などを経由することで、ターゲット組織へと侵入する。取引先や子会社などへ侵入しているため、最終標的の組織は侵入に気づかない間に攻撃を受ける危険性がある。

研究課題

研究課題1の脅威予測シミュレーションおよび、研究課題2の主観的攻撃利得劣化技術を適用することで、近未来のサプライチェーン攻撃を回避する。

研究実施体制

研究者紹介

研究代表者 宮地 充子 (Atsuko Miyaji)

大阪大学 大学院 工学研究科 教授/博士(理学)/情報処理学会フェロー。

パナソニック株式会社、UC Davis研究員、北陸先端科学技術大学院大学 教授を経て、2015年より現職。2016年より独立行政法人情報処理推進機構 監事。

ISO/IEC 国際標準化機構/国際電気標準会議の編集者を2000年から務め、情報セキュリティに関する国際規格を多数策定。

坂井記念特別賞(情報処理学会)、国際規格開発賞(情報処理学会)、情報セキュリティ文化賞、国際標準化奨励者表彰(産業技術環境局長表彰)、ドコモ・モバイル・サイエンス賞、科学技術分野の文部科学大臣表彰科学技術賞、TrustCom 2017ベスト論文賞、電子情報通信学会電子情報通信学会マイルストーン認定証、電子情報通信学会教育優秀賞他受賞。

情報社会の安全・安心を支える情報セキュリティに関する研究と実践に従事。

共同研究者

‪Matthew J. Holland‬

大阪大学産業科学研究所 助教

2021年からJSTさきがけ研究者を兼任(「信頼されるAI」領域)。 機械学習アルゴリズムの基礎的な研究開発に従事し、特に「理論と実践の乖離を埋める機械学習の方法論」を目指している。

岸本 充生 Atsuo Kishimoto

大阪大学データビリティフロンティア機(IDS) 教授 / 博士(経済学)

専門はリスク学、規制評価。産業技術総合研究所、東京大学を経て、2017年から現職。2020年から社会技術共創研究センター長を兼任、新規科学技術の倫理的・法的・社会的課題(ELSI)に関する研究と実践に従事。

苗村 博子 Hiroko Namura

弁護士

1995年シカゴ大学LL.M.を修了。NY州の弁護士資格も持つ。内部者の内通による、9万枚物設計図の不正取得、エディオン対上新の営業秘密不正取得の事件で勝訴。国際的なカルテル対応等含め幅広く国際法務、知財法務などで活動。

研究成果

2023年度

原著論文

研究課題1
  • Matthew J. Holland, "Criterion Collapse and Loss Distribution Control", ICML 2024 (to appear)
  • Toma Hamada and Matthew J. Holland,"更新方向の異常性を考慮した確率的勾配降下法のロバスト化", 人工知能学会全国大会論文集 (JSAI2024)
  • Toma Hamada and Matthew J. Holland, "データ劣化による分布シフトを想定した学習法の提案", 人工知能学会全国大会論文集 (JSAI2024)
研究課題2
  • Bingchang He and Atsuko Miyaji. "Balanced Privacy Budget Allocation for Privacy-Preserving Machine Learning" ,International Conference on Information Security,Springer, 42-56, 2023.
  • A Miyaji, T Yamatsuki, B He, S Yamashita, and T Mimoto "Re-visited privacy-preserving machine learning", IEEE PST, 2023.
︿