「医」の最前線 AIと医療が出会うとき

拡大するサイバーセキュリティーへの懸念
~AIの進展が医療現場にもたらすもの~ (岡本将輝・米マサチューセッツ総合病院研究員)【第4回】

 AIやIoT(モノのインターネット)をはじめとする先端情報技術は身近なものとなり、あらゆるビジネス領域での生産性向上や人手不足解消、市民生活の質的向上に貢献している。医療におけるこれら技術の活用もまた急速に進んでいることは、これまでも取り上げてきた通りだ。一方で、新技術の進展に伴う新たなリスクとして、「サイバーセキュリティー」の問題が昨今頻繁に取り沙汰されるようになった。今回は、医療現場で拡大するサイバーセキュリティーへの懸念を扱い、その現状と今後の見通しを見ていきたい。

ウクライナ南東部マリウポリで、ロシア軍の攻撃で破壊された病院の建物から助け出される人々=ウクライナ国家警察が9日公表したビデオ映像から=2022年03月09日AFP時事

 ◇なぜ医療分野が狙われるのか?

 2021年6月に世界保健機関(WHO)が公表したリポート「医療AIの倫理およびガバナンス」(※1)では、AIの多面的有用性に触れ、AIによってもたらされる利益を最大化するための指針を示す一方、不利益を最小化するために配慮・解決すべき問題も取り上げている。健康データの非倫理的使用、アルゴリズムにエンコードされたバイアスなど、医療AIを巡る諸問題と並列し、サイバーセキュリティーも重要なトピックとして紙面が割かれた。

 サイバー攻撃の標的として考えた際、医療分野は(残念ながら)良質な格好の的と言える。現に、英国の情報監督局(ICO)は「医療分野へのサイバー攻撃が頻度として最多である」としている(※2)。

 1.高い価値

 これは第一に、「攻撃対象となる情報の価値が高い」ことに起因する。実際、世界における医療費の総額は17年段階で7.8兆ドルであり、世界国内総生産の約10%を占めるなど(※3)、医療市場は極めて大きなマーケットであるために、悪意あるハッキングによって巨額の金銭を動かせる可能性を常に持っている。また同時に、医療が取り扱う「健康情報」は究極の機微情報と言え、その取り扱い方によっては、容易に個人のプライバシーおよび尊厳の保持が揺るがされる。この情報の特殊性故に、健康情報自体が高額の値を付け得る事実もある。

 2.生命への脅威

 第二に、「医療分野へのサイバー攻撃は、真に直接的な攻撃となる」点が挙げられる。医療は生命を扱う専門領域であるために、単一の機器への攻撃によってさえ生命の存続を直接的に脅かすことが可能となってしまう。ロシアによるウクライナ侵攻が報じられ、世界に恐怖が広がった22年2月、米国病院協会(AHA)は「ロシアの目的推進のため、米国やその他の国々への報復措置の一環として、医療業界を狙ったサイバー攻撃のリスクが高まっている」と指摘した(※4)。ロシア政府は米国による制裁に対し、報復として「傷つきやすい資産」を標的にする警告を発してきたが、これが病院や医療システムとなる可能性が排せない点を強調していた。

 3.脆弱な環境

 第三は、「医療機関におけるサイバーセキュリティーが潜在的に脆弱(ぜいじゃく)となりやすい」ことがある。医療機関においては、医学的エビデンスの更新に併せて新たな機器が随時導入されるが、一律に既存システムの刷新を受けるわけではない。特に臨床的有用性の高い機器や習熟を要する機器、臨床パフォーマンスに直結する機器などは長きにわたって使い続けられる傾向にある。結果的に、ネットワーク接続を前提としない旧式機器への接続やセキュリティーレベルの異なる新旧機器・システムの混在などが起こり、全体のリスク管理を複雑にさせている。また、本来的に「手作業中心のワークフロー」、かつ「個別の機器管理」となりやすい臨床現場においては一元管理からは遠く、適切な水準のサイバーセキュリティーを担保することは容易ではない。また、医療者に対するサイバーセキュリティー教育が遅々として進まない事実、および医療機関におけるサイバーセキュリティーへの歴史的な過小投資なども事態改善を阻害する一因となっている。

身代金要求型ウイルス「ランサムウエア」を使ってサイバー攻撃を繰り返しているグループが運営するダーク(闇)ウェブ上のサイト。パナソニックの社名が掲載されている=2022年04月06日

 ◇管理すべきリスクは増大する

 医療現場へのAIの伸展は、サイバー攻撃の対象と方法を広げることも事実となる。単に潜在的なセキュリティーホールの数が増えるとともに恐喝する、情報を抽出する、負荷をかける、機器を停止させる、結果を書き換えるといった古典的アプローチに加え、AIモデルの生成段階で学習データセットに偽装データを混入させ、故意にバイアスを生じさせる、実臨床利用されているAIモデルにアクセスし改変を加えるなど、直ちには感知されにくい種類の幅広い攻撃アプローチも現実のものとなる。

 米食品医薬品局(FDA)は21年、「医療機器に関するサイバーセキュリティーの強化」と題したディスカッションペーパーを公開し、対処すべき優先課題を特定した上で、さらなる議論の発展を促している(※5)。医療領域は今後、AI導入に伴うさらなるリスク増大を見据え、特に医療機器に関わるステークホルダーを含め、あらゆるフェーズでのサイバーセキュリティーの確保に努める必要がある。

 医療機関にとっては、サイバーセキュリティーのために割くことのできる資金・予算は限られているという現実もある。一方で、サイバーセキュリティーの不足は「患者の死」さえ招くものであり、あくまで患者の安全確保戦略に準じた高度な基準が求められることを理解し、体制の強化に努めなければならない。現実的なボトムアップのためには、医療者に対するサイバーセキュリティー教育の充実もやはり欠かせず、各専門職の基礎教育段階におけるカリキュラムへの導入もリテラシー向上に資することが期待できる。

 以上、今回は「医療現場で拡大するサイバーセキュリティーへの懸念」を扱い、その現状と今後の見通しを見てきた。医療AIがもたらすメリットを最大限享受するためには、同時に付随するリスクへの適切な対策が求められることになり、サイバーセキュリティーは今後医療分野が取り組むべき重点課題の筆頭に挙がり続けると考えられる。(了)

【引用】
(※1)WHO. Ethics and governance of artificial intelligence for health.
https://www.who.int/publications/i/item/9789240029200

(※2)Vayena E, Haeusermann T, Adjekum A, et al. Digital health: meeting the ethical and policy challenges. Swiss Med Wkly 2018.
(※3)WHO. Global Spending on Health: A World in Transition.
https://www.who.int/publications/i/item/WHO-HIS-HGF-HFWorkingPaper-19.4

(※4)The Medical AI Times. 「ウクライナ侵攻 – 医療機関へのサイバー攻撃に関する懸念」 https://aitimes.media/2022/02/28/10272/
(※5)FDA. Discussion Paper: Strengthening Cybersecurity Practices Associated with Servicing of Medical Devices: Challenges and Opportunities.
https://www.fda.gov/medical-devices/quality-and-compliance-medical-devices/discussion-paper-strengthening-cybersecurity-practices-associated-servicing-medical-devices


岡本 将輝 氏

 【岡本 将輝(おかもと まさき)】

 米マサチューセッツ総合病院研究員、ハーバードメディカルスクール・インストラクター、The Medical AI Times編集長など。2011年信州大学医学部卒、東京大学大学院医学系研究科専門職学位課程および博士課程修了、University College London(UCL)科学修士課程修了。UCL visiting researcher、日本学術振興会特別研究員(DC2・PD)を経て現職。他にTOKYO analytica CEO、SBI大学院大学客員准教授(データサイエンス・統計学)、東京大学特任研究員など。データアプローチによる先端医科学技術の研究開発に従事。

【関連記事】


「医」の最前線 AIと医療が出会うとき