米国食品医薬品局は、患者がAI技術を理解できるようメーカーにAI搭載医療機器に明確なラベルを付けること、そして臨床環境以外の実際の環境での性能を確認するために実世界のデータでテストすることを求めている。
監督機関は、機械学習アルゴリズムを搭載したスタンドアロンデバイスの規制に関する5項目の行動計画を発表しました。ヘルスケア分野におけるAIは巨大な市場であり、アメリカでは2021年には66億ドルという巨額に達すると予測されています。
AI技術を活用した製品を市場に投入したい企業は、FDAの承認を得る必要がある。しかし、規制当局にとって、このプロセスを策定するのは容易ではない。なぜなら、技術の進化のスピードに対処しなければならないからだ。
「この行動計画は、AI/MLベースのSaMD（医療機器としてのソフトウェア）に対する監督強化に向けたFDAの今後の取り組みを概説しています」と、FDA医療機器・放射線保健センターのデジタルヘルス・センター・オブ・エクセレンス所長で、市販前医療機器の承認を担当するバクル・パテル氏は述べています。ちなみに、SaMDとは医療機器としてのソフトウェアのことです。
この計画は、製品ライフサイクル全体の監視に基づく包括的なアプローチを概説しており、これらの技術が患者ケアを向上させる大きな可能性をさらに高めるとともに、患者が受けるケアの質を向上させる安全で効果的なソフトウェア機能を提供します。最新の情報を入手し、患者の安全を確保し、これらの有望な技術へのアクセスを向上させるために、この行動計画は今後も進化し続けると予想しています。
優秀な医師らが、超人的な癌発見AIの驚くべき主張を裏付けていないとしてGoogleを非難
続きを読む
まず、この行動計画では、時間の経過とともに変化するAIソフトウェアを精査するために、現在の規制枠組みを更新する必要性を概説しています。アルゴリズムは新しいデータで学習することで改善・更新されますが、こうした変化にもかかわらず、デバイスが医療用途において安全であり続けることを確実にすることが重要です。
メーカーは「事前変更管理計画」を提出する必要があります。これは、具体的に何が変更されるのかを概説し、アルゴリズムがそれらの変更をどのように学習するかを説明した文書です。改訂された規制枠組みの詳細は、今年後半に発表される別の報告書で説明される予定です。
計画の2つ目のポイントは、規制当局が「Good Machine Learning Practice（優良機械学習基準、略してGMLP）」と呼ぶものに取り組むことです。AI医療機器の開発・製造企業を導くための一連の基準を確立する必要があります。
FDAは統一性を確保するため、英国規格協会や電気電子学会（IEEE）など、同様のベンチマーク問題に取り組んでいる他の団体と提携していると述べた。
機械学習ソフトウェアのバイアスは、医療において特に重要です。医療では、年齢、性別、富裕層、民族によってケアの質が異なる可能性があるからです。FDAは、これらのバイアスを反映した過去のデータでデバイスをトレーニングした場合、ソフトウェアに問題が生じ、異なるグループの人々に対してパフォーマンスが低下する可能性があると警告しました。
「当局は、医療機器が人種的、民族的に多様な対象患者層に適合していることが極めて重要であり、機械学習アルゴリズムの特定と改善のための方法論を改善する必要があることを認識している」と行動計画には記されている。
同社は学者らと緊密に協力し、将来のソフトウェアを検査するために偏見を識別し、場合によっては偏見を排除できるアルゴリズムを考案している。
ラベルを読むのは誰ですか?
食品に原材料や栄養価が記載されたラベルが付いているのに、医療機器にもラベルが貼られないのはなぜでしょうか？FDAは、メーカーに対し、アルゴリズムに何が入って何が出てくるのかを明確に示すラベルの提示を求めています。
研究：糖尿病性眼疾患の瞬きを現実世界で検出するように設計されたAIは、医師の作業を増加させる
続きを読む
ラベルには、ソフトウェアの学習に使用されたデータ、結果を得るためにデバイスが測定または入力として取り込む情報、そして精度という観点から見た全体的なパフォーマンスを明記する必要があります。透明性が高まれば、患者やユーザーが技術を信頼し、採用する可能性が高まるとFDAは主張しています。FDAは、こうしたラベルの導入方法を検討するための公開ワークショップを今年後半に開催する予定です。
最後に、FDAは企業に対し、AI医療機器を実世界データを用いて試験することに焦点を当てたパイロットスタディへの参加を呼びかけています。ただし、このスタディは任意参加であり、モルモットとして協力していただける一般の方の参加が必要です。
「これらの取り組みの一環として実施される評価は、AI / MLベースのSaMDのRWPにとって最も重要な指標の閾値とパフォーマンス評価を決定するために使用できる可能性があります。これには、安全性や使いやすさに関する懸念に積極的に対応したり、エンドユーザーからのフィードバックを引き出すために使用できるものも含まれます」と監視機関は述べています。
「AI/MLベースのSaMDは急速に進歩している分野であることを認識しており、この行動計画は、これらの活動を推進し、この分野におけるさらなる明確化を図る中で、今後も進化し続けると予想しています」とFDAは結論付けました。FDAの広報担当者は、これ以上のコメントをすぐには得られませんでした。®
