保健福祉省は今週、包括的な医療情報技術規則を発表した。この規則は、認定された医療ITに組み込まれた人工知能やその他の予測アルゴリズムに関する、連邦政府初の具体的な透明性要件を定めており、米国のほとんどの病院や診療所で医療を支える技術に新たな義務を課すものだ。.
米国保健情報技術国家調整官室(ONC)のHTI-1最終規則が1月9日に連邦官報に掲載された。この 最終規則は 、ONCの保健情報技術認証プログラムを改訂し、相互運用性基準を更新し、情報遮断規定を変更するとともに、訓練データから関係性を学習する予測モデルを含む「意思決定支援介入」のための新たな認証フレームワークを作成するものである。
ONCは、このアルゴリズムに関する規定を、 前例のない透明性要件。その影響範囲は広範囲に及ぶ可能性があり、ONCによると、米国の病院の96%以上、開業医の78%が、ONC認定の医療ITシステムを利用して医療を提供しているという。
この規則は、アルゴリズムの連邦政府による承認よりも、可視性を重視している。
HTI-1は、すべての臨床アルゴリズムに対してFDAのような市販前承認システムを構築するものではありません。その代わりに、認定された医療IT企業がベースライン情報を提供することを義務付けており、これによりユーザーは予測的意思決定支援介入がどのように設計、開発、訓練、評価されたかを理解することができます。.
この規則では、予測型DSIを、訓練データから関係性を導き出し、予測、分類、推奨、評価、または分析を行うアルゴリズムまたはモデルを通じて意思決定を支援する技術として広く定義しています。この定義は、従来の統計モデルから機械学習、さらに複雑な人工知能システムに至るまで、認証された医療ITを通じて運用されるあらゆる手法を網羅することを意図しています。.
1月9日 付のHIPAAジャーナルの分析に よると、透明性に関する要件は、臨床ユーザーがアルゴリズムが公平、適切、妥当、効果的、かつ安全であるかどうかを評価できるように設計されている。この枠組みは、医療AIにおける繰り返し発生する問題、すなわち、モデルを使用する臨床医が、そのモデルの学習対象集団、検証方法、意図された用途、または既知の制限に関する情報が限られている場合でも、モデルが患者の治療に影響を与える可能性があるという問題に対処するものである。
開発者はソース属性とリスク管理情報を公開する必要がある
新しい認証基準では、医療IT開発者に対し、意思決定支援介入のための特定の「ソース属性」へのアクセスをサポートすることを義務付けている。これには、介入の目的、想定されるユーザー、開発と検証、データセット、パフォーマンス、およびモデルの使用方法を判断する上で関連するその他の特性に関する情報が含まれる。.
この規則では、予測型DSIをサポートする認定医療ITの開発者に対し、リスク管理の実践と、その実践に関する情報の公開を義務付けている。連邦官報の条文では、妥当性、信頼性、堅牢性、公平性、理解しやすさ、安全性、セキュリティ、プライバシーといった分野が挙げられている。.
法律事務所のミンツは、同時期に発表した 分析 、この規則は2012年以来、ONC(米国保健情報技術調整局)の臨床意思決定支援認証要件に対する初めての大幅な変更であると述べた。その目的は、すべてのモデルが高品質であることを保証することではなく、医療機関や臨床医がより的確な判断を下せるよう、十分な一貫性のある情報を提供することにある。
この規則は、生成型AIが医療分野への導入を加速させる中で制定された。
そのタイミングは注目に値する。病院、電子カルテベンダー、テクノロジー企業は、臨床および管理業務に機械学習と生成型AIの機能を急速に導入している。これらのツールは、記録の要約、患者の優先順位付け、結果の予測、行動の推奨などが可能だが、開発に使用された集団とは異なる集団に適用した場合、その性能は変動する可能性がある。.
エイキン・ガンプ法律 事務所は、HTI-1を、ONC(米国保健情報技術調整局)が既存の認定医療ITに関する権限を通じてAI規制に踏み込んだ重要な連邦政府の一歩と評した。この規則は、あらゆる医療アルゴリズムを直接規制しようとするのではなく、認証制度を活用するものである。
この区別は、規則の適用範囲も規定する。認定された医療ITエコシステム外のアルゴリズムは、これらの特定の認証基準を満たさない可能性がある。病院や臨床医は、ガバナンス、地域における検証、およびモデルの出力が個々の患者に適しているかどうかの判断について、それぞれ独自の責任を負っている。.
AI関連規定に伴い、相互運用性にも変更が生じる。
HTI-1は、アルゴリズムの透明性にとどまらず、より広範な概念です。将来の認証基準として、米国相互運用性コアデータバージョン3を採用し、公衆衛生、健康格差の解消、より標準化された情報交換を支援することを目的としたデータ要素を追加・改良しています。また、電子症例報告およびアプリケーションプログラミングインターフェースの要件も更新しています。.
この法律は、情報遮断規制を修正し、信頼できる交換フレームワークおよび共通協定の下での安全な情報交換を促進することを目的とした変更を加えるものです。Healthcare Finance News は、HHSが相互運用性と透明性に関する政策の組み合わせにより、臨床医がアルゴリズムツールを理解する能力が向上すると同時に、21世紀キュアーズ法に基づくより広範なデータ共有改革が継続されると期待していると報じました。
そのため、医療機関は、電子カルテベンダーが何を開示しなければならないか、予測ツールをどのように管理するか、ローカルモデルのガバナンスが新しい情報をどのように活用するか、更新された相互運用性標準が既存のインターフェースやワークフローにどのような影響を与えるかなど、重複する実装上の問題に直面する。.
透明性は臨床安全インフラの一部になりつつある
この規則は、アルゴリズムの不透明性自体が医療リスクであるという政策判断を反映している。モデルは、トレーニングデータに誰が含まれていたか、どのくらいの頻度で失敗するか、患者グループによってパフォーマンスが異なるかといった重要な事実を隠蔽しながら、正確に見える数値リスクスコアや推奨事項を生成する可能性がある。.
フーパー・ランディ法律 事務所は、認証義務は主に医療IT開発者に課せられるものの、医療提供者は新たなAI透明性に関する規定を理解する必要があると指摘した。意思決定支援情報がどのように医療に組み込まれるかについては、最終的には臨床ユーザーが責任を負うことになる。
連邦官報では、この規則の発効日を2月8日としているが、個々の認証および規格に関する規定には、その日以降に及ぶ独自の遵守期限が設けられている。したがって、この移行は一括で行われるものではなく、認証製品および開発者全体にわたる段階的な変更となる。.
HTI-1は、医療における人工知能の規制方法に関する広範な議論を解決するものではありません。しかしながら、医療分野で最も普及している技術の一つにおいて、具体的な国家的な要件を確立するものです。国内のほぼすべての病院で使用されている認証済みの電子カルテ(EHR)システムにおいては、予測アルゴリズムを単なる目に見えない独自の機能として扱うことはもはやできません。連邦政府の認証制度では、臨床医や医療機関が、これらのアルゴリズムが公平、適切、妥当、効果的、そして安全であるかどうかを問い始めるのに十分な情報を受け取ることが求められています。.