コネチカット州では、27万人を超える公務員、退職者、および参加している地方自治体職員の健康保険プランに関して、人工知能による不利な決定が行われる前に、人間の審査を義務付ける。州の方針と独立系メディア「CT Mirror 」の報道によると、9月16日にショーン・スキャンロン州会計監査官が発表したこの安全策は、州職員健康保険プランとコネチカット・パートナーシップ・プランに適用され、2027年1月1日に発効する。

中心となるルールは単純明快だ。AIシステムのみで不利な決定を下すことは許されない。必ず人間が審査しなければならない。保険会社は、AIや予測モデルのみを使用して、請求のダウンコード、医療機関への支払額の減額、または請求コードの変更を行うこともできない。この方針は、日常的な請求処理から自動化を排除するものではない。承認された契約プロセスと自動化プロセスを維持しつつ、医療や支払いを削減する可能性のある決定には人間のチェックポイントを設けるものである。.

その区別が重要なのは、州がコネチカット州の保険市場全体で技術を禁止するのではなく、州自身の購買関係を規制しているからである。 報道に。スキャンロン氏は、管理者らは交渉の後、新しい要件に同意したと述べた。

プライバシー、情報開示、監査

このポリシーでは、会員データを他のAIモデルのトレーニング、開発、またはサポートに使用することも禁止されています。通信事業者とプロバイダーは、AIが給付や医療サービスに実質的な支援、直接的な参加、または推奨を行う場合、会員にその旨を通知しなければなりません。AIシステムは、正確性、一貫性、公平性を確認するために過去のデータと照合してテストする必要があり、通信事業者はガバナンスと監査の手順を会計監査官に開示しなければなりません。WSHUによる公共ラジオの報道は、 人間 によるレビュー、プライバシー、開示、および監査の要件を独自に確認しました。

患者にとって、この制度の実質的な効果は、アルゴリズムが州の医療保険制度において不利な保険適用決定に寄与した場合に、人間の介入を求める権利が保障されるという点にある。臨床医にとっても、自動化ツールが支払額を減額したり、コーディングを修正したりする場合には、同様の原則が適用される。この方針は、人間の審査担当者が最初の勧告を覆すことを保証するものではないが、AIの出力が最終決定となることを防ぐ。また、管理者に対し、システムの管理方法とチェック方法を文書化することを義務付けることで、監視の記録を残す役割も果たす。.

適用範囲は広いが、全住民に及ぶわけではない。この規則は、会計監査官が監督する2つのプランを対象としており、コネチカット州の全住民を対象としているわけではない。スキャンロン氏は、2027年の議会で、同様の保護を州が規制するすべての健康保険プランに拡大するよう議員に求める予定だと述べた。CT Mirror。

コネチカット州医師会はこの動きを支持し、自動的な請求拒否やダウンコーディングは臨床判断に取って代わるべきではないと主張した。 ベッカーズ では、この方針が27万人以上の会員を対象とし、承認された自動請求プロトコルを維持していることが確認された。したがって、この方針は短期的な購買規則として機能するとともに、来年のより広範な立法議論のひな形​​となる。