ケニアのAI主導の医療改革の失敗で最貧困層のコストが上昇

ケニア人が医療へのアクセスにいくら支払うかを予測するために使用された人工知能システムが、貧困層のコストを組織的に増加させていることが調査で判明した。

ウィリアム・ルト大統領の主要な選挙公約である全国展開が進められている医療制度は、2024年10月に開始され、数十年続いたケニアの国民保険制度に代わるものであった。

「デジタル変革の加速」と銘打ち、ケニアの大規模な非公式経済（労働力の83％を占める日雇い労働者、露店商、農民、自営業者）のケアへのアクセスを拡大することを目指した。

ルト氏は2023年の大統領選挙活動中、満員のケリチョのスタジアムで「ケニア人は誰一人取り残されない」と語り、間もなくすべての国民が手頃な価格の医療を受けられるようになるだろうと発表した。

しかし、同氏の解決策は抗議と怒りを引き起こした。なぜなら、何百万人もの人々の健康への貢献は現在、「欠陥がある」と言われ、透明性がほとんどない計算式を使って計算されているからだ。

ルト氏が AI を活用したと説明したそのソリューションは、ChatGPT のような大きな言語モデルを支える最近の AI の進歩には依存せず、代わりに予測機械学習アルゴリズムを使用します。

現在では、資力調査のプロセスを通じて、何百万人もの人々の医療への拠出額を決定しています。

アフリカ無検閲のジャーナリストは、ライトハウス・レポートおよびガーディアンと協力して、数か月にわたる調査を通じて、このシステムの重要な詳細を入手し、その運用を監査することができました。この調査結果は、最初から最も貧しいケニア人がどのようにして組織的に過大請求され、収入を過大評価し、一方、最も裕福な人々は収入を過小評価することで過小請求されていたかを明らかにしている。

グレース アマニ* は毎日、人々の家を訪問して、奇妙なことから押し付けがましいものまで、さまざまな質問をしています。どんなトイレを使っていますか？あなたの屋根は何でできていますか？ラジオはありますか

これは、居住者が携帯電話のデジタル クイズでこれらの数十の質問 (トイレ、鉄の屋根、ラジオがない) に答えるのに役立ちます。人々はしばしば混乱します。捜査を受けているのではないかと懸念する人もいる。フォームが完了すると、その年に家族が公的医療保険に支払わなければならない金額がアルゴリズムによって計算されるときに数値が返されます。

10人の子供の母親である彼女も、この制度は本来機能しておらず、裕福ではない人々を罰していると主張する人々の一人だ。

アマニが登録している人々はケニアの首都ナイロビで最も貧しい人々の一部だが、そのほとんどは払えない手数料を請求されている。彼女は、自分たちを養うのに苦労している家族が資力をはるかに超えた割増金を請求され、その多くが乏しい収入の10％から20％の額に直面していることを目の当たりにした。

アマニ氏はまた、AIシステムが支払わなければならない金額を支払うことができず、重篤な状態にあり治療を受けられない人々も見てきた。

「人々は死に、人々は苦しんでいる」と彼は言った。

彼が目にしている人々は、まさに政府がAI主導の医療改革から最も恩恵を受けると約束している人々だ。最も所得の低い人は、最低限の保険料を支払うか、費用を全額負担してもらう必要がありました。 「彼らは、それが自分たちを助けるものだと考えたのです」とアマニ氏は語った。

社会保健局（SHA）は発足以来、人々を誤って分類したり、支払不能または理解できない保険料を設定したりするとして批判を受けてきた。

民間保険に加入しておらず、SHA保険料を支払っていないケニア人は、医療施設から断られたり、高額な入院費を提示されたりするリスクがある。これにより、治療を受けられなくなった人もいます。 「人々は自宅で亡くなっている」とアマニ氏は語った。 「多くの人が病院に行けませんでした。彼らはSHAの費用を払うのでしょうか、食費を払うのでしょうか、それとも住む小さな家の費用を払うのでしょうか？」

ソーシャルメディアでは、ケニア人が支払えない料金の説明をコメント欄に殺到している。 「500ケニアシリングを支払うのに苦労したことから [£2.90] 以前は 1,030 ケニア シリングを請求していました」と、ある人は書いています。

あるシングルマザーは、毎月の拠出金が3,500ケニアシリングに設定されていたため、「神よ私を憐れんでください」と書いた。

ケニア保健省に助言した医療経済学者のデビッド・カオヤ氏は、SHA処方の既知の欠陥に直面したとき、選択がなされたと語った。

このシステムには限界があるため、貧しい世帯を正しく評価することも、裕福な世帯を評価することもできませんでした。カオヤ氏は、たとえ貧しい人々に過剰な請求をすることになっても、政府は富裕層の正確な評価を優先することを選択したと述べた。

「裕福な人を貧しいと認定し、そのために支払う金額を減らすよう求めても、その人は決して自分の責任を負うことはなく、『実際には私はもっと支払うべきだ』と言うだろう」と彼は言う。

ケニアのアルゴリズム医療システムは、世界銀行が数十年前から開発してきたバグベアである代用手段検査（PMT）に基づいて構築されている。これは、貧困層の財産や、子どもの数や一人暮らしかどうかなどのその他の生活環境に基づいて貧困層の収入を推定する方法である。

開発経済学者のスティーブン・キッド氏は、PMTは「アフリカ全域、アジア太平洋全域」で世界銀行が資金提供するプログラムで使用されていると述べた。政府が融資を受けるための条件とされることがよくありました。

ケニアでは、これはアマニのような政府のボランティアを全国の世帯に派遣して屋根材、家畜、子供たちを登録させ、それらの詳細を不透明なアルゴリズムに入力して、彼らがいくら稼いでいくら支払うべきかを決定することを意味している。

監査では、実際の数千世帯に対してシステムをテストしました。家族が次々と、システムは彼らの資力を過大評価した。 2 人の農家の場合、電気があり、家を所有しているという事実に基づくと、収入は実際の 0 の 2 倍でした。

SHA によって構築されたシステムと同様のシステムは、多くの場合、世界銀行やその他の国際ドナーによって推進され、近年世界中で急速に普及しています。

アフリカ、アジア、ラテンアメリカでは、どの世帯が現金給付、食料補助金、その他の給付金を受け取るのに「十分に貧しい」かを判断するために PMT アルゴリズムが普及しています。これらのシステムは、歴史的に行方不明になっている人々に国家サービスを拡張することを目的としています。収入が不安定で、収入に基づく医療制度にうまく適合しない非公式労働力。

しかし、キッドと他の研究者は、これらのシステムが単に機能しないことを発見しました。人口を「貧困層」または「非貧困層」に分類しようとするとき、ほとんどの人が重大な間違いを犯します。キッドが試したインドネシアの貧困を対象とした計画では、対象とする人口の82％が除外された。ルワンダの別の実験では90％の誤りがあった。

アフリカ・アン検閲とライトハウスによる調査監査によると、ケニアの場合、SHAシステムは貧困世帯の半数以上に料金を請求しているようだ。高所得世帯の収入は過小評価されている。

こうした不正確さの理由は一つではない、とキッド氏は語った。貧困は流動的なカテゴリーであり、鉄の屋根やトイレなどの要素を使用して家族の富を推定することは、本質的に不正確な作業です。

しかし、ケニアのような資力調査アルゴリズムは別の問題を引き起こす。アルゴリズムは不透明で、政府サービスに対する国民の信頼を低下させる。

「私にとっては宝くじのような気がします」とキッドは語った。 「宝くじは信頼を築く良い方法ではありません。」

ケニアではこの制度に対して不満が広がっている。しかし、その失敗は、国際的なデータコンサルタント会社IDinsightによって書かれ、システムが導入される前に政府と共有された報告書によって予測されていたようだ。

記者が入手したこの報告書では、SHA制度には欠陥があり、「特に低所得世帯にとっては不公平」であることが判明した。富を判断するためのその根拠は「中間所得世帯を過剰に表しており、貧困層からのデータポイントはほとんどない」。また、ケニアを襲った「複数の経済ショック」を考慮すると、それはケニアの「現在の社会経済状況と合致していない」ものだった。

それにもかかわらず、ケニアはとにかく SHA システムを導入しました。 SHA に登録している 2,000 万人以上の人のうち、定期的に保険料を支払っている人はわずか 500 万人です。約束されたSHAの償還が未払いのままで、一部の病院は多額の赤字を報告している。

元副大統領リガティ・ガチャグア氏は３月、「ＳＨＡは半年以内に崩壊するだろう」と予言した。

ブライアン・リシェンガ博士が初めて PMT について聞いたのは、ナイバシャでの会議で、政府関係者と国際ドナーの間の議論を聞いていたときでした。ケニア地方都市私立病院協会のリシェンガ会長は、政府がどのようにして数千万人の非正規労働者をこの制度に導入する計画を立てているのかを理解したいと考えた。

彼は現在、この制度を最も声高に批判している人物の一人である。 「これは失敗した実験だ」と彼は言った。 「これは貧困世帯を特定するための非常に不十分なツールです。政府の責任回避を助けるための素晴らしいツールです。そのための非常に大きなツールです。」

* 彼の身元を守るために名前は変更されました

アフリカの無検閲ジャーナリストが使用した方法論の詳細な説明はここで読むことができます