日本は伝統的に豊かな発想で、世界に先駆けて最先端のテクノロジーを開発する力を有しています。これは現在、産業を問わず開発が進んでいる人工知能（AI）分野でも同様です。特に日本のテクノロジーの強みであるロボティクスにおいては、遠隔医療の機器操作、運輸・運送における車両の自動運転、製造プロセスの自動化などの実現に向けて、新たなAIの開発が進んでいます。そして、日本企業がこの急速に発展するテクノロジー開発の国際的なリーダーになるためには、欧米などのマーケットでテクノロジーが受け入れられ、いち早くシェアを拡大することが極めて重要になります。
現在、私が注目しているのは、医療分野でのAI活用です。2021年4月、欧州委員会はリスクの高さに応じてAIの使用を規制する、AIの包括的な規制案を公表しました。また、欧州市場への参入を検討している日本企業は、「欧州臨床試験規則（EU Clinical Trials regulation）」と「欧州医療機器規則（EU Medical Device regulation）」の2つの規則が新たに施行されたことに注意しておく必要があります。これらの規則は、チャットボットと会話する際の透明性に関する比較的低いレベルの要件から、人々や社会の安全を脅かす高リスクなシステムまで、企業が人々に起こり得るリスクを想定し、業界全体で規制順守に取り組むようになることを目的としています。
AI規則は医療機器業界にどのような影響を与えるのか
新型コロナウイルス感染症の大流行への対応が世界各国でのAI活用を加速させました。米ノースウェスタン大学の研究者は、肺のX線画像の分析により新型コロナウイルスを検出するAIプラットフォーム「DeepCOVID-XR」を開発しました。これは機械学習を重ねたアルゴリズムで、胸部放射線科の専門医チームを上回る、およそ10倍の速さでX線画像内の新型コロナウイルスの検出に成功しました。
AIの開発においても患者の生命に関わる医療行為に、より高い安全基準が求められるのは当然です。一方、医療におけるテクノロジー導入のイノベーションは日々進歩を重ね、これまでになかった新たな医療技術の開発を現実のものにしようとしています。技術の進歩は慢性疾患や原因不明の疾患を抱える人々に大きな希望をもたらしますが、正しく適用されなければなりません。AI活用による技術開発の進歩は、今後も世界規模で拡大していくものと思われます。また、世界中のAI開発者が欧州市場に参入したいと考えるのであれば、欧州連合（EU）での新しいAI関連の規則に準拠する必要があります。
上述したEUのAI規則案は、AIシステムに対する監視と最終的なコントロールを目的とし、人類に与えるリスクを評価し、以下の4つカテゴリーに分類しています。
- 最小リスク：AIを活用したテレビゲームやスパムフィルターなどのアプリなど
→制限なく自由に利用可能 - 低リスク：チャットボットなどユーザーとやりとりするAIなど
→AIの使用をプロバイダーが明確にするなどの義務が必要 - 高リスク：健康や安全にリスクをもたらす可能性のある方法でのAI技術の利用。例えば、輸送などのインフラでの使用、ロボット支援手術におけるAIの活用など
→事前に適合性などの評価が必要 - 受容できないリスク：人々の安全、生活、権利に対する明らかな脅威と判断されるAI
→禁止
医療技術（MedTech）企業は、適切なリスク評価の実施、AIシステムの学習に使用するデータ品質の正確な検証、AIシステムの堅牢性とサイバーセキュリティ対策の確立、AIを活用したデータなどのトレーサビリティーの保証といった、多くの規制によって新たに生じる義務を順守していることを常に示す必要があります。また、これらの規則では、プロバイダーがAIシステムの動作を継続的に監視して深刻な不履行があった場合には直ちに報告し、システムの修正やリコールを行うことを定めています。
