パナソニック ホールディングス（パナソニックHD）とPanasonic R&D Company of Americaは7月28日、AIモデルが学習しておらず「本質的に認識ができない」物体を「未知物体」として認識し、画像認識AIモデルの信頼性を高める技術「FlowEneDet」を開発したと発表した。
発表によると、画像認識AIモデルは事前に学習させた対象に対しては高い認識率を誇るが、実環境の全ての物体をあらかじめ学習させることは困難なため、実際の利用環境では、AIモデルにとって未知の物体に直面することは避けられない。
一方、AIモデルは「知らない」と判断することが苦手であり、モデルが知っている範囲で無理やり認識し「知ったかぶる」ことが、予期しない誤動作にもつながりかねず、大きな課題となっている。
図1の矢印で示す物体（画像左上：ビールケース、画像左下：犬）は、AIモデルが事前に学習していない未知の物体。学習済のラベルから無理やり当てはめて推定してしまった結果、そもそも認識できない物体であるはずのビールケースを、一部が車（紺色）で残りが道路（紫）と誤認識し、同様に犬についても一部が木（緑）で一部が道路（紫）と誤認識している（出典：発表資料）
FlowEneDetは、学習済の画像認識AIモデルの後段に追加するだけで簡単に拡張でき、高速に動作することが特徴。AIモデルの画像認識結果が「どれくらい信頼できるのか（不確実性）」を推定し、「未知物体」に付与された誤ラベルを棄却することで本質的に認識が可能な学習済の物体のみを正しく認識できるようにする。
発表によると、FlowEneDetは実環境でしばしばAIモデルが遭遇する、学習したことのない未知物体に対する誤認識を防ぐことで、モデルの性能と信頼性を高める技術とのこと。AIの信頼性が求められるさまざまなユースケースでの活用が期待されるとしている。
