AIのガバナンスと信頼構築を支援するツールキットを提供開始--日本IBM

渡邉利和

2023-12-05 17:00

 日本アイ・ビー・エム(日本IBM)は12月4日、「watsonx.governance」を同1日に提供開始したと発表した。watsonxは「信頼できるデータをビジネス全体で使用して、AIの効果を拡大・加速できるように設計された、さまざまなAI支援機能を備えたAIとデータのプラットフォーム」として、5月にグローバルで発表されたもの。主要な3つの構成要素のうち、「watsonx.ai」と「watsonx.data」は7月に提供開始され、残るwatsonx.governanceは2023年交換提供開始予定とされていたが、今回提供開始が発表された。

 冒頭で同社のAI倫理への取り組みについて説明した執行役員 兼 技術理事 AIセンター長の山田敦氏は、AIの進化を強力に推進していく一方、AIの進化発展が道を外れてしまうことがないようにAI倫理にも注力していくという同社の方針を「アクセルと併せて、ガードレールをどう引いていくか、その両方を担当している」という表現で説明した。

日本IBM 執行役員 兼 技術理事 AIセンター長の山田敦氏
日本IBM 執行役員 兼 技術理事 AIセンター長の山田敦氏

 同氏は現在想定されているAIリスクについて、「AIモデル学習」の段階で想定されるリスクと「AIモデル利用」の段階で想定されるリスクに分けて概要説明を行い、対応策についても紹介を行った。同社で「IBMのAI原則」として「信頼と透明性の原則」を掲げ、さらに「原則を支える基本特性」として説明可能性、公平性、堅牢(けんろう)性、透明性、プライバシーの5つを置き、その実現に向けた取り組みとして「AI倫理委員会」を中核とするガバナンス体制を構築するとともに、リスク審査プロセスを規定して運用していることも紹介された。今回発表されたwatsonx.governanceにおいてもこうした社内のガバナンス体制の実践経験が生かされているとされる。

日本IBM 理事 テクノロジー事業本部 Data and AIテクニカルセールス watsonx Client Engineeringの竹田千恵氏
日本IBM 理事 テクノロジー事業本部 Data and AIテクニカルセールス watsonx Client Engineeringの竹田千恵氏

 続いて、watsonx.governanceの詳細説明を行った理事 テクノロジー事業本部 Data and AIテクニカルセールス watsonx Client Engineeringの竹田千恵氏は、「AIの領域でIBMが目指すところ」として「watsonxプラットフォームを使い、信頼できるAIでお客さまのノウハウや自社固有のデータを学習させることによって自社の競争力を増幅させていく『AI価値創造企業』になりましょう」と語り、「一般向け大規模言語モデルのAI利用者(AI User)」ではなく「AI Value Creator」を対象とし、さらにビジネスユーザーのニーズをターゲットとして開発した同社の独自大規模言語モデル「Granite」を提供開始するなど、フォーカスを明確にした取り組みを行っていることを強調した。

 その上で同氏はwatsonx.governanceを、こうした「AI価値創造企業」が信頼できる高品質なAIを構築するために必要となる「インベントリー管理、リスクガバナンス、継続的な評価とモニタリング」の機能を提供するコンポーネントと位置付けた。

日本IBM テクノロジー事業本部 Data and AIテクニカルセールスの坂本康輔氏
日本IBM テクノロジー事業本部 Data and AIテクニカルセールスの坂本康輔氏

 最後に、テクノロジー事業本部 Data and AIテクニカルセールスの坂本康輔氏がwatsonx.governanceの画面を紹介しながら具体的な機能について説明を行った。インベトリー管理では、「AIモデルの作成のライフサイクルを可視化し、管理していく」ことができる。ベースとなるモデルの基本情報や学習データの管理、さらにモデルのバージョンごとに「開発、テスト、検証、操作」という各局面のどの段階にあるのかといったステータスの可視化も行う。また、作成されたAIモデルの評価では、AIに評価用の入力を与えて出力された結果を検証し、その品質を確認するといった機能が紹介された。

 AIに関しては、バイアスの掛かったデータを学習させることで出力結果を汚染するような攻撃が想定されたり、「もっともらしく嘘をつく」といった信頼できない出力が危惧されたりするなどさまざまな課題が指摘されているが、「AI価値創造企業」が自社でAIを作成する際には、学習データをコントロールし、出力に関しても検証を行うことでこうした問題の発生を抑制することは可能だと思われる。こうした作業を支援するツールとしてwatsonx.governanceは有用だと考えられる。

ZDNET Japan 記事を毎朝メールでまとめ読み(登録無料)

ZDNET Japan クイックポール

自社にとって最大のセキュリティ脅威は何ですか

NEWSLETTERS

エンタープライズ・コンピューティングの最前線を配信

ZDNET Japanは、CIOとITマネージャーを対象に、ビジネス課題の解決とITを活用した新たな価値創造を支援します。
ITビジネス全般については、CNET Japanをご覧ください。

このサイトでは、利用状況の把握や広告配信などのために、Cookieなどを使用してアクセスデータを取得・利用しています。 これ以降ページを遷移した場合、Cookieなどの設定や使用に同意したことになります。
Cookieなどの設定や使用の詳細、オプトアウトについては詳細をご覧ください。
[ 閉じる ]