情報処理推進機構(IPA)は、「AI利用時の脅威、リスク調査報告書」を発表した。AIの業務利用におけるセキュリティ上の脅威、リスクの認識や対応状況の実態把握を目的にしたもので、回答企業の大半が生成AIを使用せず、半数以上がセキュリティ上の脅威があると認識していることが分かった。
調査は、企業や組織の実務担当者を対象として3月18~21日にウェブアンケートを実施した。事前調査で4941人が回答し、このうちAIを業務で利用または予定するとした1000人について本調査を行っている。
まずAIの業務利用状況(回答4941人)は、利用/許可しているのが16.2%、予定ありが6.3%で、予定なし/分からないは77.4%に上った。

AIの利用状況(n=4941)、出典:IPA
次にAIのセキュリティに関する質問(回答1000人)では、脅威の度合いについて「重大な脅威である」が27.1%、「やや脅威である」が33.3%と、60.4%はAIのセキュリティが脅威になると認識していることが分かった。具体的な脅威としては、虚偽の拡散、システム障害、情報漏えいなどがそれぞれ同程度に挙げられた。AI導入・利用可否におけるセキュリティ対策の重要度については、7割以上が「非常に重要」「重要」と回答した。

AIのセキュリティに関する脅威の度合い(n=1000)、出典:IPA
また、生成AIの規則や体制の整備状況では、規則の策定や明文化、組織的な対応を検討している企業は2割未満にとどまり、詳細な規則を策定中とした企業を含めても4割前後だった。

生成AIの規則、体制整備状況(n=1000)、出典:IPA
生成AIで生成したコンテンツの利用や評価、普及の課題では、企業の約6割が「課題がある」とし、最多は「悪意の生成AIコンテンツを含む詐欺攻撃による金銭被害・情報流出」の63.8%だった。

生成AIで生成したコンテンツの利用・評価・普及における課題(n=1000)、出典:IPA
調査結果についてIPAは、「AIの業務利用が進む中、組織におけるセキュリティ対策の規則整備はまだ道半ばであるとともに、セキュリティ上の脅威、リスクや生成AIで生成したコンテンツ利用、評価については、多くの人が課題を感じているものの優先度は付いていない状況が明らかになった」としている。