過信と不信のもたらす UX
既にAIはさまざまな成果を上げているので、一般の人々の現在の AI（の能力）に対する信頼感は充分に高い、と言えるであろう。その分、逆に （まだ） できないことまで（簡単に）できると思われることも少なくない。
「このシステムはAIを使っている」とユーザーに提示する、あるいは期待させることは機能や性能に信頼や安心をもたらすだろうし、提示の仕方や期待の持たせ方によっては、過度に期待してしまい、実際の利用時の落差で失望感を与えてしまうかもしれない。
また、なぜそういう応答をしたのかなどが説明しづらいので、ユーザーにとって不適切だったり、気に入らなかったりする結果が出たときに、ユーザーは不信を抱きやすい。
それに対しては、システム提供側も対処がしづらく、繰り返されれば提供側もシステムに不信を感じるようになりかねない。そうした気まずいUXをもたらさないよう、AIの出力結果の利用のしかたやユーザへの見せかたは注意深くデザインせねばならない。
これは個々のシステムとユーザー間の話だけではなく、AIを応用したシステム全体や機械学習などの技術全般と社会との間にも当てはまる。
社会のAIに対する信頼は開発や研究を加速し、世の中を便利に、快適にしていく一助になるであろう。しかし、AIに対する過信は、よくない方向での依存や思考停止をもたらすかもしれず、その結果として災厄的なことが起こるかもしれない （SFの中ではさまざまなタイプの災厄が描かれている）。
過度な期待と実際に得られるものの落差は、将来の AIの研究開発をやりづらくするであろう。社会として、AIをどう活用してゆくべきかも、注意深く考えて、探っていかねばならない。
もちろん、過度な期待の盛り上がりとその期待が外れたときの落差は AIに限らず技術全般に対して起こる。
それを表すために、ガートナーはハイプサイクルという考え方を提案している。
過度な期待が集まった状態を過ぎて落差が顕になった状態を「幻滅期」と呼んでおり、その先は （全ての技術がこの道筋をたどるということではないが）「啓蒙活動期」を経て「生産性の安定期」に至る。
ガートナーは、毎年さまざまな IT関連技術がハイプ・サイクル上のどの段階にあるか、という評価を発表しているので、興味のある人は見てみていただきたい。
神秘性から日常の道具へ
AIだけでなく、コンピュータ自体も、インターネットも、他の分野の革新的な技術も、普及し始めたころには多くの人々には神秘性を感じさせるものであった。
その神秘性が過度な期待を生み出し、過度な期待がさらに神秘性を増強する、というループになることも多い。
UX を考える上ではそうした「神秘性」はうまく生かしたいが、ともするとユーザーを騙したりすることになりかねないので、気をつけたい。
サービス提供側の都合にすぎないものを、"AI" の神秘性を悪用して、さもユーザ側のためのような雰囲気で押し付けるような例も既にあるのではないだろうか。
普及し、技術がこなれていくと、だんだんと神秘性は薄れ、「安定期」を迎えて時間が経つと日常的な道具となる。
そこまでいくと当初の「神秘性」はもはや見当もつかないものになったりもするが、道具自体や、その道具を活用するものにまつわる UX をデザインするにあたってそれを参考にするのはひとつの選択肢である。
