生成AIの急速な普及により、コンピューティング需要の急増による電力不足など、新たな問題が発生している。企業が必要とする処理をクラウド環境などに集中させ過ぎると、半導体や電力不足などが生じる懸念がある。そこで注目されているのが「エッジAI」という考え方である。
クラウドではなく、各端末やそれに近い環境のエッジでAIを動かすことにより、省電力や遅延の回避などを図れるという。プライバシー保護などセキュリティの観点でも優れる面があるため、クラウド環境上のシステムとの併用を試みる動きが出てきている。
もう1つの視点は、生成AI市場における圧倒的な選択肢となっているNVIDIAへの依存と、それによる高コスト構造を解消しておきたいとの狙いもあるようだ。Appleは自社のAIである「Apple Intelligence」の基盤モデルを、NVIDIAではなく、Googleが独自に設計・開発した半導体「TPU」でトレーニングさせているとの報道もあった。
現場で処理する手法として古くから存在感を持つエッジコンピューティングをAIに応用したと言えるエッジAIについて、説明する記事を集めた。