「GPUにはマシンラーニングに必要のない電気回路が数多く存在する。長年にわたって蓄積された価値のない回路で、非常に数が多いのだ」とKhosrowshahi氏は言う。「チップの大部分を占め、エネルギー使用でコストのかかる回路は必要ない」
「ニューラルネットワークは非常にシンプルで、ちょっとした行列の乗算と非線形性で成り立っている。直接シリコンを構築して行うことも可能なのだ。ニューラルネットワークのアーキテクチャに非常に忠実なシリコンを構築すればいい。これはGPUではできないことだ」
Davis氏は、今こそ開発者に新しいアーキテクチャを提供する時が来たと考えている。
「いつかは賭けに出なくてはならないものだが、毎回やる必要はない」とDavis氏。「アーキテクチャ機能としてLake CrestとSpring Crestを確立させたいと考えているが、2年後や3年後に全部やり直すといったことはしたくない。開発者も文句を言うだろう」
「必要なときにジャンプすればいいが、開発者をこき使い続ける必要はない」
Lake Crestはアクセラレータカードとなるが、アーキテクチャが成熟すれば、IntelはLake CrestをCPUに近づけたいと考えている。
「いつかは始めなくてはならない。エコシステムの開発を始め、アーキテクチャを確立させる。これは個別のソリューションとして実行する必要があり、時間をかけてCPUへと移行させるのだ。ただし、正当な理由がある場合にのみ行う。われわれはそこに正当な理由があると信じている」とDavis氏は述べている。
「自分の中で『NVIDIAで十分だ』と考えてしまうのもいいかもしれない。ただ、3～4年後にディープラーニングがデータセンター内でユーザーのワークフローに密接に統合されると、その時何が起こるだろうか」
「そうなると、突然仲間はずれとなってしまう。統合されることもなく、付属の共同プロセッサとなる。実行フローが停止することもあれば、上にあがってそこで何かし、下に戻ってくる。レイテンシが高まり、パフォーマンスが低下する」
Davis氏によると、Lake CrestをCPUに近づけるのは、必ずしもシリコンと同様にすることではないというが、命令やアーキテクチャの機能となる可能性はある。
「現在のLake Crestの機能はプラス300Wだ。これが車やエッジデバイスなどに搭載されることは当面はないだろう」
「搭載されるとすれば、アルゴリズムやアーキテクチャの知的財産、そして機能などの処理部分だ。マイクロコードや命令セットの開発方法に影響を与えるのは、Lake Crestというアーキテクチャであって、チップではない」
「Nervana担当者が提案したCPU用の命令をすでに一部検証中だ」
