大規模言語モデル（LLM）は新しいOSなのだろうか。もしそうなら、ソフトウェアだと考えられているものの定義をLLMが変えつつある。
急速に進化する人工知能（AI）技術の影響を説明する際には、ユーティリティーやタイムシェアリングシステム、OSなどの比喩が用いられる。OpenAIの共同創設者で、Teslaの元AI担当シニアディレクターであるAndrej Karpathy氏の考えでは、OSが最も適切な比喩だという。このシナリオにおいて、LLMは基本的に新しい種類のコンピューターであり、メモリーとコンピューティングを調整して、問題解決の活動に利用する。
Karpathy氏は先ごろ、サンフランシスコで開催されたスタートアップカンファレンスの講演で、LLMは複雑なソフトウェアエコシステムだと述べた。これらのエコシステムと従来のOSには類似点が多い。実際のところ、LLM環境には「『Windows』や『macOS』といったクローズドソースのプロバイダーと、『Linux』のようなオープンソースの選択肢がある」とKarpathy氏は説明する。「『Llama』エコシステムはLinuxのようなものに近い」
ユーティリティーコンピューティングとタイムシェアリングコンピューティングは、LLMに当てはまる比喩だ。その理由には、広く利用されている点と、構築に多額の資本が必要になる点が挙げられる。「まるで1960年代のように、この新しい種類のコンピューターでは、LLMのコンピューティングコストがまだ非常に高い。そのため、LLMはクラウドで集中管理せざるを得ず、利用者はネットワーク経由でやりとりするシンクライアントに過ぎない」（Karpathy氏）
この高コストと複雑さは、ある意味で「パーソナルコンピューティング革命」がまだLLMで起こっていないようなものであり、その理由は「経済的でなく、理にかなっていない」からだとKarpathy氏は語る。
現在のOSと異なり、LLMには共通のグラフィカルユーザーインターフェース（GUI）がまだ開発されていない。「『ChatGPT』やLLMと直接テキストで話すときはいつも、ターミナルでOSと話しているように感じる」とKarpathy氏。「実際には、一般的なGUIはまだ発明されていない。ChatGPTには、単なるテキストの吹き出しとは異なるGUIが必要だろうか。確かに、一部のアプリにはGUIがあるが、全てのタスクで利用できるGUIはない」
しかし、このような課題があるとはいえ、進歩のペースは速い。Karpathy氏は、「ソフトウェア3.0」の時代に入りつつある、と主張した。ソフトウェア1.0のプログラム開発ではシステムにコードを書き込む必要があり、ソフトウェア2.0はニューラルネットワークをベースとしていたが、ソフトウェア3.0は「われわれの母語である英語」のプロンプトを使用する。
Karpathy氏は、以前携わったTeslaのオートパイロット技術の開発が、ソフトウェア1.0から2.0、そして3.0への移り変わりをよく表している、と述べた。「ステアリングや加速を実現するために、ソフトウェアスタックを利用していた」
「かつて、オートパイロットには大量の『C++』コードが使われていた。ソフトウェア1.0のコードだ。多少のニューラルネットもあり、画像認識を行っていた。オートパイロットを改良していく中で、ニューラルネットワークの能力と規模が拡大し、C++コードは全て削除された。もともと1.0で書かれていた機能の多くが、2.0へと移行したわけだ」
このアプローチは、複数のカメラで撮影した画像の情報を活用し、ニューラルネットワークで実施していたという。「多くのコードを削除できた。ソフトウェア2.0スタックは、オートパイロットのソフトウェア1.0スタックを文字通り侵食した」
ソフトウェア3.0への移行において、こうした開発プロセスの移り変わりがより大きな規模で起きる可能性がある、とKarpathy氏は述べた。「新しい種類のソフトウェアが登場して、スタックを侵食している」
「現在は、大きく異なる3つのプログラミングパラダイムがある。この業界に入る人は、3つ全てを習得するといい。どれも一長一短あるからだ。何かの機能のプログラミングに1.0を使うかもしれないし、2.0や3.0が必要かもしれない。ニューラルネットを訓練することもあれば、LLMにプロンプトを入力するだけでよい場合もあるし、明示的なコードを記述すべき場合もあるだろう」
ソフトウェアの開発と展開は急速に変化しており、コマンドを黙々とコーディングするスタイルから、機械との双方向の対話へと移行している。その過程で、この新しい時代は幅広いアプリケーションの可能性を切り開いている。
提供：dan/Getty
この記事は海外Ziff Davis発の記事を朝日インタラクティブが日本向けに編集したものです。
