NvidiaはCUDAによりソフトウェア企業であることが証明される

Nvidiaが持つ競争上の「堀」はハードウェアではなく、CUDA（Compute Unified Device Architecture）というソフトウェアプラットフォームである。CUDAの主要機能は並列処理で、例えば9×9の掛け算表を作成する際、単一コアでは81回の演算を順次実行するが、9コアのGPUでは各コアが異なる列を担当し、9倍の速度向上を実現する。CUDAの開発は2000年代初頭、ゲーマーでもあったStanford大学院生Ian Buckが始めた。彼はGPUアーキテクチャが汎用高性能計算に転用できることに気づき、Brookというプログラミング言語を作成した。その後Nvidiaに採用され、John Nickolsと共にCUDAを開発した。現在CUDAは単なるプログラミング言語ではなく、AI向けソフトウェアライブラリの複合体として進化している。各機能は数学演算から数ナノ秒を削減し、累積効果でGPUの性能を大幅に向上させる。現代のグラフィックカードは回路基板にチップとメモリを詰め込んだだけでなく、キャッシュ階層や「テンソルコア」「ストリーミングマルチプロセッサ」などの特殊ユニットを含む精巧な構造となっている。