LLMがソフトウェア最適化の障壁を大幅に低下
Original : There's no reason for software to be slow anymore
Pourquoi c'est important
LLMによる最適化の民主化は、高性能ソフトウェア開発の経済性を根本から変える可能性がある。
Dan Luu氏のブログによると、LLMの登場により、かつて専門チームが必要だったパフォーマンス最適化作業が、数文のプロンプトで誰でも実行可能になった。JITコンパイラ実装などの高度な技術も民主化されつつある。
Dan Luu氏は自身のブログで、LLM（大規模言語モデル）がソフトウェアパフォーマンス最適化の在り方を根本的に変えつつあると論じている。以前は希少なスキルを持つ専門家チームが必要だった最適化作業のコストが「何桁もの規模で低下した」と指摘する。
AWSのMarc Brooker氏も「ワークロードクラスではなく、特定ワークロードに特化した動的カスタムソフトウェア」の実現可能性に同意。エンジニアのMichael Malis氏はJITコンパイラを例に挙げ、「実装の難しさから普及しなかったJITコンパイラも、LLMにより参入障壁が下がった」と述べる。
実例として、Luu氏はAIエージェントが1ヶ月間rebar正規表現ベンチマークを用いて改良を重ねた正規表現エンジン「FRE」を紹介。ネイティブAOTコンパイル版は長時間検索で優れた性能を示し、別スレッドでコンパイルを並行実行することで、実際のripgrepクエリにおいて2〜4倍の速度向上を確認した。この実験自体も数分のプロンプト入力で実現したという。