
「Rustで書き直したら爆速」のさらに先へ。『高速化プログラミング入門』で学ぶ、言語に依存しない高速化
みなさんこんにちは。
「あの人も読んでる」、第24回目の投稿です。maguro(X @yusuktan)がお届けします。
今回は、2026年10月に出たばかりの本『高速化プログラミング入門 第2版』を紹介します。
僕は普段、JavaScript界隈に生息しているのですが、この界隈は速さの話題に事欠きません。まずJavaScriptを実行するエンジンからして、ChromeのV8、SafariのJavaScriptCore、FirefoxのSpiderMonkeyという主要な3つのエンジンがあり、どれも性能をとても強く意識して開発されています。2024年3月には、Apple、Google、Microsoft、Mozillaの開発者が共同で作ったブラウザのベンチマークSpeedometer 3が公開されていて、各エンジンが同じものさしの上で性能を競い合っています。
そのエンジンの上に作られているNode.js、Deno、Bunといったランタイムも、大なり小なり「速さ」を意識した開発がされています。
さらに、JavaScriptの開発で使うツールのエコシステムも、異常なまでに速度に執着しています(褒め言葉)。パーサー、バンドラ、フォーマッター、リンターといった道具は、当初はJavaScript自体を使って書かれていましたが、今ではGoやRust、Zigなどで書かれた新しいツールが次々に登場しています。例えばGoで書かれたバンドラのesbuildは「An extremely fast bundler for the web」を掲げていますし、Rustで書かれたBiomeは、フォーマッターとしてPrettierの約35倍速いとうたっています。ほかにもSWC、Oxc、Rolldownなど、速さを看板に掲げたツールがひしめいています。TypeScriptのコンパイラも、従来はTypeScript自身で書かれていましたが、今はGoで書かれたものが正式版になっています(TypeScript 7.0、2026年7月リリース)。この実装言語の変更の最大のモチベーションの1つも、やはり速度でした(A 10x Faster TypeScript)。
『高速化プログラミング入門 第2版』を買った
こういう環境にいると、速いプログラムを書くための知識を、自分も一度体系的に身につけておきたいなと思うようになります。よく「○○をRustで書き直したら爆速になった!」という話を耳にしますし、実際、言語を変えたこと自体で速くなる部分もあるのだと思います。ただ、どの言語で書くかに関係なく通用する高速化のノウハウを身につけておけば、それは一生モノの知識になるはずだ、とも思っていました。ちょうどそんなことを考えていたタイミングで、Xのタイムラインに流れてきたのが、この本の発売情報でした。発売してすぐに本屋に行って立ち読みしてみたところ、やはり面白そうだったので、そのまま購入しました。紙の本を買ったのは久しぶりです。
本書は北山 洋幸さんによる本で、カットシステムから2026年10月10日に発行されました。初版は2016年1月に出ていて、約10年ぶりの改訂です。コンパイラオプションやループの工夫といった基本的な手法から、キャッシュの活用、OpenMPによる並列化、SIMD命令によるベクトル化までが扱われています。
サンプルコードはC/C++で書かれていますが、考え方の多くは特定の言語に依存しません。CPUの上でプログラムが動く限り、キャッシュやメモリの話はどの言語にもついて回るので、どんなプログラミング言語を書いている人にも通じる話が多いと思います。
ループの順番だけで速さが7.5倍変わる
「なんか難しそう」と思われたかもしれませんが、かなり単純なプログラムでも、高速化とはどういうことかを実感できます。ここではそのような例を1つご紹介しようと思います。本書の第4章「メモリーとキャッシュメモリー」にも出てくる、2次元配列の総和を求める例です。せっかくなので、手元のPCで実際に測ってみました。
次の2つの関数は、どちらも4000×4000の2次元配列 a の全要素を足し合わせます。uint64_t は64ビット(8バイト)の符号なし整数です。
#define N 4000
uint64_t a[N][N];
// 行の順に読む: a[0][0], a[0][1], a[0][2], ...
uint64_t sum_row_major(void) {
uint64_t s = 0;
for (int i = 0; i < N; i++) {
for (int j = 0; j < N; j++) {
s += a[i][j];
}
}
return s;
}
// 列の順に読む: a[0][0], a[1][0], a[2][0], ...
uint64_t sum_col_major(void) {
uint64_t s = 0;
for (int j = 0; j < N; j++) {
for (int i = 0; i < N; i++) {
s += a[i][j];
}
}
return s;
}
2つの関数の違いは、for の2行が入れ替わっているだけです。読む要素も、足し算の回数もまったく同じです。ところが、配列の大きさを変えながら1要素あたりにかかった時間を測ってみると、次のような結果になりました[1]。
| 配列の大きさ | 行の順に読む | 列の順に読む | 差 |
|---|---|---|---|
| 60×60(28KiB) | 0.22ns | 0.22ns | 1.0倍 |
| 300×300(703KiB) | 0.21ns | 0.40ns | 1.9倍 |
| 1000×1000(7.6MiB) | 0.23ns | 0.56ns | 2.4倍 |
| 4000×4000(122MiB) | 0.23ns | 1.73ns | 7.5倍 |
4000×4000の配列では、列の順に読むと行の順の7.5倍も時間がかかりました。要素を見ていく順番が変わるだけで、ループの合計回数は同じなのに、なぜこんなに差が出るのでしょうか?
CPUキャッシュ
答えの鍵を握るのは、CPUキャッシュです。
まず、CPUはとても速いです。手元のRyzen 9 7940HSは最大で5GHzを少し超える周波数で動作し、実際に測ってみると、足し算1回にかかる時間は約0.2ナノ秒でした。ざっくり言うと、1秒間に約50億回の足し算ができる計算です。
一方で、プログラムが意味のある処理をするためには、メモリからデータを読み書きする必要があります。仮に、メモリ上にある42という数字をCPUが取ってきたいとすると、それだけで約100ナノ秒、足し算500回分もの時間がかかります。すべてのデータをいちいちメモリまで取りに行っていたら、CPUはデータが届くのを待つ間、ほとんど何もできずに待ちぼうけになってしまいます。
そこでCPUは、メモリよりもCPUに近い場所に、キャッシュと呼ばれる小さくて速い記憶領域を置いています。キャッシュは何段かに分かれていて、CPUに近いほど容量は小さく、速くなります。手元のPCで、データがどこにあるかによって読み出し1回にかかる時間がどう変わるかを測ってみると、次のようになりました。
| データの場所 | 容量(手元のPC) | 読み出し1回の時間 | 足し算何回分か |
|---|---|---|---|
| L1キャッシュ | 1コアあたり32KiB | 約0.8ns | 約4回 |
| L2キャッシュ | 1コアあたり1MiB | 約3.4ns | 約18回 |
| L3キャッシュ | 全コアで共有の16MiB | 約10ns | 約53回 |
| メインメモリ | 64GB | 約99ns | 約505回 |
一番近いL1キャッシュは容量こそ32KiBと小さいものの、足し算約4回分の時間で読み出せます。メインメモリと比べると、100倍以上速いわけです。つまり、これから使うデータをキャッシュに置いておけるかどうかで、プログラムの性能は大きく変わります。
ここでもう1つ知っておきたいのが、キャッシュラインです。CPUはメモリから値を1つずつ取ってくるのではなく、決まった大きさのまとまりで取ってきて、キャッシュに置きます。このまとまりをキャッシュラインと呼びます。キャッシュラインの大きさはCPUによって異なりますが、IntelやAMDのx86のCPUでは64バイトが一般的で、手元のRyzenも64バイトです。例えばメモリの200番地にある「42」という値(8バイトとしましょう)を取ってくるとき、CPUはこの8バイトだけではなく、200番地を含む192〜255番地の64バイトをまとめて取ってきます(キャッシュラインの区切りは、64の倍数の番地で決まっています)。
C言語の2次元配列では、同じ行の要素がメモリ上で隣り合って並んでいます。a[0][0] が200番地に置かれたとすると、そのすぐ隣である208番地に a[0][1]、その隣の216番地に a[0][2] がある、という具合です。
つまり、a[0][0] を読み取るときに、a[0][0] だけではなく、隣にある a[0][1] や a[0][2] なども同時にキャッシュに載ることになります。行の順にループを回している場合、a[0][0] を足したあと、次に足し合わせたい値である a[0][1] がすでにキャッシュにあるので、メモリまで取りに行く必要がありません。
ところが列の順に読むと、a[0][0] の次に足すのは a[1][0] です。これは4000要素×8バイト=32000バイト先、a[0][0] が200番地なら、a[1][0] は32200番地にあります。当然、キャッシュに載っていないので、メモリから取ってくる必要があります。CPUは待ちぼうけです。
このあたりの話にもっと踏み込んでみたい人には、『プログラマーのためのCPU入門』もおすすめです。
ほかにも引き出しが増える
『高速化プログラミング入門』では、ここまで紹介したキャッシュの話のほかにも、次のような話題が解説されています。
- コンパイラの最適化オプション:
-O2や-O3といったオプションで、コンパイラにどこまで最適化させるかを選ぶ - 関数のインライン展開: 関数の呼び出しを、呼び出し先の関数の中身で置き換える
- PGO(Profile-Guided Optimization): 実際にプログラムを動かして集めた情報をもとに、コンパイラが最適化する
- LTO(Link-Time Optimization): リンクの段階で、ソースファイルをまたいで最適化する
- ループアンロール: ループの中身を何回分かまとめて展開し、ループの制御にかかる処理を減らす
- AoSとSoA: 構造体の配列(Array of Structures)と、配列をまとめた構造体(Structure of Arrays)。データの並べ方を変えて、キャッシュをうまく使う
- ソフトウェアプリフェッチ: 近いうちに使うデータを、前もってキャッシュに読み込んでおくようCPUに指示する
- フォールスシェアリング: 別々のスレッドが別々の変数を書き換えているだけなのに、2つの変数がたまたま同じキャッシュラインに載っていると、コアの間でキャッシュラインの取り合いが起きて遅くなる現象
- SIMDと並列化: 1つの命令で複数のデータをまとめて処理したり、処理を複数のコアに分けたりする
例えばAoSとSoAは、次のようなデータの並べ方の違いです。
// AoS(Array of Structures): 構造体の配列
struct Particle { float x, y, z; };
struct Particle particles[1000];
// SoA(Structure of Arrays): 配列をまとめた構造体
struct Particles { float x[1000], y[1000], z[1000]; };
struct Particles ps;
全粒子の x 座標だけを足し合わせる処理を考えると、AoSでは x と x の間に y と z が挟まっているので、取ってきたキャッシュラインのうち3分の1しか使いません。SoAなら x が隣り合って並んでいるので、キャッシュラインを無駄なく使えます。さきほどのループの順番の話と、根っこは同じですね。
これらをすべて完全に覚えておく必要はないと思います。ただ、「そういえばこんな話があったな」というのを頭の引き出しに入れておくだけでも、ずいぶん違います。たとえばAIにコードの高速化を手伝ってもらうときにも、「このループ、データの並びをAoSからSoAに変えたら速くならない?」のように、具体的にお願いしやすくなるはずです。
推測するな、計測せよ
本書でも強調されていますが、最適化を行う際は勘に頼るのではなく、まず計測して、ボトルネックを特定してから手を付けることが大事です。
いろいろな最適化手法を知ると、あちこちに適用してみたくなるかもしれません。よくいわれる「ハンマーを持つと、すべてが釘に見える」というやつです。ボトルネックではない場所をいくら最適化しても、プログラム全体は速くなりませんし、コードが読みにくくなったり、かえって遅くなったりすることもあります。
この考え方は「推測するな、計測せよ」という言葉で語られることも多く、その元になったとよくいわれるのが、Go言語やUTF-8の生みの親の1人として知られるRob PikeさんのNotes on Programming in C(1989年)です[2]。
僕自身、第20回の「も読」で書いたように、Denoの fetch が特定の状況で妙に遅いという問題を追っていたときは、原因がなかなか掴めませんでした。フレームグラフをとって初めて、tower-httpのgzip展開処理でのメモリ確保がボトルネックだとわかった経験があります。
推測ではなく計測、を心がけていきたいですね。
おわりに
今回は、『高速化プログラミング入門 第2版』から、ループの順番だけで速さが大きく変わる例と、その背景にあるCPUキャッシュの仕組みを紹介しました。CPUの気持ちになって考えることで、CPUの実力を最大限発揮できるようなプログラムがどういうものなのか、わかってきます。
久しぶりに買った紙の本なので、休日にカフェに持っていき、コーヒーと一緒に読み進めています。場所を取らない電子書籍も便利ですが、ふとした時にパラパラとめくって振り返ったりできるのは、紙の良さですね。
また次回、おすすめコンテンツを紹介していきます。お楽しみに!
maguroさんの「も読」過去記事
- JavaScriptの言語仕様を決める委員会「TC39」の会議に参加してきた(10月9日公開)
- SQLiteの16年越しのバグに学ぶ、並行処理の難しさとAI時代の形式手法(9月11日公開)
- Mozillaでの10年、最短ではないキャリアと「実はすごい」Web(8月10日公開)
執筆者へのお便り
-
AMD Ryzen 9 7940HS のマシンで、gcc 16.2.0 の
-O2 -fno-tree-vectorizeでビルドし、1つのコアに固定して9回測った中央値です。-fno-tree-vectorizeは、コンパイラによる自動ベクトル化(SIMD命令への書き換え)を止めるオプションです。ここではSIMDによる性能の違いを見たいわけではなかったので、自動ベクトル化を抑制しました。なお、上のコードには載せていませんが、測る前に配列の全要素を0〜6の値で埋めた状態で総和を求めました。 ↩ -
Rule 1は "You can't tell where a program is going to spend its time."(プログラムがどこで時間を使うのかは分からない)、Rule 2は "Measure. Don't tune for speed until you've measured, and even then don't unless one part of the code overwhelms the rest."(計測せよ。計測するまでは速度のための調整をするな。計測した後でも、コードのある部分がほかを圧倒しているのでない限り、するな)です。「推測するな、計測せよ」は、この2つを日本語で短くまとめた言い回しです。 ↩