数据可以使用所有的 L2/L3 缓存吗？如果是这样，为什么 Graviton 3 带宽图在 L2/L3 大小的一半后下降，但只是逐渐下降？

以 Graviton3 为例。它是一个 64 核 CPU，每核缓存 64KiB L1d 和 1MiB L2。以及跨所有内核的 64MiB 共享 L3。每个插槽的 RAM 带宽为 307GB/s（来源）。

在这个情节（来源），

当数据超过 4MB 时，我们看到全核带宽下降到大约一半。这是有道理的：64x 64KiB = 4 MiB 是 L1 数据缓存的大小。

但是为什么下一个悬崖从 32MB 开始呢？为什么那里的下降如此缓慢？64 核的私有 L2 缓存总共为 64 MiB，与共享 L3 大小相同。