Linux 内核技术 - Page Cache 观测

Page Cache 管理不当,不仅会增加系统 I/O 吞吐,还会引起业务性能抖动,我们在工作中遇到的一些场景比如:

  1. 机器 load 飚高
  2. 机器 I/O 吞吐飚高
  3. 业务响应时延出现较大的毛刺
  4. 业务平均响应时延明显增加

这都很可能与 Page Cache 相关。

阅读全文

计算机组成原理 - DMA

我们对于 I/O 设备的大量操作,多数类似文件复制,把硬盘数据拷贝到内存,再把内存数据传输到I/O设备。这种情况,如果所有数据都要经过 CPU,实在有点太浪费时间了,因为 CPU 速度很快,大部分都在傻等硬盘读写。

因此,计算机工程师们,发明了 DMA 技术,即直接内存访问(Direct Memory Access)技术,来减少 CPU 的等待。

阅读全文

计算机组成原理 - 理解 IO_WAIT

因为 CPU 的频率通常在 2GHz 以上,即每秒可执行 20 亿次操作,所以瓶颈通常在 I/O 上。那么具体如何定位呢?

阅读全文

计算机组成原理 - 理解内存

计算机最重要的是 CPU,除此之外,第二重要的就是内存,内存属于计算机五大组成部分中的存储器,我们的指令和数据,都要先加载到内存,才会被 CPU 拿去执行。

之前有篇提到过,程序并不能直接访问物理内存,而是通过虚拟内存地址转换到物理内存地址,从而加载数据,那么虚拟地址究竟如何转换成物理内存地址的呢?

阅读全文

计算机组成原理 - 高速缓存

来看 3 行代码,比较一下两个循环运行所花的时间。

1
2
3
4
5
6
7
int[] arr = new int[64 * 1024 * 1024];

// 循环1
for (int i = 0; i < arr.length; i++) arr[i] *= 3;

// 循环2
for (int i = 0; i < arr.length; i += 16) arr[i] *= 3

按道理来说,循环1 花费的时间应该是循环2 的 16 倍左右。但实际上,循环1 在我的电脑上运行需要 50 毫秒,循环2 只需要 46 毫秒。相差在 15% 之内,1 倍都没有。

这就是 CPU Cache (高速缓存)带来的效果。

程序执行时,CPU 将对应的数据从内存中读取出来,加载到 CPU Cache 里。这里注意,CPU 是一小块一小块来读取数据的,而不是按照单个数组元素来读取数据的。

这一小块一小块的数据,在 CPU Cache 里面,我们把它叫作 Cache Line(缓存块)。

日常用的 Intel 服务器或者 PC 中,Cache Line 的大小通常是 64 字节。

上面的循环2 里面,每隔 16 个整型数计算一次,16 个整型数正好是 64 个字节。所以,循环1 和循环2,都需要把同样数量的 Cache Line 数据从内存中读取到 CPU Cache 中,导致两个程序花费的时间就差别不大了。

阅读全文

计算机组成原理 - CPU 的指令周期和数据通路建设

我们知道,在 冯·诺依曼 的提出的计算机模型中,计算机是由五大部分组成:运算器、控制器、存储器、输入设备、输出设备。

其中,运算器和控制器一般会放在一起,即我们的 CPU (中央处理器),负责指令读取和计算。

指令一般分为三类,R 型:进行算术操作、逻辑操作;I 型:进行数据传输、条件分支;J 型:地址跳转。

有了这些基础,那么完整的 CPU 是怎么运转起来的呢。

阅读全文