Overview

首先看书中的一张图，就对文件I/O缓冲有个大概的了解了：

文件I/O

由图所示I/O缓冲分两个层次

  • 用户空间缓冲区，stdio的输入输出函数内部所使用的缓冲，也就是图中的上半部分user memory部分，在执行标准库函数之后的某一刻，会调用fflush()后刷新缓冲区，此时才会调用系统调用wirte()等写入内核缓冲区。这部分缓冲的作用是可以减少系统调用的次数。
  • 内核缓冲区，系统调用的read(2)/write(2)和真实的磁盘读写之间的缓冲区,以减少读写磁盘的耗时操作。

控制stdio I/O缓冲

想要改变stdio I/O缓冲的的相关参数，可以使用如下函数：

1
2
3

#include <stdio.h>
int setvbuf(FILE *stream, char *buf, int mode, size_t size);
                // Returns 0 on success, or nonzero on error

buf和size指定了stream 使用的buffer和大小。跟据参数buf的不同，又分以下两种情况：

  • buf非NULL, 则将buf指向的内存块给stream作为缓冲使用，buf所指向的内存必须从堆上分配。
  • buf为NULL, stdio库将会自动分配一块内存作为缓冲(除非使用非缓冲I/O), size参数会被忽略(glibc)。

mode 参数可选值，此值的选择会影响fflush()在何时被调用：

  • IONBF 不使用缓冲，每次调用stdio输入输出函数将会马上调用write()或read()系统调用。
  • IOLBF 行缓冲，输出时：遇到换行符就写入内核，读取时：每次读取一行到缓冲区，输出为终端时默认采用此模式。
  • IOFBF 全缓冲，读、写数据(调用read, write)的大小与缓冲区大小一致，输出为文件时默认使用此模式。

另外的控制函数

1
2
3
4
5
6

#include <stdio.h>
void setbuf(FILE *stream, char *buf);

// 此函数相当于：
setvbuf(fp, buf, (buf != NULL) ? _IOFBF: _IONBF, BUFSIZ);
                        // BUFSIZ 定义在<stdio.h>中

1
2
3
4
5
6

#define _BSD_SOURCE
#include <stdio.h>
void setbuffer(FILE *stream, char *buf, size_t size);

// 此函数相当于：
setvbuf(fp, buf, (buf != NULL) ? _IOFBF : _IONBF, size);

这两个函数都是setvbuf()包装了一下，根据情况采用一种即可。

刷新stdio buffer

fflush将强制将stdio缓冲区的数据写入到内核缓冲区。

1
2

#include <stdio.h>
int fflush(FILE *stream);

如果参数stream为NULL, fflush将刷新所有stdio缓冲区。fflush用于读文件流时会把读缓冲区中的数据全部丢弃。

stdio缓冲区刷新时机
除了 无缓冲、行缓冲、全缓冲这三个模式下规定的刷新时机，还有以下两种情况。

  • 文件流关闭时，会自动调用fflush
  • 许多c库包括glibc,若stdin和stdout指向一终端，当stdin有数据输入时，都将隐含调用一次fflush(stdout)

控制内核I/O缓冲

刷新内核缓冲

1
2
3
4

#include <unistd.h>
int fsync(int fd);
int fdatasync(int fd);
void sync(void);

fdatasync和fsync区别在fdatasync在文件元信息(大小、权限)未改变的情况下只同步文件数据，若文件大小、权限改变了才会同步文件元信息。sync()系统调用会使包含更新文件信息的所有内核缓冲区（即数据块、指针、元数据等）刷新到磁盘上，sync()在所有数据已传递到磁盘上时返回。

内核缓冲保存在文件系统的Page cache中， Page cache中被修改的页称为脏页(Dirty Page)。

内核缓冲写入磁盘的的时机和条件:

  1. 当空闲内存低于一个特定的阈值时，内核必须将脏页写回磁盘，以便释放内存。可以通过sysctl vm.dirty_background_ratio命令查看参数，当脏页占比达到参数值所代表的百分比时，就会触发flush把脏数据写回磁盘。
  2. 当脏页在内存中驻留时间超过一个特定的阈值时，内核必须将超时的脏页写回磁盘。命令sysctl vm.dirty_expire_centisecs可以查看，单位是1/100秒。
  3. 用户进程调用sync(2)、fsync(2)、fdatasync(2)系统调用时，内核会执行相应的写回操作。

Dirty page可配置参数详细

1
2
3
4
5
6
7

sysctl -a | grep dirty
vm.dirty_background_ratio = 10
vm.dirty_background_bytes = 0
vm.dirty_ratio = 20
vm.dirty_bytes = 0
vm.dirty_writeback_centisecs = 500
vm.dirty_expire_centisecs = 3000

每个参数的详细介绍从别处摘抄如下，就不翻译了：

vm.dirty_background_ratio： is the percentage of system memory that can be filled with “dirty” pages — memory pages that still need to be written to disk — before the pdflush/flush/kdmflush background processes kick in to write it to disk. My example is 10%, so if my virtual server has 32 GB of memory that’s 3.2 GB of data that can be sitting in RAM before something is done.

vm.dirty_ratio: is the absolute maximum amount of system memory that can be filled with dirty pages before everything must get committed to disk. When the system gets to this point all new I/O blocks until dirty pages have been written to disk. This is often the source of long I/O pauses, but is a safeguard against too much data being cached unsafely in memory.

vm.dirty_background_bytes and vm.dirty_bytes: are another way to specify these parameters. If you set the _bytes version the _ratio version will become 0, and vice-versa.

vm.dirty_expire_centisecs: is how long something can be in cache before it needs to be written. In this case it’s 30 seconds. When the pdflush/flush/kdmflush processes kick in they will check to see how old a dirty page is, and if it’s older than this value it’ll be written asynchronously to disk. Since holding a dirty page in memory is unsafe this is also a safeguard against data loss.

vm.dirty_writeback_centisecs: is how often the pdflush/flush/kdmflush processes wake up and check to see if work needs to be done.

O_SYNC

1

fd = open(pathname, O_WRONLY | O_SYNC);

open后后续每个write()调用会自动将文件数据和元数据直接写入磁盘。

O_DSYNC和O_RSYNC

O_DSYNC标志的效果类似与fdatasync()，而O_SYNC类似于fsync()。
O_RSYNC标志与O_SYNC标志或O_DSYNC标志配合一起使用的，将这些标志对写操作的作用结合到读操作中。

Direct I/O

绕过内核缓冲区，直接从用户空间将数据传递到文件或磁盘设备。要使用direct I/O 在打开文件或设备时制定O_DIRECT标志即可。

直接I/O的对齐限制

  • 用于传递数据的缓冲区，其内存边界必须对齐为块大小的整数倍。
  • 数据传输的开始点，亦即文件的和设备的偏移量，必须是块大小的整数倍。
  • 待传递数据的长度必须是块大小的整数倍。 可以与memalign()配合使用，达到对齐的目的。

混合使用库函数和系统调用

使用以下两个函数可以在文件描述符和文件流之间转换。也就使混合使用I/O成了可能。

1
2
3

#include <stdio.h>
int fileno(FILE *stream);
FILE *fdopen(int fd, const char *mode);

在使用时需要考虑到两个缓冲区的存在导致的输出先后问题。

Exercises