I/O重定向和管道

标准I/O与重定向的若干概念

3个标准文件描述符

所有的Unix工具都使用文件描述符012。如下图所示,标准输入文件的描述符是0,标准输出的文件描述符是1,标准错误输出的文件描述符则是2Unix假设文件描述符012都已经被打开,可以分别进行读、写和写的操作。

11-webp

重定向I/O的是shell而不是程序

通过使用输出重定向标志,命令cmd>filename告诉shell将文件描述符1定位到文件。于是shell就将文件描述符与指定的文件连接起来。程序持续不断地将数据写到文件描述符1中,根本没有意识到数据的目的地已经改变了。listargs.c展示了程序甚至没有看到命令行中的重定向符号。

程序listargs将命令行参数打印到标准输出。注意listargs并没有打印出重定向符号和文件名。

22-webp

如上图所示验证了关于shell输出重定向的一些重要概念。

  • shell并不将重定向标记和文件名传递给程序。
  • 重定向可以出现在命令行中的任何地方,并且在重定向标识符周围并不需要空格来区分。例如上图命令./listargs testing >xyz one two 2>oops也可以写成./listargs >xyz testing one two 2>oops,如下图所示。

22-webp

 

最低可用文件描述符(Lowest-Available-fd)原则

文件描述符是一个数组的索引号。每个进程都有其打开的一组文件,这些打开的文件被保持在一个数组中。文件描述符即为某文件在此数组中的索引。并且,当打开文件时,为此文件安排的文件描述符总是此数组中最低可用位置的索引。

将stdin重定向到文件

考虑如何将标准输入重定向以至可以从文件中读取数据。更加精确的说,进程并不是从文件读数据,而是从文件描述符读取数据。如果将文件描述符0重定向到一个文件,那么此文件就成为标准输入的源。

方法1:close-then-open

第一种放方法是close-then-open策略,具体步骤如下:

  • 开始时,系统中采用的是典型的设置,即三种标准流是被连接到终端设备上的。输入的数据流经过文件描述符0而输出的流经过文件描述符12
  • 接下来,调用close(0),将标准输入与终端设备的连接切断。
  • 最后,使用open(filename, O_RDONLY)打开一个想连接到stdin上的文件。当前的最低可用文件描述符是0,因此所打开的文件将被连接到标准输入上。任何从标准输入读取数据的函数都将从此文件中读取数据。

方法2:open-close-dup-close

Unix系统调用dup建立指向已经存在的文件描述符的第二个连接,这种方法需要4个步骤。

  • open(file),打开stdin将要重定向的文件。这个调用返回一个文件描述符fd,这个描述符并不是0,因为0在当前已经被打开了。
  • close(0),将文件描述符0关闭,现在文件描述符0已经空闲了。
  • dup(fd),系统调用dup(fd)将文件描述符fd做了一个复制。此处复制使用最低可用的文件描述符号。因此获得的文件描述符是0。这样,就将磁盘文件与文件描述符0连接在一起了。
  • close(fd),使用close(fd)来关闭原始连接,只留下文件描述符0的连接。

dup在学习管道的时候非常重要,一个简单一点的方案是将close(0)和dup(fd)结合在一起作为一个单独的系统调用dup2

重定向I/O:who>userlist

当输入who>userlist时,shell运行who程序,并将who的标准输出重定向到名为userlist的文件上。shell实现该重定向的关键之处在于forkexec之间的时间间隙。在fork执行完后,子进程仍然在运行父进程也就是shell程序,并准备执行execexec将替换进程中运行的程序,但是它不会改变进程的属性和进程中所有的连接。也就是说,在运行exec之后,进程的用户ID不会改变,其优先级也不会改变,并且其文件描述符也和运行exec之前一样。因此,利用这个原则来实现重定向标准输出。

此时who就是子进程要执行的命令,当执行fork前,父进程的文件描述符1指向终端。当执行fork之后,子进程的文件描述符也喜欢指向终端,此时,子进程尝试执行close(1)close(1)之后,文件描述符1成为最低未用文件描述符,子进程现在再执行creat(userlist, mode)打开文件userlist,文件描述符1被连接到文件userlist。因此,子进程的标准输出被重定向到文件userlist,子进程然后调用exec执行who

子进程执行了who程序,于是子进程中的代码和数据都被who程序的代码和数据所替换了,然而文件描述符被保留下来。因为打开的文件并非是程序的代码也不是数据,它们属于进程的属性,因此exec调用并不改变它们。

管道编程

管道是内核中一个单向的数据通道,管道有一个读取端和一个写入端,可以用来连接一个进程的输出和另一个进程的输入。

创建管道

使用系统调用result = pipe(int array[2])来创建管道,并将其两端连接到两个文件描述符。如下图所示,array[0]为读取数据端的文件描述符,而array[1]则为写数据端的文件描述符。类似与open调用,pipe调用也使用最低可用文件描述符。

44
程序pipedemo.c展示了如何创建管道并使用管道向自己发送数据。核心代码如下:

数据流从键盘到进程,从进程到管道,再从管道到进程以及从进程回到终端。

使用fork来共享管道

当进程创建一个管道之后,该进程就有了连向管道两端的连接。当这个进程调用fork的时候,它的子进程也得到了这两个连向管道的连接。父进程和子进程都可以将数据写到管道的写数据端口,并从读数据端口将数据读出。但是当一个进程读,而另一个进程写的时候,管道的使用效率是最高的。程序pipedemo2.c说明了如何将pipefork结合起来,创建一对通过管道来通信的进程,核心代码如下:

技术细节

  • 从管道中读取数据
    • 当进程试图从管道读取数据时,进程被挂起直到数据被写进管道。
    • 当所有的写进程关闭了管道的写数据端时,试图从管道中读取数据的调用会返回0,这意味这文件的结束。
  • 向管道中写数据
    • 写入数据阻塞直到管道有空间去容纳新的数据。
    • 如果所有的读进程都已关闭了管道的读数据端,那么对管道的写入调用将会执行失败。

总结

  • Unix默认从文件描述符0读取数据,写数据到文件描述符1,将错误信息输出到文件描述符2
  • 创建文件描述符的系统调用总是使用最低可用文件描述符号。
  • 重定向标准输入、标准输出和错误输出意味着改变文件描述符012的连接。
  • 管道是内核中的一个数据队列,其每一端连接一个文件描述符。程序通过pipe系统调用来创建管道。
  • 当父进程调用fork的时候,管道的两端都被复制到子进程中。
  • 只有有共同父进程的进程之间才可以用管道连接。

代码

相关代码见Github

 

1-webp

文章分类 未分类

发表评论

电子邮件地址不会被公开。

在线交流

数百位业内高手和同行在等你交流
Reboot运维开发分享