后台程序实现不当导致磁盘满的问题

╰+攻爆jí腚メ 2022-12-13 12:42 178阅读 0赞

之前在《[如何让程序真正地后台运行][Link 1]》一文中提到了程序后台运行的写法，但是里面的示例程序在某些场景下是会有问题的，这里先不说什么问题，我们先看看这个磁盘满的问题是怎么产生的，通过这篇文章你将会学习到大量linux命令的实操使用。

## 找到导致磁盘满的程序 ##

当发现磁盘占用比较多的时候，可以通过下面的命令，查看各个挂载路径的占用情况：

$ df -h
    udev            3.9G     0  3.9G    0% /dev
    tmpfs           784M  2.0M  782M    1% /run
    /dev/sda11       19G  6.5G   12G   37% /
    tmpfs           3.9G   91M  3.8G    3% /dev/shm
    tmpfs           5.0M  4.0K  5.0M    1% /run/lock
    tmpfs           3.9G     0  3.9G    0% /sys/fs/cgroup
    /dev/sda12      9.4G   37M  8.8G    1% /tmp
    /dev/sda14      6.4G  168M  5.9G    3% /boot
    /dev/sda10       57G  2.0G   52G    4% /home
    /dev/sda1       256M   33M  224M   13% /boot/efi
    tmpfs           784M   16K  784M    1% /run/user/121
    tmpfs           784M   44K  784M    1% /run/user/1000

当然我这里并没有哪个挂载路径的磁盘占用率比较高，这里假设home占用比较高，然后可以通过：

$ cd /home
    $ du -h --max-depth=1
    1.9G    ./shouwang
    16K    ./lost+found
    1.9G    .

这样可以逐层知道哪些目录有了不该有的大文件。

当然你也可以使用find直接找出大文件，比如查找当前目录下大于800M的文件：

$ find . -type f -size +800M

find的用法可以参考《[find命令高级用法][find]》。

如果找到了该文件，并且确认是无用文件，那么就可以删除了。

但是如果**仍然有程序打开了该文件，那么即便你删除了文件，其占用的磁盘空间也并不会释放**，因为仍然它的"文件引用"不是0，文件并不会被删除。  
在《[rm删除文件空间就释放了吗？][rm]》一文中，有更加详细的解释。

所以你需要看一下，是否还有程序打开该文件，举个例子：

$ lsof config.json
    COMMAND  PID     USER   FD   TYPE DEVICE SIZE/OFF    NODE NAME
    less    6750 shouwang    4r   REG   8,10      233 3411160 config.json

从上面的结果，可以看到，是less程序打开了config.json文件，并且它的进程id是6750。

找到进程之后，根据实际情况决定是否需要停止程序，然后删除大文件。

## 找不到大文件？ ##

现实常常可能不如意，比如虽然可以通过df命令看到某些挂载路径磁盘占用率比较高，但是始终找不到大文件，那么你就要考虑，是不是大文件看似被删除了，但是还有程序打开。要找到这样的文件，其实也很简单，前面已经介绍过了：

lsof |grep deleted

lsof能看到被打开的文件，而如果文件被删除了（比如使用rm命令），但是仍然有程序打开，则会是deleted状态，举个例子：

$ touch test.txt
    $ less test.txt

创建一个文件test.txt，并随意输入一些内容，然后使用less命令打，随后在另一个终端，删除该文件：

$ rm test.txt
    $ lsof |grep test.txt |grep deleted
    less      6989              shouwang    4r      REG               8,10       134    3541262 /home/shouwang/workspaces/shell/testdeleted/test.txt (deleted)

可以看到打开该文件的进程id为6989，我们看一下这个程序打开的文件：

$ ls -al /proc/6989/fd
    dr-x------ 2 shouwang shouwang  0 10月  6 10:57 .
    dr-xr-xr-x 9 shouwang shouwang  0 10月  6 10:56 ..
    lrwx------ 1 shouwang shouwang 64 10月  6 10:57 0 -> /dev/pts/1
    lrwx------ 1 shouwang shouwang 64 10月  6 10:57 1 -> /dev/pts/1
    lrwx------ 1 shouwang shouwang 64 10月  6 10:57 2 -> /dev/pts/1
    lr-x------ 1 shouwang shouwang 64 10月  6 10:57 3 -> /dev/tty
    lr-x------ 1 shouwang shouwang 64 10月  6 10:57 4 -> '/home/shouwang/workspaces/shell/testdeleted/test.txt (deleted)'
    $ du -h

（关于proc虚拟文件系统，可以参考《[Linux中不可错过的信息宝库][Linux]》）。从上面也可以看到，文件描述符4的文件为test.txt，但是deleted状态。

停止这个进程，你会发现所占用的磁盘空间会被释放。

## 不完善的daemon实现 ##

通常在终端启动一个程序后，文件描述符0，1，2通常对应标准输入，标准输出，标准错误。从前面的例子中也能窥见一二，它打开的是/dev/pts/1，其实就是当前终端。更多信息可以参考《[如何理解Linux shell中“2>&1”][Linux shell_2_1]》。

回到开始的问题，之前例子中daemonize的参考实现如下：

//来源：公众号【编程珠玑】
    //https://www.yanbinghu.com
    #include<stdio.h>
    #include<sys/resource.h>
    #include<fcntl.h>
    #include<unistd.h>
    #include<stdlib.h>
    #include<sys/types.h>
    #include<sys/stat.h>
    /*实现仅供参考，可根据实际情况调整*/
    int daemonize()
    {
        /*清除文件权限掩码*/
        umask(0);
    
        /*父进程退出*/
        pid_t pid;
        if((pid=fork()) < 0)
        {
            /*for 出错*/
            perror("fork error");
            return -1;
        }
        else if(0 != pid)/*父进程*/
        {
            printf("father exit\n");
            exit(0);
        }
        /*子进程，成为组长进程，并且摆脱终端*/
        setsid();
    
        /*修改工作目录*/
        if(chdir("/") < 0)
        {
            perror("change dir failed");
            return -1;
        }
    
        struct rlimit rl;
        /*先获取文件描述符最大值*/
        if(getrlimit(RLIMIT_NOFILE,&rl) < 0)
        {
            perror("get file decription failed");
            return -1;
        }
        /*如果无限制，则设置为1024*/
        if(rl.rlim_max == RLIM_INFINITY)
            rl.rlim_max = 1024;
    
        /*为了使得终端有输出，保留了文件描述符0，1，2;实际上父进程可能没有打开2以上的文件描述符*/
        int i;
        for(i = 3;i < rl.rlim_max;i++)
            close(i);
        return 0;
    }
    int main(void)
    {
        if(0 == daemonize())
        {
            while(1)
            {
                printf("daemonize ok\n");
                sleep(2);
            }
        }
        else
        {
            printf("daemonize failed\n");
            sleep(1);
        }
        return 0;
    }

这里注意到，daemonize函数最后关闭了2以上的文件描述符。

在其中一个终端运行上面的例子：

$ gcc -o daemon daemon.c  #编译
    $ ./daemon   #运行
    $ ls -al /proc/`pidof daemon`/fd  #查看打开的文件
    dr-x------ 2 shouwang shouwang  0 10月  6 11:26 .
    dr-xr-xr-x 9 shouwang shouwang  0 10月  6 11:26 ..
    lrwx------ 1 shouwang shouwang 64 10月  6 11:26 0 -> /dev/pts/4
    lrwx------ 1 shouwang shouwang 64 10月  6 11:26 1 -> /dev/pts/4
    lrwx------ 1 shouwang shouwang 64 10月  6 11:26 2 -> /dev/pts/4

可以看到0，1，2打开的是程序所在的终端，这时关闭该终端，在另外一个终端执行：

$  ls -al /proc/`pidof daemon`/fd 
    lrwx------ 1 shouwang shouwang 64 10月  6 11:26 0 -> '/dev/pts/4 (deleted)'
    lrwx------ 1 shouwang shouwang 64 10月  6 11:26 1 -> '/dev/pts/4 (deleted)'
    lrwx------ 1 shouwang shouwang 64 10月  6 11:26 2 -> '/dev/pts/4 (deleted)'

发现0，1，2都是deleted状态了，因为关闭前面启动程序的终端后，也相当于删除了它标准输入输出和标准错误指向的文件。

实际上，到这里，都没有任何问题，程序中的printf打印最多无法打印出来而已。

但是，如果程序不是终端启动的呢？或者说没有终端的环境,比如crontab启动，at命令启动：

$ at now <<< “./daemon"

at命令表示当前时间执行daemon程序。  
再看看它打开的文件：

$ ls -l /proc/`pidof daemon`/fd
    lr-x------ 1 shouwang shouwang 64 10月  6 11:42 0 -> '/var/spool/cron/atjobs/a00001019765fe (deleted)'
    lrwx------ 1 shouwang shouwang 64 10月  6 11:42 1 -> '/var/spool/cron/atspool/a00001019765fe (deleted)'
    lrwx------ 1 shouwang shouwang 64 10月  6 11:42 2 -> '/var/spool/cron/atspool/a00001019765fe (deleted)'

看见没有，你会发现它打开了一些奇怪的文件。

## 为什么会有这些奇怪的文件？ ##

很明显，我们自己写的程序中并没有打开这样的文件，但是从文件名可以推断，它看能是cron程序打开的。那么怎么会变成daemon程序打开了呢？

这要从fork说起，之前在《[如何创建子进程？][Link 2]》中说到过，fork出来的子进程会继承父进程的文件描述符，我们的daemon实现已经将2以上的描述符关闭了，但是并没有关闭0，1，2，而由于daemon程序自己实际上没有打开任何文件，0，1，2是空着的，实际上就变成了打开的是父进程曾经打开的文件。

但是由于printf持续向标准输出打印信息，即不断向描述符1打开的文件写入内容，而该文件又是deleted状态，最终可能会导致磁盘空间占用不断增大，但是又找不到实际的大文件。

为了验证我们的想法，可以看下前面的文件内容到底是什么：

$ tail -5  /proc/`pidof daemon`/fd/1
    daemonize ok
    daemonize ok
    daemonize ok
    daemonize ok
    daemonize ok

看到了吗，这既是我们程序的打印！**竟然打印到一个毫无相关的文件中了**。

## 小结 ##

从上面的例子可以看到，要想实现一个线上可用的daemon程序，还必须重定向标准输入，标准输出和标准错误，比例：

/* redirect stdin, stdout, and stderr to /dev/null */
    open("/dev/null", O_RDONLY);
    open("/dev/null", O_RDWR);
    open("/dev/null", O_RDWR);

如果我们不关心这些输入输出，则重定向到/dev/null，相当于丢弃该内容，关于/dev/null，这里有更多的介绍《[linux下这些特殊的文件][linux]》。

是否要重定向标准输入输出，完全取决于你的实际应用场景，比如某些情况你可能就是需要将标准输出指向父进程的文件，则可以不需要重定向。当然了，**至于实现，更推荐的做法是调用daemon函数**：

#include <unistd.h>
    int daemon(int nochdir, int noclose);

## 总结 ##

本文主要涉及以下内容：

*  查看各挂载路径空间占用情况
 *  查看目录空间占用情况
 *  如何创建子进程--《[如何创建子进程？][Link 2]》
 *  标准输入，输出和标准错误--《[如何理解Linux shell中"2>&1"][Linux shell_2_1]》
 *  查看进程打开文件信息--《[如何查看linux中文件打开情况][linux 1]》
 *  查找大文件--《[find命令高级用法][find]》
 *  /dev/null特殊文件的用法 --《[linux下这些特殊的文件][linux]》
 *  查找被删除但仍有进程占用的文件
 *  编写daemon程序注意事项

关注公众号【编程珠玑】，获取更多Linux/C/C++/数据结构与算法/计算机基础/工具等原创技术文章。后台免费获取经典电子书和视频资源

![5b83b1001f804ff9f321f98aa8cc15a2.png][]

[Link 1]: http://mp.weixin.qq.com/s?__biz=MzI2OTA3NTk3Ng==&mid=2649285377&idx=1&sn=05d870701120e00f0e31876cc9480cb4&chksm=f2f99066c58e197058ea7c7590b7d1fd10cc4446500f203bca34560203e0499faf6ef59126be&scene=21#wechat_redirect
[find]: http://mp.weixin.qq.com/s?__biz=MzI2OTA3NTk3Ng==&mid=2649284214&idx=1&sn=c283615d50564426dc85ca53e9f41d96&chksm=f2f9ad11c58e2407f86d92deabd8d8e92b6e5a726f2d8ca7c2592b35d43f387fee5be1dfb75c&scene=21#wechat_redirect
[rm]: http://mp.weixin.qq.com/s?__biz=MzI2OTA3NTk3Ng==&mid=2649285776&idx=1&sn=42af7de91f86c893097aa9e3e6ad3a0d&chksm=f2f997f7c58e1ee1c5f9a6ead995f9adf56eaa35459810493cc51cfae687ec75245950b2bd07&scene=21#wechat_redirect
[Linux]: http://mp.weixin.qq.com/s?__biz=MzI2OTA3NTk3Ng==&mid=2649284098&idx=1&sn=a5817c4840576d8a3b9ee4f09d9caaac&chksm=f2f9ad65c58e247392eb290ab2ac3023d572ae971cfb2e1c4c30a24b4e2a66d6f4173239c0f7&scene=21#wechat_redirect
[Linux shell_2_1]: http://mp.weixin.qq.com/s?__biz=MzI2OTA3NTk3Ng==&mid=2649284005&idx=1&sn=dc9e9db84ec363d5a0ed7f84bc6ec866&chksm=f2f9aec2c58e27d42eee09ae646e493530d8d0deda822df2ffa2e5153d210b709a6d69272957&scene=21#wechat_redirect
[Link 2]: http://mp.weixin.qq.com/s?__biz=MzI2OTA3NTk3Ng==&mid=2649284871&idx=1&sn=675b7d077ab356f65510552827f99df8&chksm=f2f99260c58e1b76b5f01302f6a273570bc50a573f369bb4b8c833d8153dfbfedfe33e472042&scene=21#wechat_redirect
[linux]: http://mp.weixin.qq.com/s?__biz=MzI2OTA3NTk3Ng==&mid=2649285306&idx=2&sn=afdebad474f0665eeb0b3fcdb44b1dff&chksm=f2f991ddc58e18cb86399b98d5602af8c31cd8b12628998bd1d3b7030c0737c46265ddd41f76&scene=21#wechat_redirect
[linux 1]: http://mp.weixin.qq.com/s?__biz=MzI2OTA3NTk3Ng==&mid=2649284482&idx=1&sn=ae99d96fab26733cb1a208750f3dd5e8&chksm=f2f9ace5c58e25f397335937c6771ddc2f985783c787c6b3a4dc995622cfad7875ea482eb837&scene=21#wechat_redirect
[5b83b1001f804ff9f321f98aa8cc15a2.png]: /images/20221123/a97850f6631546bcaa1169a309979191.png