如何测试是否支持稀疏文件

Question

给定一个文件描述符或文件名，我如何知道我是否可以写入任意位置而无需等待中间部分在磁盘上被显式清零？

Answer 1

您可以stat()文件获取文件大小和磁盘块数，在文件末尾寻找相对较少数量的磁盘块，写入已知数量的块，然后统计文件再次。将磁盘块的原始数量与最终数量进行比较。如果文件系统不支持稀疏文件，那么写几个磁盘块应该不会花太长时间。

给定原始和最终的磁盘块数，然后尝试确定文件系统是否支持稀疏文件。我说 "try" 是因为某些文件系统会使这变得困难 - 例如，启用压缩的 ZFS。

像这样：

#include <unistd.h>
#include <stdlib.h>
#include <sys/types.h>
#include <sys/stat.h>
#include <fcntl.h>
#include <stdio.h>
#include <string.h>
#include <errno.h>

int check( const char *filename )
{
    struct stat sb;
    long blocksize;
    off_t filesize;
    blkcnt_t origblocks;
    char *buffer;
    int fd;

    fd = open( filename, O_CREAT | O_RDWR, 0644 );

    fstat( fd, &sb );
    blocksize = sb.st_blksize;
    filesize = sb.st_size;
    origblocks = sb.st_blocks;

    lseek( fd, 16UL * blocksize, SEEK_END );

    buffer = malloc( blocksize );
    memset( buffer, 0xAA, blocksize );

    write( fd, buffer, blocksize );
    fsync( fd );

    free( buffer );

    // kludge to give ZFS time to update metadata
    for ( ;; )
    {
        stat( filename, &sb );
        if ( sb.st_blocks != origblocks )
        {
            break;
        }
    }

    printf( "file: %s\n filesystem: %s\n blocksize: %d\n size: %zd\n"
        " blocks: %zd\n orig blocks: %zd\n disk space: %zd\n",
        filename, sb.st_fstype, blocksize, sb.st_size,
        ( size_t ) sb.st_blocks, ( size_t ) origblocks,
        ( size_t ) ( 512UL * sb.st_blocks ) );

    // return file to original size
    ftruncate( fd, filesize );
    return( 0 );
}

int main( int argc, char **argv )
{
    for ( int ii = 1; ii < argc; ii++ )
    {
        check( argv[ ii ] );
    }

    return( 0 );
}

（为清楚起见省略了错误检查）

启用压缩的 ZFS 似乎无法快速更新文件元数据，因此需要等待更改出现。

当运行在带有文件 asdf（ZFS 文件系统，启用压缩）/tmp/asdf（tmpfs 文件系统）和 /var/tmp/asdf（ZFS ，无压缩），该代码产生以下输出：

file: asdf
 filesystem: zfs
 blocksize: 131072
 size: 2228224
 blocks: 10
 orig blocks: 1
 disk space: 5120
file: /tmp/asdf
 filesystem: tmpfs
 blocksize: 4096
 size: 69632
 blocks: 136
 orig blocks: 0
 disk space: 69632
file: /var/tmp/asdf
 filesystem: zfs
 blocksize: 131072
 size: 2228224
 blocks: 257
 orig blocks: 1
 disk space: 131584

从该输出中可以明显看出，/tmp/asdf 位于不支持稀疏文件的文件系统中，而 /var/tmp/asdf 位于支持此类文件的文件系统中。

而普通的 asdf 则完全不同，写入 128 kB 的数据会添加所有 9 512 字节的磁盘块。由此，您可以推断文件系统中正在进行某种压缩。顺便说一句，我怀疑假设任何支持这种本机压缩的文件系统也将支持稀疏文件是非常安全的。

在给定文件名或打开文件描述符时确定文件系统是否支持稀疏文件的最快方法是在文件名上调用 stat() 或在文件描述符上调用 fstat()，获取 st_fstype 字段来自 struct stat，并将文件的文件系统类型与一组已知支持稀疏文件的文件系统类型字符串进行比较。

Answer 2

这是一个非常简单的 CLI 交互测试，但是如果 du 和 du --apparent 不同，您可以非常确定文件系统支持稀疏文件。

例如在 ext4 分区上，当我这样做时：

dd seek=1G if=/dev/zero of=f bs=1 count=1 status=none
du --block-size=1 f
du --block-size=1 --apparent f

它给了我：

8192    f
1073741825      f

所以1GB表观大小的文件实际上只占用了8KB，这意味着创建了一个稀疏文件。

另请参阅：why is the output of `du` often so different from `du -b`

如何测试是否支持稀疏文件

How to test if sparse file is supported

unix

io

filesystems

posix

sparse-file