流式命令输出进度

Question

我正在编写一项服务，该服务必须将已执行命令的输出流式传输到父级和日志。当过程很长时，问题是 cmd.StdoutPipe 给我一个最终的（字符串）结果。

是否可以像 shell

那样给出正在发生的事情的部分输出

func main() {
    cmd := exec.Command("sh", "-c", "some long runnig task")

    stdout, _ := cmd.StdoutPipe()
    cmd.Start()

    scanner := bufio.NewScanner(stdout)
    for scanner.Scan() {
        m := scanner.Text()
        fmt.Println(m)
        log.Printf(m)
    }

    cmd.Wait()
}

P.S。只是输出将是：

cmd.Stdout = os.Stdout

但就我而言，这还不够。

Answer 1

您发布的代码有效（执行了合理的命令）。

这里有一个简单的"some long running task"用Go写的供你调用和测试你的代码：

func main() {
    fmt.Println("Child started.")
    time.Sleep(time.Second*2)
    fmt.Println("Tick...")
    time.Sleep(time.Second*2)
    fmt.Println("Child ended.")
}

编译它并将其作为您的命令调用。您将看到子进程写入的不同行立即出现，"streamed".

它可能不适合您的原因

Scanner returned by bufio.NewScanner() reads whole lines and only returns something if a newline character is encountered (as defined by the bufio.ScanLines()函数）。

如果您执行的命令不打印换行符，其输出不会立即returned（仅当打印换行符、填充内部缓冲区或进程结束时）。

可能的解决方法

如果您不能保证子进程打印换行符但您仍想流式输出，则无法读取整行。一种解决方案是按单词阅读，甚至按字符（符文）阅读。您可以通过设置不同的 split function using the Scanner.Split() 方法来实现此目的：

scanner := bufio.NewScanner(stdout)
scanner.Split(bufio.ScanRunes)

只要有新的 rune 可用，bufio.ScanRunes function reads the input by runes so Scanner.Scan() 就会 return。

或在没有 Scanner 的情况下手动读取（在此示例中逐字节）：

oneByte := make([]byte, 1)
for {
    _, err := stdout.Read(oneByte)
    if err != nil {
        break
    }
    fmt.Printf("%c", oneByte[0])
}

请注意，上面的代码会 rune 错误地读取 UTF-8 编码中的多个字节。要读取多个 UTF-8 字节符文，我们需要更大的缓冲区：

oneRune := make([]byte, utf8.UTFMax)
for {
    count, err := stdout.Read(oneRune)
    if err != nil {
        break
    }
    fmt.Printf("%s", oneRune[:count])
}

注意事项

进程有标准输出和标准错误的默认缓冲区（通常大小为几 KB）。如果进程写入标准输出或标准错误，它会进入相应的缓冲区。如果此缓冲区已满，进一步写入 将阻塞 （在子进程中）。如果不读取子进程的标准输出和标准错误，如果缓冲区已满，子进程可能会挂起。

因此建议始终读取子进程的标准输出和错误。即使您知道该命令通常不会写入其标准错误，但如果发生某些错误，它可能会开始将错误消息转储到其标准错误。

编辑： 正如 Dave C 在默认情况下提到的那样，子进程的标准输出和错误流将被丢弃，如果不读取也不会导致阻塞/挂起。但是，如果不阅读错误流，您可能会错过该过程中的一两件事。

Answer 2

我在 Krzysztof Kowalczyk

的 this article 中找到了如何实现进度输出的好例子

流式命令输出进度

Streaming commands output progress

execution

go

它可能不适合您的原因

可能的解决方法

注意事项