如何加快读取文件和 returns 其内容的功能?
How can I speed up my function that reads a file and returns its contents?
我是 OCaml 的新手,但我有 F# 和 Haskell 的经验。我对标准库中似乎基本的功能明显缺乏感到非常惊讶,为了说明,我只想读取文件的内容,以便随后可以解析文本(多次)。似乎没有 returns 文件内容的任何函数(有 In_Channel.read_all
,但这是 Janes Street 库的一部分,它不是跨平台的,因此我不我不想用它)。
所以我用标准库提供的功能实现了我的功能,但一方面我真的不觉得它很惯用,另一方面它很慢,所以我想知道如何才能让它更有效率或者更好:如果没有其他更有效的方法来做我想做的事。
函数如下:
let read_file filename =
let res = ref "" in
let read_contents = open_in filename in
try while true
do res := input_line read_contents ^ !res ^ "\n"
done; !res
with End_of_file -> close_in read_contents; !res
此外,如果文件以新行开头,生成的字符串将不会考虑它们,这有点烦人,但在我的情况下并不太严重。
您可以使用 containers and its read_all 函数作为标准库的扩展。
关于您的函数,它意外地是二次函数,因为
res := input_line read_contents ^ !res ^ "\n"
正在为每一行重新分配一个新字符串。通过重复附加小字符串来构建字符串时,最好使用 Buffer
(或 String.concat
)。
的确如此,OCaml 标准库非常稀疏。
如果您不介意使用 Unix 基元(其中许多基元也适用于 Windows),您可以像这样只用一个读取调用来读取一个文件:
let read_whole_file filename =
let open Unix in
let fd = openfile filename [O_RDONLY] 0o666 in
let len = lseek fd 0 SEEK_END in
ignore (lseek fd 0 SEEK_SET);
let res = Bytes.make len '[=10=]0' in
if read fd res 0 len <> len then
failwith "partial read";
close fd;
res
请注意,此 returns 结果为字节(本质上是一个可变的字符数组)。如有必要,您可以转换为字符串。在最近的 OCaml 版本中,字符串是不可变的(恕我直言,它们应该是这样的)。
更新
我不知道我昨天是怎么错过这些的,但是标准库中有一些函数可以做到这一点。如果有用的话,这是一个修订版:
let read_whole_file filename =
let chan = open_in_bin filename in
let res =
really_input_string chan (in_channel_length chan)
in
close_in chan;
res
注意这里使用open_in_bin
来避免修改Windows下的行尾。这是必要的(我相信)以与 in_channel_length
.
返回的长度达成一致
(OCaml 标准库相当稀疏,这仍然是事实。)
我是 OCaml 的新手,但我有 F# 和 Haskell 的经验。我对标准库中似乎基本的功能明显缺乏感到非常惊讶,为了说明,我只想读取文件的内容,以便随后可以解析文本(多次)。似乎没有 returns 文件内容的任何函数(有 In_Channel.read_all
,但这是 Janes Street 库的一部分,它不是跨平台的,因此我不我不想用它)。
所以我用标准库提供的功能实现了我的功能,但一方面我真的不觉得它很惯用,另一方面它很慢,所以我想知道如何才能让它更有效率或者更好:如果没有其他更有效的方法来做我想做的事。
函数如下:
let read_file filename =
let res = ref "" in
let read_contents = open_in filename in
try while true
do res := input_line read_contents ^ !res ^ "\n"
done; !res
with End_of_file -> close_in read_contents; !res
此外,如果文件以新行开头,生成的字符串将不会考虑它们,这有点烦人,但在我的情况下并不太严重。
您可以使用 containers and its read_all 函数作为标准库的扩展。
关于您的函数,它意外地是二次函数,因为
res := input_line read_contents ^ !res ^ "\n"
正在为每一行重新分配一个新字符串。通过重复附加小字符串来构建字符串时,最好使用 Buffer
(或 String.concat
)。
的确如此,OCaml 标准库非常稀疏。
如果您不介意使用 Unix 基元(其中许多基元也适用于 Windows),您可以像这样只用一个读取调用来读取一个文件:
let read_whole_file filename =
let open Unix in
let fd = openfile filename [O_RDONLY] 0o666 in
let len = lseek fd 0 SEEK_END in
ignore (lseek fd 0 SEEK_SET);
let res = Bytes.make len '[=10=]0' in
if read fd res 0 len <> len then
failwith "partial read";
close fd;
res
请注意,此 returns 结果为字节(本质上是一个可变的字符数组)。如有必要,您可以转换为字符串。在最近的 OCaml 版本中,字符串是不可变的(恕我直言,它们应该是这样的)。
更新
我不知道我昨天是怎么错过这些的,但是标准库中有一些函数可以做到这一点。如果有用的话,这是一个修订版:
let read_whole_file filename =
let chan = open_in_bin filename in
let res =
really_input_string chan (in_channel_length chan)
in
close_in chan;
res
注意这里使用open_in_bin
来避免修改Windows下的行尾。这是必要的(我相信)以与 in_channel_length
.
(OCaml 标准库相当稀疏,这仍然是事实。)