写入 csv 的 ndarray 不正确
Incorrect ndarray being written to csv
我正在尝试为项目生成音频数据集。为此,我使用 Librosa 循环播放我的音频文件(45 秒 mp3 剪辑)并将 3 条数据写入 csv。第一个是每个剪辑的标签(字符串),第二个是作为浮点时间序列的音频,第三个是采样率。为此,我正在创建 3 的字典并写入 csv。浮点时间序列是一个 ndarray。当我打印长度时,它 returns 一个值 992250。当它写入文件时,它写入 7 个值(前 3 个和后 3 个,中间有一个 '...' 元素。当我阅读时验证了这一点另一个函数中的文件加载到数据框中。我能得到解决这个问题的帮助吗?谢谢。
我应该补充一点,我首先尝试创建一个数据框并在此版本之前使用 df.to_csv()。两者都不起作用,他们都有同样的问题。网上也查了其他的选项,好像是Numpy数组可以直接写入csv?但我还需要每一行都有标签(下面的 'ragam')和 'sr'.
with open('audio_data.csv', 'w') as f:
writer = csv.DictWriter(f, fieldnames=headers)
writer.writeheader()
for i, file in enumerate(flst):
if file.endswith(".mp3"):
audio, sr = librosa.core.load(os.getcwd() + folderpath + "/" + file)
print(type(audio))
print(str(len(audio)))
ragam = file.split(sep='-')[0]
elem = {
'ragam': ragam,
'audio': audio,
'sr': sr
}
writer.writerow(elem)
print("Completed: " + str(i + 1) + " of " + str(total) + " ...")
我决定以增量方式附加到 csv,因为它是一个大型数据集,我想尝试保留任何进展,以防中途出现问题。这是输出示例。
Loading audio data ...
/usr/local/lib/python3.7/dist-packages/librosa/core/audio.py:165: UserWarning: PySoundFile failed. Trying audioread instead.
warnings.warn("PySoundFile failed. Trying audioread instead.")
<class 'numpy.ndarray'>
992250
Completed: 1 of 5 ...
方法 writerow
将字典 elem
中的每个复杂对象转换为其字符串表示形式,这就是您获得此意外输出的原因。
一个简单的解决方法是将 np.array
转换为 list
,即使用
elem = {
'ragam': ragam,
'audio': audio.tolist(),
'sr': sr
}
通过此更正,输出看起来不错,但列表保存为字符串,因此不容易恢复读取输出 csv 的初始数组。
另一种方法是将所有内容保存为 JSON,因为 JSON 本身支持列表和字典。
我正在尝试为项目生成音频数据集。为此,我使用 Librosa 循环播放我的音频文件(45 秒 mp3 剪辑)并将 3 条数据写入 csv。第一个是每个剪辑的标签(字符串),第二个是作为浮点时间序列的音频,第三个是采样率。为此,我正在创建 3 的字典并写入 csv。浮点时间序列是一个 ndarray。当我打印长度时,它 returns 一个值 992250。当它写入文件时,它写入 7 个值(前 3 个和后 3 个,中间有一个 '...' 元素。当我阅读时验证了这一点另一个函数中的文件加载到数据框中。我能得到解决这个问题的帮助吗?谢谢。
我应该补充一点,我首先尝试创建一个数据框并在此版本之前使用 df.to_csv()。两者都不起作用,他们都有同样的问题。网上也查了其他的选项,好像是Numpy数组可以直接写入csv?但我还需要每一行都有标签(下面的 'ragam')和 'sr'.
with open('audio_data.csv', 'w') as f:
writer = csv.DictWriter(f, fieldnames=headers)
writer.writeheader()
for i, file in enumerate(flst):
if file.endswith(".mp3"):
audio, sr = librosa.core.load(os.getcwd() + folderpath + "/" + file)
print(type(audio))
print(str(len(audio)))
ragam = file.split(sep='-')[0]
elem = {
'ragam': ragam,
'audio': audio,
'sr': sr
}
writer.writerow(elem)
print("Completed: " + str(i + 1) + " of " + str(total) + " ...")
我决定以增量方式附加到 csv,因为它是一个大型数据集,我想尝试保留任何进展,以防中途出现问题。这是输出示例。
Loading audio data ...
/usr/local/lib/python3.7/dist-packages/librosa/core/audio.py:165: UserWarning: PySoundFile failed. Trying audioread instead.
warnings.warn("PySoundFile failed. Trying audioread instead.")
<class 'numpy.ndarray'>
992250
Completed: 1 of 5 ...
方法 writerow
将字典 elem
中的每个复杂对象转换为其字符串表示形式,这就是您获得此意外输出的原因。
一个简单的解决方法是将 np.array
转换为 list
,即使用
elem = {
'ragam': ragam,
'audio': audio.tolist(),
'sr': sr
}
通过此更正,输出看起来不错,但列表保存为字符串,因此不容易恢复读取输出 csv 的初始数组。
另一种方法是将所有内容保存为 JSON,因为 JSON 本身支持列表和字典。