如何 filter/smooth 与 SciPy/Numpy？

Question

我正在尝试 filter/smooth 从采样频率为 50 kHz 的压力传感器获得的信号。示例信号如下所示：

我想在MATLAB中得到loess得到的平滑信号（我画的不是同一个数据，数值不同）

我使用matplotlib的psd()函数计算了功率谱密度，下面也提供了功率谱密度：

我尝试使用以下代码并获得了过滤后的信号：

import csv
import numpy as np
import matplotlib.pyplot as plt
import scipy as sp
from scipy.signal import butter, lfilter, freqz

def butter_lowpass(cutoff, fs, order=5):
    nyq = 0.5 * fs
    normal_cutoff = cutoff / nyq
    b, a = butter(order, normal_cutoff, btype='low', analog=False)
    return b, a

def butter_lowpass_filter(data, cutoff, fs, order=5):
    b, a = butter_lowpass(cutoff, fs, order=order)
    y = lfilter(b, a, data)
    return y

data = np.loadtxt('data.dat', skiprows=2, delimiter=',', unpack=True).transpose()
time = data[:,0]
pressure = data[:,1]
cutoff = 2000
fs = 50000
pressure_smooth = butter_lowpass_filter(pressure, cutoff, fs)

figure_pressure_trace = plt.figure(figsize=(5.15, 5.15))
figure_pressure_trace.clf()
plot_P_vs_t = plt.subplot(111)
plot_P_vs_t.plot(time, pressure, linewidth=1.0)
plot_P_vs_t.plot(time, pressure_smooth, linewidth=1.0)
plot_P_vs_t.set_ylabel('Pressure (bar)', labelpad=6)
plot_P_vs_t.set_xlabel('Time (ms)', labelpad=6)
plt.show()
plt.close()

我得到的输出是：

我需要更多的平滑，我尝试改变截止频率但仍然无法获得满意的结果。我无法通过 MATLAB 获得相同的平滑度。我确信它可以在 Python 内完成，但是怎么做呢？

您可以找到数据here。

更新

我应用了 statsmodels 的低平滑，这也没有提供令人满意的结果。

Answer 1

这里是一个使用 loewess 拟合的例子。请注意，我从 data.dat.

中删除了 header

从图中可以看出，此方法在数据子集上表现良好。一次拟合所有数据不会给出合理的结果。所以，这可能不是最好的方法。

import pandas as pd
import matplotlib.pylab as plt
from statsmodels.nonparametric.smoothers_lowess import lowess

data = pd.read_table("data.dat", sep=",", names=["time", "pressure"])
sub_data = data[data.time > 21.5]

result = lowess(sub_data.pressure, sub_data.time.values)
x_smooth = result[:,0]
y_smooth = result[:,1]

tot_result = lowess(data.pressure, data.time.values, frac=0.1)
x_tot_smooth = tot_result[:,0]
y_tot_smooth = tot_result[:,1]

fig, ax = plt.subplots(figsize=(8, 6))
ax.plot(data.time.values, data.pressure, label="raw")
ax.plot(x_tot_smooth, y_tot_smooth, label="lowess 1%", linewidth=3, color="g")
ax.plot(x_smooth, y_smooth, label="lowess", linewidth=3, color="r")
plt.legend()

这是我得到的结果：

Answer 2

这里有一些建议。

首先，使用 it=0 尝试 statsmodels 中的 lowess 函数，并稍微调整 frac 参数：

In [328]: from statsmodels.nonparametric.smoothers_lowess import lowess

In [329]: filtered = lowess(pressure, time, is_sorted=True, frac=0.025, it=0)

In [330]: plot(time, pressure, 'r')
Out[330]: [<matplotlib.lines.Line2D at 0x1178d0668>]

In [331]: plot(filtered[:,0], filtered[:,1], 'b')
Out[331]: [<matplotlib.lines.Line2D at 0x1173d4550>]

第二个建议是使用 scipy.signal.filtfilt 而不是 lfilter 来应用 Butterworth 过滤器。 filtfilt 是 forward-backward 过滤器。它应用过滤器两次，一次向前，一次向后，导致零相位延迟。

这是您的脚本的修改版本。显着的变化是使用 filtfilt 而不是 lfilter，以及 cutoff 从 3000 到 1500 的变化。您可能想尝试使用该参数——值越高，跟踪效果越好压力增加的开始，但太高的值不会过滤掉压力增加后的 3kHz（大致）振荡。

import numpy as np
import matplotlib.pyplot as plt
from scipy.signal import butter, filtfilt

def butter_lowpass(cutoff, fs, order=5):
    nyq = 0.5 * fs
    normal_cutoff = cutoff / nyq
    b, a = butter(order, normal_cutoff, btype='low', analog=False)
    return b, a

def butter_lowpass_filtfilt(data, cutoff, fs, order=5):
    b, a = butter_lowpass(cutoff, fs, order=order)
    y = filtfilt(b, a, data)
    return y

data = np.loadtxt('data.dat', skiprows=2, delimiter=',', unpack=True).transpose()
time = data[:,0]
pressure = data[:,1]
cutoff = 1500
fs = 50000
pressure_smooth = butter_lowpass_filtfilt(pressure, cutoff, fs)

figure_pressure_trace = plt.figure()
figure_pressure_trace.clf()
plot_P_vs_t = plt.subplot(111)
plot_P_vs_t.plot(time, pressure, 'r', linewidth=1.0)
plot_P_vs_t.plot(time, pressure_smooth, 'b', linewidth=1.0)
plt.show()
plt.close()

这是结果图。注意右边缘处过滤信号的偏差。为了解决这个问题，您可以尝试使用 filtfilt 的 padtype 和 padlen 参数，或者，如果您知道您有足够的数据，您可以丢弃过滤信号的边缘。

如何 filter/smooth 与 SciPy/Numpy？

How to filter/smooth with SciPy/Numpy?

python

filtering

numpy

scipy

smoothing