matplotlib 中累积分布函数的对数图

Question

我有一个包含记录事件的文件。每个条目都有时间和延迟。我有兴趣绘制延迟的累积分布函数。我对尾部延迟最感兴趣，所以我希望绘图具有对数 y 轴。我对以下百分位数的延迟感兴趣：第 90、99、99.9、99.99 和 99.999。到目前为止，这是我生成常规 CDF 图的代码：

# retrieve event times and latencies from the file
times, latencies = read_in_data_from_file('myfile.csv')
# compute the CDF
cdfx = numpy.sort(latencies)
cdfy = numpy.linspace(1 / len(latencies), 1.0, len(latencies))
# plot the CDF
plt.plot(cdfx, cdfy)
plt.show()

我知道我想要的情节是什么样的，但我一直在努力得到它。我希望它看起来像这样（我没有生成此图）：

使 x 轴对数很简单。 y 轴是给我带来问题的轴。使用 set_yscale('log') 不起作用，因为它想使用 10 的幂。我真的希望 y 轴具有与此图相同的刻度标签。

如何将我的数据转换成这样的对数图？

编辑：

如果我将 yscale 设置为 'log'，将 ylim 设置为 [0.1, 1]，我会得到以下图：

问题在于，范围从 0 到 1 的数据集上的典型对数刻度图将集中在接近零的值上。相反，我想关注接近 1 的值。

Answer 1

好吧，这不是最干净的代码，但我看不出解决它的办法。也许我真正要求的不是对数 CDF，但我会等待统计学家告诉我其他情况。无论如何，这是我想出的：

# retrieve event times and latencies from the file
times, latencies = read_in_data_from_file('myfile.csv')
cdfx = numpy.sort(latencies)
cdfy = numpy.linspace(1 / len(latencies), 1.0, len(latencies))

# find the logarithmic CDF and ylabels
logcdfy = [-math.log10(1.0 - (float(idx) / len(latencies)))
           for idx in range(len(latencies))]
labels = ['', '90', '99', '99.9', '99.99', '99.999', '99.9999', '99.99999']
labels = labels[0:math.ceil(max(logcdfy))+1]

# plot the logarithmic CDF
fig = plt.figure()
axes = fig.add_subplot(1, 1, 1)
axes.scatter(cdfx, logcdfy, s=4, linewidths=0)
axes.set_xlim(min(latencies), max(latencies) * 1.01)
axes.set_ylim(0, math.ceil(max(logcdfy)))
axes.set_yticklabels(labels)
plt.show()

凌乱的部分是我更改 yticklabels 的地方。 logcdfy 变量将保存 0 到 10 之间的值，在我的示例中它是 0 到 6 之间。在这段代码中，我用百分位数交换标签。 plot 函数也可以使用，但我喜欢 scatter 函数在尾部显示异常值的方式。另外，我选择不在对数刻度上制作 x 轴，因为我的特定数据在没有它的情况下有一条很好的线性线。

Answer 2

本质上，您需要对 Y 值应用以下转换：-log10(1-y)。这施加了唯一的限制 y < 1，因此您应该能够在转换后的图上使用负值。

这是来自 matplotlib 文档的修改后的 example，展示了如何将自定义转换合并到 "scales" 中：

import numpy as np
from numpy import ma
from matplotlib import scale as mscale
from matplotlib import transforms as mtransforms
from matplotlib.ticker import FixedFormatter, FixedLocator


class CloseToOne(mscale.ScaleBase):
    name = 'close_to_one'

    def __init__(self, axis, **kwargs):
        mscale.ScaleBase.__init__(self)
        self.nines = kwargs.get('nines', 5)

    def get_transform(self):
        return self.Transform(self.nines)

    def set_default_locators_and_formatters(self, axis):
        axis.set_major_locator(FixedLocator(
                np.array([1-10**(-k) for k in range(1+self.nines)])))
        axis.set_major_formatter(FixedFormatter(
                [str(1-10**(-k)) for k in range(1+self.nines)]))


    def limit_range_for_scale(self, vmin, vmax, minpos):
        return vmin, min(1 - 10**(-self.nines), vmax)

    class Transform(mtransforms.Transform):
        input_dims = 1
        output_dims = 1
        is_separable = True

        def __init__(self, nines):
            mtransforms.Transform.__init__(self)
            self.nines = nines

        def transform_non_affine(self, a):
            masked = ma.masked_where(a > 1-10**(-1-self.nines), a)
            if masked.mask.any():
                return -ma.log10(1-a)
            else:
                return -np.log10(1-a)

        def inverted(self):
            return CloseToOne.InvertedTransform(self.nines)

    class InvertedTransform(mtransforms.Transform):
        input_dims = 1
        output_dims = 1
        is_separable = True

        def __init__(self, nines):
            mtransforms.Transform.__init__(self)
            self.nines = nines

        def transform_non_affine(self, a):
            return 1. - 10**(-a)

        def inverted(self):
            return CloseToOne.Transform(self.nines)

mscale.register_scale(CloseToOne)

if __name__ == '__main__':
    import pylab
    pylab.figure(figsize=(20, 9))
    t = np.arange(-0.5, 1, 0.00001)
    pylab.subplot(121)
    pylab.plot(t)
    pylab.subplot(122)
    pylab.plot(t)
    pylab.yscale('close_to_one')

    pylab.grid(True)
    pylab.show()

请注意，您可以通过关键字参数控制 9 的数量：

pylab.figure()
pylab.plot(t)
pylab.yscale('close_to_one', nines=3)
pylab.grid(True)

matplotlib 中累积分布函数的对数图

Logarithmic plot of a cumulative distribution function in matplotlib

python

numpy

matplotlib

logarithm

cdf