rx_queue_index returns XDP-eBPF 上的 ipv6-Srv6 数据包始终值为 1

Question

我正在尝试使用简单的 XDP-eBPF 程序跟踪 Ipv6-Srv6 数据包。我一如既往地得到 NIC 队列 1.

以下是环境详情

OS: 来宾 OS, Ubuntu 19.10, 5.3.0-64-generic
NIC：x710：10Gbps，驱动程序=i40e，驱动程序版本=2.8.20-k，固件=7.20
XDP-eBPF：我的自定义示例程序

#include <bpf.h>
#include <bpf/bpf_helpers.h>

#include <linux/if_ether.h>
#include <linux/ipv6.h>

#include <stdint.h>

#ifndef lock_xadd
#define lock_xadd(ptr, val)     ((void) __sync_fetch_and_add(ptr, val))
#endif

struct bpf_map_def SEC("maps") queue_rx_pkts = {
        .type        = BPF_MAP_TYPE_ARRAY,
        .key_size    = sizeof(__u32),
        .value_size  = sizeof(__u64),
        .max_entries = 256,
};

SEC("prog")
int xdp_select(struct xdp_md *ctx)
{
        //__u32 input_port = ctx->ingress_ifindex;
        __u32 input_queue = ctx->rx_queue_index;

        void *data_end = (void *)(long)ctx->data_end;
        void *data = (void *)(long)ctx->data;
        struct ethhdr *eth_ptr = (struct ethhdr *)data;
        struct ipv6hdr *ipv6_ptr = (struct ipv6hdr *)(data + sizeof(struct ethhdr));
        unsigned int *pkt_count = bpf_map_lookup_elem(&queue_rx_pkts, &input_queue);

        if (!pkt_count)
                return XDP_ABORTED;

        if ((data + sizeof(*eth_ptr)) > data_end)
                return XDP_DROP;


        if (eth_ptr->h_proto == 0xdd86) {
                if ((void *)(ipv6_ptr + 1) > data_end)
                        return XDP_DROP;
                *pkt_count += 1;
                return XDP_PASS;
        }

        return XDP_DROP;
}

数据包生成器：主机 NIC X710 运行带有 packEth cli 实用程序 packETHcli -i ens261f2 -m 2- d 0 -n 0 -f /tmp/test.pcap
预期结果：入口数据包将分布在多个 RX 队列上。
观察结果：RX队列1只接收数据包。

我用ethtool -S [interface name]和bpftool map dump id 12验证了结果。这两种情况 RX-Queue-1 都只是在更新。

[EDIT-1] 根据评论

的建议更新 RSS 哈希状态

$ ethtool --show-rxfh-indir ens10                                                                                                                                                                                                      [4/1785]
RX flow hash indirection table for ens10 with 8 RX ring(s):
    0:      0     1     2     3     4     5     6     7
    8:      0     1     2     3     4     5     6     7
<snipped>
  504:      0     1     2     3     4     5     6     7
RSS hash key:
9b:d2:e1:c0:f7:aa:1f:69:49:7c:55:76:48:7e:2c:fc:d5:91:47:39:df:50:52:8f:88:07:c8:63:62:27:93:17:35:75:dc:f6:85:e8:ff:c2:72:1d:de:92:d4:2b:1e:d9:f2:53:df:38
RSS hash function:
    toeplitz: on
    xor: off
    crc32: off

Answer 1

看起来你的例子中的数据包生成器一直在传输同一个数据包。是这样吗？如果是，为什么您希望数据包分布在多个队列中？比如说，设备上启用的哈希函数是“RSS-IPv6”。然后，对数据包散列做出贡献的数据包字段是源地址和目标地址。它们在数据包中是恒定的，因此具有相同的哈希值，因此数据包始终到达相同的队列。

根据 OP 的进一步观察，在 PackETH 中启用 IP 地址随机化（在选项 Set random source IPv6 address with mask 上打勾，例如，使用 64 的掩码值）确实会导致生成数据包在接收端命中不同的 Rx 队列。通过 ethtool -S 获得的每个队列数据包统计信息证实了这一观察结果。

rx_queue_index returns XDP-eBPF 上的 ipv6-Srv6 数据包始终值为 1

rx_queue_index returns always value 1 for ipv6-Srv6 packets on XDP-eBPF

nic

xdp-bpf