作者
dog
责编
郭芮
出品
CSDN博客
现在很多人都在诟病Linux内核协议栈收包效率低，不管他们是真的懂还是一点都不懂只是听别人说的，反正就是在一味地怼Linux内核协议栈，他们的武器貌似只有DPDK。
但是，即便Linux内核协议栈收包效率真的很低，这是为什么？有没有办法去尝试着优化？而不是动不动就DPDK，一窝蜂跟上去的想法，大部分都是很low的想法。
再次重申，我不写技术文档，我也不分析源码，本文只是一个思考的总结，但凡是思考，那必然是主观的，不图精确，甚至不图正确。
我们从最开始说起。
Linux内核作为一个通用操作系统内核，脱胎于UNIX那一套现代操作系统理论。但一开始不知道怎么回事将网络协议栈的实现塞进了内核态，从此它就一直在内核态了。既然网络协议栈的处理在内核态进行，那么网络数据包必然是在内核态被处理的。
无论如何，数据包要先进入内核态，这就涉及到了进入内核态的方式：
外部可以从两个方向进入内核-从用户态系统调用进入或者从硬件中断进入。也就是说，系统在任意时刻，必然处在两个上下文中的一个：
进程上下文；中断上下文（在非中断线程化的系统，也就是任意进程上下文）。收包逻辑的协议栈处理显然是自网卡而上的，它显然是在中断上下文中，而数据包往用户进程的数据接收处理，显然是在应用程序的进程上下文中，数据包通过socket在两个上下文中被转接。
在socket层的数据包转接处，必然存在着一个队列缓存，这是一个典型的生产者-消费者模型，中断上下文的终点作为生产者将数据包入队，而进程上下文作为消费者从队列消费数据包：
非常清爽的一个图，这个图是两个上下文接力处理协议栈收包逻辑的必然结果，让我们加入一些实际必须要考虑的问题后，我们会发现这幅图并不是那么清爽，然后再回过头看如何来优化。
既然两个上下文都要在任意可能的时刻操作同一个socket进行数据包的转交，那么必须有一个同步机制保护socket元数据以及数据包skb本身。
由于Linux内核中断，软中断可能处在任意进程上下文，唯一的同步方案几乎就是spinlock了，于是，真正的图示应该是下面的样子：
现在可以说，类似上面的这种这种保护是非常必要的，特别是对于TCP而言。
我们知道，TCP是基于事务的有状态传输协议，而且携带复杂的流控和拥塞控制机制，这些机制所依托的就是socket当前的一些状态数据，比如inflight、lost、retrans等等，这些状态数据在发包和接收ACK/SACK期间会不断变化，所以说：
在一个上下文完成一次事务传输之前，必须锁定socket状态数据。比方说发包流程。数据包的发送可以出现在两个上下文中：
进程上下文：系统调用触发的发包；中断上下文：ACK/SACK触发的发包。任何一个上下文的发包过程必须被TCP协议本身比如拥塞控制，流量控制这些所终止，而不能被中途切换到另一个上下文中，所以必须锁定。
问题是，上图中的锁定是不是太狠了些，中断上下文自旋时间完全取决于进程上下文的行文，这不利于软中断的快速返回，极大地降低了系统的响应度。
于是，需要把锁的粒度进行细分。Linux内核并没有在横向上将锁的粒度做划分，而是在纵向上，采用两个层次的锁机制：
我们看到的Linux内核在处理收包逻辑时的backlog，其实抽象出来就是上面的二级锁，它是不是很像Windows的IRQL机制呢？伴随着APC、DPC，你可以把暂时由于高level的IRQL阻滞而无法执行的逻辑放入DPC：
由于进程上下文对socket的low锁占有，中断上下文将skb排入次level的backlog队列，当进程上下文释放low锁的时候，顺序执行次level被排入的任务，即处理backlog中的skb。事实上这是一种非常常见且通用的设计，除了Windows的IRQL，Linux中断的上半部/下半部也是这种基于思想设计的。
前面说了，TCP的一次事务可能非常复杂耗时，并且必须一次完成，这意味着期间必须持有socketlow锁。以发包逻辑tcp_write_xmit函数为例，其内部循环发包，直到受到窗口限制而终止，每一次tcp_transmit_skb返回耗时3微秒～5微秒，平均4微秒，以每次发送4个包为例，在这期间，若使用spinlock，那么中断上下文的收包路径将自旋16微秒，16微秒对于spinlock而言有点久了，于是采用两级的lock机制，非常有效！
backlog队列机制有效降低了中断上下文的spin时延，提高了系统的响应度，非常不错。但问题是，UDP有必要这样吗？
首先，UDP是无状态的，收包和发包都无需事务，协议栈对UDP的处理，从来都是单个报文粒度的，因此只需要保护唯一的socket接收队列即可，即sk_receive_queue。
enqueue(skb,sk){spin_lock(sk-sk_receive_queue-lock);skb_queue_tail(sk-sk_receive_queue,skb);spin_unlock(sk-sk_receive_queue-lock);}sk_buffdequeue(sk){spin_lock(sk-sk_receive_queue-lock);skb=skb_dequeue(sk-sk_receive_queue);spin_unlock(sk-sk_receive_queue-lock);returnskb;}
需要保护的接收队列操作区间都是指令级别的时延，采用一把单一的sk_receive_queue-lock足矣。
确实，在Linux2.6.25版本内核之前，就是这么干的。而自从2.2版本内核，TCP就已经采用二级锁backlog队列了。
然而，在2.6.25版本内核中，Linux协议栈的UDP收包路径，转而采用了两层锁的backlog队列机制，和TCP一样的逻辑：
low_lock_lock(sk){spin_lock(sk-higher_level_spin_lock);//热点！sk-low_lock_owned_by_process=1;spin_unlock(sk-higher_level_spin_lock);}low_lock_unlock(sk){spin_lock(sk-higher_level_spin_lock);sk-low_lock_owned_by_process=0;spin_unlock(sk-higher_level_spin_lock);}udp_rcv(skb)//中断上下文{sk=lookup(...);spin_lock(sk-higher_level_spin_lock);//热点！if(sk-low_lock_owned_by_process){enqueue_to_backlog(skb,sk);}else{enqueue(skb,sk);//见上面的伪代码update_statis(sk);wakeup_process(sk);}spin_unlock(sk-higher_level_spin_lock);}udp_recv(sk,buff)//进程上下文{skb=dequeue(sk);//见上面的伪代码if(skb){copy_skb_to_buff(skb,buff);low_lock_lock(sk);update_statis(sk);low_lock_unlock(sk);dequeue_backlog_to_receive_queue(sk);}}
显然这非常没有必要。如果你有多个线程同时操作一个UDPsocket，将会直面这个热点，但事实上，你很难遭遇这样的场景，如果非要说一个，那么DNS服务器可能首当其中。
之所以在2.6.25版本内核引入了二级锁backlog队列，大致是考虑到UDP需要统计内存全局记账，以防UDP吃尽系统内存，可以review一下sk_rmem_schedule函数的逻辑。而在2.6.25版本内核之前，UDP的内存使用是不记账的，由于UDP本身没有任何类似流控，拥塞控制之类的约束机制，很容易被恶意程序将系统内存吃尽。
因此，除了sk_receive_queue需要保护，内存记账逻辑也是需要保护的，比如累加当前skb对内存的占用到全局数据结构。但即便如此，把这些统计数据的更新都塞入到spinlock的保护区域，也还是要比两级lock要好。
在我看来，之所以引入二级锁backlog机制来保护内存记账逻辑，这是在借鉴TCP的代码，或者说抄代码更直接些。这个携带backlog队列机制的UDP收包代码存在了好多年，一直在4.9内核才终结。
事实上，仅仅下面的逻辑就可以了：
enqueue(skb,sk){spin_lock(sk-sk_receive_queue-lock);skb_queue_tail(sk-sk_receive_queue,skb);update_statis(sk);spin_unlock(sk-sk_receive_queue-lock);}sk_buffdequeue(sk){spin_lock(sk-sk_receive_queue-lock);skb=skb_dequeue(sk-sk_receive_queue);update_statis(sk);spin_unlock(sk-sk_receive_queue-lock);returnskb;}udp_rcv(skb)//中断上下文{sk=lookup(...);spin_lock(sk-higher_level_spin_lock);enqueue(skb,sk);//见上面的伪代码spin_unlock(sk-higher_level_spin_lock);}udp_recv(sk,buff)//进程上下文{skb=dequeue(sk);//见上面的伪代码if(skb){copy_skb_to_buff(skb,buff);}}
简单直接！Linux内核的UDP处理逻辑在4.10版本也确实去掉了两级的lock，恢复到了2.6.25内核版本之前的逻辑。
上面的优化带来了可观的性能收益，但是却并不值得炫耀。因为上面的优化更像是解决了一个bug，这个bug是在2.6.25版本内核因为借鉴TCP的backlog实现而引入的，而事实上，UDP并不需要这种花哨的backlog逻辑。所以说，上面的效果并非优化而带来的效果，而是解了一个bug带来的效果。
但是为什么迟至4.10版本才发现并解决这个问题的呢？
我想这件事可能跟QUIC有关。用得少的逻辑自然就不容易发现问题，这就好比DavidMiller在2.6版本内核引入IPv6实现的那几个bug，就是因为IPv6用的人少，所以一直在很晚的4.23+版本内核才被发现被解决。对于UDP，一直到2.6.24版本其实现都挺好，符合逻辑，2.6.25引入的二级锁bug同样是因为UDP本身用的少而没有被发现。
在QUIC之前，很少有那种有来有回的持续全双工UDP长连接，基本都是request/response的oneshot类型的连接。然而QUIC却是类似TCP的全双工协议，在数据发送端持续发送大块数据的同时，伴随着的是接收大量的ACK报文，这显然和TCP一样，也是一种反馈控制的方式来驱动数据的发送。
QUIC是有确认机制的，但是处理确认却不是在内核进行的，内核只是一个快速将确认包收到用户态QUIC处理进程的一个通路，这个通路越快越好！也就是说，QUIC的ACK报文的接收效率会影响其数据的发送效率。
随着QUIC的大规模部署，人们才开始逐渐