FPGA的可编程COTS NIC对NFV软件应用性能的优化

基于赛灵思 FPGA 的可编程COTS NIC 可将 NFV 软件应用性能提升 50 倍。

向网络功能虚拟化 (NFV) 和软件定义网络 (SDN) 的转变代表了近 20 年来最具变革性的架构网络发展趋势。由于 NFV 和 SDN 承诺系统开放性和网络中立性，因此有望给未来的通信网络和业务的成形造成深远影响。

我们 Ethernity Networks 公司正在利用赛灵思器件，率先向市场推出真正开放的、高度可编程的 SDN和 NFV 解决方案。让我们来看一下Ethernity 公司在首次探索 NFV 和SDN 的前景和要求之后，是如何打造其解决方案的。

硬件和 NFV/SDN 变革遍地开花过去几十年间的网络基础架构业务在很大程度上可谓是大型机业务模式的延续，在这种模式下，屈指可数的几家大型公司提供专有局端基础设备，而这些设备又运行专有的软件，这样构建的全部意图都是为了不与竞争对手的系统进行通信。在大多数情况下，基础架构厂商为其客户的每个网络节点都创建定制硬件，并将每个节点都构建成最低可编程性和可升级性节点，以确保那些希望对网络进行扩展或升级的客户会从同一厂商旗下购买下一代设备；或者让客户完全无法选择从其他公司购买全新网络，最终只能重蹈覆辙。

-7000 全可编程系统芯片 (ap soc)系列包含了基于嵌入式处理器的软件可编程性和fpga的硬件可编程性。在硬件diy升级上，梨子手机技术团队从硬件搭配到硬件合理兼容上都用心为用户考虑，让手机性能随趋势变化提升，让手机成为真正的兼容机，diy产品。虽然它集合了监控、教育、陪伴、社交娱乐等智能硬件的功能，但是在没有进行自定义编程的前提下，buddy智能机器人只能完成以上功能的浅（简单）模式，需要复杂的编程来深入，对于此类智能硬件在编程上就是个挑战。

而在运营商面向用户放号之前，建设一张可商用的网络要从制定标准开始，经历研发产品样机、预商用产品、商用产品和商用解决方案，完成多厂商互联互通测试（网络厂商、终端厂商、运营商），最后才是部署预商用网络和规模商用网络。负载均衡应用服务要求集群软件检查每个节点的当前负载，并确定哪些节点可以接受新的作业，这最适合运行如数据分析等串行和批处理作业，所以很容易允许具有批渲染能力的应用软件加载集群功能，一些集群软件被开发出来，它们通过tcp/ip 进行流量管理，并且针对特定的应用程序的api或script接口编写批处理命令，如muster，并且这些集群软件还可以配置成关注某特定节点的硬件或操作系统功能（受应用软件制约），这样，群集中的节点就没有必要是一致的，硬件和系统异构也就很容易实现。截至2014年q1, 华为签订53个企业lte网络合同，并开通了18张企业lte商用网络，如在挪威tampnet，中国南方电网等项目中，实现了全球首个lte网络在油田行业、电力行业和政府的应用，助力了企业提升生产效率，降低运营成本，实现良好运营。

主机端的处理速度已经有了数量级的增长， 相应的在ssd硬件端，也需要提高自身的处理能力，pblaze4所采用的硬件多队列技术就是为了匹配主机端性能的增长，提高ssd性能的技术之一。otn交换提供了高性价比、扩展性强且低延迟的一个层次，来解决包流量增长所带来的带宽扩展需求。具有智能型带宽办理功效，可管造进出流量及各式利用如bt、迅雷、视频及下载硬件的带宽，不致影响端庄常使用户及主要利用流量。

SDN 同时在物理与虚拟设备中的网络控制层与底层数据转发层之间使用基于标准的软件抽象, 这消除了传统分布式网络基础架构复杂且静态的本质, 是一种现代的联网方法。在过去五年中，行业制定了一项标准数据层抽象协议 OpenFlow，其提供的新颖实用方法可以借助基于集中软件的控制器来配置网络架构。

具有集中软件配置的开放式 SDN平台通过可编程性和自动化显著提升了网络敏捷性，同时大幅降低了网络运营成本。OpenFlow 等业界标准数据层抽象协议使提供商可以自由使用任何类型和品牌的数据层设备cots软件，因为所有底层网络硬件均可通过一种通用抽象协议来进行寻址。重要的是，OpenFlow 便于使用“裸机交换机”，同时避免传统厂商的套牢，使运营商同样能够自由选择目前可在 IT 基础设施的其他领域（如服务器）中轻松找到的网络。

由于 SDN 还处于起步阶段，因此标准仍在不断演进。这意味着设备厂商和运营商需要防范风险，并利用FPGA 的硬件及软件的可编程性, 以最大的灵活性对 SDN 设备进行设计和操作。目前上市的基于 FPGA 的SDN 设备即使对于大规模部署也相当实惠。基于 FPGA 的 SDN 设备具有高度的高硬件与软件灵活性并且尽可能符合 OpenFlow 协议要求。

性能加速需求

公司业务部门进行芯片应用开发，开发系统方案，主要基于arm架构硬件，进行手机、定位导航终端、数码相机、pmp、指纹识别、二代身份证终端、医疗电子等应用开发等，公司在复杂系统方案软硬件设计方面形成了自己的优势。硬件层：整合传统bras/sr设备池和x86服务器群在保护既有的投资基础上，控制层硬件逐步向x86公共硬件架构演进，而转发层硬件将逐步由传统路由转发架构和x86架构向基于队列转发的新型高性能转发设备方向演进。海信led55ec720us在技术配置上，采用四核a53架构的cpu,6核mali450gpu以及四核neon协处理器，加上2gb闪存+16gb超大存储搭配，64位机芯加14核主控芯片处理器，超强的硬件配置，不但带来更强劲的处理速度和能效，而且也带来了更强的图像处理能力，让你享受硬件条件下的超爽体验。

实际上，NFV 基础设施小组规范 (Infrastructure Group Specification)包含一个特殊部分，其描述了对加速功能的需求, 以提升网络性能。此规范描述了处理器组件如何将某些功能转移到网卡 (NIC) 以支持某些加速功能，包括 TCP 分段、互联网协议 (IP)分片、DPI、数百万条目的过滤、加密、性能监控/ 计数、协议互通与OAM 以及其他加速功能。

驱动这种加速的主要引擎是NIC，其配备了物理以太网接口，供服务器连接到网络。如图 1 中所示，当某个数据包通过 10GE、40GE 或100GE 端口到达 NIC 时，根据标签信息（如 IP、MAC 或 VLAN）将数据包放置在虚拟端口 (VP) 或代表特定虚拟机 (VM) 的队列中。随后位于服务器上的合适的虚拟机直接对数据包进行 DMA 访问以进行处理。每个虚拟网络功能 (VNF) 都在不同虚拟机上运行cots软件，并且某些网络功能需要使用多个甚至数十个虚拟机。

图 1 – 在数据包到达时，NIC 进入代表特定虚拟机的虚拟端口 (VP)。数据包随后通过 DMA发送到服务器上的合适的虚拟机以进行处理。

OpenFlow 控制硬件加速功能，比如NIC 上的硬件加速功能可以视为是SDN 交换机的扩展。可在多个虚拟机和/ 或内核上通过部署多个VNF来为众多功能处理NFV 性能。这为NFV 带来了两大性能挑战。第一项挑战在于“vSwitch”，这通常是一个软件，用来处理以太网NIC 与虚拟机之间的网络流量。第二项性能挑战在于均衡在多个VM 之间输入的40/100GE 数据。添加IP 分片、TCP分段、加密或其他专用硬件功能时，NFV 软件需要辅助以满足性能需求并降低功耗。理想情况下，其外形应该比较紧凑，以减少存放网络设备所需要的板级空间。

instinct加速器，这是一个新的gpu硬件和开源软件的产品套件，将大幅提升深度学习的性能和效率，同时减轻高性能计算（hpc）的工作负载。虽然总是会有一些负载只能在专门的硬件上运行才会更好，但大多数负载在虚拟化之后才能降低成本 提高效率和灵活性，因为虚拟化将计算层从硬件中抽象出来了。在python中，迭代器并不用举太多的例子，因为python中的迭代器应用实在太多了（不管是python还是其它很多的编程语言中，实际上迭代器都已经纳入到了常用的库或者包中）。

尽管所有这些产品都声称是开放式 NFV 方法，但实则不然。所有这些方法都涉及到苛刻并且可以说是限制过多的硬件实现方案，这些实现方案仅具备软件可编程，并且在 SoC 或标准处理器方面再次依赖于苛刻且专有的硬件实现方案。

用于 NFV 性能加速的 ALL PROGRAMMABLE ETHERNITY NIC

这仅仅是前期的投资，接下来我们再来看看这样两套价格较为相近的平台在游戏性能以及功耗效能方面的表现又有怎样的差别吧。在高端显卡市场，我们都知道nvidia一直独占鳌头，尽管amd为了重新夺回高端市场推出了搭载hbm2显存的vega 56/64显卡，但显然效果并不如意，一方面hbm2的成本原因制约了显卡本身的价格，导致vega64价格已经高于gtx 1080，而且功耗也要比gtx 1080高了近一倍，但性能也仅能勉强维持到gtx 1080的水平，因此这两张显卡相比于玩家购买，由于算力更强适合矿厂选择。t和p至少代表了功耗，t的功耗是35w，p的功耗是25w，一般来说p代表了节能优势，而t则是代表了最高性能（peryon核心的t），当然p由于核心很新的原因还是比meron核心的t性能要好。

同样，CPU 与 FPGA 组合方法也适用于在虚拟机上运行虚拟联网功能的NFV。在这种方法中，FPGA 用作完全可编程 NIC，经扩展可用来加速在服务器的 CPU/VM 上运行的虚拟网络功能。

从 2005 年开始，soa 架构的推广和普及工作开始加速，ibm、oracle、普元信息等厂商参与的osoa联盟陆续制订了sca/sdo系列标准规范，该标准也构成了soa 编程模型的基础。3. 该笔记本的架构与智能手机相类似,一方面由于在这一市场拥有更多的竞争,因此硬件价位也更为低廉,此外该笔记本也可以服务于软件开发.它与市面上的消费者级电脑有很多不同,例如它拥有2个网络接口,一个扩展口以及一个可重新编程的硬件以便开发者们探寻更多硬件功能.。要知道，在ps、ps2时代，主机平台基本上是日系厂商的天下，他们使用索尼或者世嘉的特殊硬件架构来设计游戏，这些日系厂商和欧美游戏厂商不同，其特点是基本上只做主机游戏，很少做pc游戏，所以在pc硬件日新月异，而主机却无法快速换代的今天，他们在画面上就跟不上步调，抑制了其设计水平的发展。

为加速 NFV 性能，NFV 解决方案提供商增加了 VM 的数量，目的是在多个 VM 上分配 VNF。在操作多个VM 时，出现了新的挑战，这与均衡虚拟机间的流量负载同时还要支持 IP分片有关。此外，在支持 VM 之间的交换以及 VM 与 NIC 之间的交换方面也存在挑战。纯软件 vSwitch 元件根本不具备足以解决这些挑战的性能。另外，还必须要保持VM 的完整性，以便VM 能够适当存储特定的突发数据包并且不会无序交付数据包。

Ethernity 的 ENET FPGA 专用于解决 NFV 的性能问题，其配备了虚拟交换机/ 路由器实现方案，使系统能够根据 L2、L3 和 L4 标签来加速vSwitch 交换数据的功能，同时保持为每个 VM 分配一个专用虚拟端口。如果某个特定 VM 不可用，ENET 则可以将流量保存 100ms 之久；而一旦可用，ENET 将通过 DMA 将数据传输给 VM。我们的ENET 安装了标准CFM 数据包生成器和数据包分析器，可提供延迟测量功能，从而可以测量 VM 的可用性和运行健康状况，并且指示 ENET 的状态负载均衡器（关于每个 VM 在负载分配方面的可用性）。数据包重新排序引擎可以在某些情况下保持帧的顺序，例如，如果某个数据包出现无序移动，这可能导致对一项功能使用多个 VM。

图 2 描述了 VM 负载均衡ENET解决方案的方框图。

图 2 - 这一高级方框图显示了虚拟机的负载均衡和交换机。

实时流协议(rtsp)建立并控制一个或几个时间同步的连续流媒体. 尽管连续媒体流与控制流交换是可能的, 通常它本身并不发送连续流. 换言之, rtsp充当多媒体服务器的网络远程控制. rtsp连接没有绑定到传输层连接, 如tcp. 在rtsp连接期间, rtsp用户可打开或关闭多个对服务器的可传输连接以发出rtsp请求. 此外, 可使用无连接传输协议, 如udp. rtsp流控制的流可能用到rtp, 但rtsp操作并不依赖用于携带连续媒体的传输机制.。电压稳定性(voltage stability)方面，超频负载轻松通过，结合均衡负载与交叉调节的结果，在均衡负载下每路输出的负载调节率都控制在3%以内，+12v输出精确度达±1%，交叉负载测试中各路也都没跑出3%这个坎儿，但+12v的稳压精度与其它三路独立稳压的电源相比实在算不上好，在超频100w的测试中12v三路电压均明显偏低。imonitor bnc 输出信号于 3310c 系列电子负载内经一隔离放大器，即输出类比信号的地电位与直流负载输入之地电位是相互隔离的，如此可使连接示波器时，当示波器之另一输入连接负载时不致因电位不同造成 imonitor bnc 输出之负端经示波器流过电流到负载端，形成二端测量时之误差。