在线客服
首页 > 技术文章 >
技术文章
技术文章

高速数据流盘处理:编程与标定

作者:美国国家仪器公司 2008年06月05日

数据自数字化仪采集后,存储在一个采用队列结构(元素0、元素1、...、元素N-1、元素N)的先入先出(FIFO)缓冲存储器内。如图所示,队列可以在多个循环间传递数据。"元素出队列"访问同一个存储器FIFO,以相同的顺序读取数据(从元素0开始)。LabVIEW自动为两个while循环创建独立的执行线程,由于一项任务的完成不必占用整个程序的执行时间,流盘应用从这样的并行执行中获益匪浅。相比之下,利用大多数文本编程语言所采用的顺序模型,性能会显著降低。

数据流盘的速率除了受整体的应用架构影响,还会受到许多其它因素的影响。比如,后台程序就会降低磁盘的读写速度,包括病毒扫描、硬盘格式化、系统恢复、磁盘碎片整理、甚至文件在硬盘驱动器上的位置。理想情况下,为数据指定一个独立的硬盘驱动器(或RAID阵列),将有助于解决这些问题。

数据流导入或导出磁盘的基准

前面介绍了传统仪器系统的数据流盘速度如何受限于通过总线可以传递的数据量大小。PXI/PXI Express的高带宽彻底改变了这一瓶颈--存储系统的读写速度成为新的限制因素。对于大多数PXI控制器,硬盘能够达到的速度约为40MB/s。然而,这些磁盘速率可以利用外部ExpressCard或PXI Express RAID-0硬盘驱动器配置得到显著提高。RAID(独立磁盘冗余阵列)技术是一种集合多个硬盘驱动器以获得更高的磁盘速度的简易方法。目前的RAID-0硬盘驱动器配置,对于ExpressCard系统可以实现高达140MB/s的速率,对于x4的PCI Express配置可以实现高达600MB/s的速率。

在计算一个仪器的数据流导入磁盘或数据流导入存储器的吞吐量时,我们可以利用下面的等式:

吞吐量=采样率x字节/采样x通道数

对于一个具有x4连接端子的NI PXIe-5122高速数字化仪,两个14-位通道以最大采样率100MS/s进行采样,就转换为400MB/s的总线传输速率。该速率在x4的PCI Express带宽范围内,因而,我们能够利用RAID-0硬盘驱动器配置处理数据流导入磁盘的应用。利用PXIe-5122高速数字化仪,数据流盘应用可以达到如下基准:

图4:对于PXIe-5122高速量化仪的最大数据流导入磁盘速率。

对于PXIe-5122的上述基准,以及下面的PXIe-6537基准,使用了一个PXI Express双核控制器以及一个x4 PXI Express RAID-0硬盘驱动器配置。测得最大硬盘驱动器写入速率为650MB/s,对应上面所示测试结果的采集数据大小约为40GB。该测试中所用的PXIe-5122设备具有256MB的板上存储空间。

对于一个具有一个x1连接端子的NI PXIe-6537高速数字I/O模块,32个通道全部以最大时钟速率50MHz进行采样,将转换为200MB/s的总线传输速率。利用PXIe-6537高速数字I/O模块,以及RAID-0硬盘驱动器配置,数据流导入磁盘和数据流导出磁盘应用能够实现如下基准:

图5:对于PXIe-6537高速数字I/O的最大数据流导入/导出磁盘速率。

需要特别说明的一个数据是32个或更多个通道的数据流导出磁盘(信号发生)的吞吐量。较低的吞吐量不是因为PXI Express带宽的限制,而实际上是因控制器芯片组所允许的最大传输包的限制。

数据流导入/导出存储器的基准

作为数据流导入磁盘应用的一个变体,我们也可以将来自高速数字化仪的数据以数据流方式导入我们的PXI控制器的板上存储器。这决定性地显示了即使在上一范例中,总线并不是吞吐量的限制因素,而RADI-0阵列的磁盘写入速率是瓶颈所在。在此实验中,数据采集的大小实际受限于可用PC存储器的空间。因而,在数据流导入存储器应用中采用PXIe-5122高速数字化仪,可以得到如下性能:

图6:对于PXIe-5122高速数字化仪的最大数据流导入存储器速率。

在上面的测试中,我们采用了一个具有2GB板上存储器的PXI Express双核控制器。数据采集长度为100,000,000样本/每通道,对于四个通道,这需要800MB的PC存储器空间(每个采样为2字节)。该测试中所用的PXIe-5122设备具有256MB的板上存储空间。利用NI PXIe-6537高速数字I/O模块,执行一个相似的测试:

图6:对于PXIe-6537高速数字I/O的最大数据流导入/导出存储器速率。

基于上面在利用PXIe-6537仪器的数据流导出磁盘中所描述的相同原因,吞吐量受限于控制器的芯片组,而不是PXI Express的带宽。从这些数据流导入/导出存储器的基准获得的最重要的结论是:系统吞吐量的增长超过RAID阵列的写入速率。这不仅意味着跨总线的吞吐量得到了提高,而且总线也不再是瓶颈所在。数据流导入磁盘与数据流导入存储器应用在PXI Express中能够实现如此之高吞吐量的一个原因便是,使用了高带宽、低时延的数据总线——PCI Express。

本文小结

PXI与PXI Express使得工程师们将其系统限制推向更高的层次。PXI平台中所采用的高带宽PCI总线,允许高采样率与大数据块采集相共存。通过将快速PCI技术集成至平台内,甚至可以获得更高的性能,数据速率可以高达1GB/s。良好的应用设计可以帮助实现系统的数据流处理性能的最大化,而且,若干个PXI Express仪器现下可以以其最大的采样率将数据流导入或导出PC存储器或磁盘,因而,我们将可以在后期对整个数据集进行处理或分析。

北京迪阳世纪科技有限责任公司 版权所有 © 2008 - 2018 著作权声明
010-62156134 62169728 13301007825 节假日:13901042484 微信号:sun62169728
地址:北京市西城阜外百万庄扣钟北里7号公寓
E_mail:sales@pc17.com.cn 传真: 010-68328400
京ICP备17023194号-1 公备110108007750