ARM NEON 数组类型有什么好处除了方便?

问题描述

ARM NEON C 内在函数定义数组类型 (per docs here),它们是包含向量数据类型数组的 C 结构。例如,int16x4x2_t 是两个 int16x4_t

我的问题很简单:为什么会存在这些?与直接使用矢量类型相比,它们是否具有某些性能优势?例如,如果我从双指针 vld1q_f64 一个 float64x2_t 并使用 vaddq_f64vmulq_f64vfmaq_f64 等,我预计会有任何性能差异到 vld1q_f64_x4-ing 一个 float64x2x4_t 并在数组元素上使用相同的函数。我想我只是不明白为什么他们创建这些固定长度的数组类型,而直接对它们进行操作的唯一内在函数是加载和存储。

解决方法

它们不仅用于加载和存储;当有多个 128 位输出向量时使用它们。例如,参见 vuzp_* / vuzpq_*

这是一种包装需要多个向量的操作的好方法,而无需求助于指针,指针很容易搞砸。这包括在单个操作中加载/存储多个向量的加载和存储。例如,可能可以像这样实现 vld4_s8 函数:

void vld4_s8(int8x8_t* a,int8x8_t* b,int8x8_t* c,int8x8_t* d,int8_t* data);

如果我看到那个签名,我将不得不找到一些文档来弄清楚 WTF 是在使用前四个参数进行的。它们是输入还是输出?它们是指向向量数组的指针,还是只是一个向量?是否都需要设置它们,或者如果我不需要该值,我可以/应该传递 NULL 吗?

另一方面,当前函数很难出错。有一个输入是一个 8 位整数数组,它返回一个包含四个向量的数组。我唯一会做的不同是对输入数据使用 a conformant array parameter 以便您确切地知道它需要多少个元素,但这在 C++ 或 MSVC 中不起作用(可能直到几个月前他们添加了 C99/C11 支持)。

我是否希望 vld1q_f64_x4-ing 一个 float64x2x4_t 并在数组元素上使用相同的函数有任何性能差异。

可能,但不是乘法。优势在于使用单个指令加载所有四个向量;例如,参见 https://godbolt.org/z/aY8a95。在这种情况下,您有一个负载和四个乘法,而不是四个负载和四个乘法。

在实践中,我怀疑大多数优秀的编译器都能够将其优化为相同的代码(尽管我想检查一下),但内在函数通常使用指令进行 1:1 映射,因此您不必信任编译器变聪明。在这种情况下,有一个 ld4 指令,所以有一个 vld4_* 系列函数,这些类型用于这些 API。