170 lines
7.0 KiB
C++
170 lines
7.0 KiB
C++
// Copyright 2009-2021 Intel Corporation
|
|
// SPDX-License-Identifier: Apache-2.0
|
|
|
|
#pragma once
|
|
|
|
#define vboolf vboolf_impl
|
|
#define vboold vboold_impl
|
|
#define vint vint_impl
|
|
#define vuint vuint_impl
|
|
#define vllong vllong_impl
|
|
#define vfloat vfloat_impl
|
|
#define vdouble vdouble_impl
|
|
|
|
namespace embree
|
|
{
|
|
/* 4-wide AVX bool type for 64bit data types*/
|
|
template<>
|
|
struct vboold<4>
|
|
{
|
|
ALIGNED_STRUCT_(32);
|
|
|
|
typedef vboold4 Bool;
|
|
|
|
enum { size = 4 }; // number of SIMD elements
|
|
union { // data
|
|
__m256d v;
|
|
struct { __m128d vl,vh; };
|
|
long long i[4];
|
|
};
|
|
|
|
////////////////////////////////////////////////////////////////////////////////
|
|
/// Constructors, Assignment & Cast Operators
|
|
////////////////////////////////////////////////////////////////////////////////
|
|
|
|
__forceinline vboold() {}
|
|
__forceinline vboold(const vboold4& a) { v = a.v; }
|
|
__forceinline vboold4& operator =(const vboold4& a) { v = a.v; return *this; }
|
|
|
|
__forceinline vboold(__m256d a) : v(a) {}
|
|
__forceinline vboold(__m256i a) : v(_mm256_castsi256_pd(a)) {}
|
|
|
|
__forceinline operator const __m256() const { return _mm256_castpd_ps(v); }
|
|
__forceinline operator const __m256i() const { return _mm256_castpd_si256(v); }
|
|
__forceinline operator const __m256d() const { return v; }
|
|
|
|
__forceinline vboold(int a)
|
|
{
|
|
assert(a >= 0 && a <= 255);
|
|
#if defined (__AVX2__)
|
|
const __m256i mask = _mm256_set_epi64x(0x8, 0x4, 0x2, 0x1);
|
|
const __m256i b = _mm256_set1_epi64x(a);
|
|
const __m256i c = _mm256_and_si256(b,mask);
|
|
v = _mm256_castsi256_pd(_mm256_cmpeq_epi64(c,mask));
|
|
#else
|
|
vl = mm_lookupmask_pd[a & 0x3];
|
|
vh = mm_lookupmask_pd[a >> 2];
|
|
#endif
|
|
}
|
|
|
|
////////////////////////////////////////////////////////////////////////////////
|
|
/// Constants
|
|
////////////////////////////////////////////////////////////////////////////////
|
|
|
|
__forceinline vboold(FalseTy) : v(_mm256_setzero_pd()) {}
|
|
__forceinline vboold(TrueTy) : v(_mm256_cmp_pd(_mm256_setzero_pd(), _mm256_setzero_pd(), _CMP_EQ_OQ)) {}
|
|
|
|
////////////////////////////////////////////////////////////////////////////////
|
|
/// Array Access
|
|
////////////////////////////////////////////////////////////////////////////////
|
|
|
|
__forceinline bool operator [](size_t index) const { assert(index < 4); return (_mm256_movemask_pd(v) >> index) & 1; }
|
|
__forceinline long long& operator [](size_t index) { assert(index < 4); return i[index]; }
|
|
};
|
|
|
|
////////////////////////////////////////////////////////////////////////////////
|
|
/// Unary Operators
|
|
////////////////////////////////////////////////////////////////////////////////
|
|
|
|
__forceinline vboold4 operator !(const vboold4& a) { return _mm256_xor_pd(a, vboold4(embree::True)); }
|
|
|
|
////////////////////////////////////////////////////////////////////////////////
|
|
/// Binary Operators
|
|
////////////////////////////////////////////////////////////////////////////////
|
|
|
|
__forceinline vboold4 operator &(const vboold4& a, const vboold4& b) { return _mm256_and_pd(a, b); }
|
|
__forceinline vboold4 operator |(const vboold4& a, const vboold4& b) { return _mm256_or_pd (a, b); }
|
|
__forceinline vboold4 operator ^(const vboold4& a, const vboold4& b) { return _mm256_xor_pd(a, b); }
|
|
|
|
__forceinline vboold4 andn(const vboold4& a, const vboold4& b) { return _mm256_andnot_pd(b, a); }
|
|
|
|
__forceinline vboold4& operator &=(vboold4& a, const vboold4& b) { return a = a & b; }
|
|
__forceinline vboold4& operator |=(vboold4& a, const vboold4& b) { return a = a | b; }
|
|
__forceinline vboold4& operator ^=(vboold4& a, const vboold4& b) { return a = a ^ b; }
|
|
|
|
////////////////////////////////////////////////////////////////////////////////
|
|
/// Comparison Operators + Select
|
|
////////////////////////////////////////////////////////////////////////////////
|
|
|
|
__forceinline vboold4 operator !=(const vboold4& a, const vboold4& b) { return _mm256_xor_pd(a, b); }
|
|
__forceinline vboold4 operator ==(const vboold4& a, const vboold4& b) { return _mm256_xor_pd(_mm256_xor_pd(a,b),vboold4(embree::True)); }
|
|
|
|
__forceinline vboold4 select(const vboold4& mask, const vboold4& t, const vboold4& f) {
|
|
return _mm256_blendv_pd(f, t, mask);
|
|
}
|
|
|
|
////////////////////////////////////////////////////////////////////////////////
|
|
/// Movement/Shifting/Shuffling Functions
|
|
////////////////////////////////////////////////////////////////////////////////
|
|
|
|
__forceinline vboold4 unpacklo(const vboold4& a, const vboold4& b) { return _mm256_unpacklo_pd(a, b); }
|
|
__forceinline vboold4 unpackhi(const vboold4& a, const vboold4& b) { return _mm256_unpackhi_pd(a, b); }
|
|
|
|
|
|
#if defined(__AVX2__)
|
|
template<int i0, int i1, int i2, int i3>
|
|
__forceinline vboold4 shuffle(const vboold4& v) {
|
|
return _mm256_permute4x64_pd(v, _MM_SHUFFLE(i3, i2, i1, i0));
|
|
}
|
|
|
|
template<int i>
|
|
__forceinline vboold4 shuffle(const vboold4& v) {
|
|
return _mm256_permute4x64_pd(v, _MM_SHUFFLE(i, i, i, i));
|
|
}
|
|
#endif
|
|
|
|
|
|
////////////////////////////////////////////////////////////////////////////////
|
|
/// Reduction Operations
|
|
////////////////////////////////////////////////////////////////////////////////
|
|
|
|
__forceinline bool reduce_and(const vboold4& a) { return _mm256_movemask_pd(a) == (unsigned int)0xf; }
|
|
__forceinline bool reduce_or (const vboold4& a) { return !_mm256_testz_pd(a,a); }
|
|
|
|
__forceinline bool all (const vboold4& a) { return _mm256_movemask_pd(a) == (unsigned int)0xf; }
|
|
__forceinline bool any (const vboold4& a) { return !_mm256_testz_pd(a,a); }
|
|
__forceinline bool none(const vboold4& a) { return _mm256_testz_pd(a,a) != 0; }
|
|
|
|
__forceinline bool all (const vboold4& valid, const vboold4& b) { return all((!valid) | b); }
|
|
__forceinline bool any (const vboold4& valid, const vboold4& b) { return any(valid & b); }
|
|
__forceinline bool none(const vboold4& valid, const vboold4& b) { return none(valid & b); }
|
|
|
|
__forceinline unsigned int movemask(const vboold4& a) { return _mm256_movemask_pd(a); }
|
|
__forceinline size_t popcnt (const vboold4& a) { return popcnt((size_t)_mm256_movemask_pd(a)); }
|
|
|
|
////////////////////////////////////////////////////////////////////////////////
|
|
/// Get/Set Functions
|
|
////////////////////////////////////////////////////////////////////////////////
|
|
|
|
__forceinline bool get(const vboold4& a, size_t index) { return a[index]; }
|
|
__forceinline void set (vboold4& a, size_t index) { a[index] = -1; }
|
|
__forceinline void clear(vboold4& a, size_t index) { a[index] = 0; }
|
|
|
|
////////////////////////////////////////////////////////////////////////////////
|
|
/// Output Operators
|
|
////////////////////////////////////////////////////////////////////////////////
|
|
|
|
__forceinline embree_ostream operator <<(embree_ostream cout, const vboold4& a) {
|
|
return cout << "<" << a[0] << ", " << a[1] << ", " << a[2] << ", " << a[3] << ", "
|
|
<< a[4] << ", " << a[5] << ", " << a[6] << ", " << a[7] << ">";
|
|
}
|
|
}
|
|
|
|
#undef vboolf
|
|
#undef vboold
|
|
#undef vint
|
|
#undef vuint
|
|
#undef vllong
|
|
#undef vfloat
|
|
#undef vdouble
|