test/CodeGen/X86/fptoui-sat-vector-128.ll

; NOTE: Assertions have been autogenerated by utils/update_llc_test_checks.py
; RUN: llc < %s -mtriple=x86_64-- -mcpu=x86-64    | FileCheck %s --check-prefixes=CHECK,SSE,SSE2
; RUN: llc < %s -mtriple=x86_64-- -mcpu=x86-64-v2 | FileCheck %s --check-prefixes=CHECK,SSE,SSE42
; RUN: llc < %s -mtriple=x86_64-- -mcpu=x86-64-v3 | FileCheck %s --check-prefixes=CHECK,AVX,AVX2
; RUN: llc < %s -mtriple=x86_64-- -mcpu=x86-64-v4 | FileCheck %s --check-prefixes=CHECK,AVX,AVX512

;
; 32-bit float to unsigned integer
;

define <4 x i1> @test_unsigned_v4i1_v4f32(<4 x float> %f) nounwind {
; SSE2-LABEL: test_unsigned_v4i1_v4f32:
; SSE2:       # %bb.0:
; SSE2-NEXT:    movaps %xmm0, %xmm1
; SSE2-NEXT:    shufps {{.*#+}} xmm1 = xmm1[3,3],xmm0[3,3]
; SSE2-NEXT:    xorps %xmm2, %xmm2
; SSE2-NEXT:    maxss %xmm2, %xmm1
; SSE2-NEXT:    movss {{.*#+}} xmm3 = [1.0E+0,0.0E+0,0.0E+0,0.0E+0]
; SSE2-NEXT:    minss %xmm3, %xmm1
; SSE2-NEXT:    cvttss2si %xmm1, %eax
; SSE2-NEXT:    movd %eax, %xmm1
; SSE2-NEXT:    movaps %xmm0, %xmm4
; SSE2-NEXT:    unpckhpd {{.*#+}} xmm4 = xmm4[1],xmm0[1]
; SSE2-NEXT:    maxss %xmm2, %xmm4
; SSE2-NEXT:    minss %xmm3, %xmm4
; SSE2-NEXT:    cvttss2si %xmm4, %eax
; SSE2-NEXT:    movd %eax, %xmm4
; SSE2-NEXT:    punpckldq {{.*#+}} xmm4 = xmm4[0],xmm1[0],xmm4[1],xmm1[1]
; SSE2-NEXT:    movaps %xmm0, %xmm1
; SSE2-NEXT:    maxss %xmm2, %xmm1
; SSE2-NEXT:    minss %xmm3, %xmm1
; SSE2-NEXT:    cvttss2si %xmm1, %eax
; SSE2-NEXT:    movd %eax, %xmm1
; SSE2-NEXT:    shufps {{.*#+}} xmm0 = xmm0[1,1,1,1]
; SSE2-NEXT:    maxss %xmm2, %xmm0
; SSE2-NEXT:    minss %xmm3, %xmm0
; SSE2-NEXT:    cvttss2si %xmm0, %eax
; SSE2-NEXT:    movd %eax, %xmm0
; SSE2-NEXT:    punpckldq {{.*#+}} xmm1 = xmm1[0],xmm0[0],xmm1[1],xmm0[1]
; SSE2-NEXT:    punpcklqdq {{.*#+}} xmm1 = xmm1[0],xmm4[0]
; SSE2-NEXT:    movdqa %xmm1, %xmm0
; SSE2-NEXT:    retq
;
; SSE42-LABEL: test_unsigned_v4i1_v4f32:
; SSE42:       # %bb.0:
; SSE42-NEXT:    movshdup {{.*#+}} xmm1 = xmm0[1,1,3,3]
; SSE42-NEXT:    xorps %xmm2, %xmm2
; SSE42-NEXT:    maxss %xmm2, %xmm1
; SSE42-NEXT:    movss {{.*#+}} xmm3 = [1.0E+0,0.0E+0,0.0E+0,0.0E+0]
; SSE42-NEXT:    minss %xmm3, %xmm1
; SSE42-NEXT:    cvttss2si %xmm1, %eax
; SSE42-NEXT:    movaps %xmm0, %xmm1
; SSE42-NEXT:    maxss %xmm2, %xmm1
; SSE42-NEXT:    minss %xmm3, %xmm1
; SSE42-NEXT:    cvttss2si %xmm1, %ecx
; SSE42-NEXT:    movd %ecx, %xmm1
; SSE42-NEXT:    pinsrd $1, %eax, %xmm1
; SSE42-NEXT:    movaps %xmm0, %xmm4
; SSE42-NEXT:    unpckhpd {{.*#+}} xmm4 = xmm4[1],xmm0[1]
; SSE42-NEXT:    maxss %xmm2, %xmm4
; SSE42-NEXT:    minss %xmm3, %xmm4
; SSE42-NEXT:    cvttss2si %xmm4, %eax
; SSE42-NEXT:    pinsrd $2, %eax, %xmm1
; SSE42-NEXT:    shufps {{.*#+}} xmm0 = xmm0[3,3,3,3]
; SSE42-NEXT:    maxss %xmm2, %xmm0
; SSE42-NEXT:    minss %xmm3, %xmm0
; SSE42-NEXT:    cvttss2si %xmm0, %eax
; SSE42-NEXT:    pinsrd $3, %eax, %xmm1
; SSE42-NEXT:    movdqa %xmm1, %xmm0
; SSE42-NEXT:    retq
;
; AVX2-LABEL: test_unsigned_v4i1_v4f32:
; AVX2:       # %bb.0:
; AVX2-NEXT:    vmovshdup {{.*#+}} xmm1 = xmm0[1,1,3,3]
; AVX2-NEXT:    vxorps %xmm2, %xmm2, %xmm2
; AVX2-NEXT:    vmaxss %xmm2, %xmm1, %xmm1
; AVX2-NEXT:    vmovss {{.*#+}} xmm3 = [1.0E+0,0.0E+0,0.0E+0,0.0E+0]
; AVX2-NEXT:    vminss %xmm3, %xmm1, %xmm1
; AVX2-NEXT:    vcvttss2si %xmm1, %eax
; AVX2-NEXT:    vmaxss %xmm2, %xmm0, %xmm1
; AVX2-NEXT:    vminss %xmm3, %xmm1, %xmm1
; AVX2-NEXT:    vcvttss2si %xmm1, %ecx
; AVX2-NEXT:    vmovd %ecx, %xmm1
; AVX2-NEXT:    vpinsrd $1, %eax, %xmm1, %xmm1
; AVX2-NEXT:    vshufpd {{.*#+}} xmm4 = xmm0[1,0]
; AVX2-NEXT:    vmaxss %xmm2, %xmm4, %xmm4
; AVX2-NEXT:    vminss %xmm3, %xmm4, %xmm4
; AVX2-NEXT:    vcvttss2si %xmm4, %eax
; AVX2-NEXT:    vpinsrd $2, %eax, %xmm1, %xmm1
; AVX2-NEXT:    vshufps {{.*#+}} xmm0 = xmm0[3,3,3,3]
; AVX2-NEXT:    vmaxss %xmm2, %xmm0, %xmm0
; AVX2-NEXT:    vminss %xmm3, %xmm0, %xmm0
; AVX2-NEXT:    vcvttss2si %xmm0, %eax
; AVX2-NEXT:    vpinsrd $3, %eax, %xmm1, %xmm0
; AVX2-NEXT:    retq
;
; AVX512-LABEL: test_unsigned_v4i1_v4f32:
; AVX512:       # %bb.0:
; AVX512-NEXT:    vmovshdup {{.*#+}} xmm1 = xmm0[1,1,3,3]
; AVX512-NEXT:    vxorps %xmm2, %xmm2, %xmm2
; AVX512-NEXT:    vmovss {{.*#+}} xmm3 = [1.0E+0,0.0E+0,0.0E+0,0.0E+0]
; AVX512-NEXT:    vmaxss %xmm1, %xmm2, %xmm1
; AVX512-NEXT:    vminss %xmm1, %xmm3, %xmm1
; AVX512-NEXT:    vcvttss2si %xmm1, %eax
; AVX512-NEXT:    vmaxss %xmm0, %xmm2, %xmm1
; AVX512-NEXT:    vminss %xmm1, %xmm3, %xmm1
; AVX512-NEXT:    vcvttss2si %xmm1, %ecx
; AVX512-NEXT:    vmovd %ecx, %xmm1
; AVX512-NEXT:    vpinsrb $1, %eax, %xmm1, %xmm1
; AVX512-NEXT:    vshufpd {{.*#+}} xmm4 = xmm0[1,0]
; AVX512-NEXT:    vmaxss %xmm4, %xmm2, %xmm4
; AVX512-NEXT:    vminss %xmm4, %xmm3, %xmm4
; AVX512-NEXT:    vcvttss2si %xmm4, %eax
; AVX512-NEXT:    vpinsrb $2, %eax, %xmm1, %xmm1
; AVX512-NEXT:    vshufps {{.*#+}} xmm0 = xmm0[3,3,3,3]
; AVX512-NEXT:    vmaxss %xmm0, %xmm2, %xmm0
; AVX512-NEXT:    vminss %xmm0, %xmm3, %xmm0
; AVX512-NEXT:    vcvttss2si %xmm0, %eax
; AVX512-NEXT:    vpinsrb $3, %eax, %xmm1, %xmm0
; AVX512-NEXT:    vpmovzxbd {{.*#+}} xmm0 = xmm0[0],zero,zero,zero,xmm0[1],zero,zero,zero,xmm0[2],zero,zero,zero,xmm0[3],zero,zero,zero
; AVX512-NEXT:    vptestmd {{\.?LCPI[0-9]+_[0-9]+}}(%rip){1to4}, %xmm0, %k0
; AVX512-NEXT:    vpmovm2d %k0, %xmm0
; AVX512-NEXT:    retq
  %x = call <4 x i1> @llvm.fptoui.sat.v4i1.v4f32(<4 x float> %f)
  ret <4 x i1> %x
}

define <4 x i1> @test_freeze_unsigned_v4i1_v4f32(<4 x float> %f) nounwind {
; SSE2-LABEL: test_freeze_unsigned_v4i1_v4f32:
; SSE2:       # %bb.0:
; SSE2-NEXT:    movaps %xmm0, %xmm1
; SSE2-NEXT:    shufps {{.*#+}} xmm1 = xmm1[3,3],xmm0[3,3]
; SSE2-NEXT:    xorps %xmm2, %xmm2
; SSE2-NEXT:    maxss %xmm2, %xmm1
; SSE2-NEXT:    movss {{.*#+}} xmm3 = [1.0E+0,0.0E+0,0.0E+0,0.0E+0]
; SSE2-NEXT:    minss %xmm3, %xmm1
; SSE2-NEXT:    cvttss2si %xmm1, %eax
; SSE2-NEXT:    movd %eax, %xmm1
; SSE2-NEXT:    movaps %xmm0, %xmm4
; SSE2-NEXT:    unpckhpd {{.*#+}} xmm4 = xmm4[1],xmm0[1]
; SSE2-NEXT:    maxss %xmm2, %xmm4
; SSE2-NEXT:    minss %xmm3, %xmm4
; SSE2-NEXT:    cvttss2si %xmm4, %eax
; SSE2-NEXT:    movd %eax, %xmm4
; SSE2-NEXT:    punpckldq {{.*#+}} xmm4 = xmm4[0],xmm1[0],xmm4[1],xmm1[1]
; SSE2-NEXT:    movaps %xmm0, %xmm1
; SSE2-NEXT:    maxss %xmm2, %xmm1
; SSE2-NEXT:    minss %xmm3, %xmm1
; SSE2-NEXT:    cvttss2si %xmm1, %eax
; SSE2-NEXT:    movd %eax, %xmm1
; SSE2-NEXT:    shufps {{.*#+}} xmm0 = xmm0[1,1,1,1]
; SSE2-NEXT:    maxss %xmm2, %xmm0
; SSE2-NEXT:    minss %xmm3, %xmm0
; SSE2-NEXT:    cvttss2si %xmm0, %eax
; SSE2-NEXT:    movd %eax, %xmm0
; SSE2-NEXT:    punpckldq {{.*#+}} xmm1 = xmm1[0],xmm0[0],xmm1[1],xmm0[1]
; SSE2-NEXT:    punpcklqdq {{.*#+}} xmm1 = xmm1[0],xmm4[0]
; SSE2-NEXT:    movdqa %xmm1, %xmm0
; SSE2-NEXT:    retq
;
; SSE42-LABEL: test_freeze_unsigned_v4i1_v4f32:
; SSE42:       # %bb.0:
; SSE42-NEXT:    movshdup {{.*#+}} xmm1 = xmm0[1,1,3,3]
; SSE42-NEXT:    xorps %xmm2, %xmm2
; SSE42-NEXT:    maxss %xmm2, %xmm1
; SSE42-NEXT:    movss {{.*#+}} xmm3 = [1.0E+0,0.0E+0,0.0E+0,0.0E+0]
; SSE42-NEXT:    minss %xmm3, %xmm1
; SSE42-NEXT:    cvttss2si %xmm1, %eax
; SSE42-NEXT:    movaps %xmm0, %xmm1
; SSE42-NEXT:    maxss %xmm2, %xmm1
; SSE42-NEXT:    minss %xmm3, %xmm1
; SSE42-NEXT:    cvttss2si %xmm1, %ecx
; SSE42-NEXT:    movd %ecx, %xmm1
; SSE42-NEXT:    pinsrd $1, %eax, %xmm1
; SSE42-NEXT:    movaps %xmm0, %xmm4
; SSE42-NEXT:    unpckhpd {{.*#+}} xmm4 = xmm4[1],xmm0[1]
; SSE42-NEXT:    maxss %xmm2, %xmm4
; SSE42-NEXT:    minss %xmm3, %xmm4
; SSE42-NEXT:    cvttss2si %xmm4, %eax
; SSE42-NEXT:    pinsrd $2, %eax, %xmm1
; SSE42-NEXT:    shufps {{.*#+}} xmm0 = xmm0[3,3,3,3]
; SSE42-NEXT:    maxss %xmm2, %xmm0
; SSE42-NEXT:    minss %xmm3, %xmm0
; SSE42-NEXT:    cvttss2si %xmm0, %eax
; SSE42-NEXT:    pinsrd $3, %eax, %xmm1
; SSE42-NEXT:    movdqa %xmm1, %xmm0
; SSE42-NEXT:    retq
;
; AVX2-LABEL: test_freeze_unsigned_v4i1_v4f32:
; AVX2:       # %bb.0:
; AVX2-NEXT:    vmovshdup {{.*#+}} xmm1 = xmm0[1,1,3,3]
; AVX2-NEXT:    vxorps %xmm2, %xmm2, %xmm2
; AVX2-NEXT:    vmaxss %xmm2, %xmm1, %xmm1
; AVX2-NEXT:    vmovss {{.*#+}} xmm3 = [1.0E+0,0.0E+0,0.0E+0,0.0E+0]
; AVX2-NEXT:    vminss %xmm3, %xmm1, %xmm1
; AVX2-NEXT:    vcvttss2si %xmm1, %eax
; AVX2-NEXT:    vmaxss %xmm2, %xmm0, %xmm1
; AVX2-NEXT:    vminss %xmm3, %xmm1, %xmm1
; AVX2-NEXT:    vcvttss2si %xmm1, %ecx
; AVX2-NEXT:    vmovd %ecx, %xmm1
; AVX2-NEXT:    vpinsrd $1, %eax, %xmm1, %xmm1
; AVX2-NEXT:    vshufpd {{.*#+}} xmm4 = xmm0[1,0]
; AVX2-NEXT:    vmaxss %xmm2, %xmm4, %xmm4
; AVX2-NEXT:    vminss %xmm3, %xmm4, %xmm4
; AVX2-NEXT:    vcvttss2si %xmm4, %eax
; AVX2-NEXT:    vpinsrd $2, %eax, %xmm1, %xmm1
; AVX2-NEXT:    vshufps {{.*#+}} xmm0 = xmm0[3,3,3,3]
; AVX2-NEXT:    vmaxss %xmm2, %xmm0, %xmm0
; AVX2-NEXT:    vminss %xmm3, %xmm0, %xmm0
; AVX2-NEXT:    vcvttss2si %xmm0, %eax
; AVX2-NEXT:    vpinsrd $3, %eax, %xmm1, %xmm0
; AVX2-NEXT:    retq
;
; AVX512-LABEL: test_freeze_unsigned_v4i1_v4f32:
; AVX512:       # %bb.0:
; AVX512-NEXT:    vmovshdup {{.*#+}} xmm1 = xmm0[1,1,3,3]
; AVX512-NEXT:    vxorps %xmm2, %xmm2, %xmm2
; AVX512-NEXT:    vmovss {{.*#+}} xmm3 = [1.0E+0,0.0E+0,0.0E+0,0.0E+0]
; AVX512-NEXT:    vmaxss %xmm1, %xmm2, %xmm1
; AVX512-NEXT:    vminss %xmm1, %xmm3, %xmm1
; AVX512-NEXT:    vcvttss2si %xmm1, %eax
; AVX512-NEXT:    vmaxss %xmm0, %xmm2, %xmm1
; AVX512-NEXT:    vminss %xmm1, %xmm3, %xmm1
; AVX512-NEXT:    vcvttss2si %xmm1, %ecx
; AVX512-NEXT:    vmovd %ecx, %xmm1
; AVX512-NEXT:    vpinsrb $1, %eax, %xmm1, %xmm1
; AVX512-NEXT:    vshufpd {{.*#+}} xmm4 = xmm0[1,0]
; AVX512-NEXT:    vmaxss %xmm4, %xmm2, %xmm4
; AVX512-NEXT:    vminss %xmm4, %xmm3, %xmm4
; AVX512-NEXT:    vcvttss2si %xmm4, %eax
; AVX512-NEXT:    vpinsrb $2, %eax, %xmm1, %xmm1
; AVX512-NEXT:    vshufps {{.*#+}} xmm0 = xmm0[3,3,3,3]
; AVX512-NEXT:    vmaxss %xmm0, %xmm2, %xmm0
; AVX512-NEXT:    vminss %xmm0, %xmm3, %xmm0
; AVX512-NEXT:    vcvttss2si %xmm0, %eax
; AVX512-NEXT:    vpinsrb $3, %eax, %xmm1, %xmm0
; AVX512-NEXT:    vpmovzxbd {{.*#+}} xmm0 = xmm0[0],zero,zero,zero,xmm0[1],zero,zero,zero,xmm0[2],zero,zero,zero,xmm0[3],zero,zero,zero
; AVX512-NEXT:    vptestmd {{\.?LCPI[0-9]+_[0-9]+}}(%rip){1to4}, %xmm0, %k0
; AVX512-NEXT:    vpmovm2d %k0, %xmm0
; AVX512-NEXT:    retq
  %x = call <4 x i1> @llvm.fptoui.sat.v4i1.v4f32(<4 x float> %f)
  %y = freeze <4 x i1> %x
  ret <4 x i1> %y
}

define <4 x i8> @test_unsigned_v4i8_v4f32(<4 x float> %f) nounwind {
; SSE2-LABEL: test_unsigned_v4i8_v4f32:
; SSE2:       # %bb.0:
; SSE2-NEXT:    xorps %xmm1, %xmm1
; SSE2-NEXT:    xorps %xmm3, %xmm3
; SSE2-NEXT:    maxss %xmm0, %xmm3
; SSE2-NEXT:    movss {{.*#+}} xmm2 = [2.55E+2,0.0E+0,0.0E+0,0.0E+0]
; SSE2-NEXT:    movaps %xmm2, %xmm4
; SSE2-NEXT:    minss %xmm3, %xmm4
; SSE2-NEXT:    cvttss2si %xmm4, %eax
; SSE2-NEXT:    movaps %xmm0, %xmm3
; SSE2-NEXT:    shufps {{.*#+}} xmm3 = xmm3[1,1],xmm0[1,1]
; SSE2-NEXT:    xorps %xmm4, %xmm4
; SSE2-NEXT:    maxss %xmm3, %xmm4
; SSE2-NEXT:    movaps %xmm2, %xmm3
; SSE2-NEXT:    minss %xmm4, %xmm3
; SSE2-NEXT:    cvttss2si %xmm3, %ecx
; SSE2-NEXT:    movzbl %al, %eax
; SSE2-NEXT:    movzbl %cl, %ecx
; SSE2-NEXT:    shll $8, %ecx
; SSE2-NEXT:    orl %eax, %ecx
; SSE2-NEXT:    movaps %xmm0, %xmm3
; SSE2-NEXT:    unpckhpd {{.*#+}} xmm3 = xmm3[1],xmm0[1]
; SSE2-NEXT:    xorps %xmm4, %xmm4
; SSE2-NEXT:    maxss %xmm3, %xmm4
; SSE2-NEXT:    movaps %xmm2, %xmm3
; SSE2-NEXT:    minss %xmm4, %xmm3
; SSE2-NEXT:    cvttss2si %xmm3, %eax
; SSE2-NEXT:    movzbl %al, %eax
; SSE2-NEXT:    shll $16, %eax
; SSE2-NEXT:    orl %ecx, %eax
; SSE2-NEXT:    shufps {{.*#+}} xmm0 = xmm0[3,3,3,3]
; SSE2-NEXT:    maxss %xmm0, %xmm1
; SSE2-NEXT:    minss %xmm1, %xmm2
; SSE2-NEXT:    cvttss2si %xmm2, %ecx
; SSE2-NEXT:    shll $24, %ecx
; SSE2-NEXT:    orl %eax, %ecx
; SSE2-NEXT:    movd %ecx, %xmm0
; SSE2-NEXT:    retq
;
; SSE42-LABEL: test_unsigned_v4i8_v4f32:
; SSE42:       # %bb.0:
; SSE42-NEXT:    movshdup {{.*#+}} xmm1 = xmm0[1,1,3,3]
; SSE42-NEXT:    xorps %xmm2, %xmm2
; SSE42-NEXT:    maxss %xmm1, %xmm2
; SSE42-NEXT:    movss {{.*#+}} xmm3 = [2.55E+2,0.0E+0,0.0E+0,0.0E+0]
; SSE42-NEXT:    movaps %xmm3, %xmm1
; SSE42-NEXT:    minss %xmm2, %xmm1
; SSE42-NEXT:    cvttss2si %xmm1, %eax
; SSE42-NEXT:    xorps %xmm1, %xmm1
; SSE42-NEXT:    maxss %xmm0, %xmm1
; SSE42-NEXT:    movaps %xmm3, %xmm2
; SSE42-NEXT:    minss %xmm1, %xmm2
; SSE42-NEXT:    cvttss2si %xmm2, %ecx
; SSE42-NEXT:    movd %ecx, %xmm1
; SSE42-NEXT:    pinsrb $1, %eax, %xmm1
; SSE42-NEXT:    movaps %xmm0, %xmm2
; SSE42-NEXT:    unpckhpd {{.*#+}} xmm2 = xmm2[1],xmm0[1]
; SSE42-NEXT:    xorps %xmm4, %xmm4
; SSE42-NEXT:    maxss %xmm2, %xmm4
; SSE42-NEXT:    movaps %xmm3, %xmm2
; SSE42-NEXT:    minss %xmm4, %xmm2
; SSE42-NEXT:    cvttss2si %xmm2, %eax
; SSE42-NEXT:    xorps %xmm2, %xmm2
; SSE42-NEXT:    pinsrb $2, %eax, %xmm1
; SSE42-NEXT:    shufps {{.*#+}} xmm0 = xmm0[3,3,3,3]
; SSE42-NEXT:    maxss %xmm0, %xmm2
; SSE42-NEXT:    minss %xmm2, %xmm3
; SSE42-NEXT:    cvttss2si %xmm3, %eax
; SSE42-NEXT:    pinsrb $3, %eax, %xmm1
; SSE42-NEXT:    movdqa %xmm1, %xmm0
; SSE42-NEXT:    retq
;
; AVX-LABEL: test_unsigned_v4i8_v4f32:
; AVX:       # %bb.0:
; AVX-NEXT:    vmovshdup {{.*#+}} xmm1 = xmm0[1,1,3,3]
; AVX-NEXT:    vxorps %xmm2, %xmm2, %xmm2
; AVX-NEXT:    vmaxss %xmm1, %xmm2, %xmm1
; AVX-NEXT:    vmovss {{.*#+}} xmm3 = [2.55E+2,0.0E+0,0.0E+0,0.0E+0]
; AVX-NEXT:    vminss %xmm1, %xmm3, %xmm1
; AVX-NEXT:    vcvttss2si %xmm1, %eax
; AVX-NEXT:    vmaxss %xmm0, %xmm2, %xmm1
; AVX-NEXT:    vminss %xmm1, %xmm3, %xmm1
; AVX-NEXT:    vcvttss2si %xmm1, %ecx
; AVX-NEXT:    vmovd %ecx, %xmm1
; AVX-NEXT:    vpinsrb $1, %eax, %xmm1, %xmm1
; AVX-NEXT:    vshufpd {{.*#+}} xmm4 = xmm0[1,0]
; AVX-NEXT:    vmaxss %xmm4, %xmm2, %xmm4
; AVX-NEXT:    vminss %xmm4, %xmm3, %xmm4
; AVX-NEXT:    vcvttss2si %xmm4, %eax
; AVX-NEXT:    vpinsrb $2, %eax, %xmm1, %xmm1
; AVX-NEXT:    vshufps {{.*#+}} xmm0 = xmm0[3,3,3,3]
; AVX-NEXT:    vmaxss %xmm0, %xmm2, %xmm0
; AVX-NEXT:    vminss %xmm0, %xmm3, %xmm0
; AVX-NEXT:    vcvttss2si %xmm0, %eax
; AVX-NEXT:    vpinsrb $3, %eax, %xmm1, %xmm0
; AVX-NEXT:    retq
  %x = call <4 x i8> @llvm.fptoui.sat.v4i8.v4f32(<4 x float> %f)
  ret <4 x i8> %x
}

define <4 x i16> @test_unsigned_v4i16_v4f32(<4 x float> %f) nounwind {
; SSE2-LABEL: test_unsigned_v4i16_v4f32:
; SSE2:       # %bb.0:
; SSE2-NEXT:    movaps %xmm0, %xmm1
; SSE2-NEXT:    shufps {{.*#+}} xmm1 = xmm1[1,1],xmm0[1,1]
; SSE2-NEXT:    xorps %xmm2, %xmm2
; SSE2-NEXT:    maxss %xmm1, %xmm2
; SSE2-NEXT:    movss {{.*#+}} xmm3 = [6.5535E+4,0.0E+0,0.0E+0,0.0E+0]
; SSE2-NEXT:    movaps %xmm3, %xmm1
; SSE2-NEXT:    minss %xmm2, %xmm1
; SSE2-NEXT:    cvttss2si %xmm1, %eax
; SSE2-NEXT:    xorps %xmm1, %xmm1
; SSE2-NEXT:    maxss %xmm0, %xmm1
; SSE2-NEXT:    movaps %xmm3, %xmm2
; SSE2-NEXT:    minss %xmm1, %xmm2
; SSE2-NEXT:    cvttss2si %xmm2, %ecx
; SSE2-NEXT:    movd %ecx, %xmm1
; SSE2-NEXT:    pinsrw $1, %eax, %xmm1
; SSE2-NEXT:    movaps %xmm0, %xmm2
; SSE2-NEXT:    unpckhpd {{.*#+}} xmm2 = xmm2[1],xmm0[1]
; SSE2-NEXT:    xorps %xmm4, %xmm4
; SSE2-NEXT:    maxss %xmm2, %xmm4
; SSE2-NEXT:    movaps %xmm3, %xmm2
; SSE2-NEXT:    minss %xmm4, %xmm2
; SSE2-NEXT:    cvttss2si %xmm2, %eax
; SSE2-NEXT:    xorps %xmm2, %xmm2
; SSE2-NEXT:    pinsrw $2, %eax, %xmm1
; SSE2-NEXT:    shufps {{.*#+}} xmm0 = xmm0[3,3,3,3]
; SSE2-NEXT:    maxss %xmm0, %xmm2
; SSE2-NEXT:    minss %xmm2, %xmm3
; SSE2-NEXT:    cvttss2si %xmm3, %eax
; SSE2-NEXT:    pinsrw $3, %eax, %xmm1
; SSE2-NEXT:    movdqa %xmm1, %xmm0
; SSE2-NEXT:    retq
;
; SSE42-LABEL: test_unsigned_v4i16_v4f32:
; SSE42:       # %bb.0:
; SSE42-NEXT:    movshdup {{.*#+}} xmm1 = xmm0[1,1,3,3]
; SSE42-NEXT:    xorps %xmm2, %xmm2
; SSE42-NEXT:    maxss %xmm1, %xmm2
; SSE42-NEXT:    movss {{.*#+}} xmm3 = [6.5535E+4,0.0E+0,0.0E+0,0.0E+0]
; SSE42-NEXT:    movaps %xmm3, %xmm1
; SSE42-NEXT:    minss %xmm2, %xmm1
; SSE42-NEXT:    cvttss2si %xmm1, %eax
; SSE42-NEXT:    xorps %xmm1, %xmm1
; SSE42-NEXT:    maxss %xmm0, %xmm1
; SSE42-NEXT:    movaps %xmm3, %xmm2
; SSE42-NEXT:    minss %xmm1, %xmm2
; SSE42-NEXT:    cvttss2si %xmm2, %ecx
; SSE42-NEXT:    movd %ecx, %xmm1
; SSE42-NEXT:    pinsrw $1, %eax, %xmm1
; SSE42-NEXT:    movaps %xmm0, %xmm2
; SSE42-NEXT:    unpckhpd {{.*#+}} xmm2 = xmm2[1],xmm0[1]
; SSE42-NEXT:    xorps %xmm4, %xmm4
; SSE42-NEXT:    maxss %xmm2, %xmm4
; SSE42-NEXT:    movaps %xmm3, %xmm2
; SSE42-NEXT:    minss %xmm4, %xmm2
; SSE42-NEXT:    cvttss2si %xmm2, %eax
; SSE42-NEXT:    xorps %xmm2, %xmm2
; SSE42-NEXT:    pinsrw $2, %eax, %xmm1
; SSE42-NEXT:    shufps {{.*#+}} xmm0 = xmm0[3,3,3,3]
; SSE42-NEXT:    maxss %xmm0, %xmm2
; SSE42-NEXT:    minss %xmm2, %xmm3
; SSE42-NEXT:    cvttss2si %xmm3, %eax
; SSE42-NEXT:    pinsrw $3, %eax, %xmm1
; SSE42-NEXT:    movdqa %xmm1, %xmm0
; SSE42-NEXT:    retq
;
; AVX-LABEL: test_unsigned_v4i16_v4f32:
; AVX:       # %bb.0:
; AVX-NEXT:    vmovshdup {{.*#+}} xmm1 = xmm0[1,1,3,3]
; AVX-NEXT:    vxorps %xmm2, %xmm2, %xmm2
; AVX-NEXT:    vmaxss %xmm1, %xmm2, %xmm1
; AVX-NEXT:    vmovss {{.*#+}} xmm3 = [6.5535E+4,0.0E+0,0.0E+0,0.0E+0]
; AVX-NEXT:    vminss %xmm1, %xmm3, %xmm1
; AVX-NEXT:    vcvttss2si %xmm1, %eax
; AVX-NEXT:    vmaxss %xmm0, %xmm2, %xmm1
; AVX-NEXT:    vminss %xmm1, %xmm3, %xmm1
; AVX-NEXT:    vcvttss2si %xmm1, %ecx
; AVX-NEXT:    vmovd %ecx, %xmm1
; AVX-NEXT:    vpinsrw $1, %eax, %xmm1, %xmm1
; AVX-NEXT:    vshufpd {{.*#+}} xmm4 = xmm0[1,0]
; AVX-NEXT:    vmaxss %xmm4, %xmm2, %xmm4
; AVX-NEXT:    vminss %xmm4, %xmm3, %xmm4
; AVX-NEXT:    vcvttss2si %xmm4, %eax
; AVX-NEXT:    vpinsrw $2, %eax, %xmm1, %xmm1
; AVX-NEXT:    vshufps {{.*#+}} xmm0 = xmm0[3,3,3,3]
; AVX-NEXT:    vmaxss %xmm0, %xmm2, %xmm0
; AVX-NEXT:    vminss %xmm0, %xmm3, %xmm0
; AVX-NEXT:    vcvttss2si %xmm0, %eax
; AVX-NEXT:    vpinsrw $3, %eax, %xmm1, %xmm0
; AVX-NEXT:    retq
  %x = call <4 x i16> @llvm.fptoui.sat.v4i16.v4f32(<4 x float> %f)
  ret <4 x i16> %x
}

define <4 x i32> @test_unsigned_v4i32_v4f32(<4 x float> %f) nounwind {
; SSE2-LABEL: test_unsigned_v4i32_v4f32:
; SSE2:       # %bb.0:
; SSE2-NEXT:    movaps %xmm0, %xmm3
; SSE2-NEXT:    shufps {{.*#+}} xmm3 = xmm3[3,3],xmm0[3,3]
; SSE2-NEXT:    cvttss2si %xmm3, %rdx
; SSE2-NEXT:    xorl %eax, %eax
; SSE2-NEXT:    xorps %xmm2, %xmm2
; SSE2-NEXT:    ucomiss %xmm2, %xmm3
; SSE2-NEXT:    cmovbl %eax, %edx
; SSE2-NEXT:    movss {{.*#+}} xmm1 = [4.29496704E+9,0.0E+0,0.0E+0,0.0E+0]
; SSE2-NEXT:    ucomiss %xmm1, %xmm3
; SSE2-NEXT:    movl $-1, %ecx
; SSE2-NEXT:    cmoval %ecx, %edx
; SSE2-NEXT:    movaps %xmm0, %xmm3
; SSE2-NEXT:    unpckhpd {{.*#+}} xmm3 = xmm3[1],xmm0[1]
; SSE2-NEXT:    cvttss2si %xmm3, %rsi
; SSE2-NEXT:    ucomiss %xmm2, %xmm3
; SSE2-NEXT:    cmovbl %eax, %esi
; SSE2-NEXT:    ucomiss %xmm1, %xmm3
; SSE2-NEXT:    cmoval %ecx, %esi
; SSE2-NEXT:    cvttss2si %xmm0, %rdi
; SSE2-NEXT:    ucomiss %xmm2, %xmm0
; SSE2-NEXT:    cmovbl %eax, %edi
; SSE2-NEXT:    ucomiss %xmm1, %xmm0
; SSE2-NEXT:    cmoval %ecx, %edi
; SSE2-NEXT:    movd %edx, %xmm3
; SSE2-NEXT:    shufps {{.*#+}} xmm0 = xmm0[1,1,1,1]
; SSE2-NEXT:    cvttss2si %xmm0, %rdx
; SSE2-NEXT:    ucomiss %xmm2, %xmm0
; SSE2-NEXT:    cmovbl %eax, %edx
; SSE2-NEXT:    movd %esi, %xmm2
; SSE2-NEXT:    punpckldq {{.*#+}} xmm2 = xmm2[0],xmm3[0],xmm2[1],xmm3[1]
; SSE2-NEXT:    ucomiss %xmm1, %xmm0
; SSE2-NEXT:    movd %edi, %xmm0
; SSE2-NEXT:    cmoval %ecx, %edx
; SSE2-NEXT:    movd %edx, %xmm1
; SSE2-NEXT:    punpckldq {{.*#+}} xmm0 = xmm0[0],xmm1[0],xmm0[1],xmm1[1]
; SSE2-NEXT:    punpcklqdq {{.*#+}} xmm0 = xmm0[0],xmm2[0]
; SSE2-NEXT:    retq
;
; SSE42-LABEL: test_unsigned_v4i32_v4f32:
; SSE42:       # %bb.0:
; SSE42-NEXT:    movshdup {{.*#+}} xmm1 = xmm0[1,1,3,3]
; SSE42-NEXT:    cvttss2si %xmm1, %rdx
; SSE42-NEXT:    xorl %eax, %eax
; SSE42-NEXT:    xorps %xmm2, %xmm2
; SSE42-NEXT:    ucomiss %xmm2, %xmm1
; SSE42-NEXT:    cmovbl %eax, %edx
; SSE42-NEXT:    movss {{.*#+}} xmm3 = [4.29496704E+9,0.0E+0,0.0E+0,0.0E+0]
; SSE42-NEXT:    ucomiss %xmm3, %xmm1
; SSE42-NEXT:    movl $-1, %ecx
; SSE42-NEXT:    cmoval %ecx, %edx
; SSE42-NEXT:    cvttss2si %xmm0, %rsi
; SSE42-NEXT:    ucomiss %xmm2, %xmm0
; SSE42-NEXT:    cmovbl %eax, %esi
; SSE42-NEXT:    ucomiss %xmm3, %xmm0
; SSE42-NEXT:    cmoval %ecx, %esi
; SSE42-NEXT:    movd %esi, %xmm1
; SSE42-NEXT:    pinsrd $1, %edx, %xmm1
; SSE42-NEXT:    movaps %xmm0, %xmm4
; SSE42-NEXT:    unpckhpd {{.*#+}} xmm4 = xmm4[1],xmm0[1]
; SSE42-NEXT:    cvttss2si %xmm4, %rdx
; SSE42-NEXT:    ucomiss %xmm2, %xmm4
; SSE42-NEXT:    cmovbl %eax, %edx
; SSE42-NEXT:    ucomiss %xmm3, %xmm4
; SSE42-NEXT:    cmoval %ecx, %edx
; SSE42-NEXT:    pinsrd $2, %edx, %xmm1
; SSE42-NEXT:    shufps {{.*#+}} xmm0 = xmm0[3,3,3,3]
; SSE42-NEXT:    cvttss2si %xmm0, %rdx
; SSE42-NEXT:    ucomiss %xmm2, %xmm0
; SSE42-NEXT:    cmovbl %eax, %edx
; SSE42-NEXT:    ucomiss %xmm3, %xmm0
; SSE42-NEXT:    cmoval %ecx, %edx
; SSE42-NEXT:    pinsrd $3, %edx, %xmm1
; SSE42-NEXT:    movdqa %xmm1, %xmm0
; SSE42-NEXT:    retq
;
; AVX2-LABEL: test_unsigned_v4i32_v4f32:
; AVX2:       # %bb.0:
; AVX2-NEXT:    vmovshdup {{.*#+}} xmm1 = xmm0[1,1,3,3]
; AVX2-NEXT:    vcvttss2si %xmm1, %rdx
; AVX2-NEXT:    xorl %eax, %eax
; AVX2-NEXT:    vxorps %xmm2, %xmm2, %xmm2
; AVX2-NEXT:    vucomiss %xmm2, %xmm1
; AVX2-NEXT:    cmovbl %eax, %edx
; AVX2-NEXT:    vmovss {{.*#+}} xmm3 = [4.29496704E+9,0.0E+0,0.0E+0,0.0E+0]
; AVX2-NEXT:    vucomiss %xmm3, %xmm1
; AVX2-NEXT:    movl $-1, %ecx
; AVX2-NEXT:    cmoval %ecx, %edx
; AVX2-NEXT:    vcvttss2si %xmm0, %rsi
; AVX2-NEXT:    vucomiss %xmm2, %xmm0
; AVX2-NEXT:    cmovbl %eax, %esi
; AVX2-NEXT:    vucomiss %xmm3, %xmm0
; AVX2-NEXT:    cmoval %ecx, %esi
; AVX2-NEXT:    vmovd %esi, %xmm1
; AVX2-NEXT:    vpinsrd $1, %edx, %xmm1, %xmm1
; AVX2-NEXT:    vshufpd {{.*#+}} xmm4 = xmm0[1,0]
; AVX2-NEXT:    vcvttss2si %xmm4, %rdx
; AVX2-NEXT:    vucomiss %xmm2, %xmm4
; AVX2-NEXT:    cmovbl %eax, %edx
; AVX2-NEXT:    vucomiss %xmm3, %xmm4
; AVX2-NEXT:    cmoval %ecx, %edx
; AVX2-NEXT:    vshufps {{.*#+}} xmm0 = xmm0[3,3,3,3]
; AVX2-NEXT:    vcvttss2si %xmm0, %rsi
; AVX2-NEXT:    vucomiss %xmm2, %xmm0
; AVX2-NEXT:    cmovbl %eax, %esi
; AVX2-NEXT:    vucomiss %xmm3, %xmm0
; AVX2-NEXT:    cmoval %ecx, %esi
; AVX2-NEXT:    vpinsrd $2, %edx, %xmm1, %xmm0
; AVX2-NEXT:    vpinsrd $3, %esi, %xmm0, %xmm0
; AVX2-NEXT:    retq
;
; AVX512-LABEL: test_unsigned_v4i32_v4f32:
; AVX512:       # %bb.0:
; AVX512-NEXT:    vmovshdup {{.*#+}} xmm1 = xmm0[1,1,3,3]
; AVX512-NEXT:    vcvttss2si %xmm1, %rdx
; AVX512-NEXT:    xorl %eax, %eax
; AVX512-NEXT:    vxorps %xmm2, %xmm2, %xmm2
; AVX512-NEXT:    vucomiss %xmm2, %xmm1
; AVX512-NEXT:    cmovbl %eax, %edx
; AVX512-NEXT:    vmovss {{.*#+}} xmm3 = [4.29496704E+9,0.0E+0,0.0E+0,0.0E+0]
; AVX512-NEXT:    vucomiss %xmm3, %xmm1
; AVX512-NEXT:    movl $-1, %ecx
; AVX512-NEXT:    cmoval %ecx, %edx
; AVX512-NEXT:    vcvttss2si %xmm0, %rsi
; AVX512-NEXT:    vucomiss %xmm2, %xmm0
; AVX512-NEXT:    cmovbl %eax, %esi
; AVX512-NEXT:    vucomiss %xmm3, %xmm0
; AVX512-NEXT:    cmoval %ecx, %esi
; AVX512-NEXT:    vmovd %esi, %xmm1
; AVX512-NEXT:    vpinsrd $1, %edx, %xmm1, %xmm1
; AVX512-NEXT:    vshufpd {{.*#+}} xmm4 = xmm0[1,0]
; AVX512-NEXT:    vcvttss2si %xmm4, %rdx
; AVX512-NEXT:    vucomiss %xmm2, %xmm4
; AVX512-NEXT:    cmovbl %eax, %edx
; AVX512-NEXT:    vucomiss %xmm3, %xmm4
; AVX512-NEXT:    cmoval %ecx, %edx
; AVX512-NEXT:    vpinsrd $2, %edx, %xmm1, %xmm1
; AVX512-NEXT:    vshufps {{.*#+}} xmm0 = xmm0[3,3,3,3]
; AVX512-NEXT:    vcvttss2si %xmm0, %rdx
; AVX512-NEXT:    vucomiss %xmm2, %xmm0
; AVX512-NEXT:    cmovbl %eax, %edx
; AVX512-NEXT:    vucomiss %xmm3, %xmm0
; AVX512-NEXT:    cmoval %ecx, %edx
; AVX512-NEXT:    vpinsrd $3, %edx, %xmm1, %xmm0
; AVX512-NEXT:    retq
  %x = call <4 x i32> @llvm.fptoui.sat.v4i32.v4f32(<4 x float> %f)
  ret <4 x i32> %x
}

define <4 x i64> @test_unsigned_v4i64_v4f32(<4 x float> %f) nounwind {
; SSE2-LABEL: test_unsigned_v4i64_v4f32:
; SSE2:       # %bb.0:
; SSE2-NEXT:    movss {{.*#+}} xmm1 = [9.22337203E+18,0.0E+0,0.0E+0,0.0E+0]
; SSE2-NEXT:    movaps %xmm0, %xmm2
; SSE2-NEXT:    subss %xmm1, %xmm2
; SSE2-NEXT:    cvttss2si %xmm2, %rax
; SSE2-NEXT:    cvttss2si %xmm0, %rcx
; SSE2-NEXT:    movq %rcx, %rdx
; SSE2-NEXT:    sarq $63, %rdx
; SSE2-NEXT:    andq %rax, %rdx
; SSE2-NEXT:    orq %rcx, %rdx
; SSE2-NEXT:    xorl %eax, %eax
; SSE2-NEXT:    xorps %xmm3, %xmm3
; SSE2-NEXT:    ucomiss %xmm3, %xmm0
; SSE2-NEXT:    cmovbq %rax, %rdx
; SSE2-NEXT:    movss {{.*#+}} xmm4 = [1.8446743E+19,0.0E+0,0.0E+0,0.0E+0]
; SSE2-NEXT:    ucomiss %xmm4, %xmm0
; SSE2-NEXT:    movq $-1, %rcx
; SSE2-NEXT:    cmovaq %rcx, %rdx
; SSE2-NEXT:    movaps %xmm0, %xmm2
; SSE2-NEXT:    shufps {{.*#+}} xmm2 = xmm2[1,1],xmm0[1,1]
; SSE2-NEXT:    movaps %xmm2, %xmm5
; SSE2-NEXT:    subss %xmm1, %xmm5
; SSE2-NEXT:    cvttss2si %xmm5, %rdi
; SSE2-NEXT:    cvttss2si %xmm2, %r8
; SSE2-NEXT:    movq %r8, %rsi
; SSE2-NEXT:    sarq $63, %rsi
; SSE2-NEXT:    andq %rdi, %rsi
; SSE2-NEXT:    orq %r8, %rsi
; SSE2-NEXT:    ucomiss %xmm3, %xmm2
; SSE2-NEXT:    cmovbq %rax, %rsi
; SSE2-NEXT:    ucomiss %xmm4, %xmm2
; SSE2-NEXT:    cmovaq %rcx, %rsi
; SSE2-NEXT:    movaps %xmm0, %xmm2
; SSE2-NEXT:    shufps {{.*#+}} xmm2 = xmm2[3,3],xmm0[3,3]
; SSE2-NEXT:    movaps %xmm2, %xmm5
; SSE2-NEXT:    subss %xmm1, %xmm5
; SSE2-NEXT:    cvttss2si %xmm5, %r8
; SSE2-NEXT:    cvttss2si %xmm2, %r9
; SSE2-NEXT:    movq %r9, %rdi
; SSE2-NEXT:    sarq $63, %rdi
; SSE2-NEXT:    andq %r8, %rdi
; SSE2-NEXT:    orq %r9, %rdi
; SSE2-NEXT:    ucomiss %xmm3, %xmm2
; SSE2-NEXT:    cmovbq %rax, %rdi
; SSE2-NEXT:    ucomiss %xmm4, %xmm2
; SSE2-NEXT:    cmovaq %rcx, %rdi
; SSE2-NEXT:    movq %rdx, %xmm2
; SSE2-NEXT:    movhlps {{.*#+}} xmm0 = xmm0[1,1]
; SSE2-NEXT:    movaps %xmm0, %xmm5
; SSE2-NEXT:    subss %xmm1, %xmm5
; SSE2-NEXT:    cvttss2si %xmm5, %rdx
; SSE2-NEXT:    cvttss2si %xmm0, %r8
; SSE2-NEXT:    movq %rsi, %xmm1
; SSE2-NEXT:    movq %r8, %rsi
; SSE2-NEXT:    sarq $63, %rsi
; SSE2-NEXT:    andq %rdx, %rsi
; SSE2-NEXT:    punpcklqdq {{.*#+}} xmm2 = xmm2[0],xmm1[0]
; SSE2-NEXT:    orq %r8, %rsi
; SSE2-NEXT:    ucomiss %xmm3, %xmm0
; SSE2-NEXT:    cmovbq %rax, %rsi
; SSE2-NEXT:    ucomiss %xmm4, %xmm0
; SSE2-NEXT:    movq %rdi, %xmm0
; SSE2-NEXT:    cmovaq %rcx, %rsi
; SSE2-NEXT:    movq %rsi, %xmm1
; SSE2-NEXT:    punpcklqdq {{.*#+}} xmm1 = xmm1[0],xmm0[0]
; SSE2-NEXT:    movdqa %xmm2, %xmm0
; SSE2-NEXT:    retq
;
; SSE42-LABEL: test_unsigned_v4i64_v4f32:
; SSE42:       # %bb.0:
; SSE42-NEXT:    movss {{.*#+}} xmm1 = [9.22337203E+18,0.0E+0,0.0E+0,0.0E+0]
; SSE42-NEXT:    movaps %xmm0, %xmm2
; SSE42-NEXT:    subss %xmm1, %xmm2
; SSE42-NEXT:    cvttss2si %xmm2, %rax
; SSE42-NEXT:    cvttss2si %xmm0, %rcx
; SSE42-NEXT:    movq %rcx, %rdx
; SSE42-NEXT:    sarq $63, %rdx
; SSE42-NEXT:    andq %rax, %rdx
; SSE42-NEXT:    orq %rcx, %rdx
; SSE42-NEXT:    xorl %eax, %eax
; SSE42-NEXT:    xorps %xmm3, %xmm3
; SSE42-NEXT:    ucomiss %xmm3, %xmm0
; SSE42-NEXT:    cmovbq %rax, %rdx
; SSE42-NEXT:    movss {{.*#+}} xmm4 = [1.8446743E+19,0.0E+0,0.0E+0,0.0E+0]
; SSE42-NEXT:    ucomiss %xmm4, %xmm0
; SSE42-NEXT:    movq $-1, %rcx
; SSE42-NEXT:    cmovaq %rcx, %rdx
; SSE42-NEXT:    movshdup {{.*#+}} xmm2 = xmm0[1,1,3,3]
; SSE42-NEXT:    movaps %xmm2, %xmm5
; SSE42-NEXT:    subss %xmm1, %xmm5
; SSE42-NEXT:    cvttss2si %xmm5, %rdi
; SSE42-NEXT:    cvttss2si %xmm2, %r8
; SSE42-NEXT:    movq %r8, %rsi
; SSE42-NEXT:    sarq $63, %rsi
; SSE42-NEXT:    andq %rdi, %rsi
; SSE42-NEXT:    orq %r8, %rsi
; SSE42-NEXT:    ucomiss %xmm3, %xmm2
; SSE42-NEXT:    cmovbq %rax, %rsi
; SSE42-NEXT:    ucomiss %xmm4, %xmm2
; SSE42-NEXT:    cmovaq %rcx, %rsi
; SSE42-NEXT:    movaps %xmm0, %xmm2
; SSE42-NEXT:    shufps {{.*#+}} xmm2 = xmm2[3,3],xmm0[3,3]
; SSE42-NEXT:    movaps %xmm2, %xmm5
; SSE42-NEXT:    subss %xmm1, %xmm5
; SSE42-NEXT:    cvttss2si %xmm5, %r8
; SSE42-NEXT:    cvttss2si %xmm2, %r9
; SSE42-NEXT:    movq %r9, %rdi
; SSE42-NEXT:    sarq $63, %rdi
; SSE42-NEXT:    andq %r8, %rdi
; SSE42-NEXT:    orq %r9, %rdi
; SSE42-NEXT:    ucomiss %xmm3, %xmm2
; SSE42-NEXT:    cmovbq %rax, %rdi
; SSE42-NEXT:    ucomiss %xmm4, %xmm2
; SSE42-NEXT:    cmovaq %rcx, %rdi
; SSE42-NEXT:    movq %rdx, %xmm2
; SSE42-NEXT:    movhlps {{.*#+}} xmm0 = xmm0[1,1]
; SSE42-NEXT:    movaps %xmm0, %xmm5
; SSE42-NEXT:    subss %xmm1, %xmm5
; SSE42-NEXT:    cvttss2si %xmm5, %rdx
; SSE42-NEXT:    cvttss2si %xmm0, %r8
; SSE42-NEXT:    movq %rsi, %xmm1
; SSE42-NEXT:    movq %r8, %rsi
; SSE42-NEXT:    sarq $63, %rsi
; SSE42-NEXT:    andq %rdx, %rsi
; SSE42-NEXT:    punpcklqdq {{.*#+}} xmm2 = xmm2[0],xmm1[0]
; SSE42-NEXT:    orq %r8, %rsi
; SSE42-NEXT:    ucomiss %xmm3, %xmm0
; SSE42-NEXT:    cmovbq %rax, %rsi
; SSE42-NEXT:    ucomiss %xmm4, %xmm0
; SSE42-NEXT:    movq %rdi, %xmm0
; SSE42-NEXT:    cmovaq %rcx, %rsi
; SSE42-NEXT:    movq %rsi, %xmm1
; SSE42-NEXT:    punpcklqdq {{.*#+}} xmm1 = xmm1[0],xmm0[0]
; SSE42-NEXT:    movdqa %xmm2, %xmm0
; SSE42-NEXT:    retq
;
; AVX2-LABEL: test_unsigned_v4i64_v4f32:
; AVX2:       # %bb.0:
; AVX2-NEXT:    vshufps {{.*#+}} xmm4 = xmm0[3,3,3,3]
; AVX2-NEXT:    vmovss {{.*#+}} xmm1 = [9.22337203E+18,0.0E+0,0.0E+0,0.0E+0]
; AVX2-NEXT:    vsubss %xmm1, %xmm4, %xmm2
; AVX2-NEXT:    vcvttss2si %xmm2, %rax
; AVX2-NEXT:    vcvttss2si %xmm4, %rcx
; AVX2-NEXT:    movq %rcx, %rdx
; AVX2-NEXT:    sarq $63, %rdx
; AVX2-NEXT:    andq %rax, %rdx
; AVX2-NEXT:    orq %rcx, %rdx
; AVX2-NEXT:    xorl %eax, %eax
; AVX2-NEXT:    vxorps %xmm2, %xmm2, %xmm2
; AVX2-NEXT:    vucomiss %xmm2, %xmm4
; AVX2-NEXT:    cmovbq %rax, %rdx
; AVX2-NEXT:    vmovss {{.*#+}} xmm3 = [1.8446743E+19,0.0E+0,0.0E+0,0.0E+0]
; AVX2-NEXT:    vucomiss %xmm3, %xmm4
; AVX2-NEXT:    movq $-1, %rcx
; AVX2-NEXT:    cmovaq %rcx, %rdx
; AVX2-NEXT:    vshufpd {{.*#+}} xmm4 = xmm0[1,0]
; AVX2-NEXT:    vsubss %xmm1, %xmm4, %xmm5
; AVX2-NEXT:    vcvttss2si %xmm5, %rdi
; AVX2-NEXT:    vcvttss2si %xmm4, %r8
; AVX2-NEXT:    movq %r8, %rsi
; AVX2-NEXT:    sarq $63, %rsi
; AVX2-NEXT:    andq %rdi, %rsi
; AVX2-NEXT:    orq %r8, %rsi
; AVX2-NEXT:    vucomiss %xmm2, %xmm4
; AVX2-NEXT:    cmovbq %rax, %rsi
; AVX2-NEXT:    vucomiss %xmm3, %xmm4
; AVX2-NEXT:    cmovaq %rcx, %rsi
; AVX2-NEXT:    vsubss %xmm1, %xmm0, %xmm4
; AVX2-NEXT:    vcvttss2si %xmm4, %r8
; AVX2-NEXT:    vcvttss2si %xmm0, %r9
; AVX2-NEXT:    movq %r9, %rdi
; AVX2-NEXT:    sarq $63, %rdi
; AVX2-NEXT:    andq %r8, %rdi
; AVX2-NEXT:    orq %r9, %rdi
; AVX2-NEXT:    vucomiss %xmm2, %xmm0
; AVX2-NEXT:    cmovbq %rax, %rdi
; AVX2-NEXT:    vucomiss %xmm3, %xmm0
; AVX2-NEXT:    cmovaq %rcx, %rdi
; AVX2-NEXT:    vmovq %rdx, %xmm4
; AVX2-NEXT:    vmovshdup {{.*#+}} xmm0 = xmm0[1,1,3,3]
; AVX2-NEXT:    vsubss %xmm1, %xmm0, %xmm1
; AVX2-NEXT:    vcvttss2si %xmm1, %rdx
; AVX2-NEXT:    vcvttss2si %xmm0, %r8
; AVX2-NEXT:    vmovq %rsi, %xmm1
; AVX2-NEXT:    movq %r8, %rsi
; AVX2-NEXT:    sarq $63, %rsi
; AVX2-NEXT:    andq %rdx, %rsi
; AVX2-NEXT:    vpunpcklqdq {{.*#+}} xmm1 = xmm1[0],xmm4[0]
; AVX2-NEXT:    orq %r8, %rsi
; AVX2-NEXT:    vucomiss %xmm2, %xmm0
; AVX2-NEXT:    cmovbq %rax, %rsi
; AVX2-NEXT:    vucomiss %xmm3, %xmm0
; AVX2-NEXT:    cmovaq %rcx, %rsi
; AVX2-NEXT:    vmovq %rdi, %xmm0
; AVX2-NEXT:    vmovq %rsi, %xmm2
; AVX2-NEXT:    vpunpcklqdq {{.*#+}} xmm0 = xmm0[0],xmm2[0]
; AVX2-NEXT:    vinserti128 $1, %xmm1, %ymm0, %ymm0
; AVX2-NEXT:    retq
;
; AVX512-LABEL: test_unsigned_v4i64_v4f32:
; AVX512:       # %bb.0:
; AVX512-NEXT:    vshufps {{.*#+}} xmm1 = xmm0[3,3,3,3]
; AVX512-NEXT:    vcvttss2usi %xmm1, %rcx
; AVX512-NEXT:    xorl %eax, %eax
; AVX512-NEXT:    vxorps %xmm2, %xmm2, %xmm2
; AVX512-NEXT:    vucomiss %xmm2, %xmm1
; AVX512-NEXT:    cmovbq %rax, %rcx
; AVX512-NEXT:    vmovss {{.*#+}} xmm3 = [1.8446743E+19,0.0E+0,0.0E+0,0.0E+0]
; AVX512-NEXT:    vucomiss %xmm3, %xmm1
; AVX512-NEXT:    movq $-1, %rdx
; AVX512-NEXT:    cmovaq %rdx, %rcx
; AVX512-NEXT:    vshufpd {{.*#+}} xmm1 = xmm0[1,0]
; AVX512-NEXT:    vcvttss2usi %xmm1, %rsi
; AVX512-NEXT:    vucomiss %xmm2, %xmm1
; AVX512-NEXT:    cmovbq %rax, %rsi
; AVX512-NEXT:    vucomiss %xmm3, %xmm1
; AVX512-NEXT:    cmovaq %rdx, %rsi
; AVX512-NEXT:    vmovq %rcx, %xmm1
; AVX512-NEXT:    vmovq %rsi, %xmm4
; AVX512-NEXT:    vpunpcklqdq {{.*#+}} xmm1 = xmm4[0],xmm1[0]
; AVX512-NEXT:    vcvttss2usi %xmm0, %rcx
; AVX512-NEXT:    vucomiss %xmm2, %xmm0
; AVX512-NEXT:    cmovbq %rax, %rcx
; AVX512-NEXT:    vucomiss %xmm3, %xmm0
; AVX512-NEXT:    cmovaq %rdx, %rcx
; AVX512-NEXT:    vmovq %rcx, %xmm4
; AVX512-NEXT:    vmovshdup {{.*#+}} xmm0 = xmm0[1,1,3,3]
; AVX512-NEXT:    vcvttss2usi %xmm0, %rcx
; AVX512-NEXT:    vucomiss %xmm2, %xmm0
; AVX512-NEXT:    cmovbq %rax, %rcx
; AVX512-NEXT:    vucomiss %xmm3, %xmm0
; AVX512-NEXT:    cmovaq %rdx, %rcx
; AVX512-NEXT:    vmovq %rcx, %xmm0
; AVX512-NEXT:    vpunpcklqdq {{.*#+}} xmm0 = xmm4[0],xmm0[0]
; AVX512-NEXT:    vinserti128 $1, %xmm1, %ymm0, %ymm0
; AVX512-NEXT:    retq
  %x = call <4 x i64> @llvm.fptoui.sat.v4i64.v4f32(<4 x float> %f)
  ret <4 x i64> %x
}

define <4 x i128> @test_unsigned_v4i128_v4f32(<4 x float> %f) nounwind {
; SSE2-LABEL: test_unsigned_v4i128_v4f32:
; SSE2:       # %bb.0:
; SSE2-NEXT:    pushq %rbp
; SSE2-NEXT:    pushq %r15
; SSE2-NEXT:    pushq %r14
; SSE2-NEXT:    pushq %r13
; SSE2-NEXT:    pushq %r12
; SSE2-NEXT:    pushq %rbx
; SSE2-NEXT:    subq $56, %rsp
; SSE2-NEXT:    movaps %xmm0, (%rsp) # 16-byte Spill
; SSE2-NEXT:    movq %rdi, %rbx
; SSE2-NEXT:    shufps {{.*#+}} xmm0 = xmm0[1,1,1,1]
; SSE2-NEXT:    movaps %xmm0, {{[-0-9]+}}(%r{{[sb]}}p) # 16-byte Spill
; SSE2-NEXT:    callq __fixunssfti@PLT
; SSE2-NEXT:    movq %rdx, %r15
; SSE2-NEXT:    xorl %r14d, %r14d
; SSE2-NEXT:    xorps %xmm0, %xmm0
; SSE2-NEXT:    movaps {{[-0-9]+}}(%r{{[sb]}}p), %xmm1 # 16-byte Reload
; SSE2-NEXT:    ucomiss %xmm0, %xmm1
; SSE2-NEXT:    cmovbq %r14, %r15
; SSE2-NEXT:    cmovbq %r14, %rax
; SSE2-NEXT:    ucomiss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm1
; SSE2-NEXT:    movq $-1, %rbp
; SSE2-NEXT:    cmovaq %rbp, %rax
; SSE2-NEXT:    movq %rax, {{[-0-9]+}}(%r{{[sb]}}p) # 8-byte Spill
; SSE2-NEXT:    cmovaq %rbp, %r15
; SSE2-NEXT:    movaps (%rsp), %xmm0 # 16-byte Reload
; SSE2-NEXT:    movhlps {{.*#+}} xmm0 = xmm0[1,1]
; SSE2-NEXT:    movaps %xmm0, {{[-0-9]+}}(%r{{[sb]}}p) # 16-byte Spill
; SSE2-NEXT:    callq __fixunssfti@PLT
; SSE2-NEXT:    movq %rax, %r12
; SSE2-NEXT:    movq %rdx, %r13
; SSE2-NEXT:    xorps %xmm0, %xmm0
; SSE2-NEXT:    movaps {{[-0-9]+}}(%r{{[sb]}}p), %xmm1 # 16-byte Reload
; SSE2-NEXT:    ucomiss %xmm0, %xmm1
; SSE2-NEXT:    cmovbq %r14, %r13
; SSE2-NEXT:    cmovbq %r14, %r12
; SSE2-NEXT:    ucomiss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm1
; SSE2-NEXT:    cmovaq %rbp, %r12
; SSE2-NEXT:    cmovaq %rbp, %r13
; SSE2-NEXT:    movaps (%rsp), %xmm0 # 16-byte Reload
; SSE2-NEXT:    shufps {{.*#+}} xmm0 = xmm0[3,3,3,3]
; SSE2-NEXT:    movaps %xmm0, {{[-0-9]+}}(%r{{[sb]}}p) # 16-byte Spill
; SSE2-NEXT:    callq __fixunssfti@PLT
; SSE2-NEXT:    movq %rax, %rbp
; SSE2-NEXT:    movq %rdx, %r14
; SSE2-NEXT:    xorps %xmm0, %xmm0
; SSE2-NEXT:    movaps {{[-0-9]+}}(%r{{[sb]}}p), %xmm1 # 16-byte Reload
; SSE2-NEXT:    ucomiss %xmm0, %xmm1
; SSE2-NEXT:    movl $0, %eax
; SSE2-NEXT:    cmovbq %rax, %r14
; SSE2-NEXT:    cmovbq %rax, %rbp
; SSE2-NEXT:    ucomiss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm1
; SSE2-NEXT:    movq $-1, %rax
; SSE2-NEXT:    cmovaq %rax, %rbp
; SSE2-NEXT:    cmovaq %rax, %r14
; SSE2-NEXT:    movaps (%rsp), %xmm0 # 16-byte Reload
; SSE2-NEXT:    callq __fixunssfti@PLT
; SSE2-NEXT:    movaps (%rsp), %xmm0 # 16-byte Reload
; SSE2-NEXT:    xorps %xmm1, %xmm1
; SSE2-NEXT:    ucomiss %xmm1, %xmm0
; SSE2-NEXT:    movl $0, %ecx
; SSE2-NEXT:    cmovbq %rcx, %rdx
; SSE2-NEXT:    cmovbq %rcx, %rax
; SSE2-NEXT:    ucomiss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm0
; SSE2-NEXT:    movq $-1, %rcx
; SSE2-NEXT:    cmovaq %rcx, %rax
; SSE2-NEXT:    cmovaq %rcx, %rdx
; SSE2-NEXT:    movq %rdx, 8(%rbx)
; SSE2-NEXT:    movq %rax, (%rbx)
; SSE2-NEXT:    movq %r14, 56(%rbx)
; SSE2-NEXT:    movq %rbp, 48(%rbx)
; SSE2-NEXT:    movq %r13, 40(%rbx)
; SSE2-NEXT:    movq %r12, 32(%rbx)
; SSE2-NEXT:    movq %r15, 24(%rbx)
; SSE2-NEXT:    movq {{[-0-9]+}}(%r{{[sb]}}p), %rax # 8-byte Reload
; SSE2-NEXT:    movq %rax, 16(%rbx)
; SSE2-NEXT:    movq %rbx, %rax
; SSE2-NEXT:    addq $56, %rsp
; SSE2-NEXT:    popq %rbx
; SSE2-NEXT:    popq %r12
; SSE2-NEXT:    popq %r13
; SSE2-NEXT:    popq %r14
; SSE2-NEXT:    popq %r15
; SSE2-NEXT:    popq %rbp
; SSE2-NEXT:    retq
;
; SSE42-LABEL: test_unsigned_v4i128_v4f32:
; SSE42:       # %bb.0:
; SSE42-NEXT:    pushq %rbp
; SSE42-NEXT:    pushq %r15
; SSE42-NEXT:    pushq %r14
; SSE42-NEXT:    pushq %r13
; SSE42-NEXT:    pushq %r12
; SSE42-NEXT:    pushq %rbx
; SSE42-NEXT:    subq $56, %rsp
; SSE42-NEXT:    movaps %xmm0, (%rsp) # 16-byte Spill
; SSE42-NEXT:    movq %rdi, %rbx
; SSE42-NEXT:    movshdup {{.*#+}} xmm0 = xmm0[1,1,3,3]
; SSE42-NEXT:    movaps %xmm0, {{[-0-9]+}}(%r{{[sb]}}p) # 16-byte Spill
; SSE42-NEXT:    callq __fixunssfti@PLT
; SSE42-NEXT:    movq %rdx, %r15
; SSE42-NEXT:    xorl %r14d, %r14d
; SSE42-NEXT:    xorps %xmm0, %xmm0
; SSE42-NEXT:    movaps {{[-0-9]+}}(%r{{[sb]}}p), %xmm1 # 16-byte Reload
; SSE42-NEXT:    ucomiss %xmm0, %xmm1
; SSE42-NEXT:    cmovbq %r14, %r15
; SSE42-NEXT:    cmovbq %r14, %rax
; SSE42-NEXT:    ucomiss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm1
; SSE42-NEXT:    movq $-1, %rbp
; SSE42-NEXT:    cmovaq %rbp, %rax
; SSE42-NEXT:    movq %rax, {{[-0-9]+}}(%r{{[sb]}}p) # 8-byte Spill
; SSE42-NEXT:    cmovaq %rbp, %r15
; SSE42-NEXT:    movaps (%rsp), %xmm0 # 16-byte Reload
; SSE42-NEXT:    movhlps {{.*#+}} xmm0 = xmm0[1,1]
; SSE42-NEXT:    movaps %xmm0, {{[-0-9]+}}(%r{{[sb]}}p) # 16-byte Spill
; SSE42-NEXT:    callq __fixunssfti@PLT
; SSE42-NEXT:    movq %rax, %r12
; SSE42-NEXT:    movq %rdx, %r13
; SSE42-NEXT:    xorps %xmm0, %xmm0
; SSE42-NEXT:    movaps {{[-0-9]+}}(%r{{[sb]}}p), %xmm1 # 16-byte Reload
; SSE42-NEXT:    ucomiss %xmm0, %xmm1
; SSE42-NEXT:    cmovbq %r14, %r13
; SSE42-NEXT:    cmovbq %r14, %r12
; SSE42-NEXT:    ucomiss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm1
; SSE42-NEXT:    cmovaq %rbp, %r12
; SSE42-NEXT:    cmovaq %rbp, %r13
; SSE42-NEXT:    movaps (%rsp), %xmm0 # 16-byte Reload
; SSE42-NEXT:    shufps {{.*#+}} xmm0 = xmm0[3,3,3,3]
; SSE42-NEXT:    movaps %xmm0, {{[-0-9]+}}(%r{{[sb]}}p) # 16-byte Spill
; SSE42-NEXT:    callq __fixunssfti@PLT
; SSE42-NEXT:    movq %rax, %rbp
; SSE42-NEXT:    movq %rdx, %r14
; SSE42-NEXT:    xorps %xmm0, %xmm0
; SSE42-NEXT:    movaps {{[-0-9]+}}(%r{{[sb]}}p), %xmm1 # 16-byte Reload
; SSE42-NEXT:    ucomiss %xmm0, %xmm1
; SSE42-NEXT:    movl $0, %eax
; SSE42-NEXT:    cmovbq %rax, %r14
; SSE42-NEXT:    cmovbq %rax, %rbp
; SSE42-NEXT:    ucomiss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm1
; SSE42-NEXT:    movq $-1, %rax
; SSE42-NEXT:    cmovaq %rax, %rbp
; SSE42-NEXT:    cmovaq %rax, %r14
; SSE42-NEXT:    movaps (%rsp), %xmm0 # 16-byte Reload
; SSE42-NEXT:    callq __fixunssfti@PLT
; SSE42-NEXT:    movaps (%rsp), %xmm0 # 16-byte Reload
; SSE42-NEXT:    xorps %xmm1, %xmm1
; SSE42-NEXT:    ucomiss %xmm1, %xmm0
; SSE42-NEXT:    movl $0, %ecx
; SSE42-NEXT:    cmovbq %rcx, %rdx
; SSE42-NEXT:    cmovbq %rcx, %rax
; SSE42-NEXT:    ucomiss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm0
; SSE42-NEXT:    movq $-1, %rcx
; SSE42-NEXT:    cmovaq %rcx, %rax
; SSE42-NEXT:    cmovaq %rcx, %rdx
; SSE42-NEXT:    movq %rdx, 8(%rbx)
; SSE42-NEXT:    movq %rax, (%rbx)
; SSE42-NEXT:    movq %r14, 56(%rbx)
; SSE42-NEXT:    movq %rbp, 48(%rbx)
; SSE42-NEXT:    movq %r13, 40(%rbx)
; SSE42-NEXT:    movq %r12, 32(%rbx)
; SSE42-NEXT:    movq %r15, 24(%rbx)
; SSE42-NEXT:    movq {{[-0-9]+}}(%r{{[sb]}}p), %rax # 8-byte Reload
; SSE42-NEXT:    movq %rax, 16(%rbx)
; SSE42-NEXT:    movq %rbx, %rax
; SSE42-NEXT:    addq $56, %rsp
; SSE42-NEXT:    popq %rbx
; SSE42-NEXT:    popq %r12
; SSE42-NEXT:    popq %r13
; SSE42-NEXT:    popq %r14
; SSE42-NEXT:    popq %r15
; SSE42-NEXT:    popq %rbp
; SSE42-NEXT:    retq
;
; AVX-LABEL: test_unsigned_v4i128_v4f32:
; AVX:       # %bb.0:
; AVX-NEXT:    pushq %rbp
; AVX-NEXT:    pushq %r15
; AVX-NEXT:    pushq %r14
; AVX-NEXT:    pushq %r13
; AVX-NEXT:    pushq %r12
; AVX-NEXT:    pushq %rbx
; AVX-NEXT:    subq $56, %rsp
; AVX-NEXT:    vmovaps %xmm0, (%rsp) # 16-byte Spill
; AVX-NEXT:    movq %rdi, %rbx
; AVX-NEXT:    vmovshdup {{.*#+}} xmm0 = xmm0[1,1,3,3]
; AVX-NEXT:    vmovaps %xmm0, {{[-0-9]+}}(%r{{[sb]}}p) # 16-byte Spill
; AVX-NEXT:    callq __fixunssfti@PLT
; AVX-NEXT:    movq %rdx, %r15
; AVX-NEXT:    xorl %r14d, %r14d
; AVX-NEXT:    vxorps %xmm0, %xmm0, %xmm0
; AVX-NEXT:    vmovaps {{[-0-9]+}}(%r{{[sb]}}p), %xmm1 # 16-byte Reload
; AVX-NEXT:    vucomiss %xmm0, %xmm1
; AVX-NEXT:    cmovbq %r14, %r15
; AVX-NEXT:    cmovbq %r14, %rax
; AVX-NEXT:    vucomiss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm1
; AVX-NEXT:    movq $-1, %rbp
; AVX-NEXT:    cmovaq %rbp, %rax
; AVX-NEXT:    movq %rax, {{[-0-9]+}}(%r{{[sb]}}p) # 8-byte Spill
; AVX-NEXT:    cmovaq %rbp, %r15
; AVX-NEXT:    vpermilpd $1, (%rsp), %xmm0 # 16-byte Folded Reload
; AVX-NEXT:    # xmm0 = mem[1,0]
; AVX-NEXT:    vmovapd %xmm0, {{[-0-9]+}}(%r{{[sb]}}p) # 16-byte Spill
; AVX-NEXT:    callq __fixunssfti@PLT
; AVX-NEXT:    movq %rax, %r12
; AVX-NEXT:    movq %rdx, %r13
; AVX-NEXT:    vxorpd %xmm0, %xmm0, %xmm0
; AVX-NEXT:    vmovaps {{[-0-9]+}}(%r{{[sb]}}p), %xmm1 # 16-byte Reload
; AVX-NEXT:    vucomiss %xmm0, %xmm1
; AVX-NEXT:    cmovbq %r14, %r13
; AVX-NEXT:    cmovbq %r14, %r12
; AVX-NEXT:    vucomiss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm1
; AVX-NEXT:    cmovaq %rbp, %r12
; AVX-NEXT:    cmovaq %rbp, %r13
; AVX-NEXT:    vpermilps $255, (%rsp), %xmm0 # 16-byte Folded Reload
; AVX-NEXT:    # xmm0 = mem[3,3,3,3]
; AVX-NEXT:    vmovaps %xmm0, {{[-0-9]+}}(%r{{[sb]}}p) # 16-byte Spill
; AVX-NEXT:    callq __fixunssfti@PLT
; AVX-NEXT:    movq %rax, %rbp
; AVX-NEXT:    movq %rdx, %r14
; AVX-NEXT:    vxorps %xmm0, %xmm0, %xmm0
; AVX-NEXT:    vmovaps {{[-0-9]+}}(%r{{[sb]}}p), %xmm1 # 16-byte Reload
; AVX-NEXT:    vucomiss %xmm0, %xmm1
; AVX-NEXT:    movl $0, %eax
; AVX-NEXT:    cmovbq %rax, %r14
; AVX-NEXT:    cmovbq %rax, %rbp
; AVX-NEXT:    vucomiss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm1
; AVX-NEXT:    movq $-1, %rax
; AVX-NEXT:    cmovaq %rax, %rbp
; AVX-NEXT:    cmovaq %rax, %r14
; AVX-NEXT:    vmovaps (%rsp), %xmm0 # 16-byte Reload
; AVX-NEXT:    callq __fixunssfti@PLT
; AVX-NEXT:    vmovaps (%rsp), %xmm0 # 16-byte Reload
; AVX-NEXT:    vxorps %xmm1, %xmm1, %xmm1
; AVX-NEXT:    vucomiss %xmm1, %xmm0
; AVX-NEXT:    movl $0, %ecx
; AVX-NEXT:    cmovbq %rcx, %rdx
; AVX-NEXT:    cmovbq %rcx, %rax
; AVX-NEXT:    vucomiss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm0
; AVX-NEXT:    movq $-1, %rcx
; AVX-NEXT:    cmovaq %rcx, %rax
; AVX-NEXT:    cmovaq %rcx, %rdx
; AVX-NEXT:    movq %rdx, 8(%rbx)
; AVX-NEXT:    movq %rax, (%rbx)
; AVX-NEXT:    movq %r14, 56(%rbx)
; AVX-NEXT:    movq %rbp, 48(%rbx)
; AVX-NEXT:    movq %r13, 40(%rbx)
; AVX-NEXT:    movq %r12, 32(%rbx)
; AVX-NEXT:    movq %r15, 24(%rbx)
; AVX-NEXT:    movq {{[-0-9]+}}(%r{{[sb]}}p), %rax # 8-byte Reload
; AVX-NEXT:    movq %rax, 16(%rbx)
; AVX-NEXT:    movq %rbx, %rax
; AVX-NEXT:    addq $56, %rsp
; AVX-NEXT:    popq %rbx
; AVX-NEXT:    popq %r12
; AVX-NEXT:    popq %r13
; AVX-NEXT:    popq %r14
; AVX-NEXT:    popq %r15
; AVX-NEXT:    popq %rbp
; AVX-NEXT:    retq
  %x = call <4 x i128> @llvm.fptoui.sat.v4i128.v4f32(<4 x float> %f)
  ret <4 x i128> %x
}

;
; 64-bit float to unsigned integer
;

define <2 x i1> @test_unsigned_v2i1_v2f64(<2 x double> %f) nounwind {
; SSE-LABEL: test_unsigned_v2i1_v2f64:
; SSE:       # %bb.0:
; SSE-NEXT:    xorpd %xmm1, %xmm1
; SSE-NEXT:    movapd %xmm0, %xmm2
; SSE-NEXT:    maxsd %xmm1, %xmm2
; SSE-NEXT:    movsd {{.*#+}} xmm3 = [1.0E+0,0.0E+0]
; SSE-NEXT:    minsd %xmm3, %xmm2
; SSE-NEXT:    cvttsd2si %xmm2, %rax
; SSE-NEXT:    unpckhpd {{.*#+}} xmm0 = xmm0[1,1]
; SSE-NEXT:    maxsd %xmm1, %xmm0
; SSE-NEXT:    minsd %xmm3, %xmm0
; SSE-NEXT:    cvttsd2si %xmm0, %rcx
; SSE-NEXT:    movq %rax, %xmm0
; SSE-NEXT:    movq %rcx, %xmm1
; SSE-NEXT:    punpcklqdq {{.*#+}} xmm0 = xmm0[0],xmm1[0]
; SSE-NEXT:    retq
;
; AVX2-LABEL: test_unsigned_v2i1_v2f64:
; AVX2:       # %bb.0:
; AVX2-NEXT:    vxorpd %xmm1, %xmm1, %xmm1
; AVX2-NEXT:    vmaxsd %xmm1, %xmm0, %xmm2
; AVX2-NEXT:    vmovsd {{.*#+}} xmm3 = [1.0E+0,0.0E+0]
; AVX2-NEXT:    vminsd %xmm3, %xmm2, %xmm2
; AVX2-NEXT:    vcvttsd2si %xmm2, %rax
; AVX2-NEXT:    vmovq %rax, %xmm2
; AVX2-NEXT:    vshufpd {{.*#+}} xmm0 = xmm0[1,0]
; AVX2-NEXT:    vmaxsd %xmm1, %xmm0, %xmm0
; AVX2-NEXT:    vminsd %xmm3, %xmm0, %xmm0
; AVX2-NEXT:    vcvttsd2si %xmm0, %rax
; AVX2-NEXT:    vmovq %rax, %xmm0
; AVX2-NEXT:    vpunpcklqdq {{.*#+}} xmm0 = xmm2[0],xmm0[0]
; AVX2-NEXT:    retq
;
; AVX512-LABEL: test_unsigned_v2i1_v2f64:
; AVX512:       # %bb.0:
; AVX512-NEXT:    vshufpd {{.*#+}} xmm1 = xmm0[1,0]
; AVX512-NEXT:    vxorpd %xmm2, %xmm2, %xmm2
; AVX512-NEXT:    vmaxsd %xmm1, %xmm2, %xmm1
; AVX512-NEXT:    vmovsd {{.*#+}} xmm3 = [1.0E+0,0.0E+0]
; AVX512-NEXT:    vminsd %xmm1, %xmm3, %xmm1
; AVX512-NEXT:    vcvttsd2si %xmm1, %eax
; AVX512-NEXT:    vmaxsd %xmm0, %xmm2, %xmm0
; AVX512-NEXT:    vminsd %xmm0, %xmm3, %xmm0
; AVX512-NEXT:    vcvttsd2si %xmm0, %ecx
; AVX512-NEXT:    vmovd %ecx, %xmm0
; AVX512-NEXT:    vpinsrb $1, %eax, %xmm0, %xmm0
; AVX512-NEXT:    vpmovzxbq {{.*#+}} xmm0 = xmm0[0],zero,zero,zero,zero,zero,zero,zero,xmm0[1],zero,zero,zero,zero,zero,zero,zero
; AVX512-NEXT:    vptestmq {{\.?LCPI[0-9]+_[0-9]+}}(%rip){1to2}, %xmm0, %k0
; AVX512-NEXT:    vpmovm2q %k0, %xmm0
; AVX512-NEXT:    retq
  %x = call <2 x i1> @llvm.fptoui.sat.v2i1.v2f64(<2 x double> %f)
  ret <2 x i1> %x
}

define <2 x i8> @test_unsigned_v2i8_v2f64(<2 x double> %f) nounwind {
; SSE2-LABEL: test_unsigned_v2i8_v2f64:
; SSE2:       # %bb.0:
; SSE2-NEXT:    xorpd %xmm1, %xmm1
; SSE2-NEXT:    xorpd %xmm2, %xmm2
; SSE2-NEXT:    maxsd %xmm0, %xmm2
; SSE2-NEXT:    movsd {{.*#+}} xmm3 = [2.55E+2,0.0E+0]
; SSE2-NEXT:    movapd %xmm3, %xmm4
; SSE2-NEXT:    minsd %xmm2, %xmm4
; SSE2-NEXT:    cvttsd2si %xmm4, %eax
; SSE2-NEXT:    movzbl %al, %eax
; SSE2-NEXT:    unpckhpd {{.*#+}} xmm0 = xmm0[1,1]
; SSE2-NEXT:    maxsd %xmm0, %xmm1
; SSE2-NEXT:    minsd %xmm1, %xmm3
; SSE2-NEXT:    cvttsd2si %xmm3, %ecx
; SSE2-NEXT:    shll $8, %ecx
; SSE2-NEXT:    orl %eax, %ecx
; SSE2-NEXT:    movd %ecx, %xmm0
; SSE2-NEXT:    retq
;
; SSE42-LABEL: test_unsigned_v2i8_v2f64:
; SSE42:       # %bb.0:
; SSE42-NEXT:    movapd %xmm0, %xmm1
; SSE42-NEXT:    unpckhpd {{.*#+}} xmm1 = xmm1[1],xmm0[1]
; SSE42-NEXT:    xorpd %xmm2, %xmm2
; SSE42-NEXT:    xorpd %xmm3, %xmm3
; SSE42-NEXT:    maxsd %xmm1, %xmm3
; SSE42-NEXT:    movsd {{.*#+}} xmm1 = [2.55E+2,0.0E+0]
; SSE42-NEXT:    movapd %xmm1, %xmm4
; SSE42-NEXT:    minsd %xmm3, %xmm4
; SSE42-NEXT:    cvttsd2si %xmm4, %eax
; SSE42-NEXT:    maxsd %xmm0, %xmm2
; SSE42-NEXT:    minsd %xmm2, %xmm1
; SSE42-NEXT:    cvttsd2si %xmm1, %ecx
; SSE42-NEXT:    movd %ecx, %xmm0
; SSE42-NEXT:    pinsrb $1, %eax, %xmm0
; SSE42-NEXT:    retq
;
; AVX-LABEL: test_unsigned_v2i8_v2f64:
; AVX:       # %bb.0:
; AVX-NEXT:    vshufpd {{.*#+}} xmm1 = xmm0[1,0]
; AVX-NEXT:    vxorpd %xmm2, %xmm2, %xmm2
; AVX-NEXT:    vmaxsd %xmm1, %xmm2, %xmm1
; AVX-NEXT:    vmovsd {{.*#+}} xmm3 = [2.55E+2,0.0E+0]
; AVX-NEXT:    vminsd %xmm1, %xmm3, %xmm1
; AVX-NEXT:    vcvttsd2si %xmm1, %eax
; AVX-NEXT:    vmaxsd %xmm0, %xmm2, %xmm0
; AVX-NEXT:    vminsd %xmm0, %xmm3, %xmm0
; AVX-NEXT:    vcvttsd2si %xmm0, %ecx
; AVX-NEXT:    vmovd %ecx, %xmm0
; AVX-NEXT:    vpinsrb $1, %eax, %xmm0, %xmm0
; AVX-NEXT:    retq
  %x = call <2 x i8> @llvm.fptoui.sat.v2i8.v2f64(<2 x double> %f)
  ret <2 x i8> %x
}

define <2 x i16> @test_unsigned_v2i16_v2f64(<2 x double> %f) nounwind {
; SSE-LABEL: test_unsigned_v2i16_v2f64:
; SSE:       # %bb.0:
; SSE-NEXT:    movapd %xmm0, %xmm1
; SSE-NEXT:    unpckhpd {{.*#+}} xmm1 = xmm1[1],xmm0[1]
; SSE-NEXT:    xorpd %xmm2, %xmm2
; SSE-NEXT:    xorpd %xmm3, %xmm3
; SSE-NEXT:    maxsd %xmm1, %xmm3
; SSE-NEXT:    movsd {{.*#+}} xmm1 = [6.5535E+4,0.0E+0]
; SSE-NEXT:    movapd %xmm1, %xmm4
; SSE-NEXT:    minsd %xmm3, %xmm4
; SSE-NEXT:    cvttsd2si %xmm4, %eax
; SSE-NEXT:    maxsd %xmm0, %xmm2
; SSE-NEXT:    minsd %xmm2, %xmm1
; SSE-NEXT:    cvttsd2si %xmm1, %ecx
; SSE-NEXT:    movd %ecx, %xmm0
; SSE-NEXT:    pinsrw $1, %eax, %xmm0
; SSE-NEXT:    retq
;
; AVX-LABEL: test_unsigned_v2i16_v2f64:
; AVX:       # %bb.0:
; AVX-NEXT:    vshufpd {{.*#+}} xmm1 = xmm0[1,0]
; AVX-NEXT:    vxorpd %xmm2, %xmm2, %xmm2
; AVX-NEXT:    vmaxsd %xmm1, %xmm2, %xmm1
; AVX-NEXT:    vmovsd {{.*#+}} xmm3 = [6.5535E+4,0.0E+0]
; AVX-NEXT:    vminsd %xmm1, %xmm3, %xmm1
; AVX-NEXT:    vcvttsd2si %xmm1, %eax
; AVX-NEXT:    vmaxsd %xmm0, %xmm2, %xmm0
; AVX-NEXT:    vminsd %xmm0, %xmm3, %xmm0
; AVX-NEXT:    vcvttsd2si %xmm0, %ecx
; AVX-NEXT:    vmovd %ecx, %xmm0
; AVX-NEXT:    vpinsrw $1, %eax, %xmm0, %xmm0
; AVX-NEXT:    retq
  %x = call <2 x i16> @llvm.fptoui.sat.v2i16.v2f64(<2 x double> %f)
  ret <2 x i16> %x
}

define <2 x i32> @test_unsigned_v2i32_v2f64(<2 x double> %f) nounwind {
; SSE2-LABEL: test_unsigned_v2i32_v2f64:
; SSE2:       # %bb.0:
; SSE2-NEXT:    xorpd %xmm1, %xmm1
; SSE2-NEXT:    xorpd %xmm2, %xmm2
; SSE2-NEXT:    maxsd %xmm0, %xmm2
; SSE2-NEXT:    movsd {{.*#+}} xmm3 = [4.294967295E+9,0.0E+0]
; SSE2-NEXT:    movapd %xmm3, %xmm4
; SSE2-NEXT:    minsd %xmm2, %xmm4
; SSE2-NEXT:    cvttsd2si %xmm4, %rax
; SSE2-NEXT:    unpckhpd {{.*#+}} xmm0 = xmm0[1,1]
; SSE2-NEXT:    maxsd %xmm0, %xmm1
; SSE2-NEXT:    minsd %xmm1, %xmm3
; SSE2-NEXT:    cvttsd2si %xmm3, %rcx
; SSE2-NEXT:    movd %eax, %xmm0
; SSE2-NEXT:    movd %ecx, %xmm1
; SSE2-NEXT:    punpckldq {{.*#+}} xmm0 = xmm0[0],xmm1[0],xmm0[1],xmm1[1]
; SSE2-NEXT:    retq
;
; SSE42-LABEL: test_unsigned_v2i32_v2f64:
; SSE42:       # %bb.0:
; SSE42-NEXT:    movapd %xmm0, %xmm1
; SSE42-NEXT:    unpckhpd {{.*#+}} xmm1 = xmm1[1],xmm0[1]
; SSE42-NEXT:    xorpd %xmm2, %xmm2
; SSE42-NEXT:    xorpd %xmm3, %xmm3
; SSE42-NEXT:    maxsd %xmm1, %xmm3
; SSE42-NEXT:    movsd {{.*#+}} xmm1 = [4.294967295E+9,0.0E+0]
; SSE42-NEXT:    movapd %xmm1, %xmm4
; SSE42-NEXT:    minsd %xmm3, %xmm4
; SSE42-NEXT:    cvttsd2si %xmm4, %rax
; SSE42-NEXT:    maxsd %xmm0, %xmm2
; SSE42-NEXT:    minsd %xmm2, %xmm1
; SSE42-NEXT:    cvttsd2si %xmm1, %rcx
; SSE42-NEXT:    movd %ecx, %xmm0
; SSE42-NEXT:    pinsrd $1, %eax, %xmm0
; SSE42-NEXT:    retq
;
; AVX-LABEL: test_unsigned_v2i32_v2f64:
; AVX:       # %bb.0:
; AVX-NEXT:    vshufpd {{.*#+}} xmm1 = xmm0[1,0]
; AVX-NEXT:    vxorpd %xmm2, %xmm2, %xmm2
; AVX-NEXT:    vmaxsd %xmm1, %xmm2, %xmm1
; AVX-NEXT:    vmovsd {{.*#+}} xmm3 = [4.294967295E+9,0.0E+0]
; AVX-NEXT:    vminsd %xmm1, %xmm3, %xmm1
; AVX-NEXT:    vcvttsd2si %xmm1, %rax
; AVX-NEXT:    vmaxsd %xmm0, %xmm2, %xmm0
; AVX-NEXT:    vminsd %xmm0, %xmm3, %xmm0
; AVX-NEXT:    vcvttsd2si %xmm0, %rcx
; AVX-NEXT:    vmovd %ecx, %xmm0
; AVX-NEXT:    vpinsrd $1, %eax, %xmm0, %xmm0
; AVX-NEXT:    retq
  %x = call <2 x i32> @llvm.fptoui.sat.v2i32.v2f64(<2 x double> %f)
  ret <2 x i32> %x
}

define <2 x i64> @test_unsigned_v2i64_v2f64(<2 x double> %f) nounwind {
; SSE-LABEL: test_unsigned_v2i64_v2f64:
; SSE:       # %bb.0:
; SSE-NEXT:    movsd {{.*#+}} xmm1 = [9.2233720368547758E+18,0.0E+0]
; SSE-NEXT:    movapd %xmm0, %xmm2
; SSE-NEXT:    subsd %xmm1, %xmm2
; SSE-NEXT:    cvttsd2si %xmm2, %rcx
; SSE-NEXT:    cvttsd2si %xmm0, %rdx
; SSE-NEXT:    movq %rdx, %rax
; SSE-NEXT:    sarq $63, %rax
; SSE-NEXT:    andq %rcx, %rax
; SSE-NEXT:    orq %rdx, %rax
; SSE-NEXT:    xorl %ecx, %ecx
; SSE-NEXT:    xorpd %xmm2, %xmm2
; SSE-NEXT:    ucomisd %xmm2, %xmm0
; SSE-NEXT:    cmovbq %rcx, %rax
; SSE-NEXT:    movsd {{.*#+}} xmm3 = [1.844674407370955E+19,0.0E+0]
; SSE-NEXT:    ucomisd %xmm3, %xmm0
; SSE-NEXT:    movq $-1, %rdx
; SSE-NEXT:    cmovaq %rdx, %rax
; SSE-NEXT:    unpckhpd {{.*#+}} xmm0 = xmm0[1,1]
; SSE-NEXT:    movapd %xmm0, %xmm4
; SSE-NEXT:    subsd %xmm1, %xmm4
; SSE-NEXT:    cvttsd2si %xmm4, %rsi
; SSE-NEXT:    cvttsd2si %xmm0, %rdi
; SSE-NEXT:    movq %rdi, %r8
; SSE-NEXT:    sarq $63, %r8
; SSE-NEXT:    andq %rsi, %r8
; SSE-NEXT:    orq %rdi, %r8
; SSE-NEXT:    ucomisd %xmm2, %xmm0
; SSE-NEXT:    cmovbq %rcx, %r8
; SSE-NEXT:    ucomisd %xmm3, %xmm0
; SSE-NEXT:    cmovaq %rdx, %r8
; SSE-NEXT:    movq %rax, %xmm0
; SSE-NEXT:    movq %r8, %xmm1
; SSE-NEXT:    punpcklqdq {{.*#+}} xmm0 = xmm0[0],xmm1[0]
; SSE-NEXT:    retq
;
; AVX2-LABEL: test_unsigned_v2i64_v2f64:
; AVX2:       # %bb.0:
; AVX2-NEXT:    vmovsd {{.*#+}} xmm1 = [9.2233720368547758E+18,0.0E+0]
; AVX2-NEXT:    vsubsd %xmm1, %xmm0, %xmm2
; AVX2-NEXT:    vcvttsd2si %xmm2, %rcx
; AVX2-NEXT:    vcvttsd2si %xmm0, %rdx
; AVX2-NEXT:    movq %rdx, %rax
; AVX2-NEXT:    sarq $63, %rax
; AVX2-NEXT:    andq %rcx, %rax
; AVX2-NEXT:    orq %rdx, %rax
; AVX2-NEXT:    xorl %ecx, %ecx
; AVX2-NEXT:    vxorpd %xmm2, %xmm2, %xmm2
; AVX2-NEXT:    vucomisd %xmm2, %xmm0
; AVX2-NEXT:    cmovbq %rcx, %rax
; AVX2-NEXT:    vmovsd {{.*#+}} xmm3 = [1.844674407370955E+19,0.0E+0]
; AVX2-NEXT:    vucomisd %xmm3, %xmm0
; AVX2-NEXT:    movq $-1, %rdx
; AVX2-NEXT:    cmovaq %rdx, %rax
; AVX2-NEXT:    vshufpd {{.*#+}} xmm0 = xmm0[1,0]
; AVX2-NEXT:    vsubsd %xmm1, %xmm0, %xmm1
; AVX2-NEXT:    vcvttsd2si %xmm1, %rsi
; AVX2-NEXT:    vcvttsd2si %xmm0, %rdi
; AVX2-NEXT:    movq %rdi, %r8
; AVX2-NEXT:    sarq $63, %r8
; AVX2-NEXT:    andq %rsi, %r8
; AVX2-NEXT:    orq %rdi, %r8
; AVX2-NEXT:    vucomisd %xmm2, %xmm0
; AVX2-NEXT:    cmovbq %rcx, %r8
; AVX2-NEXT:    vucomisd %xmm3, %xmm0
; AVX2-NEXT:    cmovaq %rdx, %r8
; AVX2-NEXT:    vmovq %rax, %xmm0
; AVX2-NEXT:    vmovq %r8, %xmm1
; AVX2-NEXT:    vpunpcklqdq {{.*#+}} xmm0 = xmm0[0],xmm1[0]
; AVX2-NEXT:    retq
;
; AVX512-LABEL: test_unsigned_v2i64_v2f64:
; AVX512:       # %bb.0:
; AVX512-NEXT:    vcvttsd2usi %xmm0, %rax
; AVX512-NEXT:    xorl %ecx, %ecx
; AVX512-NEXT:    vxorpd %xmm1, %xmm1, %xmm1
; AVX512-NEXT:    vucomisd %xmm1, %xmm0
; AVX512-NEXT:    cmovbq %rcx, %rax
; AVX512-NEXT:    vmovsd {{.*#+}} xmm2 = [1.844674407370955E+19,0.0E+0]
; AVX512-NEXT:    vucomisd %xmm2, %xmm0
; AVX512-NEXT:    movq $-1, %rdx
; AVX512-NEXT:    cmovaq %rdx, %rax
; AVX512-NEXT:    vmovq %rax, %xmm3
; AVX512-NEXT:    vshufpd {{.*#+}} xmm0 = xmm0[1,0]
; AVX512-NEXT:    vcvttsd2usi %xmm0, %rax
; AVX512-NEXT:    vucomisd %xmm1, %xmm0
; AVX512-NEXT:    cmovbq %rcx, %rax
; AVX512-NEXT:    vucomisd %xmm2, %xmm0
; AVX512-NEXT:    cmovaq %rdx, %rax
; AVX512-NEXT:    vmovq %rax, %xmm0
; AVX512-NEXT:    vpunpcklqdq {{.*#+}} xmm0 = xmm3[0],xmm0[0]
; AVX512-NEXT:    retq
  %x = call <2 x i64> @llvm.fptoui.sat.v2i64.v2f64(<2 x double> %f)
  ret <2 x i64> %x
}

define <2 x i128> @test_unsigned_v2i128_v2f64(<2 x double> %f) nounwind {
; SSE-LABEL: test_unsigned_v2i128_v2f64:
; SSE:       # %bb.0:
; SSE-NEXT:    pushq %r15
; SSE-NEXT:    pushq %r14
; SSE-NEXT:    pushq %r13
; SSE-NEXT:    pushq %r12
; SSE-NEXT:    pushq %rbx
; SSE-NEXT:    subq $32, %rsp
; SSE-NEXT:    movapd %xmm0, (%rsp) # 16-byte Spill
; SSE-NEXT:    movq %rdi, %rbx
; SSE-NEXT:    unpckhpd {{.*#+}} xmm0 = xmm0[1,1]
; SSE-NEXT:    movapd %xmm0, {{[-0-9]+}}(%r{{[sb]}}p) # 16-byte Spill
; SSE-NEXT:    callq __fixunsdfti@PLT
; SSE-NEXT:    movq %rax, %r14
; SSE-NEXT:    movq %rdx, %r15
; SSE-NEXT:    xorl %r12d, %r12d
; SSE-NEXT:    xorpd %xmm0, %xmm0
; SSE-NEXT:    movapd {{[-0-9]+}}(%r{{[sb]}}p), %xmm1 # 16-byte Reload
; SSE-NEXT:    ucomisd %xmm0, %xmm1
; SSE-NEXT:    cmovbq %r12, %r15
; SSE-NEXT:    cmovbq %r12, %r14
; SSE-NEXT:    ucomisd {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm1
; SSE-NEXT:    movq $-1, %r13
; SSE-NEXT:    cmovaq %r13, %r14
; SSE-NEXT:    cmovaq %r13, %r15
; SSE-NEXT:    movaps (%rsp), %xmm0 # 16-byte Reload
; SSE-NEXT:    callq __fixunsdfti@PLT
; SSE-NEXT:    movapd (%rsp), %xmm0 # 16-byte Reload
; SSE-NEXT:    xorpd %xmm1, %xmm1
; SSE-NEXT:    ucomisd %xmm1, %xmm0
; SSE-NEXT:    cmovbq %r12, %rdx
; SSE-NEXT:    cmovbq %r12, %rax
; SSE-NEXT:    ucomisd {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm0
; SSE-NEXT:    cmovaq %r13, %rax
; SSE-NEXT:    cmovaq %r13, %rdx
; SSE-NEXT:    movq %rdx, 8(%rbx)
; SSE-NEXT:    movq %rax, (%rbx)
; SSE-NEXT:    movq %r15, 24(%rbx)
; SSE-NEXT:    movq %r14, 16(%rbx)
; SSE-NEXT:    movq %rbx, %rax
; SSE-NEXT:    addq $32, %rsp
; SSE-NEXT:    popq %rbx
; SSE-NEXT:    popq %r12
; SSE-NEXT:    popq %r13
; SSE-NEXT:    popq %r14
; SSE-NEXT:    popq %r15
; SSE-NEXT:    retq
;
; AVX-LABEL: test_unsigned_v2i128_v2f64:
; AVX:       # %bb.0:
; AVX-NEXT:    pushq %r15
; AVX-NEXT:    pushq %r14
; AVX-NEXT:    pushq %r13
; AVX-NEXT:    pushq %r12
; AVX-NEXT:    pushq %rbx
; AVX-NEXT:    subq $32, %rsp
; AVX-NEXT:    vmovapd %xmm0, (%rsp) # 16-byte Spill
; AVX-NEXT:    movq %rdi, %rbx
; AVX-NEXT:    vshufpd {{.*#+}} xmm0 = xmm0[1,0]
; AVX-NEXT:    vmovapd %xmm0, {{[-0-9]+}}(%r{{[sb]}}p) # 16-byte Spill
; AVX-NEXT:    callq __fixunsdfti@PLT
; AVX-NEXT:    movq %rax, %r14
; AVX-NEXT:    movq %rdx, %r15
; AVX-NEXT:    xorl %r12d, %r12d
; AVX-NEXT:    vxorpd %xmm0, %xmm0, %xmm0
; AVX-NEXT:    vmovapd {{[-0-9]+}}(%r{{[sb]}}p), %xmm1 # 16-byte Reload
; AVX-NEXT:    vucomisd %xmm0, %xmm1
; AVX-NEXT:    cmovbq %r12, %r15
; AVX-NEXT:    cmovbq %r12, %r14
; AVX-NEXT:    vucomisd {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm1
; AVX-NEXT:    movq $-1, %r13
; AVX-NEXT:    cmovaq %r13, %r14
; AVX-NEXT:    cmovaq %r13, %r15
; AVX-NEXT:    vmovaps (%rsp), %xmm0 # 16-byte Reload
; AVX-NEXT:    callq __fixunsdfti@PLT
; AVX-NEXT:    vmovapd (%rsp), %xmm0 # 16-byte Reload
; AVX-NEXT:    vxorpd %xmm1, %xmm1, %xmm1
; AVX-NEXT:    vucomisd %xmm1, %xmm0
; AVX-NEXT:    cmovbq %r12, %rdx
; AVX-NEXT:    cmovbq %r12, %rax
; AVX-NEXT:    vucomisd {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm0
; AVX-NEXT:    cmovaq %r13, %rax
; AVX-NEXT:    cmovaq %r13, %rdx
; AVX-NEXT:    movq %rdx, 8(%rbx)
; AVX-NEXT:    movq %rax, (%rbx)
; AVX-NEXT:    movq %r15, 24(%rbx)
; AVX-NEXT:    movq %r14, 16(%rbx)
; AVX-NEXT:    movq %rbx, %rax
; AVX-NEXT:    addq $32, %rsp
; AVX-NEXT:    popq %rbx
; AVX-NEXT:    popq %r12
; AVX-NEXT:    popq %r13
; AVX-NEXT:    popq %r14
; AVX-NEXT:    popq %r15
; AVX-NEXT:    retq
  %x = call <2 x i128> @llvm.fptoui.sat.v2i128.v2f64(<2 x double> %f)
  ret <2 x i128> %x
}

;
; 16-bit float to unsigned integer
;

define <8 x i1> @test_unsigned_v8i1_v8f16(<8 x half> %f) nounwind {
; SSE2-LABEL: test_unsigned_v8i1_v8f16:
; SSE2:       # %bb.0:
; SSE2-NEXT:    subq $72, %rsp
; SSE2-NEXT:    movdqa %xmm0, (%rsp) # 16-byte Spill
; SSE2-NEXT:    psrldq {{.*#+}} xmm0 = xmm0[14,15],zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero
; SSE2-NEXT:    callq __extendhfsf2@PLT
; SSE2-NEXT:    xorps %xmm1, %xmm1
; SSE2-NEXT:    maxss %xmm1, %xmm0
; SSE2-NEXT:    minss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm0
; SSE2-NEXT:    cvttss2si %xmm0, %eax
; SSE2-NEXT:    movd %eax, %xmm0
; SSE2-NEXT:    movdqa %xmm0, {{[-0-9]+}}(%r{{[sb]}}p) # 16-byte Spill
; SSE2-NEXT:    movaps (%rsp), %xmm0 # 16-byte Reload
; SSE2-NEXT:    shufps {{.*#+}} xmm0 = xmm0[3,3,3,3]
; SSE2-NEXT:    callq __extendhfsf2@PLT
; SSE2-NEXT:    xorps %xmm1, %xmm1
; SSE2-NEXT:    maxss %xmm1, %xmm0
; SSE2-NEXT:    minss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm0
; SSE2-NEXT:    cvttss2si %xmm0, %eax
; SSE2-NEXT:    movd %eax, %xmm0
; SSE2-NEXT:    punpcklwd {{[-0-9]+}}(%r{{[sb]}}p), %xmm0 # 16-byte Folded Reload
; SSE2-NEXT:    # xmm0 = xmm0[0],mem[0],xmm0[1],mem[1],xmm0[2],mem[2],xmm0[3],mem[3]
; SSE2-NEXT:    movdqa %xmm0, {{[-0-9]+}}(%r{{[sb]}}p) # 16-byte Spill
; SSE2-NEXT:    movdqa (%rsp), %xmm0 # 16-byte Reload
; SSE2-NEXT:    psrldq {{.*#+}} xmm0 = xmm0[10,11,12,13,14,15],zero,zero,zero,zero,zero,zero,zero,zero,zero,zero
; SSE2-NEXT:    callq __extendhfsf2@PLT
; SSE2-NEXT:    xorps %xmm1, %xmm1
; SSE2-NEXT:    maxss %xmm1, %xmm0
; SSE2-NEXT:    minss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm0
; SSE2-NEXT:    cvttss2si %xmm0, %eax
; SSE2-NEXT:    movd %eax, %xmm0
; SSE2-NEXT:    movdqa %xmm0, {{[-0-9]+}}(%r{{[sb]}}p) # 16-byte Spill
; SSE2-NEXT:    movaps (%rsp), %xmm0 # 16-byte Reload
; SSE2-NEXT:    movhlps {{.*#+}} xmm0 = xmm0[1,1]
; SSE2-NEXT:    callq __extendhfsf2@PLT
; SSE2-NEXT:    xorps %xmm1, %xmm1
; SSE2-NEXT:    maxss %xmm1, %xmm0
; SSE2-NEXT:    minss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm0
; SSE2-NEXT:    cvttss2si %xmm0, %eax
; SSE2-NEXT:    movd %eax, %xmm0
; SSE2-NEXT:    punpcklwd {{[-0-9]+}}(%r{{[sb]}}p), %xmm0 # 16-byte Folded Reload
; SSE2-NEXT:    # xmm0 = xmm0[0],mem[0],xmm0[1],mem[1],xmm0[2],mem[2],xmm0[3],mem[3]
; SSE2-NEXT:    punpckldq {{[-0-9]+}}(%r{{[sb]}}p), %xmm0 # 16-byte Folded Reload
; SSE2-NEXT:    # xmm0 = xmm0[0],mem[0],xmm0[1],mem[1]
; SSE2-NEXT:    movdqa %xmm0, {{[-0-9]+}}(%r{{[sb]}}p) # 16-byte Spill
; SSE2-NEXT:    movdqa (%rsp), %xmm0 # 16-byte Reload
; SSE2-NEXT:    psrlq $48, %xmm0
; SSE2-NEXT:    callq __extendhfsf2@PLT
; SSE2-NEXT:    xorps %xmm1, %xmm1
; SSE2-NEXT:    maxss %xmm1, %xmm0
; SSE2-NEXT:    minss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm0
; SSE2-NEXT:    cvttss2si %xmm0, %eax
; SSE2-NEXT:    movd %eax, %xmm0
; SSE2-NEXT:    movdqa %xmm0, {{[-0-9]+}}(%r{{[sb]}}p) # 16-byte Spill
; SSE2-NEXT:    movaps (%rsp), %xmm0 # 16-byte Reload
; SSE2-NEXT:    shufps {{.*#+}} xmm0 = xmm0[1,1,1,1]
; SSE2-NEXT:    callq __extendhfsf2@PLT
; SSE2-NEXT:    xorps %xmm1, %xmm1
; SSE2-NEXT:    maxss %xmm1, %xmm0
; SSE2-NEXT:    minss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm0
; SSE2-NEXT:    cvttss2si %xmm0, %eax
; SSE2-NEXT:    movd %eax, %xmm0
; SSE2-NEXT:    punpcklwd {{[-0-9]+}}(%r{{[sb]}}p), %xmm0 # 16-byte Folded Reload
; SSE2-NEXT:    # xmm0 = xmm0[0],mem[0],xmm0[1],mem[1],xmm0[2],mem[2],xmm0[3],mem[3]
; SSE2-NEXT:    movdqa %xmm0, {{[-0-9]+}}(%r{{[sb]}}p) # 16-byte Spill
; SSE2-NEXT:    movaps (%rsp), %xmm0 # 16-byte Reload
; SSE2-NEXT:    callq __extendhfsf2@PLT
; SSE2-NEXT:    xorps %xmm1, %xmm1
; SSE2-NEXT:    maxss %xmm1, %xmm0
; SSE2-NEXT:    minss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm0
; SSE2-NEXT:    cvttss2si %xmm0, %eax
; SSE2-NEXT:    movd %eax, %xmm0
; SSE2-NEXT:    movdqa %xmm0, {{[-0-9]+}}(%r{{[sb]}}p) # 16-byte Spill
; SSE2-NEXT:    movdqa (%rsp), %xmm0 # 16-byte Reload
; SSE2-NEXT:    psrld $16, %xmm0
; SSE2-NEXT:    callq __extendhfsf2@PLT
; SSE2-NEXT:    xorps %xmm1, %xmm1
; SSE2-NEXT:    maxss %xmm1, %xmm0
; SSE2-NEXT:    minss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm0
; SSE2-NEXT:    cvttss2si %xmm0, %eax
; SSE2-NEXT:    movd %eax, %xmm1
; SSE2-NEXT:    movdqa {{[-0-9]+}}(%r{{[sb]}}p), %xmm0 # 16-byte Reload
; SSE2-NEXT:    punpcklwd {{.*#+}} xmm0 = xmm0[0],xmm1[0],xmm0[1],xmm1[1],xmm0[2],xmm1[2],xmm0[3],xmm1[3]
; SSE2-NEXT:    punpckldq {{[-0-9]+}}(%r{{[sb]}}p), %xmm0 # 16-byte Folded Reload
; SSE2-NEXT:    # xmm0 = xmm0[0],mem[0],xmm0[1],mem[1]
; SSE2-NEXT:    punpcklqdq {{[-0-9]+}}(%r{{[sb]}}p), %xmm0 # 16-byte Folded Reload
; SSE2-NEXT:    # xmm0 = xmm0[0],mem[0]
; SSE2-NEXT:    addq $72, %rsp
; SSE2-NEXT:    retq
;
; SSE42-LABEL: test_unsigned_v8i1_v8f16:
; SSE42:       # %bb.0:
; SSE42-NEXT:    pushq %rbx
; SSE42-NEXT:    subq $32, %rsp
; SSE42-NEXT:    movdqa %xmm0, {{[-0-9]+}}(%r{{[sb]}}p) # 16-byte Spill
; SSE42-NEXT:    psrld $16, %xmm0
; SSE42-NEXT:    callq __extendhfsf2@PLT
; SSE42-NEXT:    xorps %xmm1, %xmm1
; SSE42-NEXT:    maxss %xmm1, %xmm0
; SSE42-NEXT:    minss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm0
; SSE42-NEXT:    cvttss2si %xmm0, %ebx
; SSE42-NEXT:    movaps {{[-0-9]+}}(%r{{[sb]}}p), %xmm0 # 16-byte Reload
; SSE42-NEXT:    callq __extendhfsf2@PLT
; SSE42-NEXT:    xorps %xmm1, %xmm1
; SSE42-NEXT:    maxss %xmm1, %xmm0
; SSE42-NEXT:    minss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm0
; SSE42-NEXT:    cvttss2si %xmm0, %eax
; SSE42-NEXT:    movd %eax, %xmm0
; SSE42-NEXT:    pinsrw $1, %ebx, %xmm0
; SSE42-NEXT:    movdqa %xmm0, (%rsp) # 16-byte Spill
; SSE42-NEXT:    movshdup {{[-0-9]+}}(%r{{[sb]}}p), %xmm0 # 16-byte Folded Reload
; SSE42-NEXT:    # xmm0 = mem[1,1,3,3]
; SSE42-NEXT:    callq __extendhfsf2@PLT
; SSE42-NEXT:    xorps %xmm1, %xmm1
; SSE42-NEXT:    maxss %xmm1, %xmm0
; SSE42-NEXT:    minss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm0
; SSE42-NEXT:    cvttss2si %xmm0, %eax
; SSE42-NEXT:    movdqa (%rsp), %xmm0 # 16-byte Reload
; SSE42-NEXT:    pinsrw $2, %eax, %xmm0
; SSE42-NEXT:    movdqa %xmm0, (%rsp) # 16-byte Spill
; SSE42-NEXT:    movdqa {{[-0-9]+}}(%r{{[sb]}}p), %xmm0 # 16-byte Reload
; SSE42-NEXT:    psrlq $48, %xmm0
; SSE42-NEXT:    callq __extendhfsf2@PLT
; SSE42-NEXT:    xorps %xmm1, %xmm1
; SSE42-NEXT:    maxss %xmm1, %xmm0
; SSE42-NEXT:    minss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm0
; SSE42-NEXT:    cvttss2si %xmm0, %eax
; SSE42-NEXT:    movdqa (%rsp), %xmm0 # 16-byte Reload
; SSE42-NEXT:    pinsrw $3, %eax, %xmm0
; SSE42-NEXT:    movdqa %xmm0, (%rsp) # 16-byte Spill
; SSE42-NEXT:    movaps {{[-0-9]+}}(%r{{[sb]}}p), %xmm0 # 16-byte Reload
; SSE42-NEXT:    movhlps {{.*#+}} xmm0 = xmm0[1,1]
; SSE42-NEXT:    callq __extendhfsf2@PLT
; SSE42-NEXT:    xorps %xmm1, %xmm1
; SSE42-NEXT:    maxss %xmm1, %xmm0
; SSE42-NEXT:    minss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm0
; SSE42-NEXT:    cvttss2si %xmm0, %eax
; SSE42-NEXT:    movdqa (%rsp), %xmm0 # 16-byte Reload
; SSE42-NEXT:    pinsrw $4, %eax, %xmm0
; SSE42-NEXT:    movdqa %xmm0, (%rsp) # 16-byte Spill
; SSE42-NEXT:    movdqa {{[-0-9]+}}(%r{{[sb]}}p), %xmm0 # 16-byte Reload
; SSE42-NEXT:    psrldq {{.*#+}} xmm0 = xmm0[10,11,12,13,14,15],zero,zero,zero,zero,zero,zero,zero,zero,zero,zero
; SSE42-NEXT:    callq __extendhfsf2@PLT
; SSE42-NEXT:    xorps %xmm1, %xmm1
; SSE42-NEXT:    maxss %xmm1, %xmm0
; SSE42-NEXT:    minss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm0
; SSE42-NEXT:    cvttss2si %xmm0, %eax
; SSE42-NEXT:    movdqa (%rsp), %xmm0 # 16-byte Reload
; SSE42-NEXT:    pinsrw $5, %eax, %xmm0
; SSE42-NEXT:    movdqa %xmm0, (%rsp) # 16-byte Spill
; SSE42-NEXT:    movaps {{[-0-9]+}}(%r{{[sb]}}p), %xmm0 # 16-byte Reload
; SSE42-NEXT:    shufps {{.*#+}} xmm0 = xmm0[3,3,3,3]
; SSE42-NEXT:    callq __extendhfsf2@PLT
; SSE42-NEXT:    xorps %xmm1, %xmm1
; SSE42-NEXT:    maxss %xmm1, %xmm0
; SSE42-NEXT:    minss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm0
; SSE42-NEXT:    cvttss2si %xmm0, %eax
; SSE42-NEXT:    movdqa (%rsp), %xmm0 # 16-byte Reload
; SSE42-NEXT:    pinsrw $6, %eax, %xmm0
; SSE42-NEXT:    movdqa %xmm0, (%rsp) # 16-byte Spill
; SSE42-NEXT:    movdqa {{[-0-9]+}}(%r{{[sb]}}p), %xmm0 # 16-byte Reload
; SSE42-NEXT:    psrldq {{.*#+}} xmm0 = xmm0[14,15],zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero
; SSE42-NEXT:    callq __extendhfsf2@PLT
; SSE42-NEXT:    xorps %xmm1, %xmm1
; SSE42-NEXT:    maxss %xmm1, %xmm0
; SSE42-NEXT:    minss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm0
; SSE42-NEXT:    cvttss2si %xmm0, %eax
; SSE42-NEXT:    movdqa (%rsp), %xmm0 # 16-byte Reload
; SSE42-NEXT:    pinsrw $7, %eax, %xmm0
; SSE42-NEXT:    addq $32, %rsp
; SSE42-NEXT:    popq %rbx
; SSE42-NEXT:    retq
;
; AVX2-LABEL: test_unsigned_v8i1_v8f16:
; AVX2:       # %bb.0:
; AVX2-NEXT:    vpsrld $16, %xmm0, %xmm1
; AVX2-NEXT:    vcvtph2ps %xmm1, %xmm2
; AVX2-NEXT:    vpxor %xmm1, %xmm1, %xmm1
; AVX2-NEXT:    vmaxss %xmm1, %xmm2, %xmm3
; AVX2-NEXT:    vmovss {{.*#+}} xmm2 = [1.0E+0,0.0E+0,0.0E+0,0.0E+0]
; AVX2-NEXT:    vminss %xmm2, %xmm3, %xmm3
; AVX2-NEXT:    vcvttss2si %xmm3, %eax
; AVX2-NEXT:    vcvtph2ps %xmm0, %xmm3
; AVX2-NEXT:    vmaxss %xmm1, %xmm3, %xmm3
; AVX2-NEXT:    vminss %xmm2, %xmm3, %xmm3
; AVX2-NEXT:    vcvttss2si %xmm3, %ecx
; AVX2-NEXT:    vmovd %ecx, %xmm3
; AVX2-NEXT:    vpinsrw $1, %eax, %xmm3, %xmm3
; AVX2-NEXT:    vmovshdup {{.*#+}} xmm4 = xmm0[1,1,3,3]
; AVX2-NEXT:    vcvtph2ps %xmm4, %xmm4
; AVX2-NEXT:    vmaxss %xmm1, %xmm4, %xmm4
; AVX2-NEXT:    vminss %xmm2, %xmm4, %xmm4
; AVX2-NEXT:    vcvttss2si %xmm4, %eax
; AVX2-NEXT:    vpinsrw $2, %eax, %xmm3, %xmm3
; AVX2-NEXT:    vpsrlq $48, %xmm0, %xmm4
; AVX2-NEXT:    vcvtph2ps %xmm4, %xmm4
; AVX2-NEXT:    vmaxss %xmm1, %xmm4, %xmm4
; AVX2-NEXT:    vminss %xmm2, %xmm4, %xmm4
; AVX2-NEXT:    vcvttss2si %xmm4, %eax
; AVX2-NEXT:    vpinsrw $3, %eax, %xmm3, %xmm3
; AVX2-NEXT:    vshufpd {{.*#+}} xmm4 = xmm0[1,0]
; AVX2-NEXT:    vcvtph2ps %xmm4, %xmm4
; AVX2-NEXT:    vmaxss %xmm1, %xmm4, %xmm4
; AVX2-NEXT:    vminss %xmm2, %xmm4, %xmm4
; AVX2-NEXT:    vcvttss2si %xmm4, %eax
; AVX2-NEXT:    vpinsrw $4, %eax, %xmm3, %xmm3
; AVX2-NEXT:    vpsrldq {{.*#+}} xmm4 = xmm0[10,11,12,13,14,15],zero,zero,zero,zero,zero,zero,zero,zero,zero,zero
; AVX2-NEXT:    vcvtph2ps %xmm4, %xmm4
; AVX2-NEXT:    vmaxss %xmm1, %xmm4, %xmm4
; AVX2-NEXT:    vminss %xmm2, %xmm4, %xmm4
; AVX2-NEXT:    vcvttss2si %xmm4, %eax
; AVX2-NEXT:    vpinsrw $5, %eax, %xmm3, %xmm3
; AVX2-NEXT:    vshufps {{.*#+}} xmm4 = xmm0[3,3,3,3]
; AVX2-NEXT:    vcvtph2ps %xmm4, %xmm4
; AVX2-NEXT:    vmaxss %xmm1, %xmm4, %xmm4
; AVX2-NEXT:    vminss %xmm2, %xmm4, %xmm4
; AVX2-NEXT:    vcvttss2si %xmm4, %eax
; AVX2-NEXT:    vpinsrw $6, %eax, %xmm3, %xmm3
; AVX2-NEXT:    vpsrldq {{.*#+}} xmm0 = xmm0[14,15],zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero
; AVX2-NEXT:    vcvtph2ps %xmm0, %xmm0
; AVX2-NEXT:    vmaxss %xmm1, %xmm0, %xmm0
; AVX2-NEXT:    vminss %xmm2, %xmm0, %xmm0
; AVX2-NEXT:    vcvttss2si %xmm0, %eax
; AVX2-NEXT:    vpinsrw $7, %eax, %xmm3, %xmm0
; AVX2-NEXT:    retq
;
; AVX512-LABEL: test_unsigned_v8i1_v8f16:
; AVX512:       # %bb.0:
; AVX512-NEXT:    vpsrld $16, %xmm0, %xmm1
; AVX512-NEXT:    vcvtph2ps %xmm1, %xmm1
; AVX512-NEXT:    vxorps %xmm2, %xmm2, %xmm2
; AVX512-NEXT:    vmovss {{.*#+}} xmm3 = [1.0E+0,0.0E+0,0.0E+0,0.0E+0]
; AVX512-NEXT:    vmaxss %xmm2, %xmm1, %xmm1
; AVX512-NEXT:    vminss %xmm3, %xmm1, %xmm1
; AVX512-NEXT:    vcvttss2si %xmm1, %eax
; AVX512-NEXT:    vcvtph2ps %xmm0, %xmm1
; AVX512-NEXT:    vmaxss %xmm2, %xmm1, %xmm1
; AVX512-NEXT:    vminss %xmm3, %xmm1, %xmm1
; AVX512-NEXT:    vcvttss2si %xmm1, %ecx
; AVX512-NEXT:    vmovd %ecx, %xmm1
; AVX512-NEXT:    vpinsrb $1, %eax, %xmm1, %xmm1
; AVX512-NEXT:    vmovshdup {{.*#+}} xmm4 = xmm0[1,1,3,3]
; AVX512-NEXT:    vcvtph2ps %xmm4, %xmm4
; AVX512-NEXT:    vmaxss %xmm2, %xmm4, %xmm4
; AVX512-NEXT:    vminss %xmm3, %xmm4, %xmm4
; AVX512-NEXT:    vcvttss2si %xmm4, %eax
; AVX512-NEXT:    vpinsrb $2, %eax, %xmm1, %xmm1
; AVX512-NEXT:    vpsrlq $48, %xmm0, %xmm4
; AVX512-NEXT:    vcvtph2ps %xmm4, %xmm4
; AVX512-NEXT:    vmaxss %xmm2, %xmm4, %xmm4
; AVX512-NEXT:    vminss %xmm3, %xmm4, %xmm4
; AVX512-NEXT:    vcvttss2si %xmm4, %eax
; AVX512-NEXT:    vpinsrb $3, %eax, %xmm1, %xmm1
; AVX512-NEXT:    vshufpd {{.*#+}} xmm4 = xmm0[1,0]
; AVX512-NEXT:    vcvtph2ps %xmm4, %xmm4
; AVX512-NEXT:    vmaxss %xmm2, %xmm4, %xmm4
; AVX512-NEXT:    vminss %xmm3, %xmm4, %xmm4
; AVX512-NEXT:    vcvttss2si %xmm4, %eax
; AVX512-NEXT:    vpinsrb $4, %eax, %xmm1, %xmm1
; AVX512-NEXT:    vpsrldq {{.*#+}} xmm4 = xmm0[10,11,12,13,14,15],zero,zero,zero,zero,zero,zero,zero,zero,zero,zero
; AVX512-NEXT:    vcvtph2ps %xmm4, %xmm4
; AVX512-NEXT:    vmaxss %xmm2, %xmm4, %xmm4
; AVX512-NEXT:    vminss %xmm3, %xmm4, %xmm4
; AVX512-NEXT:    vcvttss2si %xmm4, %eax
; AVX512-NEXT:    vpinsrb $5, %eax, %xmm1, %xmm1
; AVX512-NEXT:    vshufps {{.*#+}} xmm4 = xmm0[3,3,3,3]
; AVX512-NEXT:    vcvtph2ps %xmm4, %xmm4
; AVX512-NEXT:    vmaxss %xmm2, %xmm4, %xmm4
; AVX512-NEXT:    vminss %xmm3, %xmm4, %xmm4
; AVX512-NEXT:    vcvttss2si %xmm4, %eax
; AVX512-NEXT:    vpinsrb $6, %eax, %xmm1, %xmm1
; AVX512-NEXT:    vpsrldq {{.*#+}} xmm0 = xmm0[14,15],zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero
; AVX512-NEXT:    vcvtph2ps %xmm0, %xmm0
; AVX512-NEXT:    vmaxss %xmm2, %xmm0, %xmm0
; AVX512-NEXT:    vminss %xmm3, %xmm0, %xmm0
; AVX512-NEXT:    vcvttss2si %xmm0, %eax
; AVX512-NEXT:    vpinsrb $7, %eax, %xmm1, %xmm0
; AVX512-NEXT:    vpmovzxbq {{.*#+}} zmm0 = xmm0[0],zero,zero,zero,zero,zero,zero,zero,xmm0[1],zero,zero,zero,zero,zero,zero,zero,xmm0[2],zero,zero,zero,zero,zero,zero,zero,xmm0[3],zero,zero,zero,zero,zero,zero,zero,xmm0[4],zero,zero,zero,zero,zero,zero,zero,xmm0[5],zero,zero,zero,zero,zero,zero,zero,xmm0[6],zero,zero,zero,zero,zero,zero,zero,xmm0[7],zero,zero,zero,zero,zero,zero,zero
; AVX512-NEXT:    vptestmq {{\.?LCPI[0-9]+_[0-9]+}}(%rip){1to8}, %zmm0, %k0
; AVX512-NEXT:    vpmovm2w %k0, %xmm0
; AVX512-NEXT:    vzeroupper
; AVX512-NEXT:    retq
  %x = call <8 x i1> @llvm.fptoui.sat.v8i1.v8f16(<8 x half> %f)
  ret <8 x i1> %x
}

define <8 x i8> @test_unsigned_v8i8_v8f16(<8 x half> %f) nounwind {
; SSE2-LABEL: test_unsigned_v8i8_v8f16:
; SSE2:       # %bb.0:
; SSE2-NEXT:    pushq %rbp
; SSE2-NEXT:    pushq %r14
; SSE2-NEXT:    pushq %rbx
; SSE2-NEXT:    subq $32, %rsp
; SSE2-NEXT:    movdqa %xmm0, (%rsp) # 16-byte Spill
; SSE2-NEXT:    psrldq {{.*#+}} xmm0 = xmm0[10,11,12,13,14,15],zero,zero,zero,zero,zero,zero,zero,zero,zero,zero
; SSE2-NEXT:    callq __extendhfsf2@PLT
; SSE2-NEXT:    xorps %xmm1, %xmm1
; SSE2-NEXT:    maxss %xmm1, %xmm0
; SSE2-NEXT:    minss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm0
; SSE2-NEXT:    cvttss2si %xmm0, %ebp
; SSE2-NEXT:    shll $8, %ebp
; SSE2-NEXT:    movaps (%rsp), %xmm0 # 16-byte Reload
; SSE2-NEXT:    movhlps {{.*#+}} xmm0 = xmm0[1,1]
; SSE2-NEXT:    callq __extendhfsf2@PLT
; SSE2-NEXT:    xorps %xmm1, %xmm1
; SSE2-NEXT:    maxss %xmm1, %xmm0
; SSE2-NEXT:    minss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm0
; SSE2-NEXT:    cvttss2si %xmm0, %eax
; SSE2-NEXT:    movzbl %al, %ebx
; SSE2-NEXT:    orl %ebp, %ebx
; SSE2-NEXT:    movaps (%rsp), %xmm0 # 16-byte Reload
; SSE2-NEXT:    callq __extendhfsf2@PLT
; SSE2-NEXT:    xorps %xmm1, %xmm1
; SSE2-NEXT:    maxss %xmm1, %xmm0
; SSE2-NEXT:    minss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm0
; SSE2-NEXT:    cvttss2si %xmm0, %eax
; SSE2-NEXT:    movzbl %al, %ebp
; SSE2-NEXT:    movdqa (%rsp), %xmm0 # 16-byte Reload
; SSE2-NEXT:    psrld $16, %xmm0
; SSE2-NEXT:    callq __extendhfsf2@PLT
; SSE2-NEXT:    xorps %xmm1, %xmm1
; SSE2-NEXT:    maxss %xmm1, %xmm0
; SSE2-NEXT:    minss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm0
; SSE2-NEXT:    cvttss2si %xmm0, %eax
; SSE2-NEXT:    movzbl %al, %r14d
; SSE2-NEXT:    shll $8, %r14d
; SSE2-NEXT:    orl %ebp, %r14d
; SSE2-NEXT:    movaps (%rsp), %xmm0 # 16-byte Reload
; SSE2-NEXT:    shufps {{.*#+}} xmm0 = xmm0[1,1,1,1]
; SSE2-NEXT:    callq __extendhfsf2@PLT
; SSE2-NEXT:    xorps %xmm1, %xmm1
; SSE2-NEXT:    maxss %xmm1, %xmm0
; SSE2-NEXT:    minss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm0
; SSE2-NEXT:    cvttss2si %xmm0, %eax
; SSE2-NEXT:    movzbl %al, %ebp
; SSE2-NEXT:    shll $16, %ebp
; SSE2-NEXT:    orl %r14d, %ebp
; SSE2-NEXT:    movdqa (%rsp), %xmm0 # 16-byte Reload
; SSE2-NEXT:    psrlq $48, %xmm0
; SSE2-NEXT:    callq __extendhfsf2@PLT
; SSE2-NEXT:    xorps %xmm1, %xmm1
; SSE2-NEXT:    maxss %xmm1, %xmm0
; SSE2-NEXT:    minss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm0
; SSE2-NEXT:    cvttss2si %xmm0, %eax
; SSE2-NEXT:    shll $24, %eax
; SSE2-NEXT:    orl %ebp, %eax
; SSE2-NEXT:    movd %eax, %xmm0
; SSE2-NEXT:    pinsrw $2, %ebx, %xmm0
; SSE2-NEXT:    movdqa %xmm0, {{[-0-9]+}}(%r{{[sb]}}p) # 16-byte Spill
; SSE2-NEXT:    movdqa (%rsp), %xmm0 # 16-byte Reload
; SSE2-NEXT:    psrldq {{.*#+}} xmm0 = xmm0[14,15],zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero
; SSE2-NEXT:    callq __extendhfsf2@PLT
; SSE2-NEXT:    xorps %xmm1, %xmm1
; SSE2-NEXT:    maxss %xmm1, %xmm0
; SSE2-NEXT:    minss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm0
; SSE2-NEXT:    cvttss2si %xmm0, %ebx
; SSE2-NEXT:    shll $8, %ebx
; SSE2-NEXT:    movaps (%rsp), %xmm0 # 16-byte Reload
; SSE2-NEXT:    shufps {{.*#+}} xmm0 = xmm0[3,3,3,3]
; SSE2-NEXT:    callq __extendhfsf2@PLT
; SSE2-NEXT:    xorps %xmm1, %xmm1
; SSE2-NEXT:    maxss %xmm1, %xmm0
; SSE2-NEXT:    minss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm0
; SSE2-NEXT:    cvttss2si %xmm0, %eax
; SSE2-NEXT:    movzbl %al, %eax
; SSE2-NEXT:    orl %ebx, %eax
; SSE2-NEXT:    movdqa {{[-0-9]+}}(%r{{[sb]}}p), %xmm0 # 16-byte Reload
; SSE2-NEXT:    pinsrw $3, %eax, %xmm0
; SSE2-NEXT:    addq $32, %rsp
; SSE2-NEXT:    popq %rbx
; SSE2-NEXT:    popq %r14
; SSE2-NEXT:    popq %rbp
; SSE2-NEXT:    retq
;
; SSE42-LABEL: test_unsigned_v8i8_v8f16:
; SSE42:       # %bb.0:
; SSE42-NEXT:    pushq %rbx
; SSE42-NEXT:    subq $32, %rsp
; SSE42-NEXT:    movdqa %xmm0, {{[-0-9]+}}(%r{{[sb]}}p) # 16-byte Spill
; SSE42-NEXT:    psrld $16, %xmm0
; SSE42-NEXT:    callq __extendhfsf2@PLT
; SSE42-NEXT:    xorps %xmm1, %xmm1
; SSE42-NEXT:    maxss %xmm1, %xmm0
; SSE42-NEXT:    minss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm0
; SSE42-NEXT:    cvttss2si %xmm0, %ebx
; SSE42-NEXT:    movaps {{[-0-9]+}}(%r{{[sb]}}p), %xmm0 # 16-byte Reload
; SSE42-NEXT:    callq __extendhfsf2@PLT
; SSE42-NEXT:    xorps %xmm1, %xmm1
; SSE42-NEXT:    maxss %xmm1, %xmm0
; SSE42-NEXT:    minss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm0
; SSE42-NEXT:    cvttss2si %xmm0, %eax
; SSE42-NEXT:    movd %eax, %xmm0
; SSE42-NEXT:    pinsrb $1, %ebx, %xmm0
; SSE42-NEXT:    movdqa %xmm0, (%rsp) # 16-byte Spill
; SSE42-NEXT:    movshdup {{[-0-9]+}}(%r{{[sb]}}p), %xmm0 # 16-byte Folded Reload
; SSE42-NEXT:    # xmm0 = mem[1,1,3,3]
; SSE42-NEXT:    callq __extendhfsf2@PLT
; SSE42-NEXT:    xorps %xmm1, %xmm1
; SSE42-NEXT:    maxss %xmm1, %xmm0
; SSE42-NEXT:    minss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm0
; SSE42-NEXT:    cvttss2si %xmm0, %eax
; SSE42-NEXT:    movdqa (%rsp), %xmm0 # 16-byte Reload
; SSE42-NEXT:    pinsrb $2, %eax, %xmm0
; SSE42-NEXT:    movdqa %xmm0, (%rsp) # 16-byte Spill
; SSE42-NEXT:    movdqa {{[-0-9]+}}(%r{{[sb]}}p), %xmm0 # 16-byte Reload
; SSE42-NEXT:    psrlq $48, %xmm0
; SSE42-NEXT:    callq __extendhfsf2@PLT
; SSE42-NEXT:    xorps %xmm1, %xmm1
; SSE42-NEXT:    maxss %xmm1, %xmm0
; SSE42-NEXT:    minss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm0
; SSE42-NEXT:    cvttss2si %xmm0, %eax
; SSE42-NEXT:    movdqa (%rsp), %xmm0 # 16-byte Reload
; SSE42-NEXT:    pinsrb $3, %eax, %xmm0
; SSE42-NEXT:    movdqa %xmm0, (%rsp) # 16-byte Spill
; SSE42-NEXT:    movaps {{[-0-9]+}}(%r{{[sb]}}p), %xmm0 # 16-byte Reload
; SSE42-NEXT:    movhlps {{.*#+}} xmm0 = xmm0[1,1]
; SSE42-NEXT:    callq __extendhfsf2@PLT
; SSE42-NEXT:    xorps %xmm1, %xmm1
; SSE42-NEXT:    maxss %xmm1, %xmm0
; SSE42-NEXT:    minss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm0
; SSE42-NEXT:    cvttss2si %xmm0, %eax
; SSE42-NEXT:    movdqa (%rsp), %xmm0 # 16-byte Reload
; SSE42-NEXT:    pinsrb $4, %eax, %xmm0
; SSE42-NEXT:    movdqa %xmm0, (%rsp) # 16-byte Spill
; SSE42-NEXT:    movdqa {{[-0-9]+}}(%r{{[sb]}}p), %xmm0 # 16-byte Reload
; SSE42-NEXT:    psrldq {{.*#+}} xmm0 = xmm0[10,11,12,13,14,15],zero,zero,zero,zero,zero,zero,zero,zero,zero,zero
; SSE42-NEXT:    callq __extendhfsf2@PLT
; SSE42-NEXT:    xorps %xmm1, %xmm1
; SSE42-NEXT:    maxss %xmm1, %xmm0
; SSE42-NEXT:    minss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm0
; SSE42-NEXT:    cvttss2si %xmm0, %eax
; SSE42-NEXT:    movdqa (%rsp), %xmm0 # 16-byte Reload
; SSE42-NEXT:    pinsrb $5, %eax, %xmm0
; SSE42-NEXT:    movdqa %xmm0, (%rsp) # 16-byte Spill
; SSE42-NEXT:    movaps {{[-0-9]+}}(%r{{[sb]}}p), %xmm0 # 16-byte Reload
; SSE42-NEXT:    shufps {{.*#+}} xmm0 = xmm0[3,3,3,3]
; SSE42-NEXT:    callq __extendhfsf2@PLT
; SSE42-NEXT:    xorps %xmm1, %xmm1
; SSE42-NEXT:    maxss %xmm1, %xmm0
; SSE42-NEXT:    minss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm0
; SSE42-NEXT:    cvttss2si %xmm0, %eax
; SSE42-NEXT:    movdqa (%rsp), %xmm0 # 16-byte Reload
; SSE42-NEXT:    pinsrb $6, %eax, %xmm0
; SSE42-NEXT:    movdqa %xmm0, (%rsp) # 16-byte Spill
; SSE42-NEXT:    movdqa {{[-0-9]+}}(%r{{[sb]}}p), %xmm0 # 16-byte Reload
; SSE42-NEXT:    psrldq {{.*#+}} xmm0 = xmm0[14,15],zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero
; SSE42-NEXT:    callq __extendhfsf2@PLT
; SSE42-NEXT:    xorps %xmm1, %xmm1
; SSE42-NEXT:    maxss %xmm1, %xmm0
; SSE42-NEXT:    minss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm0
; SSE42-NEXT:    cvttss2si %xmm0, %eax
; SSE42-NEXT:    movdqa (%rsp), %xmm0 # 16-byte Reload
; SSE42-NEXT:    pinsrb $7, %eax, %xmm0
; SSE42-NEXT:    addq $32, %rsp
; SSE42-NEXT:    popq %rbx
; SSE42-NEXT:    retq
;
; AVX2-LABEL: test_unsigned_v8i8_v8f16:
; AVX2:       # %bb.0:
; AVX2-NEXT:    vpsrld $16, %xmm0, %xmm1
; AVX2-NEXT:    vcvtph2ps %xmm1, %xmm2
; AVX2-NEXT:    vpxor %xmm1, %xmm1, %xmm1
; AVX2-NEXT:    vmaxss %xmm1, %xmm2, %xmm3
; AVX2-NEXT:    vmovss {{.*#+}} xmm2 = [2.55E+2,0.0E+0,0.0E+0,0.0E+0]
; AVX2-NEXT:    vminss %xmm2, %xmm3, %xmm3
; AVX2-NEXT:    vcvttss2si %xmm3, %eax
; AVX2-NEXT:    vcvtph2ps %xmm0, %xmm3
; AVX2-NEXT:    vmaxss %xmm1, %xmm3, %xmm3
; AVX2-NEXT:    vminss %xmm2, %xmm3, %xmm3
; AVX2-NEXT:    vcvttss2si %xmm3, %ecx
; AVX2-NEXT:    vmovd %ecx, %xmm3
; AVX2-NEXT:    vpinsrb $1, %eax, %xmm3, %xmm3
; AVX2-NEXT:    vmovshdup {{.*#+}} xmm4 = xmm0[1,1,3,3]
; AVX2-NEXT:    vcvtph2ps %xmm4, %xmm4
; AVX2-NEXT:    vmaxss %xmm1, %xmm4, %xmm4
; AVX2-NEXT:    vminss %xmm2, %xmm4, %xmm4
; AVX2-NEXT:    vcvttss2si %xmm4, %eax
; AVX2-NEXT:    vpinsrb $2, %eax, %xmm3, %xmm3
; AVX2-NEXT:    vpsrlq $48, %xmm0, %xmm4
; AVX2-NEXT:    vcvtph2ps %xmm4, %xmm4
; AVX2-NEXT:    vmaxss %xmm1, %xmm4, %xmm4
; AVX2-NEXT:    vminss %xmm2, %xmm4, %xmm4
; AVX2-NEXT:    vcvttss2si %xmm4, %eax
; AVX2-NEXT:    vpinsrb $3, %eax, %xmm3, %xmm3
; AVX2-NEXT:    vshufpd {{.*#+}} xmm4 = xmm0[1,0]
; AVX2-NEXT:    vcvtph2ps %xmm4, %xmm4
; AVX2-NEXT:    vmaxss %xmm1, %xmm4, %xmm4
; AVX2-NEXT:    vminss %xmm2, %xmm4, %xmm4
; AVX2-NEXT:    vcvttss2si %xmm4, %eax
; AVX2-NEXT:    vpinsrb $4, %eax, %xmm3, %xmm3
; AVX2-NEXT:    vpsrldq {{.*#+}} xmm4 = xmm0[10,11,12,13,14,15],zero,zero,zero,zero,zero,zero,zero,zero,zero,zero
; AVX2-NEXT:    vcvtph2ps %xmm4, %xmm4
; AVX2-NEXT:    vmaxss %xmm1, %xmm4, %xmm4
; AVX2-NEXT:    vminss %xmm2, %xmm4, %xmm4
; AVX2-NEXT:    vcvttss2si %xmm4, %eax
; AVX2-NEXT:    vpinsrb $5, %eax, %xmm3, %xmm3
; AVX2-NEXT:    vshufps {{.*#+}} xmm4 = xmm0[3,3,3,3]
; AVX2-NEXT:    vcvtph2ps %xmm4, %xmm4
; AVX2-NEXT:    vmaxss %xmm1, %xmm4, %xmm4
; AVX2-NEXT:    vminss %xmm2, %xmm4, %xmm4
; AVX2-NEXT:    vcvttss2si %xmm4, %eax
; AVX2-NEXT:    vpinsrb $6, %eax, %xmm3, %xmm3
; AVX2-NEXT:    vpsrldq {{.*#+}} xmm0 = xmm0[14,15],zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero
; AVX2-NEXT:    vcvtph2ps %xmm0, %xmm0
; AVX2-NEXT:    vmaxss %xmm1, %xmm0, %xmm0
; AVX2-NEXT:    vminss %xmm2, %xmm0, %xmm0
; AVX2-NEXT:    vcvttss2si %xmm0, %eax
; AVX2-NEXT:    vpinsrb $7, %eax, %xmm3, %xmm0
; AVX2-NEXT:    retq
;
; AVX512-LABEL: test_unsigned_v8i8_v8f16:
; AVX512:       # %bb.0:
; AVX512-NEXT:    vpsrld $16, %xmm0, %xmm1
; AVX512-NEXT:    vcvtph2ps %xmm1, %xmm1
; AVX512-NEXT:    vxorps %xmm2, %xmm2, %xmm2
; AVX512-NEXT:    vmaxss %xmm2, %xmm1, %xmm1
; AVX512-NEXT:    vmovss {{.*#+}} xmm3 = [2.55E+2,0.0E+0,0.0E+0,0.0E+0]
; AVX512-NEXT:    vminss %xmm3, %xmm1, %xmm1
; AVX512-NEXT:    vcvttss2si %xmm1, %eax
; AVX512-NEXT:    vcvtph2ps %xmm0, %xmm1
; AVX512-NEXT:    vmaxss %xmm2, %xmm1, %xmm1
; AVX512-NEXT:    vminss %xmm3, %xmm1, %xmm1
; AVX512-NEXT:    vcvttss2si %xmm1, %ecx
; AVX512-NEXT:    vmovd %ecx, %xmm1
; AVX512-NEXT:    vpinsrb $1, %eax, %xmm1, %xmm1
; AVX512-NEXT:    vmovshdup {{.*#+}} xmm4 = xmm0[1,1,3,3]
; AVX512-NEXT:    vcvtph2ps %xmm4, %xmm4
; AVX512-NEXT:    vmaxss %xmm2, %xmm4, %xmm4
; AVX512-NEXT:    vminss %xmm3, %xmm4, %xmm4
; AVX512-NEXT:    vcvttss2si %xmm4, %eax
; AVX512-NEXT:    vpinsrb $2, %eax, %xmm1, %xmm1
; AVX512-NEXT:    vpsrlq $48, %xmm0, %xmm4
; AVX512-NEXT:    vcvtph2ps %xmm4, %xmm4
; AVX512-NEXT:    vmaxss %xmm2, %xmm4, %xmm4
; AVX512-NEXT:    vminss %xmm3, %xmm4, %xmm4
; AVX512-NEXT:    vcvttss2si %xmm4, %eax
; AVX512-NEXT:    vpinsrb $3, %eax, %xmm1, %xmm1
; AVX512-NEXT:    vshufpd {{.*#+}} xmm4 = xmm0[1,0]
; AVX512-NEXT:    vcvtph2ps %xmm4, %xmm4
; AVX512-NEXT:    vmaxss %xmm2, %xmm4, %xmm4
; AVX512-NEXT:    vminss %xmm3, %xmm4, %xmm4
; AVX512-NEXT:    vcvttss2si %xmm4, %eax
; AVX512-NEXT:    vpinsrb $4, %eax, %xmm1, %xmm1
; AVX512-NEXT:    vpsrldq {{.*#+}} xmm4 = xmm0[10,11,12,13,14,15],zero,zero,zero,zero,zero,zero,zero,zero,zero,zero
; AVX512-NEXT:    vcvtph2ps %xmm4, %xmm4
; AVX512-NEXT:    vmaxss %xmm2, %xmm4, %xmm4
; AVX512-NEXT:    vminss %xmm3, %xmm4, %xmm4
; AVX512-NEXT:    vcvttss2si %xmm4, %eax
; AVX512-NEXT:    vpinsrb $5, %eax, %xmm1, %xmm1
; AVX512-NEXT:    vshufps {{.*#+}} xmm4 = xmm0[3,3,3,3]
; AVX512-NEXT:    vcvtph2ps %xmm4, %xmm4
; AVX512-NEXT:    vmaxss %xmm2, %xmm4, %xmm4
; AVX512-NEXT:    vminss %xmm3, %xmm4, %xmm4
; AVX512-NEXT:    vcvttss2si %xmm4, %eax
; AVX512-NEXT:    vpinsrb $6, %eax, %xmm1, %xmm1
; AVX512-NEXT:    vpsrldq {{.*#+}} xmm0 = xmm0[14,15],zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero
; AVX512-NEXT:    vcvtph2ps %xmm0, %xmm0
; AVX512-NEXT:    vmaxss %xmm2, %xmm0, %xmm0
; AVX512-NEXT:    vminss %xmm3, %xmm0, %xmm0
; AVX512-NEXT:    vcvttss2si %xmm0, %eax
; AVX512-NEXT:    vpinsrb $7, %eax, %xmm1, %xmm0
; AVX512-NEXT:    retq
  %x = call <8 x i8> @llvm.fptoui.sat.v8i8.v8f16(<8 x half> %f)
  ret <8 x i8> %x
}

define <8 x i16> @test_unsigned_v8i16_v8f16(<8 x half> %f) nounwind {
; SSE2-LABEL: test_unsigned_v8i16_v8f16:
; SSE2:       # %bb.0:
; SSE2-NEXT:    subq $72, %rsp
; SSE2-NEXT:    movdqa %xmm0, (%rsp) # 16-byte Spill
; SSE2-NEXT:    psrldq {{.*#+}} xmm0 = xmm0[14,15],zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero
; SSE2-NEXT:    callq __extendhfsf2@PLT
; SSE2-NEXT:    xorps %xmm1, %xmm1
; SSE2-NEXT:    maxss %xmm1, %xmm0
; SSE2-NEXT:    minss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm0
; SSE2-NEXT:    cvttss2si %xmm0, %eax
; SSE2-NEXT:    movd %eax, %xmm0
; SSE2-NEXT:    movdqa %xmm0, {{[-0-9]+}}(%r{{[sb]}}p) # 16-byte Spill
; SSE2-NEXT:    movaps (%rsp), %xmm0 # 16-byte Reload
; SSE2-NEXT:    shufps {{.*#+}} xmm0 = xmm0[3,3,3,3]
; SSE2-NEXT:    callq __extendhfsf2@PLT
; SSE2-NEXT:    xorps %xmm1, %xmm1
; SSE2-NEXT:    maxss %xmm1, %xmm0
; SSE2-NEXT:    minss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm0
; SSE2-NEXT:    cvttss2si %xmm0, %eax
; SSE2-NEXT:    movd %eax, %xmm0
; SSE2-NEXT:    punpcklwd {{[-0-9]+}}(%r{{[sb]}}p), %xmm0 # 16-byte Folded Reload
; SSE2-NEXT:    # xmm0 = xmm0[0],mem[0],xmm0[1],mem[1],xmm0[2],mem[2],xmm0[3],mem[3]
; SSE2-NEXT:    movdqa %xmm0, {{[-0-9]+}}(%r{{[sb]}}p) # 16-byte Spill
; SSE2-NEXT:    movdqa (%rsp), %xmm0 # 16-byte Reload
; SSE2-NEXT:    psrldq {{.*#+}} xmm0 = xmm0[10,11,12,13,14,15],zero,zero,zero,zero,zero,zero,zero,zero,zero,zero
; SSE2-NEXT:    callq __extendhfsf2@PLT
; SSE2-NEXT:    xorps %xmm1, %xmm1
; SSE2-NEXT:    maxss %xmm1, %xmm0
; SSE2-NEXT:    minss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm0
; SSE2-NEXT:    cvttss2si %xmm0, %eax
; SSE2-NEXT:    movd %eax, %xmm0
; SSE2-NEXT:    movdqa %xmm0, {{[-0-9]+}}(%r{{[sb]}}p) # 16-byte Spill
; SSE2-NEXT:    movaps (%rsp), %xmm0 # 16-byte Reload
; SSE2-NEXT:    movhlps {{.*#+}} xmm0 = xmm0[1,1]
; SSE2-NEXT:    callq __extendhfsf2@PLT
; SSE2-NEXT:    xorps %xmm1, %xmm1
; SSE2-NEXT:    maxss %xmm1, %xmm0
; SSE2-NEXT:    minss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm0
; SSE2-NEXT:    cvttss2si %xmm0, %eax
; SSE2-NEXT:    movd %eax, %xmm0
; SSE2-NEXT:    punpcklwd {{[-0-9]+}}(%r{{[sb]}}p), %xmm0 # 16-byte Folded Reload
; SSE2-NEXT:    # xmm0 = xmm0[0],mem[0],xmm0[1],mem[1],xmm0[2],mem[2],xmm0[3],mem[3]
; SSE2-NEXT:    punpckldq {{[-0-9]+}}(%r{{[sb]}}p), %xmm0 # 16-byte Folded Reload
; SSE2-NEXT:    # xmm0 = xmm0[0],mem[0],xmm0[1],mem[1]
; SSE2-NEXT:    movdqa %xmm0, {{[-0-9]+}}(%r{{[sb]}}p) # 16-byte Spill
; SSE2-NEXT:    movdqa (%rsp), %xmm0 # 16-byte Reload
; SSE2-NEXT:    psrlq $48, %xmm0
; SSE2-NEXT:    callq __extendhfsf2@PLT
; SSE2-NEXT:    xorps %xmm1, %xmm1
; SSE2-NEXT:    maxss %xmm1, %xmm0
; SSE2-NEXT:    minss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm0
; SSE2-NEXT:    cvttss2si %xmm0, %eax
; SSE2-NEXT:    movd %eax, %xmm0
; SSE2-NEXT:    movdqa %xmm0, {{[-0-9]+}}(%r{{[sb]}}p) # 16-byte Spill
; SSE2-NEXT:    movaps (%rsp), %xmm0 # 16-byte Reload
; SSE2-NEXT:    shufps {{.*#+}} xmm0 = xmm0[1,1,1,1]
; SSE2-NEXT:    callq __extendhfsf2@PLT
; SSE2-NEXT:    xorps %xmm1, %xmm1
; SSE2-NEXT:    maxss %xmm1, %xmm0
; SSE2-NEXT:    minss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm0
; SSE2-NEXT:    cvttss2si %xmm0, %eax
; SSE2-NEXT:    movd %eax, %xmm0
; SSE2-NEXT:    punpcklwd {{[-0-9]+}}(%r{{[sb]}}p), %xmm0 # 16-byte Folded Reload
; SSE2-NEXT:    # xmm0 = xmm0[0],mem[0],xmm0[1],mem[1],xmm0[2],mem[2],xmm0[3],mem[3]
; SSE2-NEXT:    movdqa %xmm0, {{[-0-9]+}}(%r{{[sb]}}p) # 16-byte Spill
; SSE2-NEXT:    movaps (%rsp), %xmm0 # 16-byte Reload
; SSE2-NEXT:    callq __extendhfsf2@PLT
; SSE2-NEXT:    xorps %xmm1, %xmm1
; SSE2-NEXT:    maxss %xmm1, %xmm0
; SSE2-NEXT:    minss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm0
; SSE2-NEXT:    cvttss2si %xmm0, %eax
; SSE2-NEXT:    movd %eax, %xmm0
; SSE2-NEXT:    movdqa %xmm0, {{[-0-9]+}}(%r{{[sb]}}p) # 16-byte Spill
; SSE2-NEXT:    movdqa (%rsp), %xmm0 # 16-byte Reload
; SSE2-NEXT:    psrld $16, %xmm0
; SSE2-NEXT:    callq __extendhfsf2@PLT
; SSE2-NEXT:    xorps %xmm1, %xmm1
; SSE2-NEXT:    maxss %xmm1, %xmm0
; SSE2-NEXT:    minss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm0
; SSE2-NEXT:    cvttss2si %xmm0, %eax
; SSE2-NEXT:    movd %eax, %xmm1
; SSE2-NEXT:    movdqa {{[-0-9]+}}(%r{{[sb]}}p), %xmm0 # 16-byte Reload
; SSE2-NEXT:    punpcklwd {{.*#+}} xmm0 = xmm0[0],xmm1[0],xmm0[1],xmm1[1],xmm0[2],xmm1[2],xmm0[3],xmm1[3]
; SSE2-NEXT:    punpckldq {{[-0-9]+}}(%r{{[sb]}}p), %xmm0 # 16-byte Folded Reload
; SSE2-NEXT:    # xmm0 = xmm0[0],mem[0],xmm0[1],mem[1]
; SSE2-NEXT:    punpcklqdq {{[-0-9]+}}(%r{{[sb]}}p), %xmm0 # 16-byte Folded Reload
; SSE2-NEXT:    # xmm0 = xmm0[0],mem[0]
; SSE2-NEXT:    addq $72, %rsp
; SSE2-NEXT:    retq
;
; SSE42-LABEL: test_unsigned_v8i16_v8f16:
; SSE42:       # %bb.0:
; SSE42-NEXT:    pushq %rbx
; SSE42-NEXT:    subq $32, %rsp
; SSE42-NEXT:    movdqa %xmm0, {{[-0-9]+}}(%r{{[sb]}}p) # 16-byte Spill
; SSE42-NEXT:    psrld $16, %xmm0
; SSE42-NEXT:    callq __extendhfsf2@PLT
; SSE42-NEXT:    xorps %xmm1, %xmm1
; SSE42-NEXT:    maxss %xmm1, %xmm0
; SSE42-NEXT:    minss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm0
; SSE42-NEXT:    cvttss2si %xmm0, %ebx
; SSE42-NEXT:    movaps {{[-0-9]+}}(%r{{[sb]}}p), %xmm0 # 16-byte Reload
; SSE42-NEXT:    callq __extendhfsf2@PLT
; SSE42-NEXT:    xorps %xmm1, %xmm1
; SSE42-NEXT:    maxss %xmm1, %xmm0
; SSE42-NEXT:    minss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm0
; SSE42-NEXT:    cvttss2si %xmm0, %eax
; SSE42-NEXT:    movd %eax, %xmm0
; SSE42-NEXT:    pinsrw $1, %ebx, %xmm0
; SSE42-NEXT:    movdqa %xmm0, (%rsp) # 16-byte Spill
; SSE42-NEXT:    movshdup {{[-0-9]+}}(%r{{[sb]}}p), %xmm0 # 16-byte Folded Reload
; SSE42-NEXT:    # xmm0 = mem[1,1,3,3]
; SSE42-NEXT:    callq __extendhfsf2@PLT
; SSE42-NEXT:    xorps %xmm1, %xmm1
; SSE42-NEXT:    maxss %xmm1, %xmm0
; SSE42-NEXT:    minss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm0
; SSE42-NEXT:    cvttss2si %xmm0, %eax
; SSE42-NEXT:    movdqa (%rsp), %xmm0 # 16-byte Reload
; SSE42-NEXT:    pinsrw $2, %eax, %xmm0
; SSE42-NEXT:    movdqa %xmm0, (%rsp) # 16-byte Spill
; SSE42-NEXT:    movdqa {{[-0-9]+}}(%r{{[sb]}}p), %xmm0 # 16-byte Reload
; SSE42-NEXT:    psrlq $48, %xmm0
; SSE42-NEXT:    callq __extendhfsf2@PLT
; SSE42-NEXT:    xorps %xmm1, %xmm1
; SSE42-NEXT:    maxss %xmm1, %xmm0
; SSE42-NEXT:    minss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm0
; SSE42-NEXT:    cvttss2si %xmm0, %eax
; SSE42-NEXT:    movdqa (%rsp), %xmm0 # 16-byte Reload
; SSE42-NEXT:    pinsrw $3, %eax, %xmm0
; SSE42-NEXT:    movdqa %xmm0, (%rsp) # 16-byte Spill
; SSE42-NEXT:    movaps {{[-0-9]+}}(%r{{[sb]}}p), %xmm0 # 16-byte Reload
; SSE42-NEXT:    movhlps {{.*#+}} xmm0 = xmm0[1,1]
; SSE42-NEXT:    callq __extendhfsf2@PLT
; SSE42-NEXT:    xorps %xmm1, %xmm1
; SSE42-NEXT:    maxss %xmm1, %xmm0
; SSE42-NEXT:    minss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm0
; SSE42-NEXT:    cvttss2si %xmm0, %eax
; SSE42-NEXT:    movdqa (%rsp), %xmm0 # 16-byte Reload
; SSE42-NEXT:    pinsrw $4, %eax, %xmm0
; SSE42-NEXT:    movdqa %xmm0, (%rsp) # 16-byte Spill
; SSE42-NEXT:    movdqa {{[-0-9]+}}(%r{{[sb]}}p), %xmm0 # 16-byte Reload
; SSE42-NEXT:    psrldq {{.*#+}} xmm0 = xmm0[10,11,12,13,14,15],zero,zero,zero,zero,zero,zero,zero,zero,zero,zero
; SSE42-NEXT:    callq __extendhfsf2@PLT
; SSE42-NEXT:    xorps %xmm1, %xmm1
; SSE42-NEXT:    maxss %xmm1, %xmm0
; SSE42-NEXT:    minss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm0
; SSE42-NEXT:    cvttss2si %xmm0, %eax
; SSE42-NEXT:    movdqa (%rsp), %xmm0 # 16-byte Reload
; SSE42-NEXT:    pinsrw $5, %eax, %xmm0
; SSE42-NEXT:    movdqa %xmm0, (%rsp) # 16-byte Spill
; SSE42-NEXT:    movaps {{[-0-9]+}}(%r{{[sb]}}p), %xmm0 # 16-byte Reload
; SSE42-NEXT:    shufps {{.*#+}} xmm0 = xmm0[3,3,3,3]
; SSE42-NEXT:    callq __extendhfsf2@PLT
; SSE42-NEXT:    xorps %xmm1, %xmm1
; SSE42-NEXT:    maxss %xmm1, %xmm0
; SSE42-NEXT:    minss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm0
; SSE42-NEXT:    cvttss2si %xmm0, %eax
; SSE42-NEXT:    movdqa (%rsp), %xmm0 # 16-byte Reload
; SSE42-NEXT:    pinsrw $6, %eax, %xmm0
; SSE42-NEXT:    movdqa %xmm0, (%rsp) # 16-byte Spill
; SSE42-NEXT:    movdqa {{[-0-9]+}}(%r{{[sb]}}p), %xmm0 # 16-byte Reload
; SSE42-NEXT:    psrldq {{.*#+}} xmm0 = xmm0[14,15],zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero
; SSE42-NEXT:    callq __extendhfsf2@PLT
; SSE42-NEXT:    xorps %xmm1, %xmm1
; SSE42-NEXT:    maxss %xmm1, %xmm0
; SSE42-NEXT:    minss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm0
; SSE42-NEXT:    cvttss2si %xmm0, %eax
; SSE42-NEXT:    movdqa (%rsp), %xmm0 # 16-byte Reload
; SSE42-NEXT:    pinsrw $7, %eax, %xmm0
; SSE42-NEXT:    addq $32, %rsp
; SSE42-NEXT:    popq %rbx
; SSE42-NEXT:    retq
;
; AVX2-LABEL: test_unsigned_v8i16_v8f16:
; AVX2:       # %bb.0:
; AVX2-NEXT:    vpsrld $16, %xmm0, %xmm1
; AVX2-NEXT:    vcvtph2ps %xmm1, %xmm2
; AVX2-NEXT:    vpxor %xmm1, %xmm1, %xmm1
; AVX2-NEXT:    vmaxss %xmm1, %xmm2, %xmm3
; AVX2-NEXT:    vmovss {{.*#+}} xmm2 = [6.5535E+4,0.0E+0,0.0E+0,0.0E+0]
; AVX2-NEXT:    vminss %xmm2, %xmm3, %xmm3
; AVX2-NEXT:    vcvttss2si %xmm3, %eax
; AVX2-NEXT:    vcvtph2ps %xmm0, %xmm3
; AVX2-NEXT:    vmaxss %xmm1, %xmm3, %xmm3
; AVX2-NEXT:    vminss %xmm2, %xmm3, %xmm3
; AVX2-NEXT:    vcvttss2si %xmm3, %ecx
; AVX2-NEXT:    vmovd %ecx, %xmm3
; AVX2-NEXT:    vpinsrw $1, %eax, %xmm3, %xmm3
; AVX2-NEXT:    vmovshdup {{.*#+}} xmm4 = xmm0[1,1,3,3]
; AVX2-NEXT:    vcvtph2ps %xmm4, %xmm4
; AVX2-NEXT:    vmaxss %xmm1, %xmm4, %xmm4
; AVX2-NEXT:    vminss %xmm2, %xmm4, %xmm4
; AVX2-NEXT:    vcvttss2si %xmm4, %eax
; AVX2-NEXT:    vpinsrw $2, %eax, %xmm3, %xmm3
; AVX2-NEXT:    vpsrlq $48, %xmm0, %xmm4
; AVX2-NEXT:    vcvtph2ps %xmm4, %xmm4
; AVX2-NEXT:    vmaxss %xmm1, %xmm4, %xmm4
; AVX2-NEXT:    vminss %xmm2, %xmm4, %xmm4
; AVX2-NEXT:    vcvttss2si %xmm4, %eax
; AVX2-NEXT:    vpinsrw $3, %eax, %xmm3, %xmm3
; AVX2-NEXT:    vshufpd {{.*#+}} xmm4 = xmm0[1,0]
; AVX2-NEXT:    vcvtph2ps %xmm4, %xmm4
; AVX2-NEXT:    vmaxss %xmm1, %xmm4, %xmm4
; AVX2-NEXT:    vminss %xmm2, %xmm4, %xmm4
; AVX2-NEXT:    vcvttss2si %xmm4, %eax
; AVX2-NEXT:    vpinsrw $4, %eax, %xmm3, %xmm3
; AVX2-NEXT:    vpsrldq {{.*#+}} xmm4 = xmm0[10,11,12,13,14,15],zero,zero,zero,zero,zero,zero,zero,zero,zero,zero
; AVX2-NEXT:    vcvtph2ps %xmm4, %xmm4
; AVX2-NEXT:    vmaxss %xmm1, %xmm4, %xmm4
; AVX2-NEXT:    vminss %xmm2, %xmm4, %xmm4
; AVX2-NEXT:    vcvttss2si %xmm4, %eax
; AVX2-NEXT:    vpinsrw $5, %eax, %xmm3, %xmm3
; AVX2-NEXT:    vshufps {{.*#+}} xmm4 = xmm0[3,3,3,3]
; AVX2-NEXT:    vcvtph2ps %xmm4, %xmm4
; AVX2-NEXT:    vmaxss %xmm1, %xmm4, %xmm4
; AVX2-NEXT:    vminss %xmm2, %xmm4, %xmm4
; AVX2-NEXT:    vcvttss2si %xmm4, %eax
; AVX2-NEXT:    vpinsrw $6, %eax, %xmm3, %xmm3
; AVX2-NEXT:    vpsrldq {{.*#+}} xmm0 = xmm0[14,15],zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero
; AVX2-NEXT:    vcvtph2ps %xmm0, %xmm0
; AVX2-NEXT:    vmaxss %xmm1, %xmm0, %xmm0
; AVX2-NEXT:    vminss %xmm2, %xmm0, %xmm0
; AVX2-NEXT:    vcvttss2si %xmm0, %eax
; AVX2-NEXT:    vpinsrw $7, %eax, %xmm3, %xmm0
; AVX2-NEXT:    retq
;
; AVX512-LABEL: test_unsigned_v8i16_v8f16:
; AVX512:       # %bb.0:
; AVX512-NEXT:    vpsrld $16, %xmm0, %xmm1
; AVX512-NEXT:    vcvtph2ps %xmm1, %xmm1
; AVX512-NEXT:    vxorps %xmm2, %xmm2, %xmm2
; AVX512-NEXT:    vmaxss %xmm2, %xmm1, %xmm1
; AVX512-NEXT:    vmovss {{.*#+}} xmm3 = [6.5535E+4,0.0E+0,0.0E+0,0.0E+0]
; AVX512-NEXT:    vminss %xmm3, %xmm1, %xmm1
; AVX512-NEXT:    vcvttss2si %xmm1, %eax
; AVX512-NEXT:    vcvtph2ps %xmm0, %xmm1
; AVX512-NEXT:    vmaxss %xmm2, %xmm1, %xmm1
; AVX512-NEXT:    vminss %xmm3, %xmm1, %xmm1
; AVX512-NEXT:    vcvttss2si %xmm1, %ecx
; AVX512-NEXT:    vmovd %ecx, %xmm1
; AVX512-NEXT:    vpinsrw $1, %eax, %xmm1, %xmm1
; AVX512-NEXT:    vmovshdup {{.*#+}} xmm4 = xmm0[1,1,3,3]
; AVX512-NEXT:    vcvtph2ps %xmm4, %xmm4
; AVX512-NEXT:    vmaxss %xmm2, %xmm4, %xmm4
; AVX512-NEXT:    vminss %xmm3, %xmm4, %xmm4
; AVX512-NEXT:    vcvttss2si %xmm4, %eax
; AVX512-NEXT:    vpinsrw $2, %eax, %xmm1, %xmm1
; AVX512-NEXT:    vpsrlq $48, %xmm0, %xmm4
; AVX512-NEXT:    vcvtph2ps %xmm4, %xmm4
; AVX512-NEXT:    vmaxss %xmm2, %xmm4, %xmm4
; AVX512-NEXT:    vminss %xmm3, %xmm4, %xmm4
; AVX512-NEXT:    vcvttss2si %xmm4, %eax
; AVX512-NEXT:    vpinsrw $3, %eax, %xmm1, %xmm1
; AVX512-NEXT:    vshufpd {{.*#+}} xmm4 = xmm0[1,0]
; AVX512-NEXT:    vcvtph2ps %xmm4, %xmm4
; AVX512-NEXT:    vmaxss %xmm2, %xmm4, %xmm4
; AVX512-NEXT:    vminss %xmm3, %xmm4, %xmm4
; AVX512-NEXT:    vcvttss2si %xmm4, %eax
; AVX512-NEXT:    vpinsrw $4, %eax, %xmm1, %xmm1
; AVX512-NEXT:    vpsrldq {{.*#+}} xmm4 = xmm0[10,11,12,13,14,15],zero,zero,zero,zero,zero,zero,zero,zero,zero,zero
; AVX512-NEXT:    vcvtph2ps %xmm4, %xmm4
; AVX512-NEXT:    vmaxss %xmm2, %xmm4, %xmm4
; AVX512-NEXT:    vminss %xmm3, %xmm4, %xmm4
; AVX512-NEXT:    vcvttss2si %xmm4, %eax
; AVX512-NEXT:    vpinsrw $5, %eax, %xmm1, %xmm1
; AVX512-NEXT:    vshufps {{.*#+}} xmm4 = xmm0[3,3,3,3]
; AVX512-NEXT:    vcvtph2ps %xmm4, %xmm4
; AVX512-NEXT:    vmaxss %xmm2, %xmm4, %xmm4
; AVX512-NEXT:    vminss %xmm3, %xmm4, %xmm4
; AVX512-NEXT:    vcvttss2si %xmm4, %eax
; AVX512-NEXT:    vpinsrw $6, %eax, %xmm1, %xmm1
; AVX512-NEXT:    vpsrldq {{.*#+}} xmm0 = xmm0[14,15],zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero
; AVX512-NEXT:    vcvtph2ps %xmm0, %xmm0
; AVX512-NEXT:    vmaxss %xmm2, %xmm0, %xmm0
; AVX512-NEXT:    vminss %xmm3, %xmm0, %xmm0
; AVX512-NEXT:    vcvttss2si %xmm0, %eax
; AVX512-NEXT:    vpinsrw $7, %eax, %xmm1, %xmm0
; AVX512-NEXT:    retq
  %x = call <8 x i16> @llvm.fptoui.sat.v8i16.v8f16(<8 x half> %f)
  ret <8 x i16> %x
}

define <8 x i32> @test_unsigned_v8i32_v8f16(<8 x half> %f) nounwind {
; SSE2-LABEL: test_unsigned_v8i32_v8f16:
; SSE2:       # %bb.0:
; SSE2-NEXT:    pushq %rbp
; SSE2-NEXT:    pushq %rbx
; SSE2-NEXT:    subq $72, %rsp
; SSE2-NEXT:    movdqa %xmm0, (%rsp) # 16-byte Spill
; SSE2-NEXT:    psrlq $48, %xmm0
; SSE2-NEXT:    callq __extendhfsf2@PLT
; SSE2-NEXT:    cvttss2si %xmm0, %rax
; SSE2-NEXT:    xorl %ebx, %ebx
; SSE2-NEXT:    xorps %xmm1, %xmm1
; SSE2-NEXT:    ucomiss %xmm1, %xmm0
; SSE2-NEXT:    cmovbl %ebx, %eax
; SSE2-NEXT:    ucomiss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm0
; SSE2-NEXT:    movl $-1, %ebp
; SSE2-NEXT:    cmoval %ebp, %eax
; SSE2-NEXT:    movd %eax, %xmm0
; SSE2-NEXT:    movdqa %xmm0, {{[-0-9]+}}(%r{{[sb]}}p) # 16-byte Spill
; SSE2-NEXT:    movaps (%rsp), %xmm0 # 16-byte Reload
; SSE2-NEXT:    shufps {{.*#+}} xmm0 = xmm0[1,1,1,1]
; SSE2-NEXT:    callq __extendhfsf2@PLT
; SSE2-NEXT:    cvttss2si %xmm0, %rax
; SSE2-NEXT:    xorps %xmm1, %xmm1
; SSE2-NEXT:    ucomiss %xmm1, %xmm0
; SSE2-NEXT:    cmovbl %ebx, %eax
; SSE2-NEXT:    ucomiss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm0
; SSE2-NEXT:    cmoval %ebp, %eax
; SSE2-NEXT:    movd %eax, %xmm0
; SSE2-NEXT:    punpckldq {{[-0-9]+}}(%r{{[sb]}}p), %xmm0 # 16-byte Folded Reload
; SSE2-NEXT:    # xmm0 = xmm0[0],mem[0],xmm0[1],mem[1]
; SSE2-NEXT:    movdqa %xmm0, {{[-0-9]+}}(%r{{[sb]}}p) # 16-byte Spill
; SSE2-NEXT:    movaps (%rsp), %xmm0 # 16-byte Reload
; SSE2-NEXT:    callq __extendhfsf2@PLT
; SSE2-NEXT:    cvttss2si %xmm0, %rax
; SSE2-NEXT:    xorps %xmm1, %xmm1
; SSE2-NEXT:    ucomiss %xmm1, %xmm0
; SSE2-NEXT:    cmovbl %ebx, %eax
; SSE2-NEXT:    ucomiss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm0
; SSE2-NEXT:    cmoval %ebp, %eax
; SSE2-NEXT:    movd %eax, %xmm0
; SSE2-NEXT:    movdqa %xmm0, {{[-0-9]+}}(%r{{[sb]}}p) # 16-byte Spill
; SSE2-NEXT:    movdqa (%rsp), %xmm0 # 16-byte Reload
; SSE2-NEXT:    psrld $16, %xmm0
; SSE2-NEXT:    callq __extendhfsf2@PLT
; SSE2-NEXT:    cvttss2si %xmm0, %rax
; SSE2-NEXT:    xorps %xmm1, %xmm1
; SSE2-NEXT:    ucomiss %xmm1, %xmm0
; SSE2-NEXT:    cmovbl %ebx, %eax
; SSE2-NEXT:    ucomiss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm0
; SSE2-NEXT:    cmoval %ebp, %eax
; SSE2-NEXT:    movd %eax, %xmm0
; SSE2-NEXT:    movdqa {{[-0-9]+}}(%r{{[sb]}}p), %xmm1 # 16-byte Reload
; SSE2-NEXT:    punpckldq {{.*#+}} xmm1 = xmm1[0],xmm0[0],xmm1[1],xmm0[1]
; SSE2-NEXT:    punpcklqdq {{[-0-9]+}}(%r{{[sb]}}p), %xmm1 # 16-byte Folded Reload
; SSE2-NEXT:    # xmm1 = xmm1[0],mem[0]
; SSE2-NEXT:    movdqa %xmm1, {{[-0-9]+}}(%r{{[sb]}}p) # 16-byte Spill
; SSE2-NEXT:    movdqa (%rsp), %xmm0 # 16-byte Reload
; SSE2-NEXT:    psrldq {{.*#+}} xmm0 = xmm0[14,15],zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero
; SSE2-NEXT:    callq __extendhfsf2@PLT
; SSE2-NEXT:    cvttss2si %xmm0, %rax
; SSE2-NEXT:    pxor %xmm1, %xmm1
; SSE2-NEXT:    ucomiss %xmm1, %xmm0
; SSE2-NEXT:    cmovbl %ebx, %eax
; SSE2-NEXT:    ucomiss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm0
; SSE2-NEXT:    cmoval %ebp, %eax
; SSE2-NEXT:    movd %eax, %xmm0
; SSE2-NEXT:    movdqa %xmm0, {{[-0-9]+}}(%r{{[sb]}}p) # 16-byte Spill
; SSE2-NEXT:    movaps (%rsp), %xmm0 # 16-byte Reload
; SSE2-NEXT:    shufps {{.*#+}} xmm0 = xmm0[3,3,3,3]
; SSE2-NEXT:    callq __extendhfsf2@PLT
; SSE2-NEXT:    cvttss2si %xmm0, %rax
; SSE2-NEXT:    xorps %xmm1, %xmm1
; SSE2-NEXT:    ucomiss %xmm1, %xmm0
; SSE2-NEXT:    cmovbl %ebx, %eax
; SSE2-NEXT:    ucomiss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm0
; SSE2-NEXT:    cmoval %ebp, %eax
; SSE2-NEXT:    movd %eax, %xmm0
; SSE2-NEXT:    punpckldq {{[-0-9]+}}(%r{{[sb]}}p), %xmm0 # 16-byte Folded Reload
; SSE2-NEXT:    # xmm0 = xmm0[0],mem[0],xmm0[1],mem[1]
; SSE2-NEXT:    movdqa %xmm0, {{[-0-9]+}}(%r{{[sb]}}p) # 16-byte Spill
; SSE2-NEXT:    movdqa (%rsp), %xmm0 # 16-byte Reload
; SSE2-NEXT:    psrldq {{.*#+}} xmm0 = xmm0[10,11,12,13,14,15],zero,zero,zero,zero,zero,zero,zero,zero,zero,zero
; SSE2-NEXT:    callq __extendhfsf2@PLT
; SSE2-NEXT:    cvttss2si %xmm0, %rax
; SSE2-NEXT:    xorps %xmm1, %xmm1
; SSE2-NEXT:    ucomiss %xmm1, %xmm0
; SSE2-NEXT:    cmovbl %ebx, %eax
; SSE2-NEXT:    ucomiss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm0
; SSE2-NEXT:    cmoval %ebp, %eax
; SSE2-NEXT:    movd %eax, %xmm0
; SSE2-NEXT:    movdqa %xmm0, {{[-0-9]+}}(%r{{[sb]}}p) # 16-byte Spill
; SSE2-NEXT:    movaps (%rsp), %xmm0 # 16-byte Reload
; SSE2-NEXT:    movhlps {{.*#+}} xmm0 = xmm0[1,1]
; SSE2-NEXT:    callq __extendhfsf2@PLT
; SSE2-NEXT:    cvttss2si %xmm0, %rax
; SSE2-NEXT:    xorps %xmm1, %xmm1
; SSE2-NEXT:    ucomiss %xmm1, %xmm0
; SSE2-NEXT:    cmovbl %ebx, %eax
; SSE2-NEXT:    ucomiss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm0
; SSE2-NEXT:    cmoval %ebp, %eax
; SSE2-NEXT:    movd %eax, %xmm1
; SSE2-NEXT:    punpckldq {{[-0-9]+}}(%r{{[sb]}}p), %xmm1 # 16-byte Folded Reload
; SSE2-NEXT:    # xmm1 = xmm1[0],mem[0],xmm1[1],mem[1]
; SSE2-NEXT:    punpcklqdq {{[-0-9]+}}(%r{{[sb]}}p), %xmm1 # 16-byte Folded Reload
; SSE2-NEXT:    # xmm1 = xmm1[0],mem[0]
; SSE2-NEXT:    movaps {{[-0-9]+}}(%r{{[sb]}}p), %xmm0 # 16-byte Reload
; SSE2-NEXT:    addq $72, %rsp
; SSE2-NEXT:    popq %rbx
; SSE2-NEXT:    popq %rbp
; SSE2-NEXT:    retq
;
; SSE42-LABEL: test_unsigned_v8i32_v8f16:
; SSE42:       # %bb.0:
; SSE42-NEXT:    pushq %rbp
; SSE42-NEXT:    pushq %r14
; SSE42-NEXT:    pushq %rbx
; SSE42-NEXT:    subq $48, %rsp
; SSE42-NEXT:    movdqa %xmm0, (%rsp) # 16-byte Spill
; SSE42-NEXT:    psrld $16, %xmm0
; SSE42-NEXT:    callq __extendhfsf2@PLT
; SSE42-NEXT:    cvttss2si %xmm0, %r14
; SSE42-NEXT:    xorl %ebx, %ebx
; SSE42-NEXT:    xorps %xmm1, %xmm1
; SSE42-NEXT:    ucomiss %xmm1, %xmm0
; SSE42-NEXT:    cmovbl %ebx, %r14d
; SSE42-NEXT:    ucomiss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm0
; SSE42-NEXT:    movl $-1, %ebp
; SSE42-NEXT:    cmoval %ebp, %r14d
; SSE42-NEXT:    movaps (%rsp), %xmm0 # 16-byte Reload
; SSE42-NEXT:    callq __extendhfsf2@PLT
; SSE42-NEXT:    cvttss2si %xmm0, %rax
; SSE42-NEXT:    xorps %xmm1, %xmm1
; SSE42-NEXT:    ucomiss %xmm1, %xmm0
; SSE42-NEXT:    cmovbl %ebx, %eax
; SSE42-NEXT:    ucomiss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm0
; SSE42-NEXT:    cmoval %ebp, %eax
; SSE42-NEXT:    movd %eax, %xmm0
; SSE42-NEXT:    pinsrd $1, %r14d, %xmm0
; SSE42-NEXT:    movdqa %xmm0, {{[-0-9]+}}(%r{{[sb]}}p) # 16-byte Spill
; SSE42-NEXT:    movshdup (%rsp), %xmm0 # 16-byte Folded Reload
; SSE42-NEXT:    # xmm0 = mem[1,1,3,3]
; SSE42-NEXT:    callq __extendhfsf2@PLT
; SSE42-NEXT:    cvttss2si %xmm0, %rax
; SSE42-NEXT:    xorps %xmm1, %xmm1
; SSE42-NEXT:    ucomiss %xmm1, %xmm0
; SSE42-NEXT:    cmovbl %ebx, %eax
; SSE42-NEXT:    ucomiss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm0
; SSE42-NEXT:    cmoval %ebp, %eax
; SSE42-NEXT:    movdqa {{[-0-9]+}}(%r{{[sb]}}p), %xmm0 # 16-byte Reload
; SSE42-NEXT:    pinsrd $2, %eax, %xmm0
; SSE42-NEXT:    movdqa %xmm0, {{[-0-9]+}}(%r{{[sb]}}p) # 16-byte Spill
; SSE42-NEXT:    movdqa (%rsp), %xmm0 # 16-byte Reload
; SSE42-NEXT:    psrlq $48, %xmm0
; SSE42-NEXT:    callq __extendhfsf2@PLT
; SSE42-NEXT:    cvttss2si %xmm0, %rax
; SSE42-NEXT:    xorps %xmm1, %xmm1
; SSE42-NEXT:    ucomiss %xmm1, %xmm0
; SSE42-NEXT:    cmovbl %ebx, %eax
; SSE42-NEXT:    ucomiss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm0
; SSE42-NEXT:    cmoval %ebp, %eax
; SSE42-NEXT:    movdqa {{[-0-9]+}}(%r{{[sb]}}p), %xmm0 # 16-byte Reload
; SSE42-NEXT:    pinsrd $3, %eax, %xmm0
; SSE42-NEXT:    movdqa %xmm0, {{[-0-9]+}}(%r{{[sb]}}p) # 16-byte Spill
; SSE42-NEXT:    movdqa (%rsp), %xmm0 # 16-byte Reload
; SSE42-NEXT:    psrldq {{.*#+}} xmm0 = xmm0[10,11,12,13,14,15],zero,zero,zero,zero,zero,zero,zero,zero,zero,zero
; SSE42-NEXT:    callq __extendhfsf2@PLT
; SSE42-NEXT:    cvttss2si %xmm0, %r14
; SSE42-NEXT:    xorps %xmm1, %xmm1
; SSE42-NEXT:    ucomiss %xmm1, %xmm0
; SSE42-NEXT:    cmovbl %ebx, %r14d
; SSE42-NEXT:    ucomiss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm0
; SSE42-NEXT:    cmoval %ebp, %r14d
; SSE42-NEXT:    movaps (%rsp), %xmm0 # 16-byte Reload
; SSE42-NEXT:    movhlps {{.*#+}} xmm0 = xmm0[1,1]
; SSE42-NEXT:    callq __extendhfsf2@PLT
; SSE42-NEXT:    cvttss2si %xmm0, %rax
; SSE42-NEXT:    xorps %xmm1, %xmm1
; SSE42-NEXT:    ucomiss %xmm1, %xmm0
; SSE42-NEXT:    cmovbl %ebx, %eax
; SSE42-NEXT:    ucomiss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm0
; SSE42-NEXT:    cmoval %ebp, %eax
; SSE42-NEXT:    movd %eax, %xmm0
; SSE42-NEXT:    pinsrd $1, %r14d, %xmm0
; SSE42-NEXT:    movdqa %xmm0, {{[-0-9]+}}(%r{{[sb]}}p) # 16-byte Spill
; SSE42-NEXT:    movaps (%rsp), %xmm0 # 16-byte Reload
; SSE42-NEXT:    shufps {{.*#+}} xmm0 = xmm0[3,3,3,3]
; SSE42-NEXT:    callq __extendhfsf2@PLT
; SSE42-NEXT:    cvttss2si %xmm0, %rax
; SSE42-NEXT:    xorps %xmm1, %xmm1
; SSE42-NEXT:    ucomiss %xmm1, %xmm0
; SSE42-NEXT:    cmovbl %ebx, %eax
; SSE42-NEXT:    ucomiss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm0
; SSE42-NEXT:    cmoval %ebp, %eax
; SSE42-NEXT:    movdqa {{[-0-9]+}}(%r{{[sb]}}p), %xmm0 # 16-byte Reload
; SSE42-NEXT:    pinsrd $2, %eax, %xmm0
; SSE42-NEXT:    movdqa %xmm0, {{[-0-9]+}}(%r{{[sb]}}p) # 16-byte Spill
; SSE42-NEXT:    movdqa (%rsp), %xmm0 # 16-byte Reload
; SSE42-NEXT:    psrldq {{.*#+}} xmm0 = xmm0[14,15],zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero
; SSE42-NEXT:    callq __extendhfsf2@PLT
; SSE42-NEXT:    cvttss2si %xmm0, %rax
; SSE42-NEXT:    xorps %xmm1, %xmm1
; SSE42-NEXT:    ucomiss %xmm1, %xmm0
; SSE42-NEXT:    cmovbl %ebx, %eax
; SSE42-NEXT:    ucomiss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm0
; SSE42-NEXT:    cmoval %ebp, %eax
; SSE42-NEXT:    movdqa {{[-0-9]+}}(%r{{[sb]}}p), %xmm1 # 16-byte Reload
; SSE42-NEXT:    pinsrd $3, %eax, %xmm1
; SSE42-NEXT:    movaps {{[-0-9]+}}(%r{{[sb]}}p), %xmm0 # 16-byte Reload
; SSE42-NEXT:    addq $48, %rsp
; SSE42-NEXT:    popq %rbx
; SSE42-NEXT:    popq %r14
; SSE42-NEXT:    popq %rbp
; SSE42-NEXT:    retq
;
; AVX2-LABEL: test_unsigned_v8i32_v8f16:
; AVX2:       # %bb.0:
; AVX2-NEXT:    vpsrldq {{.*#+}} xmm1 = xmm0[10,11,12,13,14,15],zero,zero,zero,zero,zero,zero,zero,zero,zero,zero
; AVX2-NEXT:    vcvtph2ps %xmm1, %xmm3
; AVX2-NEXT:    vcvttss2si %xmm3, %rdx
; AVX2-NEXT:    xorl %eax, %eax
; AVX2-NEXT:    vpxor %xmm1, %xmm1, %xmm1
; AVX2-NEXT:    vucomiss %xmm1, %xmm3
; AVX2-NEXT:    cmovbl %eax, %edx
; AVX2-NEXT:    vmovss {{.*#+}} xmm2 = [4.29496704E+9,0.0E+0,0.0E+0,0.0E+0]
; AVX2-NEXT:    vucomiss %xmm2, %xmm3
; AVX2-NEXT:    movl $-1, %ecx
; AVX2-NEXT:    cmoval %ecx, %edx
; AVX2-NEXT:    vshufpd {{.*#+}} xmm3 = xmm0[1,0]
; AVX2-NEXT:    vcvtph2ps %xmm3, %xmm3
; AVX2-NEXT:    vcvttss2si %xmm3, %rsi
; AVX2-NEXT:    vucomiss %xmm1, %xmm3
; AVX2-NEXT:    cmovbl %eax, %esi
; AVX2-NEXT:    vucomiss %xmm2, %xmm3
; AVX2-NEXT:    cmoval %ecx, %esi
; AVX2-NEXT:    vmovd %esi, %xmm3
; AVX2-NEXT:    vpinsrd $1, %edx, %xmm3, %xmm3
; AVX2-NEXT:    vshufps {{.*#+}} xmm4 = xmm0[3,3,3,3]
; AVX2-NEXT:    vcvtph2ps %xmm4, %xmm4
; AVX2-NEXT:    vcvttss2si %xmm4, %rdx
; AVX2-NEXT:    vucomiss %xmm1, %xmm4
; AVX2-NEXT:    cmovbl %eax, %edx
; AVX2-NEXT:    vucomiss %xmm2, %xmm4
; AVX2-NEXT:    cmoval %ecx, %edx
; AVX2-NEXT:    vpinsrd $2, %edx, %xmm3, %xmm3
; AVX2-NEXT:    vpsrldq {{.*#+}} xmm4 = xmm0[14,15],zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero
; AVX2-NEXT:    vcvtph2ps %xmm4, %xmm4
; AVX2-NEXT:    vcvttss2si %xmm4, %rdx
; AVX2-NEXT:    vucomiss %xmm1, %xmm4
; AVX2-NEXT:    cmovbl %eax, %edx
; AVX2-NEXT:    vucomiss %xmm2, %xmm4
; AVX2-NEXT:    cmoval %ecx, %edx
; AVX2-NEXT:    vpinsrd $3, %edx, %xmm3, %xmm3
; AVX2-NEXT:    vpsrld $16, %xmm0, %xmm4
; AVX2-NEXT:    vcvtph2ps %xmm4, %xmm4
; AVX2-NEXT:    vcvttss2si %xmm4, %rdx
; AVX2-NEXT:    vucomiss %xmm1, %xmm4
; AVX2-NEXT:    cmovbl %eax, %edx
; AVX2-NEXT:    vucomiss %xmm2, %xmm4
; AVX2-NEXT:    cmoval %ecx, %edx
; AVX2-NEXT:    vcvtph2ps %xmm0, %xmm4
; AVX2-NEXT:    vcvttss2si %xmm4, %rsi
; AVX2-NEXT:    vucomiss %xmm1, %xmm4
; AVX2-NEXT:    cmovbl %eax, %esi
; AVX2-NEXT:    vucomiss %xmm2, %xmm4
; AVX2-NEXT:    cmoval %ecx, %esi
; AVX2-NEXT:    vmovd %esi, %xmm4
; AVX2-NEXT:    vpinsrd $1, %edx, %xmm4, %xmm4
; AVX2-NEXT:    vmovshdup {{.*#+}} xmm5 = xmm0[1,1,3,3]
; AVX2-NEXT:    vcvtph2ps %xmm5, %xmm5
; AVX2-NEXT:    vcvttss2si %xmm5, %rdx
; AVX2-NEXT:    vucomiss %xmm1, %xmm5
; AVX2-NEXT:    cmovbl %eax, %edx
; AVX2-NEXT:    vucomiss %xmm2, %xmm5
; AVX2-NEXT:    cmoval %ecx, %edx
; AVX2-NEXT:    vpinsrd $2, %edx, %xmm4, %xmm4
; AVX2-NEXT:    vpsrlq $48, %xmm0, %xmm0
; AVX2-NEXT:    vcvtph2ps %xmm0, %xmm0
; AVX2-NEXT:    vcvttss2si %xmm0, %rdx
; AVX2-NEXT:    vucomiss %xmm1, %xmm0
; AVX2-NEXT:    cmovbl %eax, %edx
; AVX2-NEXT:    vucomiss %xmm2, %xmm0
; AVX2-NEXT:    cmoval %ecx, %edx
; AVX2-NEXT:    vpinsrd $3, %edx, %xmm4, %xmm0
; AVX2-NEXT:    vinserti128 $1, %xmm3, %ymm0, %ymm0
; AVX2-NEXT:    retq
;
; AVX512-LABEL: test_unsigned_v8i32_v8f16:
; AVX512:       # %bb.0:
; AVX512-NEXT:    vpsrldq {{.*#+}} xmm1 = xmm0[10,11,12,13,14,15],zero,zero,zero,zero,zero,zero,zero,zero,zero,zero
; AVX512-NEXT:    vcvtph2ps %xmm1, %xmm3
; AVX512-NEXT:    vcvttss2usi %xmm3, %edx
; AVX512-NEXT:    xorl %eax, %eax
; AVX512-NEXT:    vxorpd %xmm1, %xmm1, %xmm1
; AVX512-NEXT:    vucomiss %xmm1, %xmm3
; AVX512-NEXT:    vmovss {{.*#+}} xmm2 = [4.29496704E+9,0.0E+0,0.0E+0,0.0E+0]
; AVX512-NEXT:    cmovbl %eax, %edx
; AVX512-NEXT:    vucomiss %xmm2, %xmm3
; AVX512-NEXT:    movl $-1, %ecx
; AVX512-NEXT:    cmoval %ecx, %edx
; AVX512-NEXT:    vshufpd {{.*#+}} xmm3 = xmm0[1,0]
; AVX512-NEXT:    vcvtph2ps %xmm3, %xmm3
; AVX512-NEXT:    vcvttss2usi %xmm3, %esi
; AVX512-NEXT:    vucomiss %xmm1, %xmm3
; AVX512-NEXT:    cmovbl %eax, %esi
; AVX512-NEXT:    vucomiss %xmm2, %xmm3
; AVX512-NEXT:    cmoval %ecx, %esi
; AVX512-NEXT:    vmovd %esi, %xmm3
; AVX512-NEXT:    vpinsrd $1, %edx, %xmm3, %xmm3
; AVX512-NEXT:    vshufps {{.*#+}} xmm4 = xmm0[3,3,3,3]
; AVX512-NEXT:    vcvtph2ps %xmm4, %xmm4
; AVX512-NEXT:    vcvttss2usi %xmm4, %edx
; AVX512-NEXT:    vucomiss %xmm1, %xmm4
; AVX512-NEXT:    cmovbl %eax, %edx
; AVX512-NEXT:    vucomiss %xmm2, %xmm4
; AVX512-NEXT:    cmoval %ecx, %edx
; AVX512-NEXT:    vpinsrd $2, %edx, %xmm3, %xmm3
; AVX512-NEXT:    vpsrldq {{.*#+}} xmm4 = xmm0[14,15],zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero
; AVX512-NEXT:    vcvtph2ps %xmm4, %xmm4
; AVX512-NEXT:    vcvttss2usi %xmm4, %edx
; AVX512-NEXT:    vucomiss %xmm1, %xmm4
; AVX512-NEXT:    cmovbl %eax, %edx
; AVX512-NEXT:    vucomiss %xmm2, %xmm4
; AVX512-NEXT:    cmoval %ecx, %edx
; AVX512-NEXT:    vpinsrd $3, %edx, %xmm3, %xmm3
; AVX512-NEXT:    vpsrld $16, %xmm0, %xmm4
; AVX512-NEXT:    vcvtph2ps %xmm4, %xmm4
; AVX512-NEXT:    vcvttss2usi %xmm4, %edx
; AVX512-NEXT:    vucomiss %xmm1, %xmm4
; AVX512-NEXT:    cmovbl %eax, %edx
; AVX512-NEXT:    vucomiss %xmm2, %xmm4
; AVX512-NEXT:    cmoval %ecx, %edx
; AVX512-NEXT:    vcvtph2ps %xmm0, %xmm4
; AVX512-NEXT:    vcvttss2usi %xmm4, %esi
; AVX512-NEXT:    vucomiss %xmm1, %xmm4
; AVX512-NEXT:    cmovbl %eax, %esi
; AVX512-NEXT:    vucomiss %xmm2, %xmm4
; AVX512-NEXT:    cmoval %ecx, %esi
; AVX512-NEXT:    vmovd %esi, %xmm4
; AVX512-NEXT:    vpinsrd $1, %edx, %xmm4, %xmm4
; AVX512-NEXT:    vmovshdup {{.*#+}} xmm5 = xmm0[1,1,3,3]
; AVX512-NEXT:    vcvtph2ps %xmm5, %xmm5
; AVX512-NEXT:    vcvttss2usi %xmm5, %edx
; AVX512-NEXT:    vucomiss %xmm1, %xmm5
; AVX512-NEXT:    cmovbl %eax, %edx
; AVX512-NEXT:    vucomiss %xmm2, %xmm5
; AVX512-NEXT:    cmoval %ecx, %edx
; AVX512-NEXT:    vpinsrd $2, %edx, %xmm4, %xmm4
; AVX512-NEXT:    vpsrlq $48, %xmm0, %xmm0
; AVX512-NEXT:    vcvtph2ps %xmm0, %xmm0
; AVX512-NEXT:    vcvttss2usi %xmm0, %edx
; AVX512-NEXT:    vucomiss %xmm1, %xmm0
; AVX512-NEXT:    cmovbl %eax, %edx
; AVX512-NEXT:    vucomiss %xmm2, %xmm0
; AVX512-NEXT:    cmoval %ecx, %edx
; AVX512-NEXT:    vpinsrd $3, %edx, %xmm4, %xmm0
; AVX512-NEXT:    vinserti128 $1, %xmm3, %ymm0, %ymm0
; AVX512-NEXT:    retq
  %x = call <8 x i32> @llvm.fptoui.sat.v8i32.v8f16(<8 x half> %f)
  ret <8 x i32> %x
}

define <8 x i64> @test_unsigned_v8i64_v8f16(<8 x half> %f) nounwind {
; SSE2-LABEL: test_unsigned_v8i64_v8f16:
; SSE2:       # %bb.0:
; SSE2-NEXT:    pushq %r14
; SSE2-NEXT:    pushq %rbx
; SSE2-NEXT:    subq $88, %rsp
; SSE2-NEXT:    movaps %xmm0, (%rsp) # 16-byte Spill
; SSE2-NEXT:    callq __extendhfsf2@PLT
; SSE2-NEXT:    movaps %xmm0, %xmm1
; SSE2-NEXT:    subss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm1
; SSE2-NEXT:    cvttss2si %xmm1, %rax
; SSE2-NEXT:    cvttss2si %xmm0, %rcx
; SSE2-NEXT:    movq %rcx, %rdx
; SSE2-NEXT:    sarq $63, %rdx
; SSE2-NEXT:    andq %rax, %rdx
; SSE2-NEXT:    orq %rcx, %rdx
; SSE2-NEXT:    xorl %ebx, %ebx
; SSE2-NEXT:    xorps %xmm1, %xmm1
; SSE2-NEXT:    ucomiss %xmm1, %xmm0
; SSE2-NEXT:    cmovbq %rbx, %rdx
; SSE2-NEXT:    ucomiss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm0
; SSE2-NEXT:    movq $-1, %r14
; SSE2-NEXT:    cmovaq %r14, %rdx
; SSE2-NEXT:    movq %rdx, %xmm0
; SSE2-NEXT:    movdqa %xmm0, {{[-0-9]+}}(%r{{[sb]}}p) # 16-byte Spill
; SSE2-NEXT:    movdqa (%rsp), %xmm0 # 16-byte Reload
; SSE2-NEXT:    psrld $16, %xmm0
; SSE2-NEXT:    callq __extendhfsf2@PLT
; SSE2-NEXT:    movdqa %xmm0, %xmm1
; SSE2-NEXT:    subss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm1
; SSE2-NEXT:    cvttss2si %xmm1, %rax
; SSE2-NEXT:    cvttss2si %xmm0, %rcx
; SSE2-NEXT:    movq %rcx, %rdx
; SSE2-NEXT:    sarq $63, %rdx
; SSE2-NEXT:    andq %rax, %rdx
; SSE2-NEXT:    orq %rcx, %rdx
; SSE2-NEXT:    xorps %xmm1, %xmm1
; SSE2-NEXT:    ucomiss %xmm1, %xmm0
; SSE2-NEXT:    cmovbq %rbx, %rdx
; SSE2-NEXT:    ucomiss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm0
; SSE2-NEXT:    cmovaq %r14, %rdx
; SSE2-NEXT:    movq %rdx, %xmm0
; SSE2-NEXT:    movdqa {{[-0-9]+}}(%r{{[sb]}}p), %xmm1 # 16-byte Reload
; SSE2-NEXT:    punpcklqdq {{.*#+}} xmm1 = xmm1[0],xmm0[0]
; SSE2-NEXT:    movdqa %xmm1, {{[-0-9]+}}(%r{{[sb]}}p) # 16-byte Spill
; SSE2-NEXT:    movdqa (%rsp), %xmm0 # 16-byte Reload
; SSE2-NEXT:    psrlq $48, %xmm0
; SSE2-NEXT:    callq __extendhfsf2@PLT
; SSE2-NEXT:    movdqa %xmm0, %xmm1
; SSE2-NEXT:    subss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm1
; SSE2-NEXT:    cvttss2si %xmm1, %rax
; SSE2-NEXT:    cvttss2si %xmm0, %rcx
; SSE2-NEXT:    movq %rcx, %rdx
; SSE2-NEXT:    sarq $63, %rdx
; SSE2-NEXT:    andq %rax, %rdx
; SSE2-NEXT:    orq %rcx, %rdx
; SSE2-NEXT:    xorps %xmm1, %xmm1
; SSE2-NEXT:    ucomiss %xmm1, %xmm0
; SSE2-NEXT:    cmovbq %rbx, %rdx
; SSE2-NEXT:    ucomiss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm0
; SSE2-NEXT:    cmovaq %r14, %rdx
; SSE2-NEXT:    movq %rdx, %xmm0
; SSE2-NEXT:    movdqa %xmm0, {{[-0-9]+}}(%r{{[sb]}}p) # 16-byte Spill
; SSE2-NEXT:    movaps (%rsp), %xmm0 # 16-byte Reload
; SSE2-NEXT:    shufps {{.*#+}} xmm0 = xmm0[1,1,1,1]
; SSE2-NEXT:    callq __extendhfsf2@PLT
; SSE2-NEXT:    movaps %xmm0, %xmm1
; SSE2-NEXT:    subss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm1
; SSE2-NEXT:    cvttss2si %xmm1, %rax
; SSE2-NEXT:    cvttss2si %xmm0, %rcx
; SSE2-NEXT:    movq %rcx, %rdx
; SSE2-NEXT:    sarq $63, %rdx
; SSE2-NEXT:    andq %rax, %rdx
; SSE2-NEXT:    orq %rcx, %rdx
; SSE2-NEXT:    xorps %xmm1, %xmm1
; SSE2-NEXT:    ucomiss %xmm1, %xmm0
; SSE2-NEXT:    cmovbq %rbx, %rdx
; SSE2-NEXT:    ucomiss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm0
; SSE2-NEXT:    cmovaq %r14, %rdx
; SSE2-NEXT:    movq %rdx, %xmm0
; SSE2-NEXT:    punpcklqdq {{[-0-9]+}}(%r{{[sb]}}p), %xmm0 # 16-byte Folded Reload
; SSE2-NEXT:    # xmm0 = xmm0[0],mem[0]
; SSE2-NEXT:    movdqa %xmm0, {{[-0-9]+}}(%r{{[sb]}}p) # 16-byte Spill
; SSE2-NEXT:    movdqa (%rsp), %xmm0 # 16-byte Reload
; SSE2-NEXT:    psrldq {{.*#+}} xmm0 = xmm0[10,11,12,13,14,15],zero,zero,zero,zero,zero,zero,zero,zero,zero,zero
; SSE2-NEXT:    callq __extendhfsf2@PLT
; SSE2-NEXT:    movdqa %xmm0, %xmm1
; SSE2-NEXT:    subss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm1
; SSE2-NEXT:    cvttss2si %xmm1, %rax
; SSE2-NEXT:    cvttss2si %xmm0, %rcx
; SSE2-NEXT:    movq %rcx, %rdx
; SSE2-NEXT:    sarq $63, %rdx
; SSE2-NEXT:    andq %rax, %rdx
; SSE2-NEXT:    orq %rcx, %rdx
; SSE2-NEXT:    xorps %xmm1, %xmm1
; SSE2-NEXT:    ucomiss %xmm1, %xmm0
; SSE2-NEXT:    cmovbq %rbx, %rdx
; SSE2-NEXT:    ucomiss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm0
; SSE2-NEXT:    cmovaq %r14, %rdx
; SSE2-NEXT:    movq %rdx, %xmm0
; SSE2-NEXT:    movdqa %xmm0, {{[-0-9]+}}(%r{{[sb]}}p) # 16-byte Spill
; SSE2-NEXT:    movaps (%rsp), %xmm0 # 16-byte Reload
; SSE2-NEXT:    movhlps {{.*#+}} xmm0 = xmm0[1,1]
; SSE2-NEXT:    callq __extendhfsf2@PLT
; SSE2-NEXT:    movaps %xmm0, %xmm1
; SSE2-NEXT:    subss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm1
; SSE2-NEXT:    cvttss2si %xmm1, %rax
; SSE2-NEXT:    cvttss2si %xmm0, %rcx
; SSE2-NEXT:    movq %rcx, %rdx
; SSE2-NEXT:    sarq $63, %rdx
; SSE2-NEXT:    andq %rax, %rdx
; SSE2-NEXT:    orq %rcx, %rdx
; SSE2-NEXT:    xorps %xmm1, %xmm1
; SSE2-NEXT:    ucomiss %xmm1, %xmm0
; SSE2-NEXT:    cmovbq %rbx, %rdx
; SSE2-NEXT:    ucomiss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm0
; SSE2-NEXT:    cmovaq %r14, %rdx
; SSE2-NEXT:    movq %rdx, %xmm0
; SSE2-NEXT:    punpcklqdq {{[-0-9]+}}(%r{{[sb]}}p), %xmm0 # 16-byte Folded Reload
; SSE2-NEXT:    # xmm0 = xmm0[0],mem[0]
; SSE2-NEXT:    movdqa %xmm0, {{[-0-9]+}}(%r{{[sb]}}p) # 16-byte Spill
; SSE2-NEXT:    movdqa (%rsp), %xmm0 # 16-byte Reload
; SSE2-NEXT:    psrldq {{.*#+}} xmm0 = xmm0[14,15],zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero
; SSE2-NEXT:    callq __extendhfsf2@PLT
; SSE2-NEXT:    movdqa %xmm0, %xmm1
; SSE2-NEXT:    subss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm1
; SSE2-NEXT:    cvttss2si %xmm1, %rax
; SSE2-NEXT:    cvttss2si %xmm0, %rcx
; SSE2-NEXT:    movq %rcx, %rdx
; SSE2-NEXT:    sarq $63, %rdx
; SSE2-NEXT:    andq %rax, %rdx
; SSE2-NEXT:    orq %rcx, %rdx
; SSE2-NEXT:    xorps %xmm1, %xmm1
; SSE2-NEXT:    ucomiss %xmm1, %xmm0
; SSE2-NEXT:    cmovbq %rbx, %rdx
; SSE2-NEXT:    ucomiss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm0
; SSE2-NEXT:    cmovaq %r14, %rdx
; SSE2-NEXT:    movq %rdx, %xmm0
; SSE2-NEXT:    movdqa %xmm0, {{[-0-9]+}}(%r{{[sb]}}p) # 16-byte Spill
; SSE2-NEXT:    movaps (%rsp), %xmm0 # 16-byte Reload
; SSE2-NEXT:    shufps {{.*#+}} xmm0 = xmm0[3,3,3,3]
; SSE2-NEXT:    callq __extendhfsf2@PLT
; SSE2-NEXT:    movaps %xmm0, %xmm1
; SSE2-NEXT:    subss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm1
; SSE2-NEXT:    cvttss2si %xmm1, %rax
; SSE2-NEXT:    cvttss2si %xmm0, %rcx
; SSE2-NEXT:    movq %rcx, %rdx
; SSE2-NEXT:    sarq $63, %rdx
; SSE2-NEXT:    andq %rax, %rdx
; SSE2-NEXT:    orq %rcx, %rdx
; SSE2-NEXT:    xorps %xmm1, %xmm1
; SSE2-NEXT:    ucomiss %xmm1, %xmm0
; SSE2-NEXT:    cmovbq %rbx, %rdx
; SSE2-NEXT:    ucomiss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm0
; SSE2-NEXT:    cmovaq %r14, %rdx
; SSE2-NEXT:    movq %rdx, %xmm3
; SSE2-NEXT:    punpcklqdq {{[-0-9]+}}(%r{{[sb]}}p), %xmm3 # 16-byte Folded Reload
; SSE2-NEXT:    # xmm3 = xmm3[0],mem[0]
; SSE2-NEXT:    movaps {{[-0-9]+}}(%r{{[sb]}}p), %xmm0 # 16-byte Reload
; SSE2-NEXT:    movaps {{[-0-9]+}}(%r{{[sb]}}p), %xmm1 # 16-byte Reload
; SSE2-NEXT:    movaps {{[-0-9]+}}(%r{{[sb]}}p), %xmm2 # 16-byte Reload
; SSE2-NEXT:    addq $88, %rsp
; SSE2-NEXT:    popq %rbx
; SSE2-NEXT:    popq %r14
; SSE2-NEXT:    retq
;
; SSE42-LABEL: test_unsigned_v8i64_v8f16:
; SSE42:       # %bb.0:
; SSE42-NEXT:    pushq %r14
; SSE42-NEXT:    pushq %rbx
; SSE42-NEXT:    subq $88, %rsp
; SSE42-NEXT:    movaps %xmm0, (%rsp) # 16-byte Spill
; SSE42-NEXT:    callq __extendhfsf2@PLT
; SSE42-NEXT:    movaps %xmm0, %xmm1
; SSE42-NEXT:    subss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm1
; SSE42-NEXT:    cvttss2si %xmm1, %rax
; SSE42-NEXT:    cvttss2si %xmm0, %rcx
; SSE42-NEXT:    movq %rcx, %rdx
; SSE42-NEXT:    sarq $63, %rdx
; SSE42-NEXT:    andq %rax, %rdx
; SSE42-NEXT:    orq %rcx, %rdx
; SSE42-NEXT:    xorl %ebx, %ebx
; SSE42-NEXT:    xorps %xmm1, %xmm1
; SSE42-NEXT:    ucomiss %xmm1, %xmm0
; SSE42-NEXT:    cmovbq %rbx, %rdx
; SSE42-NEXT:    ucomiss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm0
; SSE42-NEXT:    movq $-1, %r14
; SSE42-NEXT:    cmovaq %r14, %rdx
; SSE42-NEXT:    movq %rdx, %xmm0
; SSE42-NEXT:    movdqa %xmm0, {{[-0-9]+}}(%r{{[sb]}}p) # 16-byte Spill
; SSE42-NEXT:    movdqa (%rsp), %xmm0 # 16-byte Reload
; SSE42-NEXT:    psrld $16, %xmm0
; SSE42-NEXT:    callq __extendhfsf2@PLT
; SSE42-NEXT:    movdqa %xmm0, %xmm1
; SSE42-NEXT:    subss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm1
; SSE42-NEXT:    cvttss2si %xmm1, %rax
; SSE42-NEXT:    cvttss2si %xmm0, %rcx
; SSE42-NEXT:    movq %rcx, %rdx
; SSE42-NEXT:    sarq $63, %rdx
; SSE42-NEXT:    andq %rax, %rdx
; SSE42-NEXT:    orq %rcx, %rdx
; SSE42-NEXT:    xorps %xmm1, %xmm1
; SSE42-NEXT:    ucomiss %xmm1, %xmm0
; SSE42-NEXT:    cmovbq %rbx, %rdx
; SSE42-NEXT:    ucomiss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm0
; SSE42-NEXT:    cmovaq %r14, %rdx
; SSE42-NEXT:    movq %rdx, %xmm0
; SSE42-NEXT:    movdqa {{[-0-9]+}}(%r{{[sb]}}p), %xmm1 # 16-byte Reload
; SSE42-NEXT:    punpcklqdq {{.*#+}} xmm1 = xmm1[0],xmm0[0]
; SSE42-NEXT:    movdqa %xmm1, {{[-0-9]+}}(%r{{[sb]}}p) # 16-byte Spill
; SSE42-NEXT:    movdqa (%rsp), %xmm0 # 16-byte Reload
; SSE42-NEXT:    psrlq $48, %xmm0
; SSE42-NEXT:    callq __extendhfsf2@PLT
; SSE42-NEXT:    movdqa %xmm0, %xmm1
; SSE42-NEXT:    subss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm1
; SSE42-NEXT:    cvttss2si %xmm1, %rax
; SSE42-NEXT:    cvttss2si %xmm0, %rcx
; SSE42-NEXT:    movq %rcx, %rdx
; SSE42-NEXT:    sarq $63, %rdx
; SSE42-NEXT:    andq %rax, %rdx
; SSE42-NEXT:    orq %rcx, %rdx
; SSE42-NEXT:    xorps %xmm1, %xmm1
; SSE42-NEXT:    ucomiss %xmm1, %xmm0
; SSE42-NEXT:    cmovbq %rbx, %rdx
; SSE42-NEXT:    ucomiss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm0
; SSE42-NEXT:    cmovaq %r14, %rdx
; SSE42-NEXT:    movq %rdx, %xmm0
; SSE42-NEXT:    movdqa %xmm0, {{[-0-9]+}}(%r{{[sb]}}p) # 16-byte Spill
; SSE42-NEXT:    movshdup (%rsp), %xmm0 # 16-byte Folded Reload
; SSE42-NEXT:    # xmm0 = mem[1,1,3,3]
; SSE42-NEXT:    callq __extendhfsf2@PLT
; SSE42-NEXT:    movaps %xmm0, %xmm1
; SSE42-NEXT:    subss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm1
; SSE42-NEXT:    cvttss2si %xmm1, %rax
; SSE42-NEXT:    cvttss2si %xmm0, %rcx
; SSE42-NEXT:    movq %rcx, %rdx
; SSE42-NEXT:    sarq $63, %rdx
; SSE42-NEXT:    andq %rax, %rdx
; SSE42-NEXT:    orq %rcx, %rdx
; SSE42-NEXT:    xorps %xmm1, %xmm1
; SSE42-NEXT:    ucomiss %xmm1, %xmm0
; SSE42-NEXT:    cmovbq %rbx, %rdx
; SSE42-NEXT:    ucomiss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm0
; SSE42-NEXT:    cmovaq %r14, %rdx
; SSE42-NEXT:    movq %rdx, %xmm0
; SSE42-NEXT:    punpcklqdq {{[-0-9]+}}(%r{{[sb]}}p), %xmm0 # 16-byte Folded Reload
; SSE42-NEXT:    # xmm0 = xmm0[0],mem[0]
; SSE42-NEXT:    movdqa %xmm0, {{[-0-9]+}}(%r{{[sb]}}p) # 16-byte Spill
; SSE42-NEXT:    movdqa (%rsp), %xmm0 # 16-byte Reload
; SSE42-NEXT:    psrldq {{.*#+}} xmm0 = xmm0[10,11,12,13,14,15],zero,zero,zero,zero,zero,zero,zero,zero,zero,zero
; SSE42-NEXT:    callq __extendhfsf2@PLT
; SSE42-NEXT:    movdqa %xmm0, %xmm1
; SSE42-NEXT:    subss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm1
; SSE42-NEXT:    cvttss2si %xmm1, %rax
; SSE42-NEXT:    cvttss2si %xmm0, %rcx
; SSE42-NEXT:    movq %rcx, %rdx
; SSE42-NEXT:    sarq $63, %rdx
; SSE42-NEXT:    andq %rax, %rdx
; SSE42-NEXT:    orq %rcx, %rdx
; SSE42-NEXT:    xorps %xmm1, %xmm1
; SSE42-NEXT:    ucomiss %xmm1, %xmm0
; SSE42-NEXT:    cmovbq %rbx, %rdx
; SSE42-NEXT:    ucomiss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm0
; SSE42-NEXT:    cmovaq %r14, %rdx
; SSE42-NEXT:    movq %rdx, %xmm0
; SSE42-NEXT:    movdqa %xmm0, {{[-0-9]+}}(%r{{[sb]}}p) # 16-byte Spill
; SSE42-NEXT:    movaps (%rsp), %xmm0 # 16-byte Reload
; SSE42-NEXT:    movhlps {{.*#+}} xmm0 = xmm0[1,1]
; SSE42-NEXT:    callq __extendhfsf2@PLT
; SSE42-NEXT:    movaps %xmm0, %xmm1
; SSE42-NEXT:    subss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm1
; SSE42-NEXT:    cvttss2si %xmm1, %rax
; SSE42-NEXT:    cvttss2si %xmm0, %rcx
; SSE42-NEXT:    movq %rcx, %rdx
; SSE42-NEXT:    sarq $63, %rdx
; SSE42-NEXT:    andq %rax, %rdx
; SSE42-NEXT:    orq %rcx, %rdx
; SSE42-NEXT:    xorps %xmm1, %xmm1
; SSE42-NEXT:    ucomiss %xmm1, %xmm0
; SSE42-NEXT:    cmovbq %rbx, %rdx
; SSE42-NEXT:    ucomiss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm0
; SSE42-NEXT:    cmovaq %r14, %rdx
; SSE42-NEXT:    movq %rdx, %xmm0
; SSE42-NEXT:    punpcklqdq {{[-0-9]+}}(%r{{[sb]}}p), %xmm0 # 16-byte Folded Reload
; SSE42-NEXT:    # xmm0 = xmm0[0],mem[0]
; SSE42-NEXT:    movdqa %xmm0, {{[-0-9]+}}(%r{{[sb]}}p) # 16-byte Spill
; SSE42-NEXT:    movdqa (%rsp), %xmm0 # 16-byte Reload
; SSE42-NEXT:    psrldq {{.*#+}} xmm0 = xmm0[14,15],zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero
; SSE42-NEXT:    callq __extendhfsf2@PLT
; SSE42-NEXT:    movdqa %xmm0, %xmm1
; SSE42-NEXT:    subss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm1
; SSE42-NEXT:    cvttss2si %xmm1, %rax
; SSE42-NEXT:    cvttss2si %xmm0, %rcx
; SSE42-NEXT:    movq %rcx, %rdx
; SSE42-NEXT:    sarq $63, %rdx
; SSE42-NEXT:    andq %rax, %rdx
; SSE42-NEXT:    orq %rcx, %rdx
; SSE42-NEXT:    xorps %xmm1, %xmm1
; SSE42-NEXT:    ucomiss %xmm1, %xmm0
; SSE42-NEXT:    cmovbq %rbx, %rdx
; SSE42-NEXT:    ucomiss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm0
; SSE42-NEXT:    cmovaq %r14, %rdx
; SSE42-NEXT:    movq %rdx, %xmm0
; SSE42-NEXT:    movdqa %xmm0, {{[-0-9]+}}(%r{{[sb]}}p) # 16-byte Spill
; SSE42-NEXT:    movaps (%rsp), %xmm0 # 16-byte Reload
; SSE42-NEXT:    shufps {{.*#+}} xmm0 = xmm0[3,3,3,3]
; SSE42-NEXT:    callq __extendhfsf2@PLT
; SSE42-NEXT:    movaps %xmm0, %xmm1
; SSE42-NEXT:    subss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm1
; SSE42-NEXT:    cvttss2si %xmm1, %rax
; SSE42-NEXT:    cvttss2si %xmm0, %rcx
; SSE42-NEXT:    movq %rcx, %rdx
; SSE42-NEXT:    sarq $63, %rdx
; SSE42-NEXT:    andq %rax, %rdx
; SSE42-NEXT:    orq %rcx, %rdx
; SSE42-NEXT:    xorps %xmm1, %xmm1
; SSE42-NEXT:    ucomiss %xmm1, %xmm0
; SSE42-NEXT:    cmovbq %rbx, %rdx
; SSE42-NEXT:    ucomiss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm0
; SSE42-NEXT:    cmovaq %r14, %rdx
; SSE42-NEXT:    movq %rdx, %xmm3
; SSE42-NEXT:    punpcklqdq {{[-0-9]+}}(%r{{[sb]}}p), %xmm3 # 16-byte Folded Reload
; SSE42-NEXT:    # xmm3 = xmm3[0],mem[0]
; SSE42-NEXT:    movaps {{[-0-9]+}}(%r{{[sb]}}p), %xmm0 # 16-byte Reload
; SSE42-NEXT:    movaps {{[-0-9]+}}(%r{{[sb]}}p), %xmm1 # 16-byte Reload
; SSE42-NEXT:    movaps {{[-0-9]+}}(%r{{[sb]}}p), %xmm2 # 16-byte Reload
; SSE42-NEXT:    addq $88, %rsp
; SSE42-NEXT:    popq %rbx
; SSE42-NEXT:    popq %r14
; SSE42-NEXT:    retq
;
; AVX2-LABEL: test_unsigned_v8i64_v8f16:
; AVX2:       # %bb.0:
; AVX2-NEXT:    vpsrlq $48, %xmm0, %xmm1
; AVX2-NEXT:    vcvtph2ps %xmm1, %xmm4
; AVX2-NEXT:    vmovss {{.*#+}} xmm2 = [9.22337203E+18,0.0E+0,0.0E+0,0.0E+0]
; AVX2-NEXT:    vsubss %xmm2, %xmm4, %xmm1
; AVX2-NEXT:    vcvttss2si %xmm1, %rax
; AVX2-NEXT:    vcvttss2si %xmm4, %rcx
; AVX2-NEXT:    movq %rcx, %rdx
; AVX2-NEXT:    sarq $63, %rdx
; AVX2-NEXT:    andq %rax, %rdx
; AVX2-NEXT:    orq %rcx, %rdx
; AVX2-NEXT:    xorl %eax, %eax
; AVX2-NEXT:    vxorps %xmm1, %xmm1, %xmm1
; AVX2-NEXT:    vucomiss %xmm1, %xmm4
; AVX2-NEXT:    cmovbq %rax, %rdx
; AVX2-NEXT:    vmovss {{.*#+}} xmm3 = [1.8446743E+19,0.0E+0,0.0E+0,0.0E+0]
; AVX2-NEXT:    vucomiss %xmm3, %xmm4
; AVX2-NEXT:    movq $-1, %rcx
; AVX2-NEXT:    cmovaq %rcx, %rdx
; AVX2-NEXT:    vmovshdup {{.*#+}} xmm4 = xmm0[1,1,3,3]
; AVX2-NEXT:    vcvtph2ps %xmm4, %xmm4
; AVX2-NEXT:    vsubss %xmm2, %xmm4, %xmm5
; AVX2-NEXT:    vcvttss2si %xmm5, %rsi
; AVX2-NEXT:    vcvttss2si %xmm4, %rdi
; AVX2-NEXT:    movq %rdi, %r8
; AVX2-NEXT:    sarq $63, %r8
; AVX2-NEXT:    andq %rsi, %r8
; AVX2-NEXT:    orq %rdi, %r8
; AVX2-NEXT:    vucomiss %xmm1, %xmm4
; AVX2-NEXT:    cmovbq %rax, %r8
; AVX2-NEXT:    vucomiss %xmm3, %xmm4
; AVX2-NEXT:    cmovaq %rcx, %r8
; AVX2-NEXT:    vcvtph2ps %xmm0, %xmm4
; AVX2-NEXT:    vsubss %xmm2, %xmm4, %xmm5
; AVX2-NEXT:    vcvttss2si %xmm5, %rdi
; AVX2-NEXT:    vcvttss2si %xmm4, %r9
; AVX2-NEXT:    movq %r9, %rsi
; AVX2-NEXT:    sarq $63, %rsi
; AVX2-NEXT:    andq %rdi, %rsi
; AVX2-NEXT:    orq %r9, %rsi
; AVX2-NEXT:    vucomiss %xmm1, %xmm4
; AVX2-NEXT:    cmovbq %rax, %rsi
; AVX2-NEXT:    vucomiss %xmm3, %xmm4
; AVX2-NEXT:    cmovaq %rcx, %rsi
; AVX2-NEXT:    vpsrld $16, %xmm0, %xmm4
; AVX2-NEXT:    vcvtph2ps %xmm4, %xmm4
; AVX2-NEXT:    vsubss %xmm2, %xmm4, %xmm5
; AVX2-NEXT:    vcvttss2si %xmm5, %r9
; AVX2-NEXT:    vcvttss2si %xmm4, %r10
; AVX2-NEXT:    movq %r10, %rdi
; AVX2-NEXT:    sarq $63, %rdi
; AVX2-NEXT:    andq %r9, %rdi
; AVX2-NEXT:    orq %r10, %rdi
; AVX2-NEXT:    vucomiss %xmm1, %xmm4
; AVX2-NEXT:    cmovbq %rax, %rdi
; AVX2-NEXT:    vucomiss %xmm3, %xmm4
; AVX2-NEXT:    cmovaq %rcx, %rdi
; AVX2-NEXT:    vpsrldq {{.*#+}} xmm4 = xmm0[14,15],zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero
; AVX2-NEXT:    vcvtph2ps %xmm4, %xmm4
; AVX2-NEXT:    vsubss %xmm2, %xmm4, %xmm5
; AVX2-NEXT:    vcvttss2si %xmm5, %r10
; AVX2-NEXT:    vcvttss2si %xmm4, %r11
; AVX2-NEXT:    movq %r11, %r9
; AVX2-NEXT:    sarq $63, %r9
; AVX2-NEXT:    andq %r10, %r9
; AVX2-NEXT:    orq %r11, %r9
; AVX2-NEXT:    vucomiss %xmm1, %xmm4
; AVX2-NEXT:    cmovbq %rax, %r9
; AVX2-NEXT:    vucomiss %xmm3, %xmm4
; AVX2-NEXT:    cmovaq %rcx, %r9
; AVX2-NEXT:    vmovq %rdx, %xmm4
; AVX2-NEXT:    vshufps {{.*#+}} xmm5 = xmm0[3,3,3,3]
; AVX2-NEXT:    vcvtph2ps %xmm5, %xmm5
; AVX2-NEXT:    vmovq %r8, %xmm6
; AVX2-NEXT:    vsubss %xmm2, %xmm5, %xmm7
; AVX2-NEXT:    vcvttss2si %xmm7, %r8
; AVX2-NEXT:    vcvttss2si %xmm5, %r10
; AVX2-NEXT:    movq %r10, %rdx
; AVX2-NEXT:    sarq $63, %rdx
; AVX2-NEXT:    andq %r8, %rdx
; AVX2-NEXT:    orq %r10, %rdx
; AVX2-NEXT:    vucomiss %xmm1, %xmm5
; AVX2-NEXT:    cmovbq %rax, %rdx
; AVX2-NEXT:    vucomiss %xmm3, %xmm5
; AVX2-NEXT:    cmovaq %rcx, %rdx
; AVX2-NEXT:    vpsrldq {{.*#+}} xmm5 = xmm0[10,11,12,13,14,15],zero,zero,zero,zero,zero,zero,zero,zero,zero,zero
; AVX2-NEXT:    vcvtph2ps %xmm5, %xmm5
; AVX2-NEXT:    vsubss %xmm2, %xmm5, %xmm7
; AVX2-NEXT:    vcvttss2si %xmm7, %r8
; AVX2-NEXT:    vcvttss2si %xmm5, %r10
; AVX2-NEXT:    vmovq %rsi, %xmm7
; AVX2-NEXT:    movq %r10, %rsi
; AVX2-NEXT:    sarq $63, %rsi
; AVX2-NEXT:    andq %r8, %rsi
; AVX2-NEXT:    orq %r10, %rsi
; AVX2-NEXT:    vpunpcklqdq {{.*#+}} xmm4 = xmm6[0],xmm4[0]
; AVX2-NEXT:    vucomiss %xmm1, %xmm5
; AVX2-NEXT:    cmovbq %rax, %rsi
; AVX2-NEXT:    vucomiss %xmm3, %xmm5
; AVX2-NEXT:    cmovaq %rcx, %rsi
; AVX2-NEXT:    vmovq %rdi, %xmm5
; AVX2-NEXT:    vshufpd {{.*#+}} xmm0 = xmm0[1,0]
; AVX2-NEXT:    vcvtph2ps %xmm0, %xmm6
; AVX2-NEXT:    vmovq %r9, %xmm8
; AVX2-NEXT:    vsubss %xmm2, %xmm6, %xmm0
; AVX2-NEXT:    vcvttss2si %xmm0, %rdi
; AVX2-NEXT:    vmovq %rdx, %xmm2
; AVX2-NEXT:    vcvttss2si %xmm6, %rdx
; AVX2-NEXT:    movq %rdx, %r8
; AVX2-NEXT:    sarq $63, %r8
; AVX2-NEXT:    andq %rdi, %r8
; AVX2-NEXT:    vpunpcklqdq {{.*#+}} xmm0 = xmm7[0],xmm5[0]
; AVX2-NEXT:    vinserti128 $1, %xmm4, %ymm0, %ymm0
; AVX2-NEXT:    vpunpcklqdq {{.*#+}} xmm2 = xmm2[0],xmm8[0]
; AVX2-NEXT:    orq %rdx, %r8
; AVX2-NEXT:    vucomiss %xmm1, %xmm6
; AVX2-NEXT:    cmovbq %rax, %r8
; AVX2-NEXT:    vucomiss %xmm3, %xmm6
; AVX2-NEXT:    cmovaq %rcx, %r8
; AVX2-NEXT:    vmovq %rsi, %xmm1
; AVX2-NEXT:    vmovq %r8, %xmm3
; AVX2-NEXT:    vpunpcklqdq {{.*#+}} xmm1 = xmm3[0],xmm1[0]
; AVX2-NEXT:    vinserti128 $1, %xmm2, %ymm1, %ymm1
; AVX2-NEXT:    retq
;
; AVX512-LABEL: test_unsigned_v8i64_v8f16:
; AVX512:       # %bb.0:
; AVX512-NEXT:    vpsrldq {{.*#+}} xmm1 = xmm0[14,15],zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero
; AVX512-NEXT:    vcvtph2ps %xmm1, %xmm3
; AVX512-NEXT:    vcvttss2usi %xmm3, %rdx
; AVX512-NEXT:    xorl %eax, %eax
; AVX512-NEXT:    vxorpd %xmm1, %xmm1, %xmm1
; AVX512-NEXT:    vucomiss %xmm1, %xmm3
; AVX512-NEXT:    vmovss {{.*#+}} xmm2 = [1.8446743E+19,0.0E+0,0.0E+0,0.0E+0]
; AVX512-NEXT:    cmovbq %rax, %rdx
; AVX512-NEXT:    vucomiss %xmm2, %xmm3
; AVX512-NEXT:    movq $-1, %rcx
; AVX512-NEXT:    cmovaq %rcx, %rdx
; AVX512-NEXT:    vmovq %rdx, %xmm3
; AVX512-NEXT:    vshufps {{.*#+}} xmm4 = xmm0[3,3,3,3]
; AVX512-NEXT:    vcvtph2ps %xmm4, %xmm4
; AVX512-NEXT:    vcvttss2usi %xmm4, %rdx
; AVX512-NEXT:    vucomiss %xmm1, %xmm4
; AVX512-NEXT:    cmovbq %rax, %rdx
; AVX512-NEXT:    vucomiss %xmm2, %xmm4
; AVX512-NEXT:    cmovaq %rcx, %rdx
; AVX512-NEXT:    vmovq %rdx, %xmm4
; AVX512-NEXT:    vpsrldq {{.*#+}} xmm5 = xmm0[10,11,12,13,14,15],zero,zero,zero,zero,zero,zero,zero,zero,zero,zero
; AVX512-NEXT:    vcvtph2ps %xmm5, %xmm5
; AVX512-NEXT:    vcvttss2usi %xmm5, %rdx
; AVX512-NEXT:    vpunpcklqdq {{.*#+}} xmm3 = xmm4[0],xmm3[0]
; AVX512-NEXT:    vucomiss %xmm1, %xmm5
; AVX512-NEXT:    cmovbq %rax, %rdx
; AVX512-NEXT:    vucomiss %xmm2, %xmm5
; AVX512-NEXT:    cmovaq %rcx, %rdx
; AVX512-NEXT:    vshufpd {{.*#+}} xmm4 = xmm0[1,0]
; AVX512-NEXT:    vcvtph2ps %xmm4, %xmm4
; AVX512-NEXT:    vcvttss2usi %xmm4, %rsi
; AVX512-NEXT:    vmovq %rdx, %xmm5
; AVX512-NEXT:    vucomiss %xmm1, %xmm4
; AVX512-NEXT:    cmovbq %rax, %rsi
; AVX512-NEXT:    vucomiss %xmm2, %xmm4
; AVX512-NEXT:    cmovaq %rcx, %rsi
; AVX512-NEXT:    vmovq %rsi, %xmm4
; AVX512-NEXT:    vpunpcklqdq {{.*#+}} xmm4 = xmm4[0],xmm5[0]
; AVX512-NEXT:    vinserti128 $1, %xmm3, %ymm4, %ymm3
; AVX512-NEXT:    vpsrlq $48, %xmm0, %xmm4
; AVX512-NEXT:    vcvtph2ps %xmm4, %xmm4
; AVX512-NEXT:    vcvttss2usi %xmm4, %rdx
; AVX512-NEXT:    vucomiss %xmm1, %xmm4
; AVX512-NEXT:    cmovbq %rax, %rdx
; AVX512-NEXT:    vucomiss %xmm2, %xmm4
; AVX512-NEXT:    cmovaq %rcx, %rdx
; AVX512-NEXT:    vmovq %rdx, %xmm4
; AVX512-NEXT:    vmovshdup {{.*#+}} xmm5 = xmm0[1,1,3,3]
; AVX512-NEXT:    vcvtph2ps %xmm5, %xmm5
; AVX512-NEXT:    vcvttss2usi %xmm5, %rdx
; AVX512-NEXT:    vucomiss %xmm1, %xmm5
; AVX512-NEXT:    cmovbq %rax, %rdx
; AVX512-NEXT:    vucomiss %xmm2, %xmm5
; AVX512-NEXT:    cmovaq %rcx, %rdx
; AVX512-NEXT:    vmovq %rdx, %xmm5
; AVX512-NEXT:    vpunpcklqdq {{.*#+}} xmm4 = xmm5[0],xmm4[0]
; AVX512-NEXT:    vcvtph2ps %xmm0, %xmm5
; AVX512-NEXT:    vcvttss2usi %xmm5, %rdx
; AVX512-NEXT:    vucomiss %xmm1, %xmm5
; AVX512-NEXT:    cmovbq %rax, %rdx
; AVX512-NEXT:    vucomiss %xmm2, %xmm5
; AVX512-NEXT:    cmovaq %rcx, %rdx
; AVX512-NEXT:    vmovq %rdx, %xmm5
; AVX512-NEXT:    vpsrld $16, %xmm0, %xmm0
; AVX512-NEXT:    vcvtph2ps %xmm0, %xmm0
; AVX512-NEXT:    vcvttss2usi %xmm0, %rdx
; AVX512-NEXT:    vucomiss %xmm1, %xmm0
; AVX512-NEXT:    cmovbq %rax, %rdx
; AVX512-NEXT:    vucomiss %xmm2, %xmm0
; AVX512-NEXT:    cmovaq %rcx, %rdx
; AVX512-NEXT:    vmovq %rdx, %xmm0
; AVX512-NEXT:    vpunpcklqdq {{.*#+}} xmm0 = xmm5[0],xmm0[0]
; AVX512-NEXT:    vinserti128 $1, %xmm4, %ymm0, %ymm0
; AVX512-NEXT:    vinserti64x4 $1, %ymm3, %zmm0, %zmm0
; AVX512-NEXT:    retq
  %x = call <8 x i64> @llvm.fptoui.sat.v8i64.v8f16(<8 x half> %f)
  ret <8 x i64> %x
}

define <8 x i128> @test_unsigned_v8i128_v8f16(<8 x half> %f) nounwind {
; SSE2-LABEL: test_unsigned_v8i128_v8f16:
; SSE2:       # %bb.0:
; SSE2-NEXT:    pushq %rbp
; SSE2-NEXT:    pushq %r15
; SSE2-NEXT:    pushq %r14
; SSE2-NEXT:    pushq %r13
; SSE2-NEXT:    pushq %r12
; SSE2-NEXT:    pushq %rbx
; SSE2-NEXT:    subq $104, %rsp
; SSE2-NEXT:    movdqa %xmm0, {{[-0-9]+}}(%r{{[sb]}}p) # 16-byte Spill
; SSE2-NEXT:    movq %rdi, %rbx
; SSE2-NEXT:    psrld $16, %xmm0
; SSE2-NEXT:    callq __extendhfsf2@PLT
; SSE2-NEXT:    movd %xmm0, {{[-0-9]+}}(%r{{[sb]}}p) # 4-byte Folded Spill
; SSE2-NEXT:    callq __fixunssfti@PLT
; SSE2-NEXT:    xorl %r12d, %r12d
; SSE2-NEXT:    pxor %xmm0, %xmm0
; SSE2-NEXT:    movss {{[-0-9]+}}(%r{{[sb]}}p), %xmm1 # 4-byte Reload
; SSE2-NEXT:    # xmm1 = mem[0],zero,zero,zero
; SSE2-NEXT:    ucomiss %xmm0, %xmm1
; SSE2-NEXT:    cmovbq %r12, %rdx
; SSE2-NEXT:    cmovbq %r12, %rax
; SSE2-NEXT:    ucomiss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm1
; SSE2-NEXT:    movq $-1, %r13
; SSE2-NEXT:    cmovaq %r13, %rax
; SSE2-NEXT:    movq %rax, {{[-0-9]+}}(%r{{[sb]}}p) # 8-byte Spill
; SSE2-NEXT:    cmovaq %r13, %rdx
; SSE2-NEXT:    movq %rdx, {{[-0-9]+}}(%r{{[sb]}}p) # 8-byte Spill
; SSE2-NEXT:    movaps {{[-0-9]+}}(%r{{[sb]}}p), %xmm0 # 16-byte Reload
; SSE2-NEXT:    shufps {{.*#+}} xmm0 = xmm0[1,1,1,1]
; SSE2-NEXT:    callq __extendhfsf2@PLT
; SSE2-NEXT:    movss %xmm0, {{[-0-9]+}}(%r{{[sb]}}p) # 4-byte Spill
; SSE2-NEXT:    callq __fixunssfti@PLT
; SSE2-NEXT:    xorps %xmm0, %xmm0
; SSE2-NEXT:    movss {{[-0-9]+}}(%r{{[sb]}}p), %xmm1 # 4-byte Reload
; SSE2-NEXT:    # xmm1 = mem[0],zero,zero,zero
; SSE2-NEXT:    ucomiss %xmm0, %xmm1
; SSE2-NEXT:    cmovbq %r12, %rdx
; SSE2-NEXT:    cmovbq %r12, %rax
; SSE2-NEXT:    ucomiss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm1
; SSE2-NEXT:    cmovaq %r13, %rax
; SSE2-NEXT:    movq %rax, {{[-0-9]+}}(%r{{[sb]}}p) # 8-byte Spill
; SSE2-NEXT:    cmovaq %r13, %rdx
; SSE2-NEXT:    movq %rdx, {{[-0-9]+}}(%r{{[sb]}}p) # 8-byte Spill
; SSE2-NEXT:    movdqa {{[-0-9]+}}(%r{{[sb]}}p), %xmm0 # 16-byte Reload
; SSE2-NEXT:    psrlq $48, %xmm0
; SSE2-NEXT:    callq __extendhfsf2@PLT
; SSE2-NEXT:    movd %xmm0, {{[-0-9]+}}(%r{{[sb]}}p) # 4-byte Folded Spill
; SSE2-NEXT:    callq __fixunssfti@PLT
; SSE2-NEXT:    pxor %xmm0, %xmm0
; SSE2-NEXT:    movss {{[-0-9]+}}(%r{{[sb]}}p), %xmm1 # 4-byte Reload
; SSE2-NEXT:    # xmm1 = mem[0],zero,zero,zero
; SSE2-NEXT:    ucomiss %xmm0, %xmm1
; SSE2-NEXT:    cmovbq %r12, %rdx
; SSE2-NEXT:    cmovbq %r12, %rax
; SSE2-NEXT:    ucomiss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm1
; SSE2-NEXT:    cmovaq %r13, %rax
; SSE2-NEXT:    movq %rax, {{[-0-9]+}}(%r{{[sb]}}p) # 8-byte Spill
; SSE2-NEXT:    cmovaq %r13, %rdx
; SSE2-NEXT:    movq %rdx, {{[-0-9]+}}(%r{{[sb]}}p) # 8-byte Spill
; SSE2-NEXT:    movaps {{[-0-9]+}}(%r{{[sb]}}p), %xmm0 # 16-byte Reload
; SSE2-NEXT:    movhlps {{.*#+}} xmm0 = xmm0[1,1]
; SSE2-NEXT:    callq __extendhfsf2@PLT
; SSE2-NEXT:    movss %xmm0, {{[-0-9]+}}(%r{{[sb]}}p) # 4-byte Spill
; SSE2-NEXT:    callq __fixunssfti@PLT
; SSE2-NEXT:    xorps %xmm0, %xmm0
; SSE2-NEXT:    movss {{[-0-9]+}}(%r{{[sb]}}p), %xmm1 # 4-byte Reload
; SSE2-NEXT:    # xmm1 = mem[0],zero,zero,zero
; SSE2-NEXT:    ucomiss %xmm0, %xmm1
; SSE2-NEXT:    cmovbq %r12, %rdx
; SSE2-NEXT:    cmovbq %r12, %rax
; SSE2-NEXT:    ucomiss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm1
; SSE2-NEXT:    cmovaq %r13, %rax
; SSE2-NEXT:    movq %rax, {{[-0-9]+}}(%r{{[sb]}}p) # 8-byte Spill
; SSE2-NEXT:    cmovaq %r13, %rdx
; SSE2-NEXT:    movq %rdx, {{[-0-9]+}}(%r{{[sb]}}p) # 8-byte Spill
; SSE2-NEXT:    movdqa {{[-0-9]+}}(%r{{[sb]}}p), %xmm0 # 16-byte Reload
; SSE2-NEXT:    psrldq {{.*#+}} xmm0 = xmm0[10,11,12,13,14,15],zero,zero,zero,zero,zero,zero,zero,zero,zero,zero
; SSE2-NEXT:    callq __extendhfsf2@PLT
; SSE2-NEXT:    movd %xmm0, {{[-0-9]+}}(%r{{[sb]}}p) # 4-byte Folded Spill
; SSE2-NEXT:    callq __fixunssfti@PLT
; SSE2-NEXT:    movq %rdx, %rbp
; SSE2-NEXT:    pxor %xmm0, %xmm0
; SSE2-NEXT:    movss {{[-0-9]+}}(%r{{[sb]}}p), %xmm1 # 4-byte Reload
; SSE2-NEXT:    # xmm1 = mem[0],zero,zero,zero
; SSE2-NEXT:    ucomiss %xmm0, %xmm1
; SSE2-NEXT:    cmovbq %r12, %rbp
; SSE2-NEXT:    cmovbq %r12, %rax
; SSE2-NEXT:    ucomiss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm1
; SSE2-NEXT:    cmovaq %r13, %rax
; SSE2-NEXT:    movq %rax, {{[-0-9]+}}(%r{{[sb]}}p) # 8-byte Spill
; SSE2-NEXT:    cmovaq %r13, %rbp
; SSE2-NEXT:    movaps {{[-0-9]+}}(%r{{[sb]}}p), %xmm0 # 16-byte Reload
; SSE2-NEXT:    shufps {{.*#+}} xmm0 = xmm0[3,3,3,3]
; SSE2-NEXT:    callq __extendhfsf2@PLT
; SSE2-NEXT:    movss %xmm0, {{[-0-9]+}}(%r{{[sb]}}p) # 4-byte Spill
; SSE2-NEXT:    callq __fixunssfti@PLT
; SSE2-NEXT:    movq %rax, %r14
; SSE2-NEXT:    movq %rdx, %r15
; SSE2-NEXT:    xorps %xmm0, %xmm0
; SSE2-NEXT:    movss {{[-0-9]+}}(%r{{[sb]}}p), %xmm1 # 4-byte Reload
; SSE2-NEXT:    # xmm1 = mem[0],zero,zero,zero
; SSE2-NEXT:    ucomiss %xmm0, %xmm1
; SSE2-NEXT:    cmovbq %r12, %r15
; SSE2-NEXT:    cmovbq %r12, %r14
; SSE2-NEXT:    ucomiss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm1
; SSE2-NEXT:    cmovaq %r13, %r14
; SSE2-NEXT:    cmovaq %r13, %r15
; SSE2-NEXT:    movdqa {{[-0-9]+}}(%r{{[sb]}}p), %xmm0 # 16-byte Reload
; SSE2-NEXT:    psrldq {{.*#+}} xmm0 = xmm0[14,15],zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero
; SSE2-NEXT:    callq __extendhfsf2@PLT
; SSE2-NEXT:    movd %xmm0, {{[-0-9]+}}(%r{{[sb]}}p) # 4-byte Folded Spill
; SSE2-NEXT:    callq __fixunssfti@PLT
; SSE2-NEXT:    movq %rax, %r12
; SSE2-NEXT:    movq %rdx, %r13
; SSE2-NEXT:    pxor %xmm0, %xmm0
; SSE2-NEXT:    movss {{[-0-9]+}}(%r{{[sb]}}p), %xmm1 # 4-byte Reload
; SSE2-NEXT:    # xmm1 = mem[0],zero,zero,zero
; SSE2-NEXT:    ucomiss %xmm0, %xmm1
; SSE2-NEXT:    movl $0, %eax
; SSE2-NEXT:    cmovbq %rax, %r13
; SSE2-NEXT:    cmovbq %rax, %r12
; SSE2-NEXT:    ucomiss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm1
; SSE2-NEXT:    movq $-1, %rax
; SSE2-NEXT:    cmovaq %rax, %r12
; SSE2-NEXT:    cmovaq %rax, %r13
; SSE2-NEXT:    movaps {{[-0-9]+}}(%r{{[sb]}}p), %xmm0 # 16-byte Reload
; SSE2-NEXT:    callq __extendhfsf2@PLT
; SSE2-NEXT:    movss %xmm0, {{[-0-9]+}}(%r{{[sb]}}p) # 4-byte Spill
; SSE2-NEXT:    callq __fixunssfti@PLT
; SSE2-NEXT:    xorps %xmm0, %xmm0
; SSE2-NEXT:    movss {{[-0-9]+}}(%r{{[sb]}}p), %xmm1 # 4-byte Reload
; SSE2-NEXT:    # xmm1 = mem[0],zero,zero,zero
; SSE2-NEXT:    ucomiss %xmm0, %xmm1
; SSE2-NEXT:    movl $0, %ecx
; SSE2-NEXT:    cmovbq %rcx, %rdx
; SSE2-NEXT:    cmovbq %rcx, %rax
; SSE2-NEXT:    ucomiss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm1
; SSE2-NEXT:    movq $-1, %rcx
; SSE2-NEXT:    cmovaq %rcx, %rax
; SSE2-NEXT:    cmovaq %rcx, %rdx
; SSE2-NEXT:    movq %rdx, 8(%rbx)
; SSE2-NEXT:    movq %rax, (%rbx)
; SSE2-NEXT:    movq %r13, 120(%rbx)
; SSE2-NEXT:    movq %r12, 112(%rbx)
; SSE2-NEXT:    movq %r15, 104(%rbx)
; SSE2-NEXT:    movq %r14, 96(%rbx)
; SSE2-NEXT:    movq %rbp, 88(%rbx)
; SSE2-NEXT:    movq {{[-0-9]+}}(%r{{[sb]}}p), %rax # 8-byte Reload
; SSE2-NEXT:    movq %rax, 80(%rbx)
; SSE2-NEXT:    movq {{[-0-9]+}}(%r{{[sb]}}p), %rax # 8-byte Reload
; SSE2-NEXT:    movq %rax, 72(%rbx)
; SSE2-NEXT:    movq {{[-0-9]+}}(%r{{[sb]}}p), %rax # 8-byte Reload
; SSE2-NEXT:    movq %rax, 64(%rbx)
; SSE2-NEXT:    movq {{[-0-9]+}}(%r{{[sb]}}p), %rax # 8-byte Reload
; SSE2-NEXT:    movq %rax, 56(%rbx)
; SSE2-NEXT:    movq {{[-0-9]+}}(%r{{[sb]}}p), %rax # 8-byte Reload
; SSE2-NEXT:    movq %rax, 48(%rbx)
; SSE2-NEXT:    movq {{[-0-9]+}}(%r{{[sb]}}p), %rax # 8-byte Reload
; SSE2-NEXT:    movq %rax, 40(%rbx)
; SSE2-NEXT:    movq {{[-0-9]+}}(%r{{[sb]}}p), %rax # 8-byte Reload
; SSE2-NEXT:    movq %rax, 32(%rbx)
; SSE2-NEXT:    movq {{[-0-9]+}}(%r{{[sb]}}p), %rax # 8-byte Reload
; SSE2-NEXT:    movq %rax, 24(%rbx)
; SSE2-NEXT:    movq {{[-0-9]+}}(%r{{[sb]}}p), %rax # 8-byte Reload
; SSE2-NEXT:    movq %rax, 16(%rbx)
; SSE2-NEXT:    movq %rbx, %rax
; SSE2-NEXT:    addq $104, %rsp
; SSE2-NEXT:    popq %rbx
; SSE2-NEXT:    popq %r12
; SSE2-NEXT:    popq %r13
; SSE2-NEXT:    popq %r14
; SSE2-NEXT:    popq %r15
; SSE2-NEXT:    popq %rbp
; SSE2-NEXT:    retq
;
; SSE42-LABEL: test_unsigned_v8i128_v8f16:
; SSE42:       # %bb.0:
; SSE42-NEXT:    pushq %rbp
; SSE42-NEXT:    pushq %r15
; SSE42-NEXT:    pushq %r14
; SSE42-NEXT:    pushq %r13
; SSE42-NEXT:    pushq %r12
; SSE42-NEXT:    pushq %rbx
; SSE42-NEXT:    subq $104, %rsp
; SSE42-NEXT:    movdqa %xmm0, {{[-0-9]+}}(%r{{[sb]}}p) # 16-byte Spill
; SSE42-NEXT:    movq %rdi, %rbx
; SSE42-NEXT:    psrld $16, %xmm0
; SSE42-NEXT:    callq __extendhfsf2@PLT
; SSE42-NEXT:    movd %xmm0, {{[-0-9]+}}(%r{{[sb]}}p) # 4-byte Folded Spill
; SSE42-NEXT:    callq __fixunssfti@PLT
; SSE42-NEXT:    xorl %r12d, %r12d
; SSE42-NEXT:    pxor %xmm0, %xmm0
; SSE42-NEXT:    movss {{[-0-9]+}}(%r{{[sb]}}p), %xmm1 # 4-byte Reload
; SSE42-NEXT:    # xmm1 = mem[0],zero,zero,zero
; SSE42-NEXT:    ucomiss %xmm0, %xmm1
; SSE42-NEXT:    cmovbq %r12, %rdx
; SSE42-NEXT:    cmovbq %r12, %rax
; SSE42-NEXT:    ucomiss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm1
; SSE42-NEXT:    movq $-1, %r13
; SSE42-NEXT:    cmovaq %r13, %rax
; SSE42-NEXT:    movq %rax, {{[-0-9]+}}(%r{{[sb]}}p) # 8-byte Spill
; SSE42-NEXT:    cmovaq %r13, %rdx
; SSE42-NEXT:    movq %rdx, {{[-0-9]+}}(%r{{[sb]}}p) # 8-byte Spill
; SSE42-NEXT:    movshdup {{[-0-9]+}}(%r{{[sb]}}p), %xmm0 # 16-byte Folded Reload
; SSE42-NEXT:    # xmm0 = mem[1,1,3,3]
; SSE42-NEXT:    callq __extendhfsf2@PLT
; SSE42-NEXT:    movss %xmm0, {{[-0-9]+}}(%r{{[sb]}}p) # 4-byte Spill
; SSE42-NEXT:    callq __fixunssfti@PLT
; SSE42-NEXT:    xorps %xmm0, %xmm0
; SSE42-NEXT:    movss {{[-0-9]+}}(%r{{[sb]}}p), %xmm1 # 4-byte Reload
; SSE42-NEXT:    # xmm1 = mem[0],zero,zero,zero
; SSE42-NEXT:    ucomiss %xmm0, %xmm1
; SSE42-NEXT:    cmovbq %r12, %rdx
; SSE42-NEXT:    cmovbq %r12, %rax
; SSE42-NEXT:    ucomiss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm1
; SSE42-NEXT:    cmovaq %r13, %rax
; SSE42-NEXT:    movq %rax, {{[-0-9]+}}(%r{{[sb]}}p) # 8-byte Spill
; SSE42-NEXT:    cmovaq %r13, %rdx
; SSE42-NEXT:    movq %rdx, {{[-0-9]+}}(%r{{[sb]}}p) # 8-byte Spill
; SSE42-NEXT:    movdqa {{[-0-9]+}}(%r{{[sb]}}p), %xmm0 # 16-byte Reload
; SSE42-NEXT:    psrlq $48, %xmm0
; SSE42-NEXT:    callq __extendhfsf2@PLT
; SSE42-NEXT:    movd %xmm0, {{[-0-9]+}}(%r{{[sb]}}p) # 4-byte Folded Spill
; SSE42-NEXT:    callq __fixunssfti@PLT
; SSE42-NEXT:    pxor %xmm0, %xmm0
; SSE42-NEXT:    movss {{[-0-9]+}}(%r{{[sb]}}p), %xmm1 # 4-byte Reload
; SSE42-NEXT:    # xmm1 = mem[0],zero,zero,zero
; SSE42-NEXT:    ucomiss %xmm0, %xmm1
; SSE42-NEXT:    cmovbq %r12, %rdx
; SSE42-NEXT:    cmovbq %r12, %rax
; SSE42-NEXT:    ucomiss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm1
; SSE42-NEXT:    cmovaq %r13, %rax
; SSE42-NEXT:    movq %rax, {{[-0-9]+}}(%r{{[sb]}}p) # 8-byte Spill
; SSE42-NEXT:    cmovaq %r13, %rdx
; SSE42-NEXT:    movq %rdx, {{[-0-9]+}}(%r{{[sb]}}p) # 8-byte Spill
; SSE42-NEXT:    movaps {{[-0-9]+}}(%r{{[sb]}}p), %xmm0 # 16-byte Reload
; SSE42-NEXT:    movhlps {{.*#+}} xmm0 = xmm0[1,1]
; SSE42-NEXT:    callq __extendhfsf2@PLT
; SSE42-NEXT:    movss %xmm0, {{[-0-9]+}}(%r{{[sb]}}p) # 4-byte Spill
; SSE42-NEXT:    callq __fixunssfti@PLT
; SSE42-NEXT:    xorps %xmm0, %xmm0
; SSE42-NEXT:    movss {{[-0-9]+}}(%r{{[sb]}}p), %xmm1 # 4-byte Reload
; SSE42-NEXT:    # xmm1 = mem[0],zero,zero,zero
; SSE42-NEXT:    ucomiss %xmm0, %xmm1
; SSE42-NEXT:    cmovbq %r12, %rdx
; SSE42-NEXT:    cmovbq %r12, %rax
; SSE42-NEXT:    ucomiss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm1
; SSE42-NEXT:    cmovaq %r13, %rax
; SSE42-NEXT:    movq %rax, {{[-0-9]+}}(%r{{[sb]}}p) # 8-byte Spill
; SSE42-NEXT:    cmovaq %r13, %rdx
; SSE42-NEXT:    movq %rdx, {{[-0-9]+}}(%r{{[sb]}}p) # 8-byte Spill
; SSE42-NEXT:    movdqa {{[-0-9]+}}(%r{{[sb]}}p), %xmm0 # 16-byte Reload
; SSE42-NEXT:    psrldq {{.*#+}} xmm0 = xmm0[10,11,12,13,14,15],zero,zero,zero,zero,zero,zero,zero,zero,zero,zero
; SSE42-NEXT:    callq __extendhfsf2@PLT
; SSE42-NEXT:    movd %xmm0, {{[-0-9]+}}(%r{{[sb]}}p) # 4-byte Folded Spill
; SSE42-NEXT:    callq __fixunssfti@PLT
; SSE42-NEXT:    movq %rdx, %rbp
; SSE42-NEXT:    pxor %xmm0, %xmm0
; SSE42-NEXT:    movss {{[-0-9]+}}(%r{{[sb]}}p), %xmm1 # 4-byte Reload
; SSE42-NEXT:    # xmm1 = mem[0],zero,zero,zero
; SSE42-NEXT:    ucomiss %xmm0, %xmm1
; SSE42-NEXT:    cmovbq %r12, %rbp
; SSE42-NEXT:    cmovbq %r12, %rax
; SSE42-NEXT:    ucomiss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm1
; SSE42-NEXT:    cmovaq %r13, %rax
; SSE42-NEXT:    movq %rax, {{[-0-9]+}}(%r{{[sb]}}p) # 8-byte Spill
; SSE42-NEXT:    cmovaq %r13, %rbp
; SSE42-NEXT:    movaps {{[-0-9]+}}(%r{{[sb]}}p), %xmm0 # 16-byte Reload
; SSE42-NEXT:    shufps {{.*#+}} xmm0 = xmm0[3,3,3,3]
; SSE42-NEXT:    callq __extendhfsf2@PLT
; SSE42-NEXT:    movss %xmm0, {{[-0-9]+}}(%r{{[sb]}}p) # 4-byte Spill
; SSE42-NEXT:    callq __fixunssfti@PLT
; SSE42-NEXT:    movq %rax, %r14
; SSE42-NEXT:    movq %rdx, %r15
; SSE42-NEXT:    xorps %xmm0, %xmm0
; SSE42-NEXT:    movss {{[-0-9]+}}(%r{{[sb]}}p), %xmm1 # 4-byte Reload
; SSE42-NEXT:    # xmm1 = mem[0],zero,zero,zero
; SSE42-NEXT:    ucomiss %xmm0, %xmm1
; SSE42-NEXT:    cmovbq %r12, %r15
; SSE42-NEXT:    cmovbq %r12, %r14
; SSE42-NEXT:    ucomiss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm1
; SSE42-NEXT:    cmovaq %r13, %r14
; SSE42-NEXT:    cmovaq %r13, %r15
; SSE42-NEXT:    movdqa {{[-0-9]+}}(%r{{[sb]}}p), %xmm0 # 16-byte Reload
; SSE42-NEXT:    psrldq {{.*#+}} xmm0 = xmm0[14,15],zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero
; SSE42-NEXT:    callq __extendhfsf2@PLT
; SSE42-NEXT:    movd %xmm0, {{[-0-9]+}}(%r{{[sb]}}p) # 4-byte Folded Spill
; SSE42-NEXT:    callq __fixunssfti@PLT
; SSE42-NEXT:    movq %rax, %r12
; SSE42-NEXT:    movq %rdx, %r13
; SSE42-NEXT:    pxor %xmm0, %xmm0
; SSE42-NEXT:    movss {{[-0-9]+}}(%r{{[sb]}}p), %xmm1 # 4-byte Reload
; SSE42-NEXT:    # xmm1 = mem[0],zero,zero,zero
; SSE42-NEXT:    ucomiss %xmm0, %xmm1
; SSE42-NEXT:    movl $0, %eax
; SSE42-NEXT:    cmovbq %rax, %r13
; SSE42-NEXT:    cmovbq %rax, %r12
; SSE42-NEXT:    ucomiss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm1
; SSE42-NEXT:    movq $-1, %rax
; SSE42-NEXT:    cmovaq %rax, %r12
; SSE42-NEXT:    cmovaq %rax, %r13
; SSE42-NEXT:    movaps {{[-0-9]+}}(%r{{[sb]}}p), %xmm0 # 16-byte Reload
; SSE42-NEXT:    callq __extendhfsf2@PLT
; SSE42-NEXT:    movss %xmm0, {{[-0-9]+}}(%r{{[sb]}}p) # 4-byte Spill
; SSE42-NEXT:    callq __fixunssfti@PLT
; SSE42-NEXT:    xorps %xmm0, %xmm0
; SSE42-NEXT:    movss {{[-0-9]+}}(%r{{[sb]}}p), %xmm1 # 4-byte Reload
; SSE42-NEXT:    # xmm1 = mem[0],zero,zero,zero
; SSE42-NEXT:    ucomiss %xmm0, %xmm1
; SSE42-NEXT:    movl $0, %ecx
; SSE42-NEXT:    cmovbq %rcx, %rdx
; SSE42-NEXT:    cmovbq %rcx, %rax
; SSE42-NEXT:    ucomiss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm1
; SSE42-NEXT:    movq $-1, %rcx
; SSE42-NEXT:    cmovaq %rcx, %rax
; SSE42-NEXT:    cmovaq %rcx, %rdx
; SSE42-NEXT:    movq %rdx, 8(%rbx)
; SSE42-NEXT:    movq %rax, (%rbx)
; SSE42-NEXT:    movq %r13, 120(%rbx)
; SSE42-NEXT:    movq %r12, 112(%rbx)
; SSE42-NEXT:    movq %r15, 104(%rbx)
; SSE42-NEXT:    movq %r14, 96(%rbx)
; SSE42-NEXT:    movq %rbp, 88(%rbx)
; SSE42-NEXT:    movq {{[-0-9]+}}(%r{{[sb]}}p), %rax # 8-byte Reload
; SSE42-NEXT:    movq %rax, 80(%rbx)
; SSE42-NEXT:    movq {{[-0-9]+}}(%r{{[sb]}}p), %rax # 8-byte Reload
; SSE42-NEXT:    movq %rax, 72(%rbx)
; SSE42-NEXT:    movq {{[-0-9]+}}(%r{{[sb]}}p), %rax # 8-byte Reload
; SSE42-NEXT:    movq %rax, 64(%rbx)
; SSE42-NEXT:    movq {{[-0-9]+}}(%r{{[sb]}}p), %rax # 8-byte Reload
; SSE42-NEXT:    movq %rax, 56(%rbx)
; SSE42-NEXT:    movq {{[-0-9]+}}(%r{{[sb]}}p), %rax # 8-byte Reload
; SSE42-NEXT:    movq %rax, 48(%rbx)
; SSE42-NEXT:    movq {{[-0-9]+}}(%r{{[sb]}}p), %rax # 8-byte Reload
; SSE42-NEXT:    movq %rax, 40(%rbx)
; SSE42-NEXT:    movq {{[-0-9]+}}(%r{{[sb]}}p), %rax # 8-byte Reload
; SSE42-NEXT:    movq %rax, 32(%rbx)
; SSE42-NEXT:    movq {{[-0-9]+}}(%r{{[sb]}}p), %rax # 8-byte Reload
; SSE42-NEXT:    movq %rax, 24(%rbx)
; SSE42-NEXT:    movq {{[-0-9]+}}(%r{{[sb]}}p), %rax # 8-byte Reload
; SSE42-NEXT:    movq %rax, 16(%rbx)
; SSE42-NEXT:    movq %rbx, %rax
; SSE42-NEXT:    addq $104, %rsp
; SSE42-NEXT:    popq %rbx
; SSE42-NEXT:    popq %r12
; SSE42-NEXT:    popq %r13
; SSE42-NEXT:    popq %r14
; SSE42-NEXT:    popq %r15
; SSE42-NEXT:    popq %rbp
; SSE42-NEXT:    retq
;
; AVX2-LABEL: test_unsigned_v8i128_v8f16:
; AVX2:       # %bb.0:
; AVX2-NEXT:    pushq %rbp
; AVX2-NEXT:    pushq %r15
; AVX2-NEXT:    pushq %r14
; AVX2-NEXT:    pushq %r13
; AVX2-NEXT:    pushq %r12
; AVX2-NEXT:    pushq %rbx
; AVX2-NEXT:    subq $152, %rsp
; AVX2-NEXT:    vmovdqa %xmm0, (%rsp) # 16-byte Spill
; AVX2-NEXT:    movq %rdi, %rbx
; AVX2-NEXT:    vpsrld $16, %xmm0, %xmm1
; AVX2-NEXT:    vcvtph2ps %xmm1, %xmm0
; AVX2-NEXT:    vmovaps %xmm0, {{[-0-9]+}}(%r{{[sb]}}p) # 16-byte Spill
; AVX2-NEXT:    callq __fixunssfti@PLT
; AVX2-NEXT:    xorl %r12d, %r12d
; AVX2-NEXT:    vxorps %xmm0, %xmm0, %xmm0
; AVX2-NEXT:    vmovaps {{[-0-9]+}}(%r{{[sb]}}p), %xmm1 # 16-byte Reload
; AVX2-NEXT:    vucomiss %xmm0, %xmm1
; AVX2-NEXT:    cmovbq %r12, %rdx
; AVX2-NEXT:    cmovbq %r12, %rax
; AVX2-NEXT:    vucomiss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm1
; AVX2-NEXT:    movq $-1, %r13
; AVX2-NEXT:    cmovaq %r13, %rax
; AVX2-NEXT:    movq %rax, {{[-0-9]+}}(%r{{[sb]}}p) # 8-byte Spill
; AVX2-NEXT:    cmovaq %r13, %rdx
; AVX2-NEXT:    movq %rdx, {{[-0-9]+}}(%r{{[sb]}}p) # 8-byte Spill
; AVX2-NEXT:    vmovshdup (%rsp), %xmm0 # 16-byte Folded Reload
; AVX2-NEXT:    # xmm0 = mem[1,1,3,3]
; AVX2-NEXT:    vcvtph2ps %xmm0, %xmm0
; AVX2-NEXT:    vmovaps %xmm0, {{[-0-9]+}}(%r{{[sb]}}p) # 16-byte Spill
; AVX2-NEXT:    callq __fixunssfti@PLT
; AVX2-NEXT:    vxorps %xmm0, %xmm0, %xmm0
; AVX2-NEXT:    vmovaps {{[-0-9]+}}(%r{{[sb]}}p), %xmm1 # 16-byte Reload
; AVX2-NEXT:    vucomiss %xmm0, %xmm1
; AVX2-NEXT:    cmovbq %r12, %rdx
; AVX2-NEXT:    cmovbq %r12, %rax
; AVX2-NEXT:    vucomiss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm1
; AVX2-NEXT:    cmovaq %r13, %rax
; AVX2-NEXT:    movq %rax, {{[-0-9]+}}(%r{{[sb]}}p) # 8-byte Spill
; AVX2-NEXT:    cmovaq %r13, %rdx
; AVX2-NEXT:    movq %rdx, {{[-0-9]+}}(%r{{[sb]}}p) # 8-byte Spill
; AVX2-NEXT:    vmovdqa (%rsp), %xmm0 # 16-byte Reload
; AVX2-NEXT:    vpsrlq $48, %xmm0, %xmm0
; AVX2-NEXT:    vcvtph2ps %xmm0, %xmm0
; AVX2-NEXT:    vmovaps %xmm0, {{[-0-9]+}}(%r{{[sb]}}p) # 16-byte Spill
; AVX2-NEXT:    callq __fixunssfti@PLT
; AVX2-NEXT:    vxorps %xmm0, %xmm0, %xmm0
; AVX2-NEXT:    vmovaps {{[-0-9]+}}(%r{{[sb]}}p), %xmm1 # 16-byte Reload
; AVX2-NEXT:    vucomiss %xmm0, %xmm1
; AVX2-NEXT:    cmovbq %r12, %rdx
; AVX2-NEXT:    cmovbq %r12, %rax
; AVX2-NEXT:    vucomiss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm1
; AVX2-NEXT:    cmovaq %r13, %rax
; AVX2-NEXT:    movq %rax, {{[-0-9]+}}(%r{{[sb]}}p) # 8-byte Spill
; AVX2-NEXT:    cmovaq %r13, %rdx
; AVX2-NEXT:    movq %rdx, {{[-0-9]+}}(%r{{[sb]}}p) # 8-byte Spill
; AVX2-NEXT:    vpermilpd $1, (%rsp), %xmm0 # 16-byte Folded Reload
; AVX2-NEXT:    # xmm0 = mem[1,0]
; AVX2-NEXT:    vcvtph2ps %xmm0, %xmm0
; AVX2-NEXT:    vmovaps %xmm0, {{[-0-9]+}}(%r{{[sb]}}p) # 16-byte Spill
; AVX2-NEXT:    callq __fixunssfti@PLT
; AVX2-NEXT:    vxorps %xmm0, %xmm0, %xmm0
; AVX2-NEXT:    vmovaps {{[-0-9]+}}(%r{{[sb]}}p), %xmm1 # 16-byte Reload
; AVX2-NEXT:    vucomiss %xmm0, %xmm1
; AVX2-NEXT:    cmovbq %r12, %rdx
; AVX2-NEXT:    cmovbq %r12, %rax
; AVX2-NEXT:    vucomiss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm1
; AVX2-NEXT:    cmovaq %r13, %rax
; AVX2-NEXT:    movq %rax, {{[-0-9]+}}(%r{{[sb]}}p) # 8-byte Spill
; AVX2-NEXT:    cmovaq %r13, %rdx
; AVX2-NEXT:    movq %rdx, {{[-0-9]+}}(%r{{[sb]}}p) # 8-byte Spill
; AVX2-NEXT:    vmovdqa (%rsp), %xmm0 # 16-byte Reload
; AVX2-NEXT:    vpsrldq {{.*#+}} xmm0 = xmm0[10,11,12,13,14,15],zero,zero,zero,zero,zero,zero,zero,zero,zero,zero
; AVX2-NEXT:    vcvtph2ps %xmm0, %xmm0
; AVX2-NEXT:    vmovaps %xmm0, {{[-0-9]+}}(%r{{[sb]}}p) # 16-byte Spill
; AVX2-NEXT:    callq __fixunssfti@PLT
; AVX2-NEXT:    movq %rdx, %rbp
; AVX2-NEXT:    vxorps %xmm0, %xmm0, %xmm0
; AVX2-NEXT:    vmovaps {{[-0-9]+}}(%r{{[sb]}}p), %xmm1 # 16-byte Reload
; AVX2-NEXT:    vucomiss %xmm0, %xmm1
; AVX2-NEXT:    cmovbq %r12, %rbp
; AVX2-NEXT:    cmovbq %r12, %rax
; AVX2-NEXT:    vucomiss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm1
; AVX2-NEXT:    cmovaq %r13, %rax
; AVX2-NEXT:    movq %rax, {{[-0-9]+}}(%r{{[sb]}}p) # 8-byte Spill
; AVX2-NEXT:    cmovaq %r13, %rbp
; AVX2-NEXT:    vpermilps $255, (%rsp), %xmm0 # 16-byte Folded Reload
; AVX2-NEXT:    # xmm0 = mem[3,3,3,3]
; AVX2-NEXT:    vcvtph2ps %xmm0, %xmm0
; AVX2-NEXT:    vmovaps %xmm0, {{[-0-9]+}}(%r{{[sb]}}p) # 16-byte Spill
; AVX2-NEXT:    callq __fixunssfti@PLT
; AVX2-NEXT:    movq %rax, %r14
; AVX2-NEXT:    movq %rdx, %r15
; AVX2-NEXT:    vxorps %xmm0, %xmm0, %xmm0
; AVX2-NEXT:    vmovaps {{[-0-9]+}}(%r{{[sb]}}p), %xmm1 # 16-byte Reload
; AVX2-NEXT:    vucomiss %xmm0, %xmm1
; AVX2-NEXT:    cmovbq %r12, %r15
; AVX2-NEXT:    cmovbq %r12, %r14
; AVX2-NEXT:    vucomiss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm1
; AVX2-NEXT:    cmovaq %r13, %r14
; AVX2-NEXT:    cmovaq %r13, %r15
; AVX2-NEXT:    vmovdqa (%rsp), %xmm0 # 16-byte Reload
; AVX2-NEXT:    vpsrldq {{.*#+}} xmm0 = xmm0[14,15],zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero
; AVX2-NEXT:    vcvtph2ps %xmm0, %xmm0
; AVX2-NEXT:    vmovaps %xmm0, {{[-0-9]+}}(%r{{[sb]}}p) # 16-byte Spill
; AVX2-NEXT:    callq __fixunssfti@PLT
; AVX2-NEXT:    movq %rax, %r12
; AVX2-NEXT:    movq %rdx, %r13
; AVX2-NEXT:    vxorps %xmm0, %xmm0, %xmm0
; AVX2-NEXT:    vmovaps {{[-0-9]+}}(%r{{[sb]}}p), %xmm1 # 16-byte Reload
; AVX2-NEXT:    vucomiss %xmm0, %xmm1
; AVX2-NEXT:    movl $0, %eax
; AVX2-NEXT:    cmovbq %rax, %r13
; AVX2-NEXT:    cmovbq %rax, %r12
; AVX2-NEXT:    vucomiss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm1
; AVX2-NEXT:    movq $-1, %rax
; AVX2-NEXT:    cmovaq %rax, %r12
; AVX2-NEXT:    cmovaq %rax, %r13
; AVX2-NEXT:    vcvtph2ps (%rsp), %xmm0 # 16-byte Folded Reload
; AVX2-NEXT:    vmovaps %xmm0, (%rsp) # 16-byte Spill
; AVX2-NEXT:    callq __fixunssfti@PLT
; AVX2-NEXT:    vxorps %xmm0, %xmm0, %xmm0
; AVX2-NEXT:    vmovaps (%rsp), %xmm1 # 16-byte Reload
; AVX2-NEXT:    vucomiss %xmm0, %xmm1
; AVX2-NEXT:    movl $0, %ecx
; AVX2-NEXT:    cmovbq %rcx, %rdx
; AVX2-NEXT:    cmovbq %rcx, %rax
; AVX2-NEXT:    vucomiss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm1
; AVX2-NEXT:    movq $-1, %rcx
; AVX2-NEXT:    cmovaq %rcx, %rax
; AVX2-NEXT:    cmovaq %rcx, %rdx
; AVX2-NEXT:    movq %rdx, 8(%rbx)
; AVX2-NEXT:    movq %rax, (%rbx)
; AVX2-NEXT:    movq %r13, 120(%rbx)
; AVX2-NEXT:    movq %r12, 112(%rbx)
; AVX2-NEXT:    movq %r15, 104(%rbx)
; AVX2-NEXT:    movq %r14, 96(%rbx)
; AVX2-NEXT:    movq %rbp, 88(%rbx)
; AVX2-NEXT:    movq {{[-0-9]+}}(%r{{[sb]}}p), %rax # 8-byte Reload
; AVX2-NEXT:    movq %rax, 80(%rbx)
; AVX2-NEXT:    movq {{[-0-9]+}}(%r{{[sb]}}p), %rax # 8-byte Reload
; AVX2-NEXT:    movq %rax, 72(%rbx)
; AVX2-NEXT:    movq {{[-0-9]+}}(%r{{[sb]}}p), %rax # 8-byte Reload
; AVX2-NEXT:    movq %rax, 64(%rbx)
; AVX2-NEXT:    movq {{[-0-9]+}}(%r{{[sb]}}p), %rax # 8-byte Reload
; AVX2-NEXT:    movq %rax, 56(%rbx)
; AVX2-NEXT:    movq {{[-0-9]+}}(%r{{[sb]}}p), %rax # 8-byte Reload
; AVX2-NEXT:    movq %rax, 48(%rbx)
; AVX2-NEXT:    movq {{[-0-9]+}}(%r{{[sb]}}p), %rax # 8-byte Reload
; AVX2-NEXT:    movq %rax, 40(%rbx)
; AVX2-NEXT:    movq {{[-0-9]+}}(%r{{[sb]}}p), %rax # 8-byte Reload
; AVX2-NEXT:    movq %rax, 32(%rbx)
; AVX2-NEXT:    movq {{[-0-9]+}}(%r{{[sb]}}p), %rax # 8-byte Reload
; AVX2-NEXT:    movq %rax, 24(%rbx)
; AVX2-NEXT:    movq {{[-0-9]+}}(%r{{[sb]}}p), %rax # 8-byte Reload
; AVX2-NEXT:    movq %rax, 16(%rbx)
; AVX2-NEXT:    movq %rbx, %rax
; AVX2-NEXT:    addq $152, %rsp
; AVX2-NEXT:    popq %rbx
; AVX2-NEXT:    popq %r12
; AVX2-NEXT:    popq %r13
; AVX2-NEXT:    popq %r14
; AVX2-NEXT:    popq %r15
; AVX2-NEXT:    popq %rbp
; AVX2-NEXT:    retq
;
; AVX512-LABEL: test_unsigned_v8i128_v8f16:
; AVX512:       # %bb.0:
; AVX512-NEXT:    pushq %rbp
; AVX512-NEXT:    pushq %r15
; AVX512-NEXT:    pushq %r14
; AVX512-NEXT:    pushq %r13
; AVX512-NEXT:    pushq %r12
; AVX512-NEXT:    pushq %rbx
; AVX512-NEXT:    subq $152, %rsp
; AVX512-NEXT:    vmovdqa %xmm0, (%rsp) # 16-byte Spill
; AVX512-NEXT:    movq %rdi, %rbx
; AVX512-NEXT:    vpsrld $16, %xmm0, %xmm1
; AVX512-NEXT:    vcvtph2ps %xmm1, %xmm0
; AVX512-NEXT:    vmovaps %xmm0, {{[-0-9]+}}(%r{{[sb]}}p) # 16-byte Spill
; AVX512-NEXT:    callq __fixunssfti@PLT
; AVX512-NEXT:    xorl %r12d, %r12d
; AVX512-NEXT:    vxorps %xmm0, %xmm0, %xmm0
; AVX512-NEXT:    vmovaps {{[-0-9]+}}(%r{{[sb]}}p), %xmm1 # 16-byte Reload
; AVX512-NEXT:    vucomiss %xmm0, %xmm1
; AVX512-NEXT:    cmovbq %r12, %rdx
; AVX512-NEXT:    cmovbq %r12, %rax
; AVX512-NEXT:    vucomiss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm1
; AVX512-NEXT:    movq $-1, %r13
; AVX512-NEXT:    cmovaq %r13, %rax
; AVX512-NEXT:    movq %rax, {{[-0-9]+}}(%r{{[sb]}}p) # 8-byte Spill
; AVX512-NEXT:    cmovaq %r13, %rdx
; AVX512-NEXT:    movq %rdx, {{[-0-9]+}}(%r{{[sb]}}p) # 8-byte Spill
; AVX512-NEXT:    vmovshdup (%rsp), %xmm0 # 16-byte Folded Reload
; AVX512-NEXT:    # xmm0 = mem[1,1,3,3]
; AVX512-NEXT:    vcvtph2ps %xmm0, %xmm0
; AVX512-NEXT:    vmovaps %xmm0, {{[-0-9]+}}(%r{{[sb]}}p) # 16-byte Spill
; AVX512-NEXT:    callq __fixunssfti@PLT
; AVX512-NEXT:    vxorps %xmm0, %xmm0, %xmm0
; AVX512-NEXT:    vmovaps {{[-0-9]+}}(%r{{[sb]}}p), %xmm1 # 16-byte Reload
; AVX512-NEXT:    vucomiss %xmm0, %xmm1
; AVX512-NEXT:    cmovbq %r12, %rdx
; AVX512-NEXT:    cmovbq %r12, %rax
; AVX512-NEXT:    vucomiss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm1
; AVX512-NEXT:    cmovaq %r13, %rax
; AVX512-NEXT:    movq %rax, {{[-0-9]+}}(%r{{[sb]}}p) # 8-byte Spill
; AVX512-NEXT:    cmovaq %r13, %rdx
; AVX512-NEXT:    movq %rdx, {{[-0-9]+}}(%r{{[sb]}}p) # 8-byte Spill
; AVX512-NEXT:    vpsrlq $48, (%rsp), %xmm0 # 16-byte Folded Reload
; AVX512-NEXT:    vcvtph2ps %xmm0, %xmm0
; AVX512-NEXT:    vmovaps %xmm0, {{[-0-9]+}}(%r{{[sb]}}p) # 16-byte Spill
; AVX512-NEXT:    callq __fixunssfti@PLT
; AVX512-NEXT:    vxorps %xmm0, %xmm0, %xmm0
; AVX512-NEXT:    vmovaps {{[-0-9]+}}(%r{{[sb]}}p), %xmm1 # 16-byte Reload
; AVX512-NEXT:    vucomiss %xmm0, %xmm1
; AVX512-NEXT:    cmovbq %r12, %rdx
; AVX512-NEXT:    cmovbq %r12, %rax
; AVX512-NEXT:    vucomiss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm1
; AVX512-NEXT:    cmovaq %r13, %rax
; AVX512-NEXT:    movq %rax, {{[-0-9]+}}(%r{{[sb]}}p) # 8-byte Spill
; AVX512-NEXT:    cmovaq %r13, %rdx
; AVX512-NEXT:    movq %rdx, {{[-0-9]+}}(%r{{[sb]}}p) # 8-byte Spill
; AVX512-NEXT:    vpermilpd $1, (%rsp), %xmm0 # 16-byte Folded Reload
; AVX512-NEXT:    # xmm0 = mem[1,0]
; AVX512-NEXT:    vcvtph2ps %xmm0, %xmm0
; AVX512-NEXT:    vmovaps %xmm0, {{[-0-9]+}}(%r{{[sb]}}p) # 16-byte Spill
; AVX512-NEXT:    callq __fixunssfti@PLT
; AVX512-NEXT:    vxorps %xmm0, %xmm0, %xmm0
; AVX512-NEXT:    vmovaps {{[-0-9]+}}(%r{{[sb]}}p), %xmm1 # 16-byte Reload
; AVX512-NEXT:    vucomiss %xmm0, %xmm1
; AVX512-NEXT:    cmovbq %r12, %rdx
; AVX512-NEXT:    cmovbq %r12, %rax
; AVX512-NEXT:    vucomiss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm1
; AVX512-NEXT:    cmovaq %r13, %rax
; AVX512-NEXT:    movq %rax, {{[-0-9]+}}(%r{{[sb]}}p) # 8-byte Spill
; AVX512-NEXT:    cmovaq %r13, %rdx
; AVX512-NEXT:    movq %rdx, {{[-0-9]+}}(%r{{[sb]}}p) # 8-byte Spill
; AVX512-NEXT:    vpsrldq $10, (%rsp), %xmm0 # 16-byte Folded Reload
; AVX512-NEXT:    # xmm0 = mem[10,11,12,13,14,15],zero,zero,zero,zero,zero,zero,zero,zero,zero,zero
; AVX512-NEXT:    vcvtph2ps %xmm0, %xmm0
; AVX512-NEXT:    vmovaps %xmm0, {{[-0-9]+}}(%r{{[sb]}}p) # 16-byte Spill
; AVX512-NEXT:    callq __fixunssfti@PLT
; AVX512-NEXT:    movq %rdx, %rbp
; AVX512-NEXT:    vxorps %xmm0, %xmm0, %xmm0
; AVX512-NEXT:    vmovaps {{[-0-9]+}}(%r{{[sb]}}p), %xmm1 # 16-byte Reload
; AVX512-NEXT:    vucomiss %xmm0, %xmm1
; AVX512-NEXT:    cmovbq %r12, %rbp
; AVX512-NEXT:    cmovbq %r12, %rax
; AVX512-NEXT:    vucomiss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm1
; AVX512-NEXT:    cmovaq %r13, %rax
; AVX512-NEXT:    movq %rax, {{[-0-9]+}}(%r{{[sb]}}p) # 8-byte Spill
; AVX512-NEXT:    cmovaq %r13, %rbp
; AVX512-NEXT:    vpermilps $255, (%rsp), %xmm0 # 16-byte Folded Reload
; AVX512-NEXT:    # xmm0 = mem[3,3,3,3]
; AVX512-NEXT:    vcvtph2ps %xmm0, %xmm0
; AVX512-NEXT:    vmovaps %xmm0, {{[-0-9]+}}(%r{{[sb]}}p) # 16-byte Spill
; AVX512-NEXT:    callq __fixunssfti@PLT
; AVX512-NEXT:    movq %rax, %r14
; AVX512-NEXT:    movq %rdx, %r15
; AVX512-NEXT:    vxorps %xmm0, %xmm0, %xmm0
; AVX512-NEXT:    vmovaps {{[-0-9]+}}(%r{{[sb]}}p), %xmm1 # 16-byte Reload
; AVX512-NEXT:    vucomiss %xmm0, %xmm1
; AVX512-NEXT:    cmovbq %r12, %r15
; AVX512-NEXT:    cmovbq %r12, %r14
; AVX512-NEXT:    vucomiss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm1
; AVX512-NEXT:    cmovaq %r13, %r14
; AVX512-NEXT:    cmovaq %r13, %r15
; AVX512-NEXT:    vpsrldq $14, (%rsp), %xmm0 # 16-byte Folded Reload
; AVX512-NEXT:    # xmm0 = mem[14,15],zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero,zero
; AVX512-NEXT:    vcvtph2ps %xmm0, %xmm0
; AVX512-NEXT:    vmovaps %xmm0, {{[-0-9]+}}(%r{{[sb]}}p) # 16-byte Spill
; AVX512-NEXT:    callq __fixunssfti@PLT
; AVX512-NEXT:    movq %rax, %r12
; AVX512-NEXT:    movq %rdx, %r13
; AVX512-NEXT:    vxorps %xmm0, %xmm0, %xmm0
; AVX512-NEXT:    vmovaps {{[-0-9]+}}(%r{{[sb]}}p), %xmm1 # 16-byte Reload
; AVX512-NEXT:    vucomiss %xmm0, %xmm1
; AVX512-NEXT:    movl $0, %eax
; AVX512-NEXT:    cmovbq %rax, %r13
; AVX512-NEXT:    cmovbq %rax, %r12
; AVX512-NEXT:    vucomiss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm1
; AVX512-NEXT:    movq $-1, %rax
; AVX512-NEXT:    cmovaq %rax, %r12
; AVX512-NEXT:    cmovaq %rax, %r13
; AVX512-NEXT:    vcvtph2ps (%rsp), %xmm0 # 16-byte Folded Reload
; AVX512-NEXT:    vmovaps %xmm0, (%rsp) # 16-byte Spill
; AVX512-NEXT:    callq __fixunssfti@PLT
; AVX512-NEXT:    vxorps %xmm0, %xmm0, %xmm0
; AVX512-NEXT:    vmovaps (%rsp), %xmm1 # 16-byte Reload
; AVX512-NEXT:    vucomiss %xmm0, %xmm1
; AVX512-NEXT:    movl $0, %ecx
; AVX512-NEXT:    cmovbq %rcx, %rdx
; AVX512-NEXT:    cmovbq %rcx, %rax
; AVX512-NEXT:    vucomiss {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %xmm1
; AVX512-NEXT:    movq $-1, %rcx
; AVX512-NEXT:    cmovaq %rcx, %rax
; AVX512-NEXT:    cmovaq %rcx, %rdx
; AVX512-NEXT:    movq %rdx, 8(%rbx)
; AVX512-NEXT:    movq %rax, (%rbx)
; AVX512-NEXT:    movq %r13, 120(%rbx)
; AVX512-NEXT:    movq %r12, 112(%rbx)
; AVX512-NEXT:    movq %r15, 104(%rbx)
; AVX512-NEXT:    movq %r14, 96(%rbx)
; AVX512-NEXT:    movq %rbp, 88(%rbx)
; AVX512-NEXT:    movq {{[-0-9]+}}(%r{{[sb]}}p), %rax # 8-byte Reload
; AVX512-NEXT:    movq %rax, 80(%rbx)
; AVX512-NEXT:    movq {{[-0-9]+}}(%r{{[sb]}}p), %rax # 8-byte Reload
; AVX512-NEXT:    movq %rax, 72(%rbx)
; AVX512-NEXT:    movq {{[-0-9]+}}(%r{{[sb]}}p), %rax # 8-byte Reload
; AVX512-NEXT:    movq %rax, 64(%rbx)
; AVX512-NEXT:    movq {{[-0-9]+}}(%r{{[sb]}}p), %rax # 8-byte Reload
; AVX512-NEXT:    movq %rax, 56(%rbx)
; AVX512-NEXT:    movq {{[-0-9]+}}(%r{{[sb]}}p), %rax # 8-byte Reload
; AVX512-NEXT:    movq %rax, 48(%rbx)
; AVX512-NEXT:    movq {{[-0-9]+}}(%r{{[sb]}}p), %rax # 8-byte Reload
; AVX512-NEXT:    movq %rax, 40(%rbx)
; AVX512-NEXT:    movq {{[-0-9]+}}(%r{{[sb]}}p), %rax # 8-byte Reload
; AVX512-NEXT:    movq %rax, 32(%rbx)
; AVX512-NEXT:    movq {{[-0-9]+}}(%r{{[sb]}}p), %rax # 8-byte Reload
; AVX512-NEXT:    movq %rax, 24(%rbx)
; AVX512-NEXT:    movq {{[-0-9]+}}(%r{{[sb]}}p), %rax # 8-byte Reload
; AVX512-NEXT:    movq %rax, 16(%rbx)
; AVX512-NEXT:    movq %rbx, %rax
; AVX512-NEXT:    addq $152, %rsp
; AVX512-NEXT:    popq %rbx
; AVX512-NEXT:    popq %r12
; AVX512-NEXT:    popq %r13
; AVX512-NEXT:    popq %r14
; AVX512-NEXT:    popq %r15
; AVX512-NEXT:    popq %rbp
; AVX512-NEXT:    retq
  %x = call <8 x i128> @llvm.fptoui.sat.v8i128.v8f16(<8 x half> %f)
  ret <8 x i128> %x
}
;; NOTE: These prefixes are unused and the list is autogenerated. Do not add tests below this line:
; CHECK: {{.*}}