[X86] truncateVectorCompareWithPACKSS - use PACKSSDW/PACKSSWB instead of just PACKSSWB.
By using the widest type possible for PACKSS truncation we have a better chance of being able to peek through bitcasts and improves other combines driven by ComputeNumSignBits.
llvm-svn: 316448
diff --git a/llvm/test/CodeGen/X86/vselect-packss.ll b/llvm/test/CodeGen/X86/vselect-packss.ll
index 624a08a..a93e84d 100644
--- a/llvm/test/CodeGen/X86/vselect-packss.ll
+++ b/llvm/test/CodeGen/X86/vselect-packss.ll
@@ -69,20 +69,34 @@
}
define <16 x i8> @vselect_packss_v16i32(<16 x i32> %a0, <16 x i32> %a1, <16 x i8> %a2, <16 x i8> %a3) {
-; SSE-LABEL: vselect_packss_v16i32:
-; SSE: # BB#0:
-; SSE-NEXT: pcmpeqd %xmm7, %xmm3
-; SSE-NEXT: pcmpeqd %xmm6, %xmm2
-; SSE-NEXT: packsswb %xmm3, %xmm2
-; SSE-NEXT: pcmpeqd %xmm5, %xmm1
-; SSE-NEXT: pcmpeqd %xmm4, %xmm0
-; SSE-NEXT: packsswb %xmm1, %xmm0
-; SSE-NEXT: packsswb %xmm2, %xmm0
-; SSE-NEXT: movdqa {{[0-9]+}}(%rsp), %xmm1
-; SSE-NEXT: pand %xmm0, %xmm1
-; SSE-NEXT: pandn {{[0-9]+}}(%rsp), %xmm0
-; SSE-NEXT: por %xmm1, %xmm0
-; SSE-NEXT: retq
+; SSE2-LABEL: vselect_packss_v16i32:
+; SSE2: # BB#0:
+; SSE2-NEXT: pcmpeqd %xmm7, %xmm3
+; SSE2-NEXT: pcmpeqd %xmm6, %xmm2
+; SSE2-NEXT: packssdw %xmm3, %xmm2
+; SSE2-NEXT: pcmpeqd %xmm5, %xmm1
+; SSE2-NEXT: pcmpeqd %xmm4, %xmm0
+; SSE2-NEXT: packssdw %xmm1, %xmm0
+; SSE2-NEXT: packsswb %xmm2, %xmm0
+; SSE2-NEXT: movdqa {{[0-9]+}}(%rsp), %xmm1
+; SSE2-NEXT: pand %xmm0, %xmm1
+; SSE2-NEXT: pandn {{[0-9]+}}(%rsp), %xmm0
+; SSE2-NEXT: por %xmm1, %xmm0
+; SSE2-NEXT: retq
+;
+; SSE42-LABEL: vselect_packss_v16i32:
+; SSE42: # BB#0:
+; SSE42-NEXT: movdqa {{[0-9]+}}(%rsp), %xmm8
+; SSE42-NEXT: pcmpeqd %xmm7, %xmm3
+; SSE42-NEXT: pcmpeqd %xmm6, %xmm2
+; SSE42-NEXT: packssdw %xmm3, %xmm2
+; SSE42-NEXT: pcmpeqd %xmm5, %xmm1
+; SSE42-NEXT: pcmpeqd %xmm4, %xmm0
+; SSE42-NEXT: packssdw %xmm1, %xmm0
+; SSE42-NEXT: packsswb %xmm2, %xmm0
+; SSE42-NEXT: pblendvb %xmm0, {{[0-9]+}}(%rsp), %xmm8
+; SSE42-NEXT: movdqa %xmm8, %xmm0
+; SSE42-NEXT: retq
;
; AVX1-LABEL: vselect_packss_v16i32:
; AVX1: # BB#0:
@@ -90,16 +104,14 @@
; AVX1-NEXT: vextractf128 $1, %ymm1, %xmm7
; AVX1-NEXT: vpcmpeqd %xmm6, %xmm7, %xmm6
; AVX1-NEXT: vpcmpeqd %xmm3, %xmm1, %xmm1
-; AVX1-NEXT: vpacksswb %xmm6, %xmm1, %xmm1
+; AVX1-NEXT: vpackssdw %xmm6, %xmm1, %xmm1
; AVX1-NEXT: vextractf128 $1, %ymm2, %xmm3
; AVX1-NEXT: vextractf128 $1, %ymm0, %xmm6
; AVX1-NEXT: vpcmpeqd %xmm3, %xmm6, %xmm3
; AVX1-NEXT: vpcmpeqd %xmm2, %xmm0, %xmm0
-; AVX1-NEXT: vpacksswb %xmm3, %xmm0, %xmm0
+; AVX1-NEXT: vpackssdw %xmm3, %xmm0, %xmm0
; AVX1-NEXT: vpacksswb %xmm1, %xmm0, %xmm0
-; AVX1-NEXT: vpand %xmm4, %xmm0, %xmm1
-; AVX1-NEXT: vpandn %xmm5, %xmm0, %xmm0
-; AVX1-NEXT: vpor %xmm0, %xmm1, %xmm0
+; AVX1-NEXT: vpblendvb %xmm0, %xmm4, %xmm5, %xmm0
; AVX1-NEXT: vzeroupper
; AVX1-NEXT: retq
;
@@ -145,30 +157,30 @@
; SSE2-NEXT: pcmpeqd {{[0-9]+}}(%rsp), %xmm6
; SSE2-NEXT: pshufd {{.*#+}} xmm7 = xmm6[1,0,3,2]
; SSE2-NEXT: pand %xmm6, %xmm7
-; SSE2-NEXT: packsswb %xmm8, %xmm7
+; SSE2-NEXT: packssdw %xmm8, %xmm7
; SSE2-NEXT: pcmpeqd {{[0-9]+}}(%rsp), %xmm5
; SSE2-NEXT: pshufd {{.*#+}} xmm6 = xmm5[1,0,3,2]
; SSE2-NEXT: pand %xmm5, %xmm6
; SSE2-NEXT: pcmpeqd {{[0-9]+}}(%rsp), %xmm4
; SSE2-NEXT: pshufd {{.*#+}} xmm5 = xmm4[1,0,3,2]
; SSE2-NEXT: pand %xmm4, %xmm5
-; SSE2-NEXT: packsswb %xmm6, %xmm5
-; SSE2-NEXT: packsswb %xmm7, %xmm5
+; SSE2-NEXT: packssdw %xmm6, %xmm5
+; SSE2-NEXT: packssdw %xmm7, %xmm5
; SSE2-NEXT: pcmpeqd {{[0-9]+}}(%rsp), %xmm3
; SSE2-NEXT: pshufd {{.*#+}} xmm4 = xmm3[1,0,3,2]
; SSE2-NEXT: pand %xmm3, %xmm4
; SSE2-NEXT: pcmpeqd {{[0-9]+}}(%rsp), %xmm2
; SSE2-NEXT: pshufd {{.*#+}} xmm3 = xmm2[1,0,3,2]
; SSE2-NEXT: pand %xmm2, %xmm3
-; SSE2-NEXT: packsswb %xmm4, %xmm3
+; SSE2-NEXT: packssdw %xmm4, %xmm3
; SSE2-NEXT: pcmpeqd {{[0-9]+}}(%rsp), %xmm1
; SSE2-NEXT: pshufd {{.*#+}} xmm2 = xmm1[1,0,3,2]
; SSE2-NEXT: pand %xmm1, %xmm2
; SSE2-NEXT: pcmpeqd {{[0-9]+}}(%rsp), %xmm0
; SSE2-NEXT: pshufd {{.*#+}} xmm1 = xmm0[1,0,3,2]
; SSE2-NEXT: pand %xmm0, %xmm1
-; SSE2-NEXT: packsswb %xmm2, %xmm1
-; SSE2-NEXT: packsswb %xmm3, %xmm1
+; SSE2-NEXT: packssdw %xmm2, %xmm1
+; SSE2-NEXT: packssdw %xmm3, %xmm1
; SSE2-NEXT: packsswb %xmm5, %xmm1
; SSE2-NEXT: movdqa {{[0-9]+}}(%rsp), %xmm0
; SSE2-NEXT: pand %xmm1, %xmm0
@@ -181,18 +193,18 @@
; SSE42: # BB#0:
; SSE42-NEXT: pcmpeqq {{[0-9]+}}(%rsp), %xmm7
; SSE42-NEXT: pcmpeqq {{[0-9]+}}(%rsp), %xmm6
-; SSE42-NEXT: packsswb %xmm7, %xmm6
+; SSE42-NEXT: packssdw %xmm7, %xmm6
; SSE42-NEXT: pcmpeqq {{[0-9]+}}(%rsp), %xmm5
; SSE42-NEXT: pcmpeqq {{[0-9]+}}(%rsp), %xmm4
-; SSE42-NEXT: packsswb %xmm5, %xmm4
-; SSE42-NEXT: packsswb %xmm6, %xmm4
+; SSE42-NEXT: packssdw %xmm5, %xmm4
+; SSE42-NEXT: packssdw %xmm6, %xmm4
; SSE42-NEXT: pcmpeqq {{[0-9]+}}(%rsp), %xmm3
; SSE42-NEXT: pcmpeqq {{[0-9]+}}(%rsp), %xmm2
-; SSE42-NEXT: packsswb %xmm3, %xmm2
+; SSE42-NEXT: packssdw %xmm3, %xmm2
; SSE42-NEXT: pcmpeqq {{[0-9]+}}(%rsp), %xmm1
; SSE42-NEXT: pcmpeqq {{[0-9]+}}(%rsp), %xmm0
-; SSE42-NEXT: packsswb %xmm1, %xmm0
-; SSE42-NEXT: packsswb %xmm2, %xmm0
+; SSE42-NEXT: packssdw %xmm1, %xmm0
+; SSE42-NEXT: packssdw %xmm2, %xmm0
; SSE42-NEXT: packsswb %xmm4, %xmm0
; SSE42-NEXT: movdqa {{[0-9]+}}(%rsp), %xmm1
; SSE42-NEXT: pand %xmm0, %xmm1
@@ -206,24 +218,24 @@
; AVX1-NEXT: vextractf128 $1, %ymm3, %xmm9
; AVX1-NEXT: vpcmpeqq %xmm8, %xmm9, %xmm8
; AVX1-NEXT: vpcmpeqq %xmm7, %xmm3, %xmm3
-; AVX1-NEXT: vpacksswb %xmm8, %xmm3, %xmm8
+; AVX1-NEXT: vpackssdw %xmm8, %xmm3, %xmm8
; AVX1-NEXT: vextractf128 $1, %ymm6, %xmm7
; AVX1-NEXT: vextractf128 $1, %ymm2, %xmm3
; AVX1-NEXT: vpcmpeqq %xmm7, %xmm3, %xmm3
; AVX1-NEXT: vpcmpeqq %xmm6, %xmm2, %xmm2
-; AVX1-NEXT: vpacksswb %xmm3, %xmm2, %xmm2
-; AVX1-NEXT: vpacksswb %xmm8, %xmm2, %xmm2
+; AVX1-NEXT: vpackssdw %xmm3, %xmm2, %xmm2
+; AVX1-NEXT: vpackssdw %xmm8, %xmm2, %xmm2
; AVX1-NEXT: vextractf128 $1, %ymm5, %xmm3
; AVX1-NEXT: vextractf128 $1, %ymm1, %xmm6
; AVX1-NEXT: vpcmpeqq %xmm3, %xmm6, %xmm3
; AVX1-NEXT: vpcmpeqq %xmm5, %xmm1, %xmm1
-; AVX1-NEXT: vpacksswb %xmm3, %xmm1, %xmm1
+; AVX1-NEXT: vpackssdw %xmm3, %xmm1, %xmm1
; AVX1-NEXT: vextractf128 $1, %ymm4, %xmm3
; AVX1-NEXT: vextractf128 $1, %ymm0, %xmm5
; AVX1-NEXT: vpcmpeqq %xmm3, %xmm5, %xmm3
; AVX1-NEXT: vpcmpeqq %xmm4, %xmm0, %xmm0
-; AVX1-NEXT: vpacksswb %xmm3, %xmm0, %xmm0
-; AVX1-NEXT: vpacksswb %xmm1, %xmm0, %xmm0
+; AVX1-NEXT: vpackssdw %xmm3, %xmm0, %xmm0
+; AVX1-NEXT: vpackssdw %xmm1, %xmm0, %xmm0
; AVX1-NEXT: vpacksswb %xmm2, %xmm0, %xmm0
; AVX1-NEXT: vpand {{[0-9]+}}(%rsp), %xmm0, %xmm1
; AVX1-NEXT: vpandn {{[0-9]+}}(%rsp), %xmm0, %xmm0
@@ -235,11 +247,11 @@
; AVX2: # BB#0:
; AVX2-NEXT: vpcmpeqq %ymm7, %ymm3, %ymm3
; AVX2-NEXT: vpcmpeqq %ymm6, %ymm2, %ymm2
-; AVX2-NEXT: vpacksswb %ymm3, %ymm2, %ymm2
+; AVX2-NEXT: vpackssdw %ymm3, %ymm2, %ymm2
; AVX2-NEXT: vpermq {{.*#+}} ymm2 = ymm2[0,2,1,3]
; AVX2-NEXT: vpcmpeqq %ymm5, %ymm1, %ymm1
; AVX2-NEXT: vpcmpeqq %ymm4, %ymm0, %ymm0
-; AVX2-NEXT: vpacksswb %ymm1, %ymm0, %ymm0
+; AVX2-NEXT: vpackssdw %ymm1, %ymm0, %ymm0
; AVX2-NEXT: vpermq {{.*#+}} ymm0 = ymm0[0,2,1,3]
; AVX2-NEXT: vpacksswb %ymm2, %ymm0, %ymm0
; AVX2-NEXT: vpermq {{.*#+}} ymm0 = ymm0[0,2,1,3]