blob: 8a5b5a272d4c71d4941512cf8442f2e01d75daa6 [file] [log] [blame]
Craig Topper007baa92012-01-25 06:23:23 +00001// RUN: %clang_cc1 -DUSE_64 -triple x86_64-unknown-unknown -emit-llvm -o %t %s
2// RUN: %clang_cc1 -DUSE_ALL -triple x86_64-unknown-unknown -fsyntax-only -o %t %s
Daniel Dunbareb154252008-10-05 06:38:36 +00003
4#ifdef USE_ALL
5#define USE_3DNOW
6#define USE_64
7#define USE_SSE4
8#endif
9
10// 64-bit
11typedef char V8c __attribute__((vector_size(8 * sizeof(char))));
12typedef signed short V4s __attribute__((vector_size(8)));
13typedef signed int V2i __attribute__((vector_size(8)));
14typedef signed long long V1LLi __attribute__((vector_size(8)));
15
16typedef float V2f __attribute__((vector_size(8)));
17
18// 128-bit
19typedef char V16c __attribute__((vector_size(16)));
20typedef signed short V8s __attribute__((vector_size(16)));
21typedef signed int V4i __attribute__((vector_size(16)));
22typedef signed long long V2LLi __attribute__((vector_size(16)));
23
24typedef float V4f __attribute__((vector_size(16)));
25typedef double V2d __attribute__((vector_size(16)));
26
Bruno Cardoso Lopes5ce94622010-08-03 01:57:18 +000027// 256-bit
Bruno Cardoso Lopese898ed52010-08-04 01:11:26 +000028typedef char V32c __attribute__((vector_size(32)));
Bruno Cardoso Lopes5ce94622010-08-03 01:57:18 +000029typedef signed int V8i __attribute__((vector_size(32)));
30typedef signed long long V4LLi __attribute__((vector_size(32)));
31
32typedef double V4d __attribute__((vector_size(32)));
33typedef float V8f __attribute__((vector_size(32)));
34
Daniel Dunbareb154252008-10-05 06:38:36 +000035void f0() {
36 signed char tmp_c;
37// unsigned char tmp_Uc;
38 signed short tmp_s;
39#ifdef USE_ALL
40 unsigned short tmp_Us;
41#endif
42 signed int tmp_i;
43 unsigned int tmp_Ui;
44 signed long long tmp_LLi;
45// unsigned long long tmp_ULLi;
46 float tmp_f;
47 double tmp_d;
48
49 void* tmp_vp;
50 const void* tmp_vCp;
51 char* tmp_cp;
52 const char* tmp_cCp;
53 int* tmp_ip;
54 float* tmp_fp;
55 const float* tmp_fCp;
56 double* tmp_dp;
57 const double* tmp_dCp;
Eli Friedman440a5f42013-09-23 23:38:39 +000058 long long* tmp_LLip;
Daniel Dunbareb154252008-10-05 06:38:36 +000059
60#define imm_i 32
61#define imm_i_0_2 0
62#define imm_i_0_4 3
63#define imm_i_0_8 7
64#define imm_i_0_16 15
65 // Check this.
66#define imm_i_0_256 0
67
68 V2i* tmp_V2ip;
69 V1LLi* tmp_V1LLip;
70 V2LLi* tmp_V2LLip;
71
72 // 64-bit
73 V8c tmp_V8c;
74 V4s tmp_V4s;
75 V2i tmp_V2i;
76 V1LLi tmp_V1LLi;
77#ifdef USE_3DNOW
78 V2f tmp_V2f;
79#endif
80
81 // 128-bit
82 V16c tmp_V16c;
83 V8s tmp_V8s;
84 V4i tmp_V4i;
85 V2LLi tmp_V2LLi;
86 V4f tmp_V4f;
87 V2d tmp_V2d;
Bruno Cardoso Lopese898ed52010-08-04 01:11:26 +000088 V2d* tmp_V2dp;
89 V4f* tmp_V4fp;
90 const V2d* tmp_V2dCp;
91 const V4f* tmp_V4fCp;
Daniel Dunbareb154252008-10-05 06:38:36 +000092
Bruno Cardoso Lopes5ce94622010-08-03 01:57:18 +000093 // 256-bit
Bruno Cardoso Lopese898ed52010-08-04 01:11:26 +000094 V32c tmp_V32c;
Bruno Cardoso Lopes5ce94622010-08-03 01:57:18 +000095 V4d tmp_V4d;
96 V8f tmp_V8f;
97 V4LLi tmp_V4LLi;
98 V8i tmp_V8i;
Bruno Cardoso Lopese898ed52010-08-04 01:11:26 +000099 V4LLi* tmp_V4LLip;
100 V4d* tmp_V4dp;
101 V8f* tmp_V8fp;
102 const V4d* tmp_V4dCp;
103 const V8f* tmp_V8fCp;
Bruno Cardoso Lopes5ce94622010-08-03 01:57:18 +0000104
Daniel Dunbareb154252008-10-05 06:38:36 +0000105 tmp_i = __builtin_ia32_comieq(tmp_V4f, tmp_V4f);
106 tmp_i = __builtin_ia32_comilt(tmp_V4f, tmp_V4f);
107 tmp_i = __builtin_ia32_comile(tmp_V4f, tmp_V4f);
108 tmp_i = __builtin_ia32_comigt(tmp_V4f, tmp_V4f);
109 tmp_i = __builtin_ia32_comige(tmp_V4f, tmp_V4f);
110 tmp_i = __builtin_ia32_comineq(tmp_V4f, tmp_V4f);
111 tmp_i = __builtin_ia32_ucomieq(tmp_V4f, tmp_V4f);
112 tmp_i = __builtin_ia32_ucomilt(tmp_V4f, tmp_V4f);
113 tmp_i = __builtin_ia32_ucomile(tmp_V4f, tmp_V4f);
114 tmp_i = __builtin_ia32_ucomigt(tmp_V4f, tmp_V4f);
115 tmp_i = __builtin_ia32_ucomige(tmp_V4f, tmp_V4f);
116 tmp_i = __builtin_ia32_ucomineq(tmp_V4f, tmp_V4f);
117 tmp_i = __builtin_ia32_comisdeq(tmp_V2d, tmp_V2d);
118 tmp_i = __builtin_ia32_comisdlt(tmp_V2d, tmp_V2d);
119 tmp_i = __builtin_ia32_comisdle(tmp_V2d, tmp_V2d);
120 tmp_i = __builtin_ia32_comisdgt(tmp_V2d, tmp_V2d);
121 tmp_i = __builtin_ia32_comisdge(tmp_V2d, tmp_V2d);
122 tmp_i = __builtin_ia32_comisdneq(tmp_V2d, tmp_V2d);
123 tmp_i = __builtin_ia32_ucomisdeq(tmp_V2d, tmp_V2d);
124 tmp_i = __builtin_ia32_ucomisdlt(tmp_V2d, tmp_V2d);
125 tmp_i = __builtin_ia32_ucomisdle(tmp_V2d, tmp_V2d);
126 tmp_i = __builtin_ia32_ucomisdgt(tmp_V2d, tmp_V2d);
127 tmp_i = __builtin_ia32_ucomisdge(tmp_V2d, tmp_V2d);
128 tmp_i = __builtin_ia32_ucomisdneq(tmp_V2d, tmp_V2d);
Anders Carlsson79dcf5f2009-05-18 19:16:46 +0000129 tmp_V4f = __builtin_ia32_cmpps(tmp_V4f, tmp_V4f, 0);
130 tmp_V4f = __builtin_ia32_cmpps(tmp_V4f, tmp_V4f, 1);
131 tmp_V4f = __builtin_ia32_cmpps(tmp_V4f, tmp_V4f, 2);
132 tmp_V4f = __builtin_ia32_cmpps(tmp_V4f, tmp_V4f, 3);
133 tmp_V4f = __builtin_ia32_cmpps(tmp_V4f, tmp_V4f, 4);
134 tmp_V4f = __builtin_ia32_cmpps(tmp_V4f, tmp_V4f, 5);
135 tmp_V4f = __builtin_ia32_cmpps(tmp_V4f, tmp_V4f, 6);
136 tmp_V4f = __builtin_ia32_cmpps(tmp_V4f, tmp_V4f, 7);
137 tmp_V4f = __builtin_ia32_cmpss(tmp_V4f, tmp_V4f, 0);
138 tmp_V4f = __builtin_ia32_cmpss(tmp_V4f, tmp_V4f, 1);
139 tmp_V4f = __builtin_ia32_cmpss(tmp_V4f, tmp_V4f, 2);
140 tmp_V4f = __builtin_ia32_cmpss(tmp_V4f, tmp_V4f, 3);
141 tmp_V4f = __builtin_ia32_cmpss(tmp_V4f, tmp_V4f, 4);
142 tmp_V4f = __builtin_ia32_cmpss(tmp_V4f, tmp_V4f, 5);
143 tmp_V4f = __builtin_ia32_cmpss(tmp_V4f, tmp_V4f, 6);
144 tmp_V4f = __builtin_ia32_cmpss(tmp_V4f, tmp_V4f, 7);
Daniel Dunbareb154252008-10-05 06:38:36 +0000145 tmp_V4f = __builtin_ia32_minps(tmp_V4f, tmp_V4f);
146 tmp_V4f = __builtin_ia32_maxps(tmp_V4f, tmp_V4f);
147 tmp_V4f = __builtin_ia32_minss(tmp_V4f, tmp_V4f);
148 tmp_V4f = __builtin_ia32_maxss(tmp_V4f, tmp_V4f);
Daniel Dunbareb154252008-10-05 06:38:36 +0000149
Daniel Dunbareb154252008-10-05 06:38:36 +0000150 tmp_V8c = __builtin_ia32_paddsb(tmp_V8c, tmp_V8c);
151 tmp_V4s = __builtin_ia32_paddsw(tmp_V4s, tmp_V4s);
152 tmp_V8c = __builtin_ia32_psubsb(tmp_V8c, tmp_V8c);
153 tmp_V4s = __builtin_ia32_psubsw(tmp_V4s, tmp_V4s);
154 tmp_V8c = __builtin_ia32_paddusb(tmp_V8c, tmp_V8c);
155 tmp_V4s = __builtin_ia32_paddusw(tmp_V4s, tmp_V4s);
156 tmp_V8c = __builtin_ia32_psubusb(tmp_V8c, tmp_V8c);
157 tmp_V4s = __builtin_ia32_psubusw(tmp_V4s, tmp_V4s);
Daniel Dunbareb154252008-10-05 06:38:36 +0000158 tmp_V4s = __builtin_ia32_pmulhw(tmp_V4s, tmp_V4s);
159 tmp_V4s = __builtin_ia32_pmulhuw(tmp_V4s, tmp_V4s);
Daniel Dunbareb154252008-10-05 06:38:36 +0000160 tmp_V8c = __builtin_ia32_pavgb(tmp_V8c, tmp_V8c);
161 tmp_V4s = __builtin_ia32_pavgw(tmp_V4s, tmp_V4s);
162 tmp_V8c = __builtin_ia32_pcmpeqb(tmp_V8c, tmp_V8c);
163 tmp_V4s = __builtin_ia32_pcmpeqw(tmp_V4s, tmp_V4s);
164 tmp_V2i = __builtin_ia32_pcmpeqd(tmp_V2i, tmp_V2i);
165 tmp_V8c = __builtin_ia32_pcmpgtb(tmp_V8c, tmp_V8c);
166 tmp_V4s = __builtin_ia32_pcmpgtw(tmp_V4s, tmp_V4s);
167 tmp_V2i = __builtin_ia32_pcmpgtd(tmp_V2i, tmp_V2i);
168 tmp_V8c = __builtin_ia32_pmaxub(tmp_V8c, tmp_V8c);
169 tmp_V4s = __builtin_ia32_pmaxsw(tmp_V4s, tmp_V4s);
170 tmp_V8c = __builtin_ia32_pminub(tmp_V8c, tmp_V8c);
171 tmp_V4s = __builtin_ia32_pminsw(tmp_V4s, tmp_V4s);
Anders Carlsson79dcf5f2009-05-18 19:16:46 +0000172 tmp_V2d = __builtin_ia32_cmppd(tmp_V2d, tmp_V2d, 0);
173 tmp_V2d = __builtin_ia32_cmppd(tmp_V2d, tmp_V2d, 1);
174 tmp_V2d = __builtin_ia32_cmppd(tmp_V2d, tmp_V2d, 2);
175 tmp_V2d = __builtin_ia32_cmppd(tmp_V2d, tmp_V2d, 3);
176 tmp_V2d = __builtin_ia32_cmppd(tmp_V2d, tmp_V2d, 4);
177 tmp_V2d = __builtin_ia32_cmppd(tmp_V2d, tmp_V2d, 5);
178 tmp_V2d = __builtin_ia32_cmppd(tmp_V2d, tmp_V2d, 6);
179 tmp_V2d = __builtin_ia32_cmppd(tmp_V2d, tmp_V2d, 7);
180 tmp_V2d = __builtin_ia32_cmpsd(tmp_V2d, tmp_V2d, 0);
181 tmp_V2d = __builtin_ia32_cmpsd(tmp_V2d, tmp_V2d, 1);
182 tmp_V2d = __builtin_ia32_cmpsd(tmp_V2d, tmp_V2d, 2);
183 tmp_V2d = __builtin_ia32_cmpsd(tmp_V2d, tmp_V2d, 3);
184 tmp_V2d = __builtin_ia32_cmpsd(tmp_V2d, tmp_V2d, 4);
185 tmp_V2d = __builtin_ia32_cmpsd(tmp_V2d, tmp_V2d, 5);
186 tmp_V2d = __builtin_ia32_cmpsd(tmp_V2d, tmp_V2d, 6);
187 tmp_V2d = __builtin_ia32_cmpsd(tmp_V2d, tmp_V2d, 7);
Daniel Dunbareb154252008-10-05 06:38:36 +0000188 tmp_V2d = __builtin_ia32_minpd(tmp_V2d, tmp_V2d);
189 tmp_V2d = __builtin_ia32_maxpd(tmp_V2d, tmp_V2d);
190 tmp_V2d = __builtin_ia32_minsd(tmp_V2d, tmp_V2d);
191 tmp_V2d = __builtin_ia32_maxsd(tmp_V2d, tmp_V2d);
Daniel Dunbareb154252008-10-05 06:38:36 +0000192 tmp_V16c = __builtin_ia32_paddsb128(tmp_V16c, tmp_V16c);
193 tmp_V8s = __builtin_ia32_paddsw128(tmp_V8s, tmp_V8s);
194 tmp_V16c = __builtin_ia32_psubsb128(tmp_V16c, tmp_V16c);
195 tmp_V8s = __builtin_ia32_psubsw128(tmp_V8s, tmp_V8s);
196 tmp_V16c = __builtin_ia32_paddusb128(tmp_V16c, tmp_V16c);
197 tmp_V8s = __builtin_ia32_paddusw128(tmp_V8s, tmp_V8s);
198 tmp_V16c = __builtin_ia32_psubusb128(tmp_V16c, tmp_V16c);
199 tmp_V8s = __builtin_ia32_psubusw128(tmp_V8s, tmp_V8s);
Daniel Dunbareb154252008-10-05 06:38:36 +0000200 tmp_V8s = __builtin_ia32_pmulhw128(tmp_V8s, tmp_V8s);
Daniel Dunbareb154252008-10-05 06:38:36 +0000201 tmp_V16c = __builtin_ia32_pavgb128(tmp_V16c, tmp_V16c);
202 tmp_V8s = __builtin_ia32_pavgw128(tmp_V8s, tmp_V8s);
Daniel Dunbareb154252008-10-05 06:38:36 +0000203 tmp_V16c = __builtin_ia32_pmaxub128(tmp_V16c, tmp_V16c);
204 tmp_V8s = __builtin_ia32_pmaxsw128(tmp_V8s, tmp_V8s);
205 tmp_V16c = __builtin_ia32_pminub128(tmp_V16c, tmp_V16c);
206 tmp_V8s = __builtin_ia32_pminsw128(tmp_V8s, tmp_V8s);
Daniel Dunbareb154252008-10-05 06:38:36 +0000207 tmp_V8s = __builtin_ia32_packsswb128(tmp_V8s, tmp_V8s);
208 tmp_V4i = __builtin_ia32_packssdw128(tmp_V4i, tmp_V4i);
209 tmp_V8s = __builtin_ia32_packuswb128(tmp_V8s, tmp_V8s);
210 tmp_V8s = __builtin_ia32_pmulhuw128(tmp_V8s, tmp_V8s);
211 tmp_V4f = __builtin_ia32_addsubps(tmp_V4f, tmp_V4f);
212 tmp_V2d = __builtin_ia32_addsubpd(tmp_V2d, tmp_V2d);
213 tmp_V4f = __builtin_ia32_haddps(tmp_V4f, tmp_V4f);
214 tmp_V2d = __builtin_ia32_haddpd(tmp_V2d, tmp_V2d);
215 tmp_V4f = __builtin_ia32_hsubps(tmp_V4f, tmp_V4f);
216 tmp_V2d = __builtin_ia32_hsubpd(tmp_V2d, tmp_V2d);
217 tmp_V8s = __builtin_ia32_phaddw128(tmp_V8s, tmp_V8s);
218 tmp_V4s = __builtin_ia32_phaddw(tmp_V4s, tmp_V4s);
219 tmp_V4i = __builtin_ia32_phaddd128(tmp_V4i, tmp_V4i);
220 tmp_V2i = __builtin_ia32_phaddd(tmp_V2i, tmp_V2i);
221 tmp_V8s = __builtin_ia32_phaddsw128(tmp_V8s, tmp_V8s);
222 tmp_V4s = __builtin_ia32_phaddsw(tmp_V4s, tmp_V4s);
223 tmp_V8s = __builtin_ia32_phsubw128(tmp_V8s, tmp_V8s);
224 tmp_V4s = __builtin_ia32_phsubw(tmp_V4s, tmp_V4s);
225 tmp_V4i = __builtin_ia32_phsubd128(tmp_V4i, tmp_V4i);
226 tmp_V2i = __builtin_ia32_phsubd(tmp_V2i, tmp_V2i);
227 tmp_V8s = __builtin_ia32_phsubsw128(tmp_V8s, tmp_V8s);
228 tmp_V4s = __builtin_ia32_phsubsw(tmp_V4s, tmp_V4s);
229 tmp_V16c = __builtin_ia32_pmaddubsw128(tmp_V16c, tmp_V16c);
230 tmp_V8c = __builtin_ia32_pmaddubsw(tmp_V8c, tmp_V8c);
231 tmp_V8s = __builtin_ia32_pmulhrsw128(tmp_V8s, tmp_V8s);
232 tmp_V4s = __builtin_ia32_pmulhrsw(tmp_V4s, tmp_V4s);
233 tmp_V16c = __builtin_ia32_pshufb128(tmp_V16c, tmp_V16c);
234 tmp_V8c = __builtin_ia32_pshufb(tmp_V8c, tmp_V8c);
235 tmp_V16c = __builtin_ia32_psignb128(tmp_V16c, tmp_V16c);
236 tmp_V8c = __builtin_ia32_psignb(tmp_V8c, tmp_V8c);
237 tmp_V8s = __builtin_ia32_psignw128(tmp_V8s, tmp_V8s);
238 tmp_V4s = __builtin_ia32_psignw(tmp_V4s, tmp_V4s);
239 tmp_V4i = __builtin_ia32_psignd128(tmp_V4i, tmp_V4i);
240 tmp_V2i = __builtin_ia32_psignd(tmp_V2i, tmp_V2i);
241 tmp_V16c = __builtin_ia32_pabsb128(tmp_V16c);
242 tmp_V8c = __builtin_ia32_pabsb(tmp_V8c);
243 tmp_V8s = __builtin_ia32_pabsw128(tmp_V8s);
244 tmp_V4s = __builtin_ia32_pabsw(tmp_V4s);
245 tmp_V4i = __builtin_ia32_pabsd128(tmp_V4i);
246 tmp_V2i = __builtin_ia32_pabsd(tmp_V2i);
247 tmp_V4s = __builtin_ia32_psllw(tmp_V4s, tmp_V1LLi);
248 tmp_V2i = __builtin_ia32_pslld(tmp_V2i, tmp_V1LLi);
249 tmp_V1LLi = __builtin_ia32_psllq(tmp_V1LLi, tmp_V1LLi);
250 tmp_V4s = __builtin_ia32_psrlw(tmp_V4s, tmp_V1LLi);
251 tmp_V2i = __builtin_ia32_psrld(tmp_V2i, tmp_V1LLi);
252 tmp_V1LLi = __builtin_ia32_psrlq(tmp_V1LLi, tmp_V1LLi);
253 tmp_V4s = __builtin_ia32_psraw(tmp_V4s, tmp_V1LLi);
254 tmp_V2i = __builtin_ia32_psrad(tmp_V2i, tmp_V1LLi);
Daniel Dunbareb154252008-10-05 06:38:36 +0000255 tmp_V2i = __builtin_ia32_pmaddwd(tmp_V4s, tmp_V4s);
256 tmp_V8c = __builtin_ia32_packsswb(tmp_V4s, tmp_V4s);
257 tmp_V4s = __builtin_ia32_packssdw(tmp_V2i, tmp_V2i);
258 tmp_V8c = __builtin_ia32_packuswb(tmp_V4s, tmp_V4s);
Argyrios Kyrtzidis1944ec12010-10-10 03:19:11 +0000259 tmp_i = __builtin_ia32_vec_ext_v2si(tmp_V2i, 0);
Daniel Dunbareb154252008-10-05 06:38:36 +0000260
261 (void) __builtin_ia32_ldmxcsr(tmp_Ui);
262 tmp_Ui = __builtin_ia32_stmxcsr();
263 tmp_V4f = __builtin_ia32_cvtpi2ps(tmp_V4f, tmp_V2i);
264 tmp_V2i = __builtin_ia32_cvtps2pi(tmp_V4f);
Daniel Dunbareb154252008-10-05 06:38:36 +0000265 tmp_i = __builtin_ia32_cvtss2si(tmp_V4f);
Stephen Hines6bcf27b2014-05-29 04:14:42 -0700266
267 tmp_i = __builtin_ia32_rdtsc();
268 tmp_i = __builtin_ia32_rdtscp(&tmp_Ui);
Stephen Hinesc568f1e2014-07-21 00:47:37 -0700269 tmp_LLi = __builtin_ia32_rdpmc(tmp_i);
Daniel Dunbareb154252008-10-05 06:38:36 +0000270#ifdef USE_64
271 tmp_LLi = __builtin_ia32_cvtss2si64(tmp_V4f);
272#endif
273 tmp_V2i = __builtin_ia32_cvttps2pi(tmp_V4f);
Daniel Dunbareb154252008-10-05 06:38:36 +0000274 (void) __builtin_ia32_maskmovq(tmp_V8c, tmp_V8c, tmp_cp);
Daniel Dunbareb154252008-10-05 06:38:36 +0000275 (void) __builtin_ia32_storeups(tmp_fp, tmp_V4f);
Daniel Dunbareb154252008-10-05 06:38:36 +0000276 (void) __builtin_ia32_storehps(tmp_V2ip, tmp_V4f);
277 (void) __builtin_ia32_storelps(tmp_V2ip, tmp_V4f);
278 tmp_i = __builtin_ia32_movmskps(tmp_V4f);
279 tmp_i = __builtin_ia32_pmovmskb(tmp_V8c);
280 (void) __builtin_ia32_movntps(tmp_fp, tmp_V4f);
281 (void) __builtin_ia32_movntq(tmp_V1LLip, tmp_V1LLi);
282 (void) __builtin_ia32_sfence();
283
284 tmp_V4s = __builtin_ia32_psadbw(tmp_V8c, tmp_V8c);
285 tmp_V4f = __builtin_ia32_rcpps(tmp_V4f);
286 tmp_V4f = __builtin_ia32_rcpss(tmp_V4f);
287 tmp_V4f = __builtin_ia32_rsqrtps(tmp_V4f);
288 tmp_V4f = __builtin_ia32_rsqrtss(tmp_V4f);
289 tmp_V4f = __builtin_ia32_sqrtps(tmp_V4f);
290 tmp_V4f = __builtin_ia32_sqrtss(tmp_V4f);
Daniel Dunbareb154252008-10-05 06:38:36 +0000291 (void) __builtin_ia32_maskmovdqu(tmp_V16c, tmp_V16c, tmp_cp);
Daniel Dunbareb154252008-10-05 06:38:36 +0000292 (void) __builtin_ia32_storeupd(tmp_dp, tmp_V2d);
Daniel Dunbareb154252008-10-05 06:38:36 +0000293 tmp_i = __builtin_ia32_movmskpd(tmp_V2d);
294 tmp_i = __builtin_ia32_pmovmskb128(tmp_V16c);
295 (void) __builtin_ia32_movnti(tmp_ip, tmp_i);
Eli Friedman440a5f42013-09-23 23:38:39 +0000296#ifdef USE_64
297 (void) __builtin_ia32_movnti64(tmp_LLip, tmp_LLi);
298#endif
Daniel Dunbareb154252008-10-05 06:38:36 +0000299 (void) __builtin_ia32_movntpd(tmp_dp, tmp_V2d);
300 (void) __builtin_ia32_movntdq(tmp_V2LLip, tmp_V2LLi);
Daniel Dunbareb154252008-10-05 06:38:36 +0000301 tmp_V2LLi = __builtin_ia32_psadbw128(tmp_V16c, tmp_V16c);
302 tmp_V2d = __builtin_ia32_sqrtpd(tmp_V2d);
303 tmp_V2d = __builtin_ia32_sqrtsd(tmp_V2d);
Daniel Dunbareb154252008-10-05 06:38:36 +0000304 tmp_V2d = __builtin_ia32_cvtdq2pd(tmp_V4i);
305 tmp_V4f = __builtin_ia32_cvtdq2ps(tmp_V4i);
306 tmp_V2LLi = __builtin_ia32_cvtpd2dq(tmp_V2d);
307 tmp_V2i = __builtin_ia32_cvtpd2pi(tmp_V2d);
308 tmp_V4f = __builtin_ia32_cvtpd2ps(tmp_V2d);
309 tmp_V4i = __builtin_ia32_cvttpd2dq(tmp_V2d);
310 tmp_V2i = __builtin_ia32_cvttpd2pi(tmp_V2d);
311 tmp_V2d = __builtin_ia32_cvtpi2pd(tmp_V2i);
312 tmp_i = __builtin_ia32_cvtsd2si(tmp_V2d);
Daniel Dunbareb154252008-10-05 06:38:36 +0000313#ifdef USE_64
314 tmp_LLi = __builtin_ia32_cvtsd2si64(tmp_V2d);
Daniel Dunbareb154252008-10-05 06:38:36 +0000315#endif
316 tmp_V4i = __builtin_ia32_cvtps2dq(tmp_V4f);
317 tmp_V2d = __builtin_ia32_cvtps2pd(tmp_V4f);
318 tmp_V4i = __builtin_ia32_cvttps2dq(tmp_V4f);
Daniel Dunbareb154252008-10-05 06:38:36 +0000319 (void) __builtin_ia32_clflush(tmp_vCp);
320 (void) __builtin_ia32_lfence();
321 (void) __builtin_ia32_mfence();
Daniel Dunbareb154252008-10-05 06:38:36 +0000322 (void) __builtin_ia32_storedqu(tmp_cp, tmp_V16c);
323 tmp_V4s = __builtin_ia32_psllwi(tmp_V4s, tmp_i);
324 tmp_V2i = __builtin_ia32_pslldi(tmp_V2i, tmp_i);
325 tmp_V1LLi = __builtin_ia32_psllqi(tmp_V1LLi, tmp_i);
326 tmp_V4s = __builtin_ia32_psrawi(tmp_V4s, tmp_i);
327 tmp_V2i = __builtin_ia32_psradi(tmp_V2i, tmp_i);
328 tmp_V4s = __builtin_ia32_psrlwi(tmp_V4s, tmp_i);
329 tmp_V2i = __builtin_ia32_psrldi(tmp_V2i, tmp_i);
330 tmp_V1LLi = __builtin_ia32_psrlqi(tmp_V1LLi, tmp_i);
331 tmp_V1LLi = __builtin_ia32_pmuludq(tmp_V2i, tmp_V2i);
332 tmp_V2LLi = __builtin_ia32_pmuludq128(tmp_V4i, tmp_V4i);
333 tmp_V8s = __builtin_ia32_psraw128(tmp_V8s, tmp_V8s);
334 tmp_V4i = __builtin_ia32_psrad128(tmp_V4i, tmp_V4i);
335 tmp_V8s = __builtin_ia32_psrlw128(tmp_V8s, tmp_V8s);
336 tmp_V4i = __builtin_ia32_psrld128(tmp_V4i, tmp_V4i);
337 tmp_V2LLi = __builtin_ia32_psrlq128(tmp_V2LLi, tmp_V2LLi);
338 tmp_V8s = __builtin_ia32_psllw128(tmp_V8s, tmp_V8s);
339 tmp_V4i = __builtin_ia32_pslld128(tmp_V4i, tmp_V4i);
340 tmp_V2LLi = __builtin_ia32_psllq128(tmp_V2LLi, tmp_V2LLi);
341 tmp_V8s = __builtin_ia32_psllwi128(tmp_V8s, tmp_i);
342 tmp_V4i = __builtin_ia32_pslldi128(tmp_V4i, tmp_i);
343 tmp_V2LLi = __builtin_ia32_psllqi128(tmp_V2LLi, tmp_i);
344 tmp_V8s = __builtin_ia32_psrlwi128(tmp_V8s, tmp_i);
345 tmp_V4i = __builtin_ia32_psrldi128(tmp_V4i, tmp_i);
346 tmp_V2LLi = __builtin_ia32_psrlqi128(tmp_V2LLi, tmp_i);
347 tmp_V8s = __builtin_ia32_psrawi128(tmp_V8s, tmp_i);
348 tmp_V4i = __builtin_ia32_psradi128(tmp_V4i, tmp_i);
349 tmp_V8s = __builtin_ia32_pmaddwd128(tmp_V8s, tmp_V8s);
350 (void) __builtin_ia32_monitor(tmp_vp, tmp_Ui, tmp_Ui);
351 (void) __builtin_ia32_mwait(tmp_Ui, tmp_Ui);
Daniel Dunbareb154252008-10-05 06:38:36 +0000352 tmp_V16c = __builtin_ia32_lddqu(tmp_cCp);
353 tmp_V2LLi = __builtin_ia32_palignr128(tmp_V2LLi, tmp_V2LLi, imm_i);
354 tmp_V1LLi = __builtin_ia32_palignr(tmp_V1LLi, tmp_V1LLi, imm_i);
Daniel Dunbareb154252008-10-05 06:38:36 +0000355#ifdef USE_SSE4
356 tmp_V16c = __builtin_ia32_pblendvb128(tmp_V16c, tmp_V16c, tmp_V16c);
Daniel Dunbareb154252008-10-05 06:38:36 +0000357 tmp_V2d = __builtin_ia32_blendvpd(tmp_V2d, tmp_V2d, tmp_V2d);
358 tmp_V4f = __builtin_ia32_blendvps(tmp_V4f, tmp_V4f, tmp_V4f);
359 tmp_V8s = __builtin_ia32_packusdw128(tmp_V4i, tmp_V4i);
360 tmp_V16c = __builtin_ia32_pmaxsb128(tmp_V16c, tmp_V16c);
361 tmp_V4i = __builtin_ia32_pmaxsd128(tmp_V4i, tmp_V4i);
362 tmp_V4i = __builtin_ia32_pmaxud128(tmp_V4i, tmp_V4i);
363 tmp_V8s = __builtin_ia32_pmaxuw128(tmp_V8s, tmp_V8s);
364 tmp_V16c = __builtin_ia32_pminsb128(tmp_V16c, tmp_V16c);
365 tmp_V4i = __builtin_ia32_pminsd128(tmp_V4i, tmp_V4i);
366 tmp_V4i = __builtin_ia32_pminud128(tmp_V4i, tmp_V4i);
367 tmp_V8s = __builtin_ia32_pminuw128(tmp_V8s, tmp_V8s);
368 tmp_V4i = __builtin_ia32_pmovsxbd128(tmp_V16c);
369 tmp_V2LLi = __builtin_ia32_pmovsxbq128(tmp_V16c);
370 tmp_V8s = __builtin_ia32_pmovsxbw128(tmp_V16c);
371 tmp_V2LLi = __builtin_ia32_pmovsxdq128(tmp_V4i);
372 tmp_V4i = __builtin_ia32_pmovsxwd128(tmp_V8s);
373 tmp_V2LLi = __builtin_ia32_pmovsxwq128(tmp_V8s);
374 tmp_V4i = __builtin_ia32_pmovzxbd128(tmp_V16c);
375 tmp_V2LLi = __builtin_ia32_pmovzxbq128(tmp_V16c);
376 tmp_V8s = __builtin_ia32_pmovzxbw128(tmp_V16c);
377 tmp_V2LLi = __builtin_ia32_pmovzxdq128(tmp_V4i);
378 tmp_V4i = __builtin_ia32_pmovzxwd128(tmp_V8s);
379 tmp_V2LLi = __builtin_ia32_pmovzxwq128(tmp_V8s);
380 tmp_V2LLi = __builtin_ia32_pmuldq128(tmp_V4i, tmp_V4i);
381 tmp_V4i = __builtin_ia32_pmulld128(tmp_V4i, tmp_V4i);
382 tmp_V4f = __builtin_ia32_roundps(tmp_V4f, imm_i_0_16);
Eric Christopher2ac74722010-03-04 01:34:19 +0000383 tmp_V4f = __builtin_ia32_roundss(tmp_V4f, tmp_V4f, imm_i_0_16);
384 tmp_V2d = __builtin_ia32_roundsd(tmp_V2d, tmp_V2d, imm_i_0_16);
Daniel Dunbareb154252008-10-05 06:38:36 +0000385 tmp_V2d = __builtin_ia32_roundpd(tmp_V2d, imm_i_0_16);
Stephen Hines176edba2014-12-01 14:53:08 -0800386 tmp_V4f = __builtin_ia32_insertps128(tmp_V4f, tmp_V4f, imm_i_0_256);
Daniel Dunbareb154252008-10-05 06:38:36 +0000387#endif
Bruno Cardoso Lopes5ce94622010-08-03 01:57:18 +0000388
Bruno Cardoso Lopes5ce94622010-08-03 01:57:18 +0000389 tmp_V4d = __builtin_ia32_addsubpd256(tmp_V4d, tmp_V4d);
390 tmp_V8f = __builtin_ia32_addsubps256(tmp_V8f, tmp_V8f);
Bruno Cardoso Lopes5ce94622010-08-03 01:57:18 +0000391 tmp_V4d = __builtin_ia32_haddpd256(tmp_V4d, tmp_V4d);
392 tmp_V8f = __builtin_ia32_hsubps256(tmp_V8f, tmp_V8f);
393 tmp_V4d = __builtin_ia32_hsubpd256(tmp_V4d, tmp_V4d);
394 tmp_V8f = __builtin_ia32_haddps256(tmp_V8f, tmp_V8f);
395 tmp_V4d = __builtin_ia32_maxpd256(tmp_V4d, tmp_V4d);
396 tmp_V8f = __builtin_ia32_maxps256(tmp_V8f, tmp_V8f);
397 tmp_V4d = __builtin_ia32_minpd256(tmp_V4d, tmp_V4d);
398 tmp_V8f = __builtin_ia32_minps256(tmp_V8f, tmp_V8f);
Bruno Cardoso Lopes5ce94622010-08-03 01:57:18 +0000399 tmp_V2d = __builtin_ia32_vpermilvarpd(tmp_V2d, tmp_V2LLi);
400 tmp_V4f = __builtin_ia32_vpermilvarps(tmp_V4f, tmp_V4i);
401 tmp_V4d = __builtin_ia32_vpermilvarpd256(tmp_V4d, tmp_V4LLi);
402 tmp_V8f = __builtin_ia32_vpermilvarps256(tmp_V8f, tmp_V8i);
Bruno Cardoso Lopes5ce94622010-08-03 01:57:18 +0000403 tmp_V4d = __builtin_ia32_blendvpd256(tmp_V4d, tmp_V4d, tmp_V4d);
404 tmp_V8f = __builtin_ia32_blendvps256(tmp_V8f, tmp_V8f, tmp_V8f);
405 tmp_V8f = __builtin_ia32_dpps256(tmp_V8f, tmp_V8f, 0x7);
Bruno Cardoso Lopes5ce94622010-08-03 01:57:18 +0000406 tmp_V4d = __builtin_ia32_cmppd256(tmp_V4d, tmp_V4d, 0);
407 tmp_V8f = __builtin_ia32_cmpps256(tmp_V8f, tmp_V8f, 0);
Bruno Cardoso Lopes5ce94622010-08-03 01:57:18 +0000408 tmp_V4d = __builtin_ia32_cvtdq2pd256(tmp_V4i);
409 tmp_V8f = __builtin_ia32_cvtdq2ps256(tmp_V8i);
410 tmp_V4f = __builtin_ia32_cvtpd2ps256(tmp_V4d);
411 tmp_V8i = __builtin_ia32_cvtps2dq256(tmp_V8f);
412 tmp_V4d = __builtin_ia32_cvtps2pd256(tmp_V4f);
413 tmp_V4i = __builtin_ia32_cvttpd2dq256(tmp_V4d);
414 tmp_V4i = __builtin_ia32_cvtpd2dq256(tmp_V4d);
415 tmp_V8i = __builtin_ia32_cvttps2dq256(tmp_V8f);
Craig Topper49a110d2012-04-17 05:16:56 +0000416 tmp_V4d = __builtin_ia32_vperm2f128_pd256(tmp_V4d, tmp_V4d, 0x7);
417 tmp_V8f = __builtin_ia32_vperm2f128_ps256(tmp_V8f, tmp_V8f, 0x7);
418 tmp_V8i = __builtin_ia32_vperm2f128_si256(tmp_V8i, tmp_V8i, 0x7);
Bruno Cardoso Lopes5ce94622010-08-03 01:57:18 +0000419 tmp_V4d = __builtin_ia32_sqrtpd256(tmp_V4d);
420 tmp_V8f = __builtin_ia32_sqrtps256(tmp_V8f);
Bruno Cardoso Lopes5ce94622010-08-03 01:57:18 +0000421 tmp_V8f = __builtin_ia32_rsqrtps256(tmp_V8f);
Bruno Cardoso Lopes5ce94622010-08-03 01:57:18 +0000422 tmp_V8f = __builtin_ia32_rcpps256(tmp_V8f);
Chad Rosierb8786c42011-12-17 00:15:26 +0000423 tmp_V4d = __builtin_ia32_roundpd256(tmp_V4d, 0x1);
424 tmp_V8f = __builtin_ia32_roundps256(tmp_V8f, 0x1);
Bruno Cardoso Lopes5ce94622010-08-03 01:57:18 +0000425 tmp_i = __builtin_ia32_vtestzpd(tmp_V2d, tmp_V2d);
426 tmp_i = __builtin_ia32_vtestcpd(tmp_V2d, tmp_V2d);
427 tmp_i = __builtin_ia32_vtestnzcpd(tmp_V2d, tmp_V2d);
428 tmp_i = __builtin_ia32_vtestzps(tmp_V4f, tmp_V4f);
429 tmp_i = __builtin_ia32_vtestcps(tmp_V4f, tmp_V4f);
430 tmp_i = __builtin_ia32_vtestnzcps(tmp_V4f, tmp_V4f);
431 tmp_i = __builtin_ia32_vtestzpd256(tmp_V4d, tmp_V4d);
432 tmp_i = __builtin_ia32_vtestcpd256(tmp_V4d, tmp_V4d);
433 tmp_i = __builtin_ia32_vtestnzcpd256(tmp_V4d, tmp_V4d);
434 tmp_i = __builtin_ia32_vtestzps256(tmp_V8f, tmp_V8f);
435 tmp_i = __builtin_ia32_vtestcps256(tmp_V8f, tmp_V8f);
436 tmp_i = __builtin_ia32_vtestnzcps256(tmp_V8f, tmp_V8f);
437 tmp_i = __builtin_ia32_ptestz256(tmp_V4LLi, tmp_V4LLi);
438 tmp_i = __builtin_ia32_ptestc256(tmp_V4LLi, tmp_V4LLi);
439 tmp_i = __builtin_ia32_ptestnzc256(tmp_V4LLi, tmp_V4LLi);
440 tmp_i = __builtin_ia32_movmskpd256(tmp_V4d);
441 tmp_i = __builtin_ia32_movmskps256(tmp_V8f);
Bruno Cardoso Lopese898ed52010-08-04 01:11:26 +0000442 __builtin_ia32_vzeroall();
443 __builtin_ia32_vzeroupper();
Bruno Cardoso Lopese898ed52010-08-04 01:11:26 +0000444 tmp_V4d = __builtin_ia32_vbroadcastf128_pd256(tmp_V2dCp);
445 tmp_V8f = __builtin_ia32_vbroadcastf128_ps256(tmp_V4fCp);
Bruno Cardoso Lopese898ed52010-08-04 01:11:26 +0000446 __builtin_ia32_storeupd256(tmp_dp, tmp_V4d);
447 __builtin_ia32_storeups256(tmp_fp, tmp_V8f);
Bruno Cardoso Lopese898ed52010-08-04 01:11:26 +0000448 __builtin_ia32_storedqu256(tmp_cp, tmp_V32c);
449 tmp_V32c = __builtin_ia32_lddqu256(tmp_cCp);
450 __builtin_ia32_movntdq256(tmp_V4LLip, tmp_V4LLi);
451 __builtin_ia32_movntpd256(tmp_dp, tmp_V4d);
452 __builtin_ia32_movntps256(tmp_fp, tmp_V8f);
453 tmp_V2d = __builtin_ia32_maskloadpd(tmp_V2dCp, tmp_V2d);
454 tmp_V4f = __builtin_ia32_maskloadps(tmp_V4fCp, tmp_V4f);
455 tmp_V4d = __builtin_ia32_maskloadpd256(tmp_V4dCp, tmp_V4d);
456 tmp_V8f = __builtin_ia32_maskloadps256(tmp_V8fCp, tmp_V8f);
457 __builtin_ia32_maskstorepd(tmp_V2dp, tmp_V2d, tmp_V2d);
458 __builtin_ia32_maskstoreps(tmp_V4fp, tmp_V4f, tmp_V4f);
459 __builtin_ia32_maskstorepd256(tmp_V4dp, tmp_V4d, tmp_V4d);
460 __builtin_ia32_maskstoreps256(tmp_V8fp, tmp_V8f, tmp_V8f);
Michael J. Spencer8b36a9e2011-04-15 15:07:13 +0000461
462#ifdef USE_3DNOW
463 tmp_V8c = __builtin_ia32_pavgusb(tmp_V8c, tmp_V8c);
464 tmp_V2i = __builtin_ia32_pf2id(tmp_V2f);
465 tmp_V2f = __builtin_ia32_pfacc(tmp_V2f, tmp_V2f);
466 tmp_V2f = __builtin_ia32_pfadd(tmp_V2f, tmp_V2f);
467 tmp_V2i = __builtin_ia32_pfcmpeq(tmp_V2f, tmp_V2f);
468 tmp_V2i = __builtin_ia32_pfcmpge(tmp_V2f, tmp_V2f);
469 tmp_V2i = __builtin_ia32_pfcmpgt(tmp_V2f, tmp_V2f);
470 tmp_V2f = __builtin_ia32_pfmax(tmp_V2f, tmp_V2f);
471 tmp_V2f = __builtin_ia32_pfmin(tmp_V2f, tmp_V2f);
472 tmp_V2f = __builtin_ia32_pfmul(tmp_V2f, tmp_V2f);
473 tmp_V2f = __builtin_ia32_pfrcp(tmp_V2f);
474 tmp_V2f = __builtin_ia32_pfrcpit1(tmp_V2f, tmp_V2f);
475 tmp_V2f = __builtin_ia32_pfrcpit2(tmp_V2f, tmp_V2f);
476 tmp_V2f = __builtin_ia32_pfrsqrt(tmp_V2f);
477 tmp_V2f = __builtin_ia32_pfrsqit1(tmp_V2f, tmp_V2f);
Michael J. Spencer8b36a9e2011-04-15 15:07:13 +0000478 tmp_V2f = __builtin_ia32_pfsub(tmp_V2f, tmp_V2f);
479 tmp_V2f = __builtin_ia32_pfsubr(tmp_V2f, tmp_V2f);
480 tmp_V2f = __builtin_ia32_pi2fd(tmp_V2i);
481 tmp_V4s = __builtin_ia32_pmulhrw(tmp_V4s, tmp_V4s);
482 tmp_V2i = __builtin_ia32_pf2iw(tmp_V2f);
483 tmp_V2f = __builtin_ia32_pfnacc(tmp_V2f, tmp_V2f);
484 tmp_V2f = __builtin_ia32_pfpnacc(tmp_V2f, tmp_V2f);
485 tmp_V2f = __builtin_ia32_pi2fw(tmp_V2i);
486 tmp_V2f = __builtin_ia32_pswapdsf(tmp_V2f);
487 tmp_V2i = __builtin_ia32_pswapdsi(tmp_V2i);
Ben Langmuirb83f5a72013-09-19 13:22:04 +0000488
Stephen Hines0e2c34f2015-03-23 12:09:02 -0700489 tmp_V4i = __builtin_ia32_sha1rnds4(tmp_V4i, tmp_V4i, imm_i_0_4);
Ben Langmuirb83f5a72013-09-19 13:22:04 +0000490 tmp_V4i = __builtin_ia32_sha1nexte(tmp_V4i, tmp_V4i);
491 tmp_V4i = __builtin_ia32_sha1msg1(tmp_V4i, tmp_V4i);
492 tmp_V4i = __builtin_ia32_sha1msg2(tmp_V4i, tmp_V4i);
493 tmp_V4i = __builtin_ia32_sha256rnds2(tmp_V4i, tmp_V4i, tmp_V4i);
494 tmp_V4i = __builtin_ia32_sha256msg1(tmp_V4i, tmp_V4i);
495 tmp_V4i = __builtin_ia32_sha256msg2(tmp_V4i, tmp_V4i);
Michael J. Spencer8b36a9e2011-04-15 15:07:13 +0000496#endif
Daniel Dunbareb154252008-10-05 06:38:36 +0000497}