Fix m 60 a 0 by making modified variable non-const
[hashcat.git] / OpenCL / m09720_a3.cl
1 /**
2  * Author......: Jens Steube <jens.steube@gmail.com>
3  * License.....: MIT
4  */
5
6 #define _OLDOFFICE01_
7
8 #define NEW_SIMD_CODE
9
10 #include "inc_vendor.cl"
11 #include "inc_hash_constants.h"
12 #include "inc_hash_functions.cl"
13 #include "inc_types.cl"
14 #include "inc_common.cl"
15 #include "inc_simd.cl"
16
17 void md5_transform (const u32x w0[4], const u32x w1[4], const u32x w2[4], const u32x w3[4], u32x digest[4])
18 {
19   u32x a = digest[0];
20   u32x b = digest[1];
21   u32x c = digest[2];
22   u32x d = digest[3];
23
24   u32x w0_t = w0[0];
25   u32x w1_t = w0[1];
26   u32x w2_t = w0[2];
27   u32x w3_t = w0[3];
28   u32x w4_t = w1[0];
29   u32x w5_t = w1[1];
30   u32x w6_t = w1[2];
31   u32x w7_t = w1[3];
32   u32x w8_t = w2[0];
33   u32x w9_t = w2[1];
34   u32x wa_t = w2[2];
35   u32x wb_t = w2[3];
36   u32x wc_t = w3[0];
37   u32x wd_t = w3[1];
38   u32x we_t = w3[2];
39   u32x wf_t = w3[3];
40
41   MD5_STEP (MD5_Fo, a, b, c, d, w0_t, MD5C00, MD5S00);
42   MD5_STEP (MD5_Fo, d, a, b, c, w1_t, MD5C01, MD5S01);
43   MD5_STEP (MD5_Fo, c, d, a, b, w2_t, MD5C02, MD5S02);
44   MD5_STEP (MD5_Fo, b, c, d, a, w3_t, MD5C03, MD5S03);
45   MD5_STEP (MD5_Fo, a, b, c, d, w4_t, MD5C04, MD5S00);
46   MD5_STEP (MD5_Fo, d, a, b, c, w5_t, MD5C05, MD5S01);
47   MD5_STEP (MD5_Fo, c, d, a, b, w6_t, MD5C06, MD5S02);
48   MD5_STEP (MD5_Fo, b, c, d, a, w7_t, MD5C07, MD5S03);
49   MD5_STEP (MD5_Fo, a, b, c, d, w8_t, MD5C08, MD5S00);
50   MD5_STEP (MD5_Fo, d, a, b, c, w9_t, MD5C09, MD5S01);
51   MD5_STEP (MD5_Fo, c, d, a, b, wa_t, MD5C0a, MD5S02);
52   MD5_STEP (MD5_Fo, b, c, d, a, wb_t, MD5C0b, MD5S03);
53   MD5_STEP (MD5_Fo, a, b, c, d, wc_t, MD5C0c, MD5S00);
54   MD5_STEP (MD5_Fo, d, a, b, c, wd_t, MD5C0d, MD5S01);
55   MD5_STEP (MD5_Fo, c, d, a, b, we_t, MD5C0e, MD5S02);
56   MD5_STEP (MD5_Fo, b, c, d, a, wf_t, MD5C0f, MD5S03);
57
58   MD5_STEP (MD5_Go, a, b, c, d, w1_t, MD5C10, MD5S10);
59   MD5_STEP (MD5_Go, d, a, b, c, w6_t, MD5C11, MD5S11);
60   MD5_STEP (MD5_Go, c, d, a, b, wb_t, MD5C12, MD5S12);
61   MD5_STEP (MD5_Go, b, c, d, a, w0_t, MD5C13, MD5S13);
62   MD5_STEP (MD5_Go, a, b, c, d, w5_t, MD5C14, MD5S10);
63   MD5_STEP (MD5_Go, d, a, b, c, wa_t, MD5C15, MD5S11);
64   MD5_STEP (MD5_Go, c, d, a, b, wf_t, MD5C16, MD5S12);
65   MD5_STEP (MD5_Go, b, c, d, a, w4_t, MD5C17, MD5S13);
66   MD5_STEP (MD5_Go, a, b, c, d, w9_t, MD5C18, MD5S10);
67   MD5_STEP (MD5_Go, d, a, b, c, we_t, MD5C19, MD5S11);
68   MD5_STEP (MD5_Go, c, d, a, b, w3_t, MD5C1a, MD5S12);
69   MD5_STEP (MD5_Go, b, c, d, a, w8_t, MD5C1b, MD5S13);
70   MD5_STEP (MD5_Go, a, b, c, d, wd_t, MD5C1c, MD5S10);
71   MD5_STEP (MD5_Go, d, a, b, c, w2_t, MD5C1d, MD5S11);
72   MD5_STEP (MD5_Go, c, d, a, b, w7_t, MD5C1e, MD5S12);
73   MD5_STEP (MD5_Go, b, c, d, a, wc_t, MD5C1f, MD5S13);
74
75   MD5_STEP (MD5_H , a, b, c, d, w5_t, MD5C20, MD5S20);
76   MD5_STEP (MD5_H , d, a, b, c, w8_t, MD5C21, MD5S21);
77   MD5_STEP (MD5_H , c, d, a, b, wb_t, MD5C22, MD5S22);
78   MD5_STEP (MD5_H , b, c, d, a, we_t, MD5C23, MD5S23);
79   MD5_STEP (MD5_H , a, b, c, d, w1_t, MD5C24, MD5S20);
80   MD5_STEP (MD5_H , d, a, b, c, w4_t, MD5C25, MD5S21);
81   MD5_STEP (MD5_H , c, d, a, b, w7_t, MD5C26, MD5S22);
82   MD5_STEP (MD5_H , b, c, d, a, wa_t, MD5C27, MD5S23);
83   MD5_STEP (MD5_H , a, b, c, d, wd_t, MD5C28, MD5S20);
84   MD5_STEP (MD5_H , d, a, b, c, w0_t, MD5C29, MD5S21);
85   MD5_STEP (MD5_H , c, d, a, b, w3_t, MD5C2a, MD5S22);
86   MD5_STEP (MD5_H , b, c, d, a, w6_t, MD5C2b, MD5S23);
87   MD5_STEP (MD5_H , a, b, c, d, w9_t, MD5C2c, MD5S20);
88   MD5_STEP (MD5_H , d, a, b, c, wc_t, MD5C2d, MD5S21);
89   MD5_STEP (MD5_H , c, d, a, b, wf_t, MD5C2e, MD5S22);
90   MD5_STEP (MD5_H , b, c, d, a, w2_t, MD5C2f, MD5S23);
91
92   MD5_STEP (MD5_I , a, b, c, d, w0_t, MD5C30, MD5S30);
93   MD5_STEP (MD5_I , d, a, b, c, w7_t, MD5C31, MD5S31);
94   MD5_STEP (MD5_I , c, d, a, b, we_t, MD5C32, MD5S32);
95   MD5_STEP (MD5_I , b, c, d, a, w5_t, MD5C33, MD5S33);
96   MD5_STEP (MD5_I , a, b, c, d, wc_t, MD5C34, MD5S30);
97   MD5_STEP (MD5_I , d, a, b, c, w3_t, MD5C35, MD5S31);
98   MD5_STEP (MD5_I , c, d, a, b, wa_t, MD5C36, MD5S32);
99   MD5_STEP (MD5_I , b, c, d, a, w1_t, MD5C37, MD5S33);
100   MD5_STEP (MD5_I , a, b, c, d, w8_t, MD5C38, MD5S30);
101   MD5_STEP (MD5_I , d, a, b, c, wf_t, MD5C39, MD5S31);
102   MD5_STEP (MD5_I , c, d, a, b, w6_t, MD5C3a, MD5S32);
103   MD5_STEP (MD5_I , b, c, d, a, wd_t, MD5C3b, MD5S33);
104   MD5_STEP (MD5_I , a, b, c, d, w4_t, MD5C3c, MD5S30);
105   MD5_STEP (MD5_I , d, a, b, c, wb_t, MD5C3d, MD5S31);
106   MD5_STEP (MD5_I , c, d, a, b, w2_t, MD5C3e, MD5S32);
107   MD5_STEP (MD5_I , b, c, d, a, w9_t, MD5C3f, MD5S33);
108
109   digest[0] += a;
110   digest[1] += b;
111   digest[2] += c;
112   digest[3] += d;
113 }
114
115 void gen336 (u32x digest_pre[4], u32 salt_buf[4], u32x digest[4])
116 {
117   u32x digest_t0[2];
118   u32x digest_t1[2];
119   u32x digest_t2[2];
120   u32x digest_t3[2];
121
122   digest_t0[0] = digest_pre[0];
123   digest_t0[1] = digest_pre[1] & 0xff;
124
125   digest_t1[0] =                       digest_pre[0] <<  8;
126   digest_t1[1] = digest_pre[0] >> 24 | digest_pre[1] <<  8;
127
128   digest_t2[0] =                       digest_pre[0] << 16;
129   digest_t2[1] = digest_pre[0] >> 16 | digest_pre[1] << 16;
130
131   digest_t3[0] =                       digest_pre[0] << 24;
132   digest_t3[1] = digest_pre[0] >>  8 | digest_pre[1] << 24;
133
134   u32x salt_buf_t0[4];
135   u32x salt_buf_t1[5];
136   u32x salt_buf_t2[5];
137   u32x salt_buf_t3[5];
138
139   salt_buf_t0[0] = salt_buf[0];
140   salt_buf_t0[1] = salt_buf[1];
141   salt_buf_t0[2] = salt_buf[2];
142   salt_buf_t0[3] = salt_buf[3];
143
144   salt_buf_t1[0] =                     salt_buf[0] <<  8;
145   salt_buf_t1[1] = salt_buf[0] >> 24 | salt_buf[1] <<  8;
146   salt_buf_t1[2] = salt_buf[1] >> 24 | salt_buf[2] <<  8;
147   salt_buf_t1[3] = salt_buf[2] >> 24 | salt_buf[3] <<  8;
148   salt_buf_t1[4] = salt_buf[3] >> 24;
149
150   salt_buf_t2[0] =                     salt_buf[0] << 16;
151   salt_buf_t2[1] = salt_buf[0] >> 16 | salt_buf[1] << 16;
152   salt_buf_t2[2] = salt_buf[1] >> 16 | salt_buf[2] << 16;
153   salt_buf_t2[3] = salt_buf[2] >> 16 | salt_buf[3] << 16;
154   salt_buf_t2[4] = salt_buf[3] >> 16;
155
156   salt_buf_t3[0] =                     salt_buf[0] << 24;
157   salt_buf_t3[1] = salt_buf[0] >>  8 | salt_buf[1] << 24;
158   salt_buf_t3[2] = salt_buf[1] >>  8 | salt_buf[2] << 24;
159   salt_buf_t3[3] = salt_buf[2] >>  8 | salt_buf[3] << 24;
160   salt_buf_t3[4] = salt_buf[3] >>  8;
161
162   u32x w0_t[4];
163   u32x w1_t[4];
164   u32x w2_t[4];
165   u32x w3_t[4];
166
167   // generate the 16 * 21 buffer
168
169   w0_t[0] = 0;
170   w0_t[1] = 0;
171   w0_t[2] = 0;
172   w0_t[3] = 0;
173   w1_t[0] = 0;
174   w1_t[1] = 0;
175   w1_t[2] = 0;
176   w1_t[3] = 0;
177   w2_t[0] = 0;
178   w2_t[1] = 0;
179   w2_t[2] = 0;
180   w2_t[3] = 0;
181   w3_t[0] = 0;
182   w3_t[1] = 0;
183   w3_t[2] = 0;
184   w3_t[3] = 0;
185
186   // 0..5
187   w0_t[0]  = digest_t0[0];
188   w0_t[1]  = digest_t0[1];
189
190   // 5..21
191   w0_t[1] |= salt_buf_t1[0];
192   w0_t[2]  = salt_buf_t1[1];
193   w0_t[3]  = salt_buf_t1[2];
194   w1_t[0]  = salt_buf_t1[3];
195   w1_t[1]  = salt_buf_t1[4];
196
197   // 21..26
198   w1_t[1] |= digest_t1[0];
199   w1_t[2]  = digest_t1[1];
200
201   // 26..42
202   w1_t[2] |= salt_buf_t2[0];
203   w1_t[3]  = salt_buf_t2[1];
204   w2_t[0]  = salt_buf_t2[2];
205   w2_t[1]  = salt_buf_t2[3];
206   w2_t[2]  = salt_buf_t2[4];
207
208   // 42..47
209   w2_t[2] |= digest_t2[0];
210   w2_t[3]  = digest_t2[1];
211
212   // 47..63
213   w2_t[3] |= salt_buf_t3[0];
214   w3_t[0]  = salt_buf_t3[1];
215   w3_t[1]  = salt_buf_t3[2];
216   w3_t[2]  = salt_buf_t3[3];
217   w3_t[3]  = salt_buf_t3[4];
218
219   // 63..
220
221   w3_t[3] |= digest_t3[0];
222
223   md5_transform (w0_t, w1_t, w2_t, w3_t, digest);
224
225   w0_t[0] = 0;
226   w0_t[1] = 0;
227   w0_t[2] = 0;
228   w0_t[3] = 0;
229   w1_t[0] = 0;
230   w1_t[1] = 0;
231   w1_t[2] = 0;
232   w1_t[3] = 0;
233   w2_t[0] = 0;
234   w2_t[1] = 0;
235   w2_t[2] = 0;
236   w2_t[3] = 0;
237   w3_t[0] = 0;
238   w3_t[1] = 0;
239   w3_t[2] = 0;
240   w3_t[3] = 0;
241
242   // 0..4
243   w0_t[0]  = digest_t3[1];
244
245   // 4..20
246   w0_t[1]  = salt_buf_t0[0];
247   w0_t[2]  = salt_buf_t0[1];
248   w0_t[3]  = salt_buf_t0[2];
249   w1_t[0]  = salt_buf_t0[3];
250
251   // 20..25
252   w1_t[1]  = digest_t0[0];
253   w1_t[2]  = digest_t0[1];
254
255   // 25..41
256   w1_t[2] |= salt_buf_t1[0];
257   w1_t[3]  = salt_buf_t1[1];
258   w2_t[0]  = salt_buf_t1[2];
259   w2_t[1]  = salt_buf_t1[3];
260   w2_t[2]  = salt_buf_t1[4];
261
262   // 41..46
263   w2_t[2] |= digest_t1[0];
264   w2_t[3]  = digest_t1[1];
265
266   // 46..62
267   w2_t[3] |= salt_buf_t2[0];
268   w3_t[0]  = salt_buf_t2[1];
269   w3_t[1]  = salt_buf_t2[2];
270   w3_t[2]  = salt_buf_t2[3];
271   w3_t[3]  = salt_buf_t2[4];
272
273   // 62..
274   w3_t[3] |= digest_t2[0];
275
276   md5_transform (w0_t, w1_t, w2_t, w3_t, digest);
277
278   w0_t[0] = 0;
279   w0_t[1] = 0;
280   w0_t[2] = 0;
281   w0_t[3] = 0;
282   w1_t[0] = 0;
283   w1_t[1] = 0;
284   w1_t[2] = 0;
285   w1_t[3] = 0;
286   w2_t[0] = 0;
287   w2_t[1] = 0;
288   w2_t[2] = 0;
289   w2_t[3] = 0;
290   w3_t[0] = 0;
291   w3_t[1] = 0;
292   w3_t[2] = 0;
293   w3_t[3] = 0;
294
295   // 0..3
296   w0_t[0]  = digest_t2[1];
297
298   // 3..19
299   w0_t[0] |= salt_buf_t3[0];
300   w0_t[1]  = salt_buf_t3[1];
301   w0_t[2]  = salt_buf_t3[2];
302   w0_t[3]  = salt_buf_t3[3];
303   w1_t[0]  = salt_buf_t3[4];
304
305   // 19..24
306   w1_t[0] |= digest_t3[0];
307   w1_t[1]  = digest_t3[1];
308
309   // 24..40
310   w1_t[2]  = salt_buf_t0[0];
311   w1_t[3]  = salt_buf_t0[1];
312   w2_t[0]  = salt_buf_t0[2];
313   w2_t[1]  = salt_buf_t0[3];
314
315   // 40..45
316   w2_t[2]  = digest_t0[0];
317   w2_t[3]  = digest_t0[1];
318
319   // 45..61
320   w2_t[3] |= salt_buf_t1[0];
321   w3_t[0]  = salt_buf_t1[1];
322   w3_t[1]  = salt_buf_t1[2];
323   w3_t[2]  = salt_buf_t1[3];
324   w3_t[3]  = salt_buf_t1[4];
325
326   // 61..
327   w3_t[3] |= digest_t1[0];
328
329   md5_transform (w0_t, w1_t, w2_t, w3_t, digest);
330
331   w0_t[0] = 0;
332   w0_t[1] = 0;
333   w0_t[2] = 0;
334   w0_t[3] = 0;
335   w1_t[0] = 0;
336   w1_t[1] = 0;
337   w1_t[2] = 0;
338   w1_t[3] = 0;
339   w2_t[0] = 0;
340   w2_t[1] = 0;
341   w2_t[2] = 0;
342   w2_t[3] = 0;
343   w3_t[0] = 0;
344   w3_t[1] = 0;
345   w3_t[2] = 0;
346   w3_t[3] = 0;
347
348   // 0..2
349   w0_t[0]  = digest_t1[1];
350
351   // 2..18
352   w0_t[0] |= salt_buf_t2[0];
353   w0_t[1]  = salt_buf_t2[1];
354   w0_t[2]  = salt_buf_t2[2];
355   w0_t[3]  = salt_buf_t2[3];
356   w1_t[0]  = salt_buf_t2[4];
357
358   // 18..23
359   w1_t[0] |= digest_t2[0];
360   w1_t[1]  = digest_t2[1];
361
362   // 23..39
363   w1_t[1] |= salt_buf_t3[0];
364   w1_t[2]  = salt_buf_t3[1];
365   w1_t[3]  = salt_buf_t3[2];
366   w2_t[0]  = salt_buf_t3[3];
367   w2_t[1]  = salt_buf_t3[4];
368
369   // 39..44
370   w2_t[1] |= digest_t3[0];
371   w2_t[2]  = digest_t3[1];
372
373   // 44..60
374   w2_t[3]  = salt_buf_t0[0];
375   w3_t[0]  = salt_buf_t0[1];
376   w3_t[1]  = salt_buf_t0[2];
377   w3_t[2]  = salt_buf_t0[3];
378
379   // 60..
380   w3_t[3]  = digest_t0[0];
381
382   md5_transform (w0_t, w1_t, w2_t, w3_t, digest);
383
384   w0_t[0] = 0;
385   w0_t[1] = 0;
386   w0_t[2] = 0;
387   w0_t[3] = 0;
388   w1_t[0] = 0;
389   w1_t[1] = 0;
390   w1_t[2] = 0;
391   w1_t[3] = 0;
392   w2_t[0] = 0;
393   w2_t[1] = 0;
394   w2_t[2] = 0;
395   w2_t[3] = 0;
396   w3_t[0] = 0;
397   w3_t[1] = 0;
398   w3_t[2] = 0;
399   w3_t[3] = 0;
400
401   // 0..1
402   w0_t[0]  = digest_t0[1];
403
404   // 1..17
405   w0_t[0] |= salt_buf_t1[0];
406   w0_t[1]  = salt_buf_t1[1];
407   w0_t[2]  = salt_buf_t1[2];
408   w0_t[3]  = salt_buf_t1[3];
409   w1_t[0]  = salt_buf_t1[4];
410
411   // 17..22
412   w1_t[0] |= digest_t1[0];
413   w1_t[1]  = digest_t1[1];
414
415   // 22..38
416   w1_t[1] |= salt_buf_t2[0];
417   w1_t[2]  = salt_buf_t2[1];
418   w1_t[3]  = salt_buf_t2[2];
419   w2_t[0]  = salt_buf_t2[3];
420   w2_t[1]  = salt_buf_t2[4];
421
422   // 38..43
423   w2_t[1] |= digest_t2[0];
424   w2_t[2]  = digest_t2[1];
425
426   // 43..59
427   w2_t[2] |= salt_buf_t3[0];
428   w2_t[3]  = salt_buf_t3[1];
429   w3_t[0]  = salt_buf_t3[2];
430   w3_t[1]  = salt_buf_t3[3];
431   w3_t[2]  = salt_buf_t3[4];
432
433   // 59..
434   w3_t[2] |= digest_t3[0];
435   w3_t[3]  = digest_t3[1];
436
437   md5_transform (w0_t, w1_t, w2_t, w3_t, digest);
438
439   w0_t[0]  = salt_buf_t0[0];
440   w0_t[1]  = salt_buf_t0[1];
441   w0_t[2]  = salt_buf_t0[2];
442   w0_t[3]  = salt_buf_t0[3];
443   w1_t[0]  = 0x80;
444   w1_t[1]  = 0;
445   w1_t[2]  = 0;
446   w1_t[3]  = 0;
447   w2_t[0]  = 0;
448   w2_t[1]  = 0;
449   w2_t[2]  = 0;
450   w2_t[3]  = 0;
451   w3_t[0]  = 0;
452   w3_t[1]  = 0;
453   w3_t[2]  = 21 * 16 * 8;
454   w3_t[3]  = 0;
455
456   md5_transform (w0_t, w1_t, w2_t, w3_t, digest);
457 }
458
459 void m09720m (u32 w0[4], u32 w1[4], u32 w2[4], u32 w3[4], const u32 pw_len, __global pw_t *pws, __global kernel_rule_t *rules_buf, __global comb_t *combs_buf, __global bf_t *bfs_buf, __global void *tmps, __global void *hooks, __global u32 *bitmaps_buf_s1_a, __global u32 *bitmaps_buf_s1_b, __global u32 *bitmaps_buf_s1_c, __global u32 *bitmaps_buf_s1_d, __global u32 *bitmaps_buf_s2_a, __global u32 *bitmaps_buf_s2_b, __global u32 *bitmaps_buf_s2_c, __global u32 *bitmaps_buf_s2_d, __global plain_t *plains_buf, __global digest_t *digests_buf, __global u32 *hashes_shown, __global salt_t *salt_bufs, __global oldoffice01_t *oldoffice01_bufs, __global u32 *d_return_buf, __global u32 *d_scryptV0_buf, __global u32 *d_scryptV1_buf, __global u32 *d_scryptV2_buf, __global u32 *d_scryptV3_buf, const u32 bitmap_mask, const u32 bitmap_shift1, const u32 bitmap_shift2, const u32 salt_pos, const u32 loop_pos, const u32 loop_cnt, const u32 il_cnt, const u32 digests_cnt, const u32 digests_offset)
460 {
461   /**
462    * modifier
463    */
464
465   const u32 gid = get_global_id (0);
466   const u32 lid = get_local_id (0);
467
468   /**
469    * salt
470    */
471
472   u32 salt_buf[4];
473
474   salt_buf[0] = salt_bufs[salt_pos].salt_buf[0];
475   salt_buf[1] = salt_bufs[salt_pos].salt_buf[1];
476   salt_buf[2] = salt_bufs[salt_pos].salt_buf[2];
477   salt_buf[3] = salt_bufs[salt_pos].salt_buf[3];
478
479   /**
480    * loop
481    */
482
483   u32 w0l = w0[0];
484
485   for (u32 il_pos = 0; il_pos < il_cnt; il_pos += VECT_SIZE)
486   {
487     const u32x w0r = ix_create_bft (bfs_buf, il_pos);
488
489     const u32x w0lr = w0l | w0r;
490
491     /**
492      * md5
493      */
494
495     u32x w0_t[4];
496     u32x w1_t[4];
497     u32x w2_t[4];
498     u32x w3_t[4];
499
500     w0_t[0] = w0lr;
501     w0_t[1] = w0[1];
502     w0_t[2] = w0[2];
503     w0_t[3] = w0[3];
504     w1_t[0] = w1[0];
505     w1_t[1] = w1[1];
506     w1_t[2] = w1[2];
507     w1_t[3] = w1[3];
508     w2_t[0] = w2[0];
509     w2_t[1] = w2[1];
510     w2_t[2] = w2[2];
511     w2_t[3] = w2[3];
512     w3_t[0] = w3[0];
513     w3_t[1] = w3[1];
514     w3_t[2] = pw_len * 8;
515     w3_t[3] = 0;
516
517     u32x digest_pre[4];
518
519     digest_pre[0] = MD5M_A;
520     digest_pre[1] = MD5M_B;
521     digest_pre[2] = MD5M_C;
522     digest_pre[3] = MD5M_D;
523
524     md5_transform (w0_t, w1_t, w2_t, w3_t, digest_pre);
525
526     digest_pre[0] &= 0xffffffff;
527     digest_pre[1] &= 0x000000ff;
528     digest_pre[2] &= 0x00000000;
529     digest_pre[3] &= 0x00000000;
530
531     u32x digest[4];
532
533     digest[0] = MD5M_A;
534     digest[1] = MD5M_B;
535     digest[2] = MD5M_C;
536     digest[3] = MD5M_D;
537
538     gen336 (digest_pre, salt_buf, digest);
539
540     u32x a = digest[0];
541     u32x b = digest[1] & 0xff;
542     u32x c = 0;
543     u32x d = 0;
544
545     COMPARE_M_SIMD (a, b, c, d);
546   }
547 }
548
549 void m09720s (u32 w0[4], u32 w1[4], u32 w2[4], u32 w3[4], const u32 pw_len, __global pw_t *pws, __global kernel_rule_t *rules_buf, __global comb_t *combs_buf, __global bf_t *bfs_buf, __global void *tmps, __global void *hooks, __global u32 *bitmaps_buf_s1_a, __global u32 *bitmaps_buf_s1_b, __global u32 *bitmaps_buf_s1_c, __global u32 *bitmaps_buf_s1_d, __global u32 *bitmaps_buf_s2_a, __global u32 *bitmaps_buf_s2_b, __global u32 *bitmaps_buf_s2_c, __global u32 *bitmaps_buf_s2_d, __global plain_t *plains_buf, __global digest_t *digests_buf, __global u32 *hashes_shown, __global salt_t *salt_bufs, __global oldoffice01_t *oldoffice01_bufs, __global u32 *d_return_buf, __global u32 *d_scryptV0_buf, __global u32 *d_scryptV1_buf, __global u32 *d_scryptV2_buf, __global u32 *d_scryptV3_buf, const u32 bitmap_mask, const u32 bitmap_shift1, const u32 bitmap_shift2, const u32 salt_pos, const u32 loop_pos, const u32 loop_cnt, const u32 il_cnt, const u32 digests_cnt, const u32 digests_offset)
550 {
551   /**
552    * modifier
553    */
554
555   const u32 gid = get_global_id (0);
556   const u32 lid = get_local_id (0);
557
558   /**
559    * salt
560    */
561
562   u32 salt_buf[4];
563
564   salt_buf[0] = salt_bufs[salt_pos].salt_buf[0];
565   salt_buf[1] = salt_bufs[salt_pos].salt_buf[1];
566   salt_buf[2] = salt_bufs[salt_pos].salt_buf[2];
567   salt_buf[3] = salt_bufs[salt_pos].salt_buf[3];
568
569   /**
570    * digest
571    */
572
573   const u32 search[4] =
574   {
575     digests_buf[digests_offset].digest_buf[DGST_R0],
576     digests_buf[digests_offset].digest_buf[DGST_R1],
577     digests_buf[digests_offset].digest_buf[DGST_R2],
578     digests_buf[digests_offset].digest_buf[DGST_R3]
579   };
580
581   /**
582    * loop
583    */
584
585   u32 w0l = w0[0];
586
587   for (u32 il_pos = 0; il_pos < il_cnt; il_pos += VECT_SIZE)
588   {
589     const u32x w0r = ix_create_bft (bfs_buf, il_pos);
590
591     const u32x w0lr = w0l | w0r;
592
593     /**
594      * md5
595      */
596
597     u32x w0_t[4];
598     u32x w1_t[4];
599     u32x w2_t[4];
600     u32x w3_t[4];
601
602     w0_t[0] = w0lr;
603     w0_t[1] = w0[1];
604     w0_t[2] = w0[2];
605     w0_t[3] = w0[3];
606     w1_t[0] = w1[0];
607     w1_t[1] = w1[1];
608     w1_t[2] = w1[2];
609     w1_t[3] = w1[3];
610     w2_t[0] = w2[0];
611     w2_t[1] = w2[1];
612     w2_t[2] = w2[2];
613     w2_t[3] = w2[3];
614     w3_t[0] = w3[0];
615     w3_t[1] = w3[1];
616     w3_t[2] = pw_len * 8;
617     w3_t[3] = 0;
618
619     u32x digest_pre[4];
620
621     digest_pre[0] = MD5M_A;
622     digest_pre[1] = MD5M_B;
623     digest_pre[2] = MD5M_C;
624     digest_pre[3] = MD5M_D;
625
626     md5_transform (w0_t, w1_t, w2_t, w3_t, digest_pre);
627
628     digest_pre[0] &= 0xffffffff;
629     digest_pre[1] &= 0x000000ff;
630     digest_pre[2] &= 0x00000000;
631     digest_pre[3] &= 0x00000000;
632
633     u32x digest[4];
634
635     digest[0] = MD5M_A;
636     digest[1] = MD5M_B;
637     digest[2] = MD5M_C;
638     digest[3] = MD5M_D;
639
640     gen336 (digest_pre, salt_buf, digest);
641
642     u32x a = digest[0];
643     u32x b = digest[1] & 0xff;
644     u32x c = 0;
645     u32x d = 0;
646
647     COMPARE_S_SIMD (a, b, c, d);
648   }
649 }
650
651 __kernel void m09720_m04 (__global pw_t *pws, __global kernel_rule_t *rules_buf, __global comb_t *combs_buf, __global bf_t *bfs_buf, __global void *tmps, __global void *hooks, __global u32 *bitmaps_buf_s1_a, __global u32 *bitmaps_buf_s1_b, __global u32 *bitmaps_buf_s1_c, __global u32 *bitmaps_buf_s1_d, __global u32 *bitmaps_buf_s2_a, __global u32 *bitmaps_buf_s2_b, __global u32 *bitmaps_buf_s2_c, __global u32 *bitmaps_buf_s2_d, __global plain_t *plains_buf, __global digest_t *digests_buf, __global u32 *hashes_shown, __global salt_t *salt_bufs, __global oldoffice01_t *oldoffice01_bufs, __global u32 *d_return_buf, __global u32 *d_scryptV0_buf, __global u32 *d_scryptV1_buf, __global u32 *d_scryptV2_buf, __global u32 *d_scryptV3_buf, const u32 bitmap_mask, const u32 bitmap_shift1, const u32 bitmap_shift2, const u32 salt_pos, const u32 loop_pos, const u32 loop_cnt, const u32 il_cnt, const u32 digests_cnt, const u32 digests_offset, const u32 combs_mode, const u32 gid_max)
652 {
653   /**
654    * base
655    */
656
657   const u32 gid = get_global_id (0);
658
659   if (gid >= gid_max) return;
660
661   u32 w0[4];
662
663   w0[0] = pws[gid].i[ 0];
664   w0[1] = pws[gid].i[ 1];
665   w0[2] = pws[gid].i[ 2];
666   w0[3] = pws[gid].i[ 3];
667
668   u32 w1[4];
669
670   w1[0] = 0;
671   w1[1] = 0;
672   w1[2] = 0;
673   w1[3] = 0;
674
675   u32 w2[4];
676
677   w2[0] = 0;
678   w2[1] = 0;
679   w2[2] = 0;
680   w2[3] = 0;
681
682   u32 w3[4];
683
684   w3[0] = 0;
685   w3[1] = 0;
686   w3[2] = 0;
687   w3[3] = 0;
688
689   const u32 pw_len = pws[gid].pw_len;
690
691   /**
692    * main
693    */
694
695   m09720m (w0, w1, w2, w3, pw_len, pws, rules_buf, combs_buf, bfs_buf, tmps, hooks, bitmaps_buf_s1_a, bitmaps_buf_s1_b, bitmaps_buf_s1_c, bitmaps_buf_s1_d, bitmaps_buf_s2_a, bitmaps_buf_s2_b, bitmaps_buf_s2_c, bitmaps_buf_s2_d, plains_buf, digests_buf, hashes_shown, salt_bufs, oldoffice01_bufs, d_return_buf, d_scryptV0_buf, d_scryptV1_buf, d_scryptV2_buf, d_scryptV3_buf, bitmap_mask, bitmap_shift1, bitmap_shift2, salt_pos, loop_pos, loop_cnt, il_cnt, digests_cnt, digests_offset);
696 }
697
698 __kernel void m09720_m08 (__global pw_t *pws, __global kernel_rule_t *rules_buf, __global comb_t *combs_buf, __global bf_t *bfs_buf, __global void *tmps, __global void *hooks, __global u32 *bitmaps_buf_s1_a, __global u32 *bitmaps_buf_s1_b, __global u32 *bitmaps_buf_s1_c, __global u32 *bitmaps_buf_s1_d, __global u32 *bitmaps_buf_s2_a, __global u32 *bitmaps_buf_s2_b, __global u32 *bitmaps_buf_s2_c, __global u32 *bitmaps_buf_s2_d, __global plain_t *plains_buf, __global digest_t *digests_buf, __global u32 *hashes_shown, __global salt_t *salt_bufs, __global oldoffice01_t *oldoffice01_bufs, __global u32 *d_return_buf, __global u32 *d_scryptV0_buf, __global u32 *d_scryptV1_buf, __global u32 *d_scryptV2_buf, __global u32 *d_scryptV3_buf, const u32 bitmap_mask, const u32 bitmap_shift1, const u32 bitmap_shift2, const u32 salt_pos, const u32 loop_pos, const u32 loop_cnt, const u32 il_cnt, const u32 digests_cnt, const u32 digests_offset, const u32 combs_mode, const u32 gid_max)
699 {
700   /**
701    * base
702    */
703
704   const u32 gid = get_global_id (0);
705
706   if (gid >= gid_max) return;
707
708   u32 w0[4];
709
710   w0[0] = pws[gid].i[ 0];
711   w0[1] = pws[gid].i[ 1];
712   w0[2] = pws[gid].i[ 2];
713   w0[3] = pws[gid].i[ 3];
714
715   u32 w1[4];
716
717   w1[0] = pws[gid].i[ 4];
718   w1[1] = pws[gid].i[ 5];
719   w1[2] = pws[gid].i[ 6];
720   w1[3] = pws[gid].i[ 7];
721
722   u32 w2[4];
723
724   w2[0] = 0;
725   w2[1] = 0;
726   w2[2] = 0;
727   w2[3] = 0;
728
729   u32 w3[4];
730
731   w3[0] = 0;
732   w3[1] = 0;
733   w3[2] = 0;
734   w3[3] = 0;
735
736   const u32 pw_len = pws[gid].pw_len;
737
738   /**
739    * main
740    */
741
742   m09720m (w0, w1, w2, w3, pw_len, pws, rules_buf, combs_buf, bfs_buf, tmps, hooks, bitmaps_buf_s1_a, bitmaps_buf_s1_b, bitmaps_buf_s1_c, bitmaps_buf_s1_d, bitmaps_buf_s2_a, bitmaps_buf_s2_b, bitmaps_buf_s2_c, bitmaps_buf_s2_d, plains_buf, digests_buf, hashes_shown, salt_bufs, oldoffice01_bufs, d_return_buf, d_scryptV0_buf, d_scryptV1_buf, d_scryptV2_buf, d_scryptV3_buf, bitmap_mask, bitmap_shift1, bitmap_shift2, salt_pos, loop_pos, loop_cnt, il_cnt, digests_cnt, digests_offset);
743 }
744
745 __kernel void m09720_m16 (__global pw_t *pws, __global kernel_rule_t *rules_buf, __global comb_t *combs_buf, __global bf_t *bfs_buf, __global void *tmps, __global void *hooks, __global u32 *bitmaps_buf_s1_a, __global u32 *bitmaps_buf_s1_b, __global u32 *bitmaps_buf_s1_c, __global u32 *bitmaps_buf_s1_d, __global u32 *bitmaps_buf_s2_a, __global u32 *bitmaps_buf_s2_b, __global u32 *bitmaps_buf_s2_c, __global u32 *bitmaps_buf_s2_d, __global plain_t *plains_buf, __global digest_t *digests_buf, __global u32 *hashes_shown, __global salt_t *salt_bufs, __global oldoffice01_t *oldoffice01_bufs, __global u32 *d_return_buf, __global u32 *d_scryptV0_buf, __global u32 *d_scryptV1_buf, __global u32 *d_scryptV2_buf, __global u32 *d_scryptV3_buf, const u32 bitmap_mask, const u32 bitmap_shift1, const u32 bitmap_shift2, const u32 salt_pos, const u32 loop_pos, const u32 loop_cnt, const u32 il_cnt, const u32 digests_cnt, const u32 digests_offset, const u32 combs_mode, const u32 gid_max)
746 {
747   /**
748    * base
749    */
750
751   const u32 gid = get_global_id (0);
752
753   if (gid >= gid_max) return;
754
755   u32 w0[4];
756
757   w0[0] = pws[gid].i[ 0];
758   w0[1] = pws[gid].i[ 1];
759   w0[2] = pws[gid].i[ 2];
760   w0[3] = pws[gid].i[ 3];
761
762   u32 w1[4];
763
764   w1[0] = pws[gid].i[ 4];
765   w1[1] = pws[gid].i[ 5];
766   w1[2] = pws[gid].i[ 6];
767   w1[3] = pws[gid].i[ 7];
768
769   u32 w2[4];
770
771   w2[0] = pws[gid].i[ 8];
772   w2[1] = pws[gid].i[ 9];
773   w2[2] = pws[gid].i[10];
774   w2[3] = pws[gid].i[11];
775
776   u32 w3[4];
777
778   w3[0] = pws[gid].i[12];
779   w3[1] = pws[gid].i[13];
780   w3[2] = 0;
781   w3[3] = 0;
782
783   const u32 pw_len = pws[gid].pw_len;
784
785   /**
786    * main
787    */
788
789   m09720m (w0, w1, w2, w3, pw_len, pws, rules_buf, combs_buf, bfs_buf, tmps, hooks, bitmaps_buf_s1_a, bitmaps_buf_s1_b, bitmaps_buf_s1_c, bitmaps_buf_s1_d, bitmaps_buf_s2_a, bitmaps_buf_s2_b, bitmaps_buf_s2_c, bitmaps_buf_s2_d, plains_buf, digests_buf, hashes_shown, salt_bufs, oldoffice01_bufs, d_return_buf, d_scryptV0_buf, d_scryptV1_buf, d_scryptV2_buf, d_scryptV3_buf, bitmap_mask, bitmap_shift1, bitmap_shift2, salt_pos, loop_pos, loop_cnt, il_cnt, digests_cnt, digests_offset);
790 }
791
792 __kernel void m09720_s04 (__global pw_t *pws, __global kernel_rule_t *rules_buf, __global comb_t *combs_buf, __global bf_t *bfs_buf, __global void *tmps, __global void *hooks, __global u32 *bitmaps_buf_s1_a, __global u32 *bitmaps_buf_s1_b, __global u32 *bitmaps_buf_s1_c, __global u32 *bitmaps_buf_s1_d, __global u32 *bitmaps_buf_s2_a, __global u32 *bitmaps_buf_s2_b, __global u32 *bitmaps_buf_s2_c, __global u32 *bitmaps_buf_s2_d, __global plain_t *plains_buf, __global digest_t *digests_buf, __global u32 *hashes_shown, __global salt_t *salt_bufs, __global oldoffice01_t *oldoffice01_bufs, __global u32 *d_return_buf, __global u32 *d_scryptV0_buf, __global u32 *d_scryptV1_buf, __global u32 *d_scryptV2_buf, __global u32 *d_scryptV3_buf, const u32 bitmap_mask, const u32 bitmap_shift1, const u32 bitmap_shift2, const u32 salt_pos, const u32 loop_pos, const u32 loop_cnt, const u32 il_cnt, const u32 digests_cnt, const u32 digests_offset, const u32 combs_mode, const u32 gid_max)
793 {
794   /**
795    * base
796    */
797
798   const u32 gid = get_global_id (0);
799
800   if (gid >= gid_max) return;
801
802   u32 w0[4];
803
804   w0[0] = pws[gid].i[ 0];
805   w0[1] = pws[gid].i[ 1];
806   w0[2] = pws[gid].i[ 2];
807   w0[3] = pws[gid].i[ 3];
808
809   u32 w1[4];
810
811   w1[0] = 0;
812   w1[1] = 0;
813   w1[2] = 0;
814   w1[3] = 0;
815
816   u32 w2[4];
817
818   w2[0] = 0;
819   w2[1] = 0;
820   w2[2] = 0;
821   w2[3] = 0;
822
823   u32 w3[4];
824
825   w3[0] = 0;
826   w3[1] = 0;
827   w3[2] = 0;
828   w3[3] = 0;
829
830   const u32 pw_len = pws[gid].pw_len;
831
832   /**
833    * main
834    */
835
836   m09720s (w0, w1, w2, w3, pw_len, pws, rules_buf, combs_buf, bfs_buf, tmps, hooks, bitmaps_buf_s1_a, bitmaps_buf_s1_b, bitmaps_buf_s1_c, bitmaps_buf_s1_d, bitmaps_buf_s2_a, bitmaps_buf_s2_b, bitmaps_buf_s2_c, bitmaps_buf_s2_d, plains_buf, digests_buf, hashes_shown, salt_bufs, oldoffice01_bufs, d_return_buf, d_scryptV0_buf, d_scryptV1_buf, d_scryptV2_buf, d_scryptV3_buf, bitmap_mask, bitmap_shift1, bitmap_shift2, salt_pos, loop_pos, loop_cnt, il_cnt, digests_cnt, digests_offset);
837 }
838
839 __kernel void m09720_s08 (__global pw_t *pws, __global kernel_rule_t *rules_buf, __global comb_t *combs_buf, __global bf_t *bfs_buf, __global void *tmps, __global void *hooks, __global u32 *bitmaps_buf_s1_a, __global u32 *bitmaps_buf_s1_b, __global u32 *bitmaps_buf_s1_c, __global u32 *bitmaps_buf_s1_d, __global u32 *bitmaps_buf_s2_a, __global u32 *bitmaps_buf_s2_b, __global u32 *bitmaps_buf_s2_c, __global u32 *bitmaps_buf_s2_d, __global plain_t *plains_buf, __global digest_t *digests_buf, __global u32 *hashes_shown, __global salt_t *salt_bufs, __global oldoffice01_t *oldoffice01_bufs, __global u32 *d_return_buf, __global u32 *d_scryptV0_buf, __global u32 *d_scryptV1_buf, __global u32 *d_scryptV2_buf, __global u32 *d_scryptV3_buf, const u32 bitmap_mask, const u32 bitmap_shift1, const u32 bitmap_shift2, const u32 salt_pos, const u32 loop_pos, const u32 loop_cnt, const u32 il_cnt, const u32 digests_cnt, const u32 digests_offset, const u32 combs_mode, const u32 gid_max)
840 {
841   /**
842    * base
843    */
844
845   const u32 gid = get_global_id (0);
846
847   if (gid >= gid_max) return;
848
849   u32 w0[4];
850
851   w0[0] = pws[gid].i[ 0];
852   w0[1] = pws[gid].i[ 1];
853   w0[2] = pws[gid].i[ 2];
854   w0[3] = pws[gid].i[ 3];
855
856   u32 w1[4];
857
858   w1[0] = pws[gid].i[ 4];
859   w1[1] = pws[gid].i[ 5];
860   w1[2] = pws[gid].i[ 6];
861   w1[3] = pws[gid].i[ 7];
862
863   u32 w2[4];
864
865   w2[0] = 0;
866   w2[1] = 0;
867   w2[2] = 0;
868   w2[3] = 0;
869
870   u32 w3[4];
871
872   w3[0] = 0;
873   w3[1] = 0;
874   w3[2] = 0;
875   w3[3] = 0;
876
877   const u32 pw_len = pws[gid].pw_len;
878
879   /**
880    * main
881    */
882
883   m09720s (w0, w1, w2, w3, pw_len, pws, rules_buf, combs_buf, bfs_buf, tmps, hooks, bitmaps_buf_s1_a, bitmaps_buf_s1_b, bitmaps_buf_s1_c, bitmaps_buf_s1_d, bitmaps_buf_s2_a, bitmaps_buf_s2_b, bitmaps_buf_s2_c, bitmaps_buf_s2_d, plains_buf, digests_buf, hashes_shown, salt_bufs, oldoffice01_bufs, d_return_buf, d_scryptV0_buf, d_scryptV1_buf, d_scryptV2_buf, d_scryptV3_buf, bitmap_mask, bitmap_shift1, bitmap_shift2, salt_pos, loop_pos, loop_cnt, il_cnt, digests_cnt, digests_offset);
884 }
885
886 __kernel void m09720_s16 (__global pw_t *pws, __global kernel_rule_t *rules_buf, __global comb_t *combs_buf, __global bf_t *bfs_buf, __global void *tmps, __global void *hooks, __global u32 *bitmaps_buf_s1_a, __global u32 *bitmaps_buf_s1_b, __global u32 *bitmaps_buf_s1_c, __global u32 *bitmaps_buf_s1_d, __global u32 *bitmaps_buf_s2_a, __global u32 *bitmaps_buf_s2_b, __global u32 *bitmaps_buf_s2_c, __global u32 *bitmaps_buf_s2_d, __global plain_t *plains_buf, __global digest_t *digests_buf, __global u32 *hashes_shown, __global salt_t *salt_bufs, __global oldoffice01_t *oldoffice01_bufs, __global u32 *d_return_buf, __global u32 *d_scryptV0_buf, __global u32 *d_scryptV1_buf, __global u32 *d_scryptV2_buf, __global u32 *d_scryptV3_buf, const u32 bitmap_mask, const u32 bitmap_shift1, const u32 bitmap_shift2, const u32 salt_pos, const u32 loop_pos, const u32 loop_cnt, const u32 il_cnt, const u32 digests_cnt, const u32 digests_offset, const u32 combs_mode, const u32 gid_max)
887 {
888   /**
889    * base
890    */
891
892   const u32 gid = get_global_id (0);
893
894   if (gid >= gid_max) return;
895
896   u32 w0[4];
897
898   w0[0] = pws[gid].i[ 0];
899   w0[1] = pws[gid].i[ 1];
900   w0[2] = pws[gid].i[ 2];
901   w0[3] = pws[gid].i[ 3];
902
903   u32 w1[4];
904
905   w1[0] = pws[gid].i[ 4];
906   w1[1] = pws[gid].i[ 5];
907   w1[2] = pws[gid].i[ 6];
908   w1[3] = pws[gid].i[ 7];
909
910   u32 w2[4];
911
912   w2[0] = pws[gid].i[ 8];
913   w2[1] = pws[gid].i[ 9];
914   w2[2] = pws[gid].i[10];
915   w2[3] = pws[gid].i[11];
916
917   u32 w3[4];
918
919   w3[0] = pws[gid].i[12];
920   w3[1] = pws[gid].i[13];
921   w3[2] = 0;
922   w3[3] = 0;
923
924   const u32 pw_len = pws[gid].pw_len;
925
926   /**
927    * main
928    */
929
930   m09720s (w0, w1, w2, w3, pw_len, pws, rules_buf, combs_buf, bfs_buf, tmps, hooks, bitmaps_buf_s1_a, bitmaps_buf_s1_b, bitmaps_buf_s1_c, bitmaps_buf_s1_d, bitmaps_buf_s2_a, bitmaps_buf_s2_b, bitmaps_buf_s2_c, bitmaps_buf_s2_d, plains_buf, digests_buf, hashes_shown, salt_bufs, oldoffice01_bufs, d_return_buf, d_scryptV0_buf, d_scryptV1_buf, d_scryptV2_buf, d_scryptV3_buf, bitmap_mask, bitmap_shift1, bitmap_shift2, salt_pos, loop_pos, loop_cnt, il_cnt, digests_cnt, digests_offset);
931 }