OpenCL/m09700_a3.cl

   1 /**
   2  * Authors.....: Jens Steube <jens.steube@gmail.com>
   3  *               Gabriele Gristina <matrix@hashcat.net>
   4  *
   5  * License.....: MIT
   6  */
   7
   8 #define _OLDOFFICE01_
   9
  10 #include "inc_vendor.cl"
  11 #include "inc_hash_constants.h"
  12 #include "inc_hash_functions.cl"
  13 #include "inc_types.cl"
  14 #include "inc_common.cl"
  15 #include "inc_simd.cl"
  16
  17 typedef struct
  18 {
  19   u8 S[256];
  20
  21   u32 wtf_its_faster;
  22
  23 } RC4_KEY;
  24
  25 void swap (__local RC4_KEY *rc4_key, const u8 i, const u8 j)
  26 {
  27   u8 tmp;
  28
  29   tmp           = rc4_key->S[i];
  30   rc4_key->S[i] = rc4_key->S[j];
  31   rc4_key->S[j] = tmp;
  32 }
  33
  34 void rc4_init_16 (__local RC4_KEY *rc4_key, const u32 data[4])
  35 {
  36   u32 v = 0x03020100;
  37   u32 a = 0x04040404;
  38
  39   __local u32 *ptr = (__local u32 *) rc4_key->S;
  40
  41   #ifdef _unroll
  42   #pragma unroll
  43   #endif
  44   for (u32 i = 0; i < 64; i++)
  45   {
  46     *ptr++ = v; v += a;
  47   }
  48
  49   u32 j = 0;
  50
  51   for (u32 i = 0; i < 16; i++)
  52   {
  53     u32 idx = i * 16;
  54
  55     u32 v;
  56
  57     v = data[0];
  58
  59     j += rc4_key->S[idx] + (v >>  0); swap (rc4_key, idx, j); idx++;
  60     j += rc4_key->S[idx] + (v >>  8); swap (rc4_key, idx, j); idx++;
  61     j += rc4_key->S[idx] + (v >> 16); swap (rc4_key, idx, j); idx++;
  62     j += rc4_key->S[idx] + (v >> 24); swap (rc4_key, idx, j); idx++;
  63
  64     v = data[1];
  65
  66     j += rc4_key->S[idx] + (v >>  0); swap (rc4_key, idx, j); idx++;
  67     j += rc4_key->S[idx] + (v >>  8); swap (rc4_key, idx, j); idx++;
  68     j += rc4_key->S[idx] + (v >> 16); swap (rc4_key, idx, j); idx++;
  69     j += rc4_key->S[idx] + (v >> 24); swap (rc4_key, idx, j); idx++;
  70
  71     v = data[2];
  72
  73     j += rc4_key->S[idx] + (v >>  0); swap (rc4_key, idx, j); idx++;
  74     j += rc4_key->S[idx] + (v >>  8); swap (rc4_key, idx, j); idx++;
  75     j += rc4_key->S[idx] + (v >> 16); swap (rc4_key, idx, j); idx++;
  76     j += rc4_key->S[idx] + (v >> 24); swap (rc4_key, idx, j); idx++;
  77
  78     v = data[3];
  79
  80     j += rc4_key->S[idx] + (v >>  0); swap (rc4_key, idx, j); idx++;
  81     j += rc4_key->S[idx] + (v >>  8); swap (rc4_key, idx, j); idx++;
  82     j += rc4_key->S[idx] + (v >> 16); swap (rc4_key, idx, j); idx++;
  83     j += rc4_key->S[idx] + (v >> 24); swap (rc4_key, idx, j); idx++;
  84   }
  85 }
  86
  87 u8 rc4_next_16 (__local RC4_KEY *rc4_key, u8 i, u8 j, const u32 in[4], u32 out[4])
  88 {
  89   #ifdef _unroll
  90   #pragma unroll
  91   #endif
  92   for (u32 k = 0; k < 4; k++)
  93   {
  94     u32 xor4 = 0;
  95
  96     u8 idx;
  97
  98     i += 1;
  99     j += rc4_key->S[i];
 100
 101     swap (rc4_key, i, j);
 102
 103     idx = rc4_key->S[i] + rc4_key->S[j];
 104
 105     xor4 |= rc4_key->S[idx] <<  0;
 106
 107     i += 1;
 108     j += rc4_key->S[i];
 109
 110     swap (rc4_key, i, j);
 111
 112     idx = rc4_key->S[i] + rc4_key->S[j];
 113
 114     xor4 |= rc4_key->S[idx] <<  8;
 115
 116     i += 1;
 117     j += rc4_key->S[i];
 118
 119     swap (rc4_key, i, j);
 120
 121     idx = rc4_key->S[i] + rc4_key->S[j];
 122
 123     xor4 |= rc4_key->S[idx] << 16;
 124
 125     i += 1;
 126     j += rc4_key->S[i];
 127
 128     swap (rc4_key, i, j);
 129
 130     idx = rc4_key->S[i] + rc4_key->S[j];
 131
 132     xor4 |= rc4_key->S[idx] << 24;
 133
 134     out[k] = in[k] ^ xor4;
 135   }
 136
 137   return j;
 138 }
 139
 140 void md5_transform (const u32 w0[4], const u32 w1[4], const u32 w2[4], const u32 w3[4], u32 digest[4])
 141 {
 142   u32 a = digest[0];
 143   u32 b = digest[1];
 144   u32 c = digest[2];
 145   u32 d = digest[3];
 146
 147   u32 w0_t = w0[0];
 148   u32 w1_t = w0[1];
 149   u32 w2_t = w0[2];
 150   u32 w3_t = w0[3];
 151   u32 w4_t = w1[0];
 152   u32 w5_t = w1[1];
 153   u32 w6_t = w1[2];
 154   u32 w7_t = w1[3];
 155   u32 w8_t = w2[0];
 156   u32 w9_t = w2[1];
 157   u32 wa_t = w2[2];
 158   u32 wb_t = w2[3];
 159   u32 wc_t = w3[0];
 160   u32 wd_t = w3[1];
 161   u32 we_t = w3[2];
 162   u32 wf_t = w3[3];
 163
 164   MD5_STEP (MD5_Fo, a, b, c, d, w0_t, MD5C00, MD5S00);
 165   MD5_STEP (MD5_Fo, d, a, b, c, w1_t, MD5C01, MD5S01);
 166   MD5_STEP (MD5_Fo, c, d, a, b, w2_t, MD5C02, MD5S02);
 167   MD5_STEP (MD5_Fo, b, c, d, a, w3_t, MD5C03, MD5S03);
 168   MD5_STEP (MD5_Fo, a, b, c, d, w4_t, MD5C04, MD5S00);
 169   MD5_STEP (MD5_Fo, d, a, b, c, w5_t, MD5C05, MD5S01);
 170   MD5_STEP (MD5_Fo, c, d, a, b, w6_t, MD5C06, MD5S02);
 171   MD5_STEP (MD5_Fo, b, c, d, a, w7_t, MD5C07, MD5S03);
 172   MD5_STEP (MD5_Fo, a, b, c, d, w8_t, MD5C08, MD5S00);
 173   MD5_STEP (MD5_Fo, d, a, b, c, w9_t, MD5C09, MD5S01);
 174   MD5_STEP (MD5_Fo, c, d, a, b, wa_t, MD5C0a, MD5S02);
 175   MD5_STEP (MD5_Fo, b, c, d, a, wb_t, MD5C0b, MD5S03);
 176   MD5_STEP (MD5_Fo, a, b, c, d, wc_t, MD5C0c, MD5S00);
 177   MD5_STEP (MD5_Fo, d, a, b, c, wd_t, MD5C0d, MD5S01);
 178   MD5_STEP (MD5_Fo, c, d, a, b, we_t, MD5C0e, MD5S02);
 179   MD5_STEP (MD5_Fo, b, c, d, a, wf_t, MD5C0f, MD5S03);
 180
 181   MD5_STEP (MD5_Go, a, b, c, d, w1_t, MD5C10, MD5S10);
 182   MD5_STEP (MD5_Go, d, a, b, c, w6_t, MD5C11, MD5S11);
 183   MD5_STEP (MD5_Go, c, d, a, b, wb_t, MD5C12, MD5S12);
 184   MD5_STEP (MD5_Go, b, c, d, a, w0_t, MD5C13, MD5S13);
 185   MD5_STEP (MD5_Go, a, b, c, d, w5_t, MD5C14, MD5S10);
 186   MD5_STEP (MD5_Go, d, a, b, c, wa_t, MD5C15, MD5S11);
 187   MD5_STEP (MD5_Go, c, d, a, b, wf_t, MD5C16, MD5S12);
 188   MD5_STEP (MD5_Go, b, c, d, a, w4_t, MD5C17, MD5S13);
 189   MD5_STEP (MD5_Go, a, b, c, d, w9_t, MD5C18, MD5S10);
 190   MD5_STEP (MD5_Go, d, a, b, c, we_t, MD5C19, MD5S11);
 191   MD5_STEP (MD5_Go, c, d, a, b, w3_t, MD5C1a, MD5S12);
 192   MD5_STEP (MD5_Go, b, c, d, a, w8_t, MD5C1b, MD5S13);
 193   MD5_STEP (MD5_Go, a, b, c, d, wd_t, MD5C1c, MD5S10);
 194   MD5_STEP (MD5_Go, d, a, b, c, w2_t, MD5C1d, MD5S11);
 195   MD5_STEP (MD5_Go, c, d, a, b, w7_t, MD5C1e, MD5S12);
 196   MD5_STEP (MD5_Go, b, c, d, a, wc_t, MD5C1f, MD5S13);
 197
 198   MD5_STEP (MD5_H , a, b, c, d, w5_t, MD5C20, MD5S20);
 199   MD5_STEP (MD5_H , d, a, b, c, w8_t, MD5C21, MD5S21);
 200   MD5_STEP (MD5_H , c, d, a, b, wb_t, MD5C22, MD5S22);
 201   MD5_STEP (MD5_H , b, c, d, a, we_t, MD5C23, MD5S23);
 202   MD5_STEP (MD5_H , a, b, c, d, w1_t, MD5C24, MD5S20);
 203   MD5_STEP (MD5_H , d, a, b, c, w4_t, MD5C25, MD5S21);
 204   MD5_STEP (MD5_H , c, d, a, b, w7_t, MD5C26, MD5S22);
 205   MD5_STEP (MD5_H , b, c, d, a, wa_t, MD5C27, MD5S23);
 206   MD5_STEP (MD5_H , a, b, c, d, wd_t, MD5C28, MD5S20);
 207   MD5_STEP (MD5_H , d, a, b, c, w0_t, MD5C29, MD5S21);
 208   MD5_STEP (MD5_H , c, d, a, b, w3_t, MD5C2a, MD5S22);
 209   MD5_STEP (MD5_H , b, c, d, a, w6_t, MD5C2b, MD5S23);
 210   MD5_STEP (MD5_H , a, b, c, d, w9_t, MD5C2c, MD5S20);
 211   MD5_STEP (MD5_H , d, a, b, c, wc_t, MD5C2d, MD5S21);
 212   MD5_STEP (MD5_H , c, d, a, b, wf_t, MD5C2e, MD5S22);
 213   MD5_STEP (MD5_H , b, c, d, a, w2_t, MD5C2f, MD5S23);
 214
 215   MD5_STEP (MD5_I , a, b, c, d, w0_t, MD5C30, MD5S30);
 216   MD5_STEP (MD5_I , d, a, b, c, w7_t, MD5C31, MD5S31);
 217   MD5_STEP (MD5_I , c, d, a, b, we_t, MD5C32, MD5S32);
 218   MD5_STEP (MD5_I , b, c, d, a, w5_t, MD5C33, MD5S33);
 219   MD5_STEP (MD5_I , a, b, c, d, wc_t, MD5C34, MD5S30);
 220   MD5_STEP (MD5_I , d, a, b, c, w3_t, MD5C35, MD5S31);
 221   MD5_STEP (MD5_I , c, d, a, b, wa_t, MD5C36, MD5S32);
 222   MD5_STEP (MD5_I , b, c, d, a, w1_t, MD5C37, MD5S33);
 223   MD5_STEP (MD5_I , a, b, c, d, w8_t, MD5C38, MD5S30);
 224   MD5_STEP (MD5_I , d, a, b, c, wf_t, MD5C39, MD5S31);
 225   MD5_STEP (MD5_I , c, d, a, b, w6_t, MD5C3a, MD5S32);
 226   MD5_STEP (MD5_I , b, c, d, a, wd_t, MD5C3b, MD5S33);
 227   MD5_STEP (MD5_I , a, b, c, d, w4_t, MD5C3c, MD5S30);
 228   MD5_STEP (MD5_I , d, a, b, c, wb_t, MD5C3d, MD5S31);
 229   MD5_STEP (MD5_I , c, d, a, b, w2_t, MD5C3e, MD5S32);
 230   MD5_STEP (MD5_I , b, c, d, a, w9_t, MD5C3f, MD5S33);
 231
 232   digest[0] += a;
 233   digest[1] += b;
 234   digest[2] += c;
 235   digest[3] += d;
 236 }
 237
 238 void m09700m (__local RC4_KEY *rc4_keys, u32 w0[4], u32 w1[4], u32 w2[4], u32 w3[4], const u32 pw_len, __global pw_t *pws, __global kernel_rule_t *rules_buf, __global comb_t *combs_buf, __global bf_t *bfs_buf, __global void *tmps, __global void *hooks, __global u32 *bitmaps_buf_s1_a, __global u32 *bitmaps_buf_s1_b, __global u32 *bitmaps_buf_s1_c, __global u32 *bitmaps_buf_s1_d, __global u32 *bitmaps_buf_s2_a, __global u32 *bitmaps_buf_s2_b, __global u32 *bitmaps_buf_s2_c, __global u32 *bitmaps_buf_s2_d, __global plain_t *plains_buf, __global digest_t *digests_buf, __global u32 *hashes_shown, __global salt_t *salt_bufs, __global oldoffice01_t *oldoffice01_bufs, __global u32 *d_return_buf, __global u32 *d_scryptV0_buf, __global u32 *d_scryptV1_buf, __global u32 *d_scryptV2_buf, __global u32 *d_scryptV3_buf, const u32 bitmap_mask, const u32 bitmap_shift1, const u32 bitmap_shift2, const u32 salt_pos, const u32 loop_pos, const u32 loop_cnt, const u32 il_cnt, const u32 digests_cnt, const u32 digests_offset)
 239 {
 240   /**
 241    * modifier
 242    */
 243
 244   const u32 gid = get_global_id (0);
 245   const u32 lid = get_local_id (0);
 246
 247   /**
 248    * shared
 249    */
 250
 251   __local RC4_KEY *rc4_key = &rc4_keys[lid];
 252
 253   /**
 254    * salt
 255    */
 256
 257   u32 salt_buf_t0[4];
 258
 259   salt_buf_t0[0] = salt_bufs[salt_pos].salt_buf[0];
 260   salt_buf_t0[1] = salt_bufs[salt_pos].salt_buf[1];
 261   salt_buf_t0[2] = salt_bufs[salt_pos].salt_buf[2];
 262   salt_buf_t0[3] = salt_bufs[salt_pos].salt_buf[3];
 263
 264   u32 salt_buf_t1[5];
 265
 266   salt_buf_t1[0] =                        salt_buf_t0[0] <<  8;
 267   salt_buf_t1[1] = salt_buf_t0[0] >> 24 | salt_buf_t0[1] <<  8;
 268   salt_buf_t1[2] = salt_buf_t0[1] >> 24 | salt_buf_t0[2] <<  8;
 269   salt_buf_t1[3] = salt_buf_t0[2] >> 24 | salt_buf_t0[3] <<  8;
 270   salt_buf_t1[4] = salt_buf_t0[3] >> 24;
 271
 272   u32 salt_buf_t2[5];
 273
 274   salt_buf_t2[0] =                        salt_buf_t0[0] << 16;
 275   salt_buf_t2[1] = salt_buf_t0[0] >> 16 | salt_buf_t0[1] << 16;
 276   salt_buf_t2[2] = salt_buf_t0[1] >> 16 | salt_buf_t0[2] << 16;
 277   salt_buf_t2[3] = salt_buf_t0[2] >> 16 | salt_buf_t0[3] << 16;
 278   salt_buf_t2[4] = salt_buf_t0[3] >> 16;
 279
 280   u32 salt_buf_t3[5];
 281
 282   salt_buf_t3[0] =                        salt_buf_t0[0] << 24;
 283   salt_buf_t3[1] = salt_buf_t0[0] >>  8 | salt_buf_t0[1] << 24;
 284   salt_buf_t3[2] = salt_buf_t0[1] >>  8 | salt_buf_t0[2] << 24;
 285   salt_buf_t3[3] = salt_buf_t0[2] >>  8 | salt_buf_t0[3] << 24;
 286   salt_buf_t3[4] = salt_buf_t0[3] >>  8;
 287
 288   const u32 salt_len = 16;
 289
 290   /**
 291    * esalt
 292    */
 293
 294   const u32 version = oldoffice01_bufs[salt_pos].version;
 295
 296   u32 encryptedVerifier[4];
 297
 298   encryptedVerifier[0] = oldoffice01_bufs[salt_pos].encryptedVerifier[0];
 299   encryptedVerifier[1] = oldoffice01_bufs[salt_pos].encryptedVerifier[1];
 300   encryptedVerifier[2] = oldoffice01_bufs[salt_pos].encryptedVerifier[2];
 301   encryptedVerifier[3] = oldoffice01_bufs[salt_pos].encryptedVerifier[3];
 302
 303   /**
 304    * loop
 305    */
 306
 307   u32 w0l = w0[0];
 308
 309   for (u32 il_pos = 0; il_pos < il_cnt; il_pos += VECT_SIZE)
 310   {
 311     const u32 w0r = ix_create_bft (bfs_buf, il_pos);
 312
 313     const u32 w0lr = w0l | w0r;
 314
 315     /**
 316      * md5
 317      */
 318
 319     u32 w0_t[4];
 320     u32 w1_t[4];
 321     u32 w2_t[4];
 322     u32 w3_t[4];
 323
 324     w0_t[0] = w0lr;
 325     w0_t[1] = w0[1];
 326     w0_t[2] = w0[2];
 327     w0_t[3] = w0[3];
 328     w1_t[0] = w1[0];
 329     w1_t[1] = w1[1];
 330     w1_t[2] = w1[2];
 331     w1_t[3] = w1[3];
 332     w2_t[0] = w2[0];
 333     w2_t[1] = w2[1];
 334     w2_t[2] = w2[2];
 335     w2_t[3] = w2[3];
 336     w3_t[0] = w3[0];
 337     w3_t[1] = w3[1];
 338     w3_t[2] = pw_len * 8;
 339     w3_t[3] = 0;
 340
 341     u32 digest_t0[4];
 342     u32 digest_t1[2]; // need only first 5 byte
 343     u32 digest_t2[2];
 344     u32 digest_t3[2];
 345
 346     digest_t0[0] = MD5M_A;
 347     digest_t0[1] = MD5M_B;
 348     digest_t0[2] = MD5M_C;
 349     digest_t0[3] = MD5M_D;
 350
 351     md5_transform (w0_t, w1_t, w2_t, w3_t, digest_t0);
 352
 353     // prepare 16 * 21 buffer stuff
 354
 355     u32 digest[4];
 356
 357     digest[0] = MD5M_A;
 358     digest[1] = MD5M_B;
 359     digest[2] = MD5M_C;
 360     digest[3] = MD5M_D;
 361
 362     // offsets
 363
 364     digest_t0[0] &= 0xffffffff;
 365     digest_t0[1] &= 0x000000ff;
 366     digest_t0[2] &= 0x00000000;
 367     digest_t0[3] &= 0x00000000;
 368
 369     digest_t1[0] =                      digest_t0[0] <<  8;
 370     digest_t1[1] = digest_t0[0] >> 24 | digest_t0[1] <<  8;
 371
 372     digest_t2[0] =                      digest_t0[0] << 16;
 373     digest_t2[1] = digest_t0[0] >> 16 | digest_t0[1] << 16;
 374
 375     digest_t3[0] =                      digest_t0[0] << 24;
 376     digest_t3[1] = digest_t0[0] >>  8 | digest_t0[1] << 24;
 377
 378     // generate the 16 * 21 buffer
 379
 380     // 0..5
 381     w0_t[0]  = digest_t0[0];
 382     w0_t[1]  = digest_t0[1];
 383
 384     // 5..21
 385     w0_t[1] |= salt_buf_t1[0];
 386     w0_t[2]  = salt_buf_t1[1];
 387     w0_t[3]  = salt_buf_t1[2];
 388     w1_t[0]  = salt_buf_t1[3];
 389     w1_t[1]  = salt_buf_t1[4];
 390
 391     // 21..26
 392     w1_t[1] |= digest_t1[0];
 393     w1_t[2]  = digest_t1[1];
 394
 395     // 26..42
 396     w1_t[2] |= salt_buf_t2[0];
 397     w1_t[3]  = salt_buf_t2[1];
 398     w2_t[0]  = salt_buf_t2[2];
 399     w2_t[1]  = salt_buf_t2[3];
 400     w2_t[2]  = salt_buf_t2[4];
 401
 402     // 42..47
 403     w2_t[2] |= digest_t2[0];
 404     w2_t[3]  = digest_t2[1];
 405
 406     // 47..63
 407     w2_t[3] |= salt_buf_t3[0];
 408     w3_t[0]  = salt_buf_t3[1];
 409     w3_t[1]  = salt_buf_t3[2];
 410     w3_t[2]  = salt_buf_t3[3];
 411     w3_t[3]  = salt_buf_t3[4];
 412
 413     // 63..
 414
 415     w3_t[3] |= digest_t3[0];
 416
 417     md5_transform (w0_t, w1_t, w2_t, w3_t, digest);
 418
 419     // 0..4
 420     w0_t[0]  = digest_t3[1];
 421
 422     // 4..20
 423     w0_t[1]  = salt_buf_t0[0];
 424     w0_t[2]  = salt_buf_t0[1];
 425     w0_t[3]  = salt_buf_t0[2];
 426     w1_t[0]  = salt_buf_t0[3];
 427
 428     // 20..25
 429     w1_t[1]  = digest_t0[0];
 430     w1_t[2]  = digest_t0[1];
 431
 432     // 25..41
 433     w1_t[2] |= salt_buf_t1[0];
 434     w1_t[3]  = salt_buf_t1[1];
 435     w2_t[0]  = salt_buf_t1[2];
 436     w2_t[1]  = salt_buf_t1[3];
 437     w2_t[2]  = salt_buf_t1[4];
 438
 439     // 41..46
 440     w2_t[2] |= digest_t1[0];
 441     w2_t[3]  = digest_t1[1];
 442
 443     // 46..62
 444     w2_t[3] |= salt_buf_t2[0];
 445     w3_t[0]  = salt_buf_t2[1];
 446     w3_t[1]  = salt_buf_t2[2];
 447     w3_t[2]  = salt_buf_t2[3];
 448     w3_t[3]  = salt_buf_t2[4];
 449
 450     // 62..
 451     w3_t[3] |= digest_t2[0];
 452
 453     md5_transform (w0_t, w1_t, w2_t, w3_t, digest);
 454
 455     // 0..3
 456     w0_t[0]  = digest_t2[1];
 457
 458     // 3..19
 459     w0_t[0] |= salt_buf_t3[0];
 460     w0_t[1]  = salt_buf_t3[1];
 461     w0_t[2]  = salt_buf_t3[2];
 462     w0_t[3]  = salt_buf_t3[3];
 463     w1_t[0]  = salt_buf_t3[4];
 464
 465     // 19..24
 466     w1_t[0] |= digest_t3[0];
 467     w1_t[1]  = digest_t3[1];
 468
 469     // 24..40
 470     w1_t[2]  = salt_buf_t0[0];
 471     w1_t[3]  = salt_buf_t0[1];
 472     w2_t[0]  = salt_buf_t0[2];
 473     w2_t[1]  = salt_buf_t0[3];
 474
 475     // 40..45
 476     w2_t[2]  = digest_t0[0];
 477     w2_t[3]  = digest_t0[1];
 478
 479     // 45..61
 480     w2_t[3] |= salt_buf_t1[0];
 481     w3_t[0]  = salt_buf_t1[1];
 482     w3_t[1]  = salt_buf_t1[2];
 483     w3_t[2]  = salt_buf_t1[3];
 484     w3_t[3]  = salt_buf_t1[4];
 485
 486     // 61..
 487     w3_t[3] |= digest_t1[0];
 488
 489     md5_transform (w0_t, w1_t, w2_t, w3_t, digest);
 490
 491     // 0..2
 492     w0_t[0]  = digest_t1[1];
 493
 494     // 2..18
 495     w0_t[0] |= salt_buf_t2[0];
 496     w0_t[1]  = salt_buf_t2[1];
 497     w0_t[2]  = salt_buf_t2[2];
 498     w0_t[3]  = salt_buf_t2[3];
 499     w1_t[0]  = salt_buf_t2[4];
 500
 501     // 18..23
 502     w1_t[0] |= digest_t2[0];
 503     w1_t[1]  = digest_t2[1];
 504
 505     // 23..39
 506     w1_t[1] |= salt_buf_t3[0];
 507     w1_t[2]  = salt_buf_t3[1];
 508     w1_t[3]  = salt_buf_t3[2];
 509     w2_t[0]  = salt_buf_t3[3];
 510     w2_t[1]  = salt_buf_t3[4];
 511
 512     // 39..44
 513     w2_t[1] |= digest_t3[0];
 514     w2_t[2]  = digest_t3[1];
 515
 516     // 44..60
 517     w2_t[3]  = salt_buf_t0[0];
 518     w3_t[0]  = salt_buf_t0[1];
 519     w3_t[1]  = salt_buf_t0[2];
 520     w3_t[2]  = salt_buf_t0[3];
 521
 522     // 60..
 523     w3_t[3]  = digest_t0[0];
 524
 525     md5_transform (w0_t, w1_t, w2_t, w3_t, digest);
 526
 527     // 0..1
 528     w0_t[0]  = digest_t0[1];
 529
 530     // 1..17
 531     w0_t[0] |= salt_buf_t1[0];
 532     w0_t[1]  = salt_buf_t1[1];
 533     w0_t[2]  = salt_buf_t1[2];
 534     w0_t[3]  = salt_buf_t1[3];
 535     w1_t[0]  = salt_buf_t1[4];
 536
 537     // 17..22
 538     w1_t[0] |= digest_t1[0];
 539     w1_t[1]  = digest_t1[1];
 540
 541     // 22..38
 542     w1_t[1] |= salt_buf_t2[0];
 543     w1_t[2]  = salt_buf_t2[1];
 544     w1_t[3]  = salt_buf_t2[2];
 545     w2_t[0]  = salt_buf_t2[3];
 546     w2_t[1]  = salt_buf_t2[4];
 547
 548     // 38..43
 549     w2_t[1] |= digest_t2[0];
 550     w2_t[2]  = digest_t2[1];
 551
 552     // 43..59
 553     w2_t[2] |= salt_buf_t3[0];
 554     w2_t[3]  = salt_buf_t3[1];
 555     w3_t[0]  = salt_buf_t3[2];
 556     w3_t[1]  = salt_buf_t3[3];
 557     w3_t[2]  = salt_buf_t3[4];
 558
 559     // 59..
 560     w3_t[2] |= digest_t3[0];
 561     w3_t[3]  = digest_t3[1];
 562
 563     md5_transform (w0_t, w1_t, w2_t, w3_t, digest);
 564
 565     w0_t[0]  = salt_buf_t0[0];
 566     w0_t[1]  = salt_buf_t0[1];
 567     w0_t[2]  = salt_buf_t0[2];
 568     w0_t[3]  = salt_buf_t0[3];
 569     w1_t[0]  = 0x80;
 570     w1_t[1]  = 0;
 571     w1_t[2]  = 0;
 572     w1_t[3]  = 0;
 573     w2_t[0]  = 0;
 574     w2_t[1]  = 0;
 575     w2_t[2]  = 0;
 576     w2_t[3]  = 0;
 577     w3_t[0]  = 0;
 578     w3_t[1]  = 0;
 579     w3_t[2]  = 21 * 16 * 8;
 580     w3_t[3]  = 0;
 581
 582     md5_transform (w0_t, w1_t, w2_t, w3_t, digest);
 583
 584     // now the 40 bit input for the MD5 which then will generate the RC4 key, so it's precomputable!
 585
 586     w0_t[0]  = digest[0];
 587     w0_t[1]  = digest[1] & 0xff;
 588     w0_t[2]  = 0x8000;
 589     w0_t[3]  = 0;
 590     w1_t[0]  = 0;
 591     w1_t[1]  = 0;
 592     w1_t[2]  = 0;
 593     w1_t[3]  = 0;
 594     w2_t[0]  = 0;
 595     w2_t[1]  = 0;
 596     w2_t[2]  = 0;
 597     w2_t[3]  = 0;
 598     w3_t[0]  = 0;
 599     w3_t[1]  = 0;
 600     w3_t[2]  = 9 * 8;
 601     w3_t[3]  = 0;
 602
 603     digest[0] = MD5M_A;
 604     digest[1] = MD5M_B;
 605     digest[2] = MD5M_C;
 606     digest[3] = MD5M_D;
 607
 608     md5_transform (w0_t, w1_t, w2_t, w3_t, digest);
 609
 610     // now the RC4 part
 611
 612     rc4_init_16 (rc4_key, digest);
 613
 614     u32 out[4];
 615
 616     u8 j = rc4_next_16 (rc4_key, 0, 0, encryptedVerifier, out);
 617
 618     w0_t[0] = out[0];
 619     w0_t[1] = out[1];
 620     w0_t[2] = out[2];
 621     w0_t[3] = out[3];
 622     w1_t[0] = 0x80;
 623     w1_t[1] = 0;
 624     w1_t[2] = 0;
 625     w1_t[3] = 0;
 626     w2_t[0] = 0;
 627     w2_t[1] = 0;
 628     w2_t[2] = 0;
 629     w2_t[3] = 0;
 630     w3_t[0] = 0;
 631     w3_t[1] = 0;
 632     w3_t[2] = 16 * 8;
 633     w3_t[3] = 0;
 634
 635     digest[0] = MD5M_A;
 636     digest[1] = MD5M_B;
 637     digest[2] = MD5M_C;
 638     digest[3] = MD5M_D;
 639
 640     md5_transform (w0_t, w1_t, w2_t, w3_t, digest);
 641
 642     rc4_next_16 (rc4_key, 16, j, digest, out);
 643
 644     COMPARE_M_SIMD (out[0], out[1], out[2], out[3]);
 645   }
 646 }
 647
 648 void m09700s (__local RC4_KEY *rc4_keys, u32 w0[4], u32 w1[4], u32 w2[4], u32 w3[4], const u32 pw_len, __global pw_t *pws, __global kernel_rule_t *rules_buf, __global comb_t *combs_buf, __global bf_t *bfs_buf, __global void *tmps, __global void *hooks, __global u32 *bitmaps_buf_s1_a, __global u32 *bitmaps_buf_s1_b, __global u32 *bitmaps_buf_s1_c, __global u32 *bitmaps_buf_s1_d, __global u32 *bitmaps_buf_s2_a, __global u32 *bitmaps_buf_s2_b, __global u32 *bitmaps_buf_s2_c, __global u32 *bitmaps_buf_s2_d, __global plain_t *plains_buf, __global digest_t *digests_buf, __global u32 *hashes_shown, __global salt_t *salt_bufs, __global oldoffice01_t *oldoffice01_bufs, __global u32 *d_return_buf, __global u32 *d_scryptV0_buf, __global u32 *d_scryptV1_buf, __global u32 *d_scryptV2_buf, __global u32 *d_scryptV3_buf, const u32 bitmap_mask, const u32 bitmap_shift1, const u32 bitmap_shift2, const u32 salt_pos, const u32 loop_pos, const u32 loop_cnt, const u32 il_cnt, const u32 digests_cnt, const u32 digests_offset)
 649 {
 650   /**
 651    * modifier
 652    */
 653
 654   const u32 gid = get_global_id (0);
 655   const u32 lid = get_local_id (0);
 656
 657   /**
 658    * shared
 659    */
 660
 661   __local RC4_KEY *rc4_key = &rc4_keys[lid];
 662
 663   /**
 664    * salt
 665    */
 666
 667   u32 salt_buf_t0[4];
 668
 669   salt_buf_t0[0] = salt_bufs[salt_pos].salt_buf[0];
 670   salt_buf_t0[1] = salt_bufs[salt_pos].salt_buf[1];
 671   salt_buf_t0[2] = salt_bufs[salt_pos].salt_buf[2];
 672   salt_buf_t0[3] = salt_bufs[salt_pos].salt_buf[3];
 673
 674   u32 salt_buf_t1[5];
 675
 676   salt_buf_t1[0] =                        salt_buf_t0[0] <<  8;
 677   salt_buf_t1[1] = salt_buf_t0[0] >> 24 | salt_buf_t0[1] <<  8;
 678   salt_buf_t1[2] = salt_buf_t0[1] >> 24 | salt_buf_t0[2] <<  8;
 679   salt_buf_t1[3] = salt_buf_t0[2] >> 24 | salt_buf_t0[3] <<  8;
 680   salt_buf_t1[4] = salt_buf_t0[3] >> 24;
 681
 682   u32 salt_buf_t2[5];
 683
 684   salt_buf_t2[0] =                        salt_buf_t0[0] << 16;
 685   salt_buf_t2[1] = salt_buf_t0[0] >> 16 | salt_buf_t0[1] << 16;
 686   salt_buf_t2[2] = salt_buf_t0[1] >> 16 | salt_buf_t0[2] << 16;
 687   salt_buf_t2[3] = salt_buf_t0[2] >> 16 | salt_buf_t0[3] << 16;
 688   salt_buf_t2[4] = salt_buf_t0[3] >> 16;
 689
 690   u32 salt_buf_t3[5];
 691
 692   salt_buf_t3[0] =                        salt_buf_t0[0] << 24;
 693   salt_buf_t3[1] = salt_buf_t0[0] >>  8 | salt_buf_t0[1] << 24;
 694   salt_buf_t3[2] = salt_buf_t0[1] >>  8 | salt_buf_t0[2] << 24;
 695   salt_buf_t3[3] = salt_buf_t0[2] >>  8 | salt_buf_t0[3] << 24;
 696   salt_buf_t3[4] = salt_buf_t0[3] >>  8;
 697
 698   const u32 salt_len = 16;
 699
 700   /**
 701    * esalt
 702    */
 703
 704   const u32 version = oldoffice01_bufs[salt_pos].version;
 705
 706   u32 encryptedVerifier[4];
 707
 708   encryptedVerifier[0] = oldoffice01_bufs[salt_pos].encryptedVerifier[0];
 709   encryptedVerifier[1] = oldoffice01_bufs[salt_pos].encryptedVerifier[1];
 710   encryptedVerifier[2] = oldoffice01_bufs[salt_pos].encryptedVerifier[2];
 711   encryptedVerifier[3] = oldoffice01_bufs[salt_pos].encryptedVerifier[3];
 712
 713   /**
 714    * digest
 715    */
 716
 717   const u32 search[4] =
 718   {
 719     digests_buf[digests_offset].digest_buf[DGST_R0],
 720     digests_buf[digests_offset].digest_buf[DGST_R1],
 721     digests_buf[digests_offset].digest_buf[DGST_R2],
 722     digests_buf[digests_offset].digest_buf[DGST_R3]
 723   };
 724
 725   /**
 726    * loop
 727    */
 728
 729   u32 w0l = w0[0];
 730
 731   for (u32 il_pos = 0; il_pos < il_cnt; il_pos += VECT_SIZE)
 732   {
 733     const u32 w0r = ix_create_bft (bfs_buf, il_pos);
 734
 735     const u32 w0lr = w0l | w0r;
 736
 737     /**
 738      * md5
 739      */
 740
 741     u32 w0_t[4];
 742     u32 w1_t[4];
 743     u32 w2_t[4];
 744     u32 w3_t[4];
 745
 746     w0_t[0] = w0lr;
 747     w0_t[1] = w0[1];
 748     w0_t[2] = w0[2];
 749     w0_t[3] = w0[3];
 750     w1_t[0] = w1[0];
 751     w1_t[1] = w1[1];
 752     w1_t[2] = w1[2];
 753     w1_t[3] = w1[3];
 754     w2_t[0] = w2[0];
 755     w2_t[1] = w2[1];
 756     w2_t[2] = w2[2];
 757     w2_t[3] = w2[3];
 758     w3_t[0] = w3[0];
 759     w3_t[1] = w3[1];
 760     w3_t[2] = pw_len * 8;
 761     w3_t[3] = 0;
 762
 763     u32 digest_t0[4];
 764     u32 digest_t1[2]; // need only first 5 byte
 765     u32 digest_t2[2];
 766     u32 digest_t3[2];
 767
 768     digest_t0[0] = MD5M_A;
 769     digest_t0[1] = MD5M_B;
 770     digest_t0[2] = MD5M_C;
 771     digest_t0[3] = MD5M_D;
 772
 773     md5_transform (w0_t, w1_t, w2_t, w3_t, digest_t0);
 774
 775     // prepare 16 * 21 buffer stuff
 776
 777     u32 digest[4];
 778
 779     digest[0] = MD5M_A;
 780     digest[1] = MD5M_B;
 781     digest[2] = MD5M_C;
 782     digest[3] = MD5M_D;
 783
 784     // offsets
 785
 786     digest_t0[0] &= 0xffffffff;
 787     digest_t0[1] &= 0x000000ff;
 788     digest_t0[2] &= 0x00000000;
 789     digest_t0[3] &= 0x00000000;
 790
 791     digest_t1[0] =                      digest_t0[0] <<  8;
 792     digest_t1[1] = digest_t0[0] >> 24 | digest_t0[1] <<  8;
 793
 794     digest_t2[0] =                      digest_t0[0] << 16;
 795     digest_t2[1] = digest_t0[0] >> 16 | digest_t0[1] << 16;
 796
 797     digest_t3[0] =                      digest_t0[0] << 24;
 798     digest_t3[1] = digest_t0[0] >>  8 | digest_t0[1] << 24;
 799
 800     // generate the 16 * 21 buffer
 801
 802     // 0..5
 803     w0_t[0]  = digest_t0[0];
 804     w0_t[1]  = digest_t0[1];
 805
 806     // 5..21
 807     w0_t[1] |= salt_buf_t1[0];
 808     w0_t[2]  = salt_buf_t1[1];
 809     w0_t[3]  = salt_buf_t1[2];
 810     w1_t[0]  = salt_buf_t1[3];
 811     w1_t[1]  = salt_buf_t1[4];
 812
 813     // 21..26
 814     w1_t[1] |= digest_t1[0];
 815     w1_t[2]  = digest_t1[1];
 816
 817     // 26..42
 818     w1_t[2] |= salt_buf_t2[0];
 819     w1_t[3]  = salt_buf_t2[1];
 820     w2_t[0]  = salt_buf_t2[2];
 821     w2_t[1]  = salt_buf_t2[3];
 822     w2_t[2]  = salt_buf_t2[4];
 823
 824     // 42..47
 825     w2_t[2] |= digest_t2[0];
 826     w2_t[3]  = digest_t2[1];
 827
 828     // 47..63
 829     w2_t[3] |= salt_buf_t3[0];
 830     w3_t[0]  = salt_buf_t3[1];
 831     w3_t[1]  = salt_buf_t3[2];
 832     w3_t[2]  = salt_buf_t3[3];
 833     w3_t[3]  = salt_buf_t3[4];
 834
 835     // 63..
 836
 837     w3_t[3] |= digest_t3[0];
 838
 839     md5_transform (w0_t, w1_t, w2_t, w3_t, digest);
 840
 841     // 0..4
 842     w0_t[0]  = digest_t3[1];
 843
 844     // 4..20
 845     w0_t[1]  = salt_buf_t0[0];
 846     w0_t[2]  = salt_buf_t0[1];
 847     w0_t[3]  = salt_buf_t0[2];
 848     w1_t[0]  = salt_buf_t0[3];
 849
 850     // 20..25
 851     w1_t[1]  = digest_t0[0];
 852     w1_t[2]  = digest_t0[1];
 853
 854     // 25..41
 855     w1_t[2] |= salt_buf_t1[0];
 856     w1_t[3]  = salt_buf_t1[1];
 857     w2_t[0]  = salt_buf_t1[2];
 858     w2_t[1]  = salt_buf_t1[3];
 859     w2_t[2]  = salt_buf_t1[4];
 860
 861     // 41..46
 862     w2_t[2] |= digest_t1[0];
 863     w2_t[3]  = digest_t1[1];
 864
 865     // 46..62
 866     w2_t[3] |= salt_buf_t2[0];
 867     w3_t[0]  = salt_buf_t2[1];
 868     w3_t[1]  = salt_buf_t2[2];
 869     w3_t[2]  = salt_buf_t2[3];
 870     w3_t[3]  = salt_buf_t2[4];
 871
 872     // 62..
 873     w3_t[3] |= digest_t2[0];
 874
 875     md5_transform (w0_t, w1_t, w2_t, w3_t, digest);
 876
 877     // 0..3
 878     w0_t[0]  = digest_t2[1];
 879
 880     // 3..19
 881     w0_t[0] |= salt_buf_t3[0];
 882     w0_t[1]  = salt_buf_t3[1];
 883     w0_t[2]  = salt_buf_t3[2];
 884     w0_t[3]  = salt_buf_t3[3];
 885     w1_t[0]  = salt_buf_t3[4];
 886
 887     // 19..24
 888     w1_t[0] |= digest_t3[0];
 889     w1_t[1]  = digest_t3[1];
 890
 891     // 24..40
 892     w1_t[2]  = salt_buf_t0[0];
 893     w1_t[3]  = salt_buf_t0[1];
 894     w2_t[0]  = salt_buf_t0[2];
 895     w2_t[1]  = salt_buf_t0[3];
 896
 897     // 40..45
 898     w2_t[2]  = digest_t0[0];
 899     w2_t[3]  = digest_t0[1];
 900
 901     // 45..61
 902     w2_t[3] |= salt_buf_t1[0];
 903     w3_t[0]  = salt_buf_t1[1];
 904     w3_t[1]  = salt_buf_t1[2];
 905     w3_t[2]  = salt_buf_t1[3];
 906     w3_t[3]  = salt_buf_t1[4];
 907
 908     // 61..
 909     w3_t[3] |= digest_t1[0];
 910
 911     md5_transform (w0_t, w1_t, w2_t, w3_t, digest);
 912
 913     // 0..2
 914     w0_t[0]  = digest_t1[1];
 915
 916     // 2..18
 917     w0_t[0] |= salt_buf_t2[0];
 918     w0_t[1]  = salt_buf_t2[1];
 919     w0_t[2]  = salt_buf_t2[2];
 920     w0_t[3]  = salt_buf_t2[3];
 921     w1_t[0]  = salt_buf_t2[4];
 922
 923     // 18..23
 924     w1_t[0] |= digest_t2[0];
 925     w1_t[1]  = digest_t2[1];
 926
 927     // 23..39
 928     w1_t[1] |= salt_buf_t3[0];
 929     w1_t[2]  = salt_buf_t3[1];
 930     w1_t[3]  = salt_buf_t3[2];
 931     w2_t[0]  = salt_buf_t3[3];
 932     w2_t[1]  = salt_buf_t3[4];
 933
 934     // 39..44
 935     w2_t[1] |= digest_t3[0];
 936     w2_t[2]  = digest_t3[1];
 937
 938     // 44..60
 939     w2_t[3]  = salt_buf_t0[0];
 940     w3_t[0]  = salt_buf_t0[1];
 941     w3_t[1]  = salt_buf_t0[2];
 942     w3_t[2]  = salt_buf_t0[3];
 943
 944     // 60..
 945     w3_t[3]  = digest_t0[0];
 946
 947     md5_transform (w0_t, w1_t, w2_t, w3_t, digest);
 948
 949     // 0..1
 950     w0_t[0]  = digest_t0[1];
 951
 952     // 1..17
 953     w0_t[0] |= salt_buf_t1[0];
 954     w0_t[1]  = salt_buf_t1[1];
 955     w0_t[2]  = salt_buf_t1[2];
 956     w0_t[3]  = salt_buf_t1[3];
 957     w1_t[0]  = salt_buf_t1[4];
 958
 959     // 17..22
 960     w1_t[0] |= digest_t1[0];
 961     w1_t[1]  = digest_t1[1];
 962
 963     // 22..38
 964     w1_t[1] |= salt_buf_t2[0];
 965     w1_t[2]  = salt_buf_t2[1];
 966     w1_t[3]  = salt_buf_t2[2];
 967     w2_t[0]  = salt_buf_t2[3];
 968     w2_t[1]  = salt_buf_t2[4];
 969
 970     // 38..43
 971     w2_t[1] |= digest_t2[0];
 972     w2_t[2]  = digest_t2[1];
 973
 974     // 43..59
 975     w2_t[2] |= salt_buf_t3[0];
 976     w2_t[3]  = salt_buf_t3[1];
 977     w3_t[0]  = salt_buf_t3[2];
 978     w3_t[1]  = salt_buf_t3[3];
 979     w3_t[2]  = salt_buf_t3[4];
 980
 981     // 59..
 982     w3_t[2] |= digest_t3[0];
 983     w3_t[3]  = digest_t3[1];
 984
 985     md5_transform (w0_t, w1_t, w2_t, w3_t, digest);
 986
 987     w0_t[0]  = salt_buf_t0[0];
 988     w0_t[1]  = salt_buf_t0[1];
 989     w0_t[2]  = salt_buf_t0[2];
 990     w0_t[3]  = salt_buf_t0[3];
 991     w1_t[0]  = 0x80;
 992     w1_t[1]  = 0;
 993     w1_t[2]  = 0;
 994     w1_t[3]  = 0;
 995     w2_t[0]  = 0;
 996     w2_t[1]  = 0;
 997     w2_t[2]  = 0;
 998     w2_t[3]  = 0;
 999     w3_t[0]  = 0;
1000     w3_t[1]  = 0;
1001     w3_t[2]  = 21 * 16 * 8;
1002     w3_t[3]  = 0;
1003
1004     md5_transform (w0_t, w1_t, w2_t, w3_t, digest);
1005
1006     // now the 40 bit input for the MD5 which then will generate the RC4 key, so it's precomputable!
1007
1008     w0_t[0]  = digest[0];
1009     w0_t[1]  = digest[1] & 0xff;
1010     w0_t[2]  = 0x8000;
1011     w0_t[3]  = 0;
1012     w1_t[0]  = 0;
1013     w1_t[1]  = 0;
1014     w1_t[2]  = 0;
1015     w1_t[3]  = 0;
1016     w2_t[0]  = 0;
1017     w2_t[1]  = 0;
1018     w2_t[2]  = 0;
1019     w2_t[3]  = 0;
1020     w3_t[0]  = 0;
1021     w3_t[1]  = 0;
1022     w3_t[2]  = 9 * 8;
1023     w3_t[3]  = 0;
1024
1025     digest[0] = MD5M_A;
1026     digest[1] = MD5M_B;
1027     digest[2] = MD5M_C;
1028     digest[3] = MD5M_D;
1029
1030     md5_transform (w0_t, w1_t, w2_t, w3_t, digest);
1031
1032     // now the RC4 part
1033
1034     rc4_init_16 (rc4_key, digest);
1035
1036     u32 out[4];
1037
1038     u8 j = rc4_next_16 (rc4_key, 0, 0, encryptedVerifier, out);
1039
1040     w0_t[0] = out[0];
1041     w0_t[1] = out[1];
1042     w0_t[2] = out[2];
1043     w0_t[3] = out[3];
1044     w1_t[0] = 0x80;
1045     w1_t[1] = 0;
1046     w1_t[2] = 0;
1047     w1_t[3] = 0;
1048     w2_t[0] = 0;
1049     w2_t[1] = 0;
1050     w2_t[2] = 0;
1051     w2_t[3] = 0;
1052     w3_t[0] = 0;
1053     w3_t[1] = 0;
1054     w3_t[2] = 16 * 8;
1055     w3_t[3] = 0;
1056
1057     digest[0] = MD5M_A;
1058     digest[1] = MD5M_B;
1059     digest[2] = MD5M_C;
1060     digest[3] = MD5M_D;
1061
1062     md5_transform (w0_t, w1_t, w2_t, w3_t, digest);
1063
1064     rc4_next_16 (rc4_key, 16, j, digest, out);
1065
1066     COMPARE_S_SIMD (out[0], out[1], out[2], out[3]);
1067   }
1068 }
1069
1070 __kernel void m09700_m04 (__global pw_t *pws, __global kernel_rule_t *rules_buf, __global comb_t *combs_buf, __global bf_t *bfs_buf, __global void *tmps, __global void *hooks, __global u32 *bitmaps_buf_s1_a, __global u32 *bitmaps_buf_s1_b, __global u32 *bitmaps_buf_s1_c, __global u32 *bitmaps_buf_s1_d, __global u32 *bitmaps_buf_s2_a, __global u32 *bitmaps_buf_s2_b, __global u32 *bitmaps_buf_s2_c, __global u32 *bitmaps_buf_s2_d, __global plain_t *plains_buf, __global digest_t *digests_buf, __global u32 *hashes_shown, __global salt_t *salt_bufs, __global oldoffice01_t *oldoffice01_bufs, __global u32 *d_return_buf, __global u32 *d_scryptV0_buf, __global u32 *d_scryptV1_buf, __global u32 *d_scryptV2_buf, __global u32 *d_scryptV3_buf, const u32 bitmap_mask, const u32 bitmap_shift1, const u32 bitmap_shift2, const u32 salt_pos, const u32 loop_pos, const u32 loop_cnt, const u32 il_cnt, const u32 digests_cnt, const u32 digests_offset, const u32 combs_mode, const u32 gid_max)
1071 {
1072   /**
1073    * base
1074    */
1075
1076   const u32 gid = get_global_id (0);
1077
1078   if (gid >= gid_max) return;
1079
1080   u32 w0[4];
1081
1082   w0[0] = pws[gid].i[ 0];
1083   w0[1] = pws[gid].i[ 1];
1084   w0[2] = pws[gid].i[ 2];
1085   w0[3] = pws[gid].i[ 3];
1086
1087   u32 w1[4];
1088
1089   w1[0] = 0;
1090   w1[1] = 0;
1091   w1[2] = 0;
1092   w1[3] = 0;
1093
1094   u32 w2[4];
1095
1096   w2[0] = 0;
1097   w2[1] = 0;
1098   w2[2] = 0;
1099   w2[3] = 0;
1100
1101   u32 w3[4];
1102
1103   w3[0] = 0;
1104   w3[1] = 0;
1105   w3[2] = 0;
1106   w3[3] = 0;
1107
1108   const u32 pw_len = pws[gid].pw_len;
1109
1110   /**
1111    * main
1112    */
1113
1114   __local RC4_KEY rc4_keys[64];
1115
1116   m09700m (rc4_keys, w0, w1, w2, w3, pw_len, pws, rules_buf, combs_buf, bfs_buf, tmps, hooks, bitmaps_buf_s1_a, bitmaps_buf_s1_b, bitmaps_buf_s1_c, bitmaps_buf_s1_d, bitmaps_buf_s2_a, bitmaps_buf_s2_b, bitmaps_buf_s2_c, bitmaps_buf_s2_d, plains_buf, digests_buf, hashes_shown, salt_bufs, oldoffice01_bufs, d_return_buf, d_scryptV0_buf, d_scryptV1_buf, d_scryptV2_buf, d_scryptV3_buf, bitmap_mask, bitmap_shift1, bitmap_shift2, salt_pos, loop_pos, loop_cnt, il_cnt, digests_cnt, digests_offset);
1117 }
1118
1119 __kernel void m09700_m08 (__global pw_t *pws, __global kernel_rule_t *rules_buf, __global comb_t *combs_buf, __global bf_t *bfs_buf, __global void *tmps, __global void *hooks, __global u32 *bitmaps_buf_s1_a, __global u32 *bitmaps_buf_s1_b, __global u32 *bitmaps_buf_s1_c, __global u32 *bitmaps_buf_s1_d, __global u32 *bitmaps_buf_s2_a, __global u32 *bitmaps_buf_s2_b, __global u32 *bitmaps_buf_s2_c, __global u32 *bitmaps_buf_s2_d, __global plain_t *plains_buf, __global digest_t *digests_buf, __global u32 *hashes_shown, __global salt_t *salt_bufs, __global oldoffice01_t *oldoffice01_bufs, __global u32 *d_return_buf, __global u32 *d_scryptV0_buf, __global u32 *d_scryptV1_buf, __global u32 *d_scryptV2_buf, __global u32 *d_scryptV3_buf, const u32 bitmap_mask, const u32 bitmap_shift1, const u32 bitmap_shift2, const u32 salt_pos, const u32 loop_pos, const u32 loop_cnt, const u32 il_cnt, const u32 digests_cnt, const u32 digests_offset, const u32 combs_mode, const u32 gid_max)
1120 {
1121   /**
1122    * base
1123    */
1124
1125   const u32 gid = get_global_id (0);
1126
1127   if (gid >= gid_max) return;
1128
1129   u32 w0[4];
1130
1131   w0[0] = pws[gid].i[ 0];
1132   w0[1] = pws[gid].i[ 1];
1133   w0[2] = pws[gid].i[ 2];
1134   w0[3] = pws[gid].i[ 3];
1135
1136   u32 w1[4];
1137
1138   w1[0] = pws[gid].i[ 4];
1139   w1[1] = pws[gid].i[ 5];
1140   w1[2] = pws[gid].i[ 6];
1141   w1[3] = pws[gid].i[ 7];
1142
1143   u32 w2[4];
1144
1145   w2[0] = 0;
1146   w2[1] = 0;
1147   w2[2] = 0;
1148   w2[3] = 0;
1149
1150   u32 w3[4];
1151
1152   w3[0] = 0;
1153   w3[1] = 0;
1154   w3[2] = 0;
1155   w3[3] = 0;
1156
1157   const u32 pw_len = pws[gid].pw_len;
1158
1159   /**
1160    * main
1161    */
1162
1163   __local RC4_KEY rc4_keys[64];
1164
1165   m09700m (rc4_keys, w0, w1, w2, w3, pw_len, pws, rules_buf, combs_buf, bfs_buf, tmps, hooks, bitmaps_buf_s1_a, bitmaps_buf_s1_b, bitmaps_buf_s1_c, bitmaps_buf_s1_d, bitmaps_buf_s2_a, bitmaps_buf_s2_b, bitmaps_buf_s2_c, bitmaps_buf_s2_d, plains_buf, digests_buf, hashes_shown, salt_bufs, oldoffice01_bufs, d_return_buf, d_scryptV0_buf, d_scryptV1_buf, d_scryptV2_buf, d_scryptV3_buf, bitmap_mask, bitmap_shift1, bitmap_shift2, salt_pos, loop_pos, loop_cnt, il_cnt, digests_cnt, digests_offset);
1166 }
1167
1168 __kernel void m09700_m16 (__global pw_t *pws, __global kernel_rule_t *rules_buf, __global comb_t *combs_buf, __global bf_t *bfs_buf, __global void *tmps, __global void *hooks, __global u32 *bitmaps_buf_s1_a, __global u32 *bitmaps_buf_s1_b, __global u32 *bitmaps_buf_s1_c, __global u32 *bitmaps_buf_s1_d, __global u32 *bitmaps_buf_s2_a, __global u32 *bitmaps_buf_s2_b, __global u32 *bitmaps_buf_s2_c, __global u32 *bitmaps_buf_s2_d, __global plain_t *plains_buf, __global digest_t *digests_buf, __global u32 *hashes_shown, __global salt_t *salt_bufs, __global oldoffice01_t *oldoffice01_bufs, __global u32 *d_return_buf, __global u32 *d_scryptV0_buf, __global u32 *d_scryptV1_buf, __global u32 *d_scryptV2_buf, __global u32 *d_scryptV3_buf, const u32 bitmap_mask, const u32 bitmap_shift1, const u32 bitmap_shift2, const u32 salt_pos, const u32 loop_pos, const u32 loop_cnt, const u32 il_cnt, const u32 digests_cnt, const u32 digests_offset, const u32 combs_mode, const u32 gid_max)
1169 {
1170   /**
1171    * base
1172    */
1173
1174   const u32 gid = get_global_id (0);
1175
1176   if (gid >= gid_max) return;
1177
1178   u32 w0[4];
1179
1180   w0[0] = pws[gid].i[ 0];
1181   w0[1] = pws[gid].i[ 1];
1182   w0[2] = pws[gid].i[ 2];
1183   w0[3] = pws[gid].i[ 3];
1184
1185   u32 w1[4];
1186
1187   w1[0] = pws[gid].i[ 4];
1188   w1[1] = pws[gid].i[ 5];
1189   w1[2] = pws[gid].i[ 6];
1190   w1[3] = pws[gid].i[ 7];
1191
1192   u32 w2[4];
1193
1194   w2[0] = pws[gid].i[ 8];
1195   w2[1] = pws[gid].i[ 9];
1196   w2[2] = pws[gid].i[10];
1197   w2[3] = pws[gid].i[11];
1198
1199   u32 w3[4];
1200
1201   w3[0] = pws[gid].i[12];
1202   w3[1] = pws[gid].i[13];
1203   w3[2] = 0;
1204   w3[3] = 0;
1205
1206   const u32 pw_len = pws[gid].pw_len;
1207
1208   /**
1209    * main
1210    */
1211
1212   __local RC4_KEY rc4_keys[64];
1213
1214   m09700m (rc4_keys, w0, w1, w2, w3, pw_len, pws, rules_buf, combs_buf, bfs_buf, tmps, hooks, bitmaps_buf_s1_a, bitmaps_buf_s1_b, bitmaps_buf_s1_c, bitmaps_buf_s1_d, bitmaps_buf_s2_a, bitmaps_buf_s2_b, bitmaps_buf_s2_c, bitmaps_buf_s2_d, plains_buf, digests_buf, hashes_shown, salt_bufs, oldoffice01_bufs, d_return_buf, d_scryptV0_buf, d_scryptV1_buf, d_scryptV2_buf, d_scryptV3_buf, bitmap_mask, bitmap_shift1, bitmap_shift2, salt_pos, loop_pos, loop_cnt, il_cnt, digests_cnt, digests_offset);
1215 }
1216
1217 __kernel void m09700_s04 (__global pw_t *pws, __global kernel_rule_t *rules_buf, __global comb_t *combs_buf, __global bf_t *bfs_buf, __global void *tmps, __global void *hooks, __global u32 *bitmaps_buf_s1_a, __global u32 *bitmaps_buf_s1_b, __global u32 *bitmaps_buf_s1_c, __global u32 *bitmaps_buf_s1_d, __global u32 *bitmaps_buf_s2_a, __global u32 *bitmaps_buf_s2_b, __global u32 *bitmaps_buf_s2_c, __global u32 *bitmaps_buf_s2_d, __global plain_t *plains_buf, __global digest_t *digests_buf, __global u32 *hashes_shown, __global salt_t *salt_bufs, __global oldoffice01_t *oldoffice01_bufs, __global u32 *d_return_buf, __global u32 *d_scryptV0_buf, __global u32 *d_scryptV1_buf, __global u32 *d_scryptV2_buf, __global u32 *d_scryptV3_buf, const u32 bitmap_mask, const u32 bitmap_shift1, const u32 bitmap_shift2, const u32 salt_pos, const u32 loop_pos, const u32 loop_cnt, const u32 il_cnt, const u32 digests_cnt, const u32 digests_offset, const u32 combs_mode, const u32 gid_max)
1218 {
1219   /**
1220    * base
1221    */
1222
1223   const u32 gid = get_global_id (0);
1224
1225   if (gid >= gid_max) return;
1226
1227   u32 w0[4];
1228
1229   w0[0] = pws[gid].i[ 0];
1230   w0[1] = pws[gid].i[ 1];
1231   w0[2] = pws[gid].i[ 2];
1232   w0[3] = pws[gid].i[ 3];
1233
1234   u32 w1[4];
1235
1236   w1[0] = 0;
1237   w1[1] = 0;
1238   w1[2] = 0;
1239   w1[3] = 0;
1240
1241   u32 w2[4];
1242
1243   w2[0] = 0;
1244   w2[1] = 0;
1245   w2[2] = 0;
1246   w2[3] = 0;
1247
1248   u32 w3[4];
1249
1250   w3[0] = 0;
1251   w3[1] = 0;
1252   w3[2] = 0;
1253   w3[3] = 0;
1254
1255   const u32 pw_len = pws[gid].pw_len;
1256
1257   /**
1258    * main
1259    */
1260
1261   __local RC4_KEY rc4_keys[64];
1262
1263   m09700s (rc4_keys, w0, w1, w2, w3, pw_len, pws, rules_buf, combs_buf, bfs_buf, tmps, hooks, bitmaps_buf_s1_a, bitmaps_buf_s1_b, bitmaps_buf_s1_c, bitmaps_buf_s1_d, bitmaps_buf_s2_a, bitmaps_buf_s2_b, bitmaps_buf_s2_c, bitmaps_buf_s2_d, plains_buf, digests_buf, hashes_shown, salt_bufs, oldoffice01_bufs, d_return_buf, d_scryptV0_buf, d_scryptV1_buf, d_scryptV2_buf, d_scryptV3_buf, bitmap_mask, bitmap_shift1, bitmap_shift2, salt_pos, loop_pos, loop_cnt, il_cnt, digests_cnt, digests_offset);
1264 }
1265
1266 __kernel void m09700_s08 (__global pw_t *pws, __global kernel_rule_t *rules_buf, __global comb_t *combs_buf, __global bf_t *bfs_buf, __global void *tmps, __global void *hooks, __global u32 *bitmaps_buf_s1_a, __global u32 *bitmaps_buf_s1_b, __global u32 *bitmaps_buf_s1_c, __global u32 *bitmaps_buf_s1_d, __global u32 *bitmaps_buf_s2_a, __global u32 *bitmaps_buf_s2_b, __global u32 *bitmaps_buf_s2_c, __global u32 *bitmaps_buf_s2_d, __global plain_t *plains_buf, __global digest_t *digests_buf, __global u32 *hashes_shown, __global salt_t *salt_bufs, __global oldoffice01_t *oldoffice01_bufs, __global u32 *d_return_buf, __global u32 *d_scryptV0_buf, __global u32 *d_scryptV1_buf, __global u32 *d_scryptV2_buf, __global u32 *d_scryptV3_buf, const u32 bitmap_mask, const u32 bitmap_shift1, const u32 bitmap_shift2, const u32 salt_pos, const u32 loop_pos, const u32 loop_cnt, const u32 il_cnt, const u32 digests_cnt, const u32 digests_offset, const u32 combs_mode, const u32 gid_max)
1267 {
1268   /**
1269    * base
1270    */
1271
1272   const u32 gid = get_global_id (0);
1273
1274   if (gid >= gid_max) return;
1275
1276   u32 w0[4];
1277
1278   w0[0] = pws[gid].i[ 0];
1279   w0[1] = pws[gid].i[ 1];
1280   w0[2] = pws[gid].i[ 2];
1281   w0[3] = pws[gid].i[ 3];
1282
1283   u32 w1[4];
1284
1285   w1[0] = pws[gid].i[ 4];
1286   w1[1] = pws[gid].i[ 5];
1287   w1[2] = pws[gid].i[ 6];
1288   w1[3] = pws[gid].i[ 7];
1289
1290   u32 w2[4];
1291
1292   w2[0] = 0;
1293   w2[1] = 0;
1294   w2[2] = 0;
1295   w2[3] = 0;
1296
1297   u32 w3[4];
1298
1299   w3[0] = 0;
1300   w3[1] = 0;
1301   w3[2] = 0;
1302   w3[3] = 0;
1303
1304   const u32 pw_len = pws[gid].pw_len;
1305
1306   /**
1307    * main
1308    */
1309
1310   __local RC4_KEY rc4_keys[64];
1311
1312   m09700s (rc4_keys, w0, w1, w2, w3, pw_len, pws, rules_buf, combs_buf, bfs_buf, tmps, hooks, bitmaps_buf_s1_a, bitmaps_buf_s1_b, bitmaps_buf_s1_c, bitmaps_buf_s1_d, bitmaps_buf_s2_a, bitmaps_buf_s2_b, bitmaps_buf_s2_c, bitmaps_buf_s2_d, plains_buf, digests_buf, hashes_shown, salt_bufs, oldoffice01_bufs, d_return_buf, d_scryptV0_buf, d_scryptV1_buf, d_scryptV2_buf, d_scryptV3_buf, bitmap_mask, bitmap_shift1, bitmap_shift2, salt_pos, loop_pos, loop_cnt, il_cnt, digests_cnt, digests_offset);
1313 }
1314
1315 __kernel void m09700_s16 (__global pw_t *pws, __global kernel_rule_t *rules_buf, __global comb_t *combs_buf, __global bf_t *bfs_buf, __global void *tmps, __global void *hooks, __global u32 *bitmaps_buf_s1_a, __global u32 *bitmaps_buf_s1_b, __global u32 *bitmaps_buf_s1_c, __global u32 *bitmaps_buf_s1_d, __global u32 *bitmaps_buf_s2_a, __global u32 *bitmaps_buf_s2_b, __global u32 *bitmaps_buf_s2_c, __global u32 *bitmaps_buf_s2_d, __global plain_t *plains_buf, __global digest_t *digests_buf, __global u32 *hashes_shown, __global salt_t *salt_bufs, __global oldoffice01_t *oldoffice01_bufs, __global u32 *d_return_buf, __global u32 *d_scryptV0_buf, __global u32 *d_scryptV1_buf, __global u32 *d_scryptV2_buf, __global u32 *d_scryptV3_buf, const u32 bitmap_mask, const u32 bitmap_shift1, const u32 bitmap_shift2, const u32 salt_pos, const u32 loop_pos, const u32 loop_cnt, const u32 il_cnt, const u32 digests_cnt, const u32 digests_offset, const u32 combs_mode, const u32 gid_max)
1316 {
1317   /**
1318    * base
1319    */
1320
1321   const u32 gid = get_global_id (0);
1322
1323   if (gid >= gid_max) return;
1324
1325   u32 w0[4];
1326
1327   w0[0] = pws[gid].i[ 0];
1328   w0[1] = pws[gid].i[ 1];
1329   w0[2] = pws[gid].i[ 2];
1330   w0[3] = pws[gid].i[ 3];
1331
1332   u32 w1[4];
1333
1334   w1[0] = pws[gid].i[ 4];
1335   w1[1] = pws[gid].i[ 5];
1336   w1[2] = pws[gid].i[ 6];
1337   w1[3] = pws[gid].i[ 7];
1338
1339   u32 w2[4];
1340
1341   w2[0] = pws[gid].i[ 8];
1342   w2[1] = pws[gid].i[ 9];
1343   w2[2] = pws[gid].i[10];
1344   w2[3] = pws[gid].i[11];
1345
1346   u32 w3[4];
1347
1348   w3[0] = pws[gid].i[12];
1349   w3[1] = pws[gid].i[13];
1350   w3[2] = 0;
1351   w3[3] = 0;
1352
1353   const u32 pw_len = pws[gid].pw_len;
1354
1355   /**
1356    * main
1357    */
1358
1359   __local RC4_KEY rc4_keys[64];
1360
1361   m09700s (rc4_keys, w0, w1, w2, w3, pw_len, pws, rules_buf, combs_buf, bfs_buf, tmps, hooks, bitmaps_buf_s1_a, bitmaps_buf_s1_b, bitmaps_buf_s1_c, bitmaps_buf_s1_d, bitmaps_buf_s2_a, bitmaps_buf_s2_b, bitmaps_buf_s2_c, bitmaps_buf_s2_d, plains_buf, digests_buf, hashes_shown, salt_bufs, oldoffice01_bufs, d_return_buf, d_scryptV0_buf, d_scryptV1_buf, d_scryptV2_buf, d_scryptV3_buf, bitmap_mask, bitmap_shift1, bitmap_shift2, salt_pos, loop_pos, loop_cnt, il_cnt, digests_cnt, digests_offset);
1362 }