OpenCL/m10400_a0.cl

   1 /**
   2  * Authors.....: Jens Steube <jens.steube@gmail.com>
   3  *               Gabriele Gristina <matrix@hashcat.net>
   4  *
   5  * License.....: MIT
   6  */
   7
   8 #define _MD5_
   9
  10 //too much register pressure
  11 //#define NEW_SIMD_CODE
  12
  13 #include "inc_vendor.cl"
  14 #include "inc_hash_constants.h"
  15 #include "inc_hash_functions.cl"
  16 #include "inc_types.cl"
  17 #include "inc_common.cl"
  18 #include "inc_rp.h"
  19 #include "inc_rp.cl"
  20 #include "inc_simd.cl"
  21
  22 __constant u32 padding[8] =
  23 {
  24   0x5e4ebf28,
  25   0x418a754e,
  26   0x564e0064,
  27   0x0801faff,
  28   0xb6002e2e,
  29   0x803e68d0,
  30   0xfea90c2f,
  31   0x7a695364
  32 };
  33
  34 typedef struct
  35 {
  36   u8 S[256];
  37
  38   u32 wtf_its_faster;
  39
  40 } RC4_KEY;
  41
  42 void swap (__local RC4_KEY *rc4_key, const u8 i, const u8 j)
  43 {
  44   u8 tmp;
  45
  46   tmp           = rc4_key->S[i];
  47   rc4_key->S[i] = rc4_key->S[j];
  48   rc4_key->S[j] = tmp;
  49 }
  50
  51 void rc4_init_16 (__local RC4_KEY *rc4_key, const u32 data[4])
  52 {
  53   u32 v = 0x03020100;
  54   u32 a = 0x04040404;
  55
  56   __local u32 *ptr = (__local u32 *) rc4_key->S;
  57
  58   #ifdef _unroll
  59   #pragma unroll
  60   #endif
  61   for (u32 i = 0; i < 64; i++)
  62   {
  63     ptr[i] = v; v += a;
  64   }
  65
  66   const u32 d0 = data[0] >>  0;
  67   const u32 d1 = data[0] >>  8;
  68   const u32 d2 = data[0] >> 16;
  69   const u32 d3 = data[0] >> 24;
  70   const u32 d4 = data[1] >>  0;
  71
  72   u32 j = 0;
  73
  74   #ifdef _unroll
  75   #pragma unroll
  76   #endif
  77   for (u32 i = 0; i < 255; i += 5)
  78   {
  79     j += rc4_key->S[i + 0] + d0; swap (rc4_key, i + 0, j);
  80     j += rc4_key->S[i + 1] + d1; swap (rc4_key, i + 1, j);
  81     j += rc4_key->S[i + 2] + d2; swap (rc4_key, i + 2, j);
  82     j += rc4_key->S[i + 3] + d3; swap (rc4_key, i + 3, j);
  83     j += rc4_key->S[i + 4] + d4; swap (rc4_key, i + 4, j);
  84   }
  85
  86   j += rc4_key->S[255] + d0; swap (rc4_key, 255, j);
  87 }
  88
  89 u8 rc4_next_16 (__local RC4_KEY *rc4_key, u8 i, u8 j, __constant u32 *in, u32 out[4])
  90 {
  91   #ifdef _unroll
  92   #pragma unroll
  93   #endif
  94   for (u32 k = 0; k < 4; k++)
  95   {
  96     u32 xor4 = 0;
  97
  98     u8 idx;
  99
 100     i += 1;
 101     j += rc4_key->S[i];
 102
 103     swap (rc4_key, i, j);
 104
 105     idx = rc4_key->S[i] + rc4_key->S[j];
 106
 107     xor4 |= rc4_key->S[idx] <<  0;
 108
 109     i += 1;
 110     j += rc4_key->S[i];
 111
 112     swap (rc4_key, i, j);
 113
 114     idx = rc4_key->S[i] + rc4_key->S[j];
 115
 116     xor4 |= rc4_key->S[idx] <<  8;
 117
 118     i += 1;
 119     j += rc4_key->S[i];
 120
 121     swap (rc4_key, i, j);
 122
 123     idx = rc4_key->S[i] + rc4_key->S[j];
 124
 125     xor4 |= rc4_key->S[idx] << 16;
 126
 127     i += 1;
 128     j += rc4_key->S[i];
 129
 130     swap (rc4_key, i, j);
 131
 132     idx = rc4_key->S[i] + rc4_key->S[j];
 133
 134     xor4 |= rc4_key->S[idx] << 24;
 135
 136     out[k] = in[k] ^ xor4;
 137   }
 138
 139   return j;
 140 }
 141
 142 void md5_transform (const u32 w0[4], const u32 w1[4], const u32 w2[4], const u32 w3[4], u32 digest[4])
 143 {
 144   u32 a = digest[0];
 145   u32 b = digest[1];
 146   u32 c = digest[2];
 147   u32 d = digest[3];
 148
 149   u32 w0_t = w0[0];
 150   u32 w1_t = w0[1];
 151   u32 w2_t = w0[2];
 152   u32 w3_t = w0[3];
 153   u32 w4_t = w1[0];
 154   u32 w5_t = w1[1];
 155   u32 w6_t = w1[2];
 156   u32 w7_t = w1[3];
 157   u32 w8_t = w2[0];
 158   u32 w9_t = w2[1];
 159   u32 wa_t = w2[2];
 160   u32 wb_t = w2[3];
 161   u32 wc_t = w3[0];
 162   u32 wd_t = w3[1];
 163   u32 we_t = w3[2];
 164   u32 wf_t = w3[3];
 165
 166   MD5_STEP (MD5_Fo, a, b, c, d, w0_t, MD5C00, MD5S00);
 167   MD5_STEP (MD5_Fo, d, a, b, c, w1_t, MD5C01, MD5S01);
 168   MD5_STEP (MD5_Fo, c, d, a, b, w2_t, MD5C02, MD5S02);
 169   MD5_STEP (MD5_Fo, b, c, d, a, w3_t, MD5C03, MD5S03);
 170   MD5_STEP (MD5_Fo, a, b, c, d, w4_t, MD5C04, MD5S00);
 171   MD5_STEP (MD5_Fo, d, a, b, c, w5_t, MD5C05, MD5S01);
 172   MD5_STEP (MD5_Fo, c, d, a, b, w6_t, MD5C06, MD5S02);
 173   MD5_STEP (MD5_Fo, b, c, d, a, w7_t, MD5C07, MD5S03);
 174   MD5_STEP (MD5_Fo, a, b, c, d, w8_t, MD5C08, MD5S00);
 175   MD5_STEP (MD5_Fo, d, a, b, c, w9_t, MD5C09, MD5S01);
 176   MD5_STEP (MD5_Fo, c, d, a, b, wa_t, MD5C0a, MD5S02);
 177   MD5_STEP (MD5_Fo, b, c, d, a, wb_t, MD5C0b, MD5S03);
 178   MD5_STEP (MD5_Fo, a, b, c, d, wc_t, MD5C0c, MD5S00);
 179   MD5_STEP (MD5_Fo, d, a, b, c, wd_t, MD5C0d, MD5S01);
 180   MD5_STEP (MD5_Fo, c, d, a, b, we_t, MD5C0e, MD5S02);
 181   MD5_STEP (MD5_Fo, b, c, d, a, wf_t, MD5C0f, MD5S03);
 182
 183   MD5_STEP (MD5_Go, a, b, c, d, w1_t, MD5C10, MD5S10);
 184   MD5_STEP (MD5_Go, d, a, b, c, w6_t, MD5C11, MD5S11);
 185   MD5_STEP (MD5_Go, c, d, a, b, wb_t, MD5C12, MD5S12);
 186   MD5_STEP (MD5_Go, b, c, d, a, w0_t, MD5C13, MD5S13);
 187   MD5_STEP (MD5_Go, a, b, c, d, w5_t, MD5C14, MD5S10);
 188   MD5_STEP (MD5_Go, d, a, b, c, wa_t, MD5C15, MD5S11);
 189   MD5_STEP (MD5_Go, c, d, a, b, wf_t, MD5C16, MD5S12);
 190   MD5_STEP (MD5_Go, b, c, d, a, w4_t, MD5C17, MD5S13);
 191   MD5_STEP (MD5_Go, a, b, c, d, w9_t, MD5C18, MD5S10);
 192   MD5_STEP (MD5_Go, d, a, b, c, we_t, MD5C19, MD5S11);
 193   MD5_STEP (MD5_Go, c, d, a, b, w3_t, MD5C1a, MD5S12);
 194   MD5_STEP (MD5_Go, b, c, d, a, w8_t, MD5C1b, MD5S13);
 195   MD5_STEP (MD5_Go, a, b, c, d, wd_t, MD5C1c, MD5S10);
 196   MD5_STEP (MD5_Go, d, a, b, c, w2_t, MD5C1d, MD5S11);
 197   MD5_STEP (MD5_Go, c, d, a, b, w7_t, MD5C1e, MD5S12);
 198   MD5_STEP (MD5_Go, b, c, d, a, wc_t, MD5C1f, MD5S13);
 199
 200   MD5_STEP (MD5_H , a, b, c, d, w5_t, MD5C20, MD5S20);
 201   MD5_STEP (MD5_H , d, a, b, c, w8_t, MD5C21, MD5S21);
 202   MD5_STEP (MD5_H , c, d, a, b, wb_t, MD5C22, MD5S22);
 203   MD5_STEP (MD5_H , b, c, d, a, we_t, MD5C23, MD5S23);
 204   MD5_STEP (MD5_H , a, b, c, d, w1_t, MD5C24, MD5S20);
 205   MD5_STEP (MD5_H , d, a, b, c, w4_t, MD5C25, MD5S21);
 206   MD5_STEP (MD5_H , c, d, a, b, w7_t, MD5C26, MD5S22);
 207   MD5_STEP (MD5_H , b, c, d, a, wa_t, MD5C27, MD5S23);
 208   MD5_STEP (MD5_H , a, b, c, d, wd_t, MD5C28, MD5S20);
 209   MD5_STEP (MD5_H , d, a, b, c, w0_t, MD5C29, MD5S21);
 210   MD5_STEP (MD5_H , c, d, a, b, w3_t, MD5C2a, MD5S22);
 211   MD5_STEP (MD5_H , b, c, d, a, w6_t, MD5C2b, MD5S23);
 212   MD5_STEP (MD5_H , a, b, c, d, w9_t, MD5C2c, MD5S20);
 213   MD5_STEP (MD5_H , d, a, b, c, wc_t, MD5C2d, MD5S21);
 214   MD5_STEP (MD5_H , c, d, a, b, wf_t, MD5C2e, MD5S22);
 215   MD5_STEP (MD5_H , b, c, d, a, w2_t, MD5C2f, MD5S23);
 216
 217   MD5_STEP (MD5_I , a, b, c, d, w0_t, MD5C30, MD5S30);
 218   MD5_STEP (MD5_I , d, a, b, c, w7_t, MD5C31, MD5S31);
 219   MD5_STEP (MD5_I , c, d, a, b, we_t, MD5C32, MD5S32);
 220   MD5_STEP (MD5_I , b, c, d, a, w5_t, MD5C33, MD5S33);
 221   MD5_STEP (MD5_I , a, b, c, d, wc_t, MD5C34, MD5S30);
 222   MD5_STEP (MD5_I , d, a, b, c, w3_t, MD5C35, MD5S31);
 223   MD5_STEP (MD5_I , c, d, a, b, wa_t, MD5C36, MD5S32);
 224   MD5_STEP (MD5_I , b, c, d, a, w1_t, MD5C37, MD5S33);
 225   MD5_STEP (MD5_I , a, b, c, d, w8_t, MD5C38, MD5S30);
 226   MD5_STEP (MD5_I , d, a, b, c, wf_t, MD5C39, MD5S31);
 227   MD5_STEP (MD5_I , c, d, a, b, w6_t, MD5C3a, MD5S32);
 228   MD5_STEP (MD5_I , b, c, d, a, wd_t, MD5C3b, MD5S33);
 229   MD5_STEP (MD5_I , a, b, c, d, w4_t, MD5C3c, MD5S30);
 230   MD5_STEP (MD5_I , d, a, b, c, wb_t, MD5C3d, MD5S31);
 231   MD5_STEP (MD5_I , c, d, a, b, w2_t, MD5C3e, MD5S32);
 232   MD5_STEP (MD5_I , b, c, d, a, w9_t, MD5C3f, MD5S33);
 233
 234   digest[0] += a;
 235   digest[1] += b;
 236   digest[2] += c;
 237   digest[3] += d;
 238 }
 239
 240 __kernel void m10400_m04 (__global pw_t *pws, __global kernel_rule_t *rules_buf, __global comb_t *combs_buf, __global bf_t *bfs_buf, __global void *tmps, __global void *hooks, __global u32 *bitmaps_buf_s1_a, __global u32 *bitmaps_buf_s1_b, __global u32 *bitmaps_buf_s1_c, __global u32 *bitmaps_buf_s1_d, __global u32 *bitmaps_buf_s2_a, __global u32 *bitmaps_buf_s2_b, __global u32 *bitmaps_buf_s2_c, __global u32 *bitmaps_buf_s2_d, __global plain_t *plains_buf, __global digest_t *digests_buf, __global u32 *hashes_shown, __global salt_t *salt_bufs, __global pdf_t *pdf_bufs, __global u32 *d_return_buf, __global u32 *d_scryptV0_buf, __global u32 *d_scryptV1_buf, __global u32 *d_scryptV2_buf, __global u32 *d_scryptV3_buf, const u32 bitmap_mask, const u32 bitmap_shift1, const u32 bitmap_shift2, const u32 salt_pos, const u32 loop_pos, const u32 loop_cnt, const u32 il_cnt, const u32 digests_cnt, const u32 digests_offset, const u32 combs_mode, const u32 gid_max)
 241 {
 242   /**
 243    * modifier
 244    */
 245
 246   const u32 lid = get_local_id (0);
 247
 248   /**
 249    * base
 250    */
 251
 252   const u32 gid = get_global_id (0);
 253
 254   if (gid >= gid_max) return;
 255
 256   u32 pw_buf0[4];
 257   u32 pw_buf1[4];
 258
 259   pw_buf0[0] = pws[gid].i[ 0];
 260   pw_buf0[1] = pws[gid].i[ 1];
 261   pw_buf0[2] = pws[gid].i[ 2];
 262   pw_buf0[3] = pws[gid].i[ 3];
 263   pw_buf1[0] = pws[gid].i[ 4];
 264   pw_buf1[1] = pws[gid].i[ 5];
 265   pw_buf1[2] = pws[gid].i[ 6];
 266   pw_buf1[3] = pws[gid].i[ 7];
 267
 268   const u32 pw_len = pws[gid].pw_len;
 269
 270   /**
 271    * shared
 272    */
 273
 274   __local RC4_KEY rc4_keys[64];
 275
 276   __local RC4_KEY *rc4_key = &rc4_keys[lid];
 277
 278   /**
 279    * U_buf
 280    */
 281
 282   u32 o_buf[8];
 283
 284   o_buf[0] = pdf_bufs[salt_pos].o_buf[0];
 285   o_buf[1] = pdf_bufs[salt_pos].o_buf[1];
 286   o_buf[2] = pdf_bufs[salt_pos].o_buf[2];
 287   o_buf[3] = pdf_bufs[salt_pos].o_buf[3];
 288   o_buf[4] = pdf_bufs[salt_pos].o_buf[4];
 289   o_buf[5] = pdf_bufs[salt_pos].o_buf[5];
 290   o_buf[6] = pdf_bufs[salt_pos].o_buf[6];
 291   o_buf[7] = pdf_bufs[salt_pos].o_buf[7];
 292
 293   u32 P = pdf_bufs[salt_pos].P;
 294
 295   u32 id_buf[4];
 296
 297   id_buf[0] = pdf_bufs[salt_pos].id_buf[0];
 298   id_buf[1] = pdf_bufs[salt_pos].id_buf[1];
 299   id_buf[2] = pdf_bufs[salt_pos].id_buf[2];
 300   id_buf[3] = pdf_bufs[salt_pos].id_buf[3];
 301
 302   /**
 303    * loop
 304    */
 305
 306   for (u32 il_pos = 0; il_pos < il_cnt; il_pos += VECT_SIZE)
 307   {
 308     u32x w0[4] = { 0 };
 309     u32x w1[4] = { 0 };
 310     u32x w2[4] = { 0 };
 311     u32x w3[4] = { 0 };
 312
 313     const u32x out_len = apply_rules_vect (pw_buf0, pw_buf1, pw_len, rules_buf, il_pos, w0, w1);
 314
 315     /**
 316      * pdf
 317      */
 318
 319     u32 p0[4];
 320     u32 p1[4];
 321     u32 p2[4];
 322     u32 p3[4];
 323
 324     p0[0] = padding[0];
 325     p0[1] = padding[1];
 326     p0[2] = padding[2];
 327     p0[3] = padding[3];
 328     p1[0] = padding[4];
 329     p1[1] = padding[5];
 330     p1[2] = padding[6];
 331     p1[3] = padding[7];
 332     p2[0] = 0;
 333     p2[1] = 0;
 334     p2[2] = 0;
 335     p2[3] = 0;
 336     p3[0] = 0;
 337     p3[1] = 0;
 338     p3[2] = 0;
 339     p3[3] = 0;
 340
 341     switch_buffer_by_offset_le (p0, p1, p2, p3, out_len);
 342
 343     // add password
 344     // truncate at 32 is wanted, not a bug!
 345     // add o_buf
 346
 347     w0[0] |= p0[0];
 348     w0[1] |= p0[1];
 349     w0[2] |= p0[2];
 350     w0[3] |= p0[3];
 351     w1[0] |= p1[0];
 352     w1[1] |= p1[1];
 353     w1[2] |= p1[2];
 354     w1[3] |= p1[3];
 355     w2[0]  = o_buf[0];
 356     w2[1]  = o_buf[1];
 357     w2[2]  = o_buf[2];
 358     w2[3]  = o_buf[3];
 359     w3[0]  = o_buf[4];
 360     w3[1]  = o_buf[5];
 361     w3[2]  = o_buf[6];
 362     w3[3]  = o_buf[7];
 363
 364     u32 digest[4];
 365
 366     digest[0] = MD5M_A;
 367     digest[1] = MD5M_B;
 368     digest[2] = MD5M_C;
 369     digest[3] = MD5M_D;
 370
 371     md5_transform (w0, w1, w2, w3, digest);
 372
 373     w0[0] = P;
 374     w0[1] = id_buf[0];
 375     w0[2] = id_buf[1];
 376     w0[3] = id_buf[2];
 377     w1[0] = id_buf[3];
 378     w1[1] = 0x80;
 379     w1[2] = 0;
 380     w1[3] = 0;
 381     w2[0] = 0;
 382     w2[1] = 0;
 383     w2[2] = 0;
 384     w2[3] = 0;
 385     w3[0] = 0;
 386     w3[1] = 0;
 387     w3[2] = 84 * 8;
 388     w3[3] = 0;
 389
 390     md5_transform (w0, w1, w2, w3, digest);
 391
 392     // now the RC4 part
 393
 394     digest[1] = digest[1] & 0xff;
 395     digest[2] = 0;
 396     digest[3] = 0;
 397
 398     rc4_init_16 (rc4_key, digest);
 399
 400     u32 out[4];
 401
 402     rc4_next_16 (rc4_key, 0, 0, padding, out);
 403
 404     COMPARE_M_SIMD (out[0], out[1], out[2], out[3]);
 405   }
 406 }
 407
 408 __kernel void m10400_m08 (__global pw_t *pws, __global kernel_rule_t *rules_buf, __global comb_t *combs_buf, __global bf_t *bfs_buf, __global void *tmps, __global void *hooks, __global u32 *bitmaps_buf_s1_a, __global u32 *bitmaps_buf_s1_b, __global u32 *bitmaps_buf_s1_c, __global u32 *bitmaps_buf_s1_d, __global u32 *bitmaps_buf_s2_a, __global u32 *bitmaps_buf_s2_b, __global u32 *bitmaps_buf_s2_c, __global u32 *bitmaps_buf_s2_d, __global plain_t *plains_buf, __global digest_t *digests_buf, __global u32 *hashes_shown, __global salt_t *salt_bufs, __global pdf_t *pdf_bufs, __global u32 *d_return_buf, __global u32 *d_scryptV0_buf, __global u32 *d_scryptV1_buf, __global u32 *d_scryptV2_buf, __global u32 *d_scryptV3_buf, const u32 bitmap_mask, const u32 bitmap_shift1, const u32 bitmap_shift2, const u32 salt_pos, const u32 loop_pos, const u32 loop_cnt, const u32 il_cnt, const u32 digests_cnt, const u32 digests_offset, const u32 combs_mode, const u32 gid_max)
 409 {
 410 }
 411
 412 __kernel void m10400_m16 (__global pw_t *pws, __global kernel_rule_t *rules_buf, __global comb_t *combs_buf, __global bf_t *bfs_buf, __global void *tmps, __global void *hooks, __global u32 *bitmaps_buf_s1_a, __global u32 *bitmaps_buf_s1_b, __global u32 *bitmaps_buf_s1_c, __global u32 *bitmaps_buf_s1_d, __global u32 *bitmaps_buf_s2_a, __global u32 *bitmaps_buf_s2_b, __global u32 *bitmaps_buf_s2_c, __global u32 *bitmaps_buf_s2_d, __global plain_t *plains_buf, __global digest_t *digests_buf, __global u32 *hashes_shown, __global salt_t *salt_bufs, __global pdf_t *pdf_bufs, __global u32 *d_return_buf, __global u32 *d_scryptV0_buf, __global u32 *d_scryptV1_buf, __global u32 *d_scryptV2_buf, __global u32 *d_scryptV3_buf, const u32 bitmap_mask, const u32 bitmap_shift1, const u32 bitmap_shift2, const u32 salt_pos, const u32 loop_pos, const u32 loop_cnt, const u32 il_cnt, const u32 digests_cnt, const u32 digests_offset, const u32 combs_mode, const u32 gid_max)
 413 {
 414 }
 415
 416 __kernel void m10400_s04 (__global pw_t *pws, __global kernel_rule_t *rules_buf, __global comb_t *combs_buf, __global bf_t *bfs_buf, __global void *tmps, __global void *hooks, __global u32 *bitmaps_buf_s1_a, __global u32 *bitmaps_buf_s1_b, __global u32 *bitmaps_buf_s1_c, __global u32 *bitmaps_buf_s1_d, __global u32 *bitmaps_buf_s2_a, __global u32 *bitmaps_buf_s2_b, __global u32 *bitmaps_buf_s2_c, __global u32 *bitmaps_buf_s2_d, __global plain_t *plains_buf, __global digest_t *digests_buf, __global u32 *hashes_shown, __global salt_t *salt_bufs, __global pdf_t *pdf_bufs, __global u32 *d_return_buf, __global u32 *d_scryptV0_buf, __global u32 *d_scryptV1_buf, __global u32 *d_scryptV2_buf, __global u32 *d_scryptV3_buf, const u32 bitmap_mask, const u32 bitmap_shift1, const u32 bitmap_shift2, const u32 salt_pos, const u32 loop_pos, const u32 loop_cnt, const u32 il_cnt, const u32 digests_cnt, const u32 digests_offset, const u32 combs_mode, const u32 gid_max)
 417 {
 418   /**
 419    * modifier
 420    */
 421
 422   const u32 lid = get_local_id (0);
 423
 424   /**
 425    * base
 426    */
 427
 428   const u32 gid = get_global_id (0);
 429
 430   if (gid >= gid_max) return;
 431
 432   u32 pw_buf0[4];
 433   u32 pw_buf1[4];
 434
 435   pw_buf0[0] = pws[gid].i[ 0];
 436   pw_buf0[1] = pws[gid].i[ 1];
 437   pw_buf0[2] = pws[gid].i[ 2];
 438   pw_buf0[3] = pws[gid].i[ 3];
 439   pw_buf1[0] = pws[gid].i[ 4];
 440   pw_buf1[1] = pws[gid].i[ 5];
 441   pw_buf1[2] = pws[gid].i[ 6];
 442   pw_buf1[3] = pws[gid].i[ 7];
 443
 444   const u32 pw_len = pws[gid].pw_len;
 445
 446   /**
 447    * shared
 448    */
 449
 450   __local RC4_KEY rc4_keys[64];
 451
 452   __local RC4_KEY *rc4_key = &rc4_keys[lid];
 453
 454   /**
 455    * U_buf
 456    */
 457
 458   u32 o_buf[8];
 459
 460   o_buf[0] = pdf_bufs[salt_pos].o_buf[0];
 461   o_buf[1] = pdf_bufs[salt_pos].o_buf[1];
 462   o_buf[2] = pdf_bufs[salt_pos].o_buf[2];
 463   o_buf[3] = pdf_bufs[salt_pos].o_buf[3];
 464   o_buf[4] = pdf_bufs[salt_pos].o_buf[4];
 465   o_buf[5] = pdf_bufs[salt_pos].o_buf[5];
 466   o_buf[6] = pdf_bufs[salt_pos].o_buf[6];
 467   o_buf[7] = pdf_bufs[salt_pos].o_buf[7];
 468
 469   u32 P = pdf_bufs[salt_pos].P;
 470
 471   u32 id_buf[4];
 472
 473   id_buf[0] = pdf_bufs[salt_pos].id_buf[0];
 474   id_buf[1] = pdf_bufs[salt_pos].id_buf[1];
 475   id_buf[2] = pdf_bufs[salt_pos].id_buf[2];
 476   id_buf[3] = pdf_bufs[salt_pos].id_buf[3];
 477
 478   /**
 479    * digest
 480    */
 481
 482   const u32 search[4] =
 483   {
 484     digests_buf[digests_offset].digest_buf[DGST_R0],
 485     digests_buf[digests_offset].digest_buf[DGST_R1],
 486     digests_buf[digests_offset].digest_buf[DGST_R2],
 487     digests_buf[digests_offset].digest_buf[DGST_R3]
 488   };
 489
 490   /**
 491    * loop
 492    */
 493
 494   for (u32 il_pos = 0; il_pos < il_cnt; il_pos += VECT_SIZE)
 495   {
 496     u32x w0[4] = { 0 };
 497     u32x w1[4] = { 0 };
 498     u32x w2[4] = { 0 };
 499     u32x w3[4] = { 0 };
 500
 501     const u32x out_len = apply_rules_vect (pw_buf0, pw_buf1, pw_len, rules_buf, il_pos, w0, w1);
 502
 503     /**
 504      * pdf
 505      */
 506
 507     u32 p0[4];
 508     u32 p1[4];
 509     u32 p2[4];
 510     u32 p3[4];
 511
 512     p0[0] = padding[0];
 513     p0[1] = padding[1];
 514     p0[2] = padding[2];
 515     p0[3] = padding[3];
 516     p1[0] = padding[4];
 517     p1[1] = padding[5];
 518     p1[2] = padding[6];
 519     p1[3] = padding[7];
 520     p2[0] = 0;
 521     p2[1] = 0;
 522     p2[2] = 0;
 523     p2[3] = 0;
 524     p3[0] = 0;
 525     p3[1] = 0;
 526     p3[2] = 0;
 527     p3[3] = 0;
 528
 529     switch_buffer_by_offset_le (p0, p1, p2, p3, out_len);
 530
 531     // add password
 532     // truncate at 32 is wanted, not a bug!
 533     // add o_buf
 534
 535     w0[0] |= p0[0];
 536     w0[1] |= p0[1];
 537     w0[2] |= p0[2];
 538     w0[3] |= p0[3];
 539     w1[0] |= p1[0];
 540     w1[1] |= p1[1];
 541     w1[2] |= p1[2];
 542     w1[3] |= p1[3];
 543     w2[0]  = o_buf[0];
 544     w2[1]  = o_buf[1];
 545     w2[2]  = o_buf[2];
 546     w2[3]  = o_buf[3];
 547     w3[0]  = o_buf[4];
 548     w3[1]  = o_buf[5];
 549     w3[2]  = o_buf[6];
 550     w3[3]  = o_buf[7];
 551
 552     u32 digest[4];
 553
 554     digest[0] = MD5M_A;
 555     digest[1] = MD5M_B;
 556     digest[2] = MD5M_C;
 557     digest[3] = MD5M_D;
 558
 559     md5_transform (w0, w1, w2, w3, digest);
 560
 561     w0[0] = P;
 562     w0[1] = id_buf[0];
 563     w0[2] = id_buf[1];
 564     w0[3] = id_buf[2];
 565     w1[0] = id_buf[3];
 566     w1[1] = 0x80;
 567     w1[2] = 0;
 568     w1[3] = 0;
 569     w2[0] = 0;
 570     w2[1] = 0;
 571     w2[2] = 0;
 572     w2[3] = 0;
 573     w3[0] = 0;
 574     w3[1] = 0;
 575     w3[2] = 84 * 8;
 576     w3[3] = 0;
 577
 578     md5_transform (w0, w1, w2, w3, digest);
 579
 580     // now the RC4 part
 581
 582     digest[1] = digest[1] & 0xff;
 583     digest[2] = 0;
 584     digest[3] = 0;
 585
 586     rc4_init_16 (rc4_key, digest);
 587
 588     u32 out[4];
 589
 590     rc4_next_16 (rc4_key, 0, 0, padding, out);
 591
 592     COMPARE_S_SIMD (out[0], out[1], out[2], out[3]);
 593   }
 594 }
 595
 596 __kernel void m10400_s08 (__global pw_t *pws, __global kernel_rule_t *rules_buf, __global comb_t *combs_buf, __global bf_t *bfs_buf, __global void *tmps, __global void *hooks, __global u32 *bitmaps_buf_s1_a, __global u32 *bitmaps_buf_s1_b, __global u32 *bitmaps_buf_s1_c, __global u32 *bitmaps_buf_s1_d, __global u32 *bitmaps_buf_s2_a, __global u32 *bitmaps_buf_s2_b, __global u32 *bitmaps_buf_s2_c, __global u32 *bitmaps_buf_s2_d, __global plain_t *plains_buf, __global digest_t *digests_buf, __global u32 *hashes_shown, __global salt_t *salt_bufs, __global pdf_t *pdf_bufs, __global u32 *d_return_buf, __global u32 *d_scryptV0_buf, __global u32 *d_scryptV1_buf, __global u32 *d_scryptV2_buf, __global u32 *d_scryptV3_buf, const u32 bitmap_mask, const u32 bitmap_shift1, const u32 bitmap_shift2, const u32 salt_pos, const u32 loop_pos, const u32 loop_cnt, const u32 il_cnt, const u32 digests_cnt, const u32 digests_offset, const u32 combs_mode, const u32 gid_max)
 597 {
 598 }
 599
 600 __kernel void m10400_s16 (__global pw_t *pws, __global kernel_rule_t *rules_buf, __global comb_t *combs_buf, __global bf_t *bfs_buf, __global void *tmps, __global void *hooks, __global u32 *bitmaps_buf_s1_a, __global u32 *bitmaps_buf_s1_b, __global u32 *bitmaps_buf_s1_c, __global u32 *bitmaps_buf_s1_d, __global u32 *bitmaps_buf_s2_a, __global u32 *bitmaps_buf_s2_b, __global u32 *bitmaps_buf_s2_c, __global u32 *bitmaps_buf_s2_d, __global plain_t *plains_buf, __global digest_t *digests_buf, __global u32 *hashes_shown, __global salt_t *salt_bufs, __global pdf_t *pdf_bufs, __global u32 *d_return_buf, __global u32 *d_scryptV0_buf, __global u32 *d_scryptV1_buf, __global u32 *d_scryptV2_buf, __global u32 *d_scryptV3_buf, const u32 bitmap_mask, const u32 bitmap_shift1, const u32 bitmap_shift2, const u32 salt_pos, const u32 loop_pos, const u32 loop_cnt, const u32 il_cnt, const u32 digests_cnt, const u32 digests_offset, const u32 combs_mode, const u32 gid_max)
 601 {
 602 }