OpenCL/m09820_a0.cl

   1 /**
   2  * Author......: Jens Steube <jens.steube@gmail.com>
   3  * License.....: MIT
   4  */
   5
   6 #define _OLDOFFICE34_
   7
   8 #include "include/constants.h"
   9 #include "include/kernel_vendor.h"
  10
  11 #define DGST_R0 0
  12 #define DGST_R1 1
  13 #define DGST_R2 2
  14 #define DGST_R3 3
  15
  16 #include "include/kernel_functions.c"
  17 #include "OpenCL/types_ocl.c"
  18 #include "OpenCL/common.c"
  19 #include "include/rp_gpu.h"
  20 #include "OpenCL/rp.c"
  21
  22 #define COMPARE_S "OpenCL/check_single_comp4.c"
  23 #define COMPARE_M "OpenCL/check_multi_comp4.c"
  24
  25 static void sha1_transform (const u32 w0[4], const u32 w1[4], const u32 w2[4], const u32 w3[4], u32 digest[5])
  26 {
  27   u32 A = digest[0];
  28   u32 B = digest[1];
  29   u32 C = digest[2];
  30   u32 D = digest[3];
  31   u32 E = digest[4];
  32
  33   u32 w0_t = w0[0];
  34   u32 w1_t = w0[1];
  35   u32 w2_t = w0[2];
  36   u32 w3_t = w0[3];
  37   u32 w4_t = w1[0];
  38   u32 w5_t = w1[1];
  39   u32 w6_t = w1[2];
  40   u32 w7_t = w1[3];
  41   u32 w8_t = w2[0];
  42   u32 w9_t = w2[1];
  43   u32 wa_t = w2[2];
  44   u32 wb_t = w2[3];
  45   u32 wc_t = w3[0];
  46   u32 wd_t = w3[1];
  47   u32 we_t = w3[2];
  48   u32 wf_t = w3[3];
  49
  50   #undef K
  51   #define K SHA1C00
  52
  53   SHA1_STEP (SHA1_F0o, A, B, C, D, E, w0_t);
  54   SHA1_STEP (SHA1_F0o, E, A, B, C, D, w1_t);
  55   SHA1_STEP (SHA1_F0o, D, E, A, B, C, w2_t);
  56   SHA1_STEP (SHA1_F0o, C, D, E, A, B, w3_t);
  57   SHA1_STEP (SHA1_F0o, B, C, D, E, A, w4_t);
  58   SHA1_STEP (SHA1_F0o, A, B, C, D, E, w5_t);
  59   SHA1_STEP (SHA1_F0o, E, A, B, C, D, w6_t);
  60   SHA1_STEP (SHA1_F0o, D, E, A, B, C, w7_t);
  61   SHA1_STEP (SHA1_F0o, C, D, E, A, B, w8_t);
  62   SHA1_STEP (SHA1_F0o, B, C, D, E, A, w9_t);
  63   SHA1_STEP (SHA1_F0o, A, B, C, D, E, wa_t);
  64   SHA1_STEP (SHA1_F0o, E, A, B, C, D, wb_t);
  65   SHA1_STEP (SHA1_F0o, D, E, A, B, C, wc_t);
  66   SHA1_STEP (SHA1_F0o, C, D, E, A, B, wd_t);
  67   SHA1_STEP (SHA1_F0o, B, C, D, E, A, we_t);
  68   SHA1_STEP (SHA1_F0o, A, B, C, D, E, wf_t);
  69   w0_t = rotl32 ((wd_t ^ w8_t ^ w2_t ^ w0_t), 1u); SHA1_STEP (SHA1_F0o, E, A, B, C, D, w0_t);
  70   w1_t = rotl32 ((we_t ^ w9_t ^ w3_t ^ w1_t), 1u); SHA1_STEP (SHA1_F0o, D, E, A, B, C, w1_t);
  71   w2_t = rotl32 ((wf_t ^ wa_t ^ w4_t ^ w2_t), 1u); SHA1_STEP (SHA1_F0o, C, D, E, A, B, w2_t);
  72   w3_t = rotl32 ((w0_t ^ wb_t ^ w5_t ^ w3_t), 1u); SHA1_STEP (SHA1_F0o, B, C, D, E, A, w3_t);
  73
  74   #undef K
  75   #define K SHA1C01
  76
  77   w4_t = rotl32 ((w1_t ^ wc_t ^ w6_t ^ w4_t), 1u); SHA1_STEP (SHA1_F1, A, B, C, D, E, w4_t);
  78   w5_t = rotl32 ((w2_t ^ wd_t ^ w7_t ^ w5_t), 1u); SHA1_STEP (SHA1_F1, E, A, B, C, D, w5_t);
  79   w6_t = rotl32 ((w3_t ^ we_t ^ w8_t ^ w6_t), 1u); SHA1_STEP (SHA1_F1, D, E, A, B, C, w6_t);
  80   w7_t = rotl32 ((w4_t ^ wf_t ^ w9_t ^ w7_t), 1u); SHA1_STEP (SHA1_F1, C, D, E, A, B, w7_t);
  81   w8_t = rotl32 ((w5_t ^ w0_t ^ wa_t ^ w8_t), 1u); SHA1_STEP (SHA1_F1, B, C, D, E, A, w8_t);
  82   w9_t = rotl32 ((w6_t ^ w1_t ^ wb_t ^ w9_t), 1u); SHA1_STEP (SHA1_F1, A, B, C, D, E, w9_t);
  83   wa_t = rotl32 ((w7_t ^ w2_t ^ wc_t ^ wa_t), 1u); SHA1_STEP (SHA1_F1, E, A, B, C, D, wa_t);
  84   wb_t = rotl32 ((w8_t ^ w3_t ^ wd_t ^ wb_t), 1u); SHA1_STEP (SHA1_F1, D, E, A, B, C, wb_t);
  85   wc_t = rotl32 ((w9_t ^ w4_t ^ we_t ^ wc_t), 1u); SHA1_STEP (SHA1_F1, C, D, E, A, B, wc_t);
  86   wd_t = rotl32 ((wa_t ^ w5_t ^ wf_t ^ wd_t), 1u); SHA1_STEP (SHA1_F1, B, C, D, E, A, wd_t);
  87   we_t = rotl32 ((wb_t ^ w6_t ^ w0_t ^ we_t), 1u); SHA1_STEP (SHA1_F1, A, B, C, D, E, we_t);
  88   wf_t = rotl32 ((wc_t ^ w7_t ^ w1_t ^ wf_t), 1u); SHA1_STEP (SHA1_F1, E, A, B, C, D, wf_t);
  89   w0_t = rotl32 ((wd_t ^ w8_t ^ w2_t ^ w0_t), 1u); SHA1_STEP (SHA1_F1, D, E, A, B, C, w0_t);
  90   w1_t = rotl32 ((we_t ^ w9_t ^ w3_t ^ w1_t), 1u); SHA1_STEP (SHA1_F1, C, D, E, A, B, w1_t);
  91   w2_t = rotl32 ((wf_t ^ wa_t ^ w4_t ^ w2_t), 1u); SHA1_STEP (SHA1_F1, B, C, D, E, A, w2_t);
  92   w3_t = rotl32 ((w0_t ^ wb_t ^ w5_t ^ w3_t), 1u); SHA1_STEP (SHA1_F1, A, B, C, D, E, w3_t);
  93   w4_t = rotl32 ((w1_t ^ wc_t ^ w6_t ^ w4_t), 1u); SHA1_STEP (SHA1_F1, E, A, B, C, D, w4_t);
  94   w5_t = rotl32 ((w2_t ^ wd_t ^ w7_t ^ w5_t), 1u); SHA1_STEP (SHA1_F1, D, E, A, B, C, w5_t);
  95   w6_t = rotl32 ((w3_t ^ we_t ^ w8_t ^ w6_t), 1u); SHA1_STEP (SHA1_F1, C, D, E, A, B, w6_t);
  96   w7_t = rotl32 ((w4_t ^ wf_t ^ w9_t ^ w7_t), 1u); SHA1_STEP (SHA1_F1, B, C, D, E, A, w7_t);
  97
  98   #undef K
  99   #define K SHA1C02
 100
 101   w8_t = rotl32 ((w5_t ^ w0_t ^ wa_t ^ w8_t), 1u); SHA1_STEP (SHA1_F2o, A, B, C, D, E, w8_t);
 102   w9_t = rotl32 ((w6_t ^ w1_t ^ wb_t ^ w9_t), 1u); SHA1_STEP (SHA1_F2o, E, A, B, C, D, w9_t);
 103   wa_t = rotl32 ((w7_t ^ w2_t ^ wc_t ^ wa_t), 1u); SHA1_STEP (SHA1_F2o, D, E, A, B, C, wa_t);
 104   wb_t = rotl32 ((w8_t ^ w3_t ^ wd_t ^ wb_t), 1u); SHA1_STEP (SHA1_F2o, C, D, E, A, B, wb_t);
 105   wc_t = rotl32 ((w9_t ^ w4_t ^ we_t ^ wc_t), 1u); SHA1_STEP (SHA1_F2o, B, C, D, E, A, wc_t);
 106   wd_t = rotl32 ((wa_t ^ w5_t ^ wf_t ^ wd_t), 1u); SHA1_STEP (SHA1_F2o, A, B, C, D, E, wd_t);
 107   we_t = rotl32 ((wb_t ^ w6_t ^ w0_t ^ we_t), 1u); SHA1_STEP (SHA1_F2o, E, A, B, C, D, we_t);
 108   wf_t = rotl32 ((wc_t ^ w7_t ^ w1_t ^ wf_t), 1u); SHA1_STEP (SHA1_F2o, D, E, A, B, C, wf_t);
 109   w0_t = rotl32 ((wd_t ^ w8_t ^ w2_t ^ w0_t), 1u); SHA1_STEP (SHA1_F2o, C, D, E, A, B, w0_t);
 110   w1_t = rotl32 ((we_t ^ w9_t ^ w3_t ^ w1_t), 1u); SHA1_STEP (SHA1_F2o, B, C, D, E, A, w1_t);
 111   w2_t = rotl32 ((wf_t ^ wa_t ^ w4_t ^ w2_t), 1u); SHA1_STEP (SHA1_F2o, A, B, C, D, E, w2_t);
 112   w3_t = rotl32 ((w0_t ^ wb_t ^ w5_t ^ w3_t), 1u); SHA1_STEP (SHA1_F2o, E, A, B, C, D, w3_t);
 113   w4_t = rotl32 ((w1_t ^ wc_t ^ w6_t ^ w4_t), 1u); SHA1_STEP (SHA1_F2o, D, E, A, B, C, w4_t);
 114   w5_t = rotl32 ((w2_t ^ wd_t ^ w7_t ^ w5_t), 1u); SHA1_STEP (SHA1_F2o, C, D, E, A, B, w5_t);
 115   w6_t = rotl32 ((w3_t ^ we_t ^ w8_t ^ w6_t), 1u); SHA1_STEP (SHA1_F2o, B, C, D, E, A, w6_t);
 116   w7_t = rotl32 ((w4_t ^ wf_t ^ w9_t ^ w7_t), 1u); SHA1_STEP (SHA1_F2o, A, B, C, D, E, w7_t);
 117   w8_t = rotl32 ((w5_t ^ w0_t ^ wa_t ^ w8_t), 1u); SHA1_STEP (SHA1_F2o, E, A, B, C, D, w8_t);
 118   w9_t = rotl32 ((w6_t ^ w1_t ^ wb_t ^ w9_t), 1u); SHA1_STEP (SHA1_F2o, D, E, A, B, C, w9_t);
 119   wa_t = rotl32 ((w7_t ^ w2_t ^ wc_t ^ wa_t), 1u); SHA1_STEP (SHA1_F2o, C, D, E, A, B, wa_t);
 120   wb_t = rotl32 ((w8_t ^ w3_t ^ wd_t ^ wb_t), 1u); SHA1_STEP (SHA1_F2o, B, C, D, E, A, wb_t);
 121
 122   #undef K
 123   #define K SHA1C03
 124
 125   wc_t = rotl32 ((w9_t ^ w4_t ^ we_t ^ wc_t), 1u); SHA1_STEP (SHA1_F1, A, B, C, D, E, wc_t);
 126   wd_t = rotl32 ((wa_t ^ w5_t ^ wf_t ^ wd_t), 1u); SHA1_STEP (SHA1_F1, E, A, B, C, D, wd_t);
 127   we_t = rotl32 ((wb_t ^ w6_t ^ w0_t ^ we_t), 1u); SHA1_STEP (SHA1_F1, D, E, A, B, C, we_t);
 128   wf_t = rotl32 ((wc_t ^ w7_t ^ w1_t ^ wf_t), 1u); SHA1_STEP (SHA1_F1, C, D, E, A, B, wf_t);
 129   w0_t = rotl32 ((wd_t ^ w8_t ^ w2_t ^ w0_t), 1u); SHA1_STEP (SHA1_F1, B, C, D, E, A, w0_t);
 130   w1_t = rotl32 ((we_t ^ w9_t ^ w3_t ^ w1_t), 1u); SHA1_STEP (SHA1_F1, A, B, C, D, E, w1_t);
 131   w2_t = rotl32 ((wf_t ^ wa_t ^ w4_t ^ w2_t), 1u); SHA1_STEP (SHA1_F1, E, A, B, C, D, w2_t);
 132   w3_t = rotl32 ((w0_t ^ wb_t ^ w5_t ^ w3_t), 1u); SHA1_STEP (SHA1_F1, D, E, A, B, C, w3_t);
 133   w4_t = rotl32 ((w1_t ^ wc_t ^ w6_t ^ w4_t), 1u); SHA1_STEP (SHA1_F1, C, D, E, A, B, w4_t);
 134   w5_t = rotl32 ((w2_t ^ wd_t ^ w7_t ^ w5_t), 1u); SHA1_STEP (SHA1_F1, B, C, D, E, A, w5_t);
 135   w6_t = rotl32 ((w3_t ^ we_t ^ w8_t ^ w6_t), 1u); SHA1_STEP (SHA1_F1, A, B, C, D, E, w6_t);
 136   w7_t = rotl32 ((w4_t ^ wf_t ^ w9_t ^ w7_t), 1u); SHA1_STEP (SHA1_F1, E, A, B, C, D, w7_t);
 137   w8_t = rotl32 ((w5_t ^ w0_t ^ wa_t ^ w8_t), 1u); SHA1_STEP (SHA1_F1, D, E, A, B, C, w8_t);
 138   w9_t = rotl32 ((w6_t ^ w1_t ^ wb_t ^ w9_t), 1u); SHA1_STEP (SHA1_F1, C, D, E, A, B, w9_t);
 139   wa_t = rotl32 ((w7_t ^ w2_t ^ wc_t ^ wa_t), 1u); SHA1_STEP (SHA1_F1, B, C, D, E, A, wa_t);
 140   wb_t = rotl32 ((w8_t ^ w3_t ^ wd_t ^ wb_t), 1u); SHA1_STEP (SHA1_F1, A, B, C, D, E, wb_t);
 141   wc_t = rotl32 ((w9_t ^ w4_t ^ we_t ^ wc_t), 1u); SHA1_STEP (SHA1_F1, E, A, B, C, D, wc_t);
 142   wd_t = rotl32 ((wa_t ^ w5_t ^ wf_t ^ wd_t), 1u); SHA1_STEP (SHA1_F1, D, E, A, B, C, wd_t);
 143   we_t = rotl32 ((wb_t ^ w6_t ^ w0_t ^ we_t), 1u); SHA1_STEP (SHA1_F1, C, D, E, A, B, we_t);
 144   wf_t = rotl32 ((wc_t ^ w7_t ^ w1_t ^ wf_t), 1u); SHA1_STEP (SHA1_F1, B, C, D, E, A, wf_t);
 145
 146   digest[0] += A;
 147   digest[1] += B;
 148   digest[2] += C;
 149   digest[3] += D;
 150   digest[4] += E;
 151 }
 152
 153 __kernel void __attribute__((reqd_work_group_size (64, 1, 1))) m09820_m04 (__global pw_t *pws, __global gpu_rule_t *rules_buf, __global comb_t *combs_buf, __global bf_t *bfs_buf, __global void *tmps, __global void *hooks, __global u32 *bitmaps_buf_s1_a, __global u32 *bitmaps_buf_s1_b, __global u32 *bitmaps_buf_s1_c, __global u32 *bitmaps_buf_s1_d, __global u32 *bitmaps_buf_s2_a, __global u32 *bitmaps_buf_s2_b, __global u32 *bitmaps_buf_s2_c, __global u32 *bitmaps_buf_s2_d, __global plain_t *plains_buf, __global digest_t *digests_buf, __global u32 *hashes_shown, __global salt_t *salt_bufs, __global oldoffice34_t *oldoffice34_bufs, __global u32 *d_return_buf, __global u32 *d_scryptV_buf, const u32 bitmap_mask, const u32 bitmap_shift1, const u32 bitmap_shift2, const u32 salt_pos, const u32 loop_pos, const u32 loop_cnt, const u32 rules_cnt, const u32 digests_cnt, const u32 digests_offset, const u32 combs_mode, const u32 gid_max)
 154 {
 155   /**
 156    * modifier
 157    */
 158
 159   const u32 lid = get_local_id (0);
 160
 161   /**
 162    * base
 163    */
 164
 165   const u32 gid = get_global_id (0);
 166
 167   if (gid >= gid_max) return;
 168
 169   u32 pw_buf0[4];
 170
 171   pw_buf0[0] = pws[gid].i[ 0];
 172   pw_buf0[1] = pws[gid].i[ 1];
 173   pw_buf0[2] = pws[gid].i[ 2];
 174   pw_buf0[3] = pws[gid].i[ 3];
 175
 176   u32 pw_buf1[4];
 177
 178   pw_buf1[0] = pws[gid].i[ 4];
 179   pw_buf1[1] = pws[gid].i[ 5];
 180   pw_buf1[2] = pws[gid].i[ 6];
 181   pw_buf1[3] = pws[gid].i[ 7];
 182
 183   const u32 pw_len = pws[gid].pw_len;
 184
 185   /**
 186    * salt
 187    */
 188
 189   u32 salt_buf[4];
 190
 191   salt_buf[0] = salt_bufs[salt_pos].salt_buf[0];
 192   salt_buf[1] = salt_bufs[salt_pos].salt_buf[1];
 193   salt_buf[2] = salt_bufs[salt_pos].salt_buf[2];
 194   salt_buf[3] = salt_bufs[salt_pos].salt_buf[3];
 195
 196   const u32 salt_len = 16;
 197
 198   const u32 pw_salt_len = pw_len + salt_len;
 199
 200   /**
 201    * loop
 202    */
 203
 204   for (u32 il_pos = 0; il_pos < rules_cnt; il_pos++)
 205   {
 206     u32 w0[4];
 207
 208     w0[0] = pw_buf0[0];
 209     w0[1] = pw_buf0[1];
 210     w0[2] = pw_buf0[2];
 211     w0[3] = pw_buf0[3];
 212
 213     u32 w1[4];
 214
 215     w1[0] = pw_buf1[0];
 216     w1[1] = pw_buf1[1];
 217     w1[2] = pw_buf1[2];
 218     w1[3] = pw_buf1[3];
 219
 220     u32 w2[4];
 221
 222     w2[0] = 0;
 223     w2[1] = 0;
 224     w2[2] = 0;
 225     w2[3] = 0;
 226
 227     u32 w3[4];
 228
 229     w3[0] = 0;
 230     w3[1] = 0;
 231     w3[2] = 0;
 232     w3[3] = 0;
 233
 234     const u32 out_len = apply_rules (rules_buf[il_pos].cmds, w0, w1, pw_len);
 235
 236     const u32 pw_salt_len = (out_len * 2) + salt_len;
 237
 238     append_0x80_2x4 (w0, w1, out_len);
 239
 240     u32 w0_t[4];
 241     u32 w1_t[4];
 242     u32 w2_t[4];
 243     u32 w3_t[4];
 244
 245     make_unicode (w0, w0_t, w1_t);
 246     make_unicode (w1, w2_t, w3_t);
 247
 248     switch_buffer_by_offset (w0_t, w1_t, w2_t, w3_t, salt_len);
 249
 250     w0_t[0] = salt_buf[0];
 251     w0_t[1] = salt_buf[1];
 252     w0_t[2] = salt_buf[2];
 253     w0_t[3] = salt_buf[3];
 254     w1_t[0] = swap32 (w1_t[0]);
 255     w1_t[1] = swap32 (w1_t[1]);
 256     w1_t[2] = swap32 (w1_t[2]);
 257     w1_t[3] = swap32 (w1_t[3]);
 258     w2_t[0] = swap32 (w2_t[0]);
 259     w2_t[1] = swap32 (w2_t[1]);
 260     w2_t[2] = swap32 (w2_t[2]);
 261     w2_t[3] = swap32 (w2_t[3]);
 262     w3_t[0] = swap32 (w3_t[0]);
 263     w3_t[1] = swap32 (w3_t[1]);
 264     w3_t[2] = 0;
 265     w3_t[3] = pw_salt_len * 8;
 266
 267     u32 digest[5];
 268
 269     digest[0] = SHA1M_A;
 270     digest[1] = SHA1M_B;
 271     digest[2] = SHA1M_C;
 272     digest[3] = SHA1M_D;
 273     digest[4] = SHA1M_E;
 274
 275     sha1_transform (w0_t, w1_t, w2_t, w3_t, digest);
 276
 277     w0_t[0] = digest[0];
 278     w0_t[1] = digest[1];
 279     w0_t[2] = digest[2];
 280     w0_t[3] = digest[3];
 281     w1_t[0] = digest[4];
 282     w1_t[1] = 0;
 283     w1_t[2] = 0x80000000;
 284     w1_t[3] = 0;
 285     w2_t[0] = 0;
 286     w2_t[1] = 0;
 287     w2_t[2] = 0;
 288     w2_t[3] = 0;
 289     w3_t[0] = 0;
 290     w3_t[1] = 0;
 291     w3_t[2] = 0;
 292     w3_t[3] = (20 + 4) * 8;
 293
 294     digest[0] = SHA1M_A;
 295     digest[1] = SHA1M_B;
 296     digest[2] = SHA1M_C;
 297     digest[3] = SHA1M_D;
 298     digest[4] = SHA1M_E;
 299
 300     sha1_transform (w0_t, w1_t, w2_t, w3_t, digest);
 301
 302     u32 a = swap32 (digest[0]);
 303     u32 b = swap32 (digest[1]) & 0xff;
 304
 305     const u32 r0 = a;
 306     const u32 r1 = b;
 307     const u32 r2 = 0;
 308     const u32 r3 = 0;
 309
 310     #include COMPARE_M
 311   }
 312 }
 313
 314 __kernel void __attribute__((reqd_work_group_size (64, 1, 1))) m09820_m08 (__global pw_t *pws, __global gpu_rule_t *rules_buf, __global comb_t *combs_buf, __global bf_t *bfs_buf, __global void *tmps, __global void *hooks, __global u32 *bitmaps_buf_s1_a, __global u32 *bitmaps_buf_s1_b, __global u32 *bitmaps_buf_s1_c, __global u32 *bitmaps_buf_s1_d, __global u32 *bitmaps_buf_s2_a, __global u32 *bitmaps_buf_s2_b, __global u32 *bitmaps_buf_s2_c, __global u32 *bitmaps_buf_s2_d, __global plain_t *plains_buf, __global digest_t *digests_buf, __global u32 *hashes_shown, __global salt_t *salt_bufs, __global oldoffice34_t *oldoffice34_bufs, __global u32 *d_return_buf, __global u32 *d_scryptV_buf, const u32 bitmap_mask, const u32 bitmap_shift1, const u32 bitmap_shift2, const u32 salt_pos, const u32 loop_pos, const u32 loop_cnt, const u32 combs_cnt, const u32 digests_cnt, const u32 digests_offset, const u32 combs_mode, const u32 gid_max)
 315 {
 316 }
 317
 318 __kernel void __attribute__((reqd_work_group_size (64, 1, 1))) m09820_m16 (__global pw_t *pws, __global gpu_rule_t *rules_buf, __global comb_t *combs_buf, __global bf_t *bfs_buf, __global void *tmps, __global void *hooks, __global u32 *bitmaps_buf_s1_a, __global u32 *bitmaps_buf_s1_b, __global u32 *bitmaps_buf_s1_c, __global u32 *bitmaps_buf_s1_d, __global u32 *bitmaps_buf_s2_a, __global u32 *bitmaps_buf_s2_b, __global u32 *bitmaps_buf_s2_c, __global u32 *bitmaps_buf_s2_d, __global plain_t *plains_buf, __global digest_t *digests_buf, __global u32 *hashes_shown, __global salt_t *salt_bufs, __global oldoffice34_t *oldoffice34_bufs, __global u32 *d_return_buf, __global u32 *d_scryptV_buf, const u32 bitmap_mask, const u32 bitmap_shift1, const u32 bitmap_shift2, const u32 salt_pos, const u32 loop_pos, const u32 loop_cnt, const u32 combs_cnt, const u32 digests_cnt, const u32 digests_offset, const u32 combs_mode, const u32 gid_max)
 319 {
 320 }
 321
 322 __kernel void __attribute__((reqd_work_group_size (64, 1, 1))) m09820_s04 (__global pw_t *pws, __global gpu_rule_t *rules_buf, __global comb_t *combs_buf, __global bf_t *bfs_buf, __global void *tmps, __global void *hooks, __global u32 *bitmaps_buf_s1_a, __global u32 *bitmaps_buf_s1_b, __global u32 *bitmaps_buf_s1_c, __global u32 *bitmaps_buf_s1_d, __global u32 *bitmaps_buf_s2_a, __global u32 *bitmaps_buf_s2_b, __global u32 *bitmaps_buf_s2_c, __global u32 *bitmaps_buf_s2_d, __global plain_t *plains_buf, __global digest_t *digests_buf, __global u32 *hashes_shown, __global salt_t *salt_bufs, __global oldoffice34_t *oldoffice34_bufs, __global u32 *d_return_buf, __global u32 *d_scryptV_buf, const u32 bitmap_mask, const u32 bitmap_shift1, const u32 bitmap_shift2, const u32 salt_pos, const u32 loop_pos, const u32 loop_cnt, const u32 rules_cnt, const u32 digests_cnt, const u32 digests_offset, const u32 combs_mode, const u32 gid_max)
 323 {
 324   /**
 325    * modifier
 326    */
 327
 328   const u32 lid = get_local_id (0);
 329
 330   /**
 331    * base
 332    */
 333
 334   const u32 gid = get_global_id (0);
 335
 336   if (gid >= gid_max) return;
 337
 338   u32 pw_buf0[4];
 339
 340   pw_buf0[0] = pws[gid].i[ 0];
 341   pw_buf0[1] = pws[gid].i[ 1];
 342   pw_buf0[2] = pws[gid].i[ 2];
 343   pw_buf0[3] = pws[gid].i[ 3];
 344
 345   u32 pw_buf1[4];
 346
 347   pw_buf1[0] = pws[gid].i[ 4];
 348   pw_buf1[1] = pws[gid].i[ 5];
 349   pw_buf1[2] = pws[gid].i[ 6];
 350   pw_buf1[3] = pws[gid].i[ 7];
 351
 352   const u32 pw_len = pws[gid].pw_len;
 353
 354   /**
 355    * digest
 356    */
 357
 358   const u32 search[4] =
 359   {
 360     digests_buf[digests_offset].digest_buf[DGST_R0],
 361     digests_buf[digests_offset].digest_buf[DGST_R1],
 362     digests_buf[digests_offset].digest_buf[DGST_R2],
 363     digests_buf[digests_offset].digest_buf[DGST_R3]
 364   };
 365
 366   /**
 367    * salt
 368    */
 369
 370   u32 salt_buf[4];
 371
 372   salt_buf[0] = salt_bufs[salt_pos].salt_buf[0];
 373   salt_buf[1] = salt_bufs[salt_pos].salt_buf[1];
 374   salt_buf[2] = salt_bufs[salt_pos].salt_buf[2];
 375   salt_buf[3] = salt_bufs[salt_pos].salt_buf[3];
 376
 377   const u32 salt_len = 16;
 378
 379   const u32 pw_salt_len = pw_len + salt_len;
 380
 381   /**
 382    * loop
 383    */
 384
 385   for (u32 il_pos = 0; il_pos < rules_cnt; il_pos++)
 386   {
 387     u32 w0[4];
 388
 389     w0[0] = pw_buf0[0];
 390     w0[1] = pw_buf0[1];
 391     w0[2] = pw_buf0[2];
 392     w0[3] = pw_buf0[3];
 393
 394     u32 w1[4];
 395
 396     w1[0] = pw_buf1[0];
 397     w1[1] = pw_buf1[1];
 398     w1[2] = pw_buf1[2];
 399     w1[3] = pw_buf1[3];
 400
 401     u32 w2[4];
 402
 403     w2[0] = 0;
 404     w2[1] = 0;
 405     w2[2] = 0;
 406     w2[3] = 0;
 407
 408     u32 w3[4];
 409
 410     w3[0] = 0;
 411     w3[1] = 0;
 412     w3[2] = 0;
 413     w3[3] = 0;
 414
 415     const u32 out_len = apply_rules (rules_buf[il_pos].cmds, w0, w1, pw_len);
 416
 417     const u32 pw_salt_len = (out_len * 2) + salt_len;
 418
 419     append_0x80_2x4 (w0, w1, out_len);
 420
 421     u32 w0_t[4];
 422     u32 w1_t[4];
 423     u32 w2_t[4];
 424     u32 w3_t[4];
 425
 426     make_unicode (w0, w0_t, w1_t);
 427     make_unicode (w1, w2_t, w3_t);
 428
 429     switch_buffer_by_offset (w0_t, w1_t, w2_t, w3_t, salt_len);
 430
 431     w0_t[0] = salt_buf[0];
 432     w0_t[1] = salt_buf[1];
 433     w0_t[2] = salt_buf[2];
 434     w0_t[3] = salt_buf[3];
 435     w1_t[0] = swap32 (w1_t[0]);
 436     w1_t[1] = swap32 (w1_t[1]);
 437     w1_t[2] = swap32 (w1_t[2]);
 438     w1_t[3] = swap32 (w1_t[3]);
 439     w2_t[0] = swap32 (w2_t[0]);
 440     w2_t[1] = swap32 (w2_t[1]);
 441     w2_t[2] = swap32 (w2_t[2]);
 442     w2_t[3] = swap32 (w2_t[3]);
 443     w3_t[0] = swap32 (w3_t[0]);
 444     w3_t[1] = swap32 (w3_t[1]);
 445     w3_t[2] = 0;
 446     w3_t[3] = pw_salt_len * 8;
 447
 448     u32 digest[5];
 449
 450     digest[0] = SHA1M_A;
 451     digest[1] = SHA1M_B;
 452     digest[2] = SHA1M_C;
 453     digest[3] = SHA1M_D;
 454     digest[4] = SHA1M_E;
 455
 456     sha1_transform (w0_t, w1_t, w2_t, w3_t, digest);
 457
 458     w0_t[0] = digest[0];
 459     w0_t[1] = digest[1];
 460     w0_t[2] = digest[2];
 461     w0_t[3] = digest[3];
 462     w1_t[0] = digest[4];
 463     w1_t[1] = 0;
 464     w1_t[2] = 0x80000000;
 465     w1_t[3] = 0;
 466     w2_t[0] = 0;
 467     w2_t[1] = 0;
 468     w2_t[2] = 0;
 469     w2_t[3] = 0;
 470     w3_t[0] = 0;
 471     w3_t[1] = 0;
 472     w3_t[2] = 0;
 473     w3_t[3] = (20 + 4) * 8;
 474
 475     digest[0] = SHA1M_A;
 476     digest[1] = SHA1M_B;
 477     digest[2] = SHA1M_C;
 478     digest[3] = SHA1M_D;
 479     digest[4] = SHA1M_E;
 480
 481     sha1_transform (w0_t, w1_t, w2_t, w3_t, digest);
 482
 483     u32 a = swap32 (digest[0]);
 484     u32 b = swap32 (digest[1]) & 0xff;
 485
 486     const u32 r0 = a;
 487     const u32 r1 = b;
 488     const u32 r2 = 0;
 489     const u32 r3 = 0;
 490
 491     #include COMPARE_S
 492   }
 493 }
 494
 495 __kernel void __attribute__((reqd_work_group_size (64, 1, 1))) m09820_s08 (__global pw_t *pws, __global gpu_rule_t *rules_buf, __global comb_t *combs_buf, __global bf_t *bfs_buf, __global void *tmps, __global void *hooks, __global u32 *bitmaps_buf_s1_a, __global u32 *bitmaps_buf_s1_b, __global u32 *bitmaps_buf_s1_c, __global u32 *bitmaps_buf_s1_d, __global u32 *bitmaps_buf_s2_a, __global u32 *bitmaps_buf_s2_b, __global u32 *bitmaps_buf_s2_c, __global u32 *bitmaps_buf_s2_d, __global plain_t *plains_buf, __global digest_t *digests_buf, __global u32 *hashes_shown, __global salt_t *salt_bufs, __global oldoffice34_t *oldoffice34_bufs, __global u32 *d_return_buf, __global u32 *d_scryptV_buf, const u32 bitmap_mask, const u32 bitmap_shift1, const u32 bitmap_shift2, const u32 salt_pos, const u32 loop_pos, const u32 loop_cnt, const u32 combs_cnt, const u32 digests_cnt, const u32 digests_offset, const u32 combs_mode, const u32 gid_max)
 496 {
 497 }
 498
 499 __kernel void __attribute__((reqd_work_group_size (64, 1, 1))) m09820_s16 (__global pw_t *pws, __global gpu_rule_t *rules_buf, __global comb_t *combs_buf, __global bf_t *bfs_buf, __global void *tmps, __global void *hooks, __global u32 *bitmaps_buf_s1_a, __global u32 *bitmaps_buf_s1_b, __global u32 *bitmaps_buf_s1_c, __global u32 *bitmaps_buf_s1_d, __global u32 *bitmaps_buf_s2_a, __global u32 *bitmaps_buf_s2_b, __global u32 *bitmaps_buf_s2_c, __global u32 *bitmaps_buf_s2_d, __global plain_t *plains_buf, __global digest_t *digests_buf, __global u32 *hashes_shown, __global salt_t *salt_bufs, __global oldoffice34_t *oldoffice34_bufs, __global u32 *d_return_buf, __global u32 *d_scryptV_buf, const u32 bitmap_mask, const u32 bitmap_shift1, const u32 bitmap_shift2, const u32 salt_pos, const u32 loop_pos, const u32 loop_cnt, const u32 combs_cnt, const u32 digests_cnt, const u32 digests_offset, const u32 combs_mode, const u32 gid_max)
 500 {
 501 }