OpenCL/m05500_a0.cl

   1 /**
   2  * Authors.....: Jens Steube <jens.steube@gmail.com>
   3  *               Gabriele Gristina <matrix@hashcat.net>
   4  *               magnum <john.magnum@hushmail.com>
   5  *
   6  * License.....: MIT
   7  */
   8
   9 #define _MD4_
  10
  11 #define NEW_SIMD_CODE
  12
  13 #include "inc_vendor.cl"
  14 #include "inc_hash_constants.h"
  15 #include "inc_hash_functions.cl"
  16 #include "inc_types.cl"
  17 #include "inc_common.cl"
  18 #include "inc_rp.h"
  19 #include "inc_rp.cl"
  20 #include "inc_simd.cl"
  21
  22 #define PERM_OP(a,b,tt,n,m) \
  23 {                           \
  24   tt = a >> n;              \
  25   tt = tt ^ b;              \
  26   tt = tt & m;              \
  27   b = b ^ tt;               \
  28   tt = tt << n;             \
  29   a = a ^ tt;               \
  30 }
  31
  32 #define HPERM_OP(a,tt,n,m)  \
  33 {                           \
  34   tt = a << (16 + n);       \
  35   tt = tt ^ a;              \
  36   tt = tt & m;              \
  37   a  = a ^ tt;              \
  38   tt = tt >> (16 + n);      \
  39   a  = a ^ tt;              \
  40 }
  41
  42 __constant u32 c_SPtrans[8][64] =
  43 {
  44   {
  45     0x02080800, 0x00080000, 0x02000002, 0x02080802,
  46     0x02000000, 0x00080802, 0x00080002, 0x02000002,
  47     0x00080802, 0x02080800, 0x02080000, 0x00000802,
  48     0x02000802, 0x02000000, 0x00000000, 0x00080002,
  49     0x00080000, 0x00000002, 0x02000800, 0x00080800,
  50     0x02080802, 0x02080000, 0x00000802, 0x02000800,
  51     0x00000002, 0x00000800, 0x00080800, 0x02080002,
  52     0x00000800, 0x02000802, 0x02080002, 0x00000000,
  53     0x00000000, 0x02080802, 0x02000800, 0x00080002,
  54     0x02080800, 0x00080000, 0x00000802, 0x02000800,
  55     0x02080002, 0x00000800, 0x00080800, 0x02000002,
  56     0x00080802, 0x00000002, 0x02000002, 0x02080000,
  57     0x02080802, 0x00080800, 0x02080000, 0x02000802,
  58     0x02000000, 0x00000802, 0x00080002, 0x00000000,
  59     0x00080000, 0x02000000, 0x02000802, 0x02080800,
  60     0x00000002, 0x02080002, 0x00000800, 0x00080802,
  61   },
  62   {
  63     0x40108010, 0x00000000, 0x00108000, 0x40100000,
  64     0x40000010, 0x00008010, 0x40008000, 0x00108000,
  65     0x00008000, 0x40100010, 0x00000010, 0x40008000,
  66     0x00100010, 0x40108000, 0x40100000, 0x00000010,
  67     0x00100000, 0x40008010, 0x40100010, 0x00008000,
  68     0x00108010, 0x40000000, 0x00000000, 0x00100010,
  69     0x40008010, 0x00108010, 0x40108000, 0x40000010,
  70     0x40000000, 0x00100000, 0x00008010, 0x40108010,
  71     0x00100010, 0x40108000, 0x40008000, 0x00108010,
  72     0x40108010, 0x00100010, 0x40000010, 0x00000000,
  73     0x40000000, 0x00008010, 0x00100000, 0x40100010,
  74     0x00008000, 0x40000000, 0x00108010, 0x40008010,
  75     0x40108000, 0x00008000, 0x00000000, 0x40000010,
  76     0x00000010, 0x40108010, 0x00108000, 0x40100000,
  77     0x40100010, 0x00100000, 0x00008010, 0x40008000,
  78     0x40008010, 0x00000010, 0x40100000, 0x00108000,
  79   },
  80   {
  81     0x04000001, 0x04040100, 0x00000100, 0x04000101,
  82     0x00040001, 0x04000000, 0x04000101, 0x00040100,
  83     0x04000100, 0x00040000, 0x04040000, 0x00000001,
  84     0x04040101, 0x00000101, 0x00000001, 0x04040001,
  85     0x00000000, 0x00040001, 0x04040100, 0x00000100,
  86     0x00000101, 0x04040101, 0x00040000, 0x04000001,
  87     0x04040001, 0x04000100, 0x00040101, 0x04040000,
  88     0x00040100, 0x00000000, 0x04000000, 0x00040101,
  89     0x04040100, 0x00000100, 0x00000001, 0x00040000,
  90     0x00000101, 0x00040001, 0x04040000, 0x04000101,
  91     0x00000000, 0x04040100, 0x00040100, 0x04040001,
  92     0x00040001, 0x04000000, 0x04040101, 0x00000001,
  93     0x00040101, 0x04000001, 0x04000000, 0x04040101,
  94     0x00040000, 0x04000100, 0x04000101, 0x00040100,
  95     0x04000100, 0x00000000, 0x04040001, 0x00000101,
  96     0x04000001, 0x00040101, 0x00000100, 0x04040000,
  97   },
  98   {
  99     0x00401008, 0x10001000, 0x00000008, 0x10401008,
 100     0x00000000, 0x10400000, 0x10001008, 0x00400008,
 101     0x10401000, 0x10000008, 0x10000000, 0x00001008,
 102     0x10000008, 0x00401008, 0x00400000, 0x10000000,
 103     0x10400008, 0x00401000, 0x00001000, 0x00000008,
 104     0x00401000, 0x10001008, 0x10400000, 0x00001000,
 105     0x00001008, 0x00000000, 0x00400008, 0x10401000,
 106     0x10001000, 0x10400008, 0x10401008, 0x00400000,
 107     0x10400008, 0x00001008, 0x00400000, 0x10000008,
 108     0x00401000, 0x10001000, 0x00000008, 0x10400000,
 109     0x10001008, 0x00000000, 0x00001000, 0x00400008,
 110     0x00000000, 0x10400008, 0x10401000, 0x00001000,
 111     0x10000000, 0x10401008, 0x00401008, 0x00400000,
 112     0x10401008, 0x00000008, 0x10001000, 0x00401008,
 113     0x00400008, 0x00401000, 0x10400000, 0x10001008,
 114     0x00001008, 0x10000000, 0x10000008, 0x10401000,
 115   },
 116   {
 117     0x08000000, 0x00010000, 0x00000400, 0x08010420,
 118     0x08010020, 0x08000400, 0x00010420, 0x08010000,
 119     0x00010000, 0x00000020, 0x08000020, 0x00010400,
 120     0x08000420, 0x08010020, 0x08010400, 0x00000000,
 121     0x00010400, 0x08000000, 0x00010020, 0x00000420,
 122     0x08000400, 0x00010420, 0x00000000, 0x08000020,
 123     0x00000020, 0x08000420, 0x08010420, 0x00010020,
 124     0x08010000, 0x00000400, 0x00000420, 0x08010400,
 125     0x08010400, 0x08000420, 0x00010020, 0x08010000,
 126     0x00010000, 0x00000020, 0x08000020, 0x08000400,
 127     0x08000000, 0x00010400, 0x08010420, 0x00000000,
 128     0x00010420, 0x08000000, 0x00000400, 0x00010020,
 129     0x08000420, 0x00000400, 0x00000000, 0x08010420,
 130     0x08010020, 0x08010400, 0x00000420, 0x00010000,
 131     0x00010400, 0x08010020, 0x08000400, 0x00000420,
 132     0x00000020, 0x00010420, 0x08010000, 0x08000020,
 133   },
 134   {
 135     0x80000040, 0x00200040, 0x00000000, 0x80202000,
 136     0x00200040, 0x00002000, 0x80002040, 0x00200000,
 137     0x00002040, 0x80202040, 0x00202000, 0x80000000,
 138     0x80002000, 0x80000040, 0x80200000, 0x00202040,
 139     0x00200000, 0x80002040, 0x80200040, 0x00000000,
 140     0x00002000, 0x00000040, 0x80202000, 0x80200040,
 141     0x80202040, 0x80200000, 0x80000000, 0x00002040,
 142     0x00000040, 0x00202000, 0x00202040, 0x80002000,
 143     0x00002040, 0x80000000, 0x80002000, 0x00202040,
 144     0x80202000, 0x00200040, 0x00000000, 0x80002000,
 145     0x80000000, 0x00002000, 0x80200040, 0x00200000,
 146     0x00200040, 0x80202040, 0x00202000, 0x00000040,
 147     0x80202040, 0x00202000, 0x00200000, 0x80002040,
 148     0x80000040, 0x80200000, 0x00202040, 0x00000000,
 149     0x00002000, 0x80000040, 0x80002040, 0x80202000,
 150     0x80200000, 0x00002040, 0x00000040, 0x80200040,
 151   },
 152   {
 153     0x00004000, 0x00000200, 0x01000200, 0x01000004,
 154     0x01004204, 0x00004004, 0x00004200, 0x00000000,
 155     0x01000000, 0x01000204, 0x00000204, 0x01004000,
 156     0x00000004, 0x01004200, 0x01004000, 0x00000204,
 157     0x01000204, 0x00004000, 0x00004004, 0x01004204,
 158     0x00000000, 0x01000200, 0x01000004, 0x00004200,
 159     0x01004004, 0x00004204, 0x01004200, 0x00000004,
 160     0x00004204, 0x01004004, 0x00000200, 0x01000000,
 161     0x00004204, 0x01004000, 0x01004004, 0x00000204,
 162     0x00004000, 0x00000200, 0x01000000, 0x01004004,
 163     0x01000204, 0x00004204, 0x00004200, 0x00000000,
 164     0x00000200, 0x01000004, 0x00000004, 0x01000200,
 165     0x00000000, 0x01000204, 0x01000200, 0x00004200,
 166     0x00000204, 0x00004000, 0x01004204, 0x01000000,
 167     0x01004200, 0x00000004, 0x00004004, 0x01004204,
 168     0x01000004, 0x01004200, 0x01004000, 0x00004004,
 169   },
 170   {
 171     0x20800080, 0x20820000, 0x00020080, 0x00000000,
 172     0x20020000, 0x00800080, 0x20800000, 0x20820080,
 173     0x00000080, 0x20000000, 0x00820000, 0x00020080,
 174     0x00820080, 0x20020080, 0x20000080, 0x20800000,
 175     0x00020000, 0x00820080, 0x00800080, 0x20020000,
 176     0x20820080, 0x20000080, 0x00000000, 0x00820000,
 177     0x20000000, 0x00800000, 0x20020080, 0x20800080,
 178     0x00800000, 0x00020000, 0x20820000, 0x00000080,
 179     0x00800000, 0x00020000, 0x20000080, 0x20820080,
 180     0x00020080, 0x20000000, 0x00000000, 0x00820000,
 181     0x20800080, 0x20020080, 0x20020000, 0x00800080,
 182     0x20820000, 0x00000080, 0x00800080, 0x20020000,
 183     0x20820080, 0x00800000, 0x20800000, 0x20000080,
 184     0x00820000, 0x00020080, 0x20020080, 0x20800000,
 185     0x00000080, 0x20820000, 0x00820080, 0x00000000,
 186     0x20000000, 0x20800080, 0x00020000, 0x00820080,
 187   }
 188 };
 189
 190 __constant u32 c_skb[8][64] =
 191 {
 192   {
 193     0x00000000, 0x00000010, 0x20000000, 0x20000010,
 194     0x00010000, 0x00010010, 0x20010000, 0x20010010,
 195     0x00000800, 0x00000810, 0x20000800, 0x20000810,
 196     0x00010800, 0x00010810, 0x20010800, 0x20010810,
 197     0x00000020, 0x00000030, 0x20000020, 0x20000030,
 198     0x00010020, 0x00010030, 0x20010020, 0x20010030,
 199     0x00000820, 0x00000830, 0x20000820, 0x20000830,
 200     0x00010820, 0x00010830, 0x20010820, 0x20010830,
 201     0x00080000, 0x00080010, 0x20080000, 0x20080010,
 202     0x00090000, 0x00090010, 0x20090000, 0x20090010,
 203     0x00080800, 0x00080810, 0x20080800, 0x20080810,
 204     0x00090800, 0x00090810, 0x20090800, 0x20090810,
 205     0x00080020, 0x00080030, 0x20080020, 0x20080030,
 206     0x00090020, 0x00090030, 0x20090020, 0x20090030,
 207     0x00080820, 0x00080830, 0x20080820, 0x20080830,
 208     0x00090820, 0x00090830, 0x20090820, 0x20090830,
 209   },
 210   {
 211     0x00000000, 0x02000000, 0x00002000, 0x02002000,
 212     0x00200000, 0x02200000, 0x00202000, 0x02202000,
 213     0x00000004, 0x02000004, 0x00002004, 0x02002004,
 214     0x00200004, 0x02200004, 0x00202004, 0x02202004,
 215     0x00000400, 0x02000400, 0x00002400, 0x02002400,
 216     0x00200400, 0x02200400, 0x00202400, 0x02202400,
 217     0x00000404, 0x02000404, 0x00002404, 0x02002404,
 218     0x00200404, 0x02200404, 0x00202404, 0x02202404,
 219     0x10000000, 0x12000000, 0x10002000, 0x12002000,
 220     0x10200000, 0x12200000, 0x10202000, 0x12202000,
 221     0x10000004, 0x12000004, 0x10002004, 0x12002004,
 222     0x10200004, 0x12200004, 0x10202004, 0x12202004,
 223     0x10000400, 0x12000400, 0x10002400, 0x12002400,
 224     0x10200400, 0x12200400, 0x10202400, 0x12202400,
 225     0x10000404, 0x12000404, 0x10002404, 0x12002404,
 226     0x10200404, 0x12200404, 0x10202404, 0x12202404,
 227   },
 228   {
 229     0x00000000, 0x00000001, 0x00040000, 0x00040001,
 230     0x01000000, 0x01000001, 0x01040000, 0x01040001,
 231     0x00000002, 0x00000003, 0x00040002, 0x00040003,
 232     0x01000002, 0x01000003, 0x01040002, 0x01040003,
 233     0x00000200, 0x00000201, 0x00040200, 0x00040201,
 234     0x01000200, 0x01000201, 0x01040200, 0x01040201,
 235     0x00000202, 0x00000203, 0x00040202, 0x00040203,
 236     0x01000202, 0x01000203, 0x01040202, 0x01040203,
 237     0x08000000, 0x08000001, 0x08040000, 0x08040001,
 238     0x09000000, 0x09000001, 0x09040000, 0x09040001,
 239     0x08000002, 0x08000003, 0x08040002, 0x08040003,
 240     0x09000002, 0x09000003, 0x09040002, 0x09040003,
 241     0x08000200, 0x08000201, 0x08040200, 0x08040201,
 242     0x09000200, 0x09000201, 0x09040200, 0x09040201,
 243     0x08000202, 0x08000203, 0x08040202, 0x08040203,
 244     0x09000202, 0x09000203, 0x09040202, 0x09040203,
 245   },
 246   {
 247     0x00000000, 0x00100000, 0x00000100, 0x00100100,
 248     0x00000008, 0x00100008, 0x00000108, 0x00100108,
 249     0x00001000, 0x00101000, 0x00001100, 0x00101100,
 250     0x00001008, 0x00101008, 0x00001108, 0x00101108,
 251     0x04000000, 0x04100000, 0x04000100, 0x04100100,
 252     0x04000008, 0x04100008, 0x04000108, 0x04100108,
 253     0x04001000, 0x04101000, 0x04001100, 0x04101100,
 254     0x04001008, 0x04101008, 0x04001108, 0x04101108,
 255     0x00020000, 0x00120000, 0x00020100, 0x00120100,
 256     0x00020008, 0x00120008, 0x00020108, 0x00120108,
 257     0x00021000, 0x00121000, 0x00021100, 0x00121100,
 258     0x00021008, 0x00121008, 0x00021108, 0x00121108,
 259     0x04020000, 0x04120000, 0x04020100, 0x04120100,
 260     0x04020008, 0x04120008, 0x04020108, 0x04120108,
 261     0x04021000, 0x04121000, 0x04021100, 0x04121100,
 262     0x04021008, 0x04121008, 0x04021108, 0x04121108,
 263   },
 264   {
 265     0x00000000, 0x10000000, 0x00010000, 0x10010000,
 266     0x00000004, 0x10000004, 0x00010004, 0x10010004,
 267     0x20000000, 0x30000000, 0x20010000, 0x30010000,
 268     0x20000004, 0x30000004, 0x20010004, 0x30010004,
 269     0x00100000, 0x10100000, 0x00110000, 0x10110000,
 270     0x00100004, 0x10100004, 0x00110004, 0x10110004,
 271     0x20100000, 0x30100000, 0x20110000, 0x30110000,
 272     0x20100004, 0x30100004, 0x20110004, 0x30110004,
 273     0x00001000, 0x10001000, 0x00011000, 0x10011000,
 274     0x00001004, 0x10001004, 0x00011004, 0x10011004,
 275     0x20001000, 0x30001000, 0x20011000, 0x30011000,
 276     0x20001004, 0x30001004, 0x20011004, 0x30011004,
 277     0x00101000, 0x10101000, 0x00111000, 0x10111000,
 278     0x00101004, 0x10101004, 0x00111004, 0x10111004,
 279     0x20101000, 0x30101000, 0x20111000, 0x30111000,
 280     0x20101004, 0x30101004, 0x20111004, 0x30111004,
 281   },
 282   {
 283     0x00000000, 0x08000000, 0x00000008, 0x08000008,
 284     0x00000400, 0x08000400, 0x00000408, 0x08000408,
 285     0x00020000, 0x08020000, 0x00020008, 0x08020008,
 286     0x00020400, 0x08020400, 0x00020408, 0x08020408,
 287     0x00000001, 0x08000001, 0x00000009, 0x08000009,
 288     0x00000401, 0x08000401, 0x00000409, 0x08000409,
 289     0x00020001, 0x08020001, 0x00020009, 0x08020009,
 290     0x00020401, 0x08020401, 0x00020409, 0x08020409,
 291     0x02000000, 0x0A000000, 0x02000008, 0x0A000008,
 292     0x02000400, 0x0A000400, 0x02000408, 0x0A000408,
 293     0x02020000, 0x0A020000, 0x02020008, 0x0A020008,
 294     0x02020400, 0x0A020400, 0x02020408, 0x0A020408,
 295     0x02000001, 0x0A000001, 0x02000009, 0x0A000009,
 296     0x02000401, 0x0A000401, 0x02000409, 0x0A000409,
 297     0x02020001, 0x0A020001, 0x02020009, 0x0A020009,
 298     0x02020401, 0x0A020401, 0x02020409, 0x0A020409,
 299   },
 300   {
 301     0x00000000, 0x00000100, 0x00080000, 0x00080100,
 302     0x01000000, 0x01000100, 0x01080000, 0x01080100,
 303     0x00000010, 0x00000110, 0x00080010, 0x00080110,
 304     0x01000010, 0x01000110, 0x01080010, 0x01080110,
 305     0x00200000, 0x00200100, 0x00280000, 0x00280100,
 306     0x01200000, 0x01200100, 0x01280000, 0x01280100,
 307     0x00200010, 0x00200110, 0x00280010, 0x00280110,
 308     0x01200010, 0x01200110, 0x01280010, 0x01280110,
 309     0x00000200, 0x00000300, 0x00080200, 0x00080300,
 310     0x01000200, 0x01000300, 0x01080200, 0x01080300,
 311     0x00000210, 0x00000310, 0x00080210, 0x00080310,
 312     0x01000210, 0x01000310, 0x01080210, 0x01080310,
 313     0x00200200, 0x00200300, 0x00280200, 0x00280300,
 314     0x01200200, 0x01200300, 0x01280200, 0x01280300,
 315     0x00200210, 0x00200310, 0x00280210, 0x00280310,
 316     0x01200210, 0x01200310, 0x01280210, 0x01280310,
 317   },
 318   {
 319     0x00000000, 0x04000000, 0x00040000, 0x04040000,
 320     0x00000002, 0x04000002, 0x00040002, 0x04040002,
 321     0x00002000, 0x04002000, 0x00042000, 0x04042000,
 322     0x00002002, 0x04002002, 0x00042002, 0x04042002,
 323     0x00000020, 0x04000020, 0x00040020, 0x04040020,
 324     0x00000022, 0x04000022, 0x00040022, 0x04040022,
 325     0x00002020, 0x04002020, 0x00042020, 0x04042020,
 326     0x00002022, 0x04002022, 0x00042022, 0x04042022,
 327     0x00000800, 0x04000800, 0x00040800, 0x04040800,
 328     0x00000802, 0x04000802, 0x00040802, 0x04040802,
 329     0x00002800, 0x04002800, 0x00042800, 0x04042800,
 330     0x00002802, 0x04002802, 0x00042802, 0x04042802,
 331     0x00000820, 0x04000820, 0x00040820, 0x04040820,
 332     0x00000822, 0x04000822, 0x00040822, 0x04040822,
 333     0x00002820, 0x04002820, 0x00042820, 0x04042820,
 334     0x00002822, 0x04002822, 0x00042822, 0x04042822
 335   }
 336 };
 337
 338 #if   VECT_SIZE == 1
 339 #define BOX(i,n,S) (S)[(n)][(i)]
 340 #elif VECT_SIZE == 2
 341 #define BOX(i,n,S) (u32x) ((S)[(n)][(i).s0], (S)[(n)][(i).s1])
 342 #elif VECT_SIZE == 4
 343 #define BOX(i,n,S) (u32x) ((S)[(n)][(i).s0], (S)[(n)][(i).s1], (S)[(n)][(i).s2], (S)[(n)][(i).s3])
 344 #elif VECT_SIZE == 8
 345 #define BOX(i,n,S) (u32x) ((S)[(n)][(i).s0], (S)[(n)][(i).s1], (S)[(n)][(i).s2], (S)[(n)][(i).s3], (S)[(n)][(i).s4], (S)[(n)][(i).s5], (S)[(n)][(i).s6], (S)[(n)][(i).s7])
 346 #elif VECT_SIZE == 16
 347 #define BOX(i,n,S) (u32x) ((S)[(n)][(i).s0], (S)[(n)][(i).s1], (S)[(n)][(i).s2], (S)[(n)][(i).s3], (S)[(n)][(i).s4], (S)[(n)][(i).s5], (S)[(n)][(i).s6], (S)[(n)][(i).s7], (S)[(n)][(i).s8], (S)[(n)][(i).s9], (S)[(n)][(i).sa], (S)[(n)][(i).sb], (S)[(n)][(i).sc], (S)[(n)][(i).sd], (S)[(n)][(i).se], (S)[(n)][(i).sf])
 348 #endif
 349
 350 void _des_crypt_encrypt (u32x iv[2], u32x data[2], u32x Kc[16], u32x Kd[16], __local u32 (*s_SPtrans)[64])
 351 {
 352   u32x r = data[0];
 353   u32x l = data[1];
 354
 355   #ifdef _unroll
 356   #pragma unroll
 357   #endif
 358   for (u32 i = 0; i < 16; i += 2)
 359   {
 360     u32x u;
 361     u32x t;
 362
 363     u = Kc[i + 0] ^ rotl32 (r, 30u);
 364     t = Kd[i + 0] ^ rotl32 (r, 26u);
 365
 366     l ^= BOX (((u >>  0) & 0x3f), 0, s_SPtrans)
 367        | BOX (((u >>  8) & 0x3f), 2, s_SPtrans)
 368        | BOX (((u >> 16) & 0x3f), 4, s_SPtrans)
 369        | BOX (((u >> 24) & 0x3f), 6, s_SPtrans)
 370        | BOX (((t >>  0) & 0x3f), 1, s_SPtrans)
 371        | BOX (((t >>  8) & 0x3f), 3, s_SPtrans)
 372        | BOX (((t >> 16) & 0x3f), 5, s_SPtrans)
 373        | BOX (((t >> 24) & 0x3f), 7, s_SPtrans);
 374
 375     u = Kc[i + 1] ^ rotl32 (l, 30u);
 376     t = Kd[i + 1] ^ rotl32 (l, 26u);
 377
 378     r ^= BOX (((u >>  0) & 0x3f), 0, s_SPtrans)
 379        | BOX (((u >>  8) & 0x3f), 2, s_SPtrans)
 380        | BOX (((u >> 16) & 0x3f), 4, s_SPtrans)
 381        | BOX (((u >> 24) & 0x3f), 6, s_SPtrans)
 382        | BOX (((t >>  0) & 0x3f), 1, s_SPtrans)
 383        | BOX (((t >>  8) & 0x3f), 3, s_SPtrans)
 384        | BOX (((t >> 16) & 0x3f), 5, s_SPtrans)
 385        | BOX (((t >> 24) & 0x3f), 7, s_SPtrans);
 386   }
 387
 388   iv[0] = l;
 389   iv[1] = r;
 390 }
 391
 392 void _des_crypt_keysetup (u32x c, u32x d, u32x Kc[16], u32x Kd[16], __local u32 (*s_skb)[64])
 393 {
 394   u32x tt;
 395
 396   PERM_OP  (d, c, tt, 4, 0x0f0f0f0f);
 397   HPERM_OP (c,    tt, 2, 0xcccc0000);
 398   HPERM_OP (d,    tt, 2, 0xcccc0000);
 399   PERM_OP  (d, c, tt, 1, 0x55555555);
 400   PERM_OP  (c, d, tt, 8, 0x00ff00ff);
 401   PERM_OP  (d, c, tt, 1, 0x55555555);
 402
 403   d = ((d & 0x000000ff) << 16)
 404     | ((d & 0x0000ff00) <<  0)
 405     | ((d & 0x00ff0000) >> 16)
 406     | ((c & 0xf0000000) >>  4);
 407
 408   c = c & 0x0fffffff;
 409
 410   #ifdef _unroll
 411   #pragma unroll
 412   #endif
 413   for (u32 i = 0; i < 16; i++)
 414   {
 415     if ((i < 2) || (i == 8) || (i == 15))
 416     {
 417       c = ((c >> 1) | (c << 27));
 418       d = ((d >> 1) | (d << 27));
 419     }
 420     else
 421     {
 422       c = ((c >> 2) | (c << 26));
 423       d = ((d >> 2) | (d << 26));
 424     }
 425
 426     c = c & 0x0fffffff;
 427     d = d & 0x0fffffff;
 428
 429     const u32x c00 = (c >>  0) & 0x0000003f;
 430     const u32x c06 = (c >>  6) & 0x00383003;
 431     const u32x c07 = (c >>  7) & 0x0000003c;
 432     const u32x c13 = (c >> 13) & 0x0000060f;
 433     const u32x c20 = (c >> 20) & 0x00000001;
 434
 435     u32x s = BOX (((c00 >>  0) & 0xff), 0, s_skb)
 436            | BOX (((c06 >>  0) & 0xff)
 437                  |((c07 >>  0) & 0xff), 1, s_skb)
 438            | BOX (((c13 >>  0) & 0xff)
 439                  |((c06 >>  8) & 0xff), 2, s_skb)
 440            | BOX (((c20 >>  0) & 0xff)
 441                  |((c13 >>  8) & 0xff)
 442                  |((c06 >> 16) & 0xff), 3, s_skb);
 443
 444     const u32x d00 = (d >>  0) & 0x00003c3f;
 445     const u32x d07 = (d >>  7) & 0x00003f03;
 446     const u32x d21 = (d >> 21) & 0x0000000f;
 447     const u32x d22 = (d >> 22) & 0x00000030;
 448
 449     u32x t = BOX (((d00 >>  0) & 0xff), 4, s_skb)
 450            | BOX (((d07 >>  0) & 0xff)
 451                  |((d00 >>  8) & 0xff), 5, s_skb)
 452            | BOX (((d07 >>  8) & 0xff), 6, s_skb)
 453            | BOX (((d21 >>  0) & 0xff)
 454                  |((d22 >>  0) & 0xff), 7, s_skb);
 455
 456     Kc[i] = ((t << 16) | (s & 0x0000ffff));
 457     Kd[i] = ((s >> 16) | (t & 0xffff0000));
 458   }
 459 }
 460
 461 void transform_netntlmv1_key (const u32x w0, const u32x w1, u32x out[2])
 462 {
 463   u32x t[8];
 464
 465   t[0] = (w0 >>  0) & 0xff;
 466   t[1] = (w0 >>  8) & 0xff;
 467   t[2] = (w0 >> 16) & 0xff;
 468   t[3] = (w0 >> 24) & 0xff;
 469   t[4] = (w1 >>  0) & 0xff;
 470   t[5] = (w1 >>  8) & 0xff;
 471   t[6] = (w1 >> 16) & 0xff;
 472   t[7] = (w1 >> 24) & 0xff;
 473
 474   u32x k[8];
 475
 476   k[0] =               (t[0] >> 0);
 477   k[1] = (t[0] << 7) | (t[1] >> 1);
 478   k[2] = (t[1] << 6) | (t[2] >> 2);
 479   k[3] = (t[2] << 5) | (t[3] >> 3);
 480   k[4] = (t[3] << 4) | (t[4] >> 4);
 481   k[5] = (t[4] << 3) | (t[5] >> 5);
 482   k[6] = (t[5] << 2) | (t[6] >> 6);
 483   k[7] = (t[6] << 1);
 484
 485   out[0] = ((k[0] & 0xff) <<  0)
 486          | ((k[1] & 0xff) <<  8)
 487          | ((k[2] & 0xff) << 16)
 488          | ((k[3] & 0xff) << 24);
 489
 490   out[1] = ((k[4] & 0xff) <<  0)
 491          | ((k[5] & 0xff) <<  8)
 492          | ((k[6] & 0xff) << 16)
 493          | ((k[7] & 0xff) << 24);
 494 }
 495
 496 __kernel void m05500_m04 (__global pw_t *pws, __global kernel_rule_t *  rules_buf, __global comb_t *combs_buf, __global bf_t *bfs_buf, __global void *tmps, __global void *hooks, __global u32 *bitmaps_buf_s1_a, __global u32 *bitmaps_buf_s1_b, __global u32 *bitmaps_buf_s1_c, __global u32 *bitmaps_buf_s1_d, __global u32 *bitmaps_buf_s2_a, __global u32 *bitmaps_buf_s2_b, __global u32 *bitmaps_buf_s2_c, __global u32 *bitmaps_buf_s2_d, __global plain_t *plains_buf, __global digest_t *digests_buf, __global u32 *hashes_shown, __global salt_t *salt_bufs, __global void *esalt_bufs, __global u32 *d_return_buf, __global u32 *d_scryptV0_buf, __global u32 *d_scryptV1_buf, __global u32 *d_scryptV2_buf, __global u32 *d_scryptV3_buf, const u32 bitmap_mask, const u32 bitmap_shift1, const u32 bitmap_shift2, const u32 salt_pos, const u32 loop_pos, const u32 loop_cnt, const u32 il_cnt, const u32 digests_cnt, const u32 digests_offset, const u32 combs_mode, const u32 gid_max)
 497 {
 498   /**
 499    * modifier
 500    */
 501
 502   const u32 gid = get_global_id (0);
 503   const u32 lid = get_local_id (0);
 504   const u32 lsz = get_local_size (0);
 505
 506   /**
 507    * sbox, kbox
 508    */
 509
 510   __local u32 s_SPtrans[8][64];
 511   __local u32 s_skb[8][64];
 512
 513   for (u32 i = lid; i < 64; i += lsz)
 514   {
 515     s_SPtrans[0][i] = c_SPtrans[0][i];
 516     s_SPtrans[1][i] = c_SPtrans[1][i];
 517     s_SPtrans[2][i] = c_SPtrans[2][i];
 518     s_SPtrans[3][i] = c_SPtrans[3][i];
 519     s_SPtrans[4][i] = c_SPtrans[4][i];
 520     s_SPtrans[5][i] = c_SPtrans[5][i];
 521     s_SPtrans[6][i] = c_SPtrans[6][i];
 522     s_SPtrans[7][i] = c_SPtrans[7][i];
 523
 524     s_skb[0][i] = c_skb[0][i];
 525     s_skb[1][i] = c_skb[1][i];
 526     s_skb[2][i] = c_skb[2][i];
 527     s_skb[3][i] = c_skb[3][i];
 528     s_skb[4][i] = c_skb[4][i];
 529     s_skb[5][i] = c_skb[5][i];
 530     s_skb[6][i] = c_skb[6][i];
 531     s_skb[7][i] = c_skb[7][i];
 532   }
 533
 534   barrier (CLK_LOCAL_MEM_FENCE);
 535
 536   if (gid >= gid_max) return;
 537
 538   /**
 539    * base
 540    */
 541
 542   u32 pw_buf0[4];
 543   u32 pw_buf1[4];
 544
 545   pw_buf0[0] = pws[gid].i[0];
 546   pw_buf0[1] = pws[gid].i[1];
 547   pw_buf0[2] = pws[gid].i[2];
 548   pw_buf0[3] = pws[gid].i[3];
 549   pw_buf1[0] = pws[gid].i[4];
 550   pw_buf1[1] = pws[gid].i[5];
 551   pw_buf1[2] = pws[gid].i[6];
 552   pw_buf1[3] = pws[gid].i[7];
 553
 554   const u32 pw_len = pws[gid].pw_len;
 555
 556   /**
 557    * salt
 558    */
 559
 560   const u32 s0 = salt_bufs[salt_pos].salt_buf[0];
 561   const u32 s1 = salt_bufs[salt_pos].salt_buf[1];
 562   const u32 s2 = salt_bufs[salt_pos].salt_buf[2];
 563
 564   u32 data[2];
 565
 566   data[0] = s0;
 567   data[1] = s1;
 568
 569   /**
 570    * loop
 571    */
 572
 573   for (u32 il_pos = 0; il_pos < il_cnt; il_pos += VECT_SIZE)
 574   {
 575     u32x w0[4] = { 0 };
 576     u32x w1[4] = { 0 };
 577     u32x w2[4] = { 0 };
 578     u32x w3[4] = { 0 };
 579
 580     const u32x out_len = apply_rules_vect (pw_buf0, pw_buf1, pw_len, rules_buf, il_pos, w0, w1);
 581
 582     append_0x80_2x4_VV (w0, w1, out_len);
 583
 584     u32x w0_t[4];
 585     u32x w1_t[4];
 586     u32x w2_t[4];
 587     u32x w3_t[4];
 588
 589     make_unicode (w0, w0_t, w1_t);
 590     make_unicode (w1, w2_t, w3_t);
 591
 592     w3_t[2] = out_len * 8 * 2;
 593     w3_t[3] = 0;
 594
 595     u32x a = MD4M_A;
 596     u32x b = MD4M_B;
 597     u32x c = MD4M_C;
 598     u32x d = MD4M_D;
 599
 600     MD4_STEP (MD4_Fo, a, b, c, d, w0_t[0], MD4C00, MD4S00);
 601     MD4_STEP (MD4_Fo, d, a, b, c, w0_t[1], MD4C00, MD4S01);
 602     MD4_STEP (MD4_Fo, c, d, a, b, w0_t[2], MD4C00, MD4S02);
 603     MD4_STEP (MD4_Fo, b, c, d, a, w0_t[3], MD4C00, MD4S03);
 604     MD4_STEP (MD4_Fo, a, b, c, d, w1_t[0], MD4C00, MD4S00);
 605     MD4_STEP (MD4_Fo, d, a, b, c, w1_t[1], MD4C00, MD4S01);
 606     MD4_STEP (MD4_Fo, c, d, a, b, w1_t[2], MD4C00, MD4S02);
 607     MD4_STEP (MD4_Fo, b, c, d, a, w1_t[3], MD4C00, MD4S03);
 608     MD4_STEP (MD4_Fo, a, b, c, d, w2_t[0], MD4C00, MD4S00);
 609     MD4_STEP (MD4_Fo, d, a, b, c, w2_t[1], MD4C00, MD4S01);
 610     MD4_STEP (MD4_Fo, c, d, a, b, w2_t[2], MD4C00, MD4S02);
 611     MD4_STEP (MD4_Fo, b, c, d, a, w2_t[3], MD4C00, MD4S03);
 612     MD4_STEP (MD4_Fo, a, b, c, d, w3_t[0], MD4C00, MD4S00);
 613     MD4_STEP (MD4_Fo, d, a, b, c, w3_t[1], MD4C00, MD4S01);
 614     MD4_STEP (MD4_Fo, c, d, a, b, w3_t[2], MD4C00, MD4S02);
 615     MD4_STEP (MD4_Fo, b, c, d, a, w3_t[3], MD4C00, MD4S03);
 616
 617     MD4_STEP (MD4_Go, a, b, c, d, w0_t[0], MD4C01, MD4S10);
 618     MD4_STEP (MD4_Go, d, a, b, c, w1_t[0], MD4C01, MD4S11);
 619     MD4_STEP (MD4_Go, c, d, a, b, w2_t[0], MD4C01, MD4S12);
 620     MD4_STEP (MD4_Go, b, c, d, a, w3_t[0], MD4C01, MD4S13);
 621     MD4_STEP (MD4_Go, a, b, c, d, w0_t[1], MD4C01, MD4S10);
 622     MD4_STEP (MD4_Go, d, a, b, c, w1_t[1], MD4C01, MD4S11);
 623     MD4_STEP (MD4_Go, c, d, a, b, w2_t[1], MD4C01, MD4S12);
 624     MD4_STEP (MD4_Go, b, c, d, a, w3_t[1], MD4C01, MD4S13);
 625     MD4_STEP (MD4_Go, a, b, c, d, w0_t[2], MD4C01, MD4S10);
 626     MD4_STEP (MD4_Go, d, a, b, c, w1_t[2], MD4C01, MD4S11);
 627     MD4_STEP (MD4_Go, c, d, a, b, w2_t[2], MD4C01, MD4S12);
 628     MD4_STEP (MD4_Go, b, c, d, a, w3_t[2], MD4C01, MD4S13);
 629     MD4_STEP (MD4_Go, a, b, c, d, w0_t[3], MD4C01, MD4S10);
 630     MD4_STEP (MD4_Go, d, a, b, c, w1_t[3], MD4C01, MD4S11);
 631     MD4_STEP (MD4_Go, c, d, a, b, w2_t[3], MD4C01, MD4S12);
 632     MD4_STEP (MD4_Go, b, c, d, a, w3_t[3], MD4C01, MD4S13);
 633
 634     MD4_STEP (MD4_H , a, b, c, d, w0_t[0], MD4C02, MD4S20);
 635     MD4_STEP (MD4_H , d, a, b, c, w2_t[0], MD4C02, MD4S21);
 636     MD4_STEP (MD4_H , c, d, a, b, w1_t[0], MD4C02, MD4S22);
 637     MD4_STEP (MD4_H , b, c, d, a, w3_t[0], MD4C02, MD4S23);
 638     MD4_STEP (MD4_H , a, b, c, d, w0_t[2], MD4C02, MD4S20);
 639     MD4_STEP (MD4_H , d, a, b, c, w2_t[2], MD4C02, MD4S21);
 640     MD4_STEP (MD4_H , c, d, a, b, w1_t[2], MD4C02, MD4S22);
 641     MD4_STEP (MD4_H , b, c, d, a, w3_t[2], MD4C02, MD4S23);
 642     MD4_STEP (MD4_H , a, b, c, d, w0_t[1], MD4C02, MD4S20);
 643     MD4_STEP (MD4_H , d, a, b, c, w2_t[1], MD4C02, MD4S21);
 644     MD4_STEP (MD4_H , c, d, a, b, w1_t[1], MD4C02, MD4S22);
 645     MD4_STEP (MD4_H , b, c, d, a, w3_t[1], MD4C02, MD4S23);
 646     MD4_STEP (MD4_H , a, b, c, d, w0_t[3], MD4C02, MD4S20);
 647     MD4_STEP (MD4_H , d, a, b, c, w2_t[3], MD4C02, MD4S21);
 648
 649     if (MATCHES_NONE_VS (((d + MD4M_D) >> 16), s2)) continue;
 650
 651     MD4_STEP (MD4_H , c, d, a, b, w1_t[3], MD4C02, MD4S22);
 652     MD4_STEP (MD4_H , b, c, d, a, w3_t[3], MD4C02, MD4S23);
 653
 654     a += MD4M_A;
 655     b += MD4M_B;
 656     c += MD4M_C;
 657     d += MD4M_D;
 658
 659     /**
 660      * DES1
 661      */
 662
 663     u32x key[2];
 664
 665     transform_netntlmv1_key (a, b, key);
 666
 667     u32x Kc[16];
 668     u32x Kd[16];
 669
 670     _des_crypt_keysetup (key[0], key[1], Kc, Kd, s_skb);
 671
 672     u32x data[2];
 673
 674     data[0] = s0;
 675     data[1] = s1;
 676
 677     u32x iv1[2];
 678
 679     _des_crypt_encrypt (iv1, data, Kc, Kd, s_SPtrans);
 680
 681     /**
 682      * DES2
 683      */
 684
 685     transform_netntlmv1_key (((b >> 24) | (c << 8)), ((c >> 24) | (d << 8)), key);
 686
 687     _des_crypt_keysetup (key[0], key[1], Kc, Kd, s_skb);
 688
 689     u32x iv2[2];
 690
 691     _des_crypt_encrypt (iv2, data, Kc, Kd, s_SPtrans);
 692
 693     /**
 694      * compare
 695      */
 696
 697     COMPARE_M_SIMD (iv1[0], iv1[1], iv2[0], iv2[1]);
 698   }
 699 }
 700
 701 __kernel void m05500_m08 (__global pw_t *pws, __global kernel_rule_t *rules_buf, __global comb_t *combs_buf, __global bf_t *bfs_buf, __global void *tmps, __global void *hooks, __global u32 *bitmaps_buf_s1_a, __global u32 *bitmaps_buf_s1_b, __global u32 *bitmaps_buf_s1_c, __global u32 *bitmaps_buf_s1_d, __global u32 *bitmaps_buf_s2_a, __global u32 *bitmaps_buf_s2_b, __global u32 *bitmaps_buf_s2_c, __global u32 *bitmaps_buf_s2_d, __global plain_t *plains_buf, __global digest_t *digests_buf, __global u32 *hashes_shown, __global salt_t *salt_bufs, __global void *esalt_bufs, __global u32 *d_return_buf, __global u32 *d_scryptV0_buf, __global u32 *d_scryptV1_buf, __global u32 *d_scryptV2_buf, __global u32 *d_scryptV3_buf, const u32 bitmap_mask, const u32 bitmap_shift1, const u32 bitmap_shift2, const u32 salt_pos, const u32 loop_pos, const u32 loop_cnt, const u32 il_cnt, const u32 digests_cnt, const u32 digests_offset, const u32 combs_mode, const u32 gid_max)
 702 {
 703 }
 704
 705 __kernel void m05500_m16 (__global pw_t *pws, __global kernel_rule_t *rules_buf, __global comb_t *combs_buf, __global bf_t *bfs_buf, __global void *tmps, __global void *hooks, __global u32 *bitmaps_buf_s1_a, __global u32 *bitmaps_buf_s1_b, __global u32 *bitmaps_buf_s1_c, __global u32 *bitmaps_buf_s1_d, __global u32 *bitmaps_buf_s2_a, __global u32 *bitmaps_buf_s2_b, __global u32 *bitmaps_buf_s2_c, __global u32 *bitmaps_buf_s2_d, __global plain_t *plains_buf, __global digest_t *digests_buf, __global u32 *hashes_shown, __global salt_t *salt_bufs, __global void *esalt_bufs, __global u32 *d_return_buf, __global u32 *d_scryptV0_buf, __global u32 *d_scryptV1_buf, __global u32 *d_scryptV2_buf, __global u32 *d_scryptV3_buf, const u32 bitmap_mask, const u32 bitmap_shift1, const u32 bitmap_shift2, const u32 salt_pos, const u32 loop_pos, const u32 loop_cnt, const u32 il_cnt, const u32 digests_cnt, const u32 digests_offset, const u32 combs_mode, const u32 gid_max)
 706 {
 707 }
 708
 709 __kernel void m05500_s04 (__global pw_t *pws, __global kernel_rule_t *  rules_buf, __global comb_t *combs_buf, __global bf_t *bfs_buf, __global void *tmps, __global void *hooks, __global u32 *bitmaps_buf_s1_a, __global u32 *bitmaps_buf_s1_b, __global u32 *bitmaps_buf_s1_c, __global u32 *bitmaps_buf_s1_d, __global u32 *bitmaps_buf_s2_a, __global u32 *bitmaps_buf_s2_b, __global u32 *bitmaps_buf_s2_c, __global u32 *bitmaps_buf_s2_d, __global plain_t *plains_buf, __global digest_t *digests_buf, __global u32 *hashes_shown, __global salt_t *salt_bufs, __global void *esalt_bufs, __global u32 *d_return_buf, __global u32 *d_scryptV0_buf, __global u32 *d_scryptV1_buf, __global u32 *d_scryptV2_buf, __global u32 *d_scryptV3_buf, const u32 bitmap_mask, const u32 bitmap_shift1, const u32 bitmap_shift2, const u32 salt_pos, const u32 loop_pos, const u32 loop_cnt, const u32 il_cnt, const u32 digests_cnt, const u32 digests_offset, const u32 combs_mode, const u32 gid_max)
 710 {
 711   /**
 712    * modifier
 713    */
 714
 715   const u32 gid = get_global_id (0);
 716   const u32 lid = get_local_id (0);
 717   const u32 lsz = get_local_size (0);
 718
 719   /**
 720    * sbox, kbox
 721    */
 722
 723   __local u32 s_SPtrans[8][64];
 724   __local u32 s_skb[8][64];
 725
 726   for (u32 i = lid; i < 64; i += lsz)
 727   {
 728     s_SPtrans[0][i] = c_SPtrans[0][i];
 729     s_SPtrans[1][i] = c_SPtrans[1][i];
 730     s_SPtrans[2][i] = c_SPtrans[2][i];
 731     s_SPtrans[3][i] = c_SPtrans[3][i];
 732     s_SPtrans[4][i] = c_SPtrans[4][i];
 733     s_SPtrans[5][i] = c_SPtrans[5][i];
 734     s_SPtrans[6][i] = c_SPtrans[6][i];
 735     s_SPtrans[7][i] = c_SPtrans[7][i];
 736
 737     s_skb[0][i] = c_skb[0][i];
 738     s_skb[1][i] = c_skb[1][i];
 739     s_skb[2][i] = c_skb[2][i];
 740     s_skb[3][i] = c_skb[3][i];
 741     s_skb[4][i] = c_skb[4][i];
 742     s_skb[5][i] = c_skb[5][i];
 743     s_skb[6][i] = c_skb[6][i];
 744     s_skb[7][i] = c_skb[7][i];
 745   }
 746
 747   barrier (CLK_LOCAL_MEM_FENCE);
 748
 749   if (gid >= gid_max) return;
 750
 751   /**
 752    * base
 753    */
 754
 755   u32 pw_buf0[4];
 756   u32 pw_buf1[4];
 757
 758   pw_buf0[0] = pws[gid].i[0];
 759   pw_buf0[1] = pws[gid].i[1];
 760   pw_buf0[2] = pws[gid].i[2];
 761   pw_buf0[3] = pws[gid].i[3];
 762   pw_buf1[0] = pws[gid].i[4];
 763   pw_buf1[1] = pws[gid].i[5];
 764   pw_buf1[2] = pws[gid].i[6];
 765   pw_buf1[3] = pws[gid].i[7];
 766
 767   const u32 pw_len = pws[gid].pw_len;
 768
 769   /**
 770    * salt
 771    */
 772
 773   const u32 s0 = salt_bufs[salt_pos].salt_buf[0];
 774   const u32 s1 = salt_bufs[salt_pos].salt_buf[1];
 775   const u32 s2 = salt_bufs[salt_pos].salt_buf[2];
 776
 777   /**
 778    * digest
 779    */
 780
 781   const u32 search[4] =
 782   {
 783     digests_buf[digests_offset].digest_buf[DGST_R0],
 784     digests_buf[digests_offset].digest_buf[DGST_R1],
 785     digests_buf[digests_offset].digest_buf[DGST_R2],
 786     digests_buf[digests_offset].digest_buf[DGST_R3]
 787   };
 788
 789   /**
 790    * loop
 791    */
 792
 793   for (u32 il_pos = 0; il_pos < il_cnt; il_pos += VECT_SIZE)
 794   {
 795     u32x w0[4] = { 0 };
 796     u32x w1[4] = { 0 };
 797     u32x w2[4] = { 0 };
 798     u32x w3[4] = { 0 };
 799
 800     const u32x out_len = apply_rules_vect (pw_buf0, pw_buf1, pw_len, rules_buf, il_pos, w0, w1);
 801
 802     append_0x80_2x4_VV (w0, w1, out_len);
 803
 804     u32x w0_t[4];
 805     u32x w1_t[4];
 806     u32x w2_t[4];
 807     u32x w3_t[4];
 808
 809     make_unicode (w0, w0_t, w1_t);
 810     make_unicode (w1, w2_t, w3_t);
 811
 812     w3_t[2] = out_len * 8 * 2;
 813     w3_t[3] = 0;
 814
 815     u32x a = MD4M_A;
 816     u32x b = MD4M_B;
 817     u32x c = MD4M_C;
 818     u32x d = MD4M_D;
 819
 820     MD4_STEP (MD4_Fo, a, b, c, d, w0_t[0], MD4C00, MD4S00);
 821     MD4_STEP (MD4_Fo, d, a, b, c, w0_t[1], MD4C00, MD4S01);
 822     MD4_STEP (MD4_Fo, c, d, a, b, w0_t[2], MD4C00, MD4S02);
 823     MD4_STEP (MD4_Fo, b, c, d, a, w0_t[3], MD4C00, MD4S03);
 824     MD4_STEP (MD4_Fo, a, b, c, d, w1_t[0], MD4C00, MD4S00);
 825     MD4_STEP (MD4_Fo, d, a, b, c, w1_t[1], MD4C00, MD4S01);
 826     MD4_STEP (MD4_Fo, c, d, a, b, w1_t[2], MD4C00, MD4S02);
 827     MD4_STEP (MD4_Fo, b, c, d, a, w1_t[3], MD4C00, MD4S03);
 828     MD4_STEP (MD4_Fo, a, b, c, d, w2_t[0], MD4C00, MD4S00);
 829     MD4_STEP (MD4_Fo, d, a, b, c, w2_t[1], MD4C00, MD4S01);
 830     MD4_STEP (MD4_Fo, c, d, a, b, w2_t[2], MD4C00, MD4S02);
 831     MD4_STEP (MD4_Fo, b, c, d, a, w2_t[3], MD4C00, MD4S03);
 832     MD4_STEP (MD4_Fo, a, b, c, d, w3_t[0], MD4C00, MD4S00);
 833     MD4_STEP (MD4_Fo, d, a, b, c, w3_t[1], MD4C00, MD4S01);
 834     MD4_STEP (MD4_Fo, c, d, a, b, w3_t[2], MD4C00, MD4S02);
 835     MD4_STEP (MD4_Fo, b, c, d, a, w3_t[3], MD4C00, MD4S03);
 836
 837     MD4_STEP (MD4_Go, a, b, c, d, w0_t[0], MD4C01, MD4S10);
 838     MD4_STEP (MD4_Go, d, a, b, c, w1_t[0], MD4C01, MD4S11);
 839     MD4_STEP (MD4_Go, c, d, a, b, w2_t[0], MD4C01, MD4S12);
 840     MD4_STEP (MD4_Go, b, c, d, a, w3_t[0], MD4C01, MD4S13);
 841     MD4_STEP (MD4_Go, a, b, c, d, w0_t[1], MD4C01, MD4S10);
 842     MD4_STEP (MD4_Go, d, a, b, c, w1_t[1], MD4C01, MD4S11);
 843     MD4_STEP (MD4_Go, c, d, a, b, w2_t[1], MD4C01, MD4S12);
 844     MD4_STEP (MD4_Go, b, c, d, a, w3_t[1], MD4C01, MD4S13);
 845     MD4_STEP (MD4_Go, a, b, c, d, w0_t[2], MD4C01, MD4S10);
 846     MD4_STEP (MD4_Go, d, a, b, c, w1_t[2], MD4C01, MD4S11);
 847     MD4_STEP (MD4_Go, c, d, a, b, w2_t[2], MD4C01, MD4S12);
 848     MD4_STEP (MD4_Go, b, c, d, a, w3_t[2], MD4C01, MD4S13);
 849     MD4_STEP (MD4_Go, a, b, c, d, w0_t[3], MD4C01, MD4S10);
 850     MD4_STEP (MD4_Go, d, a, b, c, w1_t[3], MD4C01, MD4S11);
 851     MD4_STEP (MD4_Go, c, d, a, b, w2_t[3], MD4C01, MD4S12);
 852     MD4_STEP (MD4_Go, b, c, d, a, w3_t[3], MD4C01, MD4S13);
 853
 854     MD4_STEP (MD4_H , a, b, c, d, w0_t[0], MD4C02, MD4S20);
 855     MD4_STEP (MD4_H , d, a, b, c, w2_t[0], MD4C02, MD4S21);
 856     MD4_STEP (MD4_H , c, d, a, b, w1_t[0], MD4C02, MD4S22);
 857     MD4_STEP (MD4_H , b, c, d, a, w3_t[0], MD4C02, MD4S23);
 858     MD4_STEP (MD4_H , a, b, c, d, w0_t[2], MD4C02, MD4S20);
 859     MD4_STEP (MD4_H , d, a, b, c, w2_t[2], MD4C02, MD4S21);
 860     MD4_STEP (MD4_H , c, d, a, b, w1_t[2], MD4C02, MD4S22);
 861     MD4_STEP (MD4_H , b, c, d, a, w3_t[2], MD4C02, MD4S23);
 862     MD4_STEP (MD4_H , a, b, c, d, w0_t[1], MD4C02, MD4S20);
 863     MD4_STEP (MD4_H , d, a, b, c, w2_t[1], MD4C02, MD4S21);
 864     MD4_STEP (MD4_H , c, d, a, b, w1_t[1], MD4C02, MD4S22);
 865     MD4_STEP (MD4_H , b, c, d, a, w3_t[1], MD4C02, MD4S23);
 866     MD4_STEP (MD4_H , a, b, c, d, w0_t[3], MD4C02, MD4S20);
 867     MD4_STEP (MD4_H , d, a, b, c, w2_t[3], MD4C02, MD4S21);
 868
 869     if (MATCHES_NONE_VS (((d + MD4M_D) >> 16), s2)) continue;
 870
 871     MD4_STEP (MD4_H , c, d, a, b, w1_t[3], MD4C02, MD4S22);
 872     MD4_STEP (MD4_H , b, c, d, a, w3_t[3], MD4C02, MD4S23);
 873
 874     a += MD4M_A;
 875     b += MD4M_B;
 876     c += MD4M_C;
 877     d += MD4M_D;
 878
 879     /**
 880      * DES1
 881      */
 882
 883     u32x key[2];
 884
 885     transform_netntlmv1_key (a, b, key);
 886
 887     u32x Kc[16];
 888     u32x Kd[16];
 889
 890     _des_crypt_keysetup (key[0], key[1], Kc, Kd, s_skb);
 891
 892     u32x data[2];
 893
 894     data[0] = s0;
 895     data[1] = s1;
 896
 897     u32x iv1[2];
 898
 899     _des_crypt_encrypt (iv1, data, Kc, Kd, s_SPtrans);
 900
 901     /**
 902      * DES2
 903      */
 904
 905     /*
 906     transform_netntlmv1_key (((b >> 24) | (c << 8)), ((c >> 24) | (d << 8)), key);
 907
 908     _des_crypt_keysetup (key[0], key[1], Kc, Kd, s_skb);
 909
 910     u32x iv2[2];
 911
 912     _des_crypt_encrypt (iv2, data, Kc, Kd, s_SPtrans);
 913     */
 914
 915     u32x iv2[2];
 916
 917     iv2[0] = search[2];
 918     iv2[1] = search[3];
 919
 920     /**
 921      * compare
 922      */
 923
 924     COMPARE_S_SIMD (iv1[0], iv1[1], iv2[0], iv2[1]);
 925   }
 926 }
 927
 928 __kernel void m05500_s08 (__global pw_t *pws, __global kernel_rule_t *rules_buf, __global comb_t *combs_buf, __global bf_t *bfs_buf, __global void *tmps, __global void *hooks, __global u32 *bitmaps_buf_s1_a, __global u32 *bitmaps_buf_s1_b, __global u32 *bitmaps_buf_s1_c, __global u32 *bitmaps_buf_s1_d, __global u32 *bitmaps_buf_s2_a, __global u32 *bitmaps_buf_s2_b, __global u32 *bitmaps_buf_s2_c, __global u32 *bitmaps_buf_s2_d, __global plain_t *plains_buf, __global digest_t *digests_buf, __global u32 *hashes_shown, __global salt_t *salt_bufs, __global void *esalt_bufs, __global u32 *d_return_buf, __global u32 *d_scryptV0_buf, __global u32 *d_scryptV1_buf, __global u32 *d_scryptV2_buf, __global u32 *d_scryptV3_buf, const u32 bitmap_mask, const u32 bitmap_shift1, const u32 bitmap_shift2, const u32 salt_pos, const u32 loop_pos, const u32 loop_cnt, const u32 il_cnt, const u32 digests_cnt, const u32 digests_offset, const u32 combs_mode, const u32 gid_max)
 929 {
 930 }
 931
 932 __kernel void m05500_s16 (__global pw_t *pws, __global kernel_rule_t *rules_buf, __global comb_t *combs_buf, __global bf_t *bfs_buf, __global void *tmps, __global void *hooks, __global u32 *bitmaps_buf_s1_a, __global u32 *bitmaps_buf_s1_b, __global u32 *bitmaps_buf_s1_c, __global u32 *bitmaps_buf_s1_d, __global u32 *bitmaps_buf_s2_a, __global u32 *bitmaps_buf_s2_b, __global u32 *bitmaps_buf_s2_c, __global u32 *bitmaps_buf_s2_d, __global plain_t *plains_buf, __global digest_t *digests_buf, __global u32 *hashes_shown, __global salt_t *salt_bufs, __global void *esalt_bufs, __global u32 *d_return_buf, __global u32 *d_scryptV0_buf, __global u32 *d_scryptV1_buf, __global u32 *d_scryptV2_buf, __global u32 *d_scryptV3_buf, const u32 bitmap_mask, const u32 bitmap_shift1, const u32 bitmap_shift2, const u32 salt_pos, const u32 loop_pos, const u32 loop_cnt, const u32 il_cnt, const u32 digests_cnt, const u32 digests_offset, const u32 combs_mode, const u32 gid_max)
 933 {
 934 }