OpenCL/m06212.cl

   1 /**
   2  * Author......: Jens Steube <jens.steube@gmail.com>
   3  * License.....: MIT
   4  */
   5
   6 #define _RIPEMD160_
   7
   8 #include "inc_hash_constants.h"
   9 #include "inc_vendor.cl"
  10
  11 #define DGST_R0 0
  12 #define DGST_R1 1
  13 #define DGST_R2 2
  14 #define DGST_R3 3
  15
  16 #include "inc_hash_functions.cl"
  17 #include "inc_types.cl"
  18 #include "inc_common.cl"
  19
  20 #include "inc_cipher_aes256.cl"
  21 #include "inc_cipher_twofish256.cl"
  22 #include "inc_cipher_serpent256.cl"
  23
  24 void ripemd160_transform (const u32 w[16], u32 dgst[5])
  25 {
  26   u32 a1 = dgst[0];
  27   u32 b1 = dgst[1];
  28   u32 c1 = dgst[2];
  29   u32 d1 = dgst[3];
  30   u32 e1 = dgst[4];
  31
  32   RIPEMD160_STEP (RIPEMD160_F , a1, b1, c1, d1, e1, w[ 0], RIPEMD160C00, RIPEMD160S00);
  33   RIPEMD160_STEP (RIPEMD160_F , e1, a1, b1, c1, d1, w[ 1], RIPEMD160C00, RIPEMD160S01);
  34   RIPEMD160_STEP (RIPEMD160_F , d1, e1, a1, b1, c1, w[ 2], RIPEMD160C00, RIPEMD160S02);
  35   RIPEMD160_STEP (RIPEMD160_F , c1, d1, e1, a1, b1, w[ 3], RIPEMD160C00, RIPEMD160S03);
  36   RIPEMD160_STEP (RIPEMD160_F , b1, c1, d1, e1, a1, w[ 4], RIPEMD160C00, RIPEMD160S04);
  37   RIPEMD160_STEP (RIPEMD160_F , a1, b1, c1, d1, e1, w[ 5], RIPEMD160C00, RIPEMD160S05);
  38   RIPEMD160_STEP (RIPEMD160_F , e1, a1, b1, c1, d1, w[ 6], RIPEMD160C00, RIPEMD160S06);
  39   RIPEMD160_STEP (RIPEMD160_F , d1, e1, a1, b1, c1, w[ 7], RIPEMD160C00, RIPEMD160S07);
  40   RIPEMD160_STEP (RIPEMD160_F , c1, d1, e1, a1, b1, w[ 8], RIPEMD160C00, RIPEMD160S08);
  41   RIPEMD160_STEP (RIPEMD160_F , b1, c1, d1, e1, a1, w[ 9], RIPEMD160C00, RIPEMD160S09);
  42   RIPEMD160_STEP (RIPEMD160_F , a1, b1, c1, d1, e1, w[10], RIPEMD160C00, RIPEMD160S0A);
  43   RIPEMD160_STEP (RIPEMD160_F , e1, a1, b1, c1, d1, w[11], RIPEMD160C00, RIPEMD160S0B);
  44   RIPEMD160_STEP (RIPEMD160_F , d1, e1, a1, b1, c1, w[12], RIPEMD160C00, RIPEMD160S0C);
  45   RIPEMD160_STEP (RIPEMD160_F , c1, d1, e1, a1, b1, w[13], RIPEMD160C00, RIPEMD160S0D);
  46   RIPEMD160_STEP (RIPEMD160_F , b1, c1, d1, e1, a1, w[14], RIPEMD160C00, RIPEMD160S0E);
  47   RIPEMD160_STEP (RIPEMD160_F , a1, b1, c1, d1, e1, w[15], RIPEMD160C00, RIPEMD160S0F);
  48
  49   RIPEMD160_STEP (RIPEMD160_Go, e1, a1, b1, c1, d1, w[ 7], RIPEMD160C10, RIPEMD160S10);
  50   RIPEMD160_STEP (RIPEMD160_Go, d1, e1, a1, b1, c1, w[ 4], RIPEMD160C10, RIPEMD160S11);
  51   RIPEMD160_STEP (RIPEMD160_Go, c1, d1, e1, a1, b1, w[13], RIPEMD160C10, RIPEMD160S12);
  52   RIPEMD160_STEP (RIPEMD160_Go, b1, c1, d1, e1, a1, w[ 1], RIPEMD160C10, RIPEMD160S13);
  53   RIPEMD160_STEP (RIPEMD160_Go, a1, b1, c1, d1, e1, w[10], RIPEMD160C10, RIPEMD160S14);
  54   RIPEMD160_STEP (RIPEMD160_Go, e1, a1, b1, c1, d1, w[ 6], RIPEMD160C10, RIPEMD160S15);
  55   RIPEMD160_STEP (RIPEMD160_Go, d1, e1, a1, b1, c1, w[15], RIPEMD160C10, RIPEMD160S16);
  56   RIPEMD160_STEP (RIPEMD160_Go, c1, d1, e1, a1, b1, w[ 3], RIPEMD160C10, RIPEMD160S17);
  57   RIPEMD160_STEP (RIPEMD160_Go, b1, c1, d1, e1, a1, w[12], RIPEMD160C10, RIPEMD160S18);
  58   RIPEMD160_STEP (RIPEMD160_Go, a1, b1, c1, d1, e1, w[ 0], RIPEMD160C10, RIPEMD160S19);
  59   RIPEMD160_STEP (RIPEMD160_Go, e1, a1, b1, c1, d1, w[ 9], RIPEMD160C10, RIPEMD160S1A);
  60   RIPEMD160_STEP (RIPEMD160_Go, d1, e1, a1, b1, c1, w[ 5], RIPEMD160C10, RIPEMD160S1B);
  61   RIPEMD160_STEP (RIPEMD160_Go, c1, d1, e1, a1, b1, w[ 2], RIPEMD160C10, RIPEMD160S1C);
  62   RIPEMD160_STEP (RIPEMD160_Go, b1, c1, d1, e1, a1, w[14], RIPEMD160C10, RIPEMD160S1D);
  63   RIPEMD160_STEP (RIPEMD160_Go, a1, b1, c1, d1, e1, w[11], RIPEMD160C10, RIPEMD160S1E);
  64   RIPEMD160_STEP (RIPEMD160_Go, e1, a1, b1, c1, d1, w[ 8], RIPEMD160C10, RIPEMD160S1F);
  65
  66   RIPEMD160_STEP (RIPEMD160_H , d1, e1, a1, b1, c1, w[ 3], RIPEMD160C20, RIPEMD160S20);
  67   RIPEMD160_STEP (RIPEMD160_H , c1, d1, e1, a1, b1, w[10], RIPEMD160C20, RIPEMD160S21);
  68   RIPEMD160_STEP (RIPEMD160_H , b1, c1, d1, e1, a1, w[14], RIPEMD160C20, RIPEMD160S22);
  69   RIPEMD160_STEP (RIPEMD160_H , a1, b1, c1, d1, e1, w[ 4], RIPEMD160C20, RIPEMD160S23);
  70   RIPEMD160_STEP (RIPEMD160_H , e1, a1, b1, c1, d1, w[ 9], RIPEMD160C20, RIPEMD160S24);
  71   RIPEMD160_STEP (RIPEMD160_H , d1, e1, a1, b1, c1, w[15], RIPEMD160C20, RIPEMD160S25);
  72   RIPEMD160_STEP (RIPEMD160_H , c1, d1, e1, a1, b1, w[ 8], RIPEMD160C20, RIPEMD160S26);
  73   RIPEMD160_STEP (RIPEMD160_H , b1, c1, d1, e1, a1, w[ 1], RIPEMD160C20, RIPEMD160S27);
  74   RIPEMD160_STEP (RIPEMD160_H , a1, b1, c1, d1, e1, w[ 2], RIPEMD160C20, RIPEMD160S28);
  75   RIPEMD160_STEP (RIPEMD160_H , e1, a1, b1, c1, d1, w[ 7], RIPEMD160C20, RIPEMD160S29);
  76   RIPEMD160_STEP (RIPEMD160_H , d1, e1, a1, b1, c1, w[ 0], RIPEMD160C20, RIPEMD160S2A);
  77   RIPEMD160_STEP (RIPEMD160_H , c1, d1, e1, a1, b1, w[ 6], RIPEMD160C20, RIPEMD160S2B);
  78   RIPEMD160_STEP (RIPEMD160_H , b1, c1, d1, e1, a1, w[13], RIPEMD160C20, RIPEMD160S2C);
  79   RIPEMD160_STEP (RIPEMD160_H , a1, b1, c1, d1, e1, w[11], RIPEMD160C20, RIPEMD160S2D);
  80   RIPEMD160_STEP (RIPEMD160_H , e1, a1, b1, c1, d1, w[ 5], RIPEMD160C20, RIPEMD160S2E);
  81   RIPEMD160_STEP (RIPEMD160_H , d1, e1, a1, b1, c1, w[12], RIPEMD160C20, RIPEMD160S2F);
  82
  83   RIPEMD160_STEP (RIPEMD160_Io, c1, d1, e1, a1, b1, w[ 1], RIPEMD160C30, RIPEMD160S30);
  84   RIPEMD160_STEP (RIPEMD160_Io, b1, c1, d1, e1, a1, w[ 9], RIPEMD160C30, RIPEMD160S31);
  85   RIPEMD160_STEP (RIPEMD160_Io, a1, b1, c1, d1, e1, w[11], RIPEMD160C30, RIPEMD160S32);
  86   RIPEMD160_STEP (RIPEMD160_Io, e1, a1, b1, c1, d1, w[10], RIPEMD160C30, RIPEMD160S33);
  87   RIPEMD160_STEP (RIPEMD160_Io, d1, e1, a1, b1, c1, w[ 0], RIPEMD160C30, RIPEMD160S34);
  88   RIPEMD160_STEP (RIPEMD160_Io, c1, d1, e1, a1, b1, w[ 8], RIPEMD160C30, RIPEMD160S35);
  89   RIPEMD160_STEP (RIPEMD160_Io, b1, c1, d1, e1, a1, w[12], RIPEMD160C30, RIPEMD160S36);
  90   RIPEMD160_STEP (RIPEMD160_Io, a1, b1, c1, d1, e1, w[ 4], RIPEMD160C30, RIPEMD160S37);
  91   RIPEMD160_STEP (RIPEMD160_Io, e1, a1, b1, c1, d1, w[13], RIPEMD160C30, RIPEMD160S38);
  92   RIPEMD160_STEP (RIPEMD160_Io, d1, e1, a1, b1, c1, w[ 3], RIPEMD160C30, RIPEMD160S39);
  93   RIPEMD160_STEP (RIPEMD160_Io, c1, d1, e1, a1, b1, w[ 7], RIPEMD160C30, RIPEMD160S3A);
  94   RIPEMD160_STEP (RIPEMD160_Io, b1, c1, d1, e1, a1, w[15], RIPEMD160C30, RIPEMD160S3B);
  95   RIPEMD160_STEP (RIPEMD160_Io, a1, b1, c1, d1, e1, w[14], RIPEMD160C30, RIPEMD160S3C);
  96   RIPEMD160_STEP (RIPEMD160_Io, e1, a1, b1, c1, d1, w[ 5], RIPEMD160C30, RIPEMD160S3D);
  97   RIPEMD160_STEP (RIPEMD160_Io, d1, e1, a1, b1, c1, w[ 6], RIPEMD160C30, RIPEMD160S3E);
  98   RIPEMD160_STEP (RIPEMD160_Io, c1, d1, e1, a1, b1, w[ 2], RIPEMD160C30, RIPEMD160S3F);
  99
 100   RIPEMD160_STEP (RIPEMD160_J , b1, c1, d1, e1, a1, w[ 4], RIPEMD160C40, RIPEMD160S40);
 101   RIPEMD160_STEP (RIPEMD160_J , a1, b1, c1, d1, e1, w[ 0], RIPEMD160C40, RIPEMD160S41);
 102   RIPEMD160_STEP (RIPEMD160_J , e1, a1, b1, c1, d1, w[ 5], RIPEMD160C40, RIPEMD160S42);
 103   RIPEMD160_STEP (RIPEMD160_J , d1, e1, a1, b1, c1, w[ 9], RIPEMD160C40, RIPEMD160S43);
 104   RIPEMD160_STEP (RIPEMD160_J , c1, d1, e1, a1, b1, w[ 7], RIPEMD160C40, RIPEMD160S44);
 105   RIPEMD160_STEP (RIPEMD160_J , b1, c1, d1, e1, a1, w[12], RIPEMD160C40, RIPEMD160S45);
 106   RIPEMD160_STEP (RIPEMD160_J , a1, b1, c1, d1, e1, w[ 2], RIPEMD160C40, RIPEMD160S46);
 107   RIPEMD160_STEP (RIPEMD160_J , e1, a1, b1, c1, d1, w[10], RIPEMD160C40, RIPEMD160S47);
 108   RIPEMD160_STEP (RIPEMD160_J , d1, e1, a1, b1, c1, w[14], RIPEMD160C40, RIPEMD160S48);
 109   RIPEMD160_STEP (RIPEMD160_J , c1, d1, e1, a1, b1, w[ 1], RIPEMD160C40, RIPEMD160S49);
 110   RIPEMD160_STEP (RIPEMD160_J , b1, c1, d1, e1, a1, w[ 3], RIPEMD160C40, RIPEMD160S4A);
 111   RIPEMD160_STEP (RIPEMD160_J , a1, b1, c1, d1, e1, w[ 8], RIPEMD160C40, RIPEMD160S4B);
 112   RIPEMD160_STEP (RIPEMD160_J , e1, a1, b1, c1, d1, w[11], RIPEMD160C40, RIPEMD160S4C);
 113   RIPEMD160_STEP (RIPEMD160_J , d1, e1, a1, b1, c1, w[ 6], RIPEMD160C40, RIPEMD160S4D);
 114   RIPEMD160_STEP (RIPEMD160_J , c1, d1, e1, a1, b1, w[15], RIPEMD160C40, RIPEMD160S4E);
 115   RIPEMD160_STEP (RIPEMD160_J , b1, c1, d1, e1, a1, w[13], RIPEMD160C40, RIPEMD160S4F);
 116
 117   u32 a2 = dgst[0];
 118   u32 b2 = dgst[1];
 119   u32 c2 = dgst[2];
 120   u32 d2 = dgst[3];
 121   u32 e2 = dgst[4];
 122
 123   RIPEMD160_STEP_WORKAROUND_BUG (RIPEMD160_J , a2, b2, c2, d2, e2, w[ 5], RIPEMD160C50, RIPEMD160S50);
 124   RIPEMD160_STEP (RIPEMD160_J , e2, a2, b2, c2, d2, w[14], RIPEMD160C50, RIPEMD160S51);
 125   RIPEMD160_STEP (RIPEMD160_J , d2, e2, a2, b2, c2, w[ 7], RIPEMD160C50, RIPEMD160S52);
 126   RIPEMD160_STEP (RIPEMD160_J , c2, d2, e2, a2, b2, w[ 0], RIPEMD160C50, RIPEMD160S53);
 127   RIPEMD160_STEP (RIPEMD160_J , b2, c2, d2, e2, a2, w[ 9], RIPEMD160C50, RIPEMD160S54);
 128   RIPEMD160_STEP (RIPEMD160_J , a2, b2, c2, d2, e2, w[ 2], RIPEMD160C50, RIPEMD160S55);
 129   RIPEMD160_STEP (RIPEMD160_J , e2, a2, b2, c2, d2, w[11], RIPEMD160C50, RIPEMD160S56);
 130   RIPEMD160_STEP (RIPEMD160_J , d2, e2, a2, b2, c2, w[ 4], RIPEMD160C50, RIPEMD160S57);
 131   RIPEMD160_STEP (RIPEMD160_J , c2, d2, e2, a2, b2, w[13], RIPEMD160C50, RIPEMD160S58);
 132   RIPEMD160_STEP (RIPEMD160_J , b2, c2, d2, e2, a2, w[ 6], RIPEMD160C50, RIPEMD160S59);
 133   RIPEMD160_STEP (RIPEMD160_J , a2, b2, c2, d2, e2, w[15], RIPEMD160C50, RIPEMD160S5A);
 134   RIPEMD160_STEP (RIPEMD160_J , e2, a2, b2, c2, d2, w[ 8], RIPEMD160C50, RIPEMD160S5B);
 135   RIPEMD160_STEP (RIPEMD160_J , d2, e2, a2, b2, c2, w[ 1], RIPEMD160C50, RIPEMD160S5C);
 136   RIPEMD160_STEP (RIPEMD160_J , c2, d2, e2, a2, b2, w[10], RIPEMD160C50, RIPEMD160S5D);
 137   RIPEMD160_STEP (RIPEMD160_J , b2, c2, d2, e2, a2, w[ 3], RIPEMD160C50, RIPEMD160S5E);
 138   RIPEMD160_STEP (RIPEMD160_J , a2, b2, c2, d2, e2, w[12], RIPEMD160C50, RIPEMD160S5F);
 139
 140   RIPEMD160_STEP (RIPEMD160_Io, e2, a2, b2, c2, d2, w[ 6], RIPEMD160C60, RIPEMD160S60);
 141   RIPEMD160_STEP (RIPEMD160_Io, d2, e2, a2, b2, c2, w[11], RIPEMD160C60, RIPEMD160S61);
 142   RIPEMD160_STEP (RIPEMD160_Io, c2, d2, e2, a2, b2, w[ 3], RIPEMD160C60, RIPEMD160S62);
 143   RIPEMD160_STEP (RIPEMD160_Io, b2, c2, d2, e2, a2, w[ 7], RIPEMD160C60, RIPEMD160S63);
 144   RIPEMD160_STEP (RIPEMD160_Io, a2, b2, c2, d2, e2, w[ 0], RIPEMD160C60, RIPEMD160S64);
 145   RIPEMD160_STEP (RIPEMD160_Io, e2, a2, b2, c2, d2, w[13], RIPEMD160C60, RIPEMD160S65);
 146   RIPEMD160_STEP (RIPEMD160_Io, d2, e2, a2, b2, c2, w[ 5], RIPEMD160C60, RIPEMD160S66);
 147   RIPEMD160_STEP (RIPEMD160_Io, c2, d2, e2, a2, b2, w[10], RIPEMD160C60, RIPEMD160S67);
 148   RIPEMD160_STEP (RIPEMD160_Io, b2, c2, d2, e2, a2, w[14], RIPEMD160C60, RIPEMD160S68);
 149   RIPEMD160_STEP (RIPEMD160_Io, a2, b2, c2, d2, e2, w[15], RIPEMD160C60, RIPEMD160S69);
 150   RIPEMD160_STEP (RIPEMD160_Io, e2, a2, b2, c2, d2, w[ 8], RIPEMD160C60, RIPEMD160S6A);
 151   RIPEMD160_STEP (RIPEMD160_Io, d2, e2, a2, b2, c2, w[12], RIPEMD160C60, RIPEMD160S6B);
 152   RIPEMD160_STEP (RIPEMD160_Io, c2, d2, e2, a2, b2, w[ 4], RIPEMD160C60, RIPEMD160S6C);
 153   RIPEMD160_STEP (RIPEMD160_Io, b2, c2, d2, e2, a2, w[ 9], RIPEMD160C60, RIPEMD160S6D);
 154   RIPEMD160_STEP (RIPEMD160_Io, a2, b2, c2, d2, e2, w[ 1], RIPEMD160C60, RIPEMD160S6E);
 155   RIPEMD160_STEP (RIPEMD160_Io, e2, a2, b2, c2, d2, w[ 2], RIPEMD160C60, RIPEMD160S6F);
 156
 157   RIPEMD160_STEP (RIPEMD160_H , d2, e2, a2, b2, c2, w[15], RIPEMD160C70, RIPEMD160S70);
 158   RIPEMD160_STEP (RIPEMD160_H , c2, d2, e2, a2, b2, w[ 5], RIPEMD160C70, RIPEMD160S71);
 159   RIPEMD160_STEP (RIPEMD160_H , b2, c2, d2, e2, a2, w[ 1], RIPEMD160C70, RIPEMD160S72);
 160   RIPEMD160_STEP (RIPEMD160_H , a2, b2, c2, d2, e2, w[ 3], RIPEMD160C70, RIPEMD160S73);
 161   RIPEMD160_STEP (RIPEMD160_H , e2, a2, b2, c2, d2, w[ 7], RIPEMD160C70, RIPEMD160S74);
 162   RIPEMD160_STEP (RIPEMD160_H , d2, e2, a2, b2, c2, w[14], RIPEMD160C70, RIPEMD160S75);
 163   RIPEMD160_STEP (RIPEMD160_H , c2, d2, e2, a2, b2, w[ 6], RIPEMD160C70, RIPEMD160S76);
 164   RIPEMD160_STEP (RIPEMD160_H , b2, c2, d2, e2, a2, w[ 9], RIPEMD160C70, RIPEMD160S77);
 165   RIPEMD160_STEP (RIPEMD160_H , a2, b2, c2, d2, e2, w[11], RIPEMD160C70, RIPEMD160S78);
 166   RIPEMD160_STEP (RIPEMD160_H , e2, a2, b2, c2, d2, w[ 8], RIPEMD160C70, RIPEMD160S79);
 167   RIPEMD160_STEP (RIPEMD160_H , d2, e2, a2, b2, c2, w[12], RIPEMD160C70, RIPEMD160S7A);
 168   RIPEMD160_STEP (RIPEMD160_H , c2, d2, e2, a2, b2, w[ 2], RIPEMD160C70, RIPEMD160S7B);
 169   RIPEMD160_STEP (RIPEMD160_H , b2, c2, d2, e2, a2, w[10], RIPEMD160C70, RIPEMD160S7C);
 170   RIPEMD160_STEP (RIPEMD160_H , a2, b2, c2, d2, e2, w[ 0], RIPEMD160C70, RIPEMD160S7D);
 171   RIPEMD160_STEP (RIPEMD160_H , e2, a2, b2, c2, d2, w[ 4], RIPEMD160C70, RIPEMD160S7E);
 172   RIPEMD160_STEP (RIPEMD160_H , d2, e2, a2, b2, c2, w[13], RIPEMD160C70, RIPEMD160S7F);
 173
 174   RIPEMD160_STEP (RIPEMD160_Go, c2, d2, e2, a2, b2, w[ 8], RIPEMD160C80, RIPEMD160S80);
 175   RIPEMD160_STEP (RIPEMD160_Go, b2, c2, d2, e2, a2, w[ 6], RIPEMD160C80, RIPEMD160S81);
 176   RIPEMD160_STEP (RIPEMD160_Go, a2, b2, c2, d2, e2, w[ 4], RIPEMD160C80, RIPEMD160S82);
 177   RIPEMD160_STEP (RIPEMD160_Go, e2, a2, b2, c2, d2, w[ 1], RIPEMD160C80, RIPEMD160S83);
 178   RIPEMD160_STEP (RIPEMD160_Go, d2, e2, a2, b2, c2, w[ 3], RIPEMD160C80, RIPEMD160S84);
 179   RIPEMD160_STEP (RIPEMD160_Go, c2, d2, e2, a2, b2, w[11], RIPEMD160C80, RIPEMD160S85);
 180   RIPEMD160_STEP (RIPEMD160_Go, b2, c2, d2, e2, a2, w[15], RIPEMD160C80, RIPEMD160S86);
 181   RIPEMD160_STEP (RIPEMD160_Go, a2, b2, c2, d2, e2, w[ 0], RIPEMD160C80, RIPEMD160S87);
 182   RIPEMD160_STEP (RIPEMD160_Go, e2, a2, b2, c2, d2, w[ 5], RIPEMD160C80, RIPEMD160S88);
 183   RIPEMD160_STEP (RIPEMD160_Go, d2, e2, a2, b2, c2, w[12], RIPEMD160C80, RIPEMD160S89);
 184   RIPEMD160_STEP (RIPEMD160_Go, c2, d2, e2, a2, b2, w[ 2], RIPEMD160C80, RIPEMD160S8A);
 185   RIPEMD160_STEP (RIPEMD160_Go, b2, c2, d2, e2, a2, w[13], RIPEMD160C80, RIPEMD160S8B);
 186   RIPEMD160_STEP (RIPEMD160_Go, a2, b2, c2, d2, e2, w[ 9], RIPEMD160C80, RIPEMD160S8C);
 187   RIPEMD160_STEP (RIPEMD160_Go, e2, a2, b2, c2, d2, w[ 7], RIPEMD160C80, RIPEMD160S8D);
 188   RIPEMD160_STEP (RIPEMD160_Go, d2, e2, a2, b2, c2, w[10], RIPEMD160C80, RIPEMD160S8E);
 189   RIPEMD160_STEP (RIPEMD160_Go, c2, d2, e2, a2, b2, w[14], RIPEMD160C80, RIPEMD160S8F);
 190
 191   RIPEMD160_STEP (RIPEMD160_F , b2, c2, d2, e2, a2, w[12], RIPEMD160C90, RIPEMD160S90);
 192   RIPEMD160_STEP (RIPEMD160_F , a2, b2, c2, d2, e2, w[15], RIPEMD160C90, RIPEMD160S91);
 193   RIPEMD160_STEP (RIPEMD160_F , e2, a2, b2, c2, d2, w[10], RIPEMD160C90, RIPEMD160S92);
 194   RIPEMD160_STEP (RIPEMD160_F , d2, e2, a2, b2, c2, w[ 4], RIPEMD160C90, RIPEMD160S93);
 195   RIPEMD160_STEP (RIPEMD160_F , c2, d2, e2, a2, b2, w[ 1], RIPEMD160C90, RIPEMD160S94);
 196   RIPEMD160_STEP (RIPEMD160_F , b2, c2, d2, e2, a2, w[ 5], RIPEMD160C90, RIPEMD160S95);
 197   RIPEMD160_STEP (RIPEMD160_F , a2, b2, c2, d2, e2, w[ 8], RIPEMD160C90, RIPEMD160S96);
 198   RIPEMD160_STEP (RIPEMD160_F , e2, a2, b2, c2, d2, w[ 7], RIPEMD160C90, RIPEMD160S97);
 199   RIPEMD160_STEP (RIPEMD160_F , d2, e2, a2, b2, c2, w[ 6], RIPEMD160C90, RIPEMD160S98);
 200   RIPEMD160_STEP (RIPEMD160_F , c2, d2, e2, a2, b2, w[ 2], RIPEMD160C90, RIPEMD160S99);
 201   RIPEMD160_STEP (RIPEMD160_F , b2, c2, d2, e2, a2, w[13], RIPEMD160C90, RIPEMD160S9A);
 202   RIPEMD160_STEP (RIPEMD160_F , a2, b2, c2, d2, e2, w[14], RIPEMD160C90, RIPEMD160S9B);
 203   RIPEMD160_STEP (RIPEMD160_F , e2, a2, b2, c2, d2, w[ 0], RIPEMD160C90, RIPEMD160S9C);
 204   RIPEMD160_STEP (RIPEMD160_F , d2, e2, a2, b2, c2, w[ 3], RIPEMD160C90, RIPEMD160S9D);
 205   RIPEMD160_STEP (RIPEMD160_F , c2, d2, e2, a2, b2, w[ 9], RIPEMD160C90, RIPEMD160S9E);
 206   RIPEMD160_STEP (RIPEMD160_F , b2, c2, d2, e2, a2, w[11], RIPEMD160C90, RIPEMD160S9F);
 207
 208   const u32 a = dgst[1] + c1 + d2;
 209   const u32 b = dgst[2] + d1 + e2;
 210   const u32 c = dgst[3] + e1 + a2;
 211   const u32 d = dgst[4] + a1 + b2;
 212   const u32 e = dgst[0] + b1 + c2;
 213
 214   dgst[0] = a;
 215   dgst[1] = b;
 216   dgst[2] = c;
 217   dgst[3] = d;
 218   dgst[4] = e;
 219 }
 220
 221 void hmac_run2 (const u32 w1[16], const u32 w2[16], const u32 ipad[5], const u32 opad[5], u32 dgst[5])
 222 {
 223   dgst[0] = ipad[0];
 224   dgst[1] = ipad[1];
 225   dgst[2] = ipad[2];
 226   dgst[3] = ipad[3];
 227   dgst[4] = ipad[4];
 228
 229   ripemd160_transform (w1, dgst);
 230   ripemd160_transform (w2, dgst);
 231
 232   u32 w[16];
 233
 234   w[ 0] = dgst[0];
 235   w[ 1] = dgst[1];
 236   w[ 2] = dgst[2];
 237   w[ 3] = dgst[3];
 238   w[ 4] = dgst[4];
 239   w[ 5] = 0x80;
 240   w[ 6] = 0;
 241   w[ 7] = 0;
 242   w[ 8] = 0;
 243   w[ 9] = 0;
 244   w[10] = 0;
 245   w[11] = 0;
 246   w[12] = 0;
 247   w[13] = 0;
 248   w[14] = (64 + 20) * 8;
 249   w[15] = 0;
 250
 251   dgst[0] = opad[0];
 252   dgst[1] = opad[1];
 253   dgst[2] = opad[2];
 254   dgst[3] = opad[3];
 255   dgst[4] = opad[4];
 256
 257   ripemd160_transform (w, dgst);
 258 }
 259
 260 void hmac_run (u32 w[16], const u32 ipad[5], const u32 opad[5], u32 dgst[5])
 261 {
 262   dgst[0] = ipad[0];
 263   dgst[1] = ipad[1];
 264   dgst[2] = ipad[2];
 265   dgst[3] = ipad[3];
 266   dgst[4] = ipad[4];
 267
 268   ripemd160_transform (w, dgst);
 269
 270   w[ 0] = dgst[0];
 271   w[ 1] = dgst[1];
 272   w[ 2] = dgst[2];
 273   w[ 3] = dgst[3];
 274   w[ 4] = dgst[4];
 275   w[ 5] = 0x80;
 276   w[ 6] = 0;
 277   w[ 7] = 0;
 278   w[ 8] = 0;
 279   w[ 9] = 0;
 280   w[10] = 0;
 281   w[11] = 0;
 282   w[12] = 0;
 283   w[13] = 0;
 284   w[14] = (64 + 20) * 8;
 285   w[15] = 0;
 286
 287   dgst[0] = opad[0];
 288   dgst[1] = opad[1];
 289   dgst[2] = opad[2];
 290   dgst[3] = opad[3];
 291   dgst[4] = opad[4];
 292
 293   ripemd160_transform (w, dgst);
 294 }
 295
 296 void hmac_init (u32 w[16], u32 ipad[5], u32 opad[5])
 297 {
 298   w[ 0] ^= 0x36363636;
 299   w[ 1] ^= 0x36363636;
 300   w[ 2] ^= 0x36363636;
 301   w[ 3] ^= 0x36363636;
 302   w[ 4] ^= 0x36363636;
 303   w[ 5] ^= 0x36363636;
 304   w[ 6] ^= 0x36363636;
 305   w[ 7] ^= 0x36363636;
 306   w[ 8] ^= 0x36363636;
 307   w[ 9] ^= 0x36363636;
 308   w[10] ^= 0x36363636;
 309   w[11] ^= 0x36363636;
 310   w[12] ^= 0x36363636;
 311   w[13] ^= 0x36363636;
 312   w[14] ^= 0x36363636;
 313   w[15] ^= 0x36363636;
 314
 315   ipad[0] = RIPEMD160M_A;
 316   ipad[1] = RIPEMD160M_B;
 317   ipad[2] = RIPEMD160M_C;
 318   ipad[3] = RIPEMD160M_D;
 319   ipad[4] = RIPEMD160M_E;
 320
 321   ripemd160_transform (w, ipad);
 322
 323   w[ 0] ^= 0x6a6a6a6a;
 324   w[ 1] ^= 0x6a6a6a6a;
 325   w[ 2] ^= 0x6a6a6a6a;
 326   w[ 3] ^= 0x6a6a6a6a;
 327   w[ 4] ^= 0x6a6a6a6a;
 328   w[ 5] ^= 0x6a6a6a6a;
 329   w[ 6] ^= 0x6a6a6a6a;
 330   w[ 7] ^= 0x6a6a6a6a;
 331   w[ 8] ^= 0x6a6a6a6a;
 332   w[ 9] ^= 0x6a6a6a6a;
 333   w[10] ^= 0x6a6a6a6a;
 334   w[11] ^= 0x6a6a6a6a;
 335   w[12] ^= 0x6a6a6a6a;
 336   w[13] ^= 0x6a6a6a6a;
 337   w[14] ^= 0x6a6a6a6a;
 338   w[15] ^= 0x6a6a6a6a;
 339
 340   opad[0] = RIPEMD160M_A;
 341   opad[1] = RIPEMD160M_B;
 342   opad[2] = RIPEMD160M_C;
 343   opad[3] = RIPEMD160M_D;
 344   opad[4] = RIPEMD160M_E;
 345
 346   ripemd160_transform (w, opad);
 347 }
 348
 349 u32 u8add (const u32 a, const u32 b)
 350 {
 351   const u32 a1 = (a >>  0) & 0xff;
 352   const u32 a2 = (a >>  8) & 0xff;
 353   const u32 a3 = (a >> 16) & 0xff;
 354   const u32 a4 = (a >> 24) & 0xff;
 355
 356   const u32 b1 = (b >>  0) & 0xff;
 357   const u32 b2 = (b >>  8) & 0xff;
 358   const u32 b3 = (b >> 16) & 0xff;
 359   const u32 b4 = (b >> 24) & 0xff;
 360
 361   const u32 r1 = (a1 + b1) & 0xff;
 362   const u32 r2 = (a2 + b2) & 0xff;
 363   const u32 r3 = (a3 + b3) & 0xff;
 364   const u32 r4 = (a4 + b4) & 0xff;
 365
 366   const u32 r = r1 <<  0
 367                | r2 <<  8
 368                | r3 << 16
 369                | r4 << 24;
 370
 371   return r;
 372 }
 373
 374 __kernel void m06212_init (__global pw_t *pws, __global kernel_rule_t *rules_buf, __global comb_t *combs_buf, __global bf_t *bfs_buf, __global tc_tmp_t *tmps, __global void *hooks, __global u32 *bitmaps_buf_s1_a, __global u32 *bitmaps_buf_s1_b, __global u32 *bitmaps_buf_s1_c, __global u32 *bitmaps_buf_s1_d, __global u32 *bitmaps_buf_s2_a, __global u32 *bitmaps_buf_s2_b, __global u32 *bitmaps_buf_s2_c, __global u32 *bitmaps_buf_s2_d, __global plain_t *plains_buf, __global digest_t *digests_buf, __global u32 *hashes_shown, __global salt_t *salt_bufs, __global tc_t *esalt_bufs, __global u32 *d_return_buf, __global u32 *d_scryptV_buf, const u32 bitmap_mask, const u32 bitmap_shift1, const u32 bitmap_shift2, const u32 salt_pos, const u32 loop_pos, const u32 loop_cnt, const u32 il_cnt, const u32 digests_cnt, const u32 digests_offset, const u32 combs_mode, const u32 gid_max)
 375 {
 376   /**
 377    * base
 378    */
 379
 380   const u32 gid = get_global_id (0);
 381
 382   if (gid >= gid_max) return;
 383
 384   u32 w0[4];
 385
 386   w0[0] = pws[gid].i[ 0];
 387   w0[1] = pws[gid].i[ 1];
 388   w0[2] = pws[gid].i[ 2];
 389   w0[3] = pws[gid].i[ 3];
 390
 391   u32 w1[4];
 392
 393   w1[0] = pws[gid].i[ 4];
 394   w1[1] = pws[gid].i[ 5];
 395   w1[2] = pws[gid].i[ 6];
 396   w1[3] = pws[gid].i[ 7];
 397
 398   u32 w2[4];
 399
 400   w2[0] = pws[gid].i[ 8];
 401   w2[1] = pws[gid].i[ 9];
 402   w2[2] = pws[gid].i[10];
 403   w2[3] = pws[gid].i[11];
 404
 405   u32 w3[4];
 406
 407   w3[0] = pws[gid].i[12];
 408   w3[1] = pws[gid].i[13];
 409   w3[2] = pws[gid].i[14];
 410   w3[3] = pws[gid].i[15];
 411
 412   /**
 413    * keyfile
 414    */
 415
 416   w0[0] = u8add (w0[0], esalt_bufs[salt_pos].keyfile_buf[ 0]);
 417   w0[1] = u8add (w0[1], esalt_bufs[salt_pos].keyfile_buf[ 1]);
 418   w0[2] = u8add (w0[2], esalt_bufs[salt_pos].keyfile_buf[ 2]);
 419   w0[3] = u8add (w0[3], esalt_bufs[salt_pos].keyfile_buf[ 3]);
 420   w1[0] = u8add (w1[0], esalt_bufs[salt_pos].keyfile_buf[ 4]);
 421   w1[1] = u8add (w1[1], esalt_bufs[salt_pos].keyfile_buf[ 5]);
 422   w1[2] = u8add (w1[2], esalt_bufs[salt_pos].keyfile_buf[ 6]);
 423   w1[3] = u8add (w1[3], esalt_bufs[salt_pos].keyfile_buf[ 7]);
 424   w2[0] = u8add (w2[0], esalt_bufs[salt_pos].keyfile_buf[ 8]);
 425   w2[1] = u8add (w2[1], esalt_bufs[salt_pos].keyfile_buf[ 9]);
 426   w2[2] = u8add (w2[2], esalt_bufs[salt_pos].keyfile_buf[10]);
 427   w2[3] = u8add (w2[3], esalt_bufs[salt_pos].keyfile_buf[11]);
 428   w3[0] = u8add (w3[0], esalt_bufs[salt_pos].keyfile_buf[12]);
 429   w3[1] = u8add (w3[1], esalt_bufs[salt_pos].keyfile_buf[13]);
 430   w3[2] = u8add (w3[2], esalt_bufs[salt_pos].keyfile_buf[14]);
 431   w3[3] = u8add (w3[3], esalt_bufs[salt_pos].keyfile_buf[15]);
 432
 433   /**
 434    * salt
 435    */
 436
 437   u32 salt_buf1[16];
 438
 439   salt_buf1[ 0] = esalt_bufs[salt_pos].salt_buf[ 0];
 440   salt_buf1[ 1] = esalt_bufs[salt_pos].salt_buf[ 1];
 441   salt_buf1[ 2] = esalt_bufs[salt_pos].salt_buf[ 2];
 442   salt_buf1[ 3] = esalt_bufs[salt_pos].salt_buf[ 3];
 443   salt_buf1[ 4] = esalt_bufs[salt_pos].salt_buf[ 4];
 444   salt_buf1[ 5] = esalt_bufs[salt_pos].salt_buf[ 5];
 445   salt_buf1[ 6] = esalt_bufs[salt_pos].salt_buf[ 6];
 446   salt_buf1[ 7] = esalt_bufs[salt_pos].salt_buf[ 7];
 447   salt_buf1[ 8] = esalt_bufs[salt_pos].salt_buf[ 8];
 448   salt_buf1[ 9] = esalt_bufs[salt_pos].salt_buf[ 9];
 449   salt_buf1[10] = esalt_bufs[salt_pos].salt_buf[10];
 450   salt_buf1[11] = esalt_bufs[salt_pos].salt_buf[11];
 451   salt_buf1[12] = esalt_bufs[salt_pos].salt_buf[12];
 452   salt_buf1[13] = esalt_bufs[salt_pos].salt_buf[13];
 453   salt_buf1[14] = esalt_bufs[salt_pos].salt_buf[14];
 454   salt_buf1[15] = esalt_bufs[salt_pos].salt_buf[15];
 455
 456   u32 salt_buf2[16];
 457
 458   salt_buf2[ 0] = 0;
 459   salt_buf2[ 1] = 0x80;
 460   salt_buf2[ 2] = 0;
 461   salt_buf2[ 3] = 0;
 462   salt_buf2[ 4] = 0;
 463   salt_buf2[ 5] = 0;
 464   salt_buf2[ 6] = 0;
 465   salt_buf2[ 7] = 0;
 466   salt_buf2[ 8] = 0;
 467   salt_buf2[ 9] = 0;
 468   salt_buf2[10] = 0;
 469   salt_buf2[11] = 0;
 470   salt_buf2[12] = 0;
 471   salt_buf2[13] = 0;
 472   salt_buf2[14] = (64 + 64 + 4) * 8;
 473   salt_buf2[15] = 0;
 474
 475   const u32 truecrypt_mdlen = salt_bufs[0].truecrypt_mdlen;
 476
 477   u32 w[16];
 478
 479   w[ 0] = w0[0];
 480   w[ 1] = w0[1];
 481   w[ 2] = w0[2];
 482   w[ 3] = w0[3];
 483   w[ 4] = w1[0];
 484   w[ 5] = w1[1];
 485   w[ 6] = w1[2];
 486   w[ 7] = w1[3];
 487   w[ 8] = w2[0];
 488   w[ 9] = w2[1];
 489   w[10] = w2[2];
 490   w[11] = w2[3];
 491   w[12] = w3[0];
 492   w[13] = w3[1];
 493   w[14] = w3[2];
 494   w[15] = w3[3];
 495
 496   u32 ipad[5];
 497   u32 opad[5];
 498
 499   hmac_init (w, ipad, opad);
 500
 501   tmps[gid].ipad[0] = ipad[0];
 502   tmps[gid].ipad[1] = ipad[1];
 503   tmps[gid].ipad[2] = ipad[2];
 504   tmps[gid].ipad[3] = ipad[3];
 505   tmps[gid].ipad[4] = ipad[4];
 506
 507   tmps[gid].opad[0] = opad[0];
 508   tmps[gid].opad[1] = opad[1];
 509   tmps[gid].opad[2] = opad[2];
 510   tmps[gid].opad[3] = opad[3];
 511   tmps[gid].opad[4] = opad[4];
 512
 513   for (u32 i = 0, j = 1; i < (truecrypt_mdlen / 8 / 4); i += 5, j += 1)
 514   {
 515     salt_buf2[0] = swap32 (j);
 516
 517     u32 dgst[5];
 518
 519     hmac_run2 (salt_buf1, salt_buf2, ipad, opad, dgst);
 520
 521     tmps[gid].dgst[i + 0] = dgst[0];
 522     tmps[gid].dgst[i + 1] = dgst[1];
 523     tmps[gid].dgst[i + 2] = dgst[2];
 524     tmps[gid].dgst[i + 3] = dgst[3];
 525     tmps[gid].dgst[i + 4] = dgst[4];
 526
 527     tmps[gid].out[i + 0] = dgst[0];
 528     tmps[gid].out[i + 1] = dgst[1];
 529     tmps[gid].out[i + 2] = dgst[2];
 530     tmps[gid].out[i + 3] = dgst[3];
 531     tmps[gid].out[i + 4] = dgst[4];
 532   }
 533 }
 534
 535 __kernel void m06212_loop (__global pw_t *pws, __global kernel_rule_t *rules_buf, __global comb_t *combs_buf, __global bf_t *bfs_buf, __global tc_tmp_t *tmps, __global void *hooks, __global u32 *bitmaps_buf_s1_a, __global u32 *bitmaps_buf_s1_b, __global u32 *bitmaps_buf_s1_c, __global u32 *bitmaps_buf_s1_d, __global u32 *bitmaps_buf_s2_a, __global u32 *bitmaps_buf_s2_b, __global u32 *bitmaps_buf_s2_c, __global u32 *bitmaps_buf_s2_d, __global plain_t *plains_buf, __global digest_t *digests_buf, __global u32 *hashes_shown, __global salt_t *salt_bufs, __global tc_t *esalt_bufs, __global u32 *d_return_buf, __global u32 *d_scryptV_buf, const u32 bitmap_mask, const u32 bitmap_shift1, const u32 bitmap_shift2, const u32 salt_pos, const u32 loop_pos, const u32 loop_cnt, const u32 il_cnt, const u32 digests_cnt, const u32 digests_offset, const u32 combs_mode, const u32 gid_max)
 536 {
 537   const u32 truecrypt_mdlen = salt_bufs[0].truecrypt_mdlen;
 538
 539   const u32 gid = get_global_id (0);
 540
 541   if (gid >= gid_max) return;
 542
 543   u32 ipad[5];
 544   u32 opad[5];
 545
 546   ipad[0] = tmps[gid].ipad[0];
 547   ipad[1] = tmps[gid].ipad[1];
 548   ipad[2] = tmps[gid].ipad[2];
 549   ipad[3] = tmps[gid].ipad[3];
 550   ipad[4] = tmps[gid].ipad[4];
 551
 552   opad[0] = tmps[gid].opad[0];
 553   opad[1] = tmps[gid].opad[1];
 554   opad[2] = tmps[gid].opad[2];
 555   opad[3] = tmps[gid].opad[3];
 556   opad[4] = tmps[gid].opad[4];
 557
 558   for (u32 i = 0; i < (truecrypt_mdlen / 8 / 4); i += 5)
 559   {
 560     u32 dgst[5];
 561     u32 out[5];
 562
 563     dgst[0] = tmps[gid].dgst[i + 0];
 564     dgst[1] = tmps[gid].dgst[i + 1];
 565     dgst[2] = tmps[gid].dgst[i + 2];
 566     dgst[3] = tmps[gid].dgst[i + 3];
 567     dgst[4] = tmps[gid].dgst[i + 4];
 568
 569     out[0] = tmps[gid].out[i + 0];
 570     out[1] = tmps[gid].out[i + 1];
 571     out[2] = tmps[gid].out[i + 2];
 572     out[3] = tmps[gid].out[i + 3];
 573     out[4] = tmps[gid].out[i + 4];
 574
 575     for (u32 j = 0; j < loop_cnt; j++)
 576     {
 577       u32 w[16];
 578
 579       w[ 0] = dgst[0];
 580       w[ 1] = dgst[1];
 581       w[ 2] = dgst[2];
 582       w[ 3] = dgst[3];
 583       w[ 4] = dgst[4];
 584       w[ 5] = 0x80;
 585       w[ 6] = 0;
 586       w[ 7] = 0;
 587       w[ 8] = 0;
 588       w[ 9] = 0;
 589       w[10] = 0;
 590       w[11] = 0;
 591       w[12] = 0;
 592       w[13] = 0;
 593       w[14] = (64 + 20) * 8;
 594       w[15] = 0;
 595
 596       hmac_run (w, ipad, opad, dgst);
 597
 598       out[0] ^= dgst[0];
 599       out[1] ^= dgst[1];
 600       out[2] ^= dgst[2];
 601       out[3] ^= dgst[3];
 602       out[4] ^= dgst[4];
 603     }
 604
 605     tmps[gid].dgst[i + 0] = dgst[0];
 606     tmps[gid].dgst[i + 1] = dgst[1];
 607     tmps[gid].dgst[i + 2] = dgst[2];
 608     tmps[gid].dgst[i + 3] = dgst[3];
 609     tmps[gid].dgst[i + 4] = dgst[4];
 610
 611     tmps[gid].out[i + 0] = out[0];
 612     tmps[gid].out[i + 1] = out[1];
 613     tmps[gid].out[i + 2] = out[2];
 614     tmps[gid].out[i + 3] = out[3];
 615     tmps[gid].out[i + 4] = out[4];
 616   }
 617 }
 618
 619 __kernel void m06212_comp (__global pw_t *pws, __global kernel_rule_t *rules_buf, __global comb_t *combs_buf, __global bf_t *bfs_buf, __global tc_tmp_t *tmps, __global void *hooks, __global u32 *bitmaps_buf_s1_a, __global u32 *bitmaps_buf_s1_b, __global u32 *bitmaps_buf_s1_c, __global u32 *bitmaps_buf_s1_d, __global u32 *bitmaps_buf_s2_a, __global u32 *bitmaps_buf_s2_b, __global u32 *bitmaps_buf_s2_c, __global u32 *bitmaps_buf_s2_d, __global plain_t *plains_buf, __global digest_t *digests_buf, __global u32 *hashes_shown, __global salt_t *salt_bufs, __global tc_t *esalt_bufs, __global u32 *d_return_buf, __global u32 *d_scryptV_buf, const u32 bitmap_mask, const u32 bitmap_shift1, const u32 bitmap_shift2, const u32 salt_pos, const u32 loop_pos, const u32 loop_cnt, const u32 il_cnt, const u32 digests_cnt, const u32 digests_offset, const u32 combs_mode, const u32 gid_max)
 620 {
 621   /**
 622    * base
 623    */
 624
 625   const u32 gid = get_global_id (0);
 626   const u32 lid = get_local_id (0);
 627
 628   if (gid >= gid_max) return;
 629
 630   u32 ukey1[8];
 631
 632   ukey1[0] = tmps[gid].out[ 0];
 633   ukey1[1] = tmps[gid].out[ 1];
 634   ukey1[2] = tmps[gid].out[ 2];
 635   ukey1[3] = tmps[gid].out[ 3];
 636   ukey1[4] = tmps[gid].out[ 4];
 637   ukey1[5] = tmps[gid].out[ 5];
 638   ukey1[6] = tmps[gid].out[ 6];
 639   ukey1[7] = tmps[gid].out[ 7];
 640
 641   u32 ukey2[8];
 642
 643   ukey2[0] = tmps[gid].out[ 8];
 644   ukey2[1] = tmps[gid].out[ 9];
 645   ukey2[2] = tmps[gid].out[10];
 646   ukey2[3] = tmps[gid].out[11];
 647   ukey2[4] = tmps[gid].out[12];
 648   ukey2[5] = tmps[gid].out[13];
 649   ukey2[6] = tmps[gid].out[14];
 650   ukey2[7] = tmps[gid].out[15];
 651
 652   u32 data[4];
 653
 654   data[0] = esalt_bufs[0].data_buf[0];
 655   data[1] = esalt_bufs[0].data_buf[1];
 656   data[2] = esalt_bufs[0].data_buf[2];
 657   data[3] = esalt_bufs[0].data_buf[3];
 658
 659   const u32 signature = esalt_bufs[0].signature;
 660
 661   u32 tmp[4];
 662
 663   {
 664     tmp[0] = data[0];
 665     tmp[1] = data[1];
 666     tmp[2] = data[2];
 667     tmp[3] = data[3];
 668
 669     aes256_decrypt_xts (ukey1, ukey2, tmp, tmp);
 670
 671     if (((tmp[0] == signature) && (tmp[3] == 0)) || ((tmp[0] == signature) && ((tmp[1] >> 16) <= 5)))
 672     {
 673       mark_hash (plains_buf, d_return_buf, salt_pos, 0, 0, gid, 0);
 674     }
 675   }
 676
 677   {
 678     tmp[0] = data[0];
 679     tmp[1] = data[1];
 680     tmp[2] = data[2];
 681     tmp[3] = data[3];
 682
 683     serpent256_decrypt_xts (ukey1, ukey2, tmp, tmp);
 684
 685     if (((tmp[0] == signature) && (tmp[3] == 0)) || ((tmp[0] == signature) && ((tmp[1] >> 16) <= 5)))
 686     {
 687       mark_hash (plains_buf, d_return_buf, salt_pos, 0, 0, gid, 0);
 688     }
 689   }
 690
 691   {
 692     tmp[0] = data[0];
 693     tmp[1] = data[1];
 694     tmp[2] = data[2];
 695     tmp[3] = data[3];
 696
 697     twofish256_decrypt_xts (ukey1, ukey2, tmp, tmp);
 698
 699     if (((tmp[0] == signature) && (tmp[3] == 0)) || ((tmp[0] == signature) && ((tmp[1] >> 16) <= 5)))
 700     {
 701       mark_hash (plains_buf, d_return_buf, salt_pos, 0, 0, gid, 0);
 702     }
 703   }
 704
 705   u32 ukey3[8];
 706
 707   ukey3[0] = tmps[gid].out[16];
 708   ukey3[1] = tmps[gid].out[17];
 709   ukey3[2] = tmps[gid].out[18];
 710   ukey3[3] = tmps[gid].out[19];
 711   ukey3[4] = tmps[gid].out[20];
 712   ukey3[5] = tmps[gid].out[21];
 713   ukey3[6] = tmps[gid].out[22];
 714   ukey3[7] = tmps[gid].out[23];
 715
 716   u32 ukey4[8];
 717
 718   ukey4[0] = tmps[gid].out[24];
 719   ukey4[1] = tmps[gid].out[25];
 720   ukey4[2] = tmps[gid].out[26];
 721   ukey4[3] = tmps[gid].out[27];
 722   ukey4[4] = tmps[gid].out[28];
 723   ukey4[5] = tmps[gid].out[29];
 724   ukey4[6] = tmps[gid].out[30];
 725   ukey4[7] = tmps[gid].out[31];
 726
 727   {
 728     tmp[0] = data[0];
 729     tmp[1] = data[1];
 730     tmp[2] = data[2];
 731     tmp[3] = data[3];
 732
 733     aes256_decrypt_xts     (ukey2, ukey4, tmp, tmp);
 734     twofish256_decrypt_xts (ukey1, ukey3, tmp, tmp);
 735
 736     if (((tmp[0] == signature) && (tmp[3] == 0)) || ((tmp[0] == signature) && ((tmp[1] >> 16) <= 5)))
 737     {
 738       mark_hash (plains_buf, d_return_buf, salt_pos, 0, 0, gid, 0);
 739     }
 740   }
 741
 742   {
 743     tmp[0] = data[0];
 744     tmp[1] = data[1];
 745     tmp[2] = data[2];
 746     tmp[3] = data[3];
 747
 748     serpent256_decrypt_xts (ukey2, ukey4, tmp, tmp);
 749     aes256_decrypt_xts     (ukey1, ukey3, tmp, tmp);
 750
 751     if (((tmp[0] == signature) && (tmp[3] == 0)) || ((tmp[0] == signature) && ((tmp[1] >> 16) <= 5)))
 752     {
 753       mark_hash (plains_buf, d_return_buf, salt_pos, 0, 0, gid, 0);
 754     }
 755   }
 756
 757   {
 758     tmp[0] = data[0];
 759     tmp[1] = data[1];
 760     tmp[2] = data[2];
 761     tmp[3] = data[3];
 762
 763     twofish256_decrypt_xts (ukey2, ukey4, tmp, tmp);
 764     serpent256_decrypt_xts (ukey1, ukey3, tmp, tmp);
 765
 766     if (((tmp[0] == signature) && (tmp[3] == 0)) || ((tmp[0] == signature) && ((tmp[1] >> 16) <= 5)))
 767     {
 768       mark_hash (plains_buf, d_return_buf, salt_pos, 0, 0, gid, 0);
 769     }
 770   }
 771 }