[arrjj]

кеи - глобальные переменные типа char * (или char[16] как удобнее), объявляются со старта и равны
outxorkey[8] = 0xc8;
outxorkey[9] = 0x27;
outxorkey[10] = 0x93;
outxorkey[11] = 0x01;
outxorkey[12] = 0xa1;
outxorkey[13] = 0x6c;
outxorkey[14] = 0x31;
outxorkey[15] = 0x97;

Первые 8 байт считываются из пакета InitCrypt

*(int*)GKeyR+=Size; ==

unsigned int old = outxorkey[8] &0xff;
old |= (outxorkey[9] << 8) &0xff00;
old |= (outxorkey[10] << 16) &0xff0000;
old |= (outxorkey[11] << 24) &0xff000000;
old+=out.buf.length;
outxorkey[8] = old &0xff;
outxorkey[9] = (old >> 8) &0xff;
outxorkey[10] = (old >> 16) &0xff;
outxorkey[11] = (old >> 24) &0xff;

Я так туплю потому что C# по своей природе не работает напрямую с указателями.

Я тебе дал пример без указателей.