[Marfey]

Не правильная функция RepairKey была (помимо того что 127 байт прилетало с нее)
Вот рабочий код (На сервер отослал все работаeт)
Были еще грабли со снятием XOR, но теперь все норм.)

#!/usr/bin/perl -w
use Crypt::OpenSSL::Bignum;
use Crypt::OpenSSL::RSA;

my $rsa="F735C7C2DF469CA4E09ABD36BD76A4F13CA6F9679A4156E1374B0BECBC7A6CD73D31A4C97816CE555ABA59AA2CF3D39C330DB2904EEFD15B0D70D9765A1F91C8";
my $login ="testlogin";
my $password ="testpass";

authlogin($login, $password, $rsa);

sub rsa_encrypt {
   my ($message, $rsakey) = @_;
   my $bn = Crypt::OpenSSL::Bignum->new_from_bin(RepairKey($rsakey));
   my $be = Crypt::OpenSSL::Bignum->new_from_word(65537);
   my $rsa = Crypt::OpenSSL::RSA->new_key_from_parameters($bn, $be);
   $rsa->use_no_padding();.
   my $crypt_message = $rsa->encrypt($message);
   return $crypt_message;
}

sub RepairKey {
    my $key1 = shift;
    my @key = split //, $key1;
    my $i;
    # step 4 xor last 0x40 bytes with first 0x40 bytes
    for( $i=0; $i<0x40; $i++ ) {
    $key[0x40 + $i] = $key[0x40 + $i] ^ $key[$i];
    }
    # step 3 xor bytes 0x0d-0x10 with bytes 0x34-0x38
     for( $i=0; $i<4; $i++ ) {
    $key[0x0d + $i] = $key[0x0d + $i] ^ $key[0x34 + $i];
     }
    # step 2 xor first 0x40 bytes with last 0x40 bytes
    for( $i=0; $i<0x40; $i++ ) {
    $key[$i] = $key[$i] ^ $key[0x40 + $i];
    }
    for( $i=0; $i<4; $i++ ) {
    my $temp = $key[0x00 + $i];
    $key[0x00 + $i] = $key[0x4d + $i];
    $key[0x4d + $i] = $temp;
     }
     my $key2;
    for( $i=0; $i<length($key1); $i++ ) {
    $key2.=  join('', $key[$i]);
    }
   return($key2);
 }