возможно стоит описать предварительный алгоритм действий, чтобы люди которые хотят участвовать в проекте по дешифровке смогли присоединится на любой точке. и в случае с lineage мы имеем четкие значения: ключ, длина ключа, и тип шифрования. чтобы определится с функцией мне кажется что IDA тут больший помощник, чем попытки применить криптоанализ к пакетам для выяснения вида функции.