AES определено для принятия ключа длиной 128, 192 или 256 бит. Если вы вставляете 512-битный ключ в шифр, тогда этот шифр не может быть AES.
Кроме того, если использование 256-битного ключа для симметричного шифрования является фактическим «снижением прочности» по сравнению с тем, что вы получаете с 512-битным ключом, то это означает, что вы привыкли нарушать известные законы физики. Следовательно, вы либо бог, либо несколько бредовый.