Хорошо, попробуйте это - не делите на 27. В алфавите 26 букв, поэтому измените по модулю на 26. Если ваш ключ и открытый текст оба A, вы получите 1 + 1 плюс еще 1, чтодаст вам C. Увеличение числа в функции мода для учета возможности того, что мод равен 0, не поможет, потому что деление изменит число по-разному, как деление 8 на 2 - это не то же самое, что 8-2.
Если приведенный выше абзац не имеет никакого смысла, это нормально.Что вам нужно сделать, это добавить ключ и открытый текст, затем вычесть 1. Затем сделайте вашу функцию мода с 26. Затем вы можете добавить один.