Ну, во-первых, вы хотите превратить остаток вашего байтового массива в строку:
var text = encode.GetString(data, 5, data.Length - 5);
Затем вы можете разделить его на команду ("rcon"), пароль и остаток. Самое простое, что можно сделать здесь, это разбить строку на пробелы, но указать, что вы хотите, чтобы возвращалось не более 3 элементов (поэтому последний элемент может содержать больше пробелов):
var segments = text.Split(new[] {' '}, 3);
// segments[0] is assumed to be "rcon"
// segments[1] is the password
// segments[2] is the remainder of the string