Как данные в байтовом массиве хранятся в шестнадцатеричном и десятичном виде?
Массив байтов содержит байты.
byte[] decimal = new byte[] {1,10 };
byte[] hexa = new byte[] {0x1,0xa };
Они содержат одинаковые значения, вы можете сравнивать их напрямую, вам не нужен какой-либо определенный код.