Прежде всего, вам нужно вызвать функции, как упоминалось ранее. Я также думаю, что имеет смысл вызывать maxNum () изнутри userGuess (), поэтому вам нужно только вызвать userGuess () внизу.
Во-вторых, max_int определяется только в функции maxNum (), поэтому userGuess () не будет иметь доступа к этому, и вы получите ошибку.
Итак, как-то так:
from time import sleep
from random import randint
print("Starting up...")
def maxNum(max_int):
print("The maximum number to guess is %d" % max_int)
def userGuess():
max_int = 6
maxNum(max_int)
guess1 = int(input("Guess what number you think the dice will land on? >"))
if guess1 > max_int:
print("You chose a number higher than the maximum number allowed!")
else:
print("Rolling...")
sleep(1)
print("The number is...")
sleep(2)
print(randint(1,6))
userGuess()