В Javascript, если возвращаемое значение функции равно void или ничего не возвращает, оно неявно возвращает undefined.Таким образом, вы можете проверить свою функцию onKeyDown следующим образом:
const event = {
key: 1
}
expect(onKeyDown(event)).toBeUndefined()