Я пытаюсь настроить гиперпараметры моих моделей с помощью ml-engine, но я не совсем уверен, работает ли он или нет.
Я не указываю тег algorithm в HyperparameterSpec, который должен по умолчанию использовать байесовский метод оптимизации в соответствии с документацией. Я также не устанавливаю maxFailedTrials, который, согласно документации, должен завершить все трейлы, если первый не пройден.
Вот мой конфиг
trainingInput:
scaleTier: CUSTOM
masterType: standard_gpu
hyperparameters:
goal: MAXIMIZE
maxTrials: 8
maxParallelTrials: 2
hyperparameterMetricTag: test_accuracy
params:
- parameterName: dropout_rate
type: DOUBLE
minValue: 0.3
maxValue: 0.7
scaleType: UNIT_LINEAR_SCALE
- parameterName: lr
type: DOUBLE
minValue: 0.0001
maxValue: 0.0003
scaleType: UNIT_LINEAR_SCALE
А вот тренировочный вывод:
{
"completedTrialCount": "8",
"trials": [
{
"trialId": "1",
"hyperparameters": {
"lr": "0.00014959385395050048",
"dropout_rate": "0.42217149734497067"
},
"startTime": "2019-10-07T09:40:02.143968039Z",
"endTime": "2019-10-07T09:47:50Z",
"state": "FAILED"
},
{
"trialId": "2",
"hyperparameters": {
"dropout_rate": "0.62217149734497068",
"lr": "0.00028292718728383382"
},
"startTime": "2019-10-07T09:40:02.144192681Z",
"endTime": "2019-10-07T09:47:19Z",
"state": "FAILED"
},
{
"trialId": "3",
"hyperparameters": {
"lr": "0.00014846909046173097",
"dropout_rate": "0.31717863082885739"
},
"startTime": "2019-10-07T09:48:09.266596472Z",
"endTime": "2019-10-07T09:55:26Z",
"state": "FAILED"
},
{
"trialId": "4",
"hyperparameters": {
"lr": "0.00018741662502288819",
"dropout_rate": "0.34178204536437984"
},
"startTime": "2019-10-07T09:48:10.761305330Z",
"endTime": "2019-10-07T09:55:58Z",
"state": "FAILED"
},
{
"trialId": "5",
"hyperparameters": {
"dropout_rate": "0.6216828346252441",
"lr": "0.00010192830562591553"
},
"startTime": "2019-10-07T09:56:15.904704865Z",
"endTime": "2019-10-07T10:04:04Z",
"state": "FAILED"
},
{
"trialId": "6",
"hyperparameters": {
"dropout_rate": "0.42288427352905272",
"lr": "0.000230206298828125"
},
"startTime": "2019-10-07T09:56:17.895067636Z",
"endTime": "2019-10-07T10:04:05Z",
"state": "FAILED"
},
{
"trialId": "7",
"hyperparameters": {
"lr": "0.00019101441543291624",
"dropout_rate": "0.36415641310447144"
},
"startTime": "2019-10-07T10:05:22.147233194Z",
"endTime": "2019-10-07T10:13:09Z",
"state": "FAILED"
},
{
"trialId": "8",
"hyperparameters": {
"dropout_rate": "0.69955616224911532",
"lr": "0.00029989311482522672"
},
"startTime": "2019-10-07T10:05:22.147396438Z",
"endTime": "2019-10-07T10:13:30Z",
"state": "FAILED"
}
],
"consumedMLUnits": 2.29,
"isHyperparameterTuningJob": true,
"hyperparameterMetricTag": "test_accuracy"
}
Все трассы запущены, поэтому я считаю, что это алгоритм поиска, который не работает длянекоторая причина. Я не смог найти больше информации о том, почему он возвращает этот или любые журналы из алгоритма поиска, запустив с другой детализацией.
Мне кажется, что он не может найти метрику в тензорном потокефайлы событий, но я не понимаю, почему, поскольку имя точно такое же, открывая файлы событий с помощью тензорной доски, я могу видеть данные. Может быть, есть какие-то требования к структуре журнала, о котором я не знаю?
Код для регистрации метрик:
from tensorflow.contrib.summary import summary as summary_ops
# in __init__
self.tf_board_writer = summary_ops.create_file_writer(self.save_path)
....
# During training
with self.tf_board_writer.as_default(), summary_ops.always_record_summaries():
summary_ops.scalar(name=name, tensor=value, step=step)
Небольшой побочный вопрос, если какой-либо из команды ml-engine заканчиваетсяздесь, теперь, когда TF2 стабилен и выпущен, у вас есть идеи, когда он будет доступен в среде выполнения?
В любом случае, надеюсь, кто-нибудь может мне помочь:)