В кратком обзоре фильмов в формате «ai dl1», лекция 4, при прогнозировании следующего слова, где они указали ввод и вывод? - PullRequest
0 голосов
/ 06 ноября 2018

Я новичок в pytorch и, возможно, поэтому не понимаю, прошу прощения за мои ошибки.

Я смотрел быстрые видео. но не смог выяснить, где они указывают выходные данные для входного набора данных. Я опишу мое понимание ниже. Пожалуйста, скажите мне, где я делаю ошибку.

TEXT = data.Field(lower=True, tokenize="spacy") //created a pytorch text field with spacytok

FILES = dict(train=TRN_PATH, validation=VAL_PATH, test=VAL_PATH) //created file paths list

md = LanguageModelData.from_text_files(PATH, TEXT, **FILES, bs=bs, bptt=bptt, min_freq=10) //created a language model from TEXT data and file paths and also specified batch size and short term memory size.


//created learner from the model specifying hidden layer size, number of hidden layers and various dropouts.
learner = md.get_model(opt_fn, em_sz, nh, nl,
               dropouti=0.05, dropout=0.05, wdrop=0.1, dropoute=0.02, dropouth=0.05)
learner.reg_fn = partial(seq2seq_reg, alpha=2, beta=1)
learner.clip=0.3

learner.fit(3e-3, 4, wds=1e-6, cycle_len=1, cycle_mult=2) //trained the model specifying learning rate and other training parameters.

Все здесь имеет для меня смысл, кроме того, как модель знает, что сравнивать с выводом, данным этой моделью?

...