PyTorch - Introduzione ai conventi
Convents è tutto incentrato sulla costruzione del modello CNN da zero. L'architettura di rete conterrà una combinazione dei seguenti passaggi:
- Conv2d
- MaxPool2d
- Unità lineare rettificata
- View
- Layer lineare
Formazione del modello
L'addestramento del modello è lo stesso processo come i problemi di classificazione delle immagini. Il seguente frammento di codice completa la procedura di un modello di addestramento sul set di dati fornito:
def fit(epoch,model,data_loader,phase
= 'training',volatile = False):
if phase == 'training':
model.train()
if phase == 'training':
model.train()
if phase == 'validation':
model.eval()
volatile=True
running_loss = 0.0
running_correct = 0
for batch_idx , (data,target) in enumerate(data_loader):
if is_cuda:
data,target = data.cuda(),target.cuda()
data , target = Variable(data,volatile),Variable(target)
if phase == 'training':
optimizer.zero_grad()
output = model(data)
loss = F.nll_loss(output,target)
running_loss + =
F.nll_loss(output,target,size_average =
False).data[0]
preds = output.data.max(dim = 1,keepdim = True)[1]
running_correct + =
preds.eq(target.data.view_as(preds)).cpu().sum()
if phase == 'training':
loss.backward()
optimizer.step()
loss = running_loss/len(data_loader.dataset)
accuracy = 100. * running_correct/len(data_loader.dataset)
print(f'{phase} loss is {loss:{5}.{2}} and {phase} accuracy is {running_correct}/{len(data_loader.dataset)}{accuracy:{return loss,accuracy}})
Il metodo include una logica diversa per l'addestramento e la convalida. Ci sono due ragioni principali per l'utilizzo di modalità diverse:
In modalità treno, il dropout rimuove una percentuale di valori, cosa che non dovrebbe verificarsi nella fase di validazione o test.
Per la modalità di addestramento, calcoliamo i gradienti e modifichiamo il valore dei parametri del modello, ma la propagazione all'indietro non è richiesta durante le fasi di test o convalida.