PyTorch - Introduzione ai conventi

Convents è tutto incentrato sulla costruzione del modello CNN da zero. L'architettura di rete conterrà una combinazione dei seguenti passaggi:

  • Conv2d
  • MaxPool2d
  • Unità lineare rettificata
  • View
  • Layer lineare

Formazione del modello

L'addestramento del modello è lo stesso processo come i problemi di classificazione delle immagini. Il seguente frammento di codice completa la procedura di un modello di addestramento sul set di dati fornito:

def fit(epoch,model,data_loader,phase 
= 'training',volatile = False):
   if phase == 'training':
      model.train()
   if phase == 'training':
      model.train()
   if phase == 'validation':
      model.eval()
   volatile=True
   running_loss = 0.0
   running_correct = 0
   for batch_idx , (data,target) in enumerate(data_loader):
      if is_cuda:
         data,target = data.cuda(),target.cuda()
         data , target = Variable(data,volatile),Variable(target)
      if phase == 'training':
         optimizer.zero_grad()
         output = model(data)
         loss = F.nll_loss(output,target)
         running_loss + = 
         F.nll_loss(output,target,size_average = 
         False).data[0]
         preds = output.data.max(dim = 1,keepdim = True)[1]
         running_correct + = 
         preds.eq(target.data.view_as(preds)).cpu().sum()
         if phase == 'training':
            loss.backward()
            optimizer.step()
   loss = running_loss/len(data_loader.dataset)
   accuracy = 100. * running_correct/len(data_loader.dataset)
   print(f'{phase} loss is {loss:{5}.{2}} and {phase} accuracy is {running_correct}/{len(data_loader.dataset)}{accuracy:{return loss,accuracy}})

Il metodo include una logica diversa per l'addestramento e la convalida. Ci sono due ragioni principali per l'utilizzo di modalità diverse:

  • In modalità treno, il dropout rimuove una percentuale di valori, cosa che non dovrebbe verificarsi nella fase di validazione o test.

  • Per la modalità di addestramento, calcoliamo i gradienti e modifichiamo il valore dei parametri del modello, ma la propagazione all'indietro non è richiesta durante le fasi di test o convalida.