Rete neurale artificiale - Elementi costitutivi
L'elaborazione di ANN dipende dai seguenti tre elementi costitutivi:
- Topologia di rete
- Aggiustamenti di pesi o apprendimento
- Funzioni di attivazione
In questo capitolo, discuteremo in dettaglio di questi tre elementi costitutivi di ANN
Topologia di rete
Una topologia di rete è la disposizione di una rete insieme ai suoi nodi e alle linee di collegamento. Secondo la topologia, ANN può essere classificato come i seguenti tipi:
Rete feedforward
È una rete non ricorrente avente unità / nodi di elaborazione a strati e tutti i nodi in un livello sono collegati con i nodi dei livelli precedenti. La connessione ha pesi diversi su di loro. Non vi è alcun ciclo di feedback significa che il segnale può fluire solo in una direzione, dall'ingresso all'uscita. Può essere suddiviso nei seguenti due tipi:
Single layer feedforward network- Il concetto è di RNA feedforward con un solo strato ponderato. In altre parole, possiamo dire che il livello di input è completamente connesso al livello di output.
Multilayer feedforward network- Il concetto è di RNA feedforward con più di uno strato ponderato. Poiché questa rete ha uno o più livelli tra il livello di input e quello di output, viene chiamato livelli nascosti.
Rete di feedback
Come suggerisce il nome, una rete di feedback ha percorsi di feedback, il che significa che il segnale può fluire in entrambe le direzioni utilizzando i loop. Questo lo rende un sistema dinamico non lineare, che cambia continuamente fino a raggiungere uno stato di equilibrio. Può essere suddiviso nei seguenti tipi:
Recurrent networks- Sono reti di feedback con circuiti chiusi. Di seguito sono riportati i due tipi di reti ricorrenti.
Fully recurrent network - È l'architettura di rete neurale più semplice perché tutti i nodi sono collegati a tutti gli altri nodi e ogni nodo funziona sia come input che come output.
Jordan network - È una rete ad anello chiuso in cui l'uscita andrà di nuovo all'ingresso come feedback come mostrato nel diagramma seguente.
Aggiustamenti di pesi o apprendimento
L'apprendimento, nella rete neurale artificiale, è il metodo per modificare i pesi delle connessioni tra i neuroni di una rete specifica. L'apprendimento in ANN può essere classificato in tre categorie: apprendimento supervisionato, apprendimento non supervisionato e apprendimento di rinforzo.
Apprendimento supervisionato
Come suggerisce il nome, questo tipo di apprendimento viene svolto sotto la supervisione di un insegnante. Questo processo di apprendimento dipende.
Durante l'addestramento di ANN sotto apprendimento supervisionato, il vettore di input viene presentato alla rete, che fornirà un vettore di output. Questo vettore di output viene confrontato con il vettore di output desiderato. Viene generato un segnale di errore, se c'è una differenza tra l'uscita effettiva e il vettore di uscita desiderato. Sulla base di questo segnale di errore, i pesi vengono regolati fino a quando l'uscita effettiva non corrisponde all'uscita desiderata.
Apprendimento senza supervisione
Come suggerisce il nome, questo tipo di apprendimento viene svolto senza la supervisione di un insegnante. Questo processo di apprendimento è indipendente.
Durante l'addestramento di ANN sotto apprendimento non supervisionato, i vettori di input di tipo simile vengono combinati per formare cluster. Quando viene applicato un nuovo pattern di input, la rete neurale fornisce una risposta di output che indica la classe a cui appartiene il pattern di input.
Non ci sono feedback dall'ambiente su quale dovrebbe essere l'output desiderato e se è corretto o errato. Quindi, in questo tipo di apprendimento, la rete stessa deve scoprire i modelli e le caratteristiche dai dati di input e la relazione per i dati di input sull'output.
Insegnamento rafforzativo
Come suggerisce il nome, questo tipo di apprendimento viene utilizzato per rafforzare o rafforzare la rete su alcune informazioni critiche. Questo processo di apprendimento è simile all'apprendimento supervisionato, tuttavia potremmo avere molte meno informazioni.
Durante la formazione della rete sotto apprendimento per rinforzo, la rete riceve alcuni feedback dall'ambiente. Questo lo rende in qualche modo simile all'apprendimento supervisionato. Tuttavia, il feedback ottenuto qui è valutativo non istruttivo, il che significa che non c'è nessun insegnante come nell'apprendimento supervisionato. Dopo aver ricevuto il feedback, la rete esegue le regolazioni dei pesi per ottenere migliori informazioni critiche in futuro.
Funzioni di attivazione
Può essere definito come la forza o lo sforzo extra applicato sull'input per ottenere un output esatto. In ANN, possiamo anche applicare funzioni di attivazione sull'input per ottenere l'output esatto. Di seguito sono riportate alcune funzioni di attivazione di interesse:
Funzione di attivazione lineare
Viene anche chiamata funzione di identità poiché non esegue alcuna modifica dell'input. Può essere definito come -
$$ F (x) \: = \: x $$
Funzione di attivazione del sigmoide
È di due tipi come segue:
Binary sigmoidal function- Questa funzione di attivazione esegue la modifica dell'ingresso tra 0 e 1. È di natura positiva. È sempre limitato, il che significa che il suo output non può essere minore di 0 e maggiore di 1. È anche di natura strettamente crescente, il che significa che più l'input più alto sarebbe l'output. Può essere definito come
$$ F (x) \: = \: sigm (x) \: = \: \ frac {1} {1 \: + \: exp (-x)} $$
Bipolar sigmoidal function- Questa funzione di attivazione esegue la modifica dell'ingresso tra -1 e 1. Può essere di natura positiva o negativa. È sempre limitato, il che significa che il suo output non può essere inferiore a -1 e maggiore di 1. È anche di natura strettamente crescente come la funzione sigmoide. Può essere definito come
$$ F (x) \: = \: sigm (x) \: = \: \ frac {2} {1 \: + \: exp (-x)} \: - \: 1 \: = \: \ frac {1 \: - \: exp (x)} {1 \: + \: exp (x)} $$