| ... | ... | @@ -225,10 +225,37 @@ w_{ij}(t+1) = w_{ij}(t) + \eta(d_j - s_j)s_i |
|
|
|
- $`d_j`$ : la sortie **désirée**.
|
|
|
|
- $`s_j`$ : la sortie **obtenue** pour l'**entrée courante**.
|
|
|
|
|
|
|
|
Il s'agit donc bien de la même règle de **co-activation** mais celle ci peut aussi "inhiber" (faire) diminuer les coefficients.
|
|
|
|
|
|
|
|
### Exemple d'apprentissage
|
|
|
|
|
|
|
|
Afin de bien comprendre comment fonctionne l'apprentissage voici un exemple d'évolution.
|
|
|
|
|
|
|
|
On cherche à reconnaître un motif en diagonale sur une grille de $`2\times 2`$ pixels.
|
|
|
|
|
|
|
|

|
|
|
|
|
|
|
|
- Les pixels sont les S-Units, le signal est $`1`$ quand le pixel est noir, $`0`$ sinon.
|
|
|
|
- On dispose de $`4`$ neurones d'association, un par pixel, recevant les entrées de ces pixels.
|
|
|
|
- Les neurones d'association transmettent leurs entrées sans changement ($`1`$ s'ils sont reliés à des pixels noirs, $`0`$ sinon). En d'autres termes il n'est pas utile de les modéliser.
|
|
|
|
- On a un unique neurone de réponse recevant des entrées des $`4`$ neurones d'association (ici pour simplifier les calculs ses sorties seront soit $`0`$ soit $`1`$.
|
|
|
|
- On ajoute une entrée de biais $`\theta`$ sur le neurone de réponse.
|
|
|
|
- À chaque entrée du neurone de réponse, on associe un poids $`w_i`$ avec $`i = 1..4`$, ici initialisés à zéro.
|
|
|
|
- Le biais par convention est associé à l'entrée $`0`$ et relié au neurone de sortie avec un poids $`w_0 = \theta`$. Sa sortie vaut systématiquement $`-1 \times w_0`$. Ici on l'initialise à $`2`$.
|
|
|
|
- On obtient au final un vecteur de $`5`$ poids qu'il faut ajuster au cours du processus d'apprentissage.
|
|
|
|
|
|
|
|
Au cours du processus d'apprentissage :
|
|
|
|
|
|
|
|
- On présente successivement l'ensemble des entrées possibles,
|
|
|
|
- on applique la règle d'apprentissage.
|
|
|
|
- C'est ce qu'on appelle *une itération* ou *époque*.
|
|
|
|
|
|
|
|
On continue les itérations jusqu'à ce que les sorties soient acceptables.
|
|
|
|
|
|
|
|
### Exercices
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
## Pour aller plus loin
|
|
|
|
|
|
|
|
|
| ... | ... | |
| ... | ... | |