Apprentissage.md

@@ -6,7 +6,7 @@
 
 Une très grande partie du règne animal exhibe des capacités d'apprentissage, et depuis longtemps les hommes se sont interrogés sur le fonctionnement de notre mémoire, et sur la façon dont elle s'organisait.
 
-L'une des technique utilisée pour conférer à des programmes des capacités d'apprentissage consiste à suivre une approche bio-mimétique : copions le vivant ! Nous allons donc chercher à créer des réseaux de neurones **artificiels**, *in-silico*, et pour ce faire nous commencerons par observer ce que nous savons des cellules neuronales réelles.
+L'une des technique utilisée pour conférer à des programmes des capacités d'apprentissage consiste à suivre une approche bio-mimétique : copions le vivant ! Nous allons donc chercher à créer des  neurones **artificiels**, *in-silico*, suivant une approche **connexionniste** en les mettant en **réseau**, et pour ce faire nous commencerons par observer ce que nous savons des cellules neuronales réelles.
 
 Même si les modèles de neurones réels sont toujours incomplets on peut déjà décrire un neurone comme une cellule particulière composée de plusieurs parties :
 
@@ -39,25 +39,27 @@ Bien entendu le modèle réel des différents types de cellules neuronales est b
 
 ### Historique
 
-
-* Aristote :
-    La mémoire est une interconnexion complexe d'éléments simples.
-
-??
-
-* H. Spencer (1820-1903) :
-    Les états mentaux dépendent strictement des structures nerveuses et de leur évolution. Interprétation de la psychologie à travers des réseaux d'unités fortement connectées.
-* E.L. Thorndike (1842-1910) :
-    Propose le concept de mémoire associative : la fréquence de conjonction d'événements tend à renforcer les liens entre leurs représentations cérébrales. 
+* On attribue généralement à **Alcméon de Crotone** (-520 à -450), une hypothèse reprise par **Démocrite** puis **Hippocrate** selon laquelle *ce qui gouverne siège dans le cerveau*.
+* **Aristote** ensuite (même s'il imaginait lui que le cœur était le siège de la pensée) décrit la *mémoire* comme *une interconnexion complexe d'éléments simples*.
+* **Galien** (env -131 à 201) sera le premier à décrire le parcours de l'influx nerveux à partir du cerveau.
+* **H. Spencer (1820-1903)** *Les états mentaux dépendent strictement des structures nerveuses et de leur évolution. Interprétation de la psychologie à travers des réseaux d'unités fortement connectées.**
+* **S.R. Cajal** découvre le neurone : *le système nerveux est constitué d'une myriade de cellules interconnectées*.
+* **E.L. Thorndike** (1842-1910) Propose le concept de mémoire associative : la fréquence de conjonction d'événements tend à renforcer les liens entre leurs représentations cérébrales.
+* Ce n'est qu'en 1955, avec les progrès de la microscopie électronique que ces travaux ont été validés.
 
 ## La règle de Hebb
 
-Hebb (1904-1985) énonce la règle de co-activation :
+Hebb (1904-1985) énonce la règle de co-activation qui reprend l'idée de Throndike :
 
 >    « Quand l'axone d'une cellule A est suffisamment proche pour exciter une cellule B et que de manière répétée et persistante, il participe à l'activation de B, alors un processus de croissance ou de changements métaboliques se met en œuvre dans l'une ou dans les deux cellules, de telle manière que la capacité de A à activer B en est renforcée. » 
 
-La Voici une illustration de la règle de Hebb :
+Il s'agit là d'une formalisation du mécanisme d'*apprentissage*. C'est par le biais de modifications successives des synapses et de leur capacité à inhiber ou inciter l'influx nerveux que le réseau se modifie.
+
+Voici une illustration de la règle de Hebb :
+
+Soit $w_{ij}(t)$ le poids de la connexion entre les neurones $i$ et $j$ à l'instant $t$. Avec $f(n)=1$ si le neurone $n$ est activé et $f(n)=0$ si le neurone est inactif. On a : \[w_{ij}(t+1) = w_{ij}(t) + f(i) \cdot f(j)\]
 
+![](figures/Hebb.svg)
 
 
 ## Un premier modèle, McCulloch et Pitts