Understanding Large Language Models

Avec

des millions, des centaines de millions, des milliards, des centaines de milliards,

ça peut aller jusqu'à,

jusqu'aux mille milliards,

euh, de paramètres.

Et en fait, ces, ces systèmes peuvent stocker une quantité

d'informations

absolument gigantesque et donc accumuler en fait, euh, un petit peu, euh,

la totalité de la, de la connaissance humaine.

Pas exactement, mais un peu. Alors en fait,

la manière dont c'est entraîné, c'est

un petit peu plus futé que ça. C'est-à-dire que,

on prend une longue séquence de

mots.

Et on n'entraîne pas une seule copie de ce réseau, mais

autant de copies qu'on a de fenêtres sur l'entrée.

D'accord ? Donc on fait tourner

une, un grand nombre de copies de ce, de ce réseau qui chacun est appliqué à une

fenêtre différente et chacun est entraîné à reproduire, euh,

son entrée sur sa sortie. En fait, on peut voir ça comme ce qu'on appelle un,

un,

un auto encodeur, c'est-à-dire que,

euh, on a la séquence d'entrée ici, la même séquence ici en, en haut

et on entraîne simplement ce réseau à apprendre la fonction identité.

Ça paraît stupide.

Pourquoi entraîner un réseau avec des milliards, des centaines de milliards de

paramètres

à apprendre simplement la fonction identité ?

Mais on, mais en, en, en fait, on lui, on l'entraîne à, à

calculer la fonction identité. Simplement, il ne peut regarder qu'une fenêtre

de mots,

euh, particulière pour calculer la sortie, euh,

suivante. Et il ne peut pas regarder l'entrée

correspondante.

Donc, il, il peut pas

trouver une solution triviale qui consisterait simplement à copier son

entrée sur

sa sortie. Il est obligé en fait de,

de, de, de prédire. D'accord

? Alors, euh, pourquoi ça marche, ces trucs-là ?

Pourquoi on arrive à faire des chats GPT avec ? Alors, pour deux raisons.

La première, c'est que on peut entraîner, on peut mettre beaucoup beaucoup de

paramètres là-dedans et entraîner ces systèmes à,

à,

à prédire le mot suivant à partir d'une très grande quantité de,

de données d'apprentissage, euh, où aussi la fenêtre de

contexte que peut regarder le système peut correspondre à

cent mille mots ou peut-être un million si on, si on arrive à le faire.

Euh, et on entraîne avec typiquement, euh,

de l'ordre de,

euh,

trois

dix à la puissance

douze

mots ou token. C'est comme des mots.

D'accord

? Donc ça commence à faire beaucoup.

Euh, en fait,

c'est même

trente dix à la puissance douze.

Trente, euh, je sais pas comment on appelle dix à la

puissance douze.

Euh, chaque token est représenté sur, sur trois octets environ.

Donc à la fin, ça fait, euh,

zéro neuf dix à la puissance quatorze octets

de données d'apprentissage. Ça, ça correspond à la totalité du texte

disponible sur

Internet publiquement et puis, euh, plus d'autres, d'autres

données. Euh, ça nous prendrait à tout un chacun ici de

l'ordre

de quatre cent mille ans

à lire.

En lisant, euh, plus de douze heures par jour.

D'accord

? Alors c'est énorme. Et, et ce que fait le système,

c'est qu'il apprend une espèce

de version compressée d'un peu tout ça, si vous voulez.

Alors y a quand même un problème essentiel avec ça, c'est qu'y a pas vraiment de

capacité de raisonnement dans un système comme ça.

Il fait que prédire le mot suivant et puis y a le problème d'hallucination, euh,

comme on, on en a beaucoup parlé. Maintenant, comparez ça.

Alors maintenant, je vais, je vais en venir aux, aux limitations,

euh, des systèmes

actuels.

Euh, ces systèmes-là ne comprennent pas les

mondes, le monde physique,

n'ont pas de mémoire persistante, n'ont pas vraiment de capacité de

raisonnement. Les gens essaient de corriger ça, mais

ça marche pas très bien. Et certainement pas de capacité de

planification,

euh, à moins les entraîner systématiquement en

fait avec des tas

d'exemples.

Donc une, un, un, tout l'argent qui est dépensé en ce moment

en

IA, c'est pour deux choses. Un, l'infrastructure de calcul nécessaire à

entraîner

et surtout à faire tourner ces trucs-là.

Mais aussi, euh, la, la phase de ce qu'on appelle le post

training,

c'est-à-dire, euh, affiner le, le système pour, euh, le

faire accomplir des tâches comme répondre à des questions fréquentes,

euh, aller rechercher l'information par un

moteur de recherche pour l'intégrer dans

la réponse, euh, etc. Et faire en sorte qu'il soit pas

complètement toxique,

etc. Donc y a tout un tas d'efforts en fait qui

est, qui est dé-dédié à ça, euh,

là-dedans. Mais maintenant, comparons ça avec

un enfant de quatre ans.

Un enfant de quatre ans,

euh, a été éveillé un total de environ six

mille heures-- seize mille heures.

L'information qui, euh, arrive au, à notre cortex visuel,

euh, dans ces seize mille heures,

euh,

y a énormément d'informations qui arrivent sur la rétine.

On a soixante millions de, de récepteurs, soixante millions de pixels par œil,

si vous voulez.

Euh,

mais en fait tout ça est compressé pour passer dans le nerf optique.

Le nerf optique n'a que un million de, de fibres nerveuses qui arrivent au

cerveau,

euh, par œil. Et chaque fi-fibre nerveuse, euh, peut, euh, faire

transiter en-environ un mégaoctet par seconde. Ok ?

Donc

arrive à notre cerveau environ deux méga-, deux mégaoctets par seconde.

Multipliez ça par seize mille heures, trois mille six cents, euh,

secondes par heure et on arrive environ à

dix puissance quatorze octets.

Donc un enfant de quatre ans a vu autant de données à travers la vision

que le plus gros des LLM actuels entraînés sur la totalité

de tout le texte, euh, disponible sur Internet publiquement.

Donc ça, ça vous dit deux choses: on va pas arriver

à un système de, au niveau d'intelligence humain ou

surhumain

simplement en entraînant sur du texte. Ça ne peut pas arriver.

Y a des gens qui vont vous dire que si, l'année prochaine, on aura des systèmes

super intelligents aussi bons qu'un doctorant, euh, etc.

C'est faux. C'est faux. D'accord

? Alors,

comment faire ça ?

C'est le sujet

de