-
Tout au long du cours, nous allons utiliser quelques concepts et notations provenant des
-
probabilité discrète. Je veux m'assurer que tout le monde est familié avec la
-
notation, donc je vais faire une très très rapide introduction au probabilité discrète. Même
-
si vous n'êtes pas familier avec ce que je dis ce n'est pas la fin
-
du monde. Je vais fournir une liste de resource où vous pourrez en lire un peu
-
sans grande lecture exhaustive. Et vous pourrez vous familiariser avec
-
ce qui sera utilisé comme probabilité discrète. Nous allons utiliser comme notation couramment. Cela
-
devrait relativement facile de vous rattraper et apprendre l'essentiel. Ok,
-
commençons avec la base. L'espace de la probabilité discrète. Et pour nous,
-
ce sera seulement un ensemble fini qui sera noté par U. Plus communément
-
nous allons utiliser l'ensemble de tous les flux de N bits comme espace de probabilité. Ce qui veut dire toutes
-
chaines, avec les chiffres 0, 1 de longueur N. Ensuite une distribution des probabilités sera
-
noté par P sur l'ensemble U. C'est seulement une fonction qui assigne pour tous éléments
-
de U un poids dans l’intervalle zéro à un. Et le seul prérequis est que
-
la somme de tout les poids totalise un. Ok. Voilà donc ce qu'est
-
la distribution de la probabilité. Et je veux mentionner rapidement deux exemples. Le premier
-
est la distribution uniforme qui assigne pour chaque élément de l'espace
-
le même poids. Ce qui donne à tous les éléments dans l'espace la même distribution. Donc
-
si on échantillonne cette distribution, la chance que chaque
-
élément dans l'espace soit égale. Et pour l'autre distribution je
-
veux mentionner le point de la distribution. À X0, tout
-
la masse de la probabilité est concentré à cette position et tous les autres points ont essentiellement
-
une masse de zéro. Maintenant puisque notre espace de probabilité est fini. On peut
-
littéralement pensé à une fonction P qui forme un vecteur.
-
De cette fonction P, on peut littéralement écrite tous les valeurs possibles. Ce qui serait un
-
vecteur de dimension 2 à la puissance N ou 2 à la puissance N composants si notre
-
univers est {0,1} à la N. Et je veux mentionner que lorsque
je dis que deux
-
distributions sont égales.. disons deux distributions de {0,1} à la N, nous dirons
-
qu'il sont égale si les vecteurs correspondent à une
-
distribution qui est exactement identique au vecteur de l'autre
-
distribution. Donc, nous dirons que deux distributions sont identique. Jusqu'ici
-
tout va bien. Juste une notation supplémentaire. Si vous me donnez un sous-ensemble de
-
l'univers, nous pouvons définir la probabilité de ce sous-ensemble comme la somme de tout
-
les probabilité des éléments inclus dans l'ensemble. Ok?
Donc l'ensemble A est appelé un
-
événement. Et juste à titre d'exemple, supposons que nous regardons tous les chaines de N bits
-
qui termine tous par un,un. Ok? Donc on regarde tous les chaines de longueur N
-
qui sont composé des chiffres 0 et un. Tous ces chaines
-
se trouvent à la fin onze (1,1) Ok? C'est donc notre évènement et maintenant imaginons que nous regardons
-
à une distribution uniforme de {0,1} à la N.
Quelle sera
-
la probabilité donnée à cet événement? Quel sera le poids de cet événement
-
sur une distribution uniforme. Donc j'imagine que tout le monde
sait que le
-
poids sera un quart parce que la probabilité d'obtenir 1-1 pour les deux derniers
-
bits serait la moitié d'obtenir le dernier bit à un. Et c'est
