Probabilitat i Estadística, Apuntes de Ingeniería de Telecomunicaciones

¡Descarga Probabilitat i Estadística y más Apuntes en PDF de Ingeniería de Telecomunicaciones solo en Docsity!

Probabilitat i

Estad´ıstica

J. M. Aroca i A. Miralles

XP06/19004/

• Dip`osit legal: B-28.985-
• ISBN: 84-9788-486-
• I Probabilitat
• 1. Introducci´o: T`ecniques de comptar
• 1.1. Mostres ordenades amb repetici´o.Variacions amb repetici´o
• 1.2. Mostres ordenades sense repetici´o. Variacions. Permutacions
• 1.3. Mostres no ordenades sense repetici´o. Combinacions
• 1.4. Mostres no ordenades amb repetici´o
• 1.5. Altres exemples
• 2. Espai de probabilitat
• 2.1. Experiencia aleatoria i successos. Operacions b`asiques i propietats.
• 2.2. Definici´o axiom`atica de probabilitat. Espai finit equiprobable
• 2.3. Probabilitat condicionada. Successos independents
• 2.4. Teorema de la probabilitat total. Teorema de Bayes.
• 2.5. Diagrames d’arbre
• 3. Variables aleat`ories
• 3.1. Variable aleat`oria discreta
• 3.1.1. Distribucions m´es importants
• 3.1.2. Parametres: Valor mitja i vari`ancia
• 3.1.3. Funci´o de distribuci´o
• 3.2. Variable aleat`oria cont´ınua
• 3.2.1. Funci´o de distribuci´o i funci´o de densitat
• 3.2.2. Distribucions m´es importants
• 3.2.3. Parametres: Valor mitja (esperanc¸a) i vari`ancia
• 3.3. Teorema central del l´ımit. Aplicaci´o
• 3.3.1. Aproximaci´o de llei binomial per la normal.
• 4. Funcions de variables aleat`ories
• 4.1. Funci´o d’una variable aleat`oria discreta
• 4.2. Funci´o d’una variable aleat`oria cont´ınua
• 4.2.1. La funci´o g(x) es estrictament creixent .´
• 4.2.2. La funci´o g(x) es estrictament decreixent. .´
• 4.2.3. La funci´o g(x) t´e extrems locals
• 4.3. Teorema de l’esperanc¸a
• 5. Vectors aleatoris
• 5.1. Vector aleatori (X, Y ), amb X i Y variables aleat`ories discretes
• 5.1.1. Probabilitat conjunta. Probabilitat marginal.
• 5.1.2. Probabilitat condicionada. Independ`encia
• 5.1.3. Parametres: Covariancia i coeficient de correlaci´o
• 5.2. Vector aleatori (X, Y ), amb X i Y variables aleat`ories cont´ınues
• 5.2.1. Funci´o de distribuci´o conjunta. Funci´o de densitat conjunta
• 5.2.2. Funcions de densitat marginals. Esperances
• 5.2.3. Probabilitat condicionada. Variables independents
• 5.2.4. Parametres: Covariancia i coeficient de correlaci´o
• 6. Glossari
• II Processos estoc`astics
• 7. Introducci´o als processos estoc`astics
• 7.1. Definici´o de proc´es estoc`astic
• 7.2. Processos a temps continu i a temps discret
• 7.3. Processos d’estat continu i d’estat discret
• 7.4. Exemples de processos estoc`astics
• 7.4.1. Processos representables expl´ıcitament en termes de variables aleat`ories
• 7.4.2. Processos amb infinits graus de llibertat aleatoris
• 8. Caracteritzaci´o estad´ıstica dels processos estoc`astics
• 8.1. Funcions de densitat i distribuci´o d’ordre n
• autocovariancia. Potencia 8.2. Parametres d’un proc´es estocastic. Funcions de valor mitj`a, autocorrelaci´o i
• 8.3. Exemples de calcul de parametres
• 9. Processos estoc`astics estacionaris
• 9.1. Estacionarietat en sentit estricte i en sentit ampli
• 9.2. Oscil.lacions aleat`ories
• 9.3. Cicloestacionarietat
• 9.4. Espectre de pot`encia d’un proc´es estacionari
• 10. Exemples de processos estoc`astics
• 10.1. Processos estoc`astics gaussians
• 10.1.1. Variable gaussiana n-dimensional
• 10.1.2. Proc´es estocastic gaussia
• 10.1.3. Propietats dels processos gaussians estacionaris
• 10.1.4. Soroll blanc
• 10.2. El proc´es estoc`astic de Poisson
• 10.2.1. El proc´es de Poisson.
• 10.2.2. Par`ametres del proc´es de Poisson
• 10.2.3. Senyal telegr`afic aleatori
• 10.2.4. Distribuci´o dels instants de Poisson
• 11. Sistemes lineals
• 11.1. Definici´o de sistema lineal. Determinisme, invari`ancia temporal
• 11.2. Par`ametres d’un proc´es transformat linealment
• 11.3. Exemple: circuit L-R
• 12. Glossari

Part I

Probabilitat

mostres que tenen els mateixos elements per`o ordenats de forma diferent, les conside- rem la mateixa. A l’exemple 1.1, m 4 i m 5 s´on la mateixa mostra.

• Definici´o 1.4 Mostra de mida m , no ordenada i amb repetici´o (o reemplac¸ament).

Per formar la mostra podem repetir els elements del conjunt A, i si tenim dues mostres que tenen els mateixos elements per`o ordenats de forma diferent, les considerem la mateixa. A l’exemple 1.1, m 1 i m 2 representen la mateixa mostra i m 3 ´es la mateixa mostra que m 4.

Veiem quantes mostres podem formar de cada un dels tipus anteriors.

1.1. Mostres ordenades amb repetici´o.Variacions amb repetici´o

Si ens fixem en l’exemple 1.1, podem pensar que per formar una mostra d’aquest tipus hem d’omplir m = 4 posicions. A la primera posici´o podem posar qualsevol dels 10 elements del conjunt A, tenim 10 possibilitats. Un cop hem omplert la primera posici´o, a la segona posici´o tamb´e podem posar qualsevol dels 10 elements del conjunt A i per cada una d’aquestes possibilitats en tenim 10 de diferents de la primera posici´o. Seguint aquest raonament, veiem que podem formar 10 · 10 · 10 · 10 mostres. Anomenem variacions amb repetici´o de 10 elements agafats de 4 en 4 , V R 10 , 4 = 10^4.

En general, si partim d’un conjunt A = {a 1 , a 2 , · · · an} amb n elements, el nombre de mostres de mida m ordenades i amb repetici´o que es poden formar ´es

V Rn,m = nm.

Exemple 1.2 Quantes paraules de mida 3 es poden formar amb els elements del conjunt { 0 , 1 }?

En un conjunt de 2 elements, hem de trobar les mostres de mida 3 ordenades i amb repeti- ci´o, V R 2 , 3 = 2^3 = 8.

1.2. Mostres ordenades sense repetici´o. Variacions. Permutacions

Tornem a l’exemple 1.1. A partir del conjunt A = {a 1 , a 2 , · · · a 10 } volem formar mostres de mida 4 que no tinguin elements repetits. Hem d’omplir m = 4 posicions. A la primera posici´o podem posar qualsevol dels 10 elements del conjunt A, tenim 10 possibilitats. Un cop hem omplert la primera posici´o, a la segona posici´o nom´es podem posar 9 elements del conjunt A, ja que no podem repetir l’element que hem posat a la primera posici´o. Seguint

aquets raonament veiem que podem formar 10 · 9 · 8 · 7 mostres. Anomenem aquesta quantitat variacions de 10 elements agafats de 4 en 4 , V 10 , 4 = 10 · 9 · 8 · 7 = 5040.

En general, si partim del conjunt A = {a 1 , a 2 , · · · an}, el nombre de mostres de mida m (m ≤ n), ordenades i sense repetici´o que es poden formar ´es

Vn,m = n · (n − 1) · · · (n − m + 1).

En el cas particular que m = n, Vn,n = n · (n − 1) · · · 1 = n!, factorial de n. Aquest nombre ens d´ona les maneres d’ordenar n elements. Per al cas n = 0 s’adopta el conveni 0! = 1.

Exemple 1.3 Hem de connectar 4 cables diferents a 3 endolls diferents. Quantes possi- bilitats tenim?

Sigui el conjunt dels 4 cables, A = {a, b, c, d}. Una mostra la podem pensar com a acb , on la posici´o de la lletra indica un endoll determinat. Per exemple, si considerem la mostra acb volem indicar que el cable a ´es a l’endoll 1 , el cable c a l’endoll 2 i el cable b a l’endoll 3_. Si pensem en_ cab , ´es una mostra diferent de l’anterior, ja que ara ´es el cable c el que ´es a l’endoll 1_. Hem de comptar el nombre de mostres de mida_ 3 , ordenades i sense repetici´o que es poden formar en un conjunt de 4 elements. Aix´ı, V 4 , 3 = 4 · 3 · 2 = 24.

Aquestes s´on totes les mostres:

abc acb bac bca cab cba abd adb bad bda dab dba acd adc cad cda dac dca bcd bdc cbd cdb dbc dcb

1.3. Mostres no ordenades sense repetici´o. Combinacions

Ens fixem en l’exemple 1.3 i el modifiquem lleugerament.

Exemple 1.4 Hem de connectar 4 cables diferents a 3 endolls iguals (indistingibles). Quantes possibilitats tenim?

Si ens fixem en les mostres que hem escrit a l’exemple 1.3, observem que en aquest nou exemple, totes les mostres que hi ha a la mateixa fila s´on la mateixa ja que l’unic que importa ´es el conjunt de tres cables que hem triat per connectar. Per tant, hem de dividir el nombre de mostres que tenim en una fila per 3!. En tenim, doncs, V 3!^4 ,^3 =^246 = 4.

abc abd acd bcd

A i les altres dues a la caixa B_. La mostra_ AABB ´es la mateixa que BABA , ja que les boles s´on iguals (indistingibles), per tant nom´es l’hem de comptar un cop. Veiem que des d’aquest punt de vista (primer model), tenim mostres de mida 4 (boles indistingibles) amb repetici´o i no ordenades. Ara b´e, per calcular la quantitat de mostres d’aquest tipus, ´es millor pensar cada una d’aquestes mostres des d’un altre punt de vista. Pensem que hem d’omplir 6 espais amb 4 s´ımbols del tipus • i 2 s´ımbols del tipus |. La ra´o de que sigui aix´ı la veiem a continuaci´o: Ens imaginem les tres caixes seguint aquest ordre, A|B|C , i ara, per simplificar, nom´es cal que ens imaginem les separacions entre les caixes. Cada s´ımbol | representa una separaci´o entre dues caixes consecutives i per tant, nom´es necessitem 2 separacions. De les 6 posicions que tenim, en triem dues per posar les separacions i a les altres posicions posem els s´ımbols •. El que acabem d’explicar ho podem veure en algunes mostres

primer model

segon model omplim 6 espais 1 2 3 4 5 6

posicions de les separacions

AAAA • • • • | | { 5,6 }

AAAB • • • | • | { 4,6 }

AABC • • | • | • { 3,5 }

CCCC | | • • • • { 1,2 }

Cada mostra queda caracteritzada per la posici´o de les dues separacions entre les 6 que podem triar. Observem que el nombre de posicions per triar ´es la suma ( boles + separa- cions ) = 4 + (3 − 1) = 6_. Donar dues posicions ´es el mateix que donar un subconjunt de_ 2 elements dins d’un conjunt de 6 elements. Per tant, el que estem comptant ´es el nombre de subconjunts de 2 elements que podem formar en un conjunt de 6 elements, ( 3 −1+ 4

2

4

) (^) = 15. El fet que ( 6 2

4

) , reflecteix el fet que ´es el mateix

comenc¸ar triant la posici´o de les separacions que la posici´o de les boles.

AAAA BBBB CCCC AAAB AAAC BBBA

BBBC CCCA CCCB AABB AACC BBCC

AABC BBAC CCAB

En general, en un conjunt de n elements, el nombre de mostres de mida m, no ordenades i amb repetici´o ´es:

CRn,m = Cn−1+m,m =

n − 1 + m m

n − 1 + m n − 1

En diem, combinacions amb repetici´o de n elements agafats de m en m.

1.5. Altres exemples

1) Es vol connectar (cablejar) els punts A i B, de manera que el cam´ı segueixi la quadr´ıcula que marca el dibuix. Nom´es ´es permes anar a la dreta (1) i a dalt (0). Al grafic teniu rep- resentat un dels camins possibles, que vindria descrit per la seq¨u`encia 110000011110.

A

B

C

D

E

a) Calculeu el nombre de camins possibles entre A i B. Volem con`eixer el nombre de mostres del tipus 110000011110 , on hem de mantenir el nombre de zeros. Cada 0 ocupa una posici´o que ´es determinada per un nombre del conjunt A = { 1 , 2 , · · · , 12 }; aix´ı, a la mostra 110000011110 li fem correspondre el subconjunt de 6 elements { 3 , 4 , 5 , 6 , 7 , 12 }. El nombre de subconjunts de 6 elements que podem formar amb els elements de A es´

b) Calculeu el nombre de camins possibles entre A i B que passin per C. De A a C hi ha

possibilitats i de C a B

possibilitats. En total hi haur`a ( 5 2

c) Calculeu el nombre de camins possibles entre A i B que passin per C i per E. ( 5 2

2) Considereu totes les solucions de l’equaci´o x 1 + x 2 + x 3 + x 4 = 50, on x 1 , x 2 , x 3 , x 4 prenen valors naturals.

a) Quantes n’hi ha?

b) Quantes en que, una i nom´es una de les incognites sigui 0? 4

c) Quantes hi ha, de manera que x 1 , x 2 , x 3 , x 4 prenguin valors parells?

2 + 4^ −^1

d) Quantes hi ha, de manera que x 1 , x 2 , x 3 , x 4 prenguin valors senars?

2 + 4^ −^1

3) Volem omplir la quadr´ıcula seg¨uent amb 20 fitxes diferents.

a) De quantes maneres ho podem fer si podem posar totes les fitxes que vulguem dins d’un mateix quadre? V R 25 , 20 = 25^20.

2. Espai de probabilitat.

Molt sovint ens interessem per fenomens on interv´e l’atzar. Aquests fenomens es caracte- ritzen perque el resultat de les observacions varien d’una experiencia a una altra.

La probabilitat que es realitzi un cert resultat en una experiencia donada esta relacionada amb la freq¨uencia d’aquest resultat, si repet´ıssim _molts cops_ l’experiencia. Al llarg de la historia s’han proposat diverses definicions matematiques de probabilitat (motivades principalment pels jocs d’atzar). Pero no ´es fins a principi del segle XX que s’introdueix el model probabil´ıstic de forma axiomatica i aix´ı es formalitzen totes les anteriors idees.

Comencem el cap´ıtol donant les eines basiques necessaries per poder formalitzar el con- cepte de probabilitat.

2.1. Experiencia aleatoria i successos. Operacions b`asiques i propietats

Definici´o 2.1 Suposem que en repetir una determinada experiencia en les mateixes condi- cions podem obtenir un conjunt de resultats diferents. Diem que l’experiencia ´es aleat`oria si ´es impossible de predir-ne el resultat. Per exemple:

• Observaci´o del temps que triga un aparell nou abans d’espatllar-se.
• Observaci´o del temps de durada de vida d’una persona an`onima.
• Observaci´o del nombre de peticions que arriben a un servidor no sobrecarregat.

Exemple 2.1 En llanc¸ar un dau podem obtenir un resultat qualsevol d’entre els seg¨uents { 1 , 2 , 3 , 4 , 5 , 6 } , pero no podem predir-ne quin. Es tracta d’una experiencia aleat`oria. El conjunt format per tots els possibles resultats, Ω = { 1 , 2 , 3 , 4 , 5 , 6 } , s’anomena espai mostral.

Definici´o 2.2 Anomenem espai mostral, Ω , el conjunt de resultats possibles d’una ex- Diem que “passa A ” quan el resultat de l’experiment ´es un element de A_._

periencia aleatoria.

Definici´o 2.3 Donat un espai mostral, Ω , anomenem succ´es (esdeveniment), A , qualsevol subconjunt de l’espai mostral, A ⊂ Ω. Un succ´es es diu elemental quan t´e un ´unic element.

Exemple 2.2 Continuant amb l’exemple 2.1, veiem alguns successos i algunes maneres

de descriure’ls:

A = { nombre parell } = { 2 , 4 , 6 } , B = { nombre m´es gran que 3 } = { 4 , 5 , 6 }

En aquest exemple tenim 6 successos elementals o successos que tenen un sol element: { 1 } , { 2 } , { 3 } , { 4 } , { 5 } i { 6 }.

Exemple 2.3 Rebem un missatge binari (format amb elements de { 0 , 1 } ), de llargada 3 (o de mida 3 ).

• L’espai mostral ´es Ω = { 000 , 001 , 010 , 100 , 011 , 101 , 110 , 111 }. Com que t´e 8 ele- ments, diem que el cardinal d’omega ´es 8 i escrivim | Ω |= 8.
• Alguns successos: A = { 000 , 001 , 010 } , B = { missatges amb un sol 0 } , C = { 011 , 101 } , D = { 010 , 100 , 011 , 111 }. { 000 , 001 , 010 } = { 010 , 000 , 001 }. No importa l’ordre en qu `e escrivim els Definici´o 2.4 Donats dos conjunts A i B , A, B ⊂ Ω : elements d’un conjunt.
• Complementari de A , Ac , ´es el conjunt que t´e per elements tots els de Ω que no s´on de A_._
• A uni´o B , A ∪ B , ´es el conjunt que t´e tots els elements de A i tamb´e els de B_._
• A intersecci´o B , A ∩ B , ´es el conjunt que t´e tots els elements de A que alhora tamb´e s´on de B_._
• ∅ ´es el conjunt buit i Ω ´es el conjunt total.
• Diem que dos conjunts A i B s´on disjunts, quan A ∩ B = ∅ , ´es a dir, no tenen cap element en com´u.
• Diem que els conjunts A 1 , A 2 , · · · An formen una partici´o de Ω quan els conjunts s´on disjunts dos a dos, i la uni´o de tots ells ´es el conjunt total. ´Es a dir,

Ai

Aj = ∅ per i = j i

⋃^ n i=

Ai = Ω.

Exemple 2.4 En aquest exemple representem una partici´o, A 1 , A 2 , A 3 , A 4 , A 5 , d’un conjunt Ω = { 1 , 2 , 3 , 4 , 5 , 6 , 7 , 8 , 9 , 10 } , amb A 1 = { 1 } , A 2 = { 2 , 3 } , A 3 = { 4 , 5 , 6 } , A 4 = { 7 , 8 } i A 5 = { 9 , 10 }. La uni´o de tots ells ´es el total, A 1 ∪ A 2 ∪ A 3 ∪ A 4 ∪ A 5 = Ω , i la intersecci´o entre dos qualssevol ´es buida. Vegem dues representacions,

Vegem les anteriors definicions en termes probabil´ıstics:

A uni´o C, A ∪ C = { 011 , 101 , 000 , 001 , 010 , 100 } A intersecci´o C, A ∩ C = ∅

2.2. Definici´o axiom`atica de probabilitat. Espai finit equiprobable

El resultat d’una experiencia aleatoria no es pot preveure amb certitud. La teoria de la probabilitat d´ona un pes a cada un dels possibles resultats, ´es a dir, un nombre que avalua la certesa que tenim que un resultat es doni.

Definici´o 2.5 A partir d’una experiencia aleatoria amb l’espai mostral Ω , considerem el conjunt format per tots els subconjunts de Ω , P(Ω). Una probabilitat sobre Ω es una´ aplicaci´o que a cada subconjunt A ⊂ Ω ( A ∈ P(Ω) ), li assigna un nombre real, P (A) , que verifica:

1) 0 ≤ P (A) ≤ 1.

2) P (Ω) = 1.

3) Si A ∩ B = ∅ aleshores P (A ∪ B) = P (A) + P (B).

Diem que tenim un espai de probabilitat quan tenim un conjunt Ω^ on hem definit una probabilitat.

Dels axiomes anteriors es dedueixen les seg¨uents propietats:

Proposici´o 2.1 Propietats

1) La probabilitat del succ´es impossible ´es 0_._

2) Donat un succ´es qualsevol A , es verifica P (Ac) = 1 − P (A). Aquesta propietat ´es clara si pensem que A i Ac^ formen una partici´o del total, Ω.

3) Donats dos successos A i B , P (A ∪ B) = P (A) + P (B) − P (A ∩ B).

La prova de les tres primeres propietats ´es immediata. Fem la prova d’aquesta ´ultima propietat. Posem el conjunt A com a uni´o de dos conjunts disjunts,

A = (A ∩ B) ∪ (A ∩ Bc)

Com que tenim una uni´o de dos conjunts disjunts (ho podem veure a la figura), la proba- bilitat ´es suma de probabilitats,

P (A) = P (A ∩ B) + P (A ∩ Bc) (2.1)

A ∩ Bc^ A ∩ B

A B

Representaci ´o de A ∩ Bc^ i A ∩ B

De manera semblant, escrivim A ∪ B com a uni´o de dos conjunts disjunts,

A ∪ B = (A ∩ Bc) ∪ B

llavors, P (A ∪ B) = P (A ∩ Bc) + P (B) (2.2)

de les equacions 2.1 i 2.2 obtenim P (A ∪ B) = P (A) + P (B) − P (A ∩ B).

Definici´o 2.6 Espai finit equiprobable

En un espai finit equiprobable que t´e per espai mostral Ω = {a 1 , a 2 , · · · an} , cada un dels successos elementals t´e la mateixa probabilitat. Aix´ı,

P ({a 1 }) = P ({a 2 }) = · · · = P ({an}) = p

i com que s’ha de verificar que

P ({a 1 }) + P ({a 2 }) + · · · + P ({an}) = np = 1

es t´e que la probabilitat de cada succ´es elemental ´es P ({ai}) = n^1.

Proposici´o 2.2 Llei de Laplace

En un espai equiprobable, la probabilitat d’un succ´es A es el quocient entre el nombre´ d’elements de A i el nombre d’elements de l’espai mostral. S’acostuma a dir

P (A) = nombre de casos favorables nombre de casos possibles.

Exemple 2.5 Considerem l’experi`encia de llenc¸ar una moneda tres cops seguits. L’espai mostral ´es Ω = {© © ©, © © +, + © ©, © + ©, + + ©, + © +, © + +, + + +}. Si la moneda ´es perfecta es tracta d’un espai equiprobable. Siguin els seg¨uents successos: A = { han sortit dues cares } , B = { no ha sortit cap cara } , C = { ha sortit una creu } , D = { almenys ha sortit una creu }. Calculem algunes probabilitats. El fet que l’espai sigui equiprobable ens permet aplicar la llei de Laplace. En cada cas cal comptar el nombre d’elements que t´e el conjunt i dividir per 8_._

Probabilitat que surtin dues cares, P (A) = 38. Probabilitat que no surti cap cara, P (B) = 18. Probabilitat que surti una creu, P (C) = 38.