Docsity
Docsity

Prepare-se para as provas
Prepare-se para as provas

Estude fácil! Tem muito documento disponível na Docsity


Ganhe pontos para baixar
Ganhe pontos para baixar

Ganhe pontos ajudando outros esrudantes ou compre um plano Premium


Guias e Dicas
Guias e Dicas


Desigualdades Probabilísticas, Notas de estudo de Probabilidade

Chebychev, Holder, Lyapunov, etc

Tipologia: Notas de estudo

2011

Compartilhado em 15/06/2011

wagner-jorge-firmino-da-silva-9
wagner-jorge-firmino-da-silva-9 🇧🇷

3.5

(2)

32 documentos

1 / 40

Toggle sidebar

Esta página não é visível na pré-visualização

Não perca as partes importantes!

bg1
Introdu¸ao aos Processos Estoc´asticos -
Desigualdades e Convergˆencia
Eduardo M. A. M. Mendes
DELT - UFMG
Programa de os-Gradua¸ao em Engenharia El´etrica
Universidade Federal de Minas Gerais
Eduardo Mendes (DELT - UFMG Programa de os-Gradua¸c˜ao em Engenharia El´etrica Universidade Federal de Minas Gerais emmendes@cpdee.ufmg.br)MACSIN 1 / 40
pf3
pf4
pf5
pf8
pf9
pfa
pfd
pfe
pff
pf12
pf13
pf14
pf15
pf16
pf17
pf18
pf19
pf1a
pf1b
pf1c
pf1d
pf1e
pf1f
pf20
pf21
pf22
pf23
pf24
pf25
pf26
pf27
pf28

Pré-visualização parcial do texto

Baixe Desigualdades Probabilísticas e outras Notas de estudo em PDF para Probabilidade, somente na Docsity!

Introdu¸c˜ao aos Processos Estoc´asticos -

Desigualdades e Convergˆencia

Eduardo M. A. M. Mendes DELT - UFMG Programa de P´os-Gradua¸c˜ao em Engenharia El´etrica Universidade Federal de Minas Gerais [email protected] Eduardo Mendes (DELT - UFMG Programa de P´os-Gradua¸c˜ao em Engenharia El´MACSIN etrica Universidade Federal de Minas Gerais emmendes1 / 40

Introdu¸c˜ao

A seguir ser˜ao descritas as v´arias desigualdades usadas no contexto de probabilidade e processos estoc´asticos. Ser˜ao mencionadas tamb´em as defini¸c˜oes de convergˆencia. Eduardo Mendes (DELT - UFMG Programa de P´os-Gradua¸c˜ao em Engenharia El´MACSIN etrica Universidade Federal de Minas Gerais emmendes2 / 40

Desigualdade de H¨older (cont.)

Como (^1) p + (^) q^1 = 1 ou (p pq+q )= 1, temos (p+ q q)= p e (p+ p q)= q e ab ≤ bp p

aq q Substituindo b =

|X |

(E (|X |p)) (^1) p^ e^ a^ =^

|Y |

(E (|Y |q)) (^1) q na express˜ao logo acima, temos:

|X ||Y |

(E (|X |p)) (^1) p (E (|Y |q)) q^1 ≤

|X | (E (|X |p^ )) p^1 )p p

|Y | (E (|Y |q^ )) (^1) q )q q

|X |p E (|X |p^ ) p

|Y |q E (|Y |q^ ) q Eduardo Mendes (DELT - UFMG Programa de P´os-Gradua¸c˜ao em Engenharia El´MACSIN etrica Universidade Federal de Minas Gerais emmendes4 / 40

Desigualdade de H¨older (cont.)

Tomando o valor esperado obtemos E (XY ) (E (|X |p)) 1 p (^) (E (|Y |q)) 1 q

p

q

a desigualdade segue direto da rela¸c˜ao acima. Eduardo Mendes (DELT - UFMG Programa de P´os-Gradua¸c˜ao em Engenharia El´MACSIN etrica Universidade Federal de Minas Gerais emmendes5 / 40

Desigualdade de Minkowski

Se p ´e um n´umero real com p ≥ 1 e se as vari´aveis aleat´orias X , Y e |X |p, |Y |p^ s˜ao integr´aveis, ent˜ao (E (|X + Y |p)) (^1) p ≤ (E (|X |p)) (^1) p

  • (E (|Y |p)) (^1) p Prova: Se p = 1 o resultado segue da desigualdade referente ao triˆangulo. Para p > 1 E (|X + Y |p) = E (|X + Y ||X + Y |p−^1 ) ≤ E (|X ||X + Y |p−^1 ) + E (|Y ||X + Y |p−^1 ) Usando a desigualdade de H¨older e (^) q^1 = 1 − (^1) p , temos E (|X + Y |p^ ) ≤ (E (|X |p^ ) (^1) p (E (|X + Y |)p^ )^1 −^ (^1) p
  • (E (|Y |p^ ) (^1) p (E (|X + Y |)p^ )^1 −^ (^1) p dividindo por (E (|X + Y |)p)^1 −^ p^1 resulta na desigualdade. Eduardo Mendes (DELT - UFMG Programa de P´os-Gradua¸c˜ao em Engenharia El´MACSIN etrica Universidade Federal de Minas Gerais emmendes7 / 40

Desigualdade de Jensen

Se φ ´e uma fun¸c˜ao convexa e cont´ınua e se ambos X e φ(X ) s˜ao integr´aveis, ent˜ao φ(E (X )) ≤ E (φ(X )) Prova: Se φ ´e uma fun¸c˜ao convexa, podemos construir uma corda ai + bi x tal que ai + bi x ≤ φ(x) e sup x (ai + bi x) = φ(x) logo ai + bi X ≤ φ(X ) e ai + bi E (X ) ≤ E (φ(X )) Eduardo Mendes (DELT - UFMG Programa de P´os-Gradua¸c˜ao em Engenharia El´MACSIN etrica Universidade Federal de Minas Gerais emmendes8 / 40

Desigualdade de Chebyshev

Objetivo: Achar um limite para a probabilidade a partir da variˆancia P(|X − E (X )| > γ) O que pode ser dito se pX (x) n˜ao pode ser integrada ou n˜ao ´e conhecida? Podemos estimar E (X ) e Var (X ), ent˜ao P(|X − E (X )| > γ) ≤ B onde B = Var (X ) γ^2 Eduardo Mendes (DELT - UFMG Programa de P´os-Gradua¸c˜ao em Engenharia El´MACSIN etrica Universidade Federal de Minas Gerais 10 / 40emmendes

Desigualdade de Chebyshev (cont.)

Exemplo: X ∼ N(0, 1), E (X ) = 0, Var (X ) = 1. Supondo γ = 3, temos P(|X − 0 | > 3) ≤

Calculando P(|X | > 3) = 2P(X > 3) ≈ 0 , 0027 < 0 , 11 limite muito conservador! Exemplo: PDF Laplaciano com σ^2 = 1 = Var (X )

P(|X − 0 | > 3) ≤

1 9 ≈ 0 , 11

Conclus˜ao: Mesmo limite para todas as PDFs com Var (X ) = 1. Eduardo Mendes (DELT - UFMG Programa de P´os-Gradua¸c˜ao em Engenharia El´MACSIN etrica Universidade Federal de Minas Gerais 11 / 40emmendes

Desigualdade de Chebyshev (cont.)

o que conclui a nossa prova. Eduardo Mendes (DELT - UFMG Programa de P´os-Gradua¸c˜ao em Engenharia El´MACSIN etrica Universidade Federal de Minas Gerais 13 / 40emmendes

Teorema de Markov e Desigualdade de Chebyshev

Teorema: Se X ´e uma vari´avel aleat´oria e g (X ) ´e uma transforma¸c˜ao de X tal que g (X ) > 0, ent˜ao, para qualquer K > 0 P(g (X ) ≥ K ) ≤ E (g (X )) K Prova: Usando a fun¸c˜ao indicadora, ou seja I (g (X )) =

1 se g (X ) ≥ K , 0 caso contr´ario Se g (X ) ≥ 0 e I (g (X )) ≤ 1, podemos escrever para a primeira condi¸c˜ao I (g (X )) ≤ g (X ) K Tomando o valor esperado Eduardo Mendes (DELT - UFMG Programa de P´os-Gradua¸c˜ao em Engenharia El´MACSIN etrica Universidade Federal de Minas Gerais 14 / 40emmendes

Teorema de Markov e Desigualdade de Chebyshev (cont.)

Repare que se fizermos g (X ) = (X − μ)^2 e K = k^2 σ^2 , temos

P

(

(X − μ)^2 ≥ k^2 σ^2

)

≤ E (

(X − μ)^2

k^2 σ^2

σ^2 k^2 σ^2 Podemos usar (X − μ)^2 ≥ k^2 σ^2 da seguinte maneira (X − μ)^2 ≥ k^2 σ^2 →

X − μ ≥

k^2 σ^2

ou

X − μ ≤ −

k^2 σ^2

|X − μ| ≥

k^2 σ^2

→ (|X − μ| ≥ kσ) Logo P (|X − μ| ≥ kσ) ≤

k^2 que ´e a desigualdade de Chebyshev para k = γσ. Lembrando que σ^2 nada mais ´e do que Var (•). Eduardo Mendes (DELT - UFMG Programa de P´os-Gradua¸c˜ao em Engenharia El´MACSIN etrica Universidade Federal de Minas Gerais 16 / 40emmendes

Limites de Chernoff

Fornece um limite menos conservador comparado com Markov e Chebyshev. ´E aplicado quando a vari´avel aleat´oria ´e a soma de v´arias vari´aveis aleat´orias mutuamente independentes. ´E o limite na probabilidade de se desviar da m´edia. N˜ao se aplica a todas as distribui¸c˜oes. S´o aplic´avel a soma de VAs definidas no intervalo [0, 1]. N˜ao depende diretamente do n´umero de vari´aveis somadas. Eduardo Mendes (DELT - UFMG Programa de P´os-Gradua¸c˜ao em Engenharia El´MACSIN etrica Universidade Federal de Minas Gerais 17 / 40emmendes

Limites de Chernoff (cont.)

P (X ≥ cE (X )) = P (R ≥ (c − 1)E (X )) = P

cR^ ≥ c(c−1)E^ (X^ )

E (cR^ ) c(c−1)E^ (X^ )^ Usando o Teorema de Markov Sabemos E (cR^ ) = E

cR^1 +R^2 +···+RN^

)

= E   ∏^ N

j= cRj

∏^ N

j=

E

(

cRj^

independˆencia Eduardo Mendes (DELT - UFMG Programa de P´os-Gradua¸c˜ao em Engenharia El´MACSIN etrica Universidade Federal de Minas Gerais 19 / 40emmendes

Limites de Chernoff (cont.)

Precisamos

  1. Se −m ≤ z ≤ 1 − m, ent˜ao cz^ ≤ c−m(1 + m(c − 1)) + z(c^1 −m^ − c−m) Repare que o lado direito descreve uma equa¸c˜ao de uma reta que corta a curva cz^ em dois pontos: −m e 1 − m. Como cz^ ´e convexa, neste intervalo, a curva se encontra abaixo da reta.
  2. 1 + m(c − 1) ≤ em(c−1)^ que ´e consequˆencia direta da expans˜ao em s´eries de Taylor (1 + x ≤ ex^ ). Eduardo Mendes (DELT - UFMG Programa de P´os-Gradua¸c˜ao em Engenharia El´MACSIN etrica Universidade Federal de Minas Gerais 20 / 40emmendes