Método do Gradiente Otimização, Notas de aula de Métodos Numéricos em Engenharia

Baixe Método do Gradiente Otimização e outras Notas de aula em PDF para Métodos Numéricos em Engenharia, somente na Docsity!

14 Nov 2008. 16:

Cálculo Numérico / Métodos Numéricos

Sistemas linearesMétodo dos Gradientes

Método dos Gradientes „^

Os métodos do tipo gradiente para resolver o sistemaAx = b têm como idéia básica minimizar a função de xseguinte:

F(x) = ½ x

TAx - b

Tx

min F(x) = ½ x

T Ax – b

T x = ½ (Ax,x) – (b,x).

„^

A matriz A deve ser simétrica (A

T = A) e definida

positiva (x

TAx>0, para x

Método dos Gradientes – revisão cálculo „^

Do cálculo sabemos que um ponto P = (x

, x 1

) tal que o 2

grad F(P) = 0 é chamado de

ponto estacionário

de F(x).

„^

Seja A a matriz dada por: Assim, se: „^

A) A(P) : definida positiva, então P é

ponto de mínimo

„^

B) A(P) : definida negativa, então P é ponto de máximo; „^

C) A(P) : indefinida, então P é ponto de cela.

    ∂ ∂=∂ ∂

1 2

) (

F x F x

x grad

     

     

∂ ∂ ∂

∂ ∂ ∂

∂ ∂ ∂

∂ ∂ ∂ =

2 2

1 2

2 1 1 1 ) ( x F x

x F x

x F x

x F x

x A

Método dos Gradientes „^

Por hipótese, para o método dos Gradientes, A deveser simétrica e definida positiva, logo, um pontoestacionário P, ou seja, um ponto em que grad(P) = 0, éum

ponto de mínimo

„^

Voltando ao exemplo temos:

Sistema linear.

2

2 22 1 12

1

2 12 1 11

2 2 22 1 12

1 2 12 1 11

2 2 1 1 (^22) 22

1 2 12 (^21) 11

b

a

a

b a a 0 b a a

b

a

a ) (

b

b

a 1 2

a

1 a 2 ) (

x

x

x

x

x

x

x

x

x F

grad

x x x x x x x F

Método dos Gradientes

Método dos Gradientes

Sistema original

Solução:

Método dos Gradientes „^

Note que: „^

Para o valor que minimiza a função F(x) temos que: „^

No entanto, em outros pontos de F(x): „^

Ou ainda, tomando menos o valor do gradiente, temos adiferença entre b e Ax.

(Sabemos o quão distante a solução x

está de resolver o sistema Ax=b). „^

Em outras palavras, o resíduo da solução x é dado por:

b Ax x F

grad

(^

=^

b Ax x F

grad

(^

=^

b Ax x F

grad

r Ax b x F

grad

−^

Direção^ „^

O vetor gradiente aponta a direção (sentido) de crescimentomáximo de uma função. Portanto, é natural que, nos passos debusca do mínimo de uma função caminhemos na direção contráriaao gradiente, isto é, para um dado ponto

(k)x

temos:

„^

Em que a direção é dada por

)(

)(

)(

)(

(^

k

k

k

k^

r

Ax b b

Ax

x F

grad

p^

(^

)(

)(

) 1 (^

k

k k

k^

x F

grad s

x

x^

Passo^ „

Dado um x

(k)

, queremos o melhor x

(k+1)

possível. Ele

será obtido andando-se a quantia certa na direçãooposta ao gradiente: „^

Quantia certa:s^ k

que minimiza : F(

(k)x

+s

rk

(k)

min )

(

min

)(

)(

) 1 (^

k k k

k^

r s

x F

x F^

Método dos Gradientes

)

(

min )

(

min

)(

)(

) 1 (^

k k k

k^

rs

x F

x F^

=

)

( )

( )

1 ( 2 )

(^

sr x b sr x A sr x

sr x F^

T

T^

• − + + = +

Queremos minimizar:Simplificando a notação, temos que:

r b Ar sr x

sr x A r

sr x F^

T

T

T^

′^

Derivando em relação a

s

temos:

Método dos Gradientes

Ar r

sr x F^

T

′′^

Tomando a segunda derivada de F(x+sr):Uma vez que a matriz A é definida positiva sabemosque:

(^

′′^

Ar r

sr x F^

T

Logo, o ponto obtido anteriormente é um ponto demínimo.

Método dos Gradientes - Algoritmo „^

Dados A, b, max e Erro „^

1. x

(0)

„^

1. k = 0 „^

2. r = b - Ax

(k)

„^

1. s = r

T^

r/r

T Ar

„^

1. x

(k+1)

= x

(k)

• s r

„^

1. Se ||x

k+

-x

||k

/||x∞

k+

∞^

< Erro então faça solução

= x

(k+1)

e PARE

„^

1. k = k+ „^

2. Se (k

Método dos Gradientes - Exemplo „^

Solução

(passo)

(direção)

Método dos Gradientes - Exemplo

||x

2 -x

∞

||x

∞

=0.