Redes neuronales introductivas, Diapositivas de Redes Inalámbricas

¡Descarga Redes neuronales introductivas y más Diapositivas en PDF de Redes Inalámbricas solo en Docsity!

Patricio García BáezPatricio García Báez 1

Introducción a las Redes

Neuronales y su aplicación a la

Investigación Astrofísica

Patricio García Báez

Patricio García Báez

[email protected]

[email protected]

Patricio García BáezPatricio García Báez 2

Sumario

u

Introducción

Introducción

u

Inspiración biológica

Inspiración biológica

u

Modelado Neuronal

Modelado Neuronal

u

Implementaciones

Implementaciones

u

Aplicaciones

Aplicaciones

u

Grupo de trabajo

Grupo de trabajo

u

Futuro de las RNAs

Futuro de las RNAs

Patricio García BáezPatricio García Báez 4

RNA como Modelo de Computación

Conexionista vs. Von Neumann

Conexionista vs. Von Neumann

• Masivamente paralelo

Masivamente paralelo

• Datos y programa

Datos y programa

indiferenciable en las

indiferenciable en las

conexiones

conexiones

• Solución inducida por

Solución inducida por

aprendizaje

aprendizaje

• Impredicibilidad de

Impredicibilidad de

resultados

resultados

• Gran tolerancia a fallos

Gran tolerancia a fallos

• Arquitectura secuencial

Arquitectura secuencial

• Separa claramente datos

Separa claramente datos

del programa en la

del programa en la

memoria

memoria

• Solución como algoritmo

Solución como algoritmo

o programa introducido

o programa introducido

• Resultados totalmente

Resultados totalmente

predecibles

predecibles

• No tolera errores

No tolera errores

Patricio García BáezPatricio García Báez 5

Áreas de Trabajo

Arquitectura y Teoría de RN

Implementaciones

Aplicaciones

Informática

Matemáticas

Física

Neurofisiología

Sicología

Procesamiento de Señales

Procesamiento de Señales

Análisis de Datos

Análisis de Datos

Reconocimiento de Patrones Reconocimiento de Patrones

Control

Control

Inteligencia Artificial Inteligencia Artificial

Desarrollo de aplicaciones

Desarrollo de aplicaciones

basadas en técnicas

basadas en técnicas

conexionistas

conexionistas

Construcción de modelos

Construcción de modelos

neuronales

neuronales

Proponer y validar modelos de

Proponer y validar modelos de

funcionamiento de arquitecturas

funcionamiento de arquitecturas

neuronales neuronales

Patricio García BáezPatricio García Báez 7

Inspiración biológica

u Neuronas:

Neuronas:

Árbol dendrítico de

Árbol dendrítico de

entradas

entradas

Un axón de salidaUn axón de salida

Sobre de

Sobre de

4

4

sinapsis

sinapsis

Comunicación mediante

Comunicación mediante

Potenciales de Acción (PA)

Potenciales de Acción (PA)

Periodo refractario de 10

Periodo refractario de 10

segundos entre PAs

segundos entre PAs

Patricio García BáezPatricio García Báez 8

Inspiración biológica

u Transmisión neuronal:

Transmisión neuronal:

Impulso eléctrico que

Impulso eléctrico que

viaja por el axón

viaja por el axón

Liberación deLiberación de

neurotransmisores

neurotransmisores

Apertura/cierre de

Apertura/cierre de

canales iónicos

canales iónicos

Variación potencial en

Variación potencial en

dendrita

dendrita

Integración de entradas

Integración de entradas

en soma

en soma

Si se supera umbral de

Si se supera umbral de

disparo se genera un PA

disparo se genera un PA

Patricio García BáezPatricio García Báez 10

Inspiración biológica

u Características SNC:

Características SNC:

Inclinación a adquirir

Inclinación a adquirir

conocimiento desde la

conocimiento desde la

experiencia experiencia

Conocimiento almacenado

Conocimiento almacenado

en conexiones sinápticas

en conexiones sinápticas

Gran plasticidad neuronal

Gran plasticidad neuronal

Comportamiento altamente

Comportamiento altamente

no-lineal

no-lineal

Alta tolerancia a fallos

Alta tolerancia a fallos

(muerte neuronal)

(muerte neuronal)

Apto para reconocimiento,

Apto para reconocimiento,

percepción y control

percepción y control

Patricio García BáezPatricio García Báez 11

Modelado Neuronal

u

Una red neuronal artificial (RNA) es un sistema

Una red neuronal artificial (RNA) es un sistema

de procesamiento de información que tiene

de procesamiento de información que tiene

ciertas aptitudes en común con las redes

ciertas aptitudes en común con las redes

neuronales biológicas:

neuronales biológicas:

El procesamiento de información ocurre en muchos

El procesamiento de información ocurre en muchos

elementos simples llamados neuronas.

elementos simples llamados neuronas.

Las señales son transferidas entre neuronas a través de

Las señales son transferidas entre neuronas a través de

enlaces de conexión.enlaces de conexión.

Cada conexión tiene un peso asociado, el cual, típicamente,

Cada conexión tiene un peso asociado, el cual, típicamente,

multiplica a la señal transmitida.

multiplica a la señal transmitida.

Cada neurona aplica una función de activación (usualmente

Cada neurona aplica una función de activación (usualmente

no lineal) a su entrada de red (suma de entradas pesadas)

no lineal) a su entrada de red (suma de entradas pesadas)

para determinar su salida.

para determinar su salida.

Laurene Fausett

Laurene Fausett

Patricio García BáezPatricio García Báez 13

Modelado Neuronal

u Neurona Artificial:

Neurona Artificial:

Grupo de entradas (

Grupo de entradas ( x

x )

Pesos sinápticos (

Pesos sinápticos ( w

w )

Función suma (Función suma ( netnet ))

Función de activación

Función de activación

act

act )

Una única salida (

Una única salida ( y

y )

Funcionamiento en modo

Funcionamiento en modo

aprendizaje o ejecución

aprendizaje o ejecución



x

1

x

2

x

n

w

1,j

w

2,j

w

n,j

net

j

(t)

x

j

(t)



 j

función

suma

función

de activación

umbral (bias)

Patricio García BáezPatricio García Báez 14

Modelado Neuronal

u Neurona Natural vs. Artificial:

Neurona Natural vs. Artificial:

Neurona = Unidad de proceso

Neurona = Unidad de proceso

Conexiones sinápticas =

Conexiones sinápticas =

Conexiones Pesadas Conexiones Pesadas

Efectividad sináptica = Peso

Efectividad sináptica = Peso

sináptico

sináptico

Exitatorio/Inhibitorio = Pesos +

Exitatorio/Inhibitorio = Pesos +

ó -

ó -

Efecto combinado de sinapsis

Efecto combinado de sinapsis

= Función suma

= Función suma

Activación-> Ratio disparo =

Activación-> Ratio disparo =

Función activación -> salida

Función activación -> salida

Patricio García BáezPatricio García Báez 16

Modelado Neuronal

u Arquitecturas Neuronales:

Arquitecturas Neuronales:

Según conexión entre

Según conexión entre

capas

capas

• Totalmente conectados

Totalmente conectados

(full-conexión)

(full-conexión)

• Parcialmente conectados

Parcialmente conectados

• Conexión uno a uno

Conexión uno a uno

Sincronía (actualización de

Sincronía (actualización de

valores)

valores)

• Simultánea

Simultánea

• Aleatoria

Aleatoria

• Según orden topológico

Según orden topológico

Recurrente con

interconexiones

laterales

Entradas

Salidas

Recurrente con

neuronas ocultas

Patricio García BáezPatricio García Báez 17

Modelado Neuronal

u

Aprendizaje:

Aprendizaje:

• Estimulación de la RN por el entorno

Estimulación de la RN por el entorno

• Cambios en la RN debido a estimulación

Cambios en la RN debido a estimulación

Nueva forma de responder debido a cambios de la

Nueva forma de responder debido a cambios de la

estructura interna de la RN

estructura interna de la RN

Patricio García BáezPatricio García Báez 19

Modelado Neuronal

u

Aprendizaje supervizado:

Aprendizaje supervizado:

• Se presentan pares de patrones de entrada y salida

Se presentan pares de patrones de entrada y salida

deseada

deseada

Pasos:

Pasos:

Fijar pesos aleatorios las conexiones

Fijar pesos aleatorios las conexiones

Seleccionar par de entrenamiento

Seleccionar par de entrenamiento

Presentar patrón de entrada y calcular salida

Presentar patrón de entrada y calcular salida

Calcular error o discrepancia con la salida deseada

Calcular error o discrepancia con la salida deseada

Aplicar regla de aprendizajeAplicar regla de aprendizaje

• Dudosa plausibilidad biológica:

Dudosa plausibilidad biológica:

Requiere propagar información hacia atrás

Requiere propagar información hacia atrás

Requiere de instructorRequiere de instructor

Patricio García BáezPatricio García Báez 20

Modelado Neuronal

u

Aprendizaje no supervizado:

Aprendizaje no supervizado:

• Se presentan sólo patrones de entrada

Se presentan sólo patrones de entrada

• Basado en la redundancia en las entradas

Basado en la redundancia en las entradas

Aprendizaje extrae de los patrones:

Aprendizaje extrae de los patrones:

Familiaridad con patrones típicos o promedios del

Familiaridad con patrones típicos o promedios del

pasado

pasado

Análisis de las Componentes Principales

Análisis de las Componentes Principales

Clustering

Clustering

Prototipos, correspondientes a las categorias existentesPrototipos, correspondientes a las categorias existentes

Codificación

Codificación

Mapa de Características

Mapa de Características

• Grandes plausibilidades biológicas

Grandes plausibilidades biológicas