teoria, Apuntes de Periodismo

¡Descarga teoria y más Apuntes en PDF de Periodismo solo en Docsity!

Shkonnou lesrío r 3 We aonbimahieo Porpo Meodaid 1781 CONTRIBUCIONES RECIENTES A LA TEORIA MATEMATICA DE LA COMUNICACION WARREN WEAVER Asesor de la Sloan Foundation on Scientific Affairs. 20 Teoría matemática de la comunicación escrita, sino también la música, las artes pictóricas, el teatro, el ballet, y en general todas las manifestaciones humanas. En algunos casos, se requiere la siguiente definición todavía más amplia de comunicación: conjunto de procedimientos por medio de los cuales, un mecanismo (por ejemplo un equipo de seguimiento automático de avión con la correspondiente computación de sus futuras posiciones) afecta a otro mecanismo (por ejemplo, a un misil en persecución de este avión). En el contexto de este trabajo, el término comunicación se referirá en general, al importante campo de la comunicación hablada; sin em- bargo, los resultados pueden aplicarse con igual rigor a la música, a la fotografía, al cine y a la televisión. | 1.2. Los problemas de los tres niveles de la comunicación Existen problemas de distinto tipo para cada uno de los tres niveles en que se considera dividido el amplio concepto de la comunicación, Así, resulta razonable preguntarse en el siguiente orden: . | Nivel A. ¿Con qué precisión pueden transmitirse los símbolos de la co- | municación? (Problema técnico). “Nivel B. ¿Cón qué precisión los símbolos transmitidos son recibidos con el significado deseado? (Problema semántico). Nivel C. ¿Con qué efectividad el significado recibido afecta a la conduc- ¡ta del receptor en el sentido deseado? (Problema de efectividad). Los problemas técnicos analizan la fidelidad de la transmisión desde el emisor al receptor de un conjunto de símbolos (lenguaje escrito), de una señal variable (transmisión de palabra o música por teléfono o ra- dio), o de una imagen bidimensional que varía continuamente (televi- sión), etc. Matemáticamente, el primero plantea la transmisión de un conjunto finito de símbolos discretos, el segundo la transmisión de una función continua del tiempo, y el tercero, la transmisión de una o varias funciones continuas del tiempo y de un espacio de dos coordenadas. Los problemas semánticos estudian la identidad o aproximación satis- ¿factoria del significado captado por el receptor, comparado con el signi- ificado previsto por el emisor. Se trata de un problema complejo, incluso reduciéndolo al ámbito simple de la comunicación hablada. formación. Shannon se ha ocupado en particular, de proyectar estas aplicaciones a la ingeniería de Ja comunicación, mientras a Wiener le cabe el mérito de haberlas ex- tendido a las aplicaciones biológicas (fenómenos del sistema nervioso central, ete.). ——— Warren Weaver 2 Un ejemplo elemental puede ilustrarnos esto. Si se sospecha que el Sr. X no entiende lo que le dice el Sr. Y, y el Sr. Y no hace otra cosa que seguir hablando, resulta teóricamente imposible aclarar esta situa- ción en un tiempo finito, Si el Sr. Y dice “¿Me entiende Ud?” y el Sr. X contesta “Desde luego que sí”, esto no quiere decir necesariamente que exista entendimiento entre ambos. Puede simplemente ocurrir que el Sr. X no entiende la pregunta. Si esto parece una tontería, pensemos que la pregunta se formula de la siguiente manera: “Czy pañ mnie rozumie” y que la respuesta sea “Hai wakkate imasu” para comprender su complejidad. Yo creo que esta dificultad básica?, al menos en el res- tringido campo de la comunicación oral, se reduce considerablemente (aunque nunca se elimina del todo) con las “explicaciones” que (a) no son más que meras aproximaciones a las ideas expresadas, pero que (b) pueden ser entendidas ya que se construyen en un lenguaje que previa- mente ha sido convenido de un modo operativo. Por ejemplo, no se tarda mucho en conseguir que el símbolo “sí” se haga operativamente comprensible en un lenguaje. El problema semántico tiene ramificaciones más amplias si lo referi- mos a la comunicación en general. Consideremos, por ejemplo, el signi- ficado que para un ruso pueda tener un reportaje de noticias norteame- ricano. Los problemas de efectividad se refieren al éxito con que el significa- do transmitido al receptor afecta a su conducta en un sentido deseado. A simple vista puede parecer indescable insinuar que el propósito de toda comunicación es influenciar la conducta del receptor. Pero consi- derando una definición razonablemente amplia de conducta, está claro que toda comunicación, o bien afecta a la conducta, o bien no tiene efecto alguno. El problema de la efectividad implica consideraciones estéticas en el caso de las artes. En el caso del lenguaje oral o escrito, implica conside- raciones que se refieren tanto a la mera mecánica de estilo, incluyendo todos los aspectos sicológicos y emocionales de la teoría de propaganda, como a los juicios de valor que sean necesarios para dar significado útil 2 Cuando Pfungst (1911) demostró que los caballos de Elberfeld, que habían probado una maravillosa habilidad lingú ística y matemática, estaban reaccionando nada más que a los movimientos de la cabeza de su entrenador, el Sr. Kall (1911), su propietario, tuvo que enfrentarse a la critica directa. Preguntó a los caballos si podían ver esos movimientos lan pequeños y como respuesta le deletrearon un enfá- tico “No”. Desgraciadamente no podemos estar seguros de que nuestras preguntas sean comprendidas, ni que las respuestas sean tan claras”. Ver Lashley K. S., “Per- sistent Problems in the Evolution of Mind” en Quarterly Review of Biology, v. 24, marzo 1949, p. 28. 2 Teoría matemática de la comunicación a los términos “éxito” y “deseado” que hemos mencionado anterior- mente. El problema de la efectividad está muy interrelacionado con el pro- blema semántico, y a veces lo solapa parcialmente de forma imprecisa. De hecho, existen coincidencias parciales entre todos los tipos de. pro- blemas apuntados. 1.3. Comentarios Según lo expresado, podría pensarse que el nivel A es relativamente superficial, ya que analiza solamente los detalles de ingeniería de un buen diseño de sistema de comunicación, mientras que los niveles B y C parecen contener casi todo el problema general filosófico de la comu- nicación. La teoría matemática de la ingeniería de la comunicación desarrolla- da principalmente por C. Shannon en los Laboratorios de la Bell Tele- phone, sólo incide en principio sobre el problema A, esto es, sobre los aspectos técnicos de la transferencia y precisión de la transmisión de los diferentes tipos de señales que van desde el emisor al receptor. Pero esta ¿teoría tiene, yo creo, un sentido profundo que prueba la invalidez de la suposición anterior: Parte de la importancia de la nueva teoría provie- ne de que las precisiones en los niveles B y C sólo son posibles cuando ya se han alcanzado en el nivel A. Por tanto cualquier limitación que se descubra en la teoría del nivel A, incide sobre los niveles B y C. Esto se debe fundamentalmente a que el análisis del nivel A incluye parcialmen- te a los otros niveles más de lo que pudiera ingenuamente pensarse. En consecuencia la teoría del nivel A es hasta cierto punto una teoría de los niveles B y C. Espero que las partes que siguen justifiquen estas afir- maciones, PROBLEMAS DE COMUNICACION NM EN EL NIVEL «A» ) 2.1. Un sistema de comunicación y sus problemas El sistema de comunicación considerado puede representarse simbóli- camente de la siguiente manera: . FUENTE DE INFORMACION TRANSMISOR RECEPTOR DESTINO EÑAL E SEÑAL MENSAJE RECIBIDA MENSAJE FUENTE DE RUIDO mo 26 Teoría matemática de la comunicación "Es más conveniente usar logaritmos en base 2, que vulgares o de Briggs ¿en base 10. Así para el caso en que sólo existan dos elecciones, la infor- “mación es proporcional al logaritmo? en base 2 del número 2, que es 1. Por tanto, la unidad de información como hemos apuntado anterior- mente es la que corresponde a una doble elección. Esta unidad de infor- mación se denomina bit, término sugerido por W. Tukey como abreviatu- ra de los vocablos ““Bynary digit”. Cuando un número se expresa en sis- tema binario, sólo se manejan dos dígitos, el O y el 1; cuando se usa la base 10, se emplean 10 dígitos, del O al 9 inclusive. Como el O y el 1 pueden representar simbólicamente dos elecciones posibles, es natural el uso del término bit como unidad de información. Si se puede por ejemplo elegir libremente entre 16 mensajes alternati- vos, como 16 = 2* y log, 16 = 4, diremos que la situación está caracte- rizada por 4 bits de información. Ñ OS Sin duda, nos puede parecer extraño al introducirnos por primera vez en estos problemas, medir la información por el logaritmo del número de elecciones, Pero al analizarlo más detenidamente resulta obvio que las medidas logarítmicas son realmente naturales. De momento dare- mos sólo una breve justificación. Se mencionó anteriormente que al existir una doble elección entre dos mensajes, un sencillo relé de dos posiciones indicadas por O y 1 respectivamente, puede manejar una uni- dad de información. Si un relé puede manejar una unidad de informa- ción. ¿Cuánta pueden manejar por ejemplo 3 relés? Parece razonable afirmar que 3 relés podrán manejar el triple de información. Veamos que es así, cuando se usa una definición logarítmica. En efecto, 3 relés son capaces de responder a 2? = 8 elecciones, que simbólicamente pue- den representarse por 000, 001, 011, 010, 100, 110, 101, 111, en la primera de las cuales los 3 relés están abiertos y en la última cerrados. Como el logaritmo en base 2 de 2? es 3, la medida de la información es 3. De igual forma doblando el tiempo disponible se eleva al cuadrado el número de mensajes posibles, pero ello equivale a doblar el logaritmo, y por tanto a doblar la información. Las puntualizaciones hasta ahora hechas se refieren exclusivamente a situaciones en que la fuente de información puede seleccionar un men- saje entre varios alternativos, como lo haría una persona que seleccio- na un telegrama de cumpleaños entre un conjunto de ellos. Una situa- ción más natural e importante es aquella en que la fuente de informa- ción hace una sucesión de elecciones entre algún conjunto de símbolos elementales, obteniendo como resultado el mensaje. Por ejemplo, una persona que selecciona una tras otra palabras individuales. 3 Se dice que 7 es el logaritmo en base m de y, si se verifica m* Warren Weaver 27 Al llegar a este punto, sacamos a relucir una consideración importan- te que debe llamarnos la atención: el papel que las probabilidades jue: gan en la generación del mensaje. Como los símbolos sucesivos del men- saje se eligen entre un conjunto de ellos, las elecci al menos desde el punto de vista del sistema de comunicación, e: gobernadas por Probabilidades; y además por probabilidades que no son independien- tes, ya que, en cualquier etapa del proceso, la elección depende de las anteriores. Así, si tomamos como ejemplo el lenguaje inglés, y si el últi- mo símbolo elegido es “the” la probabilidad de que la palabra siguiente sea un artículo o una forma verbal es muy pequeña. Esta influencia pro- babilística se extiende de hecho sobre más de dos palabras. Así, después de las tres palabras “in the event” la probabilidad de usar “that” es bastante alta; en cambio, la de usar “elephant” es bastante pequeña. Es obvio, que hay probabilidades que ejercen un cierto control sobre la lengua inglesa; por ejemplo, es un hecho que el diccionario inglés no contiene ninguna palabra en que la letra inicial j esté seguida por b, c, f 8,5 R, lr, t,v, w, x, z; por lo tanto, la probabilidad de que la letra inicial j vaya seguida por cualquiera de estas letras es realmente nula. Por otra parte, estaremos de acuerdo en que la probabilidad de existen- cia de una sucesión de palabras como “Constantinople fishing nasty pink” es muy baja; sin embargo no es nula, ya que es perfectamente ima- ginable un pasaje en el cual una oración termine con “Constantinople fishing”, y la siguiente empiece por “nasty pink”. Podríamos, pues, llevarnos la sorpresa de encontrarnos estas cuatro palabras seguidas en un texto de buen inglés. Un sistema que produce una sucesión de símbolos (que pueden ser letras o notas musicales por ejemplo en lugar de palabras) de acuerdo con ciertas probabilidades se llama un proceso estocástico, y el caso es- pecial de un proceso estocástico en que las probabilidades dependen de los sucesos anteriores, se llama proceso de Markoff o cadena de Markoff. Entre los procesos de este tipo que pueden generar mensajes, hay una clase especial de gran importancia para la teoría de la comuni- ión; son los llamados procesos ergódicos. En éstos, los detalles ana- líticos son tan complicados y el razonamiento tan profundo que ha sido necesario un gran esfuerzo de los mejores matemáticos para crear la teoría correspondiente. Sin embargo, la naturaleza intuitiva de un pro- ceso ergódico es fácil de comprender. Es el que produce una sucesión de símbolos que haría realidad el sueño de un jugador de apuestas, ya que cualquier muestra razonablemente grande tiende a ser representati- va de la sucesión en su globalidad. Supongamos que dos personas eligen muestras de modos diferentes, y estudian el curso de sus propiedades estad ísticas al hacerse las muestras mayores. Si la situación es ergódica, las dos personas, a pesar de los 28 Teoría matemática de la comunicación diversos modos de elección, deducirán las mismas propiedades para la totalidad. Los sistemas ergódicos, en otras palabras, exhiben una parti- cular seguridad en la regularidad estadística. Ahora volvamos a la idea de la información. Cuando tenemos una fuente de información que produce mensajes por “selección sua símbolos discretos (letras, palabras, notas musicales, puntos de cierto tamaño, etc...) la probabilidad de elección de los diversos símbolos en una etapa del proceso dependerá de las elecciones anteriores (proceso Markoff); ¿qué ocurre con la información asociada a este procedimien- to? Cuantitativamente los elementos naturales de la “información” en- cuentran su equivalente en termodinámica on el concepto de entropía. Esta se expresa en términos de las diversas probabilidades implicadas —aquellas que se refieren a ciertas etapas del proceso de la formación del mensaje, y aquellas otras que expresan que alcanzadas estas etapas se elijan ciertos símbolos a continuación. La fórmula, además se expresa en términos del logaritmo de las probabilidades, de modo que se tiene una generalización natural de la medida logarítmica mencionada anie- riormente para los casos simples. Para los que han estudiado ciencias físicas, parece muy relevante que como medida de la información. Intro- ducida por Clausius hace aproximadamente un siglo y estrechamente asociada al nombre de Boltzmamn, y tras recibir un significado profun- do con Gibbs en su trabajo clásico sobre mecánica estadística, la entro- pía se ha convertido en un concepto tan básico que ha hecho decir a Eddington: “La ley de que la entropía siempre aumenta —segunda ley de termodinámica-—- constituye a mi entender, una de las Leyes supre- mas de la Naturaleza”. En las ciencias físicas, la Entropía | asociada a una situación se mide por el grado de azar o si se quiero de “aleats 1” de la situación; la tendencia de los sistemas físicos a hacerse cada vez menos organiza- dos y cada vez más aleatorios. tan básica que Eddington afirma que esta tendencia es la que en principio asigna sentido al tiempo --lo que nos revelaría, por ejemplo, si una película del mundo físico circula ha- cia adelante o hacia atrás. En teoría de la comunicación, el concepto de entropía es también algo básico e importante. Que la información se mida por la entropía, es después de todo, natural, si se piensa que Ja información, en la teoría de la comunicación, se asocia al grado de libertad de elección que se tiene al construir los mensajes. Por tanto dada una fuente de informa- ción, se puede decir, como se diría en termodinámica: “Est; está altamente organizada y no. se caracteriza por un elevado. grado de azar o de elección —es decir, la información (o la entropía)-es baja”. Warren Weaver 29 Retornaremos a este punto más tarde, porque a menos que yo e: equivocado, éste es uno de los aspectos más importantes de esta teoría. Calculada la entropía (o la información, o la libertad de elección) de una cierta fuente de información se puede comparar con el valor máxi- mo que esta entropía podría alcanzar, sujeta sólo a la condición de que la fuente continúe empleando los mismos símbolos, La relación existen- te entre la entropía real y la máxima, se llama entropía relativa de una fuente. Si la entropía relativa de una cierta fuente, es por ejemplo, 8, esto quiere decir aproximadamente, que esta fuente tiene, en cuanto se refiere a la elección de símbolos para formar el mensaje, un 80 por cien- to de libertad respecto a la que podría tener operando sobre estos mis- mos símbolos. Uno menos la entropía relativa se llama redundancia. Y es la fracción de la estrucutra de mensaje que no está detérminada por la libre elección del emisor, sino más bien, por las reglas estad Ísticas aceptadas que gobiernan el uso de los símbolos en cuestión. Se llama justamente redundancia porque de hecho esta fracción del mensaje coincide con lo que en sentido ordinario se entiende por redundancia; o lo que es lo mismo, esta fracción del mensaje es innecesaria (y por tanto o redundante) en el sentido de que si faltara, en el men- saje, ría esen cialmente completo, oal menos podría -omple- tarse” “Es muy interesante observar que la redundancia en el inglés es de un 50% *, de modo que la mitad de las letras o palabras que elegimos al hablar o escribir, dependen de nuestra libre elección, y la otra mitad (aunque generalmente no nos demos cuenta de ello) están realmente controladas por la estructura estadística del ienguaje. Aparte de impli- caciones más serias, que de nuevo pospondremos para nuestra discusión final, es interesante observar que una lengua debe tener al menos un 50% de libertad real (o de entropía relativa) en la elección de letras si lo que se pretende es construir satisfactoriamente crucigramas. Si se tuviera libertad total, entonces cualquier ordenamiento de las letras constituiría un crucigrama. Si sólo se tuviera un 20% de libertad, enton- ces sería imposible construir crucigramas de tal complejidad y número como para convertirlos en un juego popular. Shannon ha estimado, que si la lengua inglesa tuviera solamente un 30% de redundancia, sería po- sible construir crucigramas tridimensionales. Antes de acabar esta sección sobre información, debería señalarse que la verdadera razón por la que el análisis de nivel A se ocupa de un nivel de información que caracteriza la totalidad de la naturaleza esta- dística de la fuente de información, y no se ocupa de los mensajes 4 La estimación del 50% responde sólo a la estructura estad ística de unas ocho letras, así es que el valor final es presumiblemente más alto. .” ata E en pa o .. 1 A 7 so Teoría matemática de la comunicación En un caso más general, se debe tener en cuenta las longitudes varia- bles de los distintos símbolos. Por tanto, la expresión general de la capa- cidad de un canal conlleva el logaritmo de los números de símbolos de cierta duración de tiempo (lo que introduce por supuesto, la idea de información que corresponde al caso sencillo del párrafo precedente), y también conlleva el número de símbolos manejados (que corresponde al factor n del párrafo precedente). De aquí que en el caso general, la capacidad mide no el número de símbolos transmitidos por segundo, si- ] | de información transmitida por.segundo, expresada en la unidad bits por segundo. ) odificació A7/24. Codificación Ya se señaló al principio que el transmisor acepta el mensaje y lo convierte en algo llamado señal siendo esta última la que pasa por el canal hasta el receptor. El transmisor, en el caso de la telefonía, simplemente convierte la voz audibie en algo (corriente eléctrica variable sobre la línea telefóni- ca) claramente diferente, pero también claramente equivalente. Sin em- bargo, el transmisor puede realizar una operación mucho más compleja sobre el mensaje para producir la señal. Podría, por ejemplo, a partir de un mensaje escrito, usar algún código que lo cifra en una sucesión de números, y transmitir estos números sobre el canal como señal. Por tanto se dice en general, que la función del transmisor es la de codificar el mensaje, y la del receptor decodificarlo. La teoría concibe transmisores y receptores cada vez más sofisticados, por ejemplo, que posean “memorias” para que la forma de codificar un determinado símbolo del mensaje dependa no sólo de este símbolo, sino también de los símbolos previos del mensaje y de la forma en que han sido co- dificados. Estamos ahora en condiciones de establecer el teorema fundamenta! correspondiente a un canal sin ruido que transmite símbolos discretos. Este teorema hace referencia a un canal de comunicación que tiene una capacidad de C bits por segundo, y que acepta señales de una fuente de entropía (o información) de H bits por segundo. El teorema estable- ce que asignando al transmisor procedimientos apropiados de codifica- ción es posible transmitir símbolos por el canal a una velocidad media próxima? a C/H, pero que, son independencia de todo refinamiento de codificación nunca puede exceder al valor de C/H. 6 Recordemos que la capacidad C implica la idea de información transmitida por segundo, y por tanto se mide en bits por segundo. La entropía H mide aquí la información por símbolo, de forma que la relación C a H mide los símbolos por se- gundo. 33 Warren Weaver La importancia de este teorema se discutirá de forma más práctica más adelante, cuando nos encontremos con el caso general en que esté presente el ruido. De momento, sin embargo es importante darse cuenta del crítico papel que desempeña la codificación. . Recordemos que la entropía (o información) asociada con el proceso que genera mensajes O señales, se determina por el carácter estadístico del proceso —por las diferentes probabilidades para las situaciones posi- bles del mensaje, y por las elecciones de los símbolos siguientes corres- pondientes a esas Situaciones—. La naturaleza estadística de los mensajes está enteramente determinada por. el carácter de la fuente. Pero el carác- ler estadístico de la señal transmitida por un canal, y por tanto la entro- pía en el canal se determina por lo que se pretende transmitir por él y por las capacidades del propio canal para manejar diferentes situacio- nes de la señal. Por ejemplo, en telegrafía, deben existir espacios entre punto y punto, entre punto y raya y entre raya y raya, porque de otro modo los puntos y las rayas no serian reconocibles. . o Se deduce que cuando nos encontramos con un canal que tiene limi- taciones de este tipo, que restringen la libertad completa de la señal, hay ciertas características estadísticas de la misma que nos llevan a una entropía de la señal que es máxima comparada con cualquier otra es- tructura estadística de la señal y en este caso importante, la entropía de la señal es exactamente igual a la capacidad del canal. _ Con estas ideas nos es ahora posible caracterizar el tipo de codifica- ción más eficaz. El mejor transmisor, de hecho, es aquel que codifica el mensaje de tal forma que la señal tenga justamente las característi- das” estadísticas Óptimas que mejor se adapten al canal a utilizar lo cual de hecho maximiza la entropía de la señal (o también se podría decir del canal) y la hace igual a la capacidad C del canal. Este tipo de codificación conduce, basándonos en el teorema funda- mental antes enunciado, al máximo valor de C/H para la transmisión de símbolos. Por esta ganancia en la velocidad de transmisión se paga no obstante un precio. Por desgracia resulta que a medida que se consigue acercar la codificación al ideal se alargan a su vez los retrasos en el pro- ceso de codificación. En parte en este dilema se debe tener en cuenta que en los equipos electrónicos la palabra “alargar” puede significar una pequeña fracción de segundo, y por otra que debe buscarse un compro- miso entre la ganancia en velocidad de transmisión y el tiempo de codi- ficación. 2.5. Ruido ¿Cómo afecta el ruido a la información? Recordemos que informa- ción es una medida de la libertad de elección. Cuanto mayor sea la liber- 34 Teoría matemática de la comunicación tad de elección y por tanto, la información, más grande será la incerti- dumbre de que el mensaje realmente elegido sea alguno en particular. Por tanto a mayor libertad de elección, mayor incertidumbre, y mayor información. mensaje recibido contiene ciertas distorsiones, errores, element: mos, que nos llevará a decir que €l mensaje recibido manifiesta, a causa de los efectos del ruido, una.mayor certid Pero si la incertidumbre aumenta, la información au- menta, y esto ¡nos podría llevar a que el ruido es beneficioso! Generalmente es verdad que cuando existe ruido, la señal recibida muestra mayor información, o mejor, la señal recibida se selecciona entre un conjunto más variado que el de la señal transmitida. Esta es una situación que ilustra la trampa semántica en que puede caerse si no se recuerda que “información” se usa aquí con un significado especial para expresar la libertad de elección y por tanto la inseguridad de cómo se ha hecho la elección. Así se explica por tanto, que la palabra infor- mación tenga buenas y malas connotaciones. La incertidumbre que sur- ge en virtud de la libertad de elección por parte del emisor es una incer- tidumbre deseable. La que surge a causa de los errores o a causa de la influencia del ruido es una incertidumbre indeseable, Está por tanto claro, que no es serio decir que la señal recibida tiene más información, porque parte de esa información es espúrea e indesea- ble y se ha introducido a través del ruido. Para recuperar la información útil desde la señal recibida, debemos sustraer esta porción espúrea. Antes de concluir este punto, nos desviaremos de él ligeramente. Su- pongamos que tenemos dos conjuntos de símbolos, uno los de un men- saje generado por la fuente de información, y otro los de la señal que realmente se reciben. Las probabilidades de estos dos conjuntos de sím- bolos están interrelacionadas, ya que evidentemente la probabilidad de recibir un cierto símbolo depende de qué símbolo se haya enviado. Sin errores de ruido o de otras causas, las señales recibidas deberían corres- ponder con precisión a los símbolos del mensaje enviado; y en presencia de un posible error, las probabilidades para los símbolos recibidos debe- rían corresponderse lo más estrechamente posible con los símbolos del mensaje enviado. Ahora bien, en una situación así, se puede calcular lo que se llama en- tropía de un conjunto de símbolos respecto de otro. Consideremos, por ejemplo, la entropía del mensaje respecto de la señal. Resulta desafor- tunado que no podamos comprender todos los planteamientos aquí analizados sin entrar en más detalle. Supongamos de momento que se sabe que se ha recibido cierto símbolo de la señal. Entonces cada sím- bolo del mensaje adquiere una cierta probabilidad —relativamente gran- de para los símbolos similares al recibido, y relativamente pequeña para Warren Weaver 35 todos los demás. Usando este conjunto de probabilidades se puede de- ducir un valor de entropía. Esta sería la entropía del mensaje para el su- puesto de haber recibido un símbolo conocido. Bajo buenas condicio- nes su valor es bajo, ya que las probabilidades involucradas no se dis- tribuyen por igual para todos los casos, sino que se concentran sobre uno o unos pocos. Su valor sería cero (ver página 29) siempre que el ruido estuviese ausente, ya que entonces por ser conocido el símbolo de señal, todas las probabilidades del mensaje serían cero excepto para un símbolo (el recibido) que tendría una probabilidad de uno. Para cada supuesto relativo a un símbolo de señal recibido, se puede calcular las entropías del mensaje. Calculadas todas ellas, y hallada la media, se pondera cada una de acuerdo con la probabilidad del símbolo de señal correspondiente. Las entropías calculadas de este modo, cuan- do se consideran dos conjuntos de símbolos, se llaman entropías rela- tivas. El caso que acabamos de d scribir es la entropía del mensaje rela- tivo a la señal, que Shannon también llama equivocación. o Del modo de calcular la equivocación, puede deducirse su significado. Mide la incertidumbre del mensaje cuando se conoce la señal, Si no hu- fuido no existiría incertidumbre del' mensaje siempre que la señal séa conocida. Si la fuente de información tiene alguna incertidumbre re- sidual, y se conoce la señal, entonces obviamente se trata de una incer- tidumbre indeseable debida al ruido. e La discusión de los últimos párrafos se centra en el valor de la incer- tidumbre media de la fuente de mensaje cuando la señal recibida se conoce”. Pero también podría expresarse en términos del valor de la incertidumbre media relativa a la señal cuando se conoce el mensaje enviado”. Esta última incertidumbre toma evidentemente también el valor cero cuando no existe ruido. 1 En cuanto a las relaciones que ligan estas cantidades, es fácil demos- trar que: 1H) — Hla) = Hty) — Haly) donde H (x) es la entropía o infromación de la fuente de mensajes; H(y) la entropía o in formación de las señales recibidas; H, (x) la equi- vocación o incertidumbre de la fuente de mensaje cuando se conoce la señal; H, (y) la incertidumbre de la señal recibida cuando se conoce el mensaje enviado, o la parte espúrea de la información de señal recibi- da al ruido. El segundo miembro de la ecuación es la información útil que se transmite, a pesar del efecto indeseable del ruido. Ahora es posible explicar lo que se entiende por capacidad C de un canal ruidoso. Esta se define como el valor máximo (en bits por segun- do) al que la información útil (esto es, la incertidumbre total menos la incertidumbré del ruido) puede transmitirse por el canal.