articulo sobre haters, Apuntes de Criminología

¡Descarga articulo sobre haters y más Apuntes en PDF de Criminología solo en Docsity!

El discurso del odio en las

redes sociales: un estado de

la cuestión

Alex Cabo Isasi y Ana García Juanatey

Tabla de contenidos

• Tabla de contenidos
• INTRODUCCIÓN
• 1. UN DIAGNÓSTICO DEL PROBLEMA
  • 1.1. ¿Qué se entiende por discurso de odio? Un concepto objeto de debate.
  • 1.2. Las particularidades del discurso del odio online
  • 1.3. Las consecuencias del discurso del odio
  • 1.4. ¿Quiénes son los autores del discurso del odio?
• 2. LA RESTRICCIÓN DEL DISCURSO DEL ODIO
  • 2.1. El dilema entre la libertad de expresión y la represión del discurso del odio
  • 2.2. Las particularidades jurídicas del odio en Internet y las redes sociales
  • 2.3. Legislación española
• 3. EL ROL DE LAS REDES SOCIALES COMO INTERMEDIARIAS
  • 3.1. Atribución de responsabilidad
  • 3.2. Auto-regulación e implementación de filtros informáticos
  • 3.3. El Código de Conducta con la Unión Europea
• ODIO EN LAS REDES SOCIALES 4. LAS ESTRATEGIAS NO JURÍDICAS PARA COMBATIR EL DISCURSO DEL
  • 4.1. Las estrategias de monitoreo e investigación
  • 4.2. Las estrategias de presión a las redes sociales
  • 4.3. Las estrategias orientadas a cambiar percepciones y actitudes
  • 4.3.1. Las campañas contra el discurso del odio en internet
  • y la formación 4.3.2. Las estrategias contra el discurso del odio en Internet basadas en la educación
• CONCLUSIÓN
• BIBLIOGRAFÍA

1. UN DIAGNÓSTICO DEL PROBLEMA

Efectivamente, este tipo de mensajes incitadores a la violencia ha encontrado en Internet y las redes sociales, el canal adecuado para su propagación. Aunque el alcance real del problema no ha sido determinado cuantitativamente, más que de una manera fragmentada y parcial, existe una sensación compartida por periodistas, juristas, ONGs, investigadores, y usuarios de las redes, en general, de que el problema del discurso extremo en las redes sociales es cada día más preocupante. En toda Europa se está produciendo una gran proliferación de mensajes extremistas, asociada al contexto de la crisis de refugiados, con preocupantes “picos” de odio islamófobo detectados en las redes a raíz de los atentados de París, Bruselas, o Niza. Tras los atentados de París, #matadatodoslosmusulmanes se convirtió durante algunas horas en el tercer hashtag más utilizado en España (Jubany y Roiha 2016). Según estudios del think tank Demos, en Twitter, hay aproximadamente unos 10. tuits por día con insultos racistas en lengua inglesa, lo que supone uno de cada 15. tuits (Gagliardone et al. 2014). En otro estudio realizado por Demos, sobre misoginia, que es otro de los motivos recurrentes de intolerancia, durante tres semanas de abril de 2016, entre usuarios británicos de Twitter, se encontraron más de 200.000 tuits con las palabras “zorra” o “puta”; constatándose que cada diez segundos, alguien insulta con esas palabras a una mujer en Twitter. En el estado español el problema no es menor. A continuación, algunos ejemplos de

2016. Moha Gerehou, presidente de SOS Racismo Madrid, de origen gambiano, ha sido objeto de múltiples ataques. En julio de 2016, se le “subastaba” en Twitter como un esclavo o una pieza de caza, como respuesta a la campaña #EstadoEspanolNoTanBlanco. En septiembre del mismo año, fue amenazado de muerte tras colgar en Twitter, una foto de una concentración en contra de la retirada del callejero de Madrid del nombre de Millán Astray, fundador de la Legión^1. En agosto de 2016, Jordi Ballart, alcalde de Terrassa recibió amenazas homófobas a través de Twitter y Facebook, a raíz de su decisión de retirar el nombre de una calle dedicada a un miembro de la División Azul^2. En septiembre de 2016, la transexual Carla Antonelli, diputada de la Asamblea de Madrid, recibió amenazas de muerte a través de Twitter, por su defensa de los derechos del colectivo LGTB.^3 El mismo mes de septiembre, el árbitro de fútbol infantil, Jesús Tomillero, presidente de la asociación contra la LGTBFobia en el deporte, recibió insultos y amenazas de muerte en Twitter, por ser el primer colegiado auto-declarado gay en España 4 . Estos son solo algunos casos recientes de acoso individual por motivos de odio e (^1) http://www.eldiario.es/sociedad/Nuevas-presidente-SOS-Racismo-Madrid_0_563094347.html (^2) http://www.elperiodico.com/es/noticias/sociedad/jordi-ballart-alcalde-terrassa-denuncia-amenazas- homofobas-redes-sociales- 5473496 (^3) http://ccaa.elpais.com/ccaa/2016/09/04/madrid/1472990074_481479.html (^4) http://www.elperiodico.com/es/noticias/deportes/arbitro-gay-jesus-tomillero-denuncia-amenazas-muerte- 5376384

intolerancia, que han llegado a los medios de comunicación, y que constituyen la punta del iceberg de una situación que se ha convertido en habitual en las redes sociales. A nivel colectivo, el antigitanismo prolifera con impunidad en las redes, la islamofobia se convierte en tendencia de manera recurrente, a través de hashtags como #stopIslam, #terroristaswelcome o #musulmanesterroristas; el antisemitismo, la homofobia, la misoginia…Todas las ideologías intolerantes encuentran en las redes sociales un espacio de expresión privilegiado, que ha generado una especie de cultura del odio^5 , que contamina e intoxica las redes con lenguaje abusivo, denigrante o agresivo, por motivos, en gran medida, de intolerancia contra población inmigrada, refugiados, musulmanes, homosexuales, y otras minorías. Las instituciones internacionales y europeas no son ajenas a este problema. Prueba de esta preocupación es la intensa actividad que ha desarrollado la Unión Europea durante el último año, en la búsqueda de soluciones para este problema; a pesar de que al mismo tiempo ciertas formas de racismo han ido ganando cada vez más terreno en el discurso político europeo. Como hitos destacados de esta dedicación destacan la firma del Código de Conducta con las empresas tecnológicas, y la puesta en marcha de un Grupo de Alto Nivel, en el que ha involucrado a representantes de los estados miembros de la Unión, del Parlamento Europeo, del Consejo de Europa, del Alto Comisionado de la ONU para los Refugiados (ACNUR), de la Organización para la Seguridad y la Cooperación en Europa (OSCE), de la Agencia Europea de Derechos Fundamentales (FRA), y de organizaciones de la sociedad civil como Amnistía Internacional, la Red Europea contra el Racismo (ENAR), la Plataforma Europea de ONGs sociales, y la Asociación Internacional de Lesbianas, Gays, Bisexuales e Intersex (ILGA), con el fin de prevenir y combatir los crímenes de odio y el discurso del odio, con una especial dedicación a la contra-argumentación del discurso del odio online. También la UNESCO o la European Commission Against Racism y Intolerance (ECRI) han destacado, en informes recientes, el crecimiento del discurso intolerante en Internet y redes sociales, contra diferentes minorías, y la necesidad de encontrar estrategias eficaces para combatirlo. En definitiva, el problema del discurso del odio en Internet, y en las redes sociales, en particular, es un asunto que ha adquirido tal dimensión que actualmente se encuentra en la agenda de un buen número de organismos europeos e internacionales. Las redes sociales se han convertido en un espacio de impunidad para la ira y el odio. El machismo, la homofobia, la xenofobia, la islamofobia, el antigitanismo, el antisemitismo y otras ideologías intolerantes aprovechan internet y las redes sociales para el insulto, la humillación, el linchamiento social, el acoso, o la amenaza.

1.1. ¿Qué se entiende por discurso de odio? Un concepto objeto de debate.

No hay una definición universalmente aceptada de discurso del odio. En primer lugar, porque el terreno de las definiciones con implicaciones éticas y jurídicas siempre es controvertido. Y en segundo lugar, porque el propio término “odio” lo convierte en un concepto emocional y abierto a la subjetividad. Es un concepto que genera confusión y que por su subjetividad, es relativamente manipulable. (^5) http://time.com/4457110/internet-trolls/

contexto, y en el mayor o menor riesgo de que los mensajes desencadenen acciones violentas. La primera de las tendencias conceptuales define el discurso del odio atendiendo exclusivamente a su contenido, mientras que la segunda considera que lo que convierte una determinada expresión en discurso del odio es el riesgo manifiesto de que, dado el contexto histórico-social en el que se emite, provoque episodios violentos. El contexto, efectivamente, determina en gran medida el daño que determinadas expresiones y manifestaciones pueden llegar a ocasionar, que puede oscilar desde el daño emocional hasta la provocación de escaladas de violencia masiva, como en los genocidios de Yugoslavia o Ruanda en los años 90. La importancia de estas diferentes maneras de definir el discurso del odio estriba en que, aunque el concepto de discurso del odio no es una categoría estrictamente jurídica, estas definiciones informan las diferentes legislaciones y jurisprudencias nacionales, y las declaraciones, directivas, y convenios internacionales. De cualquier manera, a los efectos de este informe, tomaremos como referencia las definiciones del primer grupo que conceptualizan el discurso del odio en un sentido relativamente amplio, porque recogen el tipo de expresiones que, dada su proliferación en el contexto europeo, merecen un rango más variado de intervenciones tanto de tipo jurídico como de tipo social.

1.2. Las particularidades del discurso del odio online

El discurso de odio online, para el que se ha acuñado la expresión de ciberodio, añade una serie de particularidades que lo convierten en un fenómeno descontrolado con un potencial de daño aún mayor. En primer lugar, la sobreabundancia comunicativa. Por medio de internet y las redes sociales, la comunicación de mensajes que antes estaban limitados al ámbito privado, se ha convertido en pública de manera absolutamente masiva. En segundo lugar, la descentralización de la comunicación, que “democratiza” las comunicaciones, en el sentido de cualquiera puede emitir un mensaje con un enorme potencial de audiencia. El efecto multiplicador de las redes sociales permite convertir un determinado mensaje en un fenómeno de trasmisión exponencial, dando lugar a lo que se denomina metafóricamente como “viralizaciones”. La permanencia de los contenidos, la itinerancia entre diferentes plataformas, el uso de pseudónimos, el anonimato, y la transnacionalidad son otras particularidades del espacio online que añaden desafíos en relación con el discurso del odio(Gagliardone et al. 2015). La permanencia y la itinerancia son particularidades que pueden aumentar el daño potencial del discurso del odio. El anonimato, el uso de pseudónimos y la transnacionalidad son características que dificultan su persecución, y que por la sensación de impunidad que ofrecen, alientan la expresión del discurso del odio. En ocasiones, en el lenguaje coloquial nos referimos a Internet como un espacio “virtual”, adjetivo equívoco, en la medida en que se refiere a aquello “que tiene existencia aparente, pero no real”^8. Esta sensación de “virtualidad”, como si lo que sucediera en Internet no fuera “real” y no tuviera repercusiones fuera de la Red, también actúa como efecto desinhibidor para la expresión de los discursos extremos. En este sentido, Jubany y Roiha (2016) advierten de la falacia del dualismo digital, (^8) Definición R.A.E.

término concebido por Nathan Jurgenson para referirse a la falsa separación entre el mundo online y el mundo offline. La cuestión del discurso del odio en las redes sociales, aunque tenga las especificidades propias de esos espacios de comunicación, no es más que una exteriorización pública de un problema subyacente en la sociedad en general, independientemente del escenario en el que se manifieste.

1.3. Las consecuencias del discurso del odio

Las repercusiones que puede tener el discurso del odio, sea o no online, son variadas. Por un lado, hay que considerar el daño directo emocional o psicológico que pueden producir las amenazas, el acoso, y otros ataques dirigidos a individuos concretos, por motivos de odio e intolerancia. Por otro lado, el discurso del odio también produce un daño indirecto, erosionando la dignidad de las personas y dañando su reputación. El discurso del odio juega un papel fundamental en la perpetuación de estereotipos discriminatorios, la estigmatización de colectivos, la contribución a su marginación, etc. Constituye un mecanismo lingüístico de importancia fundamental en la deshumanización de ciertos colectivos, a los que se trata de negar su pertenencia a la ciudadanía en condiciones de igualdad. En este sentido, el discurso del odio envía un mensaje que divide y segrega la sociedad. Pero al mismo tiempo, también juega un papel cohesionador para los emisores del discurso del odio, reforzando su sentimiento de pertenencia a un grupo (Gagliardone et al. 2015). Mediante la proliferación y aceptación del discurso del odio se produce una reducción de empatía hacia los colectivos deshumanizados, y como consecuencia, se puede generar el caldo de cultivo adecuado para justificar actos discriminatorios, abusos y actos violentos de diversa naturaleza. Aunque no se pueda establecer, con carácter general, una conexión directa entre la proliferación de discurso del odio y los crímenes violentos de odio, cada vez hay una conciencia más clara del vínculo indirecto entre ambos fenómenos. Si bien no todo discurso del odio desencadena episodios de violencia, lo que sí parece evidente es que raramente se producen episodios de crímenes de odio, sin una previa estigmatización y deshumanización de las víctimas. Por tanto, no está de más recordar aquí, los incidentes de delitos de odio registrados en 2015 por el Ministerio de Interior. Durante 2015, se denunciaron y registraron como delitos de odio 1328 casos, que incluyen lesiones, abusos sexuales, daños, tratos degradantes, etc. Movimiento contra la Intolerancia maneja estimaciones que sitúan la cifra real en torno a los 4000 casos. Teniendo en cuenta que el propio Ministerio de Interior reconoce que una gran parte de los delitos de odio no son denunciados, estas cifras son un indicio de hasta qué punto no es conveniente tomarse a la ligera el discurso del odio, como sustrato justificador o incitador de comportamientos violentos (Ministerio del Interior 2016).

1.4. ¿Quiénes son los autores del discurso del odio?

No cabe duda de que una gran parte del discurso del odio en las redes sociales procede de individuos directa o indirectamente vinculados con colectivos fascistas como Hogar Social Madrid, que cuenta con más de 15.000 seguidores en Twitter, grupos ultras simpatizantes de equipos de fútbol, o partidos políticos de ultra-derecha más o menos marginales como Plataforma per Catalunya, Falange Española de las JONS, España 2000, Alianza Nacional, etc.

prejuicios hostiles provienen del espacio offline.

2. LA RESTRICCIÓN DEL DISCURSO DEL ODIO

2.1. El dilema entre la libertad de expresión y la represión del discurso del

odio

Ante la creciente alarma generada, a nivel internacional, por la proliferación de discurso del odio, y las devastadoras consecuencias que tuvo en algunos genocidios como el de Ruanda o Yugoslavia, se han producido importantes movimientos y presiones para restringir el discurso del odio. Como resultado, los Estados han optado por diferentes niveles de restricción, cada uno en función de su contexto histórico y sociopolítico. La diversidad de enfoques jurídicos de esta problemática, y el consiguiente nivel de represión del discurso del odio, tiene su origen en el importante debate que esta cuestión genera acerca de los límites de la libertad de expresión. La libertad de expresión, aunque es un pilar fundamental del sistema democrático, no es un derecho absoluto 10

. Todos los ordenamientos jurídicos contienen tipos penales que la restringen. Por ejemplo, no existe un derecho al insulto, la calumnia o la amenaza. En el caso del discurso del odio, la tensión se produce entre el derecho a la libertad de expresión, y el respeto a la dignidad humana y la igualdad. Mediante el discurso del odio, se busca la deshumanización y la exclusión social de minorías vulnerables, privándoles así de dignidad y del derecho a la igualdad. En el ámbito internacional, las diferentes tendencias de restricción del discurso del odio se suelen sintetizar, de manera un tanto reduccionista, en la división entre la perspectiva estadounidense, más liberal y “tolerante”; y la perspectiva europea, más militante e “intransigente” con el discurso del odio.

• EE.UU. se ha caracterizado tradicionalmente por una defensa a ultranza de la Primera Enmienda^11 , y por el “compromiso de sostener la libertad, incluso en circunstancias excepcionales” (Revenga-Sánchez, 2015). Se ha articulado la defensa de la libertad de expresión en una concepción del debate público como libre mercado de ideas, en el que la verdad siempre acaba obteniendo aceptación.
• Europa, y también otros países como Canadá, Australia, Sudáfrica, han seguido en general una línea más intransigente con el discurso del odio, y se han apoyado en la figura del abuso de derecho, para negar la posibilidad de invocar la libertad de expresión para amparar la negación del holocausto, la apología del terrorismo o mensajes abiertamente xenófobos o racistas. (^10) El Pacto Internacional de Derechos Civiles y Políticos de 1966 estableció límites a la libertad de expresión. El artículo 19 contempla la posibilidad de restricciones para “asegurar el respeto a los derechos o a la reputación de los demás” y para “la protección de la seguridad nacional, el orden público o la salud o la moral públicas”; y el artículo 20 prohíbe “toda apología del odio nacional, racial o religioso que constituya incitación a la discriminación, la hostilidad o la violencia”. (^11) “El Congreso no podrá hacer ninguna ley con respecto al establecimiento de la religión, (…) ni limitando la libertad de expresión, ni de prensa…”

Sin embargo, esta distinción entre modelos de entender los límites de la libertad de expresión no es tan simple. En primer lugar, la diferencia se ha visto atenuada en los últimos años, entre otros motivos, porque el tradicional respeto estadounidense por la libertad de expresión ha perdido algo de terreno como consecuencia del giro securitario producido en el marco de la denominada “guerra contra el terror”. Y en segundo lugar, porque tanto en Europa como en EE.UU. hay expertos y académicos que simpatizan y defienden la perspectiva y los argumentos contrarios a los que les correspondería por su tradición jurídica (Phillipson 2015). Por otro lado, en el mundo musulmán, algunos países han presionado para que se adopten normas internacionales que prohíban la blasfemia, como una forma de odio religioso, en respuesta a casos como el de las caricaturas de Mahoma en el periódico danés Jyllands-Posten (Phillipson, 2015). En el terreno académico, el debate sobre las prohibiciones del discurso del odio y la libertad de expresión es un debate que trasciende el ámbito jurídico y tiene implicaciones de orden político, ético y filosófico. Se ha enfocado el debate desde múltiples ángulos, y se plantean muy diversas cuestiones:

• ¿Son las prohibiciones del discurso del odio una amenaza para la libertad de expresión?
• ¿Se pueden considerar un mal necesario?
• ¿Prohibir el discurso del odio es un símbolo necesario del compromiso democrático con el respeto de la dignidad humana y la igualdad?
• ¿O es la normalización de las prohibiciones de discurso del odio síntoma de una democracia débil?
• ¿Son las prohibiciones del discurso del odio eficaces? En el siguiente cuadro, se presentan de manera simplificada algunos de los principales argumentos que se suelen utilizar a favor y en contra de las prohibiciones del discurso del odio. A favor En contra 12 La libertad de expresión no es un derecho absoluto. Ha de ser limitado para evitar que se atente contra la dignidad humana, la igualdad, la paz y la convivencia social, el derecho a vivir sin acoso e intimidación, etc. El Pacto Internacional de Derechos Civiles y Políticos así lo reconoce en sus arts. 19.3 y 20. La libertad de expresión y el debate público son esenciales para desarrollar una democracia plena. No deben establecer restricciones basándose únicamente en lo indeseables u ofensivas que puedan ser determinadas expresiones. Se corre el riesgo de abuso por parte de gobiernos que las utilicen como un “derecho penal del enemigo”, para castigar a la disidencia y los oponentes políticos. (^12) Cuadro basado en Nineteen arguments for hate speech bans- and against them de Eric Heinze.

contra la disidencia y los enemigos políticos, por ejemplo, el caso de César Strawberry, líder de Def-Con-Dos^13 , al que el fiscal la Audiencia Nacional acusaba de incitar al odio; el de Guillermo Zapata, concejal del Ayuntamiento de Madrid, al que se encausó por unos chistes publicados en Twitter cuando debatía sobre los límites del humor negro^14 ; o el caso de la joven valenciana María Lluch, “Madame Guillotine” en Twitter, que fue juzgada por hacer chistes sobre víctimas de ETA, y condenada a 1 año de prisión por considerar el Tribunal Supremo sus tuits como discurso del odio no protegido por la libertad de expresión^15 , pese a rebajar la condena inicial de 2 años, por desproporcionalidad. Estos casos, independientemente del juicio ético que a cada uno le puedan merecer, ilustran la problemática de cómo el concepto de discurso del odio puede utilizarse para justificar el castigo penal de ciertas manifestaciones proferidas por oponentes políticos. No se puede perder de vista, por tanto, la idea de que cualquier legislación, incluida la relativa a la restricción del discurso del odio es la expresión del grupo dominante que controla el contenido de la ley (Gagliardone et al. 2015).

2.2. Las particularidades jurídicas del odio en Internet y las redes

sociales

Por si este debate político, ético y jurídico no tuviera suficientes aristas, Internet y las redes sociales añaden aun mayor complejidad al problema del discurso del odio. En primer lugar, porque Internet se ha convertido en una especie de fetiche de liberación, considerado utópicamente por muchos como “ una fuerza revolucionaria que no debería estar sometida a regulación alguna ”, y cualquier intento de regular lo que sucede en la Red, es automáticamente tachado de reaccionario, ilegítimo y antidemocrático (Morozov, E., 2012). Internet y las redes sociales plantean un segundo problema, consustancial al carácter “sin fronteras” de la Red: el problema de la delimitación de la cuestión jurisdiccional. Un mensaje emitido haciendo uso de un servidor de EE.UU. puede tener consecuencias lesivas en España. ¿Qué normativa es aplicable? ¿La estadounidense, más tolerante, o la española? Esta extraterritorialidad supone también un desafío en materia de cooperación judicial, en la medida en que las diferencias legislativas también afectan a materias de importancia capital en el ámbito de la cibercriminalidad, como la protección de datos o el secreto de las comunicaciones. Se plantean, además, problemas derivados de la propia configuración técnica y la operatividad de Internet (localización de servidores, autentificación de IPs, cuentas robot, diferentes procedimientos de encriptación para ocultar la identidad de los (^13) http://www.eldiario.es/politica/Absuelto-Cesar-Strawberry-enaltecido-Twitter_0_538946313.html (^14) http://www.lavanguardia.com/politica/20160307/40269028704/archivada-causa-zapata-tercera- vez-tuits.html (^15) http://www.poderjudicial.es/cgpj/es/Poder-Judicial/Noticias-Judiciales/El-Tribunal-Supremo-condena-a- un-ano-prision-a-una-joven-por-humillar-a-traves-de-twitter-a-Irene-Villa-y-a-Miguel-Angel-Blanco

ataques, etc.) que plantean otra serie de incertidumbres y dificultades en cuestión de obtención de pruebas o de determinación de responsabilidad(Moretón Toquero 2012). Sin entrar aquí en un terreno de gran complejidad jurídica, la transformación del modelo comunicativo que supone Internet sitúa el debate relativo al discurso del odio ante dos alternativas. La primera, la búsqueda de un diálogo internacional para lograr un “ acuerdo global sobre los criterios de restricción o permisividad del discurso del odio en internet ”, que se antoja poco realista. Y la segunda, la “ imposición a Internet de las políticas constitucionales de cada estado ” (Rodríguez Izquierdo, 2015), que presenta los límites e incertidumbres jurídicas que se han expuesto aquí superficialmente.

2.3. Legislación española

La legislación española relativa al discurso del odio en las redes sociales está condicionada por la necesidad de ajustarse a las normas europeas, que siguen la tendencia, cada vez más generalizada a nivel global, de introducir restricciones penales al discurso del odio^16. La última reforma del Código Penal^17 , responde a la exigencia de ajustarse a dicha regulación europea, y a la sentencia del TC 235/2007, de 7 de noviembre, que impuso una interpretación restrictiva del delito de negación del genocidio, limitando su aplicación a los casos en que esta conducta implique una incitación al odio u hostilidad contra minorías. La nueva regulación ha unificado los diferentes delitos de discurso del odio en el artículo 510 del Código Penal, y los castiga con las siguientes penas: 1 - 1 a 4 años de prisión y multa de 6 a 12 meses, a. Incitación directa o indirecta al odio, a la hostilidad, a la discriminación y a la violencia , contra grupos o individuos por motivos racistas, antisemitas u otros relativos a su ideología, religión, origen, sexo, orientación sexual, enfermedad o discapacidad. b. Producción y difusión de materiales , con la misma motivación que en el apartado a). c. Negación o enaltecimiento de los delitos de genocidio , lesa humanidad o contra las personas o bienes protegidos en caso de conflicto armado que hubieran sido cometidos contra los grupos señalados, cuando ello promueva o favorezca un clima de violencia, hostilidad u odio contra los mismos. 2 - penas de prisión de 6 meses a 2 años y multa de 6 a 12 meses (y prisión de 1 a 4 años cuando se promueva un clima de violencia, odio o discriminación) (^16) En concreto, la Decisión Marco 2008/913/JAI, de 28 de noviembre, relativa a la lucha contra determinadas formas y manifestaciones de racismo y xenofobia mediante el Derecho penal, de la Unión Europea, establece unas directrices básicas que deben recogerse en todos los estados miembros de la Unión. También es destacable en este sentido, el Protocolo Adicional al Convenio sobre la ciberdelincuencia, relativo a la penalización de actos de índole racista y xenófoba cometidos por medio de sistemas informáticos de 2003, del Consejo de Europa (^17) L.O. 1/2015, de 30 de marzo

sanción administrativa e, incluso, la exigencia de responsabilidad civil, podrían ser mucho más respetuosas ” con la Constitución y además, serían probablemente más eficaces que una norma penal, que por su rigurosidad y desproporcionalidad, puede acabar resultando inaplicable para los jueces. Efectivamente, hasta la fecha, la jurisprudencia ha hecho una interpretación restrictiva de los delitos de discurso de odio. Esto ha tenido como resultado un panorama jurídico de penas muy duras y nula sanción del discurso del odio. Para Rey Martínez (2015: 77 ), se precisa “ más sanción de los discursos del odio, pero con una dureza penal proporcionada ”. La nueva regulación, a pesar de la introducción de los tipos atenuados del apartado 2 del artículo 510, ha mejorado poco en este aspecto, al establecer penas de hasta 4 años de cárcel, apartándose incluso de la Decisión Marco 2008/913/JAI de la UE, que estipula penas máximas de 3 años (Gascón Cuenca, 2015). Veremos cuál es la interpretación que los jueces y magistrados hacen de la nueva regulación. En cualquier caso, sería deseable que no incurrieran en las contradicciones que se produjeron al aplicar la legislación anterior, y que algunos expertos, como Miguel Ángel Aguilar, fiscal coordinador de Delitos de Odio de la Fiscalía de Barcelona, criticaron duramente^20 , al dictar el Tribunal Supremo dos sentencias contradictorias en el plazo de una semana. De cualquier manera, no se ha de olvidar que la represión penal de lo que genéricamente se entiende por discurso del odio no se agota en el art. 510 del Código Penal. El Código Penal contempla una circunstancia agravante genérica por motivos discriminatorios, que agrava la responsabilidad penal de cualquier delito, y que, por ejemplo, puede aplicarse a conductas típicas en las redes sociales^21 , como las amenazas o el acoso. La consideración de que concurre la agravante de discriminación supone que la pena correspondiente a cada delito se impondrá en su mitad superior. Además existe un delito de amenazas a colectivos,^22 que castiga las amenazas, con la entidad suficiente como para lograr atemorizar, dirigidas a grupos étnicos, culturales, etc. Principales problemas para la persecución de los delitos de discurso del odio Algunos de los principales problemas, de orden práctico, que dificultan una efectiva persecución de los delitos de odio en general, y de los delitos de discurso del odio en redes sociales, en particular, son, a juicio de los expertos (Aguilar et al., 2015), los siguientes:

• Desconocimiento de los hechos por el escaso número de denuncias.
• Minimización de los hechos en algunos casos por parte de los responsables de las investigaciones.
• Insuficientes investigaciones policiales y judiciales.
• Dificultades para acreditar la motivación “odiosa” o discriminatoria del delito.
• Poca formación en igualdad y no discriminación de las instituciones implicadas: cuerpo judicial, funcionarios judiciales, forenses, policía, seguridad privada, etc. (^20) http://www.elmundo.es/elmundo/2011/06/13/barcelona/1307982347.html (^21) Art.22.4 CP (^22) Art.170.1 CP

• Dificultades inherentes al escenario “redes sociales”: problemas de jurisdicción, territorialidad, identificación y obtención de datos de los agresores, etc. Normas administrativas Desde el punto de vista del derecho administrativo, existen algunas normativas que contemplan la posibilidad de sancionar conductas que pueden ser entendidas como discurso del odio. En este sentido, la normativa más específica es la Ley 19/2007, contra la violencia, el racismo, la xenofobia y la intolerancia en el deporte, que es un ámbito de especial incidencia de conductas intolerantes, y en el que los grupos ultras de extrema derecha encontraron durante años un espacio propicio para dar rienda suelta a sus actitudes abiertamente racistas, homófobas, y discriminatorias, con relativa impunidad. En lo que respecta al objeto específico de este informe, esta ley considera la difusión, por medios informáticos o tecnológicos, vinculados a información deportiva, “de contenidos que promuevan o den soporte a la violencia, o que inciten, fomenten o ayuden a los comportamientos violentos o terroristas, racistas, xenófobos o intolerantes por razones de religión, ideología, orientación sexual (…) ”como infracción muy grave, y la castiga con importantes sanciones económicas.^23 Instituciones especializadas y protocolos policiales contra el odio y la discriminación. En marzo de 2013, el Ministerio Fiscal puso en marcha una red de fiscales especializados contra el odio , con la designación de un fiscal en cada provincia, encargado de coordinar la actuación, en materia de odio y discriminación, de la Fiscalía de la provincia, y de coordinar dicha actuación con el resto de la red de fiscales provinciales especializados en la materia. Esta figura se inspiró en el ejemplo del Servicio de Delitos de Odio y Discriminación de la Fiscalía de Barcelona, constituido en 2009, y que fue pionero en este ámbito, y ha sido reconocido por la Agencia de Derechos Fundamentales de la Unión Europea, como un ejemplo de buena práctica, que debería ser reproducido en otros estados de la UE. Entre los retos que se plantea este servicio, se encuentran los siguientes (Aguilar et al. 2015):
• recabar mejor información sobre hechos que pudieran constituir conductas punibles en esta materia;
• promover la comunicación con la Fiscalía de los colectivos y ciudadanos afectados, tanto para denunciar como para compartir iniciativas y sugerencias;
• contribuir a unificar los criterios de aplicación e interpretación del Código Penal
• afrontar la complejidad de las investigaciones de los delitos de incitación al odio, la violencia y la discriminación, cuando se producen en Internet y redes sociales; (^23) Art. 23, 1, c) y 24, 1, c) de la Ley 19/2007. Sanciones desde 60.000,01€ a 650.000€

población de los continentes europeo y americano. Estas cifras masivas convierten a las redes sociales en un actor, con un rol de intermediario, pero con un poder innegable. Su papel de intermediarias en la comunicación digital, les convierte en el primer árbitro en la determinación de qué se puede decir y qué no. En este sentido, conviene recordar que las grandes redes sociales más usadas en Europa, tienen su sede en Estados Unidos, y por tanto, están imbuidas de la filosofía norteamericana, más defensora de una libertad de expresión más absoluta y más tolerante con cierto discurso del odio. Esta circunstancia tiene, como hemos señalado en el epígrafe anterior, repercusiones legales, por ejemplo, en términos de colaboración con la justicia en cuanto a requerimientos de datos. Pero también influye en sus políticas de auto- regulación y en la forma de llevarlas a la práctica. En relación con las empresas intermediarias, se plantean diferentes alternativas:

• la atribución de responsabilidad a las empresas,
• la promoción de la autorregulación,
• y la implementación de filtros informáticos (Rodríguez Izquierdo 2015). Cualquiera de estas vías plantea ciertos dilemas.

3.1. Atribución de responsabilidad

Mientras que en Estados Unidos los proveedores de servicios están prácticamente exentos de responsabilidad por los contenidos publicados, la atribución de responsabilidad a los prestadores de servicios intermediarios en la Unión Europea está basada principalmente en el conocimiento efectivo del carácter ilícito de los contenidos publicados en su servicio (Rodríguez Izquierdo 2015). En principio, sólo serán responsables cuando no retiraran o impidieran el acceso a un contenido ilícito con prontitud, habiendo tenido conocimiento de su ilicitud por medio de una notificación del titular de los derechos o por medio de una orden de un órgano competente. La sentencia Delfi del Tribunal Europeo de Derechos Humanos estableció la responsabilidad del portal de noticias estonio, Delfi, al considerarlo como proveedor de contenidos, por los comentarios publicados por sus lectores, incluso sin haber recibido una solicitud de retirada del contenido ilícito. Sin embargo, en la sentencia, el Tribunal determinó que esta interpretación no es aplicable a las redes sociales, estableciendo una diferenciación entre proveedores de servicios técnicos, con un rol pasivo, como las redes sociales, y los proveedores de servicios de contenidos, como una web de noticias o un medio de comunicación online^25.

3.2. Auto-regulación e implementación de filtros informáticos

La persecución y restricción de los delitos de discurso del odio por los estados se enfrenta a las dificultades ya señaladas para actuar fuera de sus fronteras. Sin embargo, y aquí reside una de las principales ventajas de las estrategias de auto- regulación, las compañías, en tanto que operadores privados, tienen el derecho de establecer códigos éticos y condiciones de uso de sus servicios, aplicables (^25) http://blog.garrigues.com/se-confirma-la-responsabilidad-de-los-portales-de-noticias-por-los-comentarios- difamatorios-de-los-lectores/

globalmente. Todas las grandes redes sociales, Twitter, Facebook, Instagram, Tumblr, etc., e incluso los medios de comunicación, cuyos foros de comentarios también son un canal habitual del discurso del odio, cuentan con políticas o condiciones de uso que, en principio, prohíben el discurso del odio en sus plataformas de comunicación. Twitter, por ejemplo, prohíbe expresamente^26 las amenazas, la incitación a la violencia, el acoso, así como el comportamiento que incita al odio, por motivos de origen étnico, nacionalidad, orientación sexual, género, religión, etc. Facebook incluye en sus condiciones de servicio cláusulas relativas a la no publicación de contenido intimidatorio, discriminatorio, incitador de la violencia, pero reconoce expresamente la incapacidad de garantizar que Facebook sea un lugar seguro, y enuncian sus normas a modo de compromisos del usuario. Desde la perspectiva de que Facebook constituye una comunidad global, sometida a diferentes legislaciones nacionales, establecen unas normas comunitarias a modo de auto-regulación.^27 Facebook expone, mediante dichas normas, qué contenido se puede denunciar y eliminar, destacando, a los efectos de este informe, la eliminación del lenguaje que incita al odio por motivos de raza, etnia, nacionalidad, religión, orientación sexual, sexo, género, identidad sexual, o discapacidades o enfermedades graves. La mayoría de las redes sociales, incluidas las dos grandes redes sociales, Facebook y Twitter, cuentan con sistemas de denuncia que permiten a los usuarios poner en conocimiento de las empresas la presencia de contenido abusivo que vulnere las normas de uso de las plataformas, para que las compañías valoren su eliminación. Facebook advierte expresamente en sus normas comunitarias, de que no todo contenido ofensivo infringe sus normas, y por ello, ofrece además la posibilidad de bloqueos y filtros personalizados para ocultar aquel contenido que el usuario no desea ver. Sin embargo, a pesar de esta actitud, teóricamente intolerante con el discurso del odio, por parte de las compañías, lo cierto es que los mecanismos de denuncia y eliminación de comentarios se llevan a la práctica de manera un tanto disfuncional. Así lo atestigua una investigación del proyecto PRISM (Jubany y Roiha 2016), en la que de un total de 100 denuncias realizadas a Facebook, solo 9 obtuvieron como resultado la eliminación de los comentarios^28. La errática política de eliminación de comentarios de la compañía, ya sea por el mal funcionamiento de los algoritmos que emplean o porque los equipos encargados de gestionar las denuncias estén superados por el ingente volumen de comentarios denunciados, tuvo como resultado la eliminación de mensajes como “Los perros son más discretos que los musulmanes”, mientras que mensajes como ”Matarlos a todos sin piedad” fue considerado por Facebook, como un mensaje que no vulneraba las normas de comunidad. Una de las principales críticas que se han venido haciendo sobre los mecanismos de (^26) https://support.twitter.com/articles/ (^27) https://www.facebook.com/communitystandards# (^28) http://www.elperiodico.com/es/noticias/sociedad/estudio-proyecto-prism-denuncia-banalizacion-discurso- odio-internet- 5284591