INTELIGENTE ARTIFICIAL INFORMACIÓN BREVE, Summaries of Artificial Intelligence

Download INTELIGENTE ARTIFICIAL INFORMACIÓN BREVE and more Summaries Artificial Intelligence in PDF only on Docsity! | Asesoría Técnica Parlamentaria Inteligencia Artificial: investigación científica y consideraciones éticas Autor Raimundo Roberts M. Email: [email protected] Tel.: (56) 32 226 3199 Nº SUP: 120282 Resumen Aunque hoy no existe una definición consensuada de Inteligencia Artificial por parte del mundo científico, un elemento característico es la creación de máquinas que piensen o actúen como lo haría un ser humano. La construcción de este tipo de máquinas se ha acelerado durante los últimos años gracias a los avances en informática, robótica y otras áreas del conocimiento, y hoy, los países más avanzados del mundo están desarrollando agresivas propuestas para liderar la creación de tecnologías que inciden en múltiples áreas: trabajo, salud, transporte, finanzas, etc. Las preocupaciones éticas asociadas (pérdida de libertades, generación de sesgos en la toma de decisiones de máquinas, el daño a las personas por parte de decisiones de inteligencia artificial) han sido recogidas recientemente por la OCDE, la Unión Europea, el G20 y las Naciones Unidas, entre otras organizaciones internacionales. Estas han generado acuerdos para la protección del bienestar humano en entornos de Inteligencia Artificial, que buscan el desarrollo de Inteligencia Artificial confiable y una administración de estos sistemas con responsabilidad por parte de quienes fabriquen y utilicen este tipo de sistemas, así como el desarrollo de una transición gradual en el mundo laboral, de manera que su avance no vaya en desmedro sino en favor de las personas y el medioambiente. I. Introducción Esta minuta da respuesta a la consulta sobre el concepto de inteligencia artificial y sus alcances. Actualmente, la Inteligencia Artificial es una materia de interés prioritario en China, Estados Unidos, la Unión Europea (e individualmente en naciones europeas como Reino unido, Francia, Alemania, así como en naciones como la India o Rusia, entre otros). Sus aplicaciones alcanzan casi todas las áreas de la economía y de la sociedad, entre ellas la toma de decisiones, los medios de comunicación, la banca, la salud, etc. Su desarrollo podría considerarse explosivo considerando los esfuerzos de inversión pública de las naciones mencionadas, así como las Biblioteca del Congreso Nacional de Chile | Asesoría Técnica Parlamentaria 2 preocupaciones éticas y normativas de entidades como las Naciones Unidas, la OECD y el G20, entre otros. Sin una definición clara para las y los especialistas, pero con miles de artículos científicos publicados (que pasaron de 10.000 al año en 1998 a más de 60.000 al año en 20171), las preocupaciones principales están en el impacto que este tipo de tecnologías tiene y tendrá en el futuro cercano en una amplia gama de procesos. El siguiente informe da cuenta de información sobre Inteligencia Artificial, su producción científica (por áreas del conocimiento y principales países) y las preocupaciones éticas y normativas de organismos internacionales. Se basa en documentos de organismos internacionales como la Organización de Cooperación y Desarrollo Económico OCDE, el G20 y las Naciones Unidas, y en especial en el informe presentado en 2018 por Elsevier para definir y caracterizar lo que hoy se entiende por Inteligencia artificial. No se profundiza en políticas nacionales de países líderes, ni en el avance chileno en la materia, aun cuando nuestro país, en términos de publicaciones, ocupa el lugar 52 del mundo en número, con 1262 artículos2, algo menos que Colombia, Marruecos y Serbia. II. Definir la Inteligencia artificial No existe una definición consensuada entre las personas expertas sobre qué es la Inteligencia Artificial (IA). A falta de una definición concreta moderna, la historia nos muestra que el término habría sido utilizado por primera vez en 1955 por cuatro investigadores de Estados Unidos, en una propuesta de trabajo científico para el verano de 19563. “Proponemos que se lleve a cabo un estudio de inteligencia artificial de 2 meses y 10 hombres durante el verano de 1956 en Dartmouth College en Hanover, New Hampshire. El estudio debe basarse en la conjetura de que cada aspecto del aprendizaje o cualquier otra característica de la inteligencia puede, en principio, describirse con precisión tal, que se puede crear una máquina para simularla. Se intentará descubrir cómo hacer que las máquinas utilicen el lenguaje, formen abstracciones y conceptos, resuelvan tipos de problemas que ahora están reservados para los humanos y se mejoren a sí mismos. Creemos que se puede lograr un avance significativo en uno o más de estos problemas si un grupo de científicos cuidadosamente seleccionados trabajan en conjunto durante un verano”. 1 Figura 4, “Annual number of AI publications (all document types), 1998-2017; source: Scopus. En “Executive summary: Artificial Intelligence: How knowledge is created, transferred, and used: Trends in China, Europe, and the United States”, By the Elsevier Artificial Intelligence Program 12/11/2018. Disponible en: http://bcn.cl/2af75 (Junio, 2019). 2 Elsevier AI Report, Chile Publications (Publication time range: 1998-2017), Elsevier’s Scopus. Disponible en: http://bcn.cl/2af76 (Junio, 2019). 3 "A PROPOSAL FOR THE DARTMOUTH SUMMER RESEARCH PROJECT ON ARTIFICIAL INTELLIGENCE” J. McCarthy, Dartmouth College; L. Minsky, Harvard University; N. Rochester, I.B.M. Corporation; C.E. Shannon, Bell Telephone Laboratories. 31 de agosto de 1955. Disponible en: http://bcn.cl/2af77 (Junio, 2019). Biblioteca del Congreso Nacional de Chile | Asesoría Técnica Parlamentaria 5 Según el citado informe de Elsevier sobre Inteligencia artificial (el cual utiliza herramientas de IA para la búsqueda y tratamiento de la información, considerando en su metodología el uso de 800.000 conceptos y palabras clave sobre IA en más de 6.000 textos del mundo académico, de la investigación, la industria y los medios de comunicación, para luego analizar más de medio millón de documentos sobre IA) las siete áreas de mayor desarrollo en la materia actualmente son: Búsqueda y optimización; “Machine learning” y razonamiento probabilístico; Redes neurales; Visión por computadora; Procesamiento de lenguaje natural y representación del conocimiento; Planificación y toma de decisiones, y Sistemas difusos. La siguiente figura grafica la complejidad de las materias analizadas y como se conforman los clústeres mencionados. Figura 1. Reporte Elsevier: Clústeres de palabras clave y coocurrencias en el campo de la IA, 2017 Fuente: Scopus en Elsevier Report 201817. 17 Figure 1, “Executive summary: Artificial Intelligence: How knowledge is created, transferred, and used: Trends in China, Europe, and the United States”, By the Elsevier Artificial Intelligence Program 12/11/2018. Disponible en: http://bcn.cl/2af75 (Junio, 2019). Biblioteca del Congreso Nacional de Chile | Asesoría Técnica Parlamentaria 6 El mismo informe muestra estas investigaciones se enfocan de distinta manera si se analizan las actividades a las que van dirigidas. Por ejemplo, China ha puesto un marcado acento en el desarrollo de IA para la agricultura, mientras que Estados Unidos y Europa desarrollan más investigación y aplicaciones para la salud. En todo caso, el 60% de las áreas de investigación totales apuntan al área de las ciencias naturales18. Uno de los aspectos interesantes del estudio de Elsevier muestra que, aunque la preocupación sobre problemas éticos de la IA ha generado un importante cuerpo de investigación, los estudios propiamente en áreas de Inteligencia Artificial no integran estas preocupaciones. El informe establece que: “• La ética de la IA debe ser consciente de y construir sobre el pensamiento ético existente. Sin embargo, también debe trabajar en asociación con las comunidades técnicas y empresariales para dar forma a los resultados éticos. Esto debería involucrar procesos existentes, tales como aquellos desarrollados en investigación responsable e innovación en TIC. • La ética no es un conjunto fijo de reglas que determinan lo bueno y lo malo, sino que está completamente integrado en el contexto social. Para garantizar los beneficios de la inteligencia artificial mientras se resuelven las dificultades, es necesario desarrollar mecanismos de gobierno apropiados. • La IA no es solo una herramienta técnica. Debido a su impacto potencialmente enorme, abordar la ética de la IA requiere la colaboración entre tecnólogos, responsables políticos, la sociedad civil y otras partes interesadas”.19 Y en términos concretos, el informe concluye que está en aumento el estudio y las preocupaciones éticas en temas concretos como “la privacidad, la confianza, la imparcialidad, la transparencia y la responsabilidad”, así como qué aspectos del desarrollo de la IA han de ser normados. Sin embargo, esta respuesta se está gestando desde los tomadores de decisiones. IV. Acciones desde la política internacional Las preocupaciones éticas nacen desde el mundo de las ciencias sociales y las humanidades, para luego trasladarse al ámbito normativo y luego regulatorio. En este caso, tal es la integración de la Inteligencia Artificial a diferentes niveles en aspectos clave de la vida humana que instituciones como la OECD, las Naciones Unidas y otras están desarrollando repositorios y centros de información para ayudar en su comprensión y posterior regulación. La OECD, por ejemplo, presentó el 22 de mayo de 2019 (menos de un mes antes que la elaboración de este documento) sus “Principios sobre Inteligencia Artificial”, normas internacionales “acordadas por los gobiernos para la administración responsable de una IA confiable”20. 18 Pp.39, “Executive summary: Artificial Intelligence: How knowledge is created, transferred, and used: Trends in China, Europe, and the United States”, By the Elsevier Artificial Intelligence Program 12/11/2018. 19 Pp. 77, “Executive summary: Artificial Intelligence: How knowledge is created, transferred, and used: Trends in China, Europe, and the United States”, By the Elsevier Artificial Intelligence Program 12/11/2018. 20 Principios de la OCDE sobre Inteligencia Artificial. Disponible en: https://www.oecd.org/going-digital/ai/ (Junio, 2019). Biblioteca del Congreso Nacional de Chile | Asesoría Técnica Parlamentaria 7 Se trata de cinco principios complementarios entre sí, para la administración responsable de AI confiable. Traducidos al castellano son los siguientes: -La IA debería beneficiar a las personas y al planeta impulsando el crecimiento inclusivo, el desarrollo sostenible y el bienestar. -Los sistemas de IA deben diseñarse de una manera que respete el estado de derecho, los derechos humanos, los valores democráticos y la diversidad, y deben incluir salvaguardas apropiadas, por ejemplo, permitir la intervención humana cuando sea necesario, para garantizar una sociedad justa y equitativa. -Debe haber transparencia y divulgación responsable en torno a los sistemas de IA para garantizar que las personas entiendan los resultados basados en la IA y puedan desafiarlos. -Los sistemas de IA deben funcionar de manera robusta, segura y segura a lo largo de sus ciclos de vida y los riesgos potenciales deben evaluarse y gestionarse continuamente. -Las organizaciones e individuos que desarrollan, despliegan u operan sistemas de IA deben ser responsables de su correcto funcionamiento en línea con los principios anteriores. El 9 de junio de 2019, el G-20 adoptó los “Principios para la administración responsable de la IA confiable” (basados en los establecidos por la OECD), así como una serie de recomendaciones bajo el nombre de “Políticas nacionales y cooperación internacional para una IA confiable” (se acompaña en el anexo una versión traducida al castellano). Estos principios, más las recomendaciones de política pública que los acompañan, tienen por misión regular el creciente campo de investigación y aplicaciones asociadas a la Inteligencia Artificial, teniendo en cuenta el bienestar humano y una transición no traumática en áreas como lo laboral, ambiental o social. La siguiente tarea en el desarrollo de una regulación es informar y regular aquellas materias donde la tecnología, en este caso, la IA, incide directa o indirectamente sobre las personas, considerando como señalan las instituciones recién mencionadas el interés y el bienestar de las personas por sobre el avance tecnológico o el beneficio económico. Biblioteca del Congreso Nacional de Chile | Asesoría Técnica Parlamentaria 10 2.2. Fomento de un ecosistema digital para la IA. Los gobiernos deberían fomentar el desarrollo y el acceso a un ecosistema digital para una IA confiable. Dicho ecosistema incluye, en particular, tecnologías e infraestructuras digitales y mecanismos para compartir el conocimiento de la IA, según corresponda. En este sentido, los gobiernos debieran considerar la promoción de mecanismos como los fideicomisos de datos, para apoyar el intercambio seguro, justo, legal y ético de los datos. 2.3 Configuración de un entorno normativo propicio para la IA a) Los gobiernos deberían promover un entorno normativo que apoye una transición ágil desde la etapa de investigación y desarrollo a la etapa de implementación y operación de sistemas de IA confiables. Para este efecto, deben considerar el uso de la experimentación para proporcionar un entorno controlado en el que los sistemas de IA puedan probarse y ampliarse, según corresponda. b) Los gobiernos deberían revisar y adaptar, según corresponda, sus políticas y marcos regulatorios y mecanismos de evaluación según se apliquen a los sistemas de IA para alentar la innovación y la competencia por IA de confianza. 2.4. Desarrollo de capacidades humanas y preparación para la transformación del mercado laboral. a) Los gobiernos deberían trabajar en estrecha colaboración con las partes interesadas para prepararse para la transformación del mundo del trabajo y de la sociedad. Deben capacitar a las personas para que utilicen e interactúen eficazmente con los sistemas de Inteligencia Artificial en toda la gama de aplicaciones, incluso equipándolos con las habilidades necesarias. b) Los gobiernos deberían tomar medidas, incluso a través del diálogo social, para garantizar una transición justa para los trabajadores a medida que se despliega IA, por ejemplo, a través de programas de capacitación a lo largo de la vida laboral, apoyo a los afectados por el desplazamiento y acceso a nuevas oportunidades en el mercado laboral. c) Los gobiernos también deberían trabajar en estrecha colaboración con las partes interesadas para promover el uso responsable de la IA en el trabajo, mejorar la seguridad de los trabajadores y la calidad de los empleos, fomentar el espíritu empresarial y la productividad, y tratar de garantizar que los beneficios de la IA sean amplios y justamente compartidos. 2.5. Cooperación internacional para una IA confiable. a) Los gobiernos, incluidos los países en desarrollo y las partes interesadas, deberían cooperar activamente para promover estos principios y avanzar en la administración responsable de una IA confiable. b) Los gobiernos deberían trabajar juntos en la OCDE y en otros foros mundiales y regionales para fomentar el intercambio de conocimientos de inteligencia artificial, según corresponda, deberían alentar las iniciativas internacionales, intersectoriales y abiertas de múltiples interesados para obtener experiencia a largo plazo sobre la IA. Biblioteca del Congreso Nacional de Chile | Asesoría Técnica Parlamentaria 11 c) Los gobiernos deberían promover el desarrollo de estándares técnicos globales impulsados por el consenso y por múltiples partes interesadas para una IA interoperable y confiable. d) Los gobiernos también deberían alentar el desarrollo, y el propio uso, de métricas comparables internacionalmente para medir la investigación, desarrollo y despliegue de IA, y recopilar evidencia para evaluar el progreso en la implementación de estos principios. Nota aclaratoria Asesoría Técnica Parlamentaria, está enfocada en apoyar preferentemente el trabajo de las Comisiones Legislativas de ambas Cámaras, con especial atención al seguimiento de los proyectos de ley. Con lo cual se pretende contribuir a la certeza legislativa y a disminuir la brecha de disponibilidad de información y análisis entre Legislativo y Ejecutivo. Creative Commons Atribución 3.0 (CC BY 3.0 CL)