Baixe Inteligência Artificial e outras Resumos em PDF para Inteligência Artificial, somente na Docsity!
Introdução
inteligência artificial (IA), surgida na década de 1950 , tem sua ori- gem praticamente confundida com a própria origem do computador. Mais precisamente, no verão de 1956 , ocorreu a Darthmouth College Conference,^1 que é considerada o marco inicial da IA. Os pesquisadores reconhe- cidos como pais da área, como John MacCarthy, Marvin Minsky, Alan Newell e Herbert Simon, entre outros, participaram desse evento e tiveram trajetórias científicas que estabeleceram marcos nesse fascinante domínio da Computação. Como o nome mesmo insinua, a área sempre foi cercada de enormes ex- pectativas, e em inúmeras vezes essas não foram completamente atingidas. Desse modo, a oscilação de humor em relação à área assemelha-se a uma curva senoi- dal, havendo períodos de grande entusiasmo e grande financiamento (como ocorre agora) seguidos por outros de decepção e recursos escassos. Estes últi- mos são conhecidos como AI Winter (Inverno da IA), como foram por exemplo os períodos entre 1975/1980 e 1987/1993. Atualmente, atravessamos novamente um período de euforia sobre os pos- síveis benefícios que a IA pode prover. Tal otimismo se justifica por uma con- junção de três fatores fundamentais: (i) o custo de processamento e de memória nunca foi tão barato; (ii) o surgimento de novos paradigmas, como as redes neurais profundas, possibilitados pelo primeiro fator e produzindo inegáveis avanços científicos; e (iii) uma quantidade de dados gigantesca disponível na internet em razão do grande uso de recursos tais como redes e mídias sociais. Tal entusiasmo, entretanto, vem sido acompanhado por uma série de temores, alguns dos quais fundados. O objetivo deste artigo é prover informações para que o leitor comum possa melhor entender os principais aspectos da IA, em que ela difere da compu- tação convencional e como ela pode ser inserida nos processos organizacionais da sociedade humana. Além disso, busca evidenciar os grandes avanços e poten- ciais riscos que essa tecnologia, tal como qualquer outra, pode provocar caso os atores envolvidos na produção, utilização e regulação de seu uso não criem um espaço de discussão adequado destas questões.
O que vem a ser IA?
Sempre que ocorre um entusiasmo com os resultados de uma tecnologia, existe uma tendência da mídia em fornecer definições e explicações, por vezes
Inteligência Artificial
e sociedade : avanços e riscos
J AIME S IMÃO S ICHMAN I
A
não muito precisas, dos seus principais aspectos. Isso é, certamente, o que ocor- re com a IA nos dias de hoje. Em primeiro lugar, cabe ressaltar que não existe uma definição acadêmica, propriamente dita, do que vem a ser IA. Trata-se certamente de um ramo da ciência/engenharia da computação, e portanto visa desenvolver sistemas compu- tacionais que solucionam problemas. Para tal, utiliza um número diverso de téc- nicas e modelos, dependendo dos problemas abordados. Portanto, é inadequado utilizar-se expressões como “a IA da empresa X”; mais adequado (porém com menos apelo) seria dizer “um sistema da empresa X que utiliza técnicas de IA”.
Ao invés de tentar fornecer uma definição de IA, mais adequado seria ten- tar caracterizar quais são os objetivos da área. Uma das primeiras tentativas desta abordagem, proposta em Rich e Knight (1991), é a seguinte: o objetivo da IA é desenvolver sistemas para realizar tarefas que, no momento: (i) são mais bem realizadas por seres humanos que por máquinas, ou (ii) não possuem solução algorítmica viável pela computação convencional.
Para entender melhor essa definição, necessita-se esclarecer o que vem a ser um algoritmo , palavra que também é bastante citada na mídia, às vezes de modo não muito preciso. Um algoritmo nada mais é do que uma sequência finita de ações que resolve um certo problema. Uma receita culinária, como a de um risoto, é um algoritmo. Assim, um algoritmo pode resolver problemas de tipos bastante diferentes: cálculo estrutural (projeto de uma ponte), pro- cessamento de dados (geração de uma folha de pagamentos) ou planejamento (definição de um pacote de turismo).
Qual a principal diferença entre esses problemas? Basicamente, certos pro- blemas têm soluções exatas, como o projeto da ponte, o processamento da folha de pagamentos e a receita do risoto. Solução exata, nesse caso, significa que se os passos definidos no algoritmo forem executados exatamente na ordem definida, ter-se-á ao final uma ponte que resistirá às intempéries, uma folha de pagamen- tos sem futuros problemas com o fisco e um delicioso risoto à moda italiana.
Por outro lado, problemas como a definição do pacote de turismo não têm uma solução exata, ou uma única solução. Outros exemplos similares são produção de diagnósticos (médicos, legais), geração automática de diálogos, reconhecimento de imagens etc. No caso do pacote de turismo, como garantir que é o melhor a ser adquirido? Deve-se escolher primeiro o voo ou o hotel? Quais datas teriam um custo menor? Existe disponibilidade nessas datas para todos os recursos desejados (hotéis, voos, passeios), e em caso positivo as férias podem ser marcadas nesse período?
Uma possível abordagem para solucionar tais problemas seria tentar gerar as possíveis soluções até que se obtenha a primeira delas, ou até que se encontre a melhor delas, caso existam várias soluções. Tal abordagem, apesar de teorica- mente plausível, quase sempre é inviável na prática: a quantidade de possíveis soluções geradas é muito grande, e mesmo com um computador muito potente
quisa, denominada agentes autônomos e sistemas multiagentes , dedicada a investi- gar como as acima mencionadas técnicas de IA poderiam ser integradas de modo mais eficaz e efetivo em um único agente e também como um conjunto destes agentes poderia interagir de forma coordenada e cooperativa, visando resolver um problema quando nenhum deles de forma isolada poderia fazê-lo. Um con- junto de veículos autônomos seria um exemplo de um sistema multiagentes: não basta que cada um decida o melhor roteiro para atingir a meta de seu passageiro, mas é necessário que os veículos cooperem e se coordenem, para não causarem acidentes, como usualmente ocorre com condutores humanos.
Nessa nova e fascinante área de pesquisa, surgiram algumas definições im- portantes do que seria um agente, como a inicialmente proposta por Wooldridge (1997 apud Jennings, 1999, p.1): “Um agente é um sistema computacional en- capsulado que está situado em algum ambiente, e que é capaz de ação autônoma e flexível naquele ambiente, a fim de cumprir seus objetivos”. A inserção da dimensão organizacional e a interação com os usuários foi proposta na sequência em Boissier e Sichman (2004, p.5): “Um agente é en- tidade real ou virtual, que é autônoma, pró-ativa, reativa e social, sendo capaz de exibir atividade organizada de modo a atingir seus objetivos, eventualmente interagindo com usuários”.
Em ambas as definições, menciona-se o conceito de autonomia , crucial para que se possa refletir sobre os possíveis efeitos positivos e negativos da inte- ração desses sistemas com os seres humanos.
Agentes autônomos
Costuma-se encontrar na literatura de IA várias definições para o termo autonomia. Quase todas são definições relacionais, associadas a pelo menos quatro significados muito diferentes, como inicialmente discutido em Sichman (1995, p.50):
- autonomia em relação ao design : um agente é autônomo se ele tem sua própria existência, independente da existência de outros agentes, como proposto em (Demazeau; Müller 1990). Anos mais tarde, tal abordagem materializou-se na chamada “computação baseada em serviços”;
- autonomia em relação ao ambiente : um agente autônomo é um agente que deve trabalhar em ambientes dinâmicos e incertos, que só podem ser percebidos de modo imperfeito, que podem mudar como resultado de ações que não são controladas pelo próprio agente e sobre o quais os efeitos de suas ações nem sempre são previsíveis. Essa definição de autonomia é normalmente encontrada nos trabalhos de robótica móvel, como os elencados por (Nilsson, 1994) e também está muito próximo da noção de autopoiese citada em (Bourgine, 1995);
- autonomia em relação aos próprios objetivos : um agente autônomo é um agente que pode atingir seus objetivos por conta própria. Ele não tem não necessidade a priori de cooperar com outros agentes, e caso decida
fazê-lo tal escolha se deve a uma possível melhoria de sua atuação. Essa noção de autonomia, bem como outra em relação à localidade (local ou global) da tarefa a ser realizada, foi usada em (Demazeau; Müller, 1990) para classificar comportamentos possíveis de um agente de negócio (coa- bitação, cooperação, colaboração e distribuição), sendo posteriormente refinada em (Ferber, 1995) para propor a noção de situações de intera- ção entre agentes;
- autonomia em relação às motivações : um agente autônomo é um agente que tem a liberdade de escolha para interagir socialmente. É a partir do conteúdo de seu estado mental que ele decide cooperar ou não, adotar objetivos de outros agentes ou não etc., como discutido em (Castelfran- chi, 1990). Em outras palavras, o significado do termo significa que um agente não é necessariamente benevolente, podendo decidir atingir um objetivo ou não, cooperar com outros agentes ou não. Mais recentemente, tal caráter plurifacetado de noção de autonomia foi reiterado em (Dignum, 2019, p.18):
É importante notar que sistema autônomo é um termo impróprio, pois nenhum sistema é autônomo em todas as situações e para todas as tarefas [...] Autonomia não é uma propriedade intrínseca de um sistema, mas sim o resultado da sua interação com a tarefa, contexto e ambiente [...] Não se trata de uma propriedade emergente, mas de algo que deve ser projetado no sistema. Certamente, a definição de autonomia em relação às suas motivações é a que provoca mais discussões no contexto das atuais e (potencialmente) futuras aplicações de IA. Deve-se certamente discutir até que ponto se deseja que um dispositivo inteligente seja autônomo nesse sentido: talvez seja adequado aceitar a autonomia de um aspirador de pó robótico (afinal, não seria necessário infor- má-lo qual local deve ser limpo em primeiro lugar), mas talvez esse não fosse o caso de um agente inteligente de reserva de viagens (talvez fosse mais adequado que ele sugerisse opções mas não tomasse a iniciativa de comprá-las antes de uma confirmação do usuário).
Um trabalho muito interessante que propõe uma discussão nesse sentido é o proposto em Falcone e Castelfranchi (2000), onde se discutem graus de auto- nomia distintos que podem ser outorgados a esses agentes artificiais, fundeados em métricas de confiança baseadas no histórico de interações anteriores. Simi- larmente ao que ocorre na sociedade humana, talvez numa primeira interação entre um docente e seu orientado, o primeiro explique muito mais detalhada- mente os procedimentos experimentais que devem ser realizados; à medida que mais interações bem-sucedidas ocorram, no futuro provavelmente pode ocorrer que o docente delegue certa autonomia de planejamento ao seu orientado. Um exemplo de autonomia de planejamento, no contexto de interações entre agen- tes inteligentes autônomos, pode ser visto em Maia e Sichman (2020).
Para a primeira dimensão (ética no projeto), a autora propõe uma aborda- gem denominada ART of AI , que garante que os valores humanos e princípios éticos, suas prioridades e escolhas sejam explicitamente incluídos nos processos de design de forma transparente e sistemática. Tal abordagem é composta por três partes:
- prestação de contas ( accountability ) se refere à necessidade do sistema de IA explicar e justificar suas decisões e ações para seus parceiros, usuários e outros com quem o sistema interage;
- responsabilidade ( responsibility ) se refere ao papel das próprias pessoas e à capacidade dos sistemas de IA de responder por uma decisão e iden- tificar erros ou resultados inesperados. À medida que a cadeia de res- ponsabilidade cresce, são necessários meios para vincular as decisões dos sistemas de IA ao uso justo dos dados e às ações das partes interessadas envolvidas na decisão do sistema;
- transparência ( transparency ) refere-se à necessidade de descrever, inspe- cionar e reproduzir os mecanismos pelos quais os sistemas de IA tomam decisões e aprendem a se adaptar ao seu ambiente e à governança dos dados utilizados e criados. Os algoritmos de IA atuais são basicamente caixas-pretas. No entanto, reguladores e usuários exigem explicação e clareza sobre os dados usados. Métodos são necessários para inspecionar algoritmos e seus resultados e para gerenciar dados, sua proveniência e sua dinâmica. Quanto à segunda dimensão (ética no comportamento), deve-se levar em conta que as sociedades humanas usualmente seguem normas para facilitar a interação. Tais normas, em muitos casos, levam em conta valores morais para embasar decisões. Assim, um grande desafio é incorporar tais normas e valores em sistemas de IA. Tal assunto vem sendo tratado pelos pesquisadores da área há mais de vinte anos, por exemplo na série de workshops denominada Coor- dination, Organization, Institutions and Norms in agent systems (Coin, 2005). Trata-se de embasar tais agentes autônomos com mecanismos de decisão que possam ser também baseados em sentimentos e valores morais, como proposto em Bazzan et al. (2002), ou que possam julgar a dimensão ética de seu próprio comportamento e dos comportamentos de outros agentes, como apresentado em Cointe et al. (2016). Além dessa perspectiva individual, necessita-se também prover mecanismos de governança adequados, que possam eventualmente san- cionar comportamentos distintos dos esperados por estes agentes, como pro- posto em Nardin et al. (2016).
A questão da transparência é uma condição necessária para tais agentes inteligentes possam argumentar e explicar as decisões por eles tomadas.
IA explicável e IA para o bem
Os chamados sistemas de IA explicáveis incorporam processos de explica- ção que permitem aos usuários obter informações sobre os modelos e decisões do
sistema. O Explainable Artificial Intelligence workshop (XAI, 2018), evento sa- télite da ECAI/IJCAI 2018, ocorrida em Estocolmo, Suécia, possibilitou reunir pesquisadores interessados em IA, interação homem-computador, modelagem cognitiva e teorias cognitivas de explicação e transparência. Um tema fundamen- tal, dado seu sucesso recente, foi como adicionar explicações a técnicas de apren- dizado profundo, quase sempre baseados em modelos de caixa-preta, cujos pa- râmetros internos e seus respectivos valores são pouco entendidos pelo usuário.
A preocupação com as finalidades de uso de sistemas de IA também têm sido objeto de debate nos últimos anos. O AI for Social Good workshop (AI4G 2019), evento satélite da IJCAI 2019, ocorrida em Macao, China, teve como objetivo explorar como a IA poderia contribuir para resolver problemas sociais.
Já o Responsible Artificial Intelligence Agents workshop (Raia, 2019), evento satélite do AAMAS 2019, ocorrido em Montreal, Canadá, reuniu pes- quisadores de IA, ética, filosofia, robótica, psicologia, antropologia, ciências cognitivas, direito, estudos de governança regulatória e engenharia para discutir e trabalhar sobre os complexos desafios relacionados ao projeto e à regulamen- tação de sistemas de IA. Concentrou-se em três aspectos que juntos podem garantir que a IA seja desenvolvida para o bem da sociedade (por exemplo, contribuindo para os objetivos de desenvolvimento sustentável da ONU), usan- do processos verificáveis e responsáveis, e que seu impacto seja governado por instituições e mecanismos justos e inclusivos.
Tais preocupações também têm norteado a criação de centros interdis- ciplinares para a formação de alunos na área. A UK Research and Innovation (UKRI) é uma agência de financiamento britânica que trabalha em parceria com universidades, organizações de pesquisa, empresas, instituições de caridade e governo para criar o melhor ambiente possível para a pesquisa e inovação flores- cerem. Em particular, apoiou recentemente a criação de 16 Centros de Treina- mento de Doutorado (CDT) em Inteligência Artificial, visando formar 1. estudantes de doutorado para explorar o potencial da IA para transformar a maneira como trabalhamos e vivemos. As áreas de pesquisa são diversas, envol- vendo desde saúde e mudanças climáticas a ética e música. Entre tais centros, podem-se destacar o Centre for Doctoral Training in Safe & Trusted AI (STAI, 2019), envolvendo o King’s College e o Imperial College, em Londres, e o Centre for Doctoral Training in Accountable, Responsible and Transparent AI (ART-AI, 2019), sediado na University of Bath.
Avanços e riscos da IA
Há cinco anos, num artigo divulgado no Jornal da USP que foi escrito juntamente com meus colegas Fabio Cozman e Claudio Pinhanez, ambos hoje à frente do Centro de Inteligência Artificial da USP (C4AI), 3 já apontávamos para os grandes avanços da IA nas últimas décadas (Sichman et al., 2016):
[...] é inegável o tremendo sucesso pragmático de tecnologias ligadas à IA. Sistemas de busca de informação e de recomendação de produtos são
objetivos dos envolvidos no sistema. Criar sistemas em tempo real onde o controle precisa mudar rapidamente entre as pessoas e os sistemas de IA é difícil;
- impactos socioeconômicos : Precisamos entender as influências da IA na distribuição de empregos e na economia de forma mais ampla. Essas questões perpassam a ciência e engenharia da computação, chegando ao domínio das políticas e programas econômicos que podem garantir que os benefícios dos aumentos de produtividade baseados em IA sejam amplamente compartilhados. Dentre estes riscos, os três últimos merecem maior atenção, por serem mais particulares ao uso da tecnologia de IA.
Conclusões
Sob qualquer perspectiva e métrica, é inegável que a IA alcançou um tre- mendo sucesso. As maiores empresas da economia mundial, como as Big Te- chs, são efetivamente empresas de IA. Como mencionado na introdução, tal sucesso se deu pelo barateamento dos custos de processamento e de memória, surgimento de novos paradigmas, como as redes neurais profundas e a enorme quantidade de dados disponível nas redes e mídias sociais.
Novamente fazendo referência ao trabalho de Virginia Dignum (2019) sobre IA Responsável, a questão ética dos sistemas de IA que já fazem parte do nosso quotidiano deve ser ressaltado:
O desenvolvimento e o uso da IA levantam questões éticas fundamentais para a sociedade, que são de vital importância para o nosso futuro. Já existe muito debate sobre o impacto da IA no trabalho, interações sociais (in- cluindo cuidados de saúde), privacidade, justiça e segurança (incluindo ini- ciativas de paz e guerra). O impacto social e ético da IA abrange muitos domínios, por exemplo, os sistemas de classificação de máquinas levantam questões sobre privacidade e preconceitos e veículos autônomos levantam questões sobre segurança e responsabilidade. Pesquisadores, decisores po- líticos, indústria e sociedade reconhecem a necessidade de abordagens que garantam as tecnologias de IA de uso seguro, benéfico e justo, para consi- derar as implicações da tomada de decisão ética e legalmente relevante pelas máquinas e o status ético e legal da IA. Essas abordagens incluem o desen- volvimento de métodos e ferramentas, atividades de consulta e treinamento e esforços de governança e regulamentação. Para encerrar, cabe relembrar uma frase do fundador da Cibernética, Nor- bert Wiener, que faz parte do artigo “Some Moral and Technical Consequences of Automation”, publicado na revista Science , em 1960: “ Se usarmos, para atin- gir nossos objetivos, um órgão mecânico em cujo funcionamento não podemos inter- ferir de forma eficaz ... é melhor estarmos bem certos de que o propósito colocado na máquina é aquele que realmente desejamos ”.
Notas
1 Disponível em: . 2 Imaginando-se um método de busca em largura, que para atingir a cidade destino deva avaliar roteiros que passam por oito cidades intermediárias, onde cada uma delas tivesse ligações diretas com dez outras cidades e que o computador pudesse analisar mil alter- nativas por segundo. 3 Disponível em: .
Referências
AI4G. AI for social good, IJCAI 2019 Workshop, Macao, China. Disponível em: .
APPELBAUM, S. H. Socio-technical systems theory: an intervention strategy for orga- nizational development. Management Decision , v.35, n.6, 1997.
ART-AI. Centre for Doctoral Training in Accountable, Responsible and Transparent AI, University of Bath, UK, 2019. Disponível em: .
BAZZAN, A. L. et al. Evolution of agents with moral sentiments in an iterated prisoner’s dilemma exercise. In: Game theory and decision theory in agent-based systems. Springer.
- p.43-64.
BOISSIER, O.; SICHMAN, J. Organization oriented programming. Tutorial Notes. In: 3rd. INTERNATIONAL CONFERENCE ON AUTONOMOUS AGENTS AND MULTI-AGENT SYSTEMS (AAMAS 2004), New York, USA, 2004.
BOURGINE, P. Models of self-teaching agents and the emergence of the symbolic le- vel. In: Pre-proceedings of the invited lectures of the 1st European Conference on Cognitive Science , St. Malo, 1995.
CASTELFRANCHI, C. Social power: A point missed in multi-agent, DAI and HCI. In: DEMAZEAU, Y.; MÜLLER, J.-P. (Ed.) Decentralized A. I. Amsterdam: Elsevier Science Publishers B. V., 1990. p.49-62.
COIN. Coordination, Organization, Institutions and Norms in Agent Systems (COIN).
- The International Workshop Series. Disponível em: .
COINTE, N. et al. Ethical judgment of agents’ behaviors in multi-agent systems. In: JONKER, C. M. et al. (Ed.) Proceedings of the 2016 International Conference on Auto- nomous Agents & Multiagent Systems. Singapore, May 9-13, 2016, p.1106-14. ACM.
DEMAZEAU, Y.; MÜLLER, J.-P. Decentralized artificial intelligence. In: DEMAZE- AU, Y.; MÜLLER, J.-P. (Ed.) Decentralized A. I. Amsterdam: Elsevier Science Publi- shers B. V., 1990. p.3-13.
DIETTERICH, T. G.; HORVITZ, E. Rise of concerns about AI: reflections and direc- tions. Communications of the ACM , v.58, n.10, p.38-40, 2015.
DIGNUM, V. Responsible Artificial Intelligence - How to Develop and Use AI in a Res- ponsible Way. Artificial Intelligence: Foundations, Theory, and Algorithms. Springer,
produção, utilização e regulação não criem um espaço de discussão adequado destas questões.
palavras - chave : Inteligência Artificial, Agentes inteligentes, Sistemas multiagentes, Agentes normativos, Regulação de sistemas autônomos.
abstract – The goal of this article is to provide information for the common reader to understand better the main aspects of AI, how it differs from conventional computing and how it can be inserted in the organizational processes of human society. The article also seeks to highlight the great advances and potential risks of this technology, like of any other, if the actors involved in its production, use and regulation do not create adequate space for discussing these issues.
keywords : Artificial intelligence, Intelligent agents, Multi-agent systems, Normative agents, Regulation of autonomous systems.
Jaime Simão Sichman é doutor em Engenharia de Computação pelo Institut National Polytechnique de Grenoble (INPG), França. É professor titular do Departamento de Engenharia de Computação e Sistemas Digitais (PCS) da Escola Politécnica (EP) da Universidade de São Paulo (USP) , onde ocupa os cargos de Chefe de Departamento (PCS ) e de Presidente da Comissão de Pesquisa (EP). @ – jaime.sichman @ usp.br / https: // orcid.org /0000-0001-8924-.
Recebido em 10.3.2021 e aceito em 12.3.2021.
I (^) Universidade de São Paulo, Escola Politécnica, Departamento de Engenharia de Com-
putação e Sistemas Digitais, São Paulo, Brasil.
