Ministério da Ciência, Tecnologia e Inovações

Altera o Anexo da Portaria MCTI nº 4.617, de 06.04.2021, que Institui a Estratégia Brasileira de Inteligência Artificial e seus eixos temáticos.

 

O MINISTRO DE ESTADO DA CIÊNCIA, TECNOLOGIA E INOVAÇÕES, no uso das atribuições que lhe confere o art. 87, parágrafo único, incisos II e IV, da Constituição Federal, tendo em vista o disposto no art. 21, inciso XVIII, do Decreto nº 10.463, de 14 de agosto de 2020, e na Portaria nº 1.122, de 19 de março de 2020, resolve:

Art. 1º O Anexo da Portaria MCTI nº 4.617, de 6 de abril de 2021, passa a vigorar na forma do Anexo a esta Portaria.

Art. 2º Esta Portaria entra em vigor na data de sua publicação.

MARCOS CESAR PONTES

Publicado no D.O.U. de 15/07/2021, Seção I, pág. 16.

  

---

 

ANEXO

 

ESTRATÉGIA BRASILEIRA DE INTELIGÊNCIA ARTIFICIAL

 APRESENTAÇÃO

Desde os anos 2000, a Inteligência Artificial (IA) passou a ser objeto de interesse não apenas nos meios científicos, mas também nos veículos de comunicação de grande circulação destinados ao público em geral. O debate acerca das potencialidades das tecnologias de IA, cujo desenvolvimento encontra-se em curso há aproximadamente cinco décadas, tem assumido importância no Brasil e em vários países do mundo, suscitando discussões técnicas e jurídicas acerca de seu uso, suas potenciais aplicações e sua interação com o ser humano nos processos de tomada de decisão.

É possível destacar pelo menos duas grandes características do estado atual de desenvolvimento tecnológico:

a) em primeiro lugar, o grande aumento no poder computacional e no acesso a dados de treinamento conduziu a avanços práticos na aprendizagem de máquina (Machine Learning - ML), que permitiram sucessos recentes em uma variedade de domínios aplicados, tais como diagnóstico de câncer na área médica, automação dos veículos e jogos inteligentes;

b) em segundo lugar, tais avanços chamaram a atenção de formuladores de políticas públicas e de empresas, provocando uma verdadeira corrida pela liderança mundial em IA e, simultaneamente, a discussão acerca da necessidade de regulação ou de políticas públicas em campos tão diversos como trabalho, educação, tributação, pesquisa, desenvolvimento e inovação (PD&I) e ética. Assim, os principais pontos de questionamento dizem respeito aos limites da aplicação da IA, às implicações de seu uso em diferentes domínios econômicos e à necessidade de conjugar a tecnologia com o julgamento humano. 

No âmbito da Estratégia Brasileira para a Transformação Digital (E-Digital), aprovada em março de 2018, pelo Decreto nº 9.319/2018 e pela Portaria MCTIC nº 1.556/2018, já se sinalizava para a importância de se tratar de maneira prioritária o tema da IA em razão de seus impactos transversais sobre o país. O Ministério da Ciência, Tecnologia, Inovações e Comunicações (MCTIC), por meio da Portaria MCTIC nº 1.122/2020, definiu como prioridade a área de Inteligência Artificial, no que se refere a projetos de pesquisa, de desenvolvimento de tecnologias e inovações, para o período 2020 a 2023. Nesse sentido, foi elaborada a Estratégia Brasileira de Inteligência Artificial - EBIA.

Esta Estratégia assume o papel de nortear as ações do Estado brasileiro em prol do desenvolvimento das ações, em suas várias vertentes, que estimulem a pesquisa, inovação e desenvolvimento de soluções em Inteligência Artificial, bem como, seu uso consciente, ético e em prol de um futuro melhor. É preciso entender a conexão da Inteligência Artificial com várias tecnologias e deixar claro os limites e pontos de conexão e de conceitos como: machine learning, big data, analytics, sistemas especialistas, automação, reconhecimento de voz e imagens, etc.

Para tanto, a EBIA estabelece nove eixos temáticos, caracterizados como os pilares do documento; apresenta um diagnóstico da situação atual da IA no mundo e no Brasil; destaca os desafios a serem enfrentados; oferece uma visão de futuro; e apresenta um conjunto de ações estratégicas que nos aproximam dessa visão 

É importante destacar que a Estratégia deve ser uma política pública constantemente acompanhada, avaliada e ajustada, tendo em vista queo ritmo da evolução tecnológica da Inteligência Artificial tende a se acelerar. As tecnologias digitais proporcionam as ferramentas para uma profunda transformação na atuação do Governo, na competitividade e na produtividade das empresas, assim como auxilia também na capacitação, no treinamento e na educação da população, resultando em maior inclusão digital, para que todos possam se desenvolver e prosperar.

INTRODUÇÃO

A Estratégia Brasileira de Inteligência Artificial (EBIA) tem por objetivo potencializar o desenvolvimento e a utilização da tecnologia com vistas a promover o avanço científico e solucionar problemas concretos do País, identificando áreas prioritárias nas quais há maior potencial de obtenção de benefícios. Espera-se que a IA possa trazer ganhos na promoção da competitividade e no aumento da produtividade brasileira, na prestação de serviços públicos, na melhoria da qualidade de vida das pessoas e na redução das desigualdades sociais, entre outros.

Observando-se estratégias similares adotadas em outros países, verifica-se que tópicos comumente abordados incluem a busca por ganhos de produtividade, preocupações com a reestruturação do mercado de trabalho, políticas de educação e de qualificação profissional e a promoção de pesquisa, desenvolvimento e inovação, assim como iniciativas voltadas a campos de aplicação específicos, como saúde, mobilidade e segurança pública. Alguns países têm também colocado ênfase no papel do Governo na facilitação da adoção de tecnologias de IA na Administração Pública, assim como nos desafios da integração da IA nos serviços públicos, tendo em vista a importância de melhorias de eficiência e redução de custos. Iniciativas concretas nesse campo incluem a promoção da abertura de dados governamentais, o estabelecimento de sandboxes regulatórios, incentivos a empresas nascentes de base tecnológica (startups) atuantes nesse campo e investimentos em PD&I em áreas de fronteira. Internacionalmente, tem-se observado esforços relacionados ao estabelecimento de princípios éticos quanto ao uso responsável de sistemas de IA.

Uma sociedade da informação inteligente é uma sociedade na qual um novo valor é gerado e o progresso é alcançado por meio da aplicação da tecnologia da informação inteligente (TI Inteligente) - apoiada pela geração, coleta e análise de dados por tecnologias avançadas de informação e comunicação - a todos os aspectos da economia, sociedade e vida humana.

Sabe-se que, à medida que os dados e o conhecimento têm precedência sobre os fatores de produção convencionais (mão-de-obra e capital), as barreiras industriais são quebradas com a crescente convergência de produtos, serviços e máquinas inteligentes. Sistemas automatizados chegam às áreas de trabalho que, antes, exigiam complexas capacidades cognitivas humanas. Como resultado, conduz a uma modificação completa tanto da economia, quanto da sociedade, que sofrerão transformações amplas e inovadoras.

METODOLOGIA ADOTADA

A presente estratégia foi construída em três etapas: (i) contratação de consultoria especializada em IA, (ii) benchmarking nacional e internacional, e (iii) processo de consulta pública. A EBIA foi concebida durante os anos de 2019 e de 2020 a partir de visões diversas e da convergência de estudos, reflexões, pesquisas e de consulta aos especialistas, empresas, pesquisadores e órgãos públicos, tendo como propósito o planejamento tecnológico de longo prazo para o país.

Inicialmente, ainda em 2019, ciente de que o tema merecia todo empenho, tanto do ponto de vista de política pública, quanto do ponto de vista técnico, o Ministério da Ciência, Tecnologia, Inovações e Comunicações, por meio do Projeto de Cooperação Técnica Internacional (PRODOC) junto à UNESCO, contratou consultoria técnica especializada em Inteligência Artificial, com objetivo principal de realizar estudo a respeito dos potenciais impactos sociais e econômicos das tecnologias que embasam a Inteligência Artificial, com vistas a analisar propostas de políticas que mitiguem seus efeitos negativos ao mesmo tempo que maximizem seus efeitos positivos. Nesse cenário, foi realizada consulta focada aos especialistas acadêmicos e pesquisadores, por meio de um questionário qualitativo que buscou averiguar o grau de familiaridade do especialista com a IA e questões ligadas às políticas públicas. Outros temas tratados foram: ações para atrair empresas que desenvolvam PD&I no Brasil, parcerias internacionais em IA, uso da IA na saúde, em segurança pública e demais serviços públicos, benefícios econômicos, princípios éticos da IA, entre outros.

Em paralelo, foi realizada Consulta Pública à sociedade por meio de plataforma eletrônica do Governo Federal, entre 12 de dezembro de 2019 e 3 de março de 2020. Foram recebidas cerca de 1.000 contribuições que serviram como base para a construção da presente estratégia.

Em recente recomendação da OCDE sobre Inteligência Artificial1, à qual o Brasil aderiu, foram identificados diversos princípios para o desenvolvimento responsável da IA, assim como recomendações quanto a políticas públicas e cooperação internacional. Entre os elementos constantes da recomendação, destacam-se os seguintes:

- A IA deve beneficiar as pessoas e o planeta, impulsionando o crescimento inclusivo, o desenvolvimento sustentável e o bem-estar.

- Os sistemas de IA devem ser projetados de maneira a respeitar o Estado de Direito, os direitos humanos, os valores democráticos e a diversidade e devem incluir salvaguardas apropriadas - possibilitando a intervenção humana sempre que necessário - para garantir uma sociedade justa.

- Organizações e indivíduos que desempenham um papel ativo no ciclo de vida de IA devem se comprometer com a transparência e com a divulgação responsável em relação a sistemas de IA, fornecendo informações relevantes e condizentes com o estado da arte que permitam: (i) promover a compreensão geral sobre sistemas de IA; (ii) tornar as pessoas cientes quanto às suas interações com sistemas de IA; (ii) permitir que aqueles afetados por um sistema de IA compreendam os resultados produzidos; e (iv) permitir que aqueles adversamente afetados por um sistema de IA possam contestar seu resultado.

- Os sistemas de IA devem funcionar de maneira robusta, segura e protegida ao longo de seus ciclos de vida. Os riscos em potencial devem ser avaliados e gerenciados continuamente.

À luz de tais diretrizes, para organizar o debate acerca de uma Estratégia Brasileira de IA, estabeleceram-se 9 (nove) eixos temáticos, a seguir identificados:

I - Eixos transversais:

a) Legislação, regulação e uso ético;

b) Governança de Inteligência Artificial; 

c) Aspectos Internacionais;

II - Eixos verticais:

d) Qualificações para um futuro digital;

e) Força de trabalho e capacitação;

f) Pesquisa, desenvolvimento, inovação e empreendedorismo;

g) Aplicação nos setores produtivos;

h) Aplicação no poder público; e

i) Segurança pública.

OBJETIVOS DA ESTRATÉGIA

A EBIA tem como ponto de partida a definição de objetivos estratégicos que levam em consideração todo o ecossistema tecnológico, e que poderão posteriormente ser desdobrados em ações mais específicas. Esta Estratégia será pautada pelos seguintes objetivos:

- Contribuir para a elaboração de princípios éticos para o desenvolvimento e uso de IA responsáveis.

- Promover investimentos sustentados em pesquisa e desenvolvimento em IA.

- Remover barreiras à inovação em IA.

- Capacitar e formar profissionais para o ecossistema da IA.

- Estimular a inovação e o desenvolvimento da IA brasileira em ambiente internacional.

- Promover ambiente de cooperação entre os entes públicos e privados, a indústria e os centros de pesquisas para o desenvolvimento da Inteligência Artificial.

DIAGNÓSTICO

Já são visíveis os impactos da Inteligência Artificial sobre inúmeros setores da vida humana, com alteração dos paradigmas atuais da produção industrial, das relações pessoais e do cuidado com a vida. A Inteligência Artificial possui diversas ramificações que podem ser usadas de forma complementar ou dissociadas uma das outras, tais como: aprendizado de máquina (machine learning), robótica, processamento de linguagem natural, reconhecimento de voz e reconhecimento de imagens. Neste documento, todos esses termos serão englobados pelo conceito geral "Inteligência Artificial".

Não existe uma definição consensual de Inteligência Artificial. IA é melhor entendida como um conjunto de técnicas destinadas a emular alguns aspectos da cognição de seres vivos usando máquinas. Nessa linha, seguiremos a definição apresentada pela OCDE2: "um sistema de IA é um sistema baseado em máquina que pode, para um determinado conjunto de objetivos definidos pelo homem, fazer previsões, recomendações ou tomar decisões que influenciam ambientes reais ou virtuais. Os sistemas de IA são projetados para operar com vários níveis de autonomia". Ainda conforme a OCDE,3 um sistema de IA consiste em três elementos principais: sensores, lógica operacional e atuadores. Os sensores coletam dados brutos do ambiente, processados pela lógica operacional para fornecer saídas para os atuadores, que por sua vez agem para alterar o estado do ambiente. Este ciclo é repetido inúmeras vezes, e como o ambiente é alterado pelo sistema de IA, a cada ciclo a lógica operacional pode ser aperfeiçoada.

O impacto positivo que a nova economia e a sociedade do conhecimento trazem consigo depende, fundamentalmente, da capacidade de ampliar o número de pessoas, instituições e empresas que produzam e utilizem produtos e serviços de IA. Experiências internacionais mostram que esses processos estão elevando a produtividade, transformando e ampliando os horizontes do crescimento econômico.

Assim, o então Ministério da Ciência, Tecnologia e Inovações e Comunicações, atualmente Ministério da Ciência, Tecnologia e Inovações (MCTI), tem desenvolvido ao longo dos últimos anos diversos projetos relacionados à Inteligência Artificial, dentre os quais pode-se citar a criação de centros de tecnologia aplicada voltados para IA e iniciativas de estímulo ao empreendedorismo de base tecnológica relacionados à IA. Cabe reconhecer, entretanto, que existem ainda desafios relacionados ao aprimoramento do ambiente brasileiro de pesquisa científica, desenvolvimento tecnológico e inovação.

A Inovação é compreendida como uma área chave para o desenvolvimento econômico de um país. De acordo com a Conferência das Nações Unidas sobre Comércio e Desenvolvimento (UNCTAD), cinco elementos compõem um ambiente estimulante à inovação: (a) política regulatória; (b) governança institucional; (c) ecossistema empreendedor e investimento; (d) capital humano qualificado; (e) infraestrutura técnica em pesquisa e desenvolvimento (P&D).4

Segundo o Índice de Inovação Global de 20195, o Brasil está situado na 66a posição, tendo como dois de seus maiores desafios o investimento no ambiente de negócios e a infraestrutura tecnológica. Dados do Banco Mundial corroboram tal diagnóstico, ao classificar o Brasil em 138º lugar quanto à facilidade de se iniciar um negócio e em 124º lugar no que se refere à facilidade de se realizar um negócio6. Além disso, o Brasil investe 1,27% do seu PIB em P&D, enquanto a média de investimento dos países-membros da OCDE é de 2,39%.7

Apesar de tais desafios, a E-Digital contempla um conjunto de 100 ações para impulsionar a digitalização de processos produtivos, e o Programa Start-Up Brasil8 objetiva apoiar startups brasileiras e internacionais que desenvolvam software, hardware, serviços de TI ou que se utilizem destas tecnologias para inovar, contribuindo assim para o desenvolvimento econômico sustentável e o aumento da competitividade brasileira nesse setor. O Brasil conta com mais de 52 parques tecnológicos, mais de 369 incubadoras, e mais de 9000 negócios encubados.9

No que diz respeito a Inteligência Artificial, os desafios ainda são consideráveis. Em 2019, enquanto os EUA investiram 224 milhões USD em startups de IA e a China 45 milhões USD, o Brasil investiu apenas 1 milhão USD.10 Desse modo, é essencial para a Estratégia Brasileira de Inteligência Artificial estabelecer diretrizes que habilitem o fomento de um ambiente de empreendedorismo em IA no país.

Segundo dados obtidos por meio de consulta ao site Startup Universal,11 em 2020 o Brasil possui cerca de 12.000 startups ativas e a maioria delas segue o modelo de negócios SaaS (Software as a Service), voltada para o segmento B2B (Business to Bussiness). A região Sudeste concentra o maior número de startups devido à grande representatividade econômica da cidade de São Paulo. Existem também, centros tecnológicos que se destacam na região Sul, como na cidade de Florianópolis, e no Nordeste, como na cidade de Recife. Entre os principais desafios enfrentados pelas startups brasileiras estão a escassez de mão de obra qualificada, a alta carga tributária e a burocracia. O Brasil já responde pela maior parte do investimento da América Latina, cerca de US$ 2,49 bilhões em 2019, e vem progressivamente atraindo a atenção de grandes fundos internacionais. 

Vale observar, ainda, que o número de aquisições de startups de IA aumentou de forma constante desde 2010, crescendo quase quatro vezes entre 2015 e 2018. O crescimento das aquisições de startups de IA foi impulsionado por aumentos no financiamento de startups de IA - o financiamento global aumentou de cerca de um bilhão de dólares em 2013 para mais de 20 bilhões de dólares americanos em 201812.

No Brasil, alguns programas do Ministério da Ciência, Tecnologia e Inovações oferecem incentivos à criação de startups, entre as quais, há produtos ou serviços baseados em Inteligência Artificial. Ao todo, 139 startups são contempladas, sendo 21 pelo programa "Conecta StartUp Brasil",13 25 pelo programa "Startup Brasil",14 6 pelo "TechD"15 e 100 pelo "IA MCTI"16 (algumas startups são beneficiadas por mais de um programa). As principais iniciativas compreendem o setor de saúde (23%), agronegócio (17,3%) e gestão corporativa/empresarial (8,6%).

No que tange à formação de profissionais, cabe dar destaque ao "Índice de Competitividade Global de Talentos" (GTCI), relatório anual que avalia e classifica os países com base em sua capacidade de gerar, atrair e reter talentos. Em sua edição "2020 Highlights", o Índice aborda o tema do Talento Global na Era da Inteligência Artificial e explora como o desenvolvimento de tal capacidade altera a natureza do trabalho, o que demanda uma reavaliação das práticas no local de trabalho, estruturas corporativas e ecossistemas de inovação.

Segundo o relatório referenciado, o Brasil é o país do agrupamento econômico atualmente composto por cinco países: Brasil, Rússia, Índia, China e África do Sul (BRICS) com a classificação mais baixa no GTCI 2020. Isso se deve, principalmente à sua baixa capacidade de atrair talentos (ocupa a 96ª posição) e ao seu limitado conjunto de habilidades profissionais e técnicas (101ª posição). Maior abertura externa (115ª posição) ajudaria bastante a elevar a pontuação de atração no país (96ª posição), enquanto melhorias na correspondência entre habilidades profissionais e necessidades da economia (123ª posição em empregabilidade) aumentariam suas habilidades vocacionais e técnicas. As melhores performances do Brasil estão relacionadas ao crescimento de talentos (55ª posição), em que se beneficia de um sólido sistema educacional (56º em Educação Formal) e acesso positivo a oportunidades de crescimento (41ª posição). O GTCI pontua ainda que o país também possui um cenário de mercado favorável (47ª posição), mas seu cenário regulatório (85ª posição) e seu cenário comercial e trabalhista (91ª posição) resultam em uma baixa competência para capacitar talentos (79ª posição). Entre os países da América Latina e Caribe, o Brasil ocupa a 11ª posição no GTCI, atrás de países como Trindade e Tobago, Jamaica, Panamá e Peru.

Considerando o desempenho do Brasil, o país ocupa, atualmente, o 80º lugar de 132 países avaliados, tendo caído da 49ª posição em 2014. Em relação às cidades brasileiras constantes do ranking internacional, São Paulo está em 84º lugar.

Observa-se, internacionalmente, o desenvolvimento de inúmeras iniciativas e políticas públicas voltadas à formação e à capacitação de profissionais diante das transformações decorrentes do desenvolvimento tecnológico e frente à nova realidade imposta pela Inteligência Artificial17.

Em fevereiro de 2017, o Brasil deu um passo importante nesse sentido. A Reforma do Ensino Médio (Lei nº 13.415/2017) estabeleceu que o currículo do ensino médio será definido pela Base Nacional Comum Curricular (BNCC), com 60% da carga horária composta por conteúdos comuns e 40% de conteúdos optativos. As áreas de concentração, chamadas de "itinerários formativos", são obrigatórias e pelo menos uma deve ser escolhida pelo aluno. São elas: linguagens e suas tecnologias; matemática e suas tecnologias; ciências da natureza e suas tecnologias; ciências humanas e sociais aplicadas; e formação técnica e profissional. Identificou-se lacuna para estimular o aluno a escolher as matérias voltadas ao mundo tecnológico.

Contudo, desafios ainda precisam ser superados. O número de pós-graduações em programas de tecnologias digitais no Brasil (que envolvam robótica, Inteligência Artificial / aprendizado de máquina ou big data) em 2016 era de 224, sendo 72 mestrados e 152 doutorados18. Embora os valores possam parecer relativamente altos, em termos proporcionais representam apenas um programa para cada milhão de habitantes, uma média ainda significativamente baixa. Outro desafio diz respeito à distribuição por gênero, observando-se, na América Latina, uma predominância feminina nas áreas científicas ligadas à saúde e uma predominância masculina nas áreas científicas voltadas às ciências, à tecnologia, à engenharia e à matemática. Conforme a OCDE, tal configuração é problemática, visto que equipes mistas são mais valiosas e têm menos chance de reproduzir vieses de gênero em tecnologias de automação19.

Em outra ponta, cabe dar destaque também aos impactos da IA sobre o mercado de trabalho. Em âmbito global, pelo menos um terço dos trabalhadores precisarão se reinventar para manter seus empregos. Pesquisadores da Universidade de Oxford, nos Estados Unidos, analisaram as profissões dos trabalhadores da América e chegaram à conclusão de que 47% dessas pessoas têm grandes chances de perderem seus empregos para robôs nos próximos 20 anos. Ademais, um estudo conduzido em 2019 pela Comissão Econômica para a América Latina e Caribe - CEPAL revelou que, em média, 16% dos postos de trabalho na região possuem alto risco de substituição por automação nos próximos 5 anos. A estimativa no Brasil é de 12%.20

Ainda no que diz respeito ao mercado de trabalho, a Fast Company listou sete tipos de carreiras que possuem baixa chance de serem substituídas pela automatização: empregos que requerem criatividade, como artistas e músicos; trabalhos que envolvam resolução de problemas; cabeleireiros; psicólogos e profissões que demandem um trabalho social; professores; trabalhadores da área da saúde e cuidadores21. Tal previsão representa grande desafio aos governos de todos os países, na criação e execução de políticas públicas capazes de capacitar e preparar sua força de trabalho para a nova realidade que já chegou.

Por fim, a importância e a amplitude de impactos da IA têm levado inúmeros países a desenvolver políticas, estratégias ou planos para lidar com o tema. Entre tais iniciativas, os principais eixos identificados são destacados a seguir:

- Pesquisa e Desenvolvimento: atrair, reter e treinar talentos em IA do próprio país ou estrangeiros, com financiamentos acadêmicos, programas de bolsas de estudo e a criação de programas específicos de mestrado e doutorado em IA; criar novos centros ou programas em pesquisa básica e aplicada, específicos para a IA.

- Competências profissionais e o futuro do trabalho: iniciativas para capacitar a força de trabalho, em geral, que desenvolvam habilidades para o futuro do trabalho, como investimento em educação ao longo da vida e habilidades digitais.

- Industrialização e IA: programas para incentivar a adoção de tecnologias em IA por parte do setor privado, com investimentos em setores estratégicos, financiamento para startups de IA, em pequenas e médias empresas, estratégias para criar clusters para IA.

- Padrões éticos para IA: criação de conselhos, comitês ou força-tarefa para elaborar normas e regulamentos para fundamentar o uso ético e o desenvolvimento da IA. Esse tema também inclui financiamento específico para pesquisa ou programas piloto para criar IA explicável e transparente.

- Governança de Dados e Infraestrutura Digital: financiamento para parcerias que envolvam a utilização de dados abertos, plataformas de desenvolvimento compartilhado de software de IA e conjuntos de dados, bem como o compromisso para criar ambientes de testes de proteção aos direitos do cidadão.

- IA no Governo: estabelecimento de programas piloto que utilizam a IA para melhorar a eficiência do Governo, prestação de serviços e Administração Pública.

- IA para o bem-estar social: delineamento de programas para assegurar que a IA seja utilizada para promover o bem-estar social, o crescimento econômico e cultural e de promover a inclusão por meio de suas de aplicações.

EIXOS TEMÁTICOS: EIXOS TRANSVERSAIS E VERTICAIS

Alinhada às diretrizes da OCDE endossadas pelo Brasil, a EBIA fundamenta-se nos cinco princípios definidos pela Organização para uma gestão responsável dos sistemas de IA, quais sejam: (i) crescimento inclusivo, o desenvolvimento sustentável e o bem-estar; (ii) valores centrados no ser humano e na equidade; (iii) transparência e explicabilidade; (iv) robustez, segurança e proteção e; (v) a responsabilização ou a prestação de contas (accountability).

Apresentam-se, em seguida, os nove pilares da EBIA.

LEGISLAÇÃO, REGULAÇÃO E USO ÉTICO

O desenvolvimento tecnológico da Inteligência Artificial tem sido acompanhado de intensas discussões acerca da necessidade de desenvolvimento de parâmetros jurídicos, regulatórios e éticos para orientar o desenvolvimento e aplicação da tecnologia. No centro de tais debates encontra-se a preocupação em estabelecer um ponto de equilíbrio entre (i) a proteção e a salvaguarda de direitos, inclusive aqueles associados à proteção de dados pessoais e à prevenção de discriminação e viés algorítmico; (ii) a preservação de estruturas adequadas de incentivo ao desenvolvimento de uma tecnologia cujas potencialidades ainda não foram plenamente compreendidas; e (iii) o estabelecimento de parâmetros legais que confiram segurança jurídica quanto à responsabilidade dos diferentes atores que participam da cadeia de valor de sistemas autônomos.

Nesse contexto, embora já existam exemplos internacionais de normas jurídicas regulando diferentes aspectos concretos de IA, como veículos autônomos e sistemas de reconhecimento facial, têm ganhado proeminência os debates acerca do estabelecimento de princípios gerais e parâmetros éticos a serem adotados por atores públicos e privados quanto ao tema, por meio de códigos de conduta, manuais de boas práticas e diretrizes de alto nível. Entre as inúmeras iniciativas nesse sentido, destacam-se os seguintes instrumentos:

- Princípios da OCDE sobre Inteligência Artificial (2019)22.

- G20 - Declaração Ministerial sobre Comércio e Economia Digital - Princípios para IA Centrada nos Humanos (2019)23.

- Grupo Independente de Peritos de Alto Nível sobre a Inteligência Artificial criado pela Comissão Europeia em junho de 2018 - Orientações Éticas para uma IA de Confiança24.

- A Declaração de Toronto: Protegendo os Direitos à Igualdade e à Não-Discriminação em Sistemas de Aprendizado por Máquinas (2018)25.

- Comunicação da Comissão Europeia: Inteligência Artificial para a Europa (2018)26.

- Diretrizes Universais para Inteligência Artificial (Public Voice Coalition, 2018)27.

- Declaração sobre Ética e Proteção de Dados em Inteligência Artificial (ICDPPC, 2018)28.

- Asilomar AI Principles (2017)29.

Muitos dos documentos acima citados indicam que o desenvolvimento de Inteligência Artificial deve observar a harmonização dos princípios que guiam a noção de estado de direito, de modo que beneficie a sociedade, impulsionando o crescimento inclusivo, o desenvolvimento sustentável e o bem-estar. Além disso, é frequente a afirmação de que os sistemas devem ser projetados de maneira a respeitar os direitos humanos, os valores democráticos e a diversidade, impondo-se a inclusão de salvaguardas apropriadas que possibilitem a intervenção humana, sempre que necessária, para garantir uma sociedade justa. Para promover um ambiente institucional e regulatório propícios à inovação e ao desenvolvimento tecnológico, dada sua natureza de rápida evolução, tem-se um cenário no qual a regulamentação é complexa e propensa a se tornar obsoleta rapidamente. Sendo assim, cabe aos governos avaliar esse cenário e refletir antes de adotar novas leis, regulações ou controles que possam impedir o desenvolvimento e uso responsáveis da IA.

Outro ponto bastante discutido refere-se à transparência e à divulgação responsável acerca dos sistemas de IA, frisando-se a necessidade de adoção de medidas para garantir a compreensão dos processos associados a tomada de decisões automatizada, tornando possível identificar vieses envolvidos no processo decisório e desafiar as referidas decisões, quando cabível. Elementos-chave da discussão internacional sobre o tema são (i) a ideia de que sistemas de IA devem ser centrados no ser humano (human-centric AI); e (ii) a afirmação da necessidade de que tais sistemas sejam confiáveis (trustworthy AI).

Estruturas regulatórias sobre a proteção e aplicação dos direitos de propriedade intelectual (DPI) também são importantes. Como os dados de treinamento para modelos de IA geralmente precisam ser copiados e editados, a clareza das regulamentações relacionadas à proteção de direitos autorais se mostra essencial. Um dos pontos de destaque nesse tópico diz respeito à necessidade de se incluir um novo tipo de limitação aos direitos autorais, para mineração de textos e de dados (Text &Data Mining exception). Esse foi um dos temas abordados na Segunda Sessão da Conferência entre Propriedade Intelectual e Inteligência Artificial da Organização Mundial de Propriedade Intelectual.30 Como os conjuntos de dados são organizados e processados, as regras existentes relacionadas à proteção de bancos de dados também podem desempenhar papel de destaque. Ao mesmo tempo, os regimes de proteção de DPI existentes relacionados a desenhos, marcas comerciais e patentes também permanecerão relevantes durante todo o processo de desenvolvimento e aplicações de soluções de Inteligência Artificial.

Para alcançar seus objetivos, esta Estratégia se alinha ao quadro regulatório de governança digital e às políticas públicas existentes relacionadas ao tema. A seguir, apresentam-se algumas iniciativas governamentais relevantes para a EBIA:

- A Estratégia Brasileira para a Transformação Digital (e-Digital)31 busca coordenar as diversas iniciativas governamentais ligadas ao tema em torno de uma visão única, de modo a apoiar a digitalização dos processos produtivos e a capacitação para o ambiente digital, promovendo a geração de valor e o crescimento econômico. Nesse sentido, a Inteligência Artificial é tecnologia-chave na implementação das ações estratégicas de transformação digital.

- A Estratégia de Governo Digital 2020-2022 (e-GOV)32, regulamentada pelo Decreto nº 10.332/2020, tem como um de seus objetivos o desenvolvimento de um Governo Inteligente, que implemente políticas efetivas com base em dados e evidências e que antecipe e solucione, de forma proativa, as necessidades do cidadão e das organizações, além de promover um ambiente de negócios competitivo e atrativo a investimentos.

- O Programa Start-Up Brasil33 tem como objetivo apoiar startups brasileiras e internacionais que desenvolvam software, hardware, serviços de TI ou que se utilizem dessas tecnologias para inovar, contribuindo assim para o desenvolvimento econômico sustentável do país e o aumento da competitividade brasileira nesse setor. 

- O Programa IA² MCTI34 objetiva apoiar projetos de pesquisa e desenvolvimento orientados ao desenvolvimento de soluções em Inteligência Artificial. O programa possui abrangência nacional e cria importante oportunidade para apoiar investimentos em projetos de P&D, orçados em até R$ 500 mil.

- O Plano Nacional de IoT35 promove o desenvolvimento do arcabouço tecnológico conhecido como "Internet das Coisas", mediante o estímulo à pesquisa e ao desenvolvimento de soluções inovadoras locais, à formação de mão de obra qualificada e à exportação de produtos e serviços relacionados. Muitas dessas tecnologias se beneficiam de sistemas de IA e programas de fomento devem considerar as intersecções das duas áreas.

- O Programa de Inovação Educação Conectada36 apoia a universalização do acesso à internet de alta velocidade e fomenta o uso pedagógico de tecnologias digitais na Educação Básica. Cursos de introdução à Inteligência Artificial e novas tecnologias poderiam ser incluídos à formação educacional de crianças e adolescentes.

Além dessas iniciativas governamentais, é importante verificar como a evolução da tecnologia de IA vai interagir com o arcabouço legal, uma vez que o amplo escopo da Inteligência Artificial tende a impactar os mais diversos campos - consumerista, concorrencial, trabalhista, processual cível e penal, etc. Cabe dar destaque a algumas normas que se relacionam de maneira mais direta com essa tecnologia:

- Lei nº 13.709/2018, que institui a Lei Geral de Proteção de Dados (LGPD). Tendo em vista que a base para a operacionalização de tecnologias de Inteligência Artificial envolve o tratamento massivo de dados (big data) é fundamental que os princípios da IA estejam alinhados com os da LGPD e que os valores da proteção de dados sejam considerados tanto na aquisição quanto no desenvolvimento e uso dessas tecnologias.

- Decreto nº 8.771/2016, que institui a Política de Dados Abertos do Poder Executivo Federal. Bases de dados abertos podem servir para a alimentação de sistemas de Inteligência Artificial, o que destaca a importância de diretrizes sobre o uso ético de dados abertos.

- Portaria nº 46/2016, que dispõe sobre o Software Público Brasileiro. Destaca a importância de se fomentar o uso de software público no desenvolvimento de soluções IA garantindo o compartilhamento de soluções entre todas as esferas de governo.

Um dos principais atributos da IA é a capacidade de tomar decisões sem intervenção humana. Um dos pontos de discussão mais importantes, nesse sentido, é o de avaliar quais tipos de decisão podem ser delegadas a uma máquina e quais exigiriam, necessariamente, a intervenção humana. A LGPD endereça tal questão dispondo sobre o direito de indivíduos solicitarem a revisão das decisões tomadas apenas com base no processamento automatizado de dados pessoais, quando estas afetam seus interesses. Isso inclui decisões que visam definir o perfil pessoal, profissional, de consumidor e crédito, bem como quaisquer aspectos da personalidade dos titulares de dados.37

Além disso, a LGPD, em linha com o que já era estabelecido na Lei do Cadastro Positivo (Lei nº 12.414/2011), prevê a obrigação de que empresas forneçam, mediante solicitação, informações claras e adequadas a respeito dos critérios e dos procedimentos utilizados para a decisão automatizada, observados os segredos comercial e industrial.38 Em caso de recusa, a Autoridade Nacional de Proteção de Dados - ANPD, criada pela LGPD, poderá realizar auditoria para verificação de aspectos discriminatórios em tratamento automatizado de dados pessoais.39

Nesse aspecto, há diversas metodologias e ferramentas comumente usadas para a revisão dos processos automatizados de tomada de decisão, que variam de acordo com os riscos e o impacto causado ao indivíduo pela decisão. Por exemplo, o uso de tecnologias de reconhecimento facial por companhias aéreas para verificar cartões de embarque, ou por funcionários da alfândega para permitir a entrada de indivíduos em um país, produzem decisões muito significativas, pois afetam a liberdade de locomoção de um indivíduo. Quando uma decisão incorreta é alcançada em tais cenários, a intervenção humana compõe um elemento crítico para fornecer reparação suficiente. Por outro lado, se uma tela inteligente em um espaço de varejo apresentar um anúncio destinado a aposentados para um jovem profissional com base no reconhecimento facial - portanto identificando incorretamente a faixa etária do indivíduo -, tal decisão não justificaria intervenção humana imediata ou potencialmente qualquer intervenção. Outros exemplos de usos corriqueiros das tecnologias de IA para tomadas de decisão automatizadas que podem ter impactos significativos na vida de indivíduos são técnicas de personalização e de moderação de conteúdo em plataformas de redes sociais e mecanismos de buscas. Nesse contexto, a IA é utilizada para definir quais informações são disponibilizadas de acordo com perfis determinados pelos padrões de comportamento dos usuários, ou por regras de conduta da plataforma.

Desse modo, nos casos em que a avaliação de risco de decisões automatizadas indica um alto risco para os indivíduos, a intervenção humana pode ser um importante fator de mitigação do risco a ser considerado pelas organizações privadas e pelo setor público.

Ainda nesse contexto, ganha importância a ideia de que é desejável que decisões tomadas por sistemas automatizados sejam passíveis de explicação e de interpretação. Ainda que tecnologias de machine learning sejam frequentemente caracterizadas como "sistemas fechados", é possível incorporar tais ideias aos sistemas de IA de várias maneiras, inclusive por meio da implementação de mecanismos para facilitar a rastreabilidade do processo decisório e do desenvolvimento e emprego de ferramentas e de técnicas de explicabilidade. Entretanto, é importante reconhecer que a divulgação demasiada de informações sobre um algoritmo ou um processo de IA pode não apenas resultar em confusão e sobrecarga de informações para indivíduos, como também ameaçar segredos comerciais, industriais e propriedade intelectual. Entende-se, assim, que o foco da explicabilidade deve se voltar ao fornecimento de informações significativas que permitam interpretar o sistema.

Há que se reconhecer, por outro lado, que uma explicação sobre por que um modelo gerou um resultado ou uma decisão específica (e qual combinação de fatores de entrada contribuiu para isso) nem sempre é possível. Esses casos são chamados de algoritmos de "sistema fechado" e requerem atenção especial. Nessas circunstâncias, outras medidas para prover explicação (por exemplo, rastreabilidade, auditabilidade e comunicação transparente sobre as capacidades do sistema) podem ser necessárias para que o sistema, como um todo, respeite os direitos fundamentais.

Outro aspecto importante de tal discussão diz respeito à ideia de que os indivíduos devem ter ciência de suas interações com sistemas de IA. De fato, a informação aos indivíduos quanto à existência de processos de tomada de decisão baseados em IA caracteriza-se como pressuposto para o exercício do direito de revisão de decisões automatizadas previsto na LGPD.

No que tange ao estabelecimento de parâmetros legais, seja por meio da criação de novas leis ou de atualizações do arcabouço existente, observam-se iniciativas, em alguns países, de iniciar a regulamentação de aplicações específicas de IA que, por sua natureza, envolvam maior risco (e.g. carros autônomos). Entende-se que a decisão quanto ao estabelecimento, ou não, de regulamentação voltada a uma tecnologia específica deve buscar cuidadosamente sopesar os riscos existentes para os indivíduos e os impactos de eventual regulamentação para o ecossistema de inovação de maneira mais ampla. 

Tendo em vista o gradual processo de adoção em larga escala da IA no nosso país e a recente entrada em vigor da Lei Geral de Proteção de Dados, que endereça vários quesitos relacionados ao uso da IA, esta Estratégia adota o entendimento de que é necessário aprofundar o estudo dos impactos da IA em diferentes setores, evitando-se ações regulatórias (em sentido amplo) que possam desnecessariamente limitar a inovação, a adoção e o desenvolvimento de IA.

Nesse sentido, caberia maior aprofundamento mediante discussões amplas e participativas sobre adequação legislativa ou normativa, procurando balancear entre a busca por soluções de problemas específicos e, ao mesmo tempo, potencializar os benefícios sociais que a IA tem a oferecer à população. Há, contudo, compreensão por parte de todos os envolvidos, que qualquer movimento ao encontro de regulamentação, deve ser seguido por princípios, tais como: (i) desenvolver estruturas legais existentes; (ii) adotar uma abordagem regulatória baseada em princípios e resultados; (iii) fazer um "teste de equilíbrio de riscos/benefícios" centrado no indivíduo humano e (iv) fazer avaliação de impacto contextual.

A discussão deve levar em conta o contexto, considerando aspectos como a relação entre regulação da Inteligência Artificial e a regulamentação da coleta e uso de dados. Além disso, qualquer tipo de regulamentação que não seja neutra em termos de tecnologia pode se sobrepor ou duplicar regulamentações já existentes, o que seria prejudicial à segurança jurídica. Nos casos em que a regulamentação da IA é inevitável, deve ser desenvolvida com ponderação e com tempo suficiente para permitir que várias partes interessadas identifiquem, articulem e implementem os principais princípios e melhores práticas.

Um dos problemas mais discutidos no campo da IA diz respeito aos vieses algorítmicos. A esse respeito, cabe ressaltar que em alinhamento com o ordenamento jurídico brasileiro, esta Estratégia parte do pressuposto de que a IA não deve criar ou reforçar preconceitos capazes de impactar de maneira injusta ou desproporcional determinados indivíduos, principalmente os relacionados a características sensíveis como raça, etnia, gênero, nacionalidade, renda, orientação sexual, deficiência, crença religiosa ou inclinação política. Nesse aspecto, as pessoas e organizações responsáveis por projetar e implantar sistemas de IA devem ser responsáveis pelo funcionamento de seus sistemas. Aqueles que desenvolvem e usam sistemas de IA devem considerar os princípios balizadores de seus sistemas e verificar periodicamente se estão sendo respeitados e se estão trabalhando efetivamente.

As preocupações com a dignidade humana e com a valorização do bem-estar humano devem estar presentes desde a concepção (ethics by design) dessas ferramentas até a verificação de seus efeitos na realidade dos cidadãos. Frise-se que o desenvolvimento de uma Sociedade do Futuro centrada no ser humano é uma das diretrizes adotadas pelo "G20 - Declaração Ministerial sobre Comércio e Economia Digital - Princípios para IA Centrada nos Humanos (2019)40" ao tratar de economia digital, de IA e de meios para que as políticas digitais maximizem benefícios e minimizem desafios.

Princípios éticos devem ser seguidos em todas as etapas de desenvolvimento e de uso da IA podendo, inclusive, serem elevados a requisitos normativos integrantes de todas as iniciativas governamentais quanto à IA.

Ações Estratégicas

- Estimular a produção de uma IA ética financiando projetos de pesquisa que visem a aplicar soluções éticas, principalmente nos campos de equidade/não-discriminação (fairness), responsabilidade/prestação de contas (accountability) e transparência (transparency), conhecidas como a matriz FAT.

- Estimular parcerias com corporações que estejam pesquisando soluções comerciais dessas tecnologias de IA ética.

- Estabelecer como requisito técnico em licitações que os proponentes ofereçam soluções compatíveis com a promoção de uma IA ética (por exemplo, estabelecer que soluções de tecnologia de reconhecimento facial adquiridas por órgãos públicos possuam um percentual de falso positivo abaixo de determinado limiar).

- Estabelecer, de maneira multissetorial, espaços para a discussão e definição de princípios éticos a serem observados na pesquisa, no desenvolvimento e no uso da IA.

- Mapear barreiras legais e regulatórias ao desenvolvimento de IA no Brasil e identificar aspectos da legislação brasileira que possam requerer atualização, de modo a promover maior segurança jurídica para o ecossistema digital.

- Estimular ações de transparência e de divulgação responsável quanto ao uso de sistemas de IA, e promover a observância, por tais sistemas, de direitos humanos, de valores democráticos e da diversidade.

- Desenvolver técnicas para identificar e tratar o risco de viés algorítmico.

- Elaborar política de controle de qualidade de dados para o treinamento de sistemas de IA.

- Criar parâmetros sobre a intervenção humana em contextos de IA em que o resultado de uma decisão automatizada implica um alto risco de dano para o indivíduo.

- Incentivar a exploração e o desenvolvimento de mecanismos de revisão apropriados em diferentes contextos de utilização de IA por organizações privadas e por órgãos públicos.

- Criar e implementar melhores práticas ou códigos de conduta com relação à coleta, implantação e uso de dados, incentivando as organizações a melhorar sua rastreabilidade, resguardando os direitos legais.

- Promover abordagens inovadoras para a supervisão regulatória (por exemplo, sandboxes e hubs regulatórios).

GOVERNANÇA DE IA

À medida em que avançam as discussões acerca do uso ético de IA, também evoluem os debates acerca de estruturas de governança que promovam métodos e procedimentos que assegurem a observância de tais princípios. O governo de Singapura, por exemplo, lançou a primeira edição de um "Quadro Modelo para Governança de IA (Model AI Governance Framework)" que busca traduzir princípios éticos em práticas implementáveis no processo de desenvolvimento de IA.

Aspecto fundamental desse processo é estabelecer mecanismos que permitam prevenir e eliminar os vieses, que podem decorrer tanto dos próprios algoritmos utilizados, como também das bases de dados usadas para o seu treinamento. Para que um algoritmo seja "explicável" ou "interpretável", é desejável que as etapas do processo de aprendizado de máquina que resultaram em uma inferência sejam rastreáveis e que as variáveis que pesaram na tomada de decisão possam passar por escrutínio.

É nessa seara que se coloca a ideia de curadoria e seleção dos dados empregados para a aprendizagem de máquinas. Revela-se, assim, a importância de criação de rotinas de gestão de riscos, de monitoramento e de supervisão quanto ao uso de sistemas de IA ao longo de todo o seu ciclo de vida, assim como para a necessidade de que tais princípios sejam incorporados desde o momento da concepção do sistema (privacy by design, security by design, human rights by design, ethics by design).

Como é sabido, sistemas de Inteligência Artificial são capazes de melhorar seus próprios algoritmos com base no aprendizado de máquina, processo esse que é possibilitado pelo acúmulo de dados, que passam a se caracterizar como novas fontes de competitividade empresarial. Para se beneficiar da Inteligência Artificial, as indústrias precisam estabelecer ecossistemas e plataformas que incentivem o maior número possível de usuários a participar, para que possam gerar dados para usar e compartilhar.

Contudo, a ideia de accountability (aqui traduzida como responsabilidade e a prestação de contas) impõe que, a depender da aplicação de IA e dos riscos a ela associados, sejam estabelecidas estruturas de governança de IA, que possam assegurar a adoção de princípios para IA confiável e implementar mecanismos para sua observância. Tais mecanismos podem incluir, (i) a designação de indivíduos ou de grupos específicos dentro da organização para promover a conformidade com os princípios; (ii) a adoção de medidas para aumentar a conscientização interna sobre a necessidade dessa conformidade, inclusive por meio de orientações e treinamentos em toda a empresa; e (iii) a implementação de um processo de escalação por meio do qual os funcionários possam levantar preocupações de conformidade e resolver essas preocupações. Podem, ainda, envolver a criação de selos, certificações e códigos de conduta corporativos ou governamentais.

Em relação aos processos de revisão ética, muitas organizações já têm ou estão considerando a criação de conselhos de revisão de dados ou comitês de ética em relação à IA, que podem ser internos ou externos a tais organizações. Essa é vista como uma maneira de impulsionar accountability dentro das corporações, promover tomadas de decisões responsáveis e garantir que novas utilizações de dados respeitem os valores corporativos e sociais.

A ideia de accountability deve ser guiada pelo princípio da precaução, estabelecendo-se que uma análise seja realizada para identificar aplicações de alto-risco, que podem impactar significativamente indivíduos de acordo com o contexto de sua aplicação em um determinado setor (ex. operações com risco de vida na área de saúde ou monitoramento de espaços públicos para fins de segurança pública). A intervenção regulatória deve ser proporcional ao grau de risco relacionado a determinada aplicação e quaisquer limitações devem se restringir a usos específicos. A participação de diversos atores, interessados e afetados pela tecnologia, no processo de desenvolvimento do produto ou serviço de IA também é um mecanismo importante de aplicação do princípio da precaução.

Quanto à análise de riscos, esse é hoje um requisito essencial das leis modernas de proteção de dados, inclusive a LGPD, sendo componente importantíssimo para a realização da accountability. As análises de risco da IA, por meio da elaboração de relatórios de impacto, podem estruturar a maneira como as organizações avaliam questões de justiça, direitos humanos ou outras considerações na implantação de novas tecnologias de IA. Podem, também, ajudar as organizações a incorporarem valores corporativos em seus processos e, eventualmente, fornecerão uma estrutura de casos pré-aprovados para definir guias para avaliar inovações futuras. Além disso, essas avaliações podem ajudar no desenvolvimento da documentação necessária para fornecer transparência efetiva aos reguladores e indivíduos, viabilizando também o controle de qualidade por meio de testes e validações periódicos.

Em particular, destaca-se a importância de conduzir relatórios de impacto de proteção de dados (RIPDs). Diretrizes para a elaboração de RIPDs, inclusive quanto a cenários em que sua realização seja necessária, devem ser elaborados pela autoridade responsável pela regulação de proteção de dados. Exemplos de relatórios de impacto necessários, a depender dos setores afetados:

- Relatório de Impacto de Segurança (RIS).

- Relatório de Impacto Ambiental (RIA).

- Relatório de Impacto de Direitos Humanos (RIDH).

Também a transparência constitui elemento importante de estruturas de go vernança de IA, seja no que se refere à informação quanto à interação com sistemas de IA (disclosure), seja no que tange à ideia de explicabilidade de decisões tomadas por sistemas autônomos, conforme debatido anteriormente. Do ponto de vista procedimental, a ideia de transparência pode ser traduzida pela adoção de metodologias transparentes e auditáveis quanto ao desenvolvimento dos sistemas de IA, quanto às fontes de dados e aos procedimentos e documentação do projeto em questão.

No que se refere à utilização de sistemas de IA no campo do poder público, a integração com o setor privado constitui salutar alternativa para a inovação, observados, naturalmente, os princípios que regem a Administração Pública, dentre os quais se destacam os da transparência e da publicidade. Nesse sentido, vale destacar que o Governo Federal, em cumprimento ao Decreto nº 8.777/2016, tem fomentado algumas iniciativas de dados abertos, por meio do Portal Brasileiro de Dados Abertos42. Também o Portal do Software Público Brasileiro42, regido pela Portaria nº 46/2016, disponibiliza um catálogo de softwares livres. Isso confere maior transparência aos projetos, além de permitir a participação popular no aprimoramento das ferramentas.

Bases de dados abertas em conformidade com a LGPD são fundamentais para o amplo desenvolvimento de estudos e aplicações brasileiras que envolvam IA. Sugere-se o uso de sandboxes regulatórios para a operacionalização desse modelo.

Tendo-se em vista a importância de reflexão em longo prazo sobre IA, os objetivos a serem estabelecidos para uma política que pretende preparar o Brasil para o futuro devem ser tecnologicamente neutros.

O desafio, portanto, consiste em estruturar um ecossistema de governança do uso da IA, tanto no setor público quanto no setor privado, de modo a incentivar a adoção e observância desses critérios.

Ações Estratégicas

- Estruturar ecossistemas de governança do uso da IA, no setor público e no setor privado.

- Incentivar o compartilhamento de dados, observada a LGPD.

- Promover o desenvolvimento de padrões voluntários e consensuais para gerenciar os riscos associados aos aplicativos de IA.

- Estimular que as organizações criem conselhos de revisão de dados ou comitês de ética em relação à IA.

- Criar um observatório de Inteligência Artificial no Brasil, que possa se conectar a outros observatórios internacionais.

- Estimular o uso de conjuntos de dados representativos para treinar e testar modelos.

- Facilitar o acesso aos dados abertos do governo.

- Melhorar a qualidade dos dados disponíveis, de modo a facilitar a detecção e correção de vieses algorítmicos.

- Estimular a divulgação de códigos fonte abertos capazes de verificar tendências discriminatórias nos conjuntos de dados e nos modelos de aprendizado de máquina.

- Desenvolver diretrizes para a elaboração de Relatórios de Impacto de Proteção de Dados (RIPD).

- Compartilhar os benefícios do desenvolvimento da IA na maior extensão possível e promover oportunidades iguais de desenvolvimento para diferentes regiões e indústrias.

- Elaborar campanhas educacionais e de conscientização.

- Estimular diálogo social com participação multissetorial.

- Alavancar e incentivar práticas de accountability relacionadas à IA nas organizações.

- Definir indicadores gerais e específicos por setores (agropecuária, financeiro, saúde, etc.).

ASPECTOS INTERNACIONAIS

A corrida global por liderança em IA evidencia que o desenvolvimento e a crescente adoção de IA geram impactos que transcendem as fronteiras nacionais, seja no campo econômico, seja no campo de PD&I.

Diferentes organismos internacionais têm buscado criar ambientes em que seja possível pactuar globalmente princípios éticos, padrões técnicos e promover o compartilhamento de conhecimento, melhores práticas e métricas para medir os avanços em pesquisa, desenvolvimento e utilização de IA.

A Organização para Cooperação e Desenvolvimento Econômico (OCDE) aprovou, em maio de 2019, seus Princípios sobre Inteligência Artificial, aos quais 42 países, inclusive o Brasil, já aderiram. A Organização das Nações Unidas para a Educação, a Ciência e a Cultura (UNESCO), partindo de uma perspectiva humanística, tem promovido estudos e conferências para tratar de diferentes dimensões de políticas públicas para IA, com discussão de questões como desenvolvimento sustentável, gênero, educação e ética da ciência. Também na União Internacional de Telecomunicações (UIT) existem diferentes grupos focais dedicados a discutir aspectos técnicos de IA, como machine learning em redes 5G e aplicações de IA na medicina.

A comunidade científica e acadêmica tem também desempenhado papel relevante nesse contexto, por meio da discussão multissetorial e transdisciplinar do tema, com intercâmbio de pesquisadores e desenvolvimento de pesquisas conjuntas.

Para que seja possível expandir a atuação do Brasil no mundo é indispensável promover a intensificação dos fluxos de conhecimento, comércio, finanças, pessoas, dados e comunicações entre os países e blocos com interesses convergentes nesse campo. Uma tendência é a construção de plataformas de cooperação para trocas de informação. Salienta-se que o Brasil vem priorizando os setores da economia em que já possui vantagem competitiva, a saber: agricultura, pecuária, mineração e indústria petroquímica.

Cabe ao Brasil celebrar parcerias internacionais que permitam benefícios mútuos entre os agentes envolvidos. No que se refere às instituições acadêmicas, salienta-se a importância do apoio ao desenvolvimento de parcerias internacionais entre instituições brasileiras e estrangeiras. Modelos de "joint ventures" entre universidades, com apoio do governo e de instituições privadas, são muito comuns em outros países e têm apresentado bons frutos.

O Brasil deve adotar uma postura proativa e propositiva no âmbito internacional, fomentando discussões, iniciativas e parcerias sobre Inteligência Artificial em organismos e foros internacionais, bem como em discussões e negociações entre países e blocos. É relevante, também, promover a construção de plataformas de cooperação para trocas de informação sobre Inteligência Artificial e reforçar a participação em oportunidades de cooperação advindas da intensificação das relações entre os países do BRICS (Brasil, Rússia, Índia, China e África do Sul), IBAS (Índia, Brasil e África do Sul) e Mercosul. Também é importante pontuar o trabalho sobre IA desenvolvido pela ONU e na Comissão Econômica para a América Latina e o Caribe (CEPAL).

Deve-se buscar engajamento ativo, para assegurar a representação e participação em debates e deliberações sobre IA. É ainda necessário promover a cooperação internacional em normas, padrões tecnológicos, regulatórios e jurídicos, a fim de facilitar a integração econômica e a dinâmica de trocas no campo de Inteligência Artificial, sempre prezando pela privacidade dos usuários e pela proteção de dados pessoais.

Ações Estratégicas

- Auxiliar a integração do Estado Brasileiro em organismos e fóruns internacionais que promovam o uso ético da IA.

- Promover o intercâmbio de especialistas que desenvolvam pesquisas em IA, nos diversos campos científicos, das ciências exatas, humanidades e saúde.

- Fomentar a exportação de sistemas de IA desenvolvidos por empresas brasileiras, inclusive startups.

- Desenvolver plataformas de cooperação para trocas de informação sobre tecnologias de Inteligência Artificial.

QUALIFICAÇÕES PARA UM FUTURO DIGITAL

No campo da educação, o desafio que se coloca é o de preparar as gerações atuais e futuras para conviver com as mudanças e os impactos da IA, muitos dos quais ainda não são plenamente compreendidos. Alguns países já oferecem formação na área de computação baseada nos princípios e métodos utilizados pela IA, tais como plataformas de introdução à programação não determinística, uso do pensamento computacional de forma não determinística, educação baseada na robótica e outras técnicas próprias da área.

O recente "Consenso de Beijing sobre Inteligência Artificial e Educação"43 (Unesco, 2019) frisou, entre outros aspectos, a importância de se ter presente a natureza multidisciplinar da IA e a necessidade de adoção de abordagens transversais, intersetoriais e multissetoriais para o planejamento e governança da IA na educação, estabelecendo prioridades estratégicas baseadas nos desafios locais. Outro aspecto importante diz respeito à necessidade de revisar e definir o papel e as competências necessárias dos professores, levando em conta que a interação humana e colaboração entre professores e alunos permanece como aspecto central da educação.

No Brasil, a Base Nacional Comum Curricular (2017)44 inclui, entre as competências gerais da educação básica, a de "compreender, utilizar e criar tecnologias digitais de informação e comunicação de forma crítica, significativa, reflexiva e ética nas diversas práticas sociais (incluindo as escolares) para se comunicar, acessar e disseminar informações, produzir conhecimentos, resolver problemas e exercer protagonismo e autoria na vida pessoal e coletiva". A partir de tal diretriz, ressalta-se a importância de avançar nas discussões acerca de temas como recursos educacionais digitais, plataformas adaptativas, práticas pedagógicas inovadoras e a importância de ressignificação dos processos de formação de professores para lidar com os desafios decorrentes da inserção da tecnologia e da IA como ferramenta pedagógica em sala de aula.

Um dos desafios cruciais a se resolver nesta seara é o baixo interesse dos brasileiros por matemática. No índice de pessoas graduadas, somente 15% são da área de exatas, enquanto a China possui aproximadamente os 40%. Segundo registros de empresas de tecnologias, a baixa qualificação da mão de obra brasileira em tecnologia é uma das principais preocupações. O número de vagas com carência de mão de obra qualificada no Brasil deve chegar a 500 mil nos próximos cinco anos. Dos empregos de 2030, 65% ainda não existem hoje. Desses, quase 100% estará relacionado à tecnologia45.

A qualificação para um mundo com IA envolve mais do que ciência, tecnologia, engenharia e matemática. À medida em que os computadores se comportam mais como seres humanos, as ciências sociais e humanas se tornarão ainda mais importantes. Os cursos de idiomas, arte, história, economia, ética, filosofia, psicologia e desenvolvimento humano podem ensinar habilidades críticas, filosóficas e éticas que serão fundamentais para o desenvolvimento e gerenciamento de soluções de IA. A promoção de literacia digital passa a ser fator chave para o desenvolvimento de uma nova massa de profissionais preparado para os desafios do próximo século.

De acordo com a Comissão Europeia para a promoção da literacia digital, é fundamental a aprendizagem de ferramentas de comunicação digital e o uso de redes de acesso: criar, manipular e avaliar informações de forma crítica. Em outras palavras, a literacia digital é uma habilidade para usar os computadores, incluindo o uso e a produção de mídias digitais, o processamento e a recuperação da informação, a participação em redes sociais para a criação e o compartilhamento do conhecimento e um conjunto de habilidades profissionais de computação46. No contexto educativo brasileiro, sabe-se que estas capacidades raramente são ensinadas nas escolas ou avaliadas regularmente, por isso, os sistemas escolares enfrentam hoje o desafio de incluir a literacia digital em todos os níveis do sistema educativo e na formação contínua dos professores.

Dentro desse contexto, foi verificado que a maioria das políticas e estratégias de IA de diversos países não trazem em suas ações foco adequado aos direitos e necessidades das crianças. Ainda se configura um desafio desenvolver uma orientação política global - voltada para governos e indústria - para determinar a melhor forma de utilizar os sistemas de IA para o desenvolvimento infantil e como as crianças podem ser priorizadas em sistemas de IA.

Durante o ciclo de infância e adolescência, é importante garantir processos de escuta sobre o impacto da IA em seu desenvolvimento e, respeitando as capacidades de cada fase da vida, equilibrar proteção com participação, seja de forma lúdica na infância ou dialogada na adolescência. Além da necessidade de educar crianças e adolescentes, é fundamental também contribuir para a educação de pais, responsáveis e educadores para que tenham o mínimo de conhecimento digital para poder funcionar adequadamente na vida digital, orientando e apoiando crianças e adolescentes. Países que já alcançaram a excelência em formação digital implementaram a educação digital em todo o currículo escolar, incluindo jovens de todas as idades escolares.

Importante ainda ressaltar que a IA também pode e deve ser utilizada como ferramenta auxiliar à educação, nas mais distintas áreas de conhecimentos, das ciências humanas às ciências naturais. Contudo, deve-se evitar o uso da IA como mecanismo de monitoramento da criança e do adolescente, dada a sensibilidade desse grupo de indivíduos.

Em relação ao mercado de trabalho, a importância da literacia digital é ainda mais latente. Muitos empregadores, logo na fase de avaliação de candidaturas de emprego, exigem o domínio de habilidades digitais, que funcionam como um catalisador, treinando outras habilidades importantes. É fundamental que cada cidadão domine habilidades digitais básicas e que tenha competências-chave para aplicar em diversas atividades profissionais. Ainda se inclui neste cenário a capacidade de usar a informação de forma ética no contexto social/virtual em que vivemos, respeitando indivíduos e grupos sociais.

Ações Estratégicas

- Avaliar a possibilidade de atualização da BNCC de modo que incorpore de maneira mais clara elementos relacionados ao pensamento computacional e à programação de computadores.

- Desenvolver programa de literacia digital em todas as áreas de ensino e em todos os níveis de educação.

- Ampliar oferta de cursos de graduação e pós-graduação ligados à Inteligência Artificial.

- Estimular o desenvolvimento de habilidades interpessoais e emocionais, como criatividade e pensamento crítico (soft skills).

- Avaliar formas de incorporação de tecnologias de IA nos ambientes escolares que levem em consideração a condição peculiar de crianças e adolescentes como pessoas em desenvolvimento, assim como seus direitos de proteção de dados pessoais.

- Instituir programas de formação tecnológica para professores e educadores.

- Incluir cursos de noções de ciências de dados, noções de álgebra linear, noções de cálculo e noções de probabilidade e estatística à lista de atividades complementares de programas do ensino médio.

- Promover programas de interação entre o setor privado e as instituições de ensino que permitam o intercâmbio de conhecimentos práticos sobre o desenvolvimento e uso de tecnologias de Inteligência Artificial.

- Criar mecanismos para ampliar o interesse dos brasileiros por disciplinas do grupo STEM (matemática, ciências, tecnologias e engenharias) na idade escolar, com foco especial para programas de inclusão de gênero e raça nessas áreas.

FORÇA DE TRABALHO E CAPACITAÇÃO

O estudo The Future of Employment47 prevê que a maioria dos trabalhadores em ocupações de transporte, logística, de suporte administrativo e de escritório e o trabalho em ocupações de produção está em risco. À medida em que a tecnologia avança, os trabalhadores de baixa qualificação serão realocados para tarefas não suscetíveis à informatização. Dessa forma, para os trabalhadores ganharem a corrida terão que adquirir habilidades criativas e sociais.

Há poucos dados consolidados que permitam estimar o número de profissionais de IA no país. Utilizando-se como parâmetro os dados constantes da Plataforma Lattes do CNPq (outubro/2019), é possível observar que o número de profissionais na área de IA, no Brasil, é de 4.429 especialistas. Trata-se de universo ainda pequeno se comparado aos 415.166 empregos em TI apenas no setor empresarial do País.

Para além da baixa presença de profissionais de IA no País de modo geral, o Relatório do Fórum Econômico Mundial (The Global Gender Gap Report, 2018)48 chama atenção ainda para a baixa presença feminina em profissões ligadas a IA, correspondente a apenas 14% de mulheres entre os profissionais de IA no Brasil. Segundo o estudo, tal disparidade pode exacerbar hiatos de gênero mais amplos e representar uma significativa oportunidade perdida em um campo profissional em que há01 insuficiente oferta de mão de obra qualificada. Na mesma linha, relatório da UNESCO (I'd blush if I could: closing gender divides in digital skills through education, 201949) identifica a persistência do hiato de gênero em termos de competências digitais e estabelece recomendações para endereçar tal disparidade.

Outro problema é o hiato racial de profissões de TI. Embora nos últimos anos as big techs tenham investido em políticas de diversidade na composição de sua equipe técnica, os percentuais ainda são baixos: nos EUA, enquanto 12% da população é considerada negra, apenas 3,7% dos técnicos do Google são negros.50 Os índices são igualmente baixos no Facebook (1,5%),51 Microsoft (4,4%),52 e Netflix (4%),53 embora sejam valores maiores do que os de anos anteriores. No contexto brasileiro, políticas que promovam a diversidade racial no campo técnico devem considerar aspectos socioculturais da racialidade no país.

Embora não haja consenso acerca do exato impacto que a IA trará para o mercado de trabalho, acredita-se que importantes mudanças ocorrerão, envolvendo criação de novos empregos e desaparecimento ou transformação de outros. Estudo da OCDE (The Future of Work. OECD Employment Outlook, 201954) estima que empregos de média qualificação são crescentemente expostos a riscos: 14% dos empregos existentes podem vir a desaparecer como resultado da automação nos próximos 15-20 anos, e adicionalmente 32% podem sofrer mudanças radicais à medida em que tarefas individuais venham a ser automatizadas. Em paralelo, seis entre cada dez adultos não possuem as competências adequadas para os empregos emergentes.

Desse modo, haverá crescente demanda por habilidades ligadas à tecnologia, tanto no campo de competências digitais básicas como também na área de competências tecnológicas avançadas, como a programação de computadores, habilidades avançadas em literacia digital, pensamento crítico e resolução de problemas. A competição por trabalhadores altamente qualificados tende a aumentar, ao passo que se reduzirá a demanda por trabalhadores de menor qualificação, o que agravará a tendência de desigualdade de renda e redução de empregos de faixa salarial intermediária.

Para além dos dados referentes ao impacto de IA sobre o mercado de trabalho já apresentados no Diagnóstico, cabe fazer referência a estudo desenvolvido pelo Instituto de Pesquisa Econômica Aplicada (Ipea), que apresenta uma estimativa de quais ocupações correm mais ou menos riscos no mercado de trabalho, levando em conta o crescente desenvolvimento das tecnologias. Segundo a pesquisa "Na era das máquinas, o emprego é de quem? Estimação da probabilidade de automação de ocupações no Brasil"55, 35 milhões de trabalhadores formais correm risco de perder seus empregos para a automação até 2050. Diante desse cenário, o estudo alerta para o elevado nível de desemprego nos próximos 30 anos no país, caso os profissionais e o Estado não se preparem. As áreas com menos risco de serem afetadas pela automação são as que envolvem empreendedorismo, criatividade, análise, tomada de decisões estratégicas, cuidado humano e trabalho em equipe. O estudo destaca, ainda, que devem ser mantidas no curto/médio prazo as profissões associadas a valores humanos como empatia, cuidado e interpretação subjetiva.

Além disso, novas atividades devem surgir a partir da automação. Segundo a pesquisa do Ipea, o desenvolvimento de novas tecnologias representa o advento de novas necessidades e, consequentemente, a criação de novas profissões associadas a supervisionar, manter e incrementar as tecnologias recém-introduzidas.

Também a Fundação Getúlio Vargas realizou um estudo56 em 2019 para simular o impacto da adoção de IA na economia brasileira no prazo de 15 anos, considerando três níveis diferentes de taxa de adoção de IA: 5%; 10%; e 26% durante esse período. Em todos os cenários simulados, identificou-se uma reestruturação no mercado de trabalho em termos de diminuição de empregos menos qualificados e um aumento nos postos mais qualificados. Um ponto positivo a se destacar é em relação ao salário: tanto nos empregos menos qualificados que permanecerão, quanto nos empregos mais qualificados que surgirão, haverá um aumento salarial de 7% e 14,72%, respectivamente. Em outras palavras, a crescente adoção de tecnologias baseadas em IA vão contribuir para o aumento do bem-estar dos trabalhadores e de suas condições de trabalho, mas as pessoas precisarão estar preparadas para isso.

Assim, é importante que políticas públicas no campo de IA enderecem os desafios relacionados à força de trabalho, seja no que se refere à formação de profissionais para atuar na área, seja no que tange à qualificação de trabalhadores de modo geral, para que pequenas e médias empresas possam adotar Inteligência Artificial; ou ainda, para requalificar os trabalhadores dos empregos que desaparecerão, promovendo um ambiente de igual oportunidade para todos.

Internacionalmente, discutem-se ações governamentais com vistas à implementação de programas de educação continuada, para dotar os indivíduos de conhecimentos e habilidades necessários para atuar em ocupações e em locais de trabalho que tendem a ser cada vez mais influenciados pela Inteligência Artificial. Estruturar e implementar programas de aprendizagem de adultos e de requalificação profissional para lidar com o excesso de mão de obra que resulta da automação de atividades nos campos público e privado, também fazem parte do rol de preocupações no campo das políticas de trabalho e qualificação profissional relacionadas à Inteligência Artificial.

Diante deste cenário, pode-se ressaltar que novos empregos, assim como muitos empregos existentes, exigirão novas habilidades. A capacitação, e a sua continuidade ao longo do tempo, tem função bastante importante de preparar a força de trabalho, não somente em vista da criação de novas funções e carreiras, como também para melhor adequar os profissionais atuais para as mudanças exigidas em razão do uso da tecnologia.

Sabe-se que o esforço da capacitação da nova mão de obra do mundo digital é não apenas dos formuladores de políticas públicas, mas também dos próprios empregadores, que estão cada vez mais preocupados em melhorar o treinamento no trabalho. Idealmente, o foco tem sido não apenas em cientistas de dados, mas nos técnicos que vão implementar a tecnologia na prática e nos usuários dos sistemas digitais. Ou seja, existem as habilidades técnicas, como de programação e análise de dados, mas não se pode esquecer que a grande maioria da força de trabalho deve estar preparada para ser usuária de sistemas e Inteligência Artificial.

Ações Estratégicas

- Estabelecer parcerias com o setor privado e com a academia para definir políticas públicas concretas que incentivem a formação e a capacitação de profissionais, considerando as novas realidades de mercado de trabalho.

- Estimular que as empresas e os órgãos públicos implementem programa de treinamento contínuo da sua força de trabalho voltado às novas tecnologias.

- Criar campanhas de conscientização sobre a importância de se preparar para o desenvolvimento e uso ético da IA.

- Estimular a retenção de talentos especializados em TIC no Brasil.

- Estimular a composição diversificada de equipes de desenvolvimento em IA, quanto ao gênero, raça, orientação sexual e outros aspectos socioculturais.

- Reforçar políticas voltadas à educação continuada e ao lifelong learning, promovendo maior interação entre o setor privado e as instituições de ensino (universidades, institutos de pesquisa e de capacitação profissional e técnica).

PESQUISA, DESENVOLVIMENTO, INOVAÇÃO E EMPREENDEDORISMO

Não há dúvidas de que a IA provocará grandes impactos também sobre o ambiente de Pesquisa, Desenvolvimento e Inovação, seja como objeto de estudo e desenvolvimento, seja como facilitadora de novas descobertas científicas. Tal potencialidade decorre da capacidade de sistemas de IA de tratar grandes volumes de dados, o que permite identificar padrões, explorar hipóteses e realizar inferências não passíveis de execução por seres humanos.

Segundo a Organização Mundial para a Propriedade Intelectual (WIPO Technology Trends 2019. Artificial Intelligence, 2019)57, quase 340 mil famílias de patentes e mais de 1,6 milhões de artigos científicos relacionados à IA foram publicados entre 1960 e meados de 2018. O número de patentes anualmente no campo de IA cresceu em uma proporção de 6,5 vezes entre 2011 e 2017, voltando-se de maneira expressiva para aplicações industriais. Segundo o mesmo estudo, a maior parte das entidades que depositam patentes são empresas (vinte e seis entre os trinta maiores depositantes, sendo que apenas quatro são universidades ou organizações públicas de pesquisa). Com base na análise de dados referentes a patentes e publicações científicas, pode-se afirmar que China e EUA são hoje líderes mundiais em pesquisa básica e aplicada em IA.

No Brasil, segundo dados da Plataforma Lattes do CNPq (outubro/2019), os profissionais atuantes na área de IA trabalham, em sua maioria, nas universidades, institutos federais e centros de pesquisa, com baixa presença em empresas de tecnologia. Este fato faz com que a IA, como área de estudo, esteja distribuída por quase todo o país. Na área acadêmica, isso resulta que o Brasil ocupe, respectivamente, o 15o e o 18o em produção científica, publicada internacionalmente de forma individual ou em cooperação com outros países58.

A Recomendação do Conselho da OCDE sobre IA (2019) sugere que Estados nacionais devam promover e incentivar investimentos públicos e privados em P&D, contemplando esforços interdisciplinares para promover inovação em IA confiável, de modo a focar não apenas em desafios técnicos, mas também em implicações sociais, jurídicas e éticas associadas a IA. Além disso, o documento recomenda que governos viabilizem investimentos em bases de dados abertas, que sejam representativas e respeitem direitos à privacidade e à proteção de dados pessoais, de modo a: (i) promover um ambiente para pesquisa e desenvolvimento em IA que seja livre de viés; e (ii) aperfeiçoar a interoperabilidade e o uso de padrões comuns. Para além desses aspectos, a Recomendação indica que governos devem promover um ambiente de políticas públicas que apoie uma transição ágil da fase de P&D para a fase de desenvolvimento e operação de sistemas de IA.

No contexto brasileiro, reconhecendo-se a necessidade de ampliação das possibilidades de pesquisa, desenvolvimento, inovação e aplicação de IA, foram iniciados esforços, no então MCTIC, com vistas ao desenvolvimento de oito centros de Inteligência Artificial, focando em diferentes campos de aplicação dessa tecnologia, em parceria com os diferentes atores públicos e privados já engajados nessa temática.

A Pesquisa e Desenvolvimento da Inteligência Artificial deve adotar abordagens éticas de design para tornar o sistema confiável. Isso pode incluir, mas não se limita a: tornar o sistema o mais justo possível, reduzir possíveis discriminações e preconceitos, melhorar sua transparência, prover explicação e previsibilidade e tornar o sistema mais rastreável, auditável e responsável.

Tendo em vista os diversos gargalos já endereçados por este documento, como a escassez de mão-de-obra qualificada e de ferramentas adequadas, todos de curto prazo, evidencia-se uma necessidade de catalisar a execução de pesquisas e projetos de IA por parte dos diversos atores no setor público e privado. Desta maneira, pode ser necessária a criação de um programa prioritário (PPI) dedicado às necessidades de IA e que os devidos incentivos sejam implementados para que fundos, como o Fundo Nacional de Desenvolvimento Científico e Tecnológico (FNDCT), sejam direcionados com maior intensidade para tais programas. Dada a complexidade intrínseca de um projeto de IA e da demanda pela velocidade, explorar as diversas formas de aplicação desse fundo, desde programas de capacitação até investimentos em startups e empreendedores do ecossistema de empreendedorismo brasileiro pode ser uma solução eficaz.

No que se refere às políticas públicas voltadas a PD&I, pode-se, para fins de categorização, identificar três categorias de atuação do poder público:

Financiador ou investidor direto: governos podem fornecer financiamento para apoiar o desenvolvimento e adoção de tecnologias emergentes, com aplicação prática no setor público, bem como projetos de P&D do setor privado cujos resultados podem se aplicar a toda a economia.

Regulador flexível: Ciclos de inovação acelerados em tecnologias digitais emergentes exigem repensar os tipos de políticas e instrumentos regulatórios utilizados e sua implementação. A segurança jurídica é fundamental para garantir o investimento.

Administrador de dados: Os governos possuem ou mantêm vastos bancos de dados. Esses dados podem alimentar tecnologias baseadas em IA, especialmente quando bem gerenciados.

Estão sendo adotados sandboxes regulatórios com o objetivo de apoiar organizações que estão desenvolvendo produtos e serviços inovadores. A Information Commissioner's Office, órgão regulador de proteção de dados do Reino Unido, desenvolveu um Guia do Sandbox59 para orientar empreendedores que queiram desenvolver negócios inovadores de maneira segura.

Entre critérios que esses sandboxes podem considerar estão: (i) o grau de risco das atividades desenvolvidas; (ii) o tamanho das empresas beneficiadas; (iii) a delimitação de escopo e duração do sandbox; (iv) a especificação de resultados funcionais predeterminados; (v) o monitoramento por autoridade competente que avalie as oportunidades e riscos de disponibilização no mercado dos sistemas de IA desenvolvidos em ambiente de sandbox.

Ações Estratégicas

- Definir áreas prioritárias para investimentos em IA, de maneira alinhada a outras políticas relacionadas ao ambiente digital.

- Ampliar as possibilidades de pesquisa, desenvolvimento, inovação e aplicação de IA, por meio da viabilização do aporte de recursos específicos para esse tema e da coordenação entre iniciativas já existentes.

- Estabelecer conexões e parcerias entre setor público, setor privado e instituições científicas e universidades em prol do avanço no desenvolvimento e utilização da IA no Brasil.

- Promover um ambiente de políticas públicas que apoie uma transição ágil da fase de P&D para a fase de desenvolvimento e operação de sistemas de IA.

- Promover um ambiente para pesquisa e desenvolvimento em IA que seja livre de viés.

- Aperfeiçoar a interoperabilidade e o uso de padrões comuns.

- Promover mecanismos de incentivo que estimulem o desenvolvimento de sistemas de IA que adotem princípios e valores éticos.

APLICAÇÃO NOS SETORES PRODUTIVOS

A integração de sistemas de IA à estrutura produtiva não é apenas uma promessa para o futuro, mas uma realidade bastante disseminada. Exemplos são ferramentas de reconhecimento de voz, chatbots e atendentes virtuais, jogos, aplicativos de segurança para sistemas informacionais, carros autônomos e robôs que fazem diagnósticos médicos. No mundo corporativo, essa tecnologia alterou a maneira de fazer negócios em diversos segmentos do comércio, da indústria e do varejo.

Na indústria, a Inteligência Artificial terá um papel-chave para tornar negócios mais eficazes, com custos reduzidos e uma taxa de erros operacionais mínima. Ela poderá ser empregada em diferentes setores, automatizando uma série de processos e tornando o dia a dia de negócios mais flexível e ágil. Assim, empreendedores poderão dedicar mais tempo às atividades próximas ao core business do empreendimento e menos às questões burocráticas e operacionais. Indústrias com grandes linhas de montagem, por exemplo, podem utilizar a Inteligência Artificial para diminuir o número de erros nos processos de montagem de produtos. Isso acontece, por exemplo, na indústria automobilística: robôs são utilizados de maneira extensiva para a montagem de veículos, reduzindo as chances de erros ocorrerem e tornando os processos mais seguros.

A adoção disseminada de IA produz importantes consequências econômicas, abrangendo potenciais benefícios, mas também importantes custos relacionados à sua implementação. A expectativa do mercado mundial de IA para 2025 é de USD 13.9 bilhões. O crescimento esperado entre 2020 e 2025 é de 21,9%60. De modo agregado, e descontando efeitos de competição e custos de transição, IA pode potencialmente aumentar o PIB global em 1,2% ao ano até 2030.

Segundo o IDC Brasil (2019)61, também no Brasil aumenta o ritmo de adoção de IA, com projeção de que investimentos globais cheguem a US$ 52 bilhões até 2021. Segundo a consultoria, 15,3% das médias e grandes empresas no país já contam com a tecnologia entre as principais iniciativas e esse percentual deve dobrar nos próximos quatro anos. As áreas com maior potencial de crescimento estão ligadas ao atendimento a clientes, à análise e investigação de fraudes, à automação de TI, aos diagnósticos e tratamentos de saúde. Para 2022, a previsão do uso de Inteligência Artificial é de 20% das empresas usando tecnologias de voz para interação com clientes e, em 2024, interfaces de Inteligência Artificial e automação de processos devem substituir um terço das interfaces de tela dos aplicativos.

Entre os desafios para se estabelecer políticas públicas de IA, está o de identificar os ramos de uso da IA e as áreas de mercado nos quais os investimentos a serem aplicados podem gerar os melhores resultados. Essas áreas podem dar visibilidade para o País em termos internacionais, gerar empregos com melhores qualificações, atrair grandes empresas da área de TI na oferta de soluções tecnológicas, gerar produtos e aplicações da IA para as diversas necessidades dos setores público e privado e, também, preparar o País para a necessidade de requalificação que a tecnologia vem impondo em nível global.

Dentro do processo de aplicação da IA nos setores produtivos, a Inteligência Artificial exige que se pense também o contexto tecnológico e social em que se insere. Nesse aspecto, alguns elementos devem ser destacados: (i) o papel dos dados no desenvolvimento da Inteligência Artificial; (ii) o uso das tecnologias auxiliares, como sensores e IoT; (iii) capacidades computacionais; e (iv) modelos de negócio baseados na rastreabilidade das ações humanas (coleta de dados devida ou indevida).

A seguir, apresentam-se exemplos de uso da IA em diferentes setores produtivos:

- Logística: os sistemas de IA podem ajudar a otimizar o uso do armazém, prevendo a demanda e organizando estoques, melhorando a eficiência nas cadeias de suprimentos.

- Transporte: os sistemas de IA também estão no coração de veículos autônomos, usando sistemas complexos de aprendizado de máquina para interpretar sinais de trânsito, ler mapas, reconhecer e reagir a fatores de perigo. Em outras aplicações, machine learning (ML) e entradas humanas são combinadas para otimizar o software de navegação usando dados de tráfego em tempo real e informações históricas para prever as melhores opções de rota para os usuários da estrada.

- Serviços financeiros: as instituições financeiras utilizam os sistemas de IA para melhorar as decisões financeiras, avaliar o valor do crédito, detectar fraudes e reduzir os custos de atendimento ao cliente.

- Serviços profissionais: profissionais como advogados, engenheiros e arquitetos podem aproveitar os sistemas de IA para criar eficiências em seu trabalho. Por exemplo, os advogados podem analisar grandes volumes de jurisprudência, economizando tempo crucial para ganho de produtividade.

- Assistentes virtuais: os sistemas de IA capacitam software que depende do processamento de linguagem natural e pode responder a comandos e perguntas faladas ou escritas. Assistentes virtuais são empregados para reduzir custos nas relações com os consumidores e melhorar a personalização de serviços.

- Marketing e publicidade: os sistemas de IA ajudam a aumentar a experiência do consumidor e personalizar o conteúdo, enquanto fazem previsões mais precisas para publicidade direcionada de bens e serviços.

- Agricultura: os sistemas de IA podem ajudar a analisar os dados da fazenda em tempo real, prevendo as consequências das condições climáticas, uso da água, saúde do solo e outras variáveis. Isso pode ajudar os agricultores a aumentar o rendimento e a qualidade das culturas e identificar o que plantar, como e onde.

- Assistência médica: os sistemas de IA são cada vez mais utilizados em diagnósticos médicos, prevenção de surtos de doenças e desenvolvimento de novos medicamentos, entre outros.

- Aprendizado de idiomas e tradução automatizada: os desenvolvimentos no processamento de idiomas naturais melhoram o aprendizado automatizado de idiomas, os processos de tradução e facilitam a automação de comunicações simples.

Nos termos de aplicações concretas relacionadas à interação com clientes, destacam-se:

- Serviços automáticos de atendimento ao cliente.

- Marketing direcionado.

- Personalização e moderação de conteúdo em redes sociais.

- Análise de "sentimento" em redes sociais.

- Buscas em websites.

- Previsão de saída de clientes da carteira das empresas.

- Precificação dinâmica.

- Chatbots para maximizar atendimento por humanos.

Na medicina, são também inúmeras as aplicações de Inteligência Artificial:

- Uso de IA para o ensino da medicina.

- Exames automatizados.

- Análises patológicas.

- Imagens e microscópios de capacidade microcelular.

- Uso de drones para entrega de medicamentos.

A IA também promete reduzir os custos ligados ao comércio exterior. Isso pode surgir em parte por meio de maior eficiência logística, mas também por melhor conectar a oferta e a demanda e reduzir as barreiras linguísticas. De fato, análises recentes mostram que a tradução automática reduz os atritos comerciais relacionados ao idioma e aumenta as exportações em 10,9%62. O uso de IA na alfândega e outras agências de fronteira para a facilitação do comércio também pode contribuir para maiores reduções de custos de comércio decorrentes da fronteira.

A Quarta Revolução Industrial, que está promovendo mudanças significativas na tecnologia da informação inteligente (TI inteligente), deverá transformar a estrutura básica das indústrias, aumentando a produtividade e a eficiência para níveis sem precedentes, com base na inteligência aprimorada das máquinas.

Um campo promissor pode estar também em ambientes já incentivados por políticas pré-existentes, como saúde, cidades, indústria e rural. Esses são eleitos, pelo art. 4º do Decreto nº 9.854, de 25/06/2019 (Plano Nacional de Internet das Coisas), como nichos a serem priorizados na implementação da política, a despeito de a norma reconhecer a importância da Internet das Coisas para os mais diversos fins.

No que concerne à combinação entre IoT e IA, há diversas especificidades a serem resolvidas para que tal conjunção seja bem sucedida, a exemplo de temas como conectividade, segurança, integração de sistemas, armazenamento e compartilhamento de dados, desenvolvimento de aplicações, escalabilidade, acessibilidade e análise de dados de IoT, além da garantia de uma escala de funcionalidade, já que criar sensores a serem acessados por dispositivos conectados é muito menos complexo do que desenvolver dispositivos confiáveis, seguros, remotamente controláveis e de baixo custo. Uma infraestrutura adequada para garantir a conectividade e a flexibilidade necessária para a diversidade de dispositivos existentes é fundamental, e nesse contexto a 5G apresenta-se como peça-chave.

Além disso, programas de investimento devem estabelecer objetivos específicos e delimitar indicadores de sucesso das soluções propostas que incluam o custo, escalabilidade e acurácia das tecnologias desenvolvidas, assim como o grau de impacto em direitos fundamentais.

Ações Estratégicas

- Definir ou identificar uma estrutura de governança pública-privada para promover o avanço das indústrias inteligentes de TI, aos moldes da Câmara Brasileira de Indústria 4.0.

- Fomentar o surgimento de novas Startups brasileiras na área por meio de novas parcerias público privadas.

- Criar redes de colaboração entre startups de base tecnológica e pequenas e médias empresas (PMEs).

- Incorporar, em iniciativas como o Programa Brasil Mais, mecanismos de incentivo ao uso de IA por pequenas e médias empresas, de modo a aprimorar processos de gestão e promover sua transformação digital.

APLICAÇÃO NO PODER PÚBLICO

A ideia de governo digital pressupõe aproveitar e incorporar os avanços científicos e tecnológicos da área da ciência dos dados e da Inteligência Artificial na criação de soluções de melhoria dos serviços públicos, baseadas mais no conhecimento das realidades e experiências dos cidadãos do que nas intuições e ideias preexistentes sobre as situações em que há necessidade de intervir.

A junção da ciência dos dados, da aprendizagem automática e do alto poder computacional constitui um importante contributo para transformar o elevado manancial de dados disponível na Administração Pública em informação relevante (encontrando padrões) e conhecimento transformador (antecipando falhas e otimizando ações). Essas transformações poderão modificar os processos de decisão, relativos a matérias com impacto crítico na vida dos cidadãos, e também melhorar processos operacionais, reduzindo prazos e obtendo respostas mais eficazes face às necessidades apresentadas.

A criação e exploração dessas novas possibilidades de transformação dos serviços públicos, com maior produção de benefícios para os cidadãos, exigem competências humanas e organizacionais específicas, facilitadoras de um ambiente propício, capaz de analisar as situações e os processos e imaginar e desenhar novas soluções fundadas nas possibilidades de uso da informação e capacidades computacionais de processar, aprender e projetar um novo modelo de ação mais inteligente e eficaz.

No campo do Poder Público, a Inteligência Artificial representa importante oportunidade para melhorias na qualidade de atendimento e nos índices de satisfação dos cidadãos. A inovação na gestão pública, ao modernizar os processos administrativos, possibilita que o Estado supere obstáculos burocráticos e restrições orçamentárias para oferecer serviços novos, melhores e mais eficientes à população.

Não por acaso, dos 50 países com estratégias nacionais de IA, 36 possuem estratégias específicas para a transformação do setor público por meio da IA ou têm foco no setor público dentro de uma estratégia mais ampla63. Algumas questões centrais contidas em tais estratégias são:

- Colaboração entre diferentes setores, inclusive por meio de parcerias público-privadas, facilitada por hubs e por laboratórios de inovação.

- Criação de conselhos, redes e comunidades envolvendo diferentes áreas do governo.

- Automação de processos rotineiros para aumentar a eficiência.

- Uso de IA para apoiar processos de tomada de decisão.

- Gestão estratégica e abertura de dados governamentais, inclusive para alavancar IA no setor privado.

- Orientações quanto ao uso transparente e ético de IA no setor público.

No Brasil, já existem diversos casos de utilização bem-sucedida de sistemas de IA em órgãos públicos, entre os quais destacam-se:

Na esfera federal:

- TCU - "Alice" (Análise de Licitações e Editais). Alice, o primeiro dos três robôs do TCU, lê as licitações e editais publicados nos Diários Oficiais trazendo aos membros do Tribunal o número de processos por estado, assim como o valor dos riscos de cada um. Com esses dados, o robô ainda cria um documento apontando se há indícios de fraudes. 

- TCU - "Sofia" (Sistema de Orientação sobre Fatos e Indícios para o Auditor). Funciona como um corretor que auxilia o auditor ao escrever um texto, apontando possíveis erros e até sugerindo informações relacionadas às partes envolvidas ou ao tema tratado. Sofia cria alertas com dados como a validade de um CPF registrado pelo auditor, a existência e a validade de contratos de uma entidade, se há registro de óbito sobre determinada pessoa, e se o cidadão ou empresa está ou não cadastrado no sistema do TCU.

- TCU - "Monica" (Monitoramento Integrado para Controle de Aquisições). Traz informações sobre as compras públicas na esfera federal, incluindo os poderes Executivo, Legislativo e Judiciário, além do Ministério Público. O robô faz um trabalho mensal de obtenção de dados, com exceção das informações sobre pregões, que são atualizadas semanalmente. Além disso, a tecnologia permite que sejam feitas buscas rápidas por palavras-chave no objeto das aquisições.

- TST - "Bem-Te-Vi": gerencia processos judiciais com IA. Desde o começo de maio de 2019, a ferramenta permite a análise automática da observância de prazos dos processos.

- CGU: implantou um sistema para encontrar indícios de desvios na atuação de servidores.

- CGU: possui outro sistema baseado em IA usado com o propósito de fiscalizar contratos e fornecedores. A ferramenta elabora uma análise de riscos, incluindo não somente o de corrupção, mas também de outros problemas, como a possibilidade de um fornecedor não cumprir o contrato ou fechar as portas.

- STF - "Victor": a ferramenta tem por objetivo ler todos os Recursos Extraordinários que chegam ao STF e identificar quais estão vinculados a determinados temas de repercussão geral.

- MPF - HALBert Corpus: classifica os pareceres dados em Habeas Corpus quanto a sua admissibilidade (conhecimento, não conhecimento, se está prejudicado, etc) e mérito (concessão, denegação, sem exame de mérito, etc).

Na esfera estadual:

- Paraná Inteligência Artificial (PIÁ): é um programa de IA focado na prestação de serviços à população. A plataforma e o aplicativo reúnem mais de 380 serviços do Governo em um só lugar e funcionam como canais de diálogo com o cidadão para atender suas demandas e reclamações. O PIÁ também tem integração bidirecional com ferramentas do governo federal e integração municipal. 

- Justiça de Pernambuco - "Elis": o sistema foi desenvolvido por uma equipe do Tribunal de Justiça de Pernambuco (TJPE) para acelerar a tramitação de processos, reduzindo para 15 dias o trabalho que 11 servidores levariam mais de um ano para concluir.

- Ministério Público do Rio de Janeiro: sistemas de IA são utilizados para agilizar investigações e evitar a prescrição de crimes. A instituição tem 52 profissionais dedicados à área e está desembolsando R$ 2,9 milhões em ciência de dados e IA para coletar, armazenar e analisar grandes volumes de informações.

Como se pode observar, já há ampla compreensão, no setor público, das oportunidades que a IA oferece para aprimorar a oferta de serviços em diferentes setores, bem como os desafios inerentes ao seu uso, especialmente os relacionados à transparência dos processos decisórios e à proteção de dados pessoais.

Reconhece-se que o Poder Público tem um papel importante na promoção da adoção da IA, criando um ambiente habilitador para seu pleno desenvolvimento. Isso deve começar com a adoção de tecnologias de IA responsáveis no setor público, de modo a melhorar a qualidade do serviço oferecido ao cidadão, promover uma interação transparente e eficiente, aumentar o nível de confiança do público no governo e gerar melhores resultados para os cidadãos. De fato, as tecnologias digitais baseadas em IA criam oportunidades para explorar novos modelos de prestação de serviços, melhorar o gerenciamento de recursos por meio de gastos mais inteligentes e vincular o investimento em programas e serviços aos resultados que eles produzem para os cidadãos, aumentando a responsabilidade e a confiança.

A OCDE publicou em 2018 o relatório "Open Government Data Report"64, o qual destaca que a melhora do acesso a dados governamentais propicia oportunidades para inovadores governamentais e não-governamentais criarem novas formas de solucionar problemas de nossa sociedade. Isso implica o engajamento e participação de partes interessadas não institucionais, como do setor privado, academia, setor sem fins lucrativos, no processo de política de dados abertos. Dados abertos podem se tornar a "plataforma" que alimenta o desenvolvimento de aplicações e soluções úteis, ou seja, fica cada vez mais evidente o valor dos dados abertos em produzir benefícios econômicos ao setor público e à economia como um todo, ao facilitar novas oportunidades de negócios e ajudar indivíduos, empresas e o governo a tomar melhores decisões com base em mais informações disponíveis. O Governo Brasileiro segue em linha com tais direcionamentos. Não há dúvidas de que os benefícios advindos do uso de dados governamentais abertos, além de significantes, são transversais, na medida em que atingem áreas inicialmente não previstas.

Há, ainda, possibilidade de grandes ganhos ao país na aplicação da IA no aprimoramento de resultados e da transparência de políticas públicas e regulação. As vantagens desse uso foram objeto de recente debate da "Comissão Senado do Futuro" no Senado Federal em 21/08/2019. Foram ressaltados dois projetos em andamento, pelo CADE e pela CGU. O projeto Cérebro do CADE tem utilizado essas ferramentas para a identificação de cartéis em licitações públicas. A CGU, por sua vez, tem aprimorado a análise dos repasses da União por meio do projeto Malha Fina de Convênio. O aprimoramento de ferramentas como essas para o uso do poder público pode auxiliar os administradores na tomada de decisões, evitando gargalos e aumentando eficiência e economicidade.

Ao mesmo tempo em que a IA traz inúmeros benefícios, como o aumento de eficiência dos serviços públicos, é fundamental que os valores éticos de uma IA justa e responsável também estejam refletidas nas soluções adquiridas e/ou desenvolvidas pelo Poder Público.

Ações Estratégicas

- Em linha com o estabelecido na Estratégia de Governo Digital, implementar recursos de Inteligência Artificial em, no mínimo, 12 serviços públicos federais até 2022.

- Incorporar a IA e a análise de dados nos processos de formulação de políticas públicas.

- Implantar espaços de experimentação de dados com IA e desenvolver parcerias de PD&I voltadas para IA com instituições de ensino superior, setor privado e terceiro setor.

- Atualizar e reavaliar processos e práticas de trabalho, em preparação para possíveis mudanças nos ambientes em que sistemas de IA forem introduzidos.

- Considerar, em licitações e contratos administrativos voltados à aquisição de produtos e serviços de Inteligência Artificial, critérios voltados não apenas à eficiência técnica, mas também relativos à incorporação de princípios éticos relacionados à transparência, à equidade e à não-discriminação.

- Estabelecer mecanismos para célere apuração de denúncias e reclamações sobre violações de direitos em decisões realizadas por sistemas de IA.

- Promover o intercâmbio de dados abertos entre entidades da Administração Pública e entre estas e o setor privado, sempre com respeito ao direito à proteção de dados pessoais e ao segredo comercial.

- Realizar análise de impacto nos casos de uso da IA que afetem diretamente o cidadão ou o servidor público.

- Estabelecer valores éticos para uso da IA na Administração Pública Federal.

- Estimular que os órgãos públicos promovam a conscientização do uso da IA em seu corpo técnico.

SEGURANÇA PÚBLICA

Sistemas de Inteligência Artificial apresentam aplicações potenciais em inúmeras atividades relacionadas à segurança e à defesa, seja no contexto do Poder Público, seja no campo privado. Recente estudo de um instituto de pesquisa dos EUA, o Carnegie Endowment for International Peace,65 revelou que pelo menos 75 países estão usando ativamente tecnologias de Inteligência Artificial para fins de vigilância / segurança pública. As principais tecnologias de IA para a área de segurança pública identificadas são: (i) plataformas de cidades inteligentes e cidades seguras; (ii) sistemas de reconhecimento facial; e; (iii) policiamento inteligente.

Uma das principais aplicações de IA no campo da segurança diz respeito às soluções que permitem a identificação de objetos e de pessoas em imagens e vídeos, que podem ser utilizadas em aplicações simples - como a detecção de uma pessoa pulando um muro - até aplicações que são capazes de identificar pessoas portando armas na rua ou agredindo outras pessoas.

As aplicações de análise de áudio também vêm ganhando cada vez mais espaço, com algumas soluções demonstrando capacidade de detecção de sons de tiros, de batidas de carros ou de tumultos, com envio automático de alerta para as autoridades responsáveis. Com tecnologias analíticas, as autoridades podem descobrir em tempo real ocorrências e avaliar quais apresentam maior necessidade de urgência, diante de parâmetros pré-estabelecidos, como por exemplo, a presença de armas de fogo. Tecnologias emergentes podem auxiliar no combate à violência, integrando a Inteligência Artificial aos atuais processos da segurança pública. Sistemas de monitoramento com vídeos podem transformar o setor de segurança pública de reativo em proativo, permitindo assim que a fiscalização para combater crimes e tiroteios em massa sejam mais eficazes.

No contexto de IA em segurança pública, merecem destaque os sistemas de reconhecimento facial - SRF, que têm sido utilizados em conjunto com sistemas de circuito fechado de televisão - CFTV, para identificar indivíduos foragidos ou comportamentos criminosos em locais públicos. Pesquisa do Instituto Igarapé revelou que desde 2011, SRFs são utilizados no Brasil para diferentes finalidades. De 47 casos reportados, 13 tinham como objetivo o uso no contexto de segurança pública.66 Por exemplo, na cidade do Rio de Janeiro, entre julho e outubro de 2019, 10% das prisões do 19º Batalhão da Polícia Militar - BPM foram decorrentes do SRF utilizado67.

Por outro lado, a utilização de tais tecnologias tem também sido amplamente discutida, principalmente no que diz respeito aos problemas associados a viés e discriminação decorrentes, em muitos casos, de bases de dados de treinamento insuficientemente representativas. Embora sistemas de reconhecimento facial para segurança pública tenham sido adotados em inúmeros contextos, inclusive no Brasil, os índices de falsas identificações positivas suscitam preocupações. Erros em SRF utilizados para segurança pública podem representar constrangimentos, prisões arbitrárias e violações de direitos fundamentais.

Além disso, problemas relacionados a viés de gênero e de raça têm sido constatados em diversos casos de uso de SRFs. O relatório do NIST sobre questões demográficas em SRF concluiu que os falsos positivos são muito maiores na identificação de pessoas com traços africanos e asiáticos do que para traços europeus caucasianos. A proporção de falsos positivos em mulheres também foi maior do que em homens.68 No contexto brasileiro, o relatório "Retratos da Violência",69 do Centro de Estudos de Segurança e Cidadania - CESeC, apresentou investigação sobre o uso de SRFs em quatro Estados: Bahia, Rio de Janeiro, Santa Catarina e Paraíba, totalizando 151 pessoas presas entre março e outubro de 2019, com o uso desta tecnologia. Em 42 destes casos, informações sobre raça ou cor foram reveladas, o que permitiu identificar que 90,5% das pessoas detidas eram negras (pretas ou pardas), contra 9,5% de pessoas brancas.

Estudos apontam que vieses algorítmicos são, em muitos casos, decorrentes de conjuntos de dados (datasets) utilizados para treinar os modelos de IA com composição demográfica desproporcional. No dataset de rostos do Intelligence Advanced Research Projects Activity (IARPA) nos EUA, um dos mais utilizados em solo norte-americano, constatou-se que 79.6% das imagens eram de indivíduos brancos, sendo 59.4% homens e 20.2% mulheres, o que, inevitavelmente, garantia uma acurácia muito maior para identificar homens brancos do que mulheres negras.70 Outros bancos de dados revelaram assimetrias similares.

Para além das tecnologias de reconhecimento facial, técnicas de policiamento preditivo adotadas em outros países têm também sido criticadas a partir de perspectivas que questionam tanto a sua efetividade como também os riscos de perfilhamento racial e construção de "profecias autorrealizáveis". Por exemplo, em 2016, o software COMPAS, utilizado em tribunais nos EUA para determinar o índice de reincidência criminal e concessão de fianças, foi duramente criticado ao se revelar que ele era tendencioso contra pessoas negras: estas tinham 45% mais chances de serem identificadas como indivíduos de alto risco do que pessoas brancas.71

É importante ressaltar que tecnologias de IA utilizadas no contexto de segurança pública devem respeitar os direitos de privacidade e de proteção de dados pessoais, em conformidade com os direitos constitucionais à intimidade, à privacidade e à proteção à imagem do titular. Cabe mencionar que o uso dessas tecnologias no contexto da segurança pública pode suscitar riscos referentes à coleta e tratamento de dados pessoais em grande escala para treinamento de seus modelos algorítmicos72. Assim, a criação e o uso de bancos de dados de segurança pública integrados a sistemas de IA devem observar o devido processo legal, os princípios gerais de proteção de dados pessoais e os direitos dos titulares de dados, conforme o art. 4º, §1º, da LGPD.

Algumas medidas que garantem o desenvolvimento tecnológico e a proteção de dados pessoais são:

(i) Mecanismos de soft law: Guias e recomendações que auxiliam reguladores e regulados a aplicar as previsões normativas das leis relevantes. No contexto europeu, autoridades de proteção de dados já produziram documentos sobre o uso de tecnologias de vigilância: a Information Commissioner's Office (ICO), do Reino Unido, publicou em 2019 um relatório da investigação do uso de reconhecimento facial em espaços públicos pela polícia;73 e o European Data Protection Supervisor, lançou, em março de 2020, um guia para o uso de câmeras de vigilância, com uma seção dedicada a sistemas inteligentes.74 Nos EUA, o National Institute of Standards and Technology - NIST possui um programa de aprimoramento de tecnologias de reconhecimento facial chamado Face Recognition Vendor Test, que publica relatórios periódicos com orientações de como melhorar a acurácia e outras características destes sistemas.

(ii) Estrutura de supervisão (oversight): Estruturas de supervisão normalmente incluem um ou mais representantes legitimados pelo Estado que possuem instrumentos para garantir a aplicabilidade da lei (enforcement), assim como a recomendação de boas práticas e outras salvaguardas. Boas práticas indicam ser desejável que um mecanismo de supervisão bem estruturado inclua elementos como uma autoridade supervisora independente; a obtenção de autorização prévia para a atividade de vigilância (i.e. legalidade); o monitoramento do uso das tecnologias em questão; e a existência de remédios jurídicos eficazes para endereçar eventuais abusos.

(iii) Adoção de normas ou padrões técnicos (standardisation): Normas e padrões técnicos são estabelecidos pelas comunidades técnico-científicas, de modo a orientar a indústria no desenvolvimento e implementação de soluções tecnológicas. Uma organização internacionalmente reconhecida pela publicação de padrões é a International Organization for Standardization (ISO). No Brasil, a tradução dessas normas é feita pela Associação Brasileira de Normas Técnicas (ABNT), que produz as Normas Brasileiras NBR ISO. Dessa forma, enquanto as empresas se beneficiam de melhoria na produtividade e vendas, compartilhamento de conhecimentos e boas práticas e menores custos de implementação, a sociedade se beneficia com maior qualidade, segurança e confiança dos produtos e serviços desenvolvidos em conformidade com um determinado padrão. No contexto de IA para segurança pública, algumas normas ISO que merecem destaque são:

- ISO/IEC 27001 - sistema de gestão da segurança da informação.

- ISO/IEC 27701 - sistema de gestão da privacidade da informação.

- ISO/IEC 37122 - indicadores para cidades inteligentes (seção 15: segurança pública).

(iv) Regulações de proteção de dados aplicadas à segurança pública: O tratamento de dados em contexto de segurança pública necessita de lei específica, uma vez que este tema foge ao escopo da LGPD.75 Para isso, a Câmara dos Deputados compôs uma comissão especial de juristas para elaborar um anteprojeto de lei sobre o tratamento de dados pessoais para fins de segurança pública. Em julho de 2020 foi realizado um Seminário Internacional da Comissão de Juristas para obter sugestões e recomendações da comunidade multissetorial nacional e internacional.76 Enquanto uma lei específica sobre o tema não existe, aplica-se a LGPD ainda que de forma limitada: o art. 4º, §1º estabelece que o devido processo legal, os princípios gerais de proteção de dados pessoais e os direitos do titular de dados previstos na LGPD devem estar presentes na lei específica a ser elaborada.

(v) Implementação de sandbox regulatório: O sandbox regulatório é importante técnica regulatória que permite transparência a respeito de soluções tecnológicas desenvolvidas por entes privados ou estatais. Em um sandbox, autoridades reguladoras de um determinado setor abrem editais públicos para que entidades se candidatem para construir testagens de soluções tecnológicas sob supervisão estatal. Isto permitirá um monitoramento contínuo da tecnologia desenvolvido e eventuais riscos identificados não implicarão em sanções, desde que os avaliados obedeçam determinados parâmetros mínimos de segurança para a solução pretendida. Ao fim do período de testes, o regulador decidirá se a tecnologia poderá ou não ser distribuída no mercado. Um exemplo de sandbox regulatório é o desenvolvido pela ICO, no Reino Unido, cuja versão beta foi lançada em setembro de 2019.77

Ações Estratégicas

- Estabelecer mecanismos supervisores para monitorar o uso da IA para atividades de segurança pública.

- Estimular que os órgãos que venham a fazer uso da IA para monitoramento apresentem relatório de impacto de proteção de dados previamente à implementação.

- Disponibilizar mecanismos eficazes para que os indivíduos monitorados possam reagir à operação de vigilância.

- Apresentar relatórios com estatísticas e resultados do serviço implementado.

- Elaborar lei sobre proteção de dados aplicadas à segurança pública.

- Implementar um sandbox regulatório da privacidade e proteção de dados para sistemas de IA voltados para a segurança pública.

CONSIDERAÇÕES E PERSPECTIVAS FUTURAS

Como um instrumento norteador do Estado brasileiro para potencializar o desenvolvimento e a utilização da tecnologia com vistas a promover o avanço científico e solucionar problemas concretos do País em Inteligência Artificial, bem como seu uso consciente e ético, esta Estratégia apresenta um diagnóstico da situação atual da IA no mundo e no Brasil; destaca os desafios a serem enfrentados; oferece uma visão de futuro; e apresenta um conjunto de ações estratégicas para os nove eixos temáticos caracterizados como os pilares do documento.

Vale a pena ressaltar que a presente Estratégia contou com a colaboração do setor privado, das instituições de pesquisa, da academia e das diversas esferas do governo.

Trata-se de um documento vivo, ou seja, deve ser uma política pública constantemente acompanhada, avaliada e ajustada, pois o ritmo da evolução tecnológica da inteligência artificial tende a ser exponencial.

Nesse sentido, espera-se que a inteligência artificial seja uma tecnologia habilitadora que possa contribuir para gerar riquezas para o Brasil, melhorar a qualidade de vida dos brasileiros e garantir os direitos fundamentais dos indivíduos.

REFERÊNCIAS:

[1] OECD. Council Recommendation on Artificial Intelligence (2019). Disponível em https://www.oecd.org/going-digital/ai/principles/. Acesso em: 06/01/2021.https://www.oecd.org/going-digital/ai/principles/.

[2] OECD. Recommendation of the Council on Artificial intelligence. Disponível em: https://legalinstruments.oecd.org/en/instruments/OECD-LEGAL-0449. Acesso em: 06/01/2021.

[3] OECD. Artificial Intelligence in Society. Disponível em: https://www.oecd.org/publications/artificial-intelligence-in-society-eedfee77-en.htm. Acesso em: 06/01/2021.

[4] UNCTAD. Technology and Innovation Report 2018: harnessing frontier technologies for sustainable development, p. 55. Disponível em: https://unctad.org/en/PublicationsLibrary/tir2018_en.pdf. Acesso em: 06/01/2021.

[5] CORNELL UNIVERSITY; INSEAD and WIPO. The Global Innovation Index 2020: who will finance innovation? Ithaca, Fontainebleau, and Geneva, 2020, p 233. Disponível em: https://www.globalinnovationindex.org/gii-2019-report#. Acesso em: 06/01/2021.

[6] THE WORLD BANK. Doing Business rankings, 2020. Disponível em: https://www.doingbusiness.org/en/rankings. Acesso em: 06/01/2021.

[7] OECD. Gross domestic spending on R&D. Disponível em: https://data.oecd.org/rd/gross-domestic-spending-on-r-d.htm. Acesso em: 06/01/2021.

[8] Disponível em: http://www.mctic.gov.br/mctic/opencms/inovacao/paginas/empreendedorismo_inovador/ startup_brasil.html

[9] https://educacao.uol.com.br/disciplinas/geografia/parques-tecnologicos-parceria-entre-governo-empresas-e-universidades.htm. Acesso em: 26/01/2021.

[10] The AI STARTUP LANDSCAPE. Disponível em https://uk.rs-online.com/web/generalDisplay.html?id=did-you-know/ai-startup-landscape. Acesso em 06/01/2021.

[11]STARTUP UNIVERSAL. Country Guide Brazil. Disponível em: https://startupuniversal.com/country/brazil/. Acesso em: 06/01/2021.

[12] STATISTA. Market size and revenue comparison for artificial intelligence worldwide from 2015 to 2025. Disponível em: https://www.statista.com/statistics/941835/artificial-intelligence-market-size-revenue-comparisons/. Acesso em: 06/01/2021.

[13] CONECTA STARTUP BRASIL. Disponível em: https://conectastartupbrasil.org.br/. Acesso em 06/01/2021.

[14] STARTUP BRASIL. Disponível em: https://www.startupbrasil.org.br/. Acesso em 06/01/2021.

[15] TECH D. Disponível em: https://www.gov.br/startuppoint/pt-br/programas/tech-d. Acesso em 06/01/2021.

[16] IA2 MCTI. Disponível em: https://softex.br/iamcti/. Acesso em 06/01/2021.

[17]Vale citar, a título exemplificativo, a organização britânica sem fins lucrativos denominada "Computação na Escola" (Computing At School), que tem como missão liderar e promover a excelência em todos os funcionários envolvidos no ensino de computação nas escolas, bem como inserir a computação como matéria no currículo de todas as escolas primárias e secundárias, ao lado da matemática e das ciências naturais. Disponível em: https://www.computingatschool.org.uk/, consultado em agosto de 2020.

[18] ECLAC (2018), Data, Algorithms and Policies: Redefining the Digital World, https://repositorio.cepal.org/ bitstream/handle/11362/43515/7/S1800052_en.pdf.

[19] OCDE (2020), Latin America Economic Outlook 2020, https://www.oecd.org/publications/latin-american-economic-outlook-20725140.htm.

[20] CEPAL (2019), Observatório Regional de Banda Larga (base de dados), Comissão Econômica para a América Latina e o Caribe, Santiago, www.cepal.org/es/observatorio‑regional‑de‑banda‑ancha.

[21] SIMÕES, Daniela. Conheça as profissões que não serão substituídas por robôs no futuro. Época Negócios, Tecnologia, 04 set 2018. Disponível em: https://epocanegocios.globo.com/Tecnologia/noticia/2018/09/conheca-profissoes-que-nao-serao-substituidas-por-robos-no-futuro.html. Acesso em: 06/01/2021.

[22] OECD. OECD Council Recommendation on Artificial Intelligence. Disponível em https://www.oecd.org/going-digital/ai/principles/. Acesso em 06/01/2021.

[23] INTERNATIONAL ORGANIZATIONS. G20 Ministerial Statement on Trade and Digital Economy. Disponível em https://www.mofa.go.jp/files/000486596.pdf. Acesso em 06/012021.https://www.mofa.go.jp/files/000486596.pdf.

[24] EUROPEAN COMISSION. Ethics. Disponível em: https://ec.europa.eu/digital-single-market/en/news/ethics-guidelines for -trustworthy AI. Disponível em: https://ec.europa.eu/digital-single-market/en/news/ethics-guidelines-trustworthy-ai. Acesso em 06/01/2021-ai.

[25] Disponível em: http://www.intgovforum.org/multilingual/sites/default/files/webform/toronto-declaration-final.pdf, consultado em 09 de dezembro de 2019.

[26] Disponível em: https://eur-lex.europa.eu/legal-content/PT/TXT/HTML/?uri=CELEX:52018DC0237&from=EN, consultado em 09 de dezembro de 2019.

[27] Disponível em: https://thepublicvoice.org/ai-universal-guidelines/, consultado em 09 de dezembro de 2019.

[28] Disponível em: https://icdppc.org/wp-content/uploads/2019/04/20180922_ICDPPC-40th_AI-Declaration_ADOPTED.pdf, consultado em 09 de dezembro de 2019.

[29] Disponível em: https://futureoflife.org/ai-principles/, consultado em 09 de dezembro de 2019.

[30] Disponível em: https://www.wipo.int/about-ip/en/artificial_intelligence/call_for_comments/pdf/ ind_izquierdo.pdf.

[31] Disponível em: http://www.mctic.gov.br/mctic/export/sites/institucional/arquivos/ASCOM_PUBLICACOES/ estrategia_digital.pdf.

[32] Disponível em: https://www.gov.br/governodigital/pt-br/EGD2020.

[33] Disponível em: http://www.mctic.gov.br/mctic/opencms/inovacao/paginas/empreendedorismo_inovador/ startup_brasil.html.

[34] Disponível em: https://softex.br/iamcti/.

[35] Disponível em: http://www.mctic.gov.br/mctic/opencms/inovacao/paginas/politicasDigitais/internet_ coisas/_iot/Plano_Nacional_de_IoT.html?searchRef=plano%20nacional%20de%20iot& tipoBusca=expressaoExata.

[36] Disponível em: http://educacaoconectada.mec.gov.br/o-programa/sobre.

[37] Art. 20, caput da LGPD.

[38] Art. 20, §1º, da LGPD.

[39] Art. 20, §2º, da LGPD.

[40] Disponível em: https://www.mofa.go.jp/files/000486596.pdf, consultado em 09 de dezembro de 2019.

[41] Disponível em: http://dados.gov.br/.

[42] Disponível em: https://www.gov.br/governodigital/pt-br/software-publico.

[43] Disponível em: https://unesdoc.unesco.org/ark:/48223/pf0000368303, consultado em 09 de dezembro de 2019.

[44] Disponível em: http://basenacionalcomum.mec.gov.br/, consultado em 09 de dezembro de 2019.

[45] Disponível em: https://exame.com/tecnologia/vamos-perder-a-batalha-da-inteligencia-artificial-diz-ceo-da-microsoft-br/.

[46] UNESCO. Disponível em: https://ieducacao.ceie-br.org/literaciadigital/.

[47] Disponível em: https://www.oxfordmartin.ox.ac.uk/downloads/academic/The_Future_of_Employment.pdf.

[48] Disponível em: https://www.weforum.org/reports/the-global-gender-gap-report-2018, consultado em 09 de dezembro de 2019.

[49] Disponível em: https://unesdoc.unesco.org/ark:/48223/pf0000367416.page=7, consultado em 09 de dezembro de 2019.

[50] Disponível em: https://kstatic.googleusercontent.com/files/25badfc6b6d1b33f3b87372ff7545d79261520d 821e6ee9a82c4ab2de42a01216be2156bc5a60ae3337ffe7176d90b8b2b3000891ac6e516a 650ecebf0e3f866.

[51] Disponível em: https://diversity.fb.com/read-report/.

[52] Disponível em: https://query.prod.cms.rt.microsoft.com/cms/api/am/binary/RE4aqv1.

[53] Disponível em: https://jobs.netflix.com/diversity.

[54] Disponível em: https://www.oecd.org/employment/Employment-Outlook-2019-Highlight-EN.pdf, consultado em 09 de dezembro de 2019.

[55] Disponível em: http://www.ipea.gov.br/portal/images/stories/PDFs/TDs/190329_td_2457.pdf.

[56] Disponível em: https://link.estadao.com.br/noticias/inovacao,desemprego-pode-subir-ate-4-pontos-percentuais-com-adocao-de-inteligencia-artificial-diz-fg,70002833283.

[57] Disponível em: https://www.wipo.int/publications/en/details.jsp?id=4386, consultado em 09 de dezembro de 2019.

[58] Disponível em: https://revistapesquisa.fapesp.br/terreno-fertil-para-a-inteligencia-artificial/#&gid=1&pid=1.

[59] Disponível em: https://ico.org.uk/for-organisations/the-guide-to-the-sandbox/.

[60]Disponível em: ttps://www.marketsandmarkets.com/Market-Reports/conversational-ai-market-49043506.html.

[61] Disponível em: http://br.idclatin.com/releases/news.aspx?id=2462, consultado em 09 de dezembro de 2019.

[62] Disponível em: https://source.wustl.edu/2019/05/machine-learning-reduces-language-barriers-in-global-trade-research-shows/.

[63] Cfr. Berryhill, J., et al. (2019), "Hello, World: Artificial intelligence and its use in the public sector", OECD Working Papers on Public Governance, No. 36, OECD Publishing, Paris, p. 73 ss. Disponível em https://doi.org/10.1787/726fd39d-en, consultado em 09 de dezembro de 2019.

[64] Disponível em: https://www.oecd.org/gov/open-government-data-report-9789264305847-en.htm.

[65] Disponível em: https://carnegieendowment.org/2019/09/17/global-expansion-of-ai-surveillance-pub-79847.

[66] Disponível em: https://igarape.org.br/infografico-reconhecimento-facial-no-brasil/.

[67] Disponível em: https://igarape.org.br/videomonitoramento-webreport.

[68] Disponível em: https://nvlpubs.nist.gov/nistpubs/ir/2019/NIST.IR.8280.pdf.

[69] Disponível em: http://observatorioseguranca.com.br/wp-content/uploads/2019/11/1relatoriorede.pdf p. 69.

[70] Disponível em: http://proceedings.mlr.press/v81/buolamwini18a/buolamwini18a.pdf.

[71] Disponível em: https://www.bbc.com/portuguese/brasil-37677421.

[72] No Carnaval de 2019, durante os quatro dias da Micareta de Feira de Santana, na Bahia, o SRF capturou os rostos de mais de 1,3 milhões de pessoas, gerando 903 alertas, o que resultou no cumprimento de 18 mandados e na prisão de 15 pessoas. Isto significa que, de todos os alertas emitidos, menos de 4% resultou em mandados ou prisões. Ademais, a proporção entre alertas e rostos identificados é de 6 para 10000, ou seja, a cada 10000 rostos identificados apenas 6 geraram alertas. Disponível em: http://observatorioseguranca.com.br/wp-content/uploads/2019/11/1relatoriorede.pdf p. 68.

[73] Disponível em: https://ico.org.uk/media/about-the-ico/documents/2616185/live-frt-law-enforcement-report-20191031.pdf.

[74] Disponível em: https://ico.org.uk/media/about-the-ico/documents/2616185/live-frt-law-enforcement-report-20191031.pdf.

[75] BRASIL. Lei nº 13.853, de 8 de julho de 2019, Lei Geral de Proteção de Dados. Art. 4º, III, alínea a. Diário Oficial da República Federativa do Brasil, Brasília, 9 jul 2019. Disponível: http://www.planalto.gov.br/ccivil_03/_Ato2019-2022/2019/Lei/L13853.htm#art1. Acesso em: 06/01/2021.

[76] Disponível em: https://www2.camara.leg.br/atividade-legislativa/comissoes/grupos-de-trabalho/56a-legislatura/comissao-de-juristas-dados-pessoais-seguranca-publica/reunioes/seminario-internacional-da-comissao-de-juristas.

[77] Disponível em: https://ico.org.uk/for-organisations/the-guide-to-the-sandbox/.

 

OS TEXTOS AQUI PUBLICADOS NÃO SUBSTITUEM AS RESPECTIVAS PUBLICAÇÕES NO D.O.U.