Peck News: Direito Digital Aplicado


A corrida é com os Robôs

Dr. Leandro Bissoli*

Durante séculos os principais impulsionadores do crescimento econômico foram as inovações tecnológicas como a máquina vapor, o motor à combustão, a eletricidade, os computadores e a internet.

Em nossa Era, a tecnologia que desponta de modo disruptiva é a Inteligência Artificial e especialmente o aprendizado de máquina (machine learning), onde o software consegue “aprender” pela experiência, melhora o seu desempenho sem a necessidade de humanos programarem explicitamente suas atividades.

O desenvolvimento de sistemas inteligentes que aprendem sozinho a realizar as suas atividades já é uma realidade. Eles são os Robôs. Eles já aprendem a jogar e ganhar de profissionais de tabuleiros (como no projeto da DeepMind & Go[1]) bem como detectam e impedem acessos não autorizados em sistemas seguros, lavagem de dinheiro ou aprimoram continuamente o reconhecimento da voz e imagens.

Como a história atesta, a inovação tecnológica em si não é garantia de um amplo progresso social. Neste sentido, os impactos dos Robôs na Sociedade serão cada vez maiores, principalmente se mantida em torno de superpotências digitais. A Tecnologia não é neutra e os seus engenheiros deverão assumir responsabilidades pelo impacto ético e social de seus projetos.

Muitos temem que os Robôs tragam uma alta taxa de desemprego. Pesquisadores da Universidade de Oxford[2] justificam este temor ao prever que aproximadamente 47% dos postos de trabalhos serão automatizados até 2033. Na mesma esteira em 2017, a consultoria PwC estimou que os Robôs assumirão 30% dos trabalhos no Reino Unido até 2030 e o Bank of England estimou 15 milhões de trabalhos em risco.

Além do desemprego, cresce apreensões sobre a viabilidade dos sistemas de seguridade social e das contribuições e impostos, criando assim uma maior desigualdade na distribuição da riqueza e do poder.

No entanto, a longo prazo, esta automação deverá levar a um aumento da produtividade e alocar a força de trabalho para atividades mais essenciais. Quanto mais habilidades a pessoa tiver com os Robôs, maior será a sua remuneração.

Para entender melhor como a mão de obra humana poderá será substituída, Kevin Kelly, autor da obra Inevitável, traz as seguintes categorias do trabalho executado por um humano x Robô:

  • Trabalhos que os humanos fazem, mas os Robôs podem fazer melhor;
  • Trabalhos que os humanos não fazem, mas os Robôs podem fazer;
  • Trabalhos que não sabíamos que existiriam um dia;
  • Trabalhos que só os humanos podem fazer… ainda.

Nesta toada de preocupações, a Comunidade Europeia, seguindo os trabalhos dos Estados Unidos, Japão, China e a Coreia do Sul, busca a regulamentação da Inteligência Artificial e Robótica de modo célere, pois alguns de seus Estados-Membros já começaram a se posicionar sobre alterações legais em seu uso.

A Proposta de Resolução do Parlamento Europeu (2015/2103(INL))[3] busca estabelecer princípios éticos básicos ao projetar, programar e utilizar os Robôs (e sua Inteligência Artificial), bem como alinhar esses princípios aos regulamentos e códigos de conduta europeus. O foco principal da Resolução é a responsabilidade civil e as garantias dos usuários desta tecnologia.

É necessário que se estabeleça um conjunto de normas que definam, em especial, a responsabilidade e a ética sobre os Robôs.

Assim, a Comissão apontou na Resolução algumas considerações e desafios para delimitar as responsabilidades cíveis. São elas:

  • Robôs conseguem além de realizar atividades repetitivas dos humanos, desenvolver habilidades autônomas[4] e cognitivas (aprender e tomar decisões independentes);
  • A autonomia de um robô é algo puramente tecnológica ou possui qual grau de dependência com interações externas de seu ambiente;
  • Quanto mais autônomos os Robôs, quais serão as responsabilidades (total ou parcial) dos seus fabricantes, engenheiros e usuários. Será possível responsabilizar um Robô visto que pode ser dotado de habilidades de aprendizagem de máquina, tornando imprevisível o seu comportamento decorrente da sua experiência e interação com o ambiente?;
  • Que ente jurídico será um Robô? Uma simples pessoa, um coletivo, um animal ou apenas um objeto? Será necessário a criação de uma nova pessoa jurídica? Esta resposta é fundamental para atribuir direitos e deveres, incluindo a responsabilidade por danos gerados;
  • A legislação atual não responsabiliza os Robôs por ações ou omissões que geram danos a terceiros. Responsabilidades recaem ao fabricante, proprietário ou usuário, onde cada agente deveria prever e evitar comportamentos indevidos do robô;
  • Se o Robô poderá decidir de forma autônoma, como terceiros poderão pleitear reparações financeiras de danos causados por essas decisões?;
  • Se os Robôs irão negociar condições contratuais e celebrar contratos, como aplicar as leis tradicionais no que diz respeito as responsabilidades contratuais?;

Para nortear as respostas, em primeiro lugar, a Resolução buscou estabelecer uma definição comum sobre Robôs autónomos inteligentes (“Robôs avançados”), que deverá possuir as seguintes características:

  • A capacidade de adquirir autonomia por meio de sensores e/ou por meio da troca de dados com o seu ambiente (interconectividade) e pela análise destes dados;
  • A capacidade de aprender com a experiência e com a interação;
  • A forma do suporte físico do Robô;
  • A capacidade de adaptar o seu comportamento e as suas ações ao ambiente em que se encontra.

Deverá ser constituído uma nova Agência Europeia para a Robótica e a Inteligência Artificial, responsável pela implementação de um registro de Robôs avançados para efeitos de rastreabilidade e uma Comissão de Investigações Éticas.

Em relação a responsabilidade civil, a Resolução dispõe que: (i) as indenizações não deverão ser limitadas por não terem sidos provocadas por um agente não humano; (ii) a regra é a responsabilidade objetiva pelos danos ocasionados pelos robôs, basta uma prova do nexo causal; (iii) obrigar o produtor do robô contratar seguro especifico.

As questões ligadas a proteção de dados pessoais e privacidade deverão ser observadas, uma vez que os Robôs cada vez mais se comunicarão entre si sem a intervenção ou mesmo a noção dos humanos.

As empresas deverão divulgar o uso e a quantidade de Robôs e de soluções relacionadas à inteligência artificial para cálculo de contribuições para seguridade social (uso de robôs em vez de humanos) e faturamento.

Visando estabelecer os princípios éticos e atender as necessidades dos Estados-Membros, anexo à Resolução também foi apresentada a Carta da Robótica, que estabelece as bases para a identificação, supervisão e cumprimento dos princípios éticos fundamentais desde a concepção ao uso do Robô.

A Carta é composta por um Código de Conduta para Engenheiros, um Código de Conduta para as Comissões de Ética em Robótica e licenças tanto para os Criadores quanto aos Utilizadores de Robôs. Cabe destacar que a Resolução aponta que responsabilidades pelos impactos sociais, ambientais e na saúde humana que a robótica possa ter nas gerações presentes ou futuras são dos engenheiros de robótica.

Neste sentido de estabelecer compromissos e responsabilidades, Alphabet Group, holding responsável pela empresa de Inteligência Artificial DeepMind, em novembro de 2017 visando supervisionar o desenvolvimento responsável de seus sistemas de aprendizado de máquina estabeleceu um Conselho denominado “Ética e Sociedade”[5]. A este Conselho foi incumbido dois grandes objetivos: (i) apoiar os desenvolvedores a implementar ética em seus sistemas e (ii) a conscientizar a sociedade sobre os potenciais impactos destes sistemas, sejam eles bons ou ruins. Ainda em sua Carta de Constituição, destacamos,

O desenvolvimento de sistemas de inteligências artificiais sem verificação e de livre mercado pode levar a um número de conclusões sociais indesejáveis, de bots com predisposições preconceituosas de raça, gênero e orientação sexual, até máquinas mal programadas que levam a erros catastróficos. Convenientemente, o novo conselho ético da DeepMind diz que aplicações de IA “devem permanecer sob significante controle humano” e ser usadas para “propósitos de benefício social”.

Para atingir tal objetivo, o Comitê estabeleceu cinco princípios que visam garantir o rigor, transparência e responsabilidade social dos trabalhos executados, sendo:

  • Benefício social: Robôs devem ser desenvolvidos de forma a servir o bem social e ambiental global, ajudando a construir sociedades mais justas e mais iguais;
  • Desenvolvimento baseado em evidências: uso de pesquisas rigorosas, baseadas em evidências que exploram as oportunidades e os desafios colocados por essas tecnologias;
  • Transparente e aberto: transparência nos financiamentos e subsídios das pesquisas. Os trabalhos acadêmicos publicados pelo Comitê de Ética e Sociedade devem ser disponibilizados à Sociedade;
  • Diversidade e domínios interdisciplinares: envolver diferentes disciplinas para incluir pontos de vista diversos no desenvolvimento dos Robôs;
  • Colaborativo e inclusivo: Estabelece a colaboração contínua entre os pesquisadores e as pessoas afetadas pelos Robôs.

O renomado Instituto Future of Life (FLI)[6], cuja missão é estimular e apoiar pesquisas para salvaguardar a vida e desenvolver visões otimistas do futuro, também estabeleceu seu conjunto de princípios[7] que visam assegurar a soberania da humanidade. Em relação aos princípios ligados ao desenvolvimento e uso ético dos Robôs, temos:

  • Segurança: os Robôs devem ser seguros e seguros ao longo de sua vida útil, e de forma verificável, quando aplicável e viável;
  • Transparência de falha: se um Robô causar danos, deve ser possível verificar o porquê;
  • Transparência judiciária: qualquer envolvimento de um Robô na tomada de decisões judiciais deve fornecer uma explicação satisfatória e auditável por uma autoridade humana competente;
  • Responsabilidade: designers e construtores dos Robôs são partes interessadas nas implicações morais de seu uso, uso indevido e ações, com a responsabilidade e a oportunidade de moldar essas implicações;
  • Alinhado aos valores humanos: os Robôs altamente autônomos devem ser projetados para que seus objetivos e comportamentos possam ser assegurados para se alinhar com os valores humanos ao longo de sua operação;
  • Valores humanos: os Robôs devem ser projetados e operados de forma a serem compatíveis com ideais de dignidade humana, direitos, liberdades e diversidade cultural;
  • Privacidade pessoal: as pessoas devem ter o direito de acessar, gerenciar e controlar os dados que geram, dado o poder dos Robôs para analisar e utilizar esses dados;
  • Liberdade e Privacidade: os Robôs que fazem uso de dados pessoais não devem restringir injustificadamente a liberdade real ou percebida das pessoas;
  • Benefício compartilhado: os Robôs devem beneficiar e capacitar o maior número de pessoas possível;
  • Prosperidade compartilhada: a prosperidade econômica criada com o uso dos Robôs deve ser compartilhada de forma ampla, para beneficiar toda a humanidade;
  • Controle humano: os seres humanos devem escolher como e se delegam decisões aos Robôs, para atingir objetivos humanos escolhidos;
  • Não-subversão: o poder conferido pelo controle de sistemas dos Robôs altamente avançados deve respeitar e melhorar, em vez de subverter, os processos sociais e cívicos nos quais depende a saúde da Sociedade;
  • Corrida Armamentista: uma corrida armamentista em armas autônomas letais deve ser evitada.

Enquanto as discussões avançam no Mundo afora, no Brasil os desafios são bem maiores. Pesquisa recente apresentada pela consultoria Accenture[8] apontou que além da perda de investimentos nos últimos 2 anos, principalmente devido à crise econômica, temos uma baixa qualidade do sistema educacional e poucas instituições Científicas que pesquisam o tema.

As empresas brasileiras estão testando o uso de Robôs, mas sem levar a lugar algum. Ou seja, a implementação de Robôs ainda é assunto apenas da TI das Empresas e não da Direção que necessita rever suas estratégias de negócio.

Em nosso Parlamento, temos até o momento o pedido e aprovação para criação de uma Subcomissão Especial, no âmbito da Comissão de Ciência e Tecnologia, Comunicação e Informática (REQ 278/2017 CCTCI[9]), destinada a discutir tecnologias emergentes, desenvolvimento industrial e tecnológico e os seus impactos no mercado de trabalho e em nossas vidas.

É fundamental e bem-vinda tal Subcomissão. Nossos legisladores precisam se debruçar sobre esses temas e discutir a adequação da nossa legislação aos desafios impostos ao desenvolvimento econômico e social.

De todo modo, esteja certo que dentro de algumas décadas os Robôs ultrapassarão a nossa capacidade humana de modo que, mesmo que não preparados, colocaremos em prova a nossa capacidade de controle, colocando assim a nossa própria sobrevivência em risco.

Temos à nossa frente uma grande oportunidade de crescimento baseado nesta revolução tecnológica. Se agirmos rápido na promoção de Políticas Públicas para atrair investimentos e engajar e capacitar os setores públicos e privados, colocaremos o Brasil em um contexto internacional de desenvolvimento de Robôs junto a outros países que já lideraram a inovação e a economia digital.

A sua empresa já está buscando novas habilidades ou está investindo em Robôs? Conforme pesquisas apresentadas ao longo deste artigo, os Robôs já deixam de ser tendência e se tornaram uma realidade e “breve” uma necessidade neste cenário de transformação digital.

A nossa corrida não é contra os Robôs, mas com os Robôs.

[1] https://deepmind.com/research/alphago/
[2] http://www.telegraph.co.uk/news/2017/09/27/jobs-risk-automation-according-oxford-university-one/
[3] http://www.europarl.europa.eu/sides/getDoc.do?pubRef=-//EP//NONSGML%2BCOMPARL%2BPE-582.443%2B01%2BDOC%2BPDF%2BV0//PT
[4] Autonomia de um robô pode ser definida como a capacidade de tomar decisões e de as aplicar no mundo exterior.
[5] https://deepmind.com/applied/deepmind-ethics-society/
[6] https://futureoflife.org/
[7] https://futureoflife.org/ai-principles/
[8] https://www.accenture.com/br-pt/insight-artificial-intelligence-south-america
[9] http://www.camara.gov.br/proposicoesWeb/fichadetramitacao?idProposicao=2165940

*Dr. Leandro Bissoli é advogado especialista em Direito Digital, graduado pela Faculdade de São Bernardo do Campo e pós-graduado em Negociações Econômicas Internacionais pelo Programa San Tiago Dantas. Possui especialização em Política Comercial Internacional pela Fundação Getúlio Vargas e em Cooperação Internacional ao Desenvolvimento pela Universidade de São Paulo. Sócio do Escritório Patricia Peck Pinheiro Advogados, possui certificações Sun Microsystems nos cursos SL-110, SL-275, OO-226, SL-285 e SL-314; ICS Professional através da Impacta Certified Specialist; Cutting Edge Hacking Techniques (GHTQ) e certificado pelo Global Information Assurance Certification (GIAC), arquitetura e gerenciamento de bases de dados como MSSQL, MYSQL e ORACLE. É membro do HTCIA – International High Technology Crime Investigation Association e do Instituto Brasileiro de Direito Digital (IBDDIG), e professor da pós-graduação em Gestão da Inovação e Direito Digital da FIA. Coautor do audiolivro “Eleições Digitais” e dos livros “Direito Digital Aplicado” e “Direito Digital Aplicado 2.0”.

 

`