O uso de Inteligência Artificial na Administração Pública

 - O uso de Inteligência Artificial na Administração Pública 

O objetivo primordial da Administração Pública é o de zelar pelo interesse público. A Administração Pública, no exercício das suas funções, deve garantir que as suas decisões, desenvolvidas nas mais variadas áreas da vida humana, estejam voltadas para aquilo que a lei ou a própria Administração consideram ser de maior importância para os seus cidadãos. Para concretizar este seu objetivo, a Administração Pública deve seguir uma série de princípios que, quando combinados, garantam uma boa atuação administrativa. 

 

Os princípios fundamentais da atuação administrativa são uma realidade que permite um controlo mais adequado do poder discricionário da Administração pública, uma vez que estabelecem cláusulas gerais que permitem conhecer critérios de atuação para esta, assim como fornecer razões de verificação do cumprimento da lei.  

 

Tais princípios não indicam apenas os parâmetros a ser seguidos pela Administração, como também dão forma às suas decisões. 

 

De modo a prosseguir de forma mais eficaz estes princípios, em 2015, o legislador do CPA fez uma codificação de princípios (artigos 3 a 19), pegando em princípio já existentes e em outros novos, dando-lhes consagração legislativa. Trata-se, portanto, de um conjunto amplo de princípios obrigatórios, que ainda assim não esgotam os princípios que vinculam a Administração Pública, ou seja, é uma codificação meramente exemplificativa e não taxativa. 

 

Ora, a utilização de sistemas de Inteligência artificial também deve seguir estes mesmos princípios, caso contrário, a própria lógica de funcionamento da Administração Pública estaria em risco. 

 

Assim sendo, o presente trabalho tem como objetivo elaborar uma breve exposição do olhar crítico e analítico relativo ao uso da inteligência artificial na atuação da Administração Pública. 

 

- Noção de Inteligência artificial 

A inteligência artificial consiste numa ciência da computação em que as máquinas atuam através de algoritmos, desempenhando as mais diversas tarefas. Esta materializa-se como um mecanismo de auxílio, ou até de substituição, de atividades humanas, às quais se dão de forma repetitiva e quotidiana. Neste sentido, o uso de tal mecanismo vem se tornando cada vez mais utilizado em diversos ramos, atividades e contextos, com o intuito de trazer facilidade e agilidade para algumas tarefas. 

 

Durante muito tempo o Direito não se preocupou com as novas tecnologias ou com a regulação da atividade informática enquanto modalidade de atuação administrativa. No entanto, atualmente, nenhuma decisão administrativa é tomada sem computador, e algumas são mesmo produzidas por computador sem intervenção imediata de uma atividade humana. 

 

Deste modo, a utilização de mecanismos de IA na Administração Pública tem-se tornado cada vez mais evidente e questionado nos atos da administração, sendo clara a preocupação frente às diretrizes dos princípios. 

 

- Análise dos princípios que regem a Administração Pública 

Os princípios aplicáveis à administração electrónica, consagrado no artigo 14 do CPA, são princípios relativamente novos, que só surgiram no nosso ordenamento jurídico a partir de 2015, com a revisão do CPA. 

 

Dos seus n1 e 2 é possível retirar um conjunto de princípios aos quais a AP se encontra vinculada, desde logo o princípio da boa administração (artigo 5 do CPA), o princípio da administração aberta (artigo 17 do CPA), o princípio da igualdade (artigo 6 do CPA), o princípio da proteção dos dados pessoais (artigo 18 do CPA), entre outros. 

 

O seu n3 estipula que a utilização de meios digitais e electrónicos está sujeita ao conjunto amplo e diversificado de limites e garantias previstos na CRP. 

 

O n4 revela alguma preocupação em garantir a inexistência de desigualdades no acesso devido à elevada taxa de “analfabetismo” digital. O n5 auxilia-nos nesta tarefa, garantindo a não discriminação baseada na não utilização dos meios electrónicos (salvo em caso de diferenciação positiva, tal como estabelecido no n6). 

 

Deste modo, é possível constatar que o objetivo primordial deste princípio é promover a eficiência e a transparência administrativas e a proximidade com os interessados, com a obrigação de garantir a disponibilidade, o acesso, a integridade, a autenticidade, a confidencialidade, a conservação e a segurança da informação no uso dos sistemas de IA. 

 

Apesar deste esforço de modernização por parte do legislador ao consagrar este princípio como um dos princípios fundamentais de atuação da AP, esta norma é ainda bastante limitada, estabelecendo poucos critérios para a sua eficaz aplicação. Deste modo, pretenderei fazer uma análise um pouco mais aprofundada de cada princípio a que o artigo 14 remete.

 

- Princípio da prossecução do interesse público e da proteção dos direitos e interesses dos cidadãos 

O artigo 4 do CPA consagra dois princípios- O princípio da prossecução do interesse público e o princípio da proteção dos direitos e interesses dos cidadãos. Ambos obrigam a Administração a prosseguir o interesse público, sendo os fins desta apenas aqueles que decorrem da lei (o respectivo princípio da legalidade consagrado no artigo 3 do CPA). 

Por outro lado, a AP está ainda vinculada diretamente pelos direitos fundamentais dos seus cidadãos. 

 

Como é de fácil entendimento, a utilização de sistemas de IA no setor administrativo tem um grande potencial para promover as necessidades coletivas, assim como também pode comprometer direitos fundamentais dos cidadãos, desde logo a sua privacidade. Assim sendo, é essencial que o legislador regule de forma cuidadosa a utilização destes sistemas. 

 

- Princípio da boa administração 

O princípio da boa administração, consagrado no artigo 5 do CPA, é um princípio que decorre do direito constitucional europeu, consagrada na Carta de direitos fundamentais da União Europeia. 

 

De acordo com o n1 do presente artigo, a Administração deve-se pautar por critérios de eficiência, economicidade e celeridade. Ora, o uso de IA tem o potencial de diminuir os gastos dos serviços prestados à população, desde logo porque já não seria necessário ter tantos funcionários a trabalhar, assim como torna as suas decisões/atuações mais céleres, ultrapassando a escassez de meios materiais e humanos da AP e o excesso de formalidades, que fazem com que as decisões sejam mais morosas e ineficientes. 

 

Assim sendo, a IA poderá autonomizar processos, reduzir os custos e agilizar a tomadas das decisões, levando a que haja uma prestação de serviços mais rápida e eficaz para os cidadãos. 

 

Já o seu n2 consagra um princípio organizativo, obrigando a que a AP se organize de modo a aproximar os serviços das populações e de forma não burocratizada. Ora, o uso de IA poderá suprimir as distâncias territoriais, bastando que esta tenha acesso à rede, tornando os serviços mais acessíveis (não sendo necessário, por exemplo, o deslocamento para obter certas informações), personalizados e eficientes. 

 

- Princípio da igualdade 

O princípio da igualdade (consagrado no artigo 6 do CPA e no artigo 13 da CRP), impõe um dever de não discriminação à AP nas suas relações com os particulares. Os cidadãos devem ser tratados todos da mesma forma. A utilização de IA deverá, portanto, assegurar que as decisões administrativas sejam baseadas em critérios objetivos e justos. 

 

Embora a sua utilização, por parte da AP, possa promover tais objectivos, em sentido contrário, também poderá acarretar alguns pontos inviáveis ou desfavoráveis à sua utilização. A utilização de IA tem também um potencial discriminatório e desigual das decisões administrativas, uma vez que a IA, como referido supra, alimenta-se de algoritmos que podem levar a decisões discriminatórias ou injustas, especialmente se não forem devidamente regulamentadas e monitorizadas. 

 

Deste logo, se o uso destas tecnologias não for passível de ser acedido por toda a população, poderá gerar resultados desastrosos, estimulando ainda mais a desigualdade e a segregação. Assim sendo, ninguém poderá ser discriminado por não possuir ou não saber lidar com estes novos meios electrónicos, pelo que deverá, por exemplo, disponibilizar meios electrónicos adequados e auxiliar os cidadãos no exercício dos seus direitos, evitando que a falta de conhecimento ou recursos financeiros os prejudique. 

 

A verdade é que se nada for feito (regulamentado), o uso de tais tecnologias poderá aprofundar ainda mais a exclusão digital, ao invés de contribuir para a difusão do uso da informática e o amplo acesso aos recursos e serviços prestados. 

 

- Princípio da justiça e da razoabilidade 

O artigo 8 do CPA consagra dois princípios- A justiça e a razoabilidade, exigindo que as decisões administrativas sejam baseadas em critérios justos e razoáveis. Ora, o uso de IA poderá contribuir para reduzir os erros humanos na tomada de decisões administrativas, fornecendo análises baseadas em dados objetivos e padronizados e, consequentemente, decisões mais justas e razoáveis. 

 

- Princípio da imparcialidade 

O princípio da imparcialidade, consagrado no artigo 9 do CPA, obriga os titulares dos cargos públicos a afastarem-se de decisões em que sejam tomadas deliberações públicas que os possam afetar ou em que sejam especialmente interessados. Por outras palavras, ninguém pode ser decisor em causa própria, não podendo decidir em algo que lhes diga diretamente respeito, devendo assegurar a neutralidade e a imparcialidade das suas decisões. 

 

Não obstante o legislador, de modo a garantir esta imparcialidade, ter estabelecido mecanismos preventivos (os casos de impedimento e os casos de escusa e suspeição, artigos 69 e 73, respetivamente, do CPA), nenhum humano é capaz de, verdadeiramente, atingir a plena neutralidade, uma vez que certas tendências sempre estarão atreladas a qualquer atividade que seja realizada. 

 

Perante isto, diríamos que, à partida, o uso de IA promoveria uma maior imparcialidade por parte da AP, no entanto, tal não é verdadeiro. Como referido supra, a IA é composta por uma base de dados atribuída pelos seus criadores de modo a que esta exerça as suas funções, desde as mais básicas às mais complexas. Esta base de dados é, portanto, fruto de um trabalho humano que, por natureza, não é imparcial. 

 

- Princípio da colaboração com os particulares

O princípio da colaboração dos particulares, consagrado no artigo 11 do CPA, assenta numa dupla reciprocidade, em que não apenas os particulares devem colaborar com a Administração, como a Administração também deve colaborar com os particulares, fornecendo informações, esclarecimentos e apoio quando necessário. Este princípio não apenas fomenta a transparência e a equidade na AP, como consolida a relação de confiança entre os cidadãos e o Estado. 

 

Ora, o uso de sistemas de IA, como já referido, facilita a comunicação e a interação com a AP, desde logo através de plataformas que forneçam informação, recolham feedbacks, sugestões ou até mesmo iniciativas, autonomizando os processos de colaboração. Todos estes aspectos contribuem para tornar a atividade administrativa mais participada e desburocratizada. 

 

- Princípio da participação 

O princípio da participação, consagrado no artigo 12 do CPA e nos artigos 267, n1 e 268 da CRP, impõe à AP a participação dos particulares na tomada de decisões administrativas. 

Como é de fácil entendimento, pelos exemplos referidos supra, o uso da IA também contribui, em grande parte, para promover a participação dos cidadãos. No entanto, poderá levantar questões quanto, por exemplo, ao direito de audiência dos interessados antes da tomada de decisões que lhes digam diretamente respeito, uma vez que, como já referido, nem todos conseguem ter acesso a este tipo de tecnologias, podendo conduzir a que este direito seja deteriorado. 

 

- Princípio da decisão 

O princípio da decisão, consagrado no artigo 13 do CPA, impõe que a AP se pronuncie sobre todos os assuntos da sua competência que lhe sejam apresentados, obrigando-a a dar resposta célere aos particulares (embora este dever de decisão tenha algumas exceções). 

 

Neste processo de decisão, apesar da IA não possuir capacidade de conhecimento, aprendizado e formulação de respostas de forma intuitiva (característica essencial do ser humano), que seria essencial para o exercício de poderes discricionários, a IA poderá, mesmo assim, auxiliar, no tratamento de informações no quadro do exercício de poderes vinculados, com o conteúdo do ato previamente determinado por lei. Ora, uma vez que todas as decisões têm tanto aspectos vinculados como discricionários, o uso destes sistemas de IA poderão suscitar algumas questões, desde logo quanto ao dever de fundamentação dos atos.

 

- Princípio da responsabilidade 

O princípio da responsabilidade, consagrado no artigo 16 do CPA, dita que a Administração responde pelos danos causados no exercício da sua atividade. 

 

Com o desenvolvimento dos sistemas de inteligência artificial, começaram a surgir questões relativas à imputabilidade da responsabilidade civil, mais concretamente o de saber que entidades devem ser responsabilizadas caso uma decisão administrativa padeça de vícios e cause efeitos lesivos na esfera jurídica de um particular.  

 

As regras gerais sobre responsabilidade civil, aplicadas em casos de danos causados por ações humanas, muitas vezes se mostram inadequadas quando se trata de lidar com os danos provocados por sistemas de inteligência artificial. 

 

Em primeiro lugar, os sistemas de IA são bastante complexos, tornando muito difícil atribuir responsabilidade a um agente específico em caso de dano. As regras tradicionais de responsabilidade civil geralmente pressupõem uma relação causal clara entre a ação de um agente humano e o dano resultante, o que pode ser problemático quando se lida com a complexidade algorítmica.

 

Em segundo lugar, ao contrário das ações humanas, em que a responsabilidade civil é atribuída a um indivíduo ou grupo de indivíduos, a responsabilidade por danos causados por sistemas de IA pode ser distribuída entre desenvolvedores, proprietários, operadores e até mesmo aos administradores, o que complica a aplicação das normas convencionais de responsabilidade civil. 

 

Em terceiro lugar, as pessoas humanas agem com intenção e consciência, o que os sistemas de IA não possuem, pelo que também levanta a questão de saber como aplicar o regime da responsabilidade quando não há intenção maliciosa ou consciência de ação prejudicial.

 

Em todos estes casos é difícil perceber concretamente qual a origem do erro, dificultando a tarefa de imputação do erro a um concreto agente administrativo. É necessário criar regulamentação que consiga suprimir tais problemas. 

 

- Princípio da administração aberta 

O princípio da administração aberta, consagrado no artigo 17 do CPA, dita que a AP deve ser aberta, atuando de forma clara, acessível e compreensível para os cidadãos, estando ao serviço de toda a população e prestando todas as informações necessárias a estes. 

 

Assim, as decisões têm que ser transparentes e explicadas aos que são por elas afetados de forma direta ou indireta. Sem estas informações, não é possível contestar devidamente uma decisão. Ora, um problema que sucede com o uso de IA tem que ver com as black boxes, em que os próprios criadores dos algoritmos não conseguem perceber e explicar como é que se processa a análise destes algoritmos, nem determinar de que forma se obteve o resultado alcançado, acabando por reprimir a prossecução deste princípio. 

 

- Princípio da proteção dos dados pessoais 

O princípio da proteção dos dados pessoais, consagrado no artigo 18 do CPA, é um limite ao princípio da administração aberta, protegendo a privacidade dos seus cidadãos. 

 

Ora, a utilização da IA na AP pode sensibilizar o direito à privacidade, uma vez que estes sistemas são capazes de recolher um grande volume de dados, muitas vezes privados/pessoais, e organizá-los dentro de sistemas informáticos. Para além disto, existem IAs que conseguem reconhecer os rostos humanos e, inclusive, identificar cada pessoa individualmente. Assim sendo, o uso destes sistemas acarreta uma maior facilidade de invasão da privacidade dos seus utentes e, consequentemente, uma quebra de confiança dos cidadãos para com os seus administradores. 

 

Assim, a AP necessita de garantir que os dados sejam coletados, armazenados e utilizados de acordo com este princípio, não deixando de garantir, aos seus cidadãos, o gozo efetivo do direito à proteção dos seus dados pessoais e direito à segurança e integridade dos sistemas. 

 

- Princípio da cooperação leal com a União Europeia

O princípio da cooperação leal com a União Europeia, consagrado no artigo 19 do CPA, estabelece uma relação de cooperação e de dupla dependência entre o direito nacional e o direito europeu. 

Ora, existem diversos regulamentos da EU que regulam a administração electrónica, exemplos disto são o “Digital Services Act”, “Digital Market Act”, o “AI Act”, o “Regulamento Governança de dados”, entre outros, aos quais a AP deve respeitar e se encontra vinculada, assentando numa lógica de europeização da Administração.

 

- Princípio da adequação procedimental 

O princípio da adequação procedimental, consagrado no artigo 56 do CPA, estatui que, na ausência de normas jurídicas injuntivas, o responsável pela direção do procedimento goza de discricionariamente na respetiva estruturação que, no respeito pelos princípios gerais da atividade administrativa, deve ser orientada pelos interesses públicos da participação, da eficiência, da economicidade e da celeridade na preparação da decisão.

 

Ora, a administração pública existe para prosseguir uma multiplicidade de fins. Portanto, é natural que quando se fale do procedimento administrativo, não haja um procedimento propriamente aplicável a todas as situações. Deste modo, temos procedimentos diferentes que comportam uma tramitação diferente, consoante os fins que a administração visa prosseguir naquele caso concreto, consoante a matéria que esteja em causa.  

 

Com efeito, os sistemas de IA não têm em consideração as particularidades de cada situação concreta e, em função disso, não se consegue estabelecer as formalidades que devem ser observadas, podendo acabar por deteriorar as garantias dos interessados. 

 

Em suma: Cada vez mais é necessário falarmos dos sistemas de inteligência artificial, pois cada vez mais somos cercados por novos avanços tecnológicos relacionados a estas tecnologias, e a verdade é que a Administração pública, e o direito, ainda não estão totalmente preparados para lidar com elas. 

 

Temos muito a ganhar com a utilização de sistemas de IA. Porém, devido à natureza única e em constante evolução dos sistemas de IA, é necessário haver uma maior abordagem regulatória mais específica e adaptada, não só a nível nacional como a nível global, de modo a que as desvantagens não se tornem mais predominantes do que as vantagens da sua utilização. 

 

Assim, a Administração Pública pode (e deve) abraçar estas novas tecnologias, mas priorizando sempre o interesse público e os princípios gerais a que esta está vinculada. 

 

Rita Pereira, n140122213, T1 

 

Bibliografia: 

- ELPIS Research- Public liability when the Public Administration uses AI in the Decision-making process. 

- Informação obtida nas aulas de Direito da atividade administrativa pelo professor Vasco Pereira da Silva. 

- Informação obtida nas aulas de Direito da inteligência artificial pelo professor Luís Barreto Xavier.