Estado de Direito e inteligência artificial : na encruzilhada entre escolhas humanas e escolhas de IA?

Abstract

A disseminação global e ampla utilização dos sistemas de Inteligência Artificial, robots e tecnologias conexas (IA), particularmente, na última década, significaram, antes do mais, a necessidade de repensar o significado de escolha. O presente estudo tem como objecto de pesquisa a compreensão e ponderação sobre o significante e significado do signo escolha entendido enquanto capacidade de decidir entre uma miríade de opções possíveis. Escolhas humanas e escolhas algorítmicas, i.e., resultantes de um sistema de IA, distinguem-se, desde logo e por ora, pela existência de um substracto orgânico, de uma mente e dos dispositivos como a consciência e sentimentos. Assim, a escolha humana terá subjacente dimensões e princípios éticos que as escolhas geradas por um algoritmo poderão, eventualmente, ignorar. Tudo dependerá, verdadeiramente, da escolha humana em fazer incluir ou excluir, a priori, princípios éticos no momento da construção dos sistemas de IA bem como a observância de códigos de conduta pelos designers deste tipo de sistemas. A questão torna-se, particularmente relevante no caso dos sistemas de IA que operam em áreas sensíveis como a saúde, educação, eleições, etc…, ou seja, sistemas de IA que representam um risco elevado em áreas sensíveis e exigem o reforço da protecção dos Direitos Humanos e do Estado de Direito Democrático (…).