“AI Ethics & Governance Body of Knowledge” (AI E&G BoK) foi disponibilizado ao público, em Singapura, no mês de outubro de 2020. É um documento de referência para orientar players no desenvolvimento, governança e implantação responsável, ética e centrada no ser humano de sistemas de Inteligência Artificial (IA). A iniciativa integra-se ao objetivo do governo local de formar um ambiente de IA progressivo, seguro e confiável, que beneficie negócios e pessoas, impulsionando a transformação econômica.
O documento é resultado da colaboração entre a “Singapore Computer Society”, principal organização privada do país para profissionais da indústria, líderes e estudantes de TIC, e a “Infocomm Media Development Authority”, conselho estatutário do governo de Singapura, ligado ao Ministério de Comunicações e Informação, que desenvolve e regula os setores de informação e mídia.
AI E&G BoK foi revisado por um painel composto por 25 especialistas da indústria e da academia e estruturado como um “living document”, assegurando, por isso, atualização e aperfeiçoamento periódicos, de acordo com a evolução das tecnologias de IA. Igualmente, servirá de base para o treinamento e certificação de profissionais voltados a implementação responsável de soluções de IA em um curso que será lançado no próximo ano em parceria com a Nanyang Technological University.
A publicação, na forma de um manual, destina-se, sobretudo, a provedores de soluções de IA, empresas, organizações, indivíduos e consumidores. Busca-se prioritariamente a construção da confiança desses stakeholders na IA, por meio de diretrizes que orientem o uso responsável para gerenciar diferentes tipos de riscos. Além disso, pretende estimular o alinhamento dos atores envolvidos no desenvolvimento dessas soluções com práticas de responsabilidade na gestão e proteção de dados.
AI E&G BoK é dividido em nove seções, as quais tratam, em síntese, de medidas de governança interna para incorporar valores, riscos e responsabilidades associados à tomada de decisão algorítmica; metodologias para determinar os riscos aceitáveis e identificar os níveis apropriados de envolvimento humano na tomada de decisão ampliada pela IA; gerenciamento de operações, considerando questões como proteção de dados e auditabilidade no momento de desenvolver, selecionar e manter modelos de IA; estratégias de comunicação com stakeholders de uma organização e gestão de relacionamento entre eles; e apêndice contendo referências locais e globais a respeito de ética em IA.
A sua importância, de acordo com os responsáveis pela publicação, é “abordar como, conforme dependemos mais de modelos de aprendizado de máquina probabilísticos baseados em dados, podemos manter controle e supervisão suficientes”. Para tanto, pretende responder a interrogantes que anunciam design de governança e regulação de IA no país, a exemplo de: “como a IA pode ser usada e como ela deve ser utilizada? Como garantir que ela não funcione mal? Como continuar a manter a centralidade no ser humano durante todo o ciclo de vida dos sistemas de IA? Como assegurar que os resultados da IA estejam dentro dos limites determinados previamente? Como deve ser a regulação da IA?”.
As premissas que orientam as respostas presentes no AI E&G Bok dizem respeito à opção de Singapura por uma abordagem voluntária para a governança de IA, que busca um equilíbrio entre apoiar a inovação e, simultaneamente, manter a confiança do público na IA. Essa abordagem apoia-se em conjunto básico e padrões de valores éticos com relevância particular para IA: equidade, explicabilidade e transparência.
Dessa maneira, os princípios orientadores de alto nível, para promover a confiança na IA e a compreensão do uso de tecnologias de IA, adotados no AI E&G Bok, referem-se, de um lado, à transparência, equidade e explicabilidade; e, de outro, à centralidade no ser humano.
O primeiro orienta que as organizações que usam IA na tomada de decisão devem garantir que esse processo seja explicável, transparente e equânime, ressaltando que precisa ser empreendido um esforço razoável, a fim de que o uso e a aplicação de IA sejam feitos de maneira que reflitam os objetivos desses princípios, tanto quanto possível. Elementos que necessitam estar presentes em processos específicos na cadeia de valor, tais quais coleta de dados, reconhecimento de padrões, predição, entre outros.
O segundo esclarece que as soluções de IA devem ser centradas no ser humano. O foco é a pessoa que está usando ou sendo afetada pela IA, de maneira que durante todo o ciclo de vida da IA, as prioridades máximas devem consistir na proteção dos interesses dos seres humanos, incluindo seu bem-estar e segurança. Percebe-se, pois, que o âmago dessa verificação é se os processos são equânimes, transparentes e explicáveis e se a intenção e o resultado dessas soluções é beneficiar o ser humano.
Certamente, o debate regulatório e ético sobre IA tende a crescer rapidamente, reconhecendo o potencial dessa nova tecnologia para acelerar o crescimento econômico, promover benefícios públicos e estimular o desenvolvimento dos países e das comunidades, o que é essencial para disseminar e construir confiança e segurança nos sistemas de IA.
Wilson Sales Belchior – Graduado em Direito, especialista em Processo Civil e Energia Elétrica, MBA em Gestão Empresarial, Mestre em Direito e Gestão de Conflitos, Doutorando em Direito Constitucional. Advogado, palestrante, professor universitário em cursos de pós-graduação em diferentes estados e autor de diversos artigos e livros, publicados em revistas, jornais, portais de notícias e editoras de circulação nacional. Atualmente é Conselheiro Federal da OAB eleito para o triênio 2019-2021 e Presidente da Comissão Nacional de Direito Bancário.