Governança da inteligência artificial em organizações: framework para comitês de ética em IA: versão 1.0

Abstract

Este documento é um guia para pessoas que queiram implementar princípios de governança ética em IA em suas organizações ou até mesmo criar uma estrutura para conduzir programas de conformidade ética e gestão de risco. Ele é dirigido a pessoas de diferentes áreas e expertises. Por isso, pode ser lido por partes. A Parte 1 contextualiza a pesquisa e apresenta alguns pontos de partida. É nela que definimos conceitos importantes como o de Inteligência Artificial (IA) e mostramos o estado da arte da discussão na comunidade científica e no mercado. A Parte 2 detalha os cinco pilares do nosso framework para adoção de comitês de ética em IA e aprofunda as possibilidades de configuração encontradas em nossa pesquisa para a constituição e o funcionamento dessas estruturas. É nessa Parte que você encontrará um “cardápio” de características para ponderar ao sugerir um comitê para sua organização. A Parte 3 apresenta o framework em si e detalha como aplicá-lo à sua organização. Exemplificamos de que maneira as características podem ser selecionadas a cenários distintos, segundo etapas de maturidade dos programas de governança das organizações. É nessa Parte que você encontrará a nossa sugestão de possíveis caminhos para o seu contexto. Finalmente, a Parte 4 apresenta três estudos de caso realizados na pesquisa sobre Comitês de Ética existentes em organizações. Eles foram construídos por meio de entrevistas com atores envolvidos com a temática e documentação pública a respeito.

This document is a guide for people who want to implement AI ethics governance principles in their organizations or even create a structure for conducting ethics compliance and risk management programs. It is aimed at people from different areas and expertise. It can therefore be read in parts. Part 1 puts the research into context and presents some starting points. It is here that we define important concepts such as Artificial Intelligence (AI) and show the state of the art of the discussion in the scientific community and in the market. Part 2 details the five pillars of our framework for adopting AI ethics committees and goes into more detail on the configuration possibilities found in our research for the constitution and functioning of these structures. It is in this Part that you will find a "menu" of characteristics to consider when suggesting a committee for your organization. Part 3 presents the framework itself and details how to apply it to your organization. We exemplify how the characteristics can be selected to different scenarios, according to the maturity stages of the organizations' governance programs. It is in this Part that you will find our suggestion of possible ways forward for your context. Finally, Part 4 presents three case studies conducted in the research on existing Ethics Committees in organizations. They were built through interviews with stakeholders and public documentation on the subject.