Introdução à ética na IA

A ética na IA é uma força para o bem que ajuda a reduzir vieses injustos, remove barreiras à acessibilidade e aumenta a criatividade, entre muitos outros benefícios. À medida que as empresas confiam mais na IA para tomar decisões que afetam a vida humana, é fundamental que considerem as complexas implicações éticas, porque o uso indevido de IA pode causar danos não só aos indivíduos e à sociedade, mas também aos resultados e à reputação das empresas.

Neste artigo, serão abordados os seguintes tópicos:

• Princípios, termos e definições comuns de ética na IA
• Criação de princípios éticos da IA para uma organização
• Quem é responsável pela ética na IA
• Implementação de treinamento de ética na IA, governança e processos técnicos
• Casos de uso e implementações de IA ética
• Principais autoridades em ética na IA

Exemplos de princípios éticos de IA

O bem-estar das pessoas está no centro de qualquer discussão sobre a ética da IA. Embora os sistemas de IA possam ser projetados para priorizar a moralidade e a ética, os seres humanos são responsáveis por garantir o design e o uso éticos – e por intervir quando necessário.

Não há um conjunto único e universalmente acordado de princípios éticos de IA. Muitas empresas e agências governamentais consultam especialistas em ética, direito e IA para criar seus princípios orientadores. Esses princípios geralmente abordam:

• Bem-estar humano e dignidade: os sistemas de IA devem sempre priorizar e garantir o bem-estar, a segurança e a dignidade dos indivíduos, sem substituir os seres humanos nem comprometer o bem-estar humano.
• Supervisão humana: a IA precisa de monitoramento humano em todas as fases de desenvolvimento e uso – às vezes chamado de “human-in-the-loop” (humanos no loop) – para garantir que a responsabilidade ética suprema esteja nas mãos de um ser humano.
• Conter o viés e a discriminação: os processos de design devem priorizar a justiça, a igualdade e a representação para mitigar vieses e discriminações.
• Transparência e explicabilidade: o modo como os modelos de IA tomam decisões específicas e produzem resultados específicos deve ser transparente e explicável em linguagem clara.
• Preservar a privacidade e a proteção de dados: os sistemas de IA devem atender aos mais rigorosos padrões de privacidade e proteção de dados, usando métodos robustos de segurança cibernética para evitar violações de dados e acesso não autorizado.
• Promover a inclusão e a diversidade: as tecnologias de IA precisam refletir e respeitar a ampla variedade de identidades e experiências humanas.
• Sociedade e economias: a IA deve ajudar a impulsionar o avanço social e a prosperidade econômica para todas as pessoas, sem fomentar desigualdade ou práticas injustas.
• Aprimorar o conhecimento e as habilidades digitais: as tecnologias de IA devem se esforçar para serem acessíveis e compreensíveis para todos, independentemente das habilidades digitais de cada um.
• A saúde das empresas: as tecnologias de negócios de IA devem acelerar os processos, maximizar a eficiência e promover o crescimento.

Termos e definições de ética na IA

Como uma interseção entre ética e alta tecnologia, as conversas sobre IA ética geralmente usam vocabulário de ambos os campos. É importante compreender esse vocabulário para poder discutir a ética da IA:

• IA: a capacidade de uma máquina de executar funções cognitivas que associamos a mentes humanas, como perceber, raciocinar, aprender e resolver problemas. Existem dois tipos principais de sistemas de IA e alguns sistemas são uma combinação de ambos:

  • IA baseada em regras, também chamada de IA especializada, se comporta de acordo com um conjunto de regras totalmente definidas criadas por especialistas humanos – por exemplo, muitas plataformas de e-commerce usam a IA baseada em regras para fornecer recomendações de produtos.
  • A IA baseada em aprendizagem resolve problemas e adapta sua funcionalidade por conta própria, com base em sua configuração inicial projetada por humanos e em seu conjunto de dados de treinamento. As ferramentas de IA generativa são exemplos de IA baseada em aprendizagem.

Ética na IA: um conjunto de valores, princípios e técnicas que empregam padrões amplamente aceitos de certo e errado para orientar a conduta moral no desenvolvimento, implementação, uso e venda de tecnologias de IA.

Modelo de IA: uma estrutura matemática criada por pessoas e treinada em dados que permite que os sistemas de IA executem determinadas tarefas, identificando padrões, tomando decisões e prevendo resultados. Os usos comuns incluem o reconhecimento de imagens e a tradução de idiomas, entre muitos outros.

Sistema de IA: uma estrutura complexa de algoritmos e modelos projetados para imitar o raciocínio humano e realizar tarefas de maneira autônoma.

Agência: a capacidade dos indivíduos de agir com independência e fazer escolhas livres.

Viés: uma inclinação ou preconceito a favor ou contra uma pessoa ou grupo, especialmente de uma forma considerada injusta. Os vieses nos dados de treinamento, como a sub-representação ou super-representação de dados pertencentes a um determinado grupo, podem fazer com que a IA aja de maneira tendenciosa.

Explicabilidade: a capacidade de responder à pergunta: “O que a máquina fez para alcançar o resultado?” Explicabilidade refere-se ao contexto tecnológico do sistema de IA, como sua mecânica, regras e algoritmos, e dados de treinamento.

Justiça: tratamento ou comportamento imparcial e justo sem favoritismo ou discriminação injusta.

Human-in-the-loop (humanos no loop): a capacidade dos seres humanos de intervir em cada ciclo de decisão de um sistema de IA.

Interpretabilidade: a capacidade das pessoas de entender o contexto real e o impacto da saída de um sistema de IA, por exemplo, quando a IA é usada para ajudar a tomar uma decisão sobre a aprovação ou rejeição de um pedido de empréstimo.

Grande modelo de linguagem (LLM): um tipo de modelo de Machine Learning geralmente utilizado em tarefas de reconhecimento, compreensão e geração de texto.

Machine Learning: um subconjunto de IA que permite que sistemas aprendam, aprimorem-se com a experiência e se adaptem a novos dados, sem serem explicitamente programados para cada tarefa.

Normativa: um contexto-chave da ética prática que se preocupa com o que pessoas e instituições devem fazer em determinadas situações.

Transparência: relacionada à explicabilidade, a transparência é a capacidade de justificar como e por que um sistema de IA é desenvolvido, implementado e usado, além de tornar essas informações visíveis e compreensíveis para as pessoas.

Como implementar princípios de ética na IA

Para as empresas, o uso ético da IA envolve mais do que apenas adotar princípios éticos; esses princípios devem ser integrados a todos os processos técnicos e operacionais de IA. Embora a integração da ética possa parecer complicada para empresas que adotam rapidamente a IA, casos reais de danos causados por problemas nos designs e no uso do modelo de IA mostram que negligenciar a ética adequada pode ser arriscado e dispendioso.

Quem é responsável pela ética na IA?

A resposta curta: todos os envolvidos em IA, incluindo empresas, governos, consumidores e cidadãos.

Os diferentes papéis de diferentes pessoas na ética da IA

• Desenvolvedores e pesquisadores têm papel crucial na criação de sistemas de IA que priorizam a agência e supervisão humanas, tratam de viés e discriminação e são transparentes e explicáveis.
• Legisladores e reguladores estabelecem leis e regulamentações para controlar o uso ético da IA e proteger os direitos dos indivíduos.
• Líderes de negócios e do setor garantem que as empresas deles adotem princípios éticos de IA para usá-la de maneira que contribua positivamente para a sociedade.
• Organizações da sociedade civil defendem o uso ético da IA, atuam na supervisão e dão suporte às comunidades afetadas.
• Instituições acadêmicas contribuem por meio da educação, da pesquisa e do desenvolvimento de diretrizes éticas.
• Usuários finais e usuários afetados, como consumidores e cidadãos, têm interesse em garantir que os sistemas de IA sejam explicáveis, interpretáveis, justos, transparentes e benéficos para a sociedade.

O papel dos líderes de negócios na ética da IA

Muitas empresas criam comitês dirigidos por seus líderes seniores para moldar as políticas de governança de IA. Por exemplo, na SAP, formamos um painel consultivo e um comitê diretor de ética em IA, composto por especialistas em ética e tecnologia, para integrar nossos princípios éticos de IA em todos os nossos produtos e operações. Esses princípios priorizam:

• Proporcionalidade e não prejudicar
• Defesa e segurança
• Justiça e não discriminação
• Sustentabilidade
• Direito à privacidade e proteção de dados
• Supervisão e determinação humanas
• Transparência e explicabilidade
• Responsabilidade e responsabilização
• Conscientização e conhecimento técnico
• Governança e colaboração adaptáveis e com vários stakeholders

Formação de comitê diretor de ética em IA

É vital criar um comitê diretor para gerenciar a abordagem da empresa em relação à ética da IA e fornecer responsabilização e supervisão de alto nível. Esse comitê garante que as considerações éticas sejam entrelaçadas no desenvolvimento e na implementação da IA.

Melhores práticas para formar um comitê diretor de ética em IA

• Composição e expertise: inclua uma combinação diversa de stakeholders com expertise em IA, direito e ética. Os consultores externos podem oferecer perspectivas imparciais.
• Definição do objetivo e do escopo: defina claramente a missão e os objetivos do comitê, com foco no design, implementação e operação da IA ética. Isso deve estar alinhado aos valores da empresa, justiça, transparência e privacidade.
• Definição de funções e responsabilidades: descreva as funções específicas dos membros, como desenvolver políticas de ética em IA, aconselhar sobre preocupações éticas em projetos de IA e garantir o compliance com as regulamentações.
• Definição de objetivos: defina objetivos claros e mensuráveis, como realizar uma auditoria anual de ética em projetos de IA e oferecer treinamento trimestral de ética em IA.
• Criação de procedimentos: estabeleça procedimentos operacionais, incluindo agendamentos de reuniões, padrões de documentação e protocolos de comunicação para manter a transparência.
• Educação e adaptação contínuas: acompanhe os novos desenvolvimentos em tecnologia de IA, padrões éticos e regulamentações por meio de treinamentos e conferências regulares.

Criação de uma política de ética em IA

O desenvolvimento de uma política de ética em IA é essencial para orientar as iniciativas de IA em uma empresa. O comitê diretor é fundamental nesse processo, usando expertise diversificada para garantir que a política cumpra as leis, os padrões e os princípios éticos mais amplos.

Exemplo de abordagem para criar uma política de ética em IA

• Elaboração da política inicial: comece elaborando uma política que reflita os principais valores, os requisitos legais e as melhores práticas da empresa. Esse rascunho inicial servirá de base para refinamentos posteriores.

• Consulta e contribuição: interaja com stakeholders internos e externos, incluindo desenvolvedores de IA, líderes de negócios e especialistas em ética, para tornar a política abrangente e representativa de múltiplas perspectivas.

• Integração de insights interdisciplinares: use os conhecimentos diversificados dos membros do comitê para incorporar insights sobre tecnologia, ética, direito e negócios para tratar de aspectos complexos da ética em IA.

• Definição de casos de uso de alto risco e linha vermelha: para garantir clareza, o comitê deve descrever quais aplicativos de IA representam riscos significativos ou são considerados antiéticos e, portanto, proibidos. O comitê diretor da SAP, por exemplo, categoriza-os como:

  • Alto risco: esta categoria inclui aplicativos que podem ser prejudiciais e inclui aplicativos relacionados à aplicação da lei, migração e processos democráticos, bem como aqueles que envolvem dados pessoais, decisões automatizadas ou que afetam o bem-estar social. Eles devem ser submetidos a uma avaliação completa pelo comitê antes do desenvolvimento, implementação ou venda.
  • Linha vermelha: são proibidos aplicativos que permitam vigilância humana, discriminação, desanonimização de dados que levem à identificação individual ou de grupo, ou aqueles que manipulem a opinião pública ou prejudiquem os debates democráticos. A SAP considera esses usos altamente antiéticos e proíbe seu desenvolvimento, implementação e venda.

• Análise e revisões: analise e revise continuamente a política com base no feedback, garantindo que ela permaneça relevante e prática para o mundo real.

• Finalização e aprovação: envie a política concluída para a aprovação final dos responsáveis por decisões, como a diretoria, apoiada por uma sólida recomendação do comitê.

• Supervisão contínua e implementação: o comitê deve monitorar a implementação da política e atualizá-la periodicamente para refletir novos desenvolvimentos tecnológicos e éticos.

Definição de um processo de revisão de compliance

O desenvolvimento de processos eficazes de revisão de compliance é essencial para garantir que as implementações de IA cumpram as políticas e regulamentações de ética em IA da empresa. Esses processos ajudam a conquistar a confiança de usuários e órgãos reguladores e servem para reduzir riscos e manter práticas éticas em todos os projetos de IA.

Processos típicos de revisão de compliance

• Desenvolva uma estrutura de revisão padronizada: formule uma estrutura abrangente que defina procedimentos para avaliar projetos de IA em relação a diretrizes éticas, padrões legais e requisitos operacionais.
• Classificação de risco: classifique projetos de IA de acordo com os riscos éticos e regulatórios. Projetos de alto risco, como aqueles que lidam com dados pessoais confidenciais ou que tenham impacto significativo na tomada de decisões, exigem alto grau de escrutínio.
• Auditorias e avaliações regulares: realize auditorias periódicas de sistemas de IA para garantir o compliance contínuo, combinando verificações automatizadas e revisões manuais de equipes interdisciplinares.
• Envolvimento dos stakeholders: envolva um grupo diversificado de stakeholders no processo de revisão, incluindo especialistas em ética, especialistas jurídicos, cientistas de dados e usuários finais, para identificar riscos potenciais e dilemas éticos.
• Documentação e transparência: mantenha registros detalhados de todas as atividades de compliance, garantindo que sejam acessíveis e claros para auditorias internas e externas.
• Mecanismos de feedback e escalação: implemente procedimentos claros para a geração de relatórios e resolução de questões éticas e de compliance.

Implementação técnica de práticas éticas de IA

A integração de considerações éticas no desenvolvimento de IA envolve a adaptação das práticas tecnológicas atuais para garantir que os sistemas sejam criados e implementados de maneira responsável. Além de estabelecerem princípios éticos de IA, as empresas às vezes criam princípios de IA responsável, que podem estar mais focados em casos de uso técnico e setorial específicos.

Principais requisitos técnicos para sistemas éticos de IA

Detecção e mitigação de vieses: use conjuntos de dados e métodos estatísticos diversificados para detectar e corrigir vieses em modelos de IA. Realize auditorias regulares para monitorar vieses.

Transparência e explicabilidade: desenvolva sistemas que os usuários possam entender e verificar facilmente, usando métodos como pontuações de importância do recurso, árvores de decisão e explicações independentes do modelo para melhorar a transparência.

Privacidade e segurança dos dados: garanta a gestão segura dos dados nos sistemas de IA e o compliance com as leis de privacidade. Os sistemas devem usar criptografia, anonimização e protocolos seguros para salvaguardar a integridade dos dados.

Design robusto e confiável: os sistemas de IA devem ser duráveis e confiáveis sob várias condições, incorporando extensos testes e validações para lidar com cenários inesperados de maneira eficaz.

Monitoramento e atualização contínuos: mantenha o monitoramento contínuo para avaliar o o compliance ético e o desempenho da IA, atualizando os sistemas quando necessário com base em novos dados ou mudanças nas condições.

Engajamento e feedback dos stakeholders: envolva stakeholders, como usuários finais, especialistas em ética e especialistas de domínio, nos processos de design e desenvolvimento para coletar feedback e garantir que o sistema esteja alinhado às exigências éticas e operacionais.

Treinamento da empresa em ética da IA

O treinamento abrangente é crucial para garantir que os colaboradores entendam a ética da IA e possam trabalhar com tecnologias de IA de maneira responsável. O treinamento também serve para melhorar a integridade e a eficácia das ferramentas e soluções de IA das empresas.

Principais componentes de um currículo de treinamento de IA eficaz

• Desenvolvimento de currículo abrangente: use um currículo de treinamento que aborde conceitos básicos de IA, considerações éticas, questões de compliance e aplicações práticas, sob medida para diferentes funções organizacionais, desde a equipe técnica até a gerência executiva.
• Módulos de treinamento específicos da função: forneça módulos de treinamento personalizados para as necessidades e responsabilidades exclusivas de vários departamentos. Por exemplo, os desenvolvedores podem se concentrar em práticas éticas de codificação, enquanto as equipes de vendas e marketing aprendem sobre as implicações da IA nas interações com os clientes.
• Aprendizagem e atualizações contínuas: a IA está evoluindo rapidamente, por isso é importante manter os programas de treinamento atualizados com os desenvolvimentos e melhores práticas mais recentes.
• Experiências de aprendizagem interativas e práticas: use estudos de caso, simulações e workshops para ilustrar aplicações reais e desafios éticos para apoiar o conhecimento teórico com experiência prática.
• Avaliação e certificação: realize avaliações para conferir a compreensão e a proficiência dos colaboradores na ética da IA e considere a possibilidade de oferecer certificação para reconhecer e motivar a melhoria contínua.
• Mecanismos de feedback: configure canais de feedback para que os colaboradores contribuam para o refinamento contínuo dos programas de treinamento, garantindo que eles atendam às necessidades em constante evolução da empresa.

Casos de uso de ética em IA para diferentes funções na empresa

Todos da empresa que trabalham com aplicativos baseados em IA ou com mecanismos de resposta de IA devem ter cuidado com o risco de viés da IA e trabalhar com responsabilidade. Os exemplos de casos de uso de ética em IA para diferentes funções ou departamentos nas empresas são:

• Cientistas de dados ou engenheiros de Machine Learning: nessas funções, é recomendável incorporar métodos de detecção e mitigação de vieses, garantindo a explicabilidade e aprimorando o modelo. Isso envolve técnicas como métricas de justiça e análise contrafactual.
• Gerentes de produtos ou analistas de negócios: as responsabilidades relacionadas à ética em IA podem variar de avaliações de risco ético, priorização do design centrado no usuário e desenvolvimento de estratégias claras de comunicação para explicar os sistemas de IA aos usuários e stakeholders. Isso envolve considerar possíveis impactos sociais, necessidades do usuário e conquistar a confiança por meio de transparência.
• Departamento jurídico e de compliance: os casos de uso críticos têm compliance com regulamentações relevantes (por exemplo, leis de privacidade de dados), gestão de riscos legais e de reputação associados à IA, e desenvolvimento de estratégias para reduzir as responsabilidades decorrentes de vieses algorítmicos ou consequências não intencionais.
• Profissionais de RH: o departamento de RH deve trabalhar com ferramentas de recrutamento baseadas em IA, sem vieses e cumprindo o compliance das leis antidiscriminação. As tarefas envolvem a auditoria de algoritmos, a implementação de sistemas com participação humana (human-in-the-loop) e o fornecimento de treinamento sobre práticas éticas em IA no recrutamento.

Autoridades em ética na IA

A ética na IA é complexa, moldada pela evolução de regulamentações, padrões legais, práticas do setor e avanços tecnológicos. As empresas devem se manter atualizadas sobre as mudanças nas políticas que podem impactá-las e devem trabalhar com stakeholders relevantes para determinar quais políticas se aplicam a elas. A lista abaixo não é completa, mas dá uma noção da variedade de recursos de políticas que as empresas devem buscar de acordo com seu setor e região.

Exemplos de autoridades e recursos de ética na IA

Relatório Artificial Intelligence for Economic Policymaking do ACET: este estudo de pesquisa do African Center for Economic Transformation avalia as considerações econômicas e éticas da IA com o objetivo de informar políticas econômicas, financeiras e industriais inclusivas e sustentáveis em toda a África.

AlgorithmWatch: organização de direitos humanos que defende e desenvolve ferramentas para criação e uso de sistemas algorítmicos que protegem a democracia, o estado de direito, a liberdade, a autonomia, a justiça e a igualdade.

Guia da ASEAN sobre Governança e Ética em IA: um guia prático para os estados-membros da Associação das Nações do Sudeste Asiático projetarem, desenvolverem e implementarem tecnologias de IA de maneira ética e produtiva.

AI Watch da Comissão Europeia: o Centro de Pesquisa Conjunta da Comissão Europeia fornece orientações para a criação de sistemas de IA confiáveis, incluindo relatórios e dashboards específicos de país para ajudar a monitorar o desenvolvimento, a adoção e o impacto da IA na Europa.

Relatório da NTIA sobre responsabilização da IA: este relatório da National Telecommunications and Information Administration propõe medidas voluntárias, regulatórias e de outros tipos para ajudar a garantir a legalidade e confiabilidade dos sistemas de IA nos Estados Unidos.

Princípios de IA da OCDE: este fórum de países e grupos de stakeholders trabalha para moldar uma IA confiável. Isso viabilizou, em 2019, a adoção dos Princípios de IA da OCDE, o primeiro padrão intergovernamental sobre IA. Esses princípios também serviram como base para os Princípios de IA do G20.

Recomendação da UNESCO sobre a Ética da Inteligência Artificial: esta diretriz de recomendação da agência das Nações Unidas foi adotada por 193 estados-membros após um processo de consulta global de dois anos com especialistas e stakeholders.

Conclusão

Em conclusão, o desenvolvimento e a implementação da IA ética exigem uma abordagem multifacetada. A recomendação é que as empresas estabeleçam princípios éticos claros, os integrem aos processos de desenvolvimento de IA e garantam o compliance contínuo por meio de programas robustos de governança e treinamento. Ao priorizar valores centrados no ser humano, como justiça, transparência e responsabilidade, as empresas podem aproveitar o poder da IA de maneira responsável, impulsionar a inovação e, ao mesmo tempo, mitigar riscos potenciais e garantir que essas tecnologias beneficiem a sociedade como um todo.

Leia mais