por Carlos Eduardo Gouvêa, diretor de Relações Institucionais do Instituto Ética Saúde, e Filipe Venturini Signorelli, diretor Executivo do Instituto Ética Saúde
A crescente complexidade dos sistemas digitais e a onipresença da inteligência artificial (IA) têm gerado uma discussão aprofundada sobre a ética dos algoritmos ou algorethics. Este conceito aborda a responsabilidade moral e social no desenvolvimento e uso de algoritmos. E na saúde, especialmente, o impacto é direto em aspectos críticos da vida humana.
O termo surgiu com força no início do ano passado, no Vaticano, após encontro entre representantes do judaísmo, cristianismo e islamismo, que lançaram conjuntamente um apelo em favor do desenvolvimento ético da inteligência artificial (AI). O Papa Francisco pediu que “a algorética, ou seja, a reflexão ética sobre o uso de algoritmos, esteja cada vez mais presente não apenas no debate público, mas também no desenvolvimento de soluções técnicas”.
Globalmente, a ética dos algoritmos tem se tornado pauta para legisladores, pesquisadores e empresas de tecnologia. Organizações como a União Europeia e o Fórum Econômico Mundial têm promovido diretrizes e regulamentações para assegurar que os algoritmos sejam usados de maneira responsável e justa. Nos Estados Unidos, debates sobre o tema têm influenciado políticas públicas e a criação de novas leis destinadas a proteger os cidadãos contra práticas discriminatórias e invasivas.
No Brasil, a preocupação com a ética dos algoritmos também tem ganhado atenção, especialmente à medida que o país avança na adoção de tecnologias digitais. A Lei Geral de Proteção de Dados (LGPD), em vigor desde 2020, é um reflexo desse movimento. Ela estabelece regras rigorosas sobre a coleta, processamento e armazenamento de dados pessoais, com o objetivo de proteger a privacidade dos cidadãos e garantir que os dados sejam usados de maneira ética e responsável.
A aplicação da ética dos algoritmos na saúde é crucial devido à natureza sensível dos dados envolvidos e à interferência na vida dos pacientes. A inovação tecnológica tem o potencial de transformar significativamente a saúde, com diagnósticos mais precisos até tratamentos personalizados e eficientes. No entanto, a implementação de algoritmos e IA na saúde exige cuidados rigorosos para evitar consequências negativas.
O Instituto Ética Saúde iniciou conversas, recentemente, com a Agência Nacional de Saúde Suplementar (ANS), para que o tema seja tratado com mais atenção dentro de um esforço coletivo de busca de melhoria contínua da jornada do paciente. Inclusive, algorethics será pauta na revisão, ainda em 2024, do Marco de Consenso Brasileiro para a Colaboração Ética Multissetorial na Área da Saúde, pelo Instituto Ética Saúde e entidades setoriais.
São muitos os pontos de atenção:
1. Proteção de dados dos pacientes
Os algoritmos usados em saúde frequentemente lidam com grandes volumes de dados pessoais e clínicos, tornando essencial garantir a proteção dessas informações. Várias medidas devem ser adotadas para evitar a exposição indevida e proteger a privacidade dos pacientes:
- Anonimização de dados: Sempre que possível, os dados devem ser anonimizados para que a identidade dos pacientes não possa ser rastreada;
- Segurança da informação: Sistemas de armazenamento e processamento de dados devem implementar criptografia e outras medidas de segurança para prevenir acessos não autorizados;
- Transparência e consentimento: Os pacientes devem ser informados sobre como seus dados serão utilizados e devem consentir com o uso desses dados para fins de pesquisa e desenvolvimento de algoritmos.
2. Prevenção de viés algorítmico
Algoritmos de saúde devem ser projetados para evitar viés e discriminação. O viés algorítmico pode levar a diagnósticos imprecisos ou tratamentos inadequados, particularmente para grupos minoritários ou menos representados nos dados de treinamento. Para mitigar esses riscos:
- Diversidade nos dados de treinamento: Assegurar que os dados utilizados para treinar algoritmos representem adequadamente todas as populações e condições de saúde;
- Auditorias e revisões: Realizar auditorias regulares e avaliações de impacto para identificar e corrigir possíveis fontes de viés.
3. Integridade e precisão das decisões
A integração de IA e algoritmos na prática clínica deve ser feita com cautela para garantir que as decisões automatizadas sejam precisas e confiáveis:
- Validação e testes: Antes de serem implementados, os algoritmos devem ser rigorosamente testados e validados em ambientes controlados;
- Monitoramento contínuo: Implementar um sistema de monitoramento contínuo para detectar e corrigir problemas rapidamente após a implementação.
À medida que continuamos a avançar em direção a um futuro mais digital e automatizado, é vital que os profissionais da saúde, desenvolvedores de tecnologias e legisladores trabalhem juntos para criar um ambiente ético e seguro para a aplicação de algoritmos e IA na saúde.
A inteligência artificial não é o amanhã, é o hoje, e tem que ser aplicada para o bem da humanidade. Portanto, precisamos usá-la de forma correta, no nosso dia a dia.
Filipe Venturini é Diretor Executivo e Carlos Eduardo Gouvea é Diretor de Relações Institucionais, do Instituto Ética Saúde.
* A opinião manifestada é de responsabilidade dos autores e não é, necessariamente, a opinião do IES
