Políticas de saúde impulsionadas por inteligência artificial estão privando os necessitados em um dos países mais pobres do mundo.
O Quênia prometia um acesso mais amplo a serviços de saúde mais acessíveis. No entanto, uma nova investigação revelou que seu sistema, baseado em algoritmos, está dificultando a vida das pessoas que deveria ser mais beneficiadas. De acordo com reportagens do The Guardian , Africa Uncensored e Lighthouse Reports , o novo sistema da Autoridade de Saúde Social do Quênia utiliza um algoritmo preditivo de aprendizado de máquina para estimar quanto as pessoas devem pagar pelo seguro saúde público.
O sistema foi lançado inicialmente em outubro de 2024 como parte da promessa do presidente William Ruto de expandir o acesso à saúde para a grande força de trabalho informal do Quênia.
Como o algoritmo está prejudicando os quenianos
O problema reside na forma como o sistema calcula o que as pessoas podem pagar. O sistema SHA do Quênia utiliza a avaliação indireta de recursos, um método que estima a renda com base em detalhes das famílias, como materiais de cobertura, banheiros, animais de criação, tamanho da família e outras condições de vida. Esta investigação revelou que o sistema tem superestimado a renda das famílias mais pobres, enquanto a subestima para os cidadãos mais ricos.
Um voluntário da SHA descreveu visitas a domicílios em Nairóbi, onde presenciou pessoas que já lutavam para comprar comida recebendo valores muito acima de suas possibilidades. Alguns enfrentaram cobranças equivalentes a 10% a 20% de seus baixos rendimentos, segundo o relatório.
Quando uma lei impede o tratamento
As consequências são reais e a situação parece desesperadora. Os quenianos sem seguro privado que não conseguem pagar os seus prémios do SHA correm o risco de serem recusados em unidades de saúde ou de receberem contas hospitalares exorbitantes. O relatório cita relatos de pessoas gravemente doentes que deixaram de receber tratamento porque o sistema considerou que deviam mais do que podiam pagar. Uma mãe solteira disse que a sua contribuição mensal foi fixada em 3.500 xelins quenianos, enquanto outros relataram aumentos significativos em relação ao que pagavam anteriormente ao abrigo do sistema antigo. Assim, a nova política está a custar vidas.
Embora Ruto tenha descrito o sistema como sendo baseado em IA, o relatório observa que ele não utiliza IA generativa no estilo do ChatGPT. Ele usa aprendizado de máquina preditivo, construído em torno de uma ferramenta política de décadas atrás que há muito tempo é criticada por identificar erroneamente quem se qualifica para receber ajuda. Muitos já consideravam esse sistema falho e injusto mesmo antes de sua implementação.
Mais de 20 milhões de pessoas estão cadastradas no SHA (Seguro de Saúde Suplementar), mas apenas cerca de 5 milhões pagam seus prêmios regularmente. Os hospitais também relatam grandes déficits, pois os reembolsos permanecem em atraso. Este é o perigo dos sistemas de bem-estar social algorítmicos.
