Los municipios utilizan algoritmos para decidir las reclamaciones de asistencia social

Un tercio de los ayuntamientos del Reino Unido utiliza algoritmos informáticos para tomar decisiones cruciales sobre reclamaciones de beneficios y otras cuestiones de bienestar, a pesar de saber que algunos de los sistemas no son fiables.

Una encuesta de The Guardian encontró que 140 de 408 municipios han invertido en contratos de software con empresas privadas.

Con las autoridades locales bajo presión para ahorrar dinero después de los recortes gubernamentales, los ayuntamientos recurren cada vez más a sistemas automatizados para tomar decisiones sobre los beneficios, proteger a los niños vulnerables y asignar plazas en la escuela.

Las empresas que han obtenido contratos lucrativos para proporcionar software de toma de decisiones incluyen Palantir, una empresa de minería de datos cofundada por el multimillonario Peter Thiel respaldado por Trump, y los gigantes estadounidenses de calificación crediticia Experian y TransUnion.

Sin embargo, existe evidencia de que los algoritmos no siempre son confiables. El consejo de North Tyneside usó TransUnion para verificar las reclamaciones de desgravación fiscal municipal y de vivienda, los pagos de asistencia social a un número desconocido de personas se retrasaron cuando los «análisis predictivos» informáticos identificaron erróneamente las reclamaciones de bajo riesgo y de alto riesgo. Desde entonces, la autoridad local ha dejado de utilizar el sistema.

David Spiegelhalter, ex presidente de la Royal Statistical Society, dijo que hay «demasiada publicidad» sobre los sistemas de aprendizaje automático entre las autoridades locales. Pidió a los consejos que «pidan explicaciones fiables y transparentes sobre cómo funciona cualquier sistema, por qué llega a conclusiones específicas sobre las personas, si es correcto y si realmente ayudará en la práctica».

Silkie Carlo, del grupo de campaña Big Brother Watch, dijo que el uso creciente de dicho software está dejando a la gente vulnerable a «decisiones automatizadas … que no tienen idea y que no pueden desafiar».

También existe la preocupación de que los propios miembros de la junta no comprendan cómo funcionan los sistemas. Gwilym Morris, un consultor de gestión que trabaja con proveedores de TI del sector público, dijo que los líderes de las autoridades locales «realmente no entienden lo que está pasando».

También se plantearon preocupaciones sobre la privacidad y la seguridad de los datos, así como la falta de transparencia para el público al cuestionar las decisiones automatizadas sobre temas delicados.

El papel de la tecnología en las reclamaciones de beneficios ha sido objeto de controversia durante algún tiempo. Sky News informó en julio que el nuevo sistema de crédito universal empujó a los solicitantes a un portal en línea cuyas «reglas estrictas e inflexibles mostraban un sistema computarizado construido para decir ‘no'», escribió el corresponsal de tecnología Rowland Manthorpe.

–––––––––––––––––––––––––––––

–––––––––––––––––––––––––––––