A finales de 2021, el Ejecutivo español anunció la creación de una agencia dedicada a vigilar el despliegue de esta tecnología para minimizar sus riesgos, la primera de este tipo en la Unión Europea (UE). La semana pasada, ‘El Mundo’ avanzó que la administración ultimaba adjudicar a ambas entidades la creación del sello nacional que servirá para certificar un desarrollo seguro, ético y de calidad de la IA en el país. Su oferta asciende a 1,64 millones de euros y es la más bien vista por Madrid, según los documentos de la licitación a los que también ha podido acceder este diario.

La Secretaría de Estado de Digitalización e Inteligencia Artificial (SEDIA), dependiente del Ministerio de Asuntos Económicos y Transformación Digital, ha confirmado a este diario que ha utilizado “un contrato de servicios” para externalizar en Deloitte y OdiseIA el encargo de fijar los criterios técnicos y desarrollar las herramientas para que las empresas españolas puedan obtener un sello que “avalará la calidad de los algoritmos, siempre de forma voluntaria”. Además, y no es menor, ambas organizaciones asesorarán al Gobierno con recomendaciones sobre la configuración de la AESIA –que estará situada en A Coruña– y su equipo supervisor.

Zorros vigilando el gallinero

Distintas organizaciones civiles han denunciado que la administración haya confiado en dos empresas externas para desarrollar este organismo público pionero. “Se habla mucho de una IA ética, pero se termina recurriendo a las empresas que desarrollan esa tecnología para que también implementen su regulación”, critica Judith Membrives i Llorens, técnica de incidencia en digitalización en Lafede.cat.

Para esos colectivos, la elección de Deloitte y OdiseIA es como poner zorros a vigilar el gallinero. La empresa de auditoría, una de las más grandes del mundo, tiene alianzas con proveedoras de servicios de IA como Google, Oracle o SAP, según indica su propia página web. “En democracia todos deberíamos poder auditar la IA y no que quede en manos de alguien que cobra de la misma empresa a la que audita. Esta forma de enfocar la gobernanza es muy peligrosa para los derechos humanos”, lamenta Simona Levi, fundadora de Xnet.

Por otro lado, OdiseIA es una asociación sin ánimo de lucro que, asegura, “vela por el uso responsable” de esta tecnología. Entre sus socios, entre los que también hay miembros de la sociedad civil, figuran auditoras como PwC o la misma Deloitte, pero también grupos como el consorcio de la industria española IndesIA, formado por gigantes como Telefónica, Repsol, Navantia, Airbus o Microsoft (que ha invertido más de 11.000 millones de dólares en OpenAI para integrar el popular ChatGPT a sus servicios). Su presidenta, Idoia Salazar, remarca a EL PERIÓDICO que OdiseIA es “totalmente independiente” y que aunque sus socios realizan aportaciones económicas para garantizar el mantenimiento de la asociación “no tienen ningún tipo de repercusión ni en el comité estratégico ni en ningún otro tema”.

Privatizar servicios públicos

Las organizaciones civiles consultadas denuncian el “ninguneo” del Gobierno y lo que ello puede suponer a efectos prácticos para la sociedad. “Desconfiamos de que Deloitte y OdiseIA sienten las bases de la regulación de la IA en España porque eso marcará mucho lo que se entiende por impacto social, discriminación o transparencia”, apunta Javier Sánchez Monedero, investigador en IA en la Universidad de Córdoba y miembro de Algorace. “Hay una falta de pluralidad clara: la mayoría de voces vienen del sector privado y no de movimientos feministas o antirracistas que pueden aportar otras visiones para resolver problemas de sesgos ya existentes”, añade Membrives.

La adjudicación también ha despertado malestar entre empleados del Estado, que denuncian que se contrate a una consultora para externalizar un proyecto que podría ser desarrollado por expertos internos. “Los funcionarios tecnológicos de la Administración General del Estado estamos de funeral. Externalizan el conocimiento y nos señalan como inútiles”, ha lamentado José Antonio García, subsecretario del Ministerio de Consumo, en Twitter.

Para Levi, esa realidad apunta hacia un problema mayor. “Cada vez hay funcionarios con competencias digitales porque no se invierte en actualizar ese perfil interno, sino en privatizar los servicios públicos, un fracaso absoluto. Tiramos el dinero fuera y no permitimos instituciones que estén a la altura. Que la administración no tenga competencias digitales es una lógica suicida”.