VALÈNCIA. La Generalitat Valenciana ha lanzado este miércoles su nuevo registro de algoritmos, una herramienta que recoge los detalles de aquellos sistemas informáticos automatizados usados desde la istración autonómica en la toma de decisiones sensibles. En este sentido, y según ha explicado el secretario autonómico de Relaciones Institucionales y Transparencia, Santiago Lumbreras, durante el acto de presentación de este recurso, se trata de un proyecto “pionero en España en el ámbito de la inteligencia artificial aplicada a la gestión pública” que nace con el “claro propósito” de que el uso de algoritmos sea “claro, accesible y supervisado”.

El registro, que tiene por nombre GVA ConfIA y está alojado en el portal de transparencia de la Generalitat Valenciana (GVA Oberta), ofrece así información como el nombre comercial del algoritmo y de la empresa distribuidora, una descripción de su finalidad, una evaluación de sus riesgos, posibles sesgos y datos personales implicados, y medidas de control. Por ahora, la herramienta ha arrancado como un proyecto piloto con seis algoritmos de carácter sanitario, educativo y ambiental, aunque se espera incorporar más en las próximas semanas y que se llegue a la veintena antes de terminar el año.

Lumbreras ha destacado que la herramienta servirá para “fortalecer la confianza” de la ciudadanía en la istración Pública valenciana y que será, previsiblemente, un “ejemplo” para el resto de comunidades autónomas, ya que el gran grueso de ellas, salvo excepciones contadas como el caso del País Vasco, no cuentan todavía con un registro de este tipo. De este modo, ha señalado que este recurso se convierte “en la piedra angular” de la política en materia de algoritmos de la Generalitat Valenciana.

“La inteligencia artificial plantea desafíos éticos y sociales”, ha corroborado Lumbreras, quien ha añadido que desde el Consell se decantan “por un área responsable, explicable y al servicio del interés público”. En la misma línea, y durante un acto de presentación enmarcado en la celebración de la Semana de Gobierno Abierto, ha insistido en que el propósito de este registro es que la ciudadanía “sepa cuándo se utiliza un algoritmo, con qué finalidad, qué datos lo alimentan y qué garantías existen para evitar sesgos o decisiones injustas”.

Al mismo tiempo, el director general de Transparencia y Participación, José Tárrega, ha detallado que GVA ConfIA es un registro vivo que irá ampliándose y mejorando “para contemplar los avances jurídicos” que puedan producirse en materia de algoritmos e inteligencia artificial. Así, está prevista la futura incorporación al proyecto de los procesos automatizados del sector público instrumental y la inclusión de cláusulas específicas en los contratos públicos para garantizar la transparencia algorítmica.

“La IA genera sesgos y prejuicios, y vamos a combatirlos mediante la transparencia”, ha argumentado Tárraga, quien ha asegurado que se debe aceptar que hay “máquinas que toman decisiones autónomamente sin participación o con una mínima participación” del ser humano, como sucede, por ejemplo, con el reconocimiento automático de infracciones de tráfico y su asignación a la persona responsable mediante la identificación de las matrículas, el cálculo de las liquidaciones tributarias o los chatbots. “La istración toma decisiones automáticas constantemente”, ha añadido.

Tal y como ha expuesto Tárrega, el registro de algoritmos ha sido desarrollado junto a la Conselleria de Sanidad, la Conselleria de Innovación, la Universitat de València (UV), la Universitat Politècnica de València (UPV) y la Dirección General de Tecnologías de la Información (DGTIC). Asimismo, y sobre la publicación de la herramienta en una fase de proyecto piloto y con unos seis algoritmos iniciales, ha afirmado que era importante presentarlo ya para “empezar a testearlo” cuanto antes para detectar posibles mejoras.

Sanidad, Universidades o Medioambiente

Entre los primeros algoritmos que ya pueden consultarse en GVA ConfIA, figuran por ejemplo varios de carácter sanitario y utilizados para la detección de anomalías como fracturas o dislocaciones en radiografías de rayos X, o la identificación y clasificación de zonas sospechosas de cáncer de mama que aparecen en las mamografías.

Por la vertiente del medioambiente, aparece una aplicación que recibe información de los sensores de calidad del aire presentes en las estaciones de la Red Valenciana de Vigilancia de Control de la Contaminación Atmosférica y calcula los índices al respecto para después publicarlos.

Además, se ha incluido igualmente en el registro el algoritmo que adjudica de manera objetiva y automática las plazas universitarias dotando de imparcialidad al sistema y evitando cualquier tipo de injerencia externa.