Un reciente informe del Observatorio Nacional de Tecnología y Sociedad nos informa que durante 2020 la adopción de la inteligencia artificial (IA) en las empresas españolas supera la media de la Unión Europea. Los datos proceden de la encuesta sobre tecnología de la información, la comunicación y del comercio electrónico que ofreció Eurostat en el mes de febrero de 2021.
Para precisar con datos podemos saber que la media de la UE en cuanto adopción de la IA en las empresas es del 6 % mientras que en España es del 7 %. Los países con un mayor porcentaje son Irlanda (20 %) y Malta (15 %). La cifra parece buena, pero en mi opinión estar a esos niveles considerando el PIB español, queda muy lejos de una posición honrosa.
En diciembre de 2020 se presentó la Estrategia Nacional de Inteligencia Artificial (ENIA), con el objeto de impulsar la adopción de la IA, de manera que España se encuentre en una posición destacada en Europa. Y es que nuestro país quiere arrancar y muestra de ello es la implantación de infraestructuras 5G y las distintas concentraciones tecnológicas especializadas en esta tecnología.
Uno de los focos en los que recae la esperanza es que la IA ofrezca un impacto positivo en el tejido productivo teniendo que ver con el incremento de la productividad y la mejora de la estructura laboral en distintos sectores económicos, incentivándose la creación de nuevos perfiles laborales, especializados y de alto nivel. También un esperanza para nuestros jóvenes.
Todos vamos conociendo las bondades que tiene la IA, pero para ser claros, tendremos que decir que también muestra ciertos problemas, no menores, y en este artículo trataremos uno de gran interés presente y futuro.
Hoy en día las IA abarcan determinadas herramientas inteligentes, pero son de naturaleza limitada, realizando gestiones de reconocimiento de imágenes o videos, control de patologías sanitarias, gestión automovilística, hasta detección de fraudes entre otros campos. Pero, a medida que la IA sea más inteligente y autónoma en algún momento del futuro es probable que comentan errores. Y esto es una cuestión que preocupa al sector empresarial sobre todo.
La problemática comienza cuando estos sistemas adquieren memoria y desarrollan sus propias gestiones, comenzando a hacer cosas que un fabricante o un usuario nunca quiso que hicieran, tampoco lo esperaban.
El poder de los algoritmos para tomar decisiones está cambiando la vida de los humanos, y hoy en día mantiene un riesgo significativo de discriminación. En algunos sectores ha aparecido la necesidad de garantizar que los sistemas de IA sean imparciales y esta necesidad se está volviendo cada vez más urgente, sobre todo en el sector público y en concreto en las órganos de control de seguridad.
En el sector financiero, a diferencia, existe una regulación mucho más estricta del uso de datos para la toma de decisiones, mientras que los gobiernos autonómicos y el central se encuentran en los comienzos de la gestión de la problemática.
Aunque el reconocimiento de las amenazas que la IA podría representar se está incrementando en todas las industrias, vemos que no existe una estructura de buenas prácticas cuando se trata de construir algoritmos responsables y respetuosos. En mi opinión, esto es realmente peligroso en la prestación de servicios públicos como la vigilancia y seguridad, de los cuales los ciudadanos no pueden optar por excluirse.
Un ejemplo de todo lo que estoy escribiendo lo tenemos en las fuerzas policiales o de seguridad que están aumentando rápidamente la adopción de tecnologías digitales. Las nuevas herramientas van desde tecnologías de visualización de datos hasta algoritmos que pueden detectar patrones de delitos potenciales e incluso predecir la probabilidad de que alguien reincida, eso si, sin certeza.
Sin embargo, si se adoptan sin las protecciones adecuadas, las herramientas de análisis de datos pueden tener consecuencias no deseadas. Actualmente se viene demostrado repetidamente que los datos policiales pueden estar sesgados y, a menudo, no representan la forma de atribución del delito. Como ejemplo podemos ver una información facilitada por el Ministerio del Interior del Reino Unido donde, quienes se identifican como negros o negros británicos tienen casi diez veces más probabilidades de ser detenidos o registrados por un oficial de policía que una persona blanca. Y a esto me refiero.
Un sistema de inteligencia artificial que se basa en este tipo de datos históricos corre el peligro de crear ordenes discriminatorias. Actualmente se están utilizando datos desactualizados y la tecnología presenta de manera desproporcionada datos discriminatorios.
Los problemas de estos algorítmicos también existen en otros servicios públicos. La ciencia de gestión de datos se aplica en todos los departamentos gubernamentales en las decisiones que se toman para el bienestar, la vivienda, la educación, suministros, finanzas o el transporte de los ciudadanos y confiar en datos históricos que están llenos de sesgos puede resultar peligrosos.
En mi opinión hay mucho en juego, ya que conseguir la confianza de los ciudadanos será clave para la apertura exitosa de la IA. Según los datos que se barajan a nivel europeo muestran que hasta el 60% de los ciudadanos se oponen actualmente al uso de la toma de decisiones con IA. La gran mayoría de los encuestados (83%) ni siquiera están seguros de cómo se utilizan dichos sistemas, lo que pone de relieve un problema de gran tamaño.
Sin duda alguna es mucho el beneficio que se puede obtener de los sistemas de inteligencia artificial si se implementan adecuadamente y responsablemente. De hecho los algoritmos podrían ser clave para identificar los sesgos humanos históricos y asegurarse de que se eliminen de las futuras herramientas en las tomas de decisiones.
Los próximos años se deberá exigir fuertes incentivos para asegurarse de que las organizaciones y empresas tecnológicas desarrollen sistemas de inteligencia artificial que cumplan con los requisitos para producir decisiones equilibradas y justas. Es posible que un algoritmo perfectamente justo y controlado aún no esté en la mira a corto plazo, pero la tecnología de inteligencia artificial pronto podría ser útil para poner a los humanos en otro nivel.