Sin darnos cuenta, los algoritmos influyen en las decisiones que tomamos diariamente. Y es que estos algoritmos no son neutros, así como los datos que sirven para entrenarlos. Diariamente recibimos información afín a nuestros gustos y preferencias, lo que nos plantea la cuestión de si realmente vivimos en una burbuja de felicidad. Hablamos del impacto de la IA en nuestro día a día con Karma Peiró, periodista especializada en TIC, Cofundadora de VIT (Visualization for Transparency Foundation) y coautora del informe ‘Inteligencia Artificial en Catalunya con la Autoridad Catalana de Protección de Datos: Decisiones automatizadas’. En la siguiente entrevista responde a preguntas que nos hacemos cada vez más: si los algoritmos tienen sesgos, ¿por qué los usamos? ¿cuáles son los principales riesgos de la IA, sobre todo a nivel de marco ético? ¿qué información no dan los medios de comunicación sobre IA?
La irrupción de la IA ha dado lugar a una revolución sin precedentes de los datos. ¿En qué momento estamos y hasta dónde podemos llegar?
Estamos en el inicio de lo que podrá verse en los próximos años con esta IA generativa, que ya nos ha demostrado varias cosas, de pasar del buscador Google a una conversación con la máquina. Da la sensación de que hay alguien humano detrás de esas respuestas. Pero también lo hemos visto con otros productos y otros softwares donde se pueden crear imágenes muy fidedignas, muy reales, y herramientas como el ChatGPT y otras similares que permiten obtener un producto audiovisual. Esta es la principal diferencia de ahora con respecto a hace años: que con solo una pequeña definición podemos crear un escenario nuevo que no existía. Y en el ámbito de la producción audiovisual encontramos muchas soluciones basadas en IA, como por ejemplo la producción de películas en IA.
En cuanto al impacto de la IA en nuestra vida cotidiana, ¿cuál sería el cambio más significativo en tu opinión? Y a cinco años vista, ¿te aventuras a pronosticar algún cambio importante?
En el presente ya ha habido muchos cambios que han pasado desapercibidos. Actualmente, prácticamente todo el mundo utiliza IA a través de su teléfono móvil. Sin duda, la IA nos hace la vida más fácil, y más divertida incluso. También ha irrumpido en otros ámbitos de nuestra vida, como en el ámbito laboral, en los hospitales, en el ámbito financiero. Por ejemplo, la IA ha sido de gran ayuda para gestionar el día a día de empresas. Ahora es el momento de repensar qué IA queremos para los próximos años. Hemos tenido diferentes ejemplos del riesgo que comportan estas tecnologías y también numerosos ejemplos de ventajas. Para mí eso es más importante que hacer vaticinios. Es algo muy potente, que tenemos en nuestras manos, pero dónde queremos que nos lleve.
¿La IA dará lugar a una sociedad más justa?
Es una pregunta trampa porque, ¿qué quiere decir justo? Cada persona puede entender la justicia de una manera diferente. Y aunque los jueces apliquen leyes, puede que no sean justos. También en ideologías políticas, cada uno entiende la justicia de una manera diferente. Con ello quiero decir que los diferentes productos que utilicemos en nuestro día a día basados en IA no siempre van a ser justos, va a depender mucho de los objetivos que hayan detrás, de quien haya desarrollado esa IA.
Si nos remontamos a 25 años atrás, también se decía que internet iba a hacer una sociedad más justa y democrática donde el acceso a la información iba a dar más conocimiento, iba a dar más posibilidades y recursos a personas de países donde siempre se les ha discriminado, y no siempre ha sido así. De ahí lo importante que es definir qué queremos hacer con esta tecnología. Porque si hace 25 años hubiéramos considerado de manera estándar lo que es hoy justo no estaríamos pensando en las desigualdades que hay en internet, no solamente a nivel de infraestructuras -hay muchos países que todavía no tienen las infraestructuras necesarias para tener un acceso sencillo-. Aquí mismo, en Europa, hemos visto en el período de pandemia desigualdades en cuanto al acceso a internet, porque había familias sin ordenador. Y también hay desigualdades derivadas de gobiernos que son más controladores.
¿Crees que vivimos en una burbuja de felicidad? Obtenemos la información que más nos gusta. ¿En qué sentido vivimos una realidad ficticia?
Esto es lo que se conoce como burbuja digital, los algoritmos que hay detrás de las redes sociales, que nos acompañan 24 horas al día. Y más que decir que vivimos en esa burbuja, yo diría que nos escondemos en esa burbuja. Porque sí que tenemos un montón de canales de información donde nos explican qué está ocurriendo. Tenemos más información que nunca para contrastar y verificar, además de la desinformación que también recibimos. Pero tenemos la capacidad para hacer ese análisis y poder contrastar información. Las redes sociales nos muestran aquello que encaja mejor con nuestros gustos, nuestras relaciones personales, nuestros intereses profesionales. A las tecnológicas que hay detrás de las redes sociales ya les interesa, nos tienen enganchados a su contenido las 24 horas, lo que a su vez provoca que tengan más ingresos. Para no estar siempre escondido en esa burbuja hay que ser autocríticos, saber lo que nos gusta y lo que no, qué contenido merece más tiempo que otro, y explorar otros contenidos.
Muchas empresas siguen explorando los beneficios que tiene la IA, sobre todo a nivel de optimización de procesos. Pero algunas son todavía reticentes. ¿Por qué algunas no se atreven a dar este paso?
Una de las barreras principales de las empresas es la complejidad que supone formar a todo el personal para que utilice correctamente la IA y conseguir procesos más eficientes a través de esta herramienta. Hay desconocimiento e incertidumbre sobre su uso. Muchos CEOs se formulan las siguientes preguntas: “¿Me va a salir rentable comprar este producto que ahora sale muy caro, que no se utiliza aún mucho y que no tengo claro cómo me va a ayudar en mi negocio?”. Estamos viviendo un momento atractivo de testear la IA en todos los ámbitos.
El mensaje que daría a todas las empresas que quieren entrar en este mundo es que tuvieran muy en cuenta desde el inicio las cuestiones éticas. Si la herramienta te va a permitir ser más eficiente en tu entorno laboral perfecto, pero si puede perjudicar al personal que tienes en la empresa o a otras personas fuera de la empresa, como a tus clientes, piensa qué datos estás recogiendo de ellos, con qué propósito, verifica las diferentes versiones de la herramienta que vas a utilizar. Que tengan en cuenta todos estos aspectos no ya cuando estén utilizando la IA sino antes.
La tendencia es que la IA siga transformando el mundo empresarial, más allá del impacto en el mercado laboral.
Así es. Pero esto también choca con el otro gran problema en el ámbito global, que es el medio ambiente. Se habla cada vez más en congresos y cumbres internacionales sobre las medidas que preserven el medio ambiente. Sin embargo, la implantación de la IA sigue avanzando a un ritmo vertiginoso sabiendo que consume mucha energía. Por tanto, si cada vez hay más empresas que van a utilizar la IA en diferentes sectores deberemos producir una IA que vaya acorde con nuestros principios y prioridades de respecto al medio ambiente. Y eso también es una prioridad para los próximos años, porque si no estaríamos hablando de una contradicción.
Se habla cada vez más en los medios de comunicación sobre la IA. ¿De qué no se habla?
Yo encuentro a faltar que se explique mejor el funcionamiento de los algoritmos, sobre todo, si un algoritmo puede perjudicar a personas o colectivos concretos. Por ejemplo, una IA que se implanta desde un ayuntamiento, o desde un gobierno autonómico, o en un banco, en un hospital, en una escuela… Cada vez vemos más este tipo de aplicaciones y hay que pensar en las personas. También es cierto que es muy difícil explicar bien el funcionamiento de los algoritmos, porque ello requiere emprender una investigación que puede llevar meses. Pero las pocas investigaciones que tenemos hasta ahora nos han hecho ver los errores gravísimos que se han cometido con la IA. Yo desde los medios animaría a que se llevaran a cabo estas investigaciones para explicar mejor su funcionamiento. Y exigir explicaciones a gobiernos, empresas y cualquier otra organización o entidad que haya aplicado la IA. Porque hay una opacidad que dificulta realizar todas esas investigaciones.