“Respecto a la IA veo una exageración tanto en lo positivo como en lo negativo”: Paola Villarreal

Por Héctor González

La mexicana Paola Villarreal (Ciudad de México, 1984) es considerada una de las cien mujeres más influyentes del mundo según la BBC. De formación autodidacta, la programadora es creadora de Data for Justice y ahora autora de Inteligencia Artificial. El nuevo cerebro electrónico (Ariel).

A lo largo del libro Villarreal revisa el desarrollo y la importancia que la IA ha tomado en nuestra vida cotidiano, pero no se queda ahí, propone ampliar el horizonte de su aplicación y llevarlo a los territorios del derecho, la ética y lo político.

¿Qué nos falta discutir o analizar alrededor de la Inteligencia Artificial?

Veo una exageración tanto en lo positivo como en lo negativo. Hay quien dice que todos los problemas de la humanidad se van a solucionar con la Inteligencia Artificial, pero también hay quién dice que ocasionará grandes conflictos. Me parecía necesario un libro que explicara su origen, cómo funciona de manera coloquial y cuál su impacto social pensando en el futuro. No se trata de caer en pánico, pero tampoco de tener un optimismo exacerbado.

Precisamente haces un recuento histórico que apunta a evitar caer en lo que Umberto Eco llamada apocalípticos e integrados.

El contexto histórico es fundamental para explicar que no es algo emergente. Internet o las ciencias de la comunicación llevan menos de ochenta años, pero desde sus inicios comenzaron a afectar nuestras vidas.

Entre lo que falta revisar en esta materia se encuentra el derecho y la ética.

La experiencia que hemos visto con internet nos dice que las leyes y el derecho jugarán el juego del gato y el ratón con la Inteligencia Artificial, es decir, la regulación siempre ha venido después del hecho. Hemos visto casos en que la AI es usada para determinar si una persona representa o no un riesgo para la sociedad y en ese sentido se determina su libertad. Cuando los algoritmos se usan para determinar si una persona tiene o no un derecho, se termina por favorecerlos o criminalizarlos. Si tu código postal pertenece a una colonia violenta, el algoritmo sin conocerte, ya te asignará un factor de riesgo más alto, aunque no lo seas alguien peligroso.

¿Le estamos delegando demasiado a la Inteligencia Artificial?

Sí, sobre todo respecto al acceso a los derechos, esto no solo tiene como consecuencia que el algoritmo brinde o niegue servicios o posibilidades, también le quita la rendición de cuentas a tomadores de decisiones como jueces, agentes de seguros o bancos. La IA se convierte en una especie de chivo expiatorio para que ellos se laven las manos.

 ¿Cómo percibes el tema en materia de información personal de los usuarios?

La gente ahora está en un valle, ya pasó el pico de interés por el Chat GPT. Las versiones actuales son más interesantes, pero incluso vemos que en las noticias se habla menos de esto. Me parece que es mayor el interés que genera que el número de usuarios que en realidad tiene, para muchas personas no resultó tan útil o lo siguen viendo como algo complicado.

Donde es un territorio fértil es en el terreno político…

Es verdad, se puede usar o de hecho se está usando para desinformar. Hace un par de semanas salió un video, hecho totalmente con Inteligencia Artificial, sobre una persona y las diferencias son casi imperceptibles.  Los modelos están avanzando a pasos agigantados, quizá en el próximo ciclo electoral ya veamos más videos de este tipo. Ahora corresponderá a los usuarios investigar y verificar la veracidad de este tipo de contenidos.

¿Realmente hasta donde se puede regular la IA sin afectar derechos como la libertad de expresión?

Esa es la gran pregunta. México se enfrenta al problema de que los desarrolladores de algoritmos nos están aquí, por lo tanto, no puede regularlos. Estados Unidos, en cambio, sí tiene la posibilidad de controlar OpenAI o Meta, o de exigir ciertas característicos. Lo que México puede hacer es exigir ciertos parámetros técnicos o éticos para permitir su importación, pero lo cierto es que la regulación se debe dar en las etapas previas a la puesta en venta o circulación de los programas. Lo ideal sería que ingenieros y CEO’s estuvieran conscientes del impacto que tendrá su desarrollo y que tuvieran una perspectiva ética, solo aquí entramos en otro dilema porque quién define la ética, cada sociedad o individuo puede tener una personal, es muy complejo.

Has trabajado en Creative Commons, ¿cómo se discuten estos temas al interior de estas empresas?

Creative Commons está promoviendo una licencia de uso para fines de entrenamiento de modelos porque muchas de las empresas usan imágenes del dominio público o con licencias CC BY para entrenar a sus modelos, tanto con texto como con imágenes. Si una empresa usa ese tipo de contenido y no da crédito está infringiendo la licencia. La pregunta ahora es cómo se puede mantener el Copyright o qué tipo de licencia se puede usar para proteger el contenido de aquel usuario que no quiere que su creación entre a un modelo de Inteligencia Artificial.

¿Qué punto estamos de nuestra relación con la IA?

Estamos en el inicio, creo que vendrá una aceleración todavía más fuerte. Cuando hace quince años Microsoft sacaba un producto que fallaba, tardaba tres años en lanzar una nueva versión, con la Inteligencia Artificial estos ciclos de desarrollo son y serán más cortos. Esto se ejemplifica muy bien con la primera versión de un Chat lanzado por Microsoft, a los veinte minutos se volvió racista, corregir estos problemas éticos les tomó casi cuatro años. Me parece que estaremos bombardeados por opciones y a los usuarios nos tocará elegir cuáles son realmente aquellas que nos solucionan la vida o nos perjudican.

¿Estamos preparados o educados para tomar las mejores decisiones?

No creo, en términos de desinformación la gente cae todo el tiempo. Hace falta cuestionar aquello que leemos o vemos. Todavía no estamos educados, pero supongo que esta aceleración impulsará la necesidad de estar mejor preparados, desafortunadamente en términos de Inteligencia Artificial aprenderemos a golpes.