La IA es complicada

Son los mejores y peores tiempos. Es el milagro de la IA. Que un/una joven se plantee en qué debe formarse para ser empleable. Que una empresa no sepa qué perfil contratar

Dice la madrina de la IA contemporánea que la IA es complicada.  Fei-Fei Li contribuyó con una de sus piezas, un conjunto de datos Big data para el reconocimiento de imágenes. Eso le ha permitido ver que no se trata de una tecnología más. Que estamos antes una tecnología de gran impacto. El desafío superior que ocupa a esta experta es el foco humanista en la IA. Yo en cambio quiero hablar de un subdesafío: la colaboración de la IA en los negocios hoy. En concreto de un reto práctico: ¿qué perfil contrato? ¿qué estudios o formación recomiendo hoy a los y las jóvenes? ¿necesito tecnólogos? ¿ingenieros? ¿deben de saber programar o ya no es necesario?

Escaleras de acceso a las puertas del tiempo. Fotograma de la Serie de TV «El ministerio del tiempo».

La magia de la IA

Vivimos en un punto de inflexión de la misma dimensión que las grandes revoluciones industriales (recuerda el motor de vapor, la electricidad, el ordenador e Internet). La prueba de que son tiempos extraordinarios la ilustró recientemente Jensen Huang en el foro de Davos. El director de Nvidia, la empresa de moda porque suministra los componentes de computación en esta revolución hizo una interesante intervención (ver el video, minuto 18:34). Describió la naturaleza de este momento único como “el milagro la IA [que] ha cerrado la brecha tecnológica entre países y empresas”. Afirmando que “por primera vez cada empleado de una empresa puede imaginar que es un tecnólogo”. Explica que el milagro consiste en que un/a joven no tendrá que aprender a escribir código (en contra del objetivo que se habían marcado los países). En lugar de con código la forma de interaccionar con los ordenadores será la humana, la que usamos para comunicarnos (ej., diciéndoles lo que quieres usando los famosos “prompts”).

Puede que el director de Nvidia tenga razón sobre la obsolescencia de la programación en la lista de habilidades en el perfil tecnológico. El conoce de primera mano lo que la IA puede hacer sola capaz de producir rápidamente soluciones a problemas complejos. Pero me surgen dudas sobre si eso significa la muerte de la programación. En otro lugar de este blog ya expliqué que es algo más que aprender un lenguaje es una forma de pensar.

Dicen los ingenieros de software que la IA es complicada lo que me sirve para cuestionar todo el ruido alrededor de que la IA es fácil.  Ellos son los que trabajan llevando a producción conceptos basados en la IA en diferentes negocios. Como ejemplo de complejidad ponen los costes tecnológicos ocultos propios del ciclo de desarrollo software. Algo que está aparte del hardware. Quienes hemos trabajado en desarrollo software lo conocemos bien. Pues bien, empiezan a estar preocupados por la complejidad de orquestar el desarrollo software cuando a éste se le añade las dependencias entre los datos o la calidad de las fuentes.

Lo engañoso de la magia de la IA

Hay muchas cosas que gestionar para que un producto pase a producción con las funciones acordadas como objetivos comerciales con el área de negocio. La existencia de problemas de código es inherente al proceso de desarrollo software. Es un compromiso que los CTOs conocen como deuda técnica (del inglés “tech debt”) que no paran una producción, pero sí la condicionan en coste, tiempo y calidad.

Desarrollar software en el nuevo escenario significa, por ejemplo, que los datos que necesita tu software están en una tabla de una base de datos que cambia a una ristra continua en otra base de datos sin tú saberlo. ¿Quién debe orquestar el control de esas versiones, formatos, etc.? He pensado en esto a raíz de la divulgación de todas las “cajas” que se necesitan para un proyecto tipo de IA generativa en un negocio. Es decir, uno que no se limita a conectar chatgpt en abierto.  El diagrama lo ha hecho el ingeniero de sistema Eduardo Ordax (Amazon) para divulgar los costes tecnológicos ocultos de la IA generativa (la deuda técnica de un proyecto con IA). Si las agrupamos por importancia la del modelo de IA es la más pequeña, hay piezas que van desde la validación del modelo, la generación de “prompts” hasta la monitorización, la mejora con intervención humana, con retroalimentación, pasando por temas éticos, de sesgos, salvaguardas de seguridad, etc.

Recomendación a los/as jóvenes que se forman

Ignorar la deuda técnica de la mágica IA generativa puede confundir a quien tiene que tomar decisiones sobre el coste real y el tiempo necesario para construir tales productos de forma sostenible.  Volviendo a la cuestión inicial de qué tipo de formación recomiendo a los jóvenes hoy teniendo en cuenta los posibles escenarios de cambio y las nuevas demandas de conocimientos. Quizá el éxito rápido que promete la IA se engañoso. El conocimiento en campos como la ingeniería, la biología, la economía, la educación, matemáticas, etc. siguen siendo necesarios.  Fei-Fei estudió física antes de pasarse a la investigación para crear después su modelo computacional de desarrollo para la IA. Su reciente libro “The Worlds I See: Curiosity, Exploration, and Discovery at the Dawn of AI” (en mi lista de libros por leer) es una crónica de la curiosidad por el conocimiento, el que se necesita para vivir y para trabajar (el libro es en parte unas memorias), y también, nos avisa, un libro para aprender lo que es la IA.

Hasta Jensen reconoce que es necesaria gente que entienda los problemas de su campo de conocimiento (biología, educación, fabricación, agricultura…) para poder dar órdenes a la IA.

Ayer y hoy

Es interesante pensar más sobre lo que completa la imagen del cambio. Las respuestas de la IA son sencillas, pero la complejidad de los problemas a los que se enfrentan negocios y gobiernos es grande. Si alguien de hace más de un siglo, por ejemplo, algún testigo de la revolución de las primeras cadenas de producción tuviera delante de sí a chatgpt le plantearía problemas diferentes a los que nos planteamos hoy. Pero entonces y hoy la formación en ciencias y artes es lo que alimenta las preguntas que nos hacemos. Al menos eso me gusta creer.

1 comentario en «La IA es complicada»

  1. Un apunte reciente sobre la tendencia de IA que razona. Es decir, un paso más sobre la tendencia de producir código.

    ¿Cómo de bien pueden los modelos de lenguaje (LLM) resolver un problema encontrado en un código? ¿Estamos sobrevalorando el corto plazo pensando que la IA razona?

    La empresa de IA Cognition ha creado un agente autónomo al que ha llamado Devin, el ingeniero software. Lo interesante es que ha comparado su destreza con la de chatgpt y otros modelos al hacerle pasar un test conocido como SWE-Bench coding. Una especie de prueba de acceso para ingenieros de software en la que hay que depurar el código de un programa, uno real que hay en el repositorio de código libre de la plataforma Github, y encontrar un parche (una solución).

    La tasa de problemas resueltos está lejos del 5% para Chatgpt4, se acerca Claude (de Anthropic), pero, supera el 13% con Devin (de la empresa Cognition).

    https://www.linkedin.com/posts/cognition-ai-labs_we-are-an-applied-ai-lab-focused-on-reasoning-activity-7173325502181543936-9eN5?utm_source=share&utm_medium=member_desktop

Deja un comentario