Por Juan Sebastián Arbona (*)
Más allá de los servidores
Durante varias jornadas participé de sesiones ejecutivas y técnicas con especialistas de Lenovo y NVIDIA en Carolina del Norte, y recorrí los laboratorios de ThinkStation, el Solutions Showcase y el AI Center of Excellence de Lenovo. Vi desde workstations capaces de ejecutar modelos de IA en un escritorio hasta infraestructura de data center diseñada para cargas a enorme escala.
Pero el aprendizaje más valioso no tuvo que ver con las máquinas. Tuvo que ver con una pregunta que cada vez llega con más fuerza a los directorios: ¿dónde conviene ejecutar la Inteligencia Artificial?
Parece una pregunta técnica, pero es económica y estratégica, porque toca de lleno tres problemas que las empresas ya están enfrentando.
Primer problema: el costo
Cuando una empresa empieza a usar IA en serio, la factura cambia de escala.
Una prueba de concepto o un asistente para un equipo chico tiene un costo acotado. Pero cuando la IA se integra en la atención a clientes, el análisis de documentos, el desarrollo de software o en agentes que ejecutan miles de operaciones por día, el gasto crece con cada consulta. Y en los servicios cloud, ese gasto se paga de forma continua, mes a mes, en dólares.
En el mundo de la IA, la unidad que explica ese costo es el token: cada pregunta y cada respuesta de un modelo consume capacidad de cómputo que alguien paga. Durante años dimensionamos la tecnología en procesadores, memoria o transacciones. Ahora hay que sumar una nueva variable a las cuentas.
Para cargas de uso alto y estable, ejecutar modelos sobre infraestructura propia puede volverse más conveniente que pagar todo el consumo como servicio. No es una regla universal: depende del caso, del modelo, del hardware y del nivel de uso. Pero la conclusión es clara: el costo de la IA dejó de ser un gasto operativo menor y pasó a ser una decisión de arquitectura.

Segundo problema: la privacidad de los datos
Para que la IA genere valor real, tiene que trabajar con la información de la empresa: contratos, datos de clientes, información financiera, procesos internos, conocimiento propio.
Y ahí aparece una pregunta incómoda: ¿qué información estamos dispuestos a enviar fuera de la organización?
Para muchas empresas, especialmente en sectores regulados como finanzas o salud, o en cualquier compañía que valore su información estratégica, esta no es una preocupación teórica. Es una condición para poder avanzar. Ejecutar modelos dentro de la propia infraestructura permite aprovechar la IA sin que los datos sensibles salgan de casa, y facilita cumplir con exigencias de seguridad, gobierno y regulación.
Tercer problema: cuando cada milisegundo importa
No todos los procesos toleran la misma demora. Una línea de producción, un sistema de control de calidad, una operación en campo o una aplicación que atiende clientes en tiempo real necesitan respuestas inmediatas, y no siempre pueden depender de enviar datos a un servidor a miles de kilómetros y esperar la respuesta.
Procesar cerca de donde se generan los datos, en la planta, en la oficina o incluso en el propio dispositivo, reduce la latencia, disminuye el tráfico de datos y permite seguir operando aun cuando la conectividad falla.
La respuesta: IA híbrida
Frente a estos tres problemas, la idea que más se repitió en las conversaciones fue la de Hybrid AI: combinar la nube, la infraestructura propia, equipos instalados cerca de donde se generan los datos (lo que en la industria se conoce como edge) y los dispositivos de los usuarios, usando cada alternativa según lo que necesite cada carga de trabajo.
No se trata de abandonar el cloud. Para muchos casos seguirá siendo la opción más simple, flexible y razonable. Se trata de dejar de pensar que todo tiene que ejecutarse en el mismo lugar.
Un esquema híbrido podría verse así: los modelos más grandes y los usos esporádicos, en la nube; los procesos de alto volumen y los que manejan información sensible, en infraestructura propia; y las tareas que requieren respuesta inmediata, lo más cerca posible de donde ocurren.
Por eso el debate ya no es cloud versus servidores propios. La pregunta es dónde tiene más sentido ejecutar cada carga de IA.
De data centers a fábricas de IA
NVIDIA usa un concepto muy gráfico para describir este cambio: la AI Factory. Así como una fábrica transforma materias primas en productos, una fábrica de IA transforma datos en inferencias, contenido y decisiones.
La analogía ayuda a pensar la IA como una capacidad productiva que se puede medir: cuánto produce, a qué velocidad, con qué consumo energético y a qué costo.
Pero una fábrica de IA no se construye comprando placas de video. Requiere integrar cómputo, redes, almacenamiento, seguridad, monitoreo y herramientas para operar todo el conjunto. Y, sobre todo, requiere tomar buenas decisiones sobre qué problema se quiere resolver.
El hardware es solo una parte
Por eso una de las experiencias que más valoré fue conocer a los equipos que trabajan detrás de esa infraestructura. El AI Center of Excellence de Lenovo acompaña a las organizaciones para entender sus casos de uso, hacer pruebas, medir rendimiento y diseñar la arquitectura adecuada. El objetivo es concreto: que los proyectos de IA pasen del piloto a producción con menor riesgo.
Comprar infraestructura es relativamente sencillo. Lo difícil es decidir qué modelo usar, dónde ejecutarlo, cómo preparar los datos, cómo dimensionar la inversión y cómo operarla de forma eficiente. Ahí es donde se juega el retorno.
Ese rol de acompañamiento, que en Carolina del Norte ocupa un centro de excelencia global, es el que también hace falta a escala local. Las empresas medianas de nuestra región no necesitan un laboratorio en Estados Unidos, pero sí necesitan a alguien que entienda su negocio, sus datos y sus restricciones, y que las ayude a decidir qué arquitectura tiene sentido para cada caso. Es el trabajo que hacemos desde Quinto Impacto, y es donde vemos que hoy se define el éxito o el fracaso de un proyecto de IA.
De experimentar a industrializar
En los últimos años las empresas experimentamos muchísimo con IA: probamos modelos, armamos asistentes, hicimos pruebas de concepto. Ahora empieza otra etapa: industrializarla.
Eso significa integrarla con procesos reales, conectarla con los datos de la organización, garantizar seguridad y gobierno, controlar costos y lograr que cientos o miles de personas la usen de manera confiable. Todavía hay una distancia grande entre que una tecnología funcione en una demostración y que genere valor de forma consistente en una organización. Y en esa distancia es donde las decisiones de infraestructura empiezan a pesar.
¿Qué significa esto para las empresas de Mendoza?
Podría parecer un tema de grandes corporaciones de Estados Unidos, pero no lo es. Mendoza tiene empresas de software, energía, industria, vitivinicultura, agro, salud y servicios profesionales que ya están incorporando IA en distintos niveles.
En Quinto Impacto lo estamos viendo en proyectos concretos. Una empresa del sector biotech comenzó con un asistente en la nube y, al escalar tanto la cantidad de consultas como el volumen y la diversidad de las fuentes de datos que debía procesar, tuvo que replantear dónde ejecutar el modelo, tuvo que replantear dónde ejecutar el modelo.
Lo mismo ocurre en el desarrollo de productos basados en IA. Al principio, apoyarse en servicios de nube es la forma más rápida de experimentar, entrenar modelos y acelerar las primeras etapas. Pero a medida que crecen el volumen de datos, la cantidad de análisis y las necesidades de procesamiento, aparecen otras variables: el costo de ejecutar modelos de manera intensiva, la protección de la información sensible y la necesidad de procesar más cerca de donde se generan los datos.
Ese tipo de decisiones, que hace un año parecían reservadas a las grandes corporaciones, hoy aparecen en empresas medianas de nuestra provincia. Y conviene que lleguen a tiempo a la mesa directiva, con algunas preguntas concretas:
¿Cuánto nos va a costar la IA cuando su uso escale, y en qué moneda?
¿Qué información estamos enviando fuera de la empresa?
¿Qué procesos necesitan respuestas inmediatas?
¿Qué modelos podríamos ejecutar en nuestra propia infraestructura?
¿Qué conviene seguir contratando como servicio?
¿Qué necesitamos para pasar de un piloto a una operación confiable?
Las empresas que se hagan estas preguntas a tiempo van a poder escalar la IA con costos previsibles y control sobre sus datos. Las que no, probablemente las descubran cuando llegue la factura.
De Carolina del Norte a Mendoza
Volví del Research Triangle con muchas ideas y también con nuevas preguntas.
Mi trabajo me permite mirar este tema desde dos lugares muy distintos. En BYMA, donde lidero el desarrollo de software, estamos incorporando Inteligencia Artificial sobre infraestructura crítica del mercado de capitales argentino, y lo hacemos en uno de los entornos más exigentes que existen: donde la seguridad, la regulación y el control sobre los datos no son opcionales. Esa combinación nos obliga a estar a la vanguardia, porque no alcanza con adoptar la tecnología; hay que hacerlo con estándares que muy pocas organizaciones del país necesitan cumplir. Ahí, preguntas como qué información puede salir de la organización o dónde debe ejecutarse cada proceso no son teóricas: forman parte de cada decisión que tomamos.
En Quinto Impacto, una empresa mendocina de transformación digital, acompañamos a organizaciones de la región en la incorporación de Inteligencia Artificial, desarrollo de software y sistemas de gestión. Y comprobamos que las preguntas que se discuten en Carolina del Norte no son ajenas a nuestra realidad.
No necesitamos replicar Silicon Valley para aprovechar esta tecnología. Necesitamos desarrollar la capacidad de decidir dónde, cómo y para qué utilizarla. La oportunidad no está solo en consumir Inteligencia Artificial, sino en generar talento, conocimiento, productos y servicios alrededor de esta nueva capa tecnológica.
La primera discusión fue qué podíamos hacer con la Inteligencia Artificial. La que viene es más profunda: cómo usarla, operarla y escalarla de manera segura y económicamente sostenible.
Después de lo que vi en Carolina del Norte, creo que buena parte de la respuesta estará en arquitecturas que combinen nube, infraestructura propia, edge y dispositivos, cada una donde tenga más sentido.
La próxima etapa de la Inteligencia Artificial no será solamente más potente.
Será híbrida.
(*) Juan Sebastián Arbona
Juan Sebastián Arbona es cofundador de Quinto Impacto, empresa mendocina de transformación digital con certificación B, que acompaña a organizaciones en la incorporación de Inteligencia Artificial, desarrollo de software e implementación de sistemas de gestión. Es además Owner de Tecnología en Bolsas y Mercados Argentinos (BYMA) y cuenta con más de 20 años de experiencia como arquitecto de software.




Los comentarios están cerrados.