Riesgos de la IA en arquitectura: alucina, no firma y no se hace responsable

Hace unos meses le pedimos a un modelo de lenguaje que nos confirmara el ancho mínimo de una escalera de emergencia según la normativa vigente en Asunción. Respondió al instante, con seguridad, citando un artículo y un número redondo. El problema es que ese artículo, con ese número, no existe: el modelo había fabricado una referencia normativa impecable, con el formato exacto de una cita real, para no dejar la pregunta sin responder. Lo detectamos porque alguien del equipo conocía la norma de memoria y le extrañó el número. Si nadie la hubiera conocido, esa cita inventada podía haber terminado en un memorial de cálculo, en un plano y, meses después, en una obra. Ese episodio resume mejor que cualquier discurso los riesgos de la IA en arquitectura: no son los de las películas, son estos, cotidianos y silenciosos, donde una respuesta plausible y falsa se cuela en el proceso porque del otro lado no había con qué verificarla.

Conviene decirlo sin el pánico de quienes creen que la IA viene a reemplazar al arquitecto y sin el entusiasmo de quienes la venden como si firmara planos. Es una herramienta muy potente que amplifica al que sabe usarla y hunde al que no puede controlar lo que le devuelve. Los riesgos reales no están en la tecnología en abstracto: están en cómo se la mete adentro de un proyecto con consecuencias construidas.

El riesgo técnico: alucinaciones que llegan a obra

Los modelos de lenguaje no consultan una base de datos ni razonan sobre normativa: predicen la palabra siguiente más probable a partir de patrones aprendidos. Cuando tienen datos suficientes, esa predicción coincide con la realidad. Cuando no los tienen —una norma local poco documentada, un cálculo específico, un dato de un fabricante regional— el modelo no se detiene ni avisa que no sabe: completa el hueco con lo que estadísticamente parece correcto. A eso se lo llama alucinación, y no es una falla ocasional que arregle la próxima versión: es una propiedad estructural de estos sistemas, reconocida por los propios investigadores de OpenAI, que en un trabajo de 2025 sobre por qué los modelos alucinan explican que el entrenamiento y la evaluación premian adivinar con seguridad por encima de admitir incertidumbre.

En arquitectura eso tiene un costo distinto que en otros oficios. Una alucinación en un texto de marketing se corrige releyendo; una en un valor normativo, un coeficiente estructural o una especificación de material no, porque el texto está perfectamente escrito y suena tan seguro como una respuesta verdadera. El error no se ve: se ejecuta. Y la cadena de un proyecto es larga —del anteproyecto al plano, de ahí a la compra y a la obra—, así que un dato falso que entra temprano y no se detecta termina en algo que hay que demoler. Vale acá la misma lógica que con cualquier consultor tecnológico: no se compra una promesa, se verifica un entregable, y sobre eso escribimos al detallar cómo elegir un consultor BIM que sabe en lugar de recitar.

El riesgo legal: la IA no firma ni responde

Supongamos que la IA acierta el noventa por ciento de las veces. El problema es que la responsabilidad no se reparte por porcentajes. Cuando un plano se presenta ante un municipio o un cálculo respalda una estructura, hay una firma abajo, y es la de un profesional matriculado. La IA no tiene matrícula, ni colegio profesional que la sancione, ni patrimonio que responda ante un daño. No firma nada. El que firma sos vos, y con la firma va la responsabilidad civil y, si hay víctimas, penal.

Esto es lo que más se malinterpreta del momento actual. Se habla de "delegar tareas en la IA" como si delegar la ejecución delegara también la responsabilidad, y no es así: podés delegar el borrador, nunca el criterio ni la responsabilidad por el resultado. Si un modelo te propone un predimensionado y vos lo firmás sin verificarlo, ante la ley no dimensionó la IA: dimensionaste vos, mal, usando una herramienta que no comparte tu responsabilidad, la ejecuta bajo tu control. Por eso la pregunta de fondo al elegir con quién proyectar no es qué herramientas usa el estudio, sino quién pone la firma y responde por lo construido, el mismo criterio que planteamos al hablar de cómo elegir un estudio de arquitectura para un desarrollo inmobiliario.

El riesgo de contexto: datos que no son los nuestros

Hay un tercer riesgo más difícil de ver porque no produce un error evidente, sino uno sistemático y silencioso. Los modelos grandes se entrenan mayoritariamente con datos del hemisferio norte: normativa estadounidense y europea, prácticas de climas templados, catálogos de mercados que no son el nuestro. Cuando le preguntás por una solución de envolvente o un criterio de ventilación, la respuesta más probable está sesgada hacia esa realidad, no hacia la de Asunción ni la de la región.

El resultado es sutilmente peligroso porque no alucina: contesta bien para otro lugar. Una aislación pensada para un invierno europeo, aplicada a nuestro clima cálido húmedo, puede ser innecesaria o contraproducente; un código de construcción de otro país presentado como universal induce a error a quien no conoce la diferencia. El sesgo no está en el dato puntual sino en el marco: el modelo asume por defecto un contexto que no es el nuestro. Y en arquitectura el contexto no es un adorno, es la mitad del problema.

La regla que usamos

De estos tres riesgos sale una sola regla operativa, y es simple: usamos IA únicamente donde podemos verificar el resultado con nuestro propio criterio. Si el equipo sabe lo suficiente como para detectar un error en la respuesta, la IA acelera el trabajo y vale la pena; si no puede juzgar si lo que devolvió está bien o mal, no es una herramienta, es una apuesta, y una apuesta no se firma.

En la práctica eso ordena los usos con claridad. Redactar el primer borrador de un pliego que después se revisa entero, ordenar información dispersa, explorar variantes de una planta que igual vamos a estudiar a mano, escribir código auxiliar que se prueba antes de correr: ahí la IA suma, porque el criterio humano queda arriba controlando la salida. Confiar en un valor normativo que nadie chequeó, aceptar un cálculo sin recalcularlo, tomar una cita como cierta sin ir a la fuente: ahí no suma, multiplica el riesgo. La línea no la traza la tecnología: la traza tu capacidad de verificar. Es también la diferencia entre lo que la IA hace hoy de verdad y lo que se muestra en una demo bien montada, una distinción que desarrollamos entera en qué es real y qué es demo en la IA aplicada a la arquitectura.

Postura

La IA no viene a reemplazar el criterio del arquitecto; viene a exponer quién lo tiene. En un estudio que sabe verificar, es un amplificador que acelera lo tedioso y libera tiempo para lo que importa. En uno que no puede controlar lo que le devuelve, es un generador de errores plausibles con formato profesional —la peor clase de error, porque no se nota hasta que está en obra. La herramienta es la misma; lo que cambia es el criterio del otro lado.

Por eso, cuando nos preguntan si usamos IA, la respuesta honesta es que sí, y que por usarla la tratamos como lo que es: un borrador que siempre pasa por un profesional que verifica y firma. Si vas a encarar un proyecto y querés trabajar con un estudio que sabe dónde la tecnología ayuda y dónde hay que desconfiar de ella, hablemos.