Temperatura de la IA: qué cambian de verdad los ajustes

Un restaurador pide diez nombres para su nueva carta de otoño y recibe diez variaciones de «Sabores de otoño». Al día siguiente, le pide a una herramienta que extraiga los importes de las facturas de sus proveedores, y el formato cambia de una línea a otra. En el primer caso, querría más audacia. En el segundo, querría que la herramienta dejara de improvisar.

Estas dos necesidades opuestas dependen de un mismo parámetro: la temperatura. Para entender para qué sirve, basta un solo recordatorio: un modelo de lenguaje calcula probabilidades para la continuación del texto y luego elige una. Es el principio que describimos en nuestro artículo sobre el funcionamiento de un modelo de lenguaje.

Dónde se encuentran estos ajustes

Empecemos con una precisión que evita buscar en vano: en las aplicaciones de uso general, estos controles no suelen ofrecerse. Los encuentras más bien en los entornos destinados a desarrolladores, los «playgrounds» de los proveedores (Google AI Studio, por ejemplo) y en las llamadas a la API. En el momento de escribir estas líneas, es la situación más habitual, pero compruébalo en tu herramienta, porque las interfaces cambian a menudo.

Circulan consejos según los cuales bastaría con escribir «temperatura 0,2» en un chatbot. No cuentes con ello. Esa frase no toca el ajuste: como mucho, el modelo la interpreta como un deseo de sobriedad, igual que una instrucción cualquiera. La última sección muestra una forma más fiable de conseguir ese efecto.

La temperatura: prudencia o asunción de riesgos

Retomemos el mecanismo. El modelo quiere continuar la frase «Nuestro restaurante te ofrece una cocina...». Ve «tradicional» como muy probable, «abundante» como bastante probable, «parlanchina» como muy improbable.

Con una temperatura baja, la elección se concentra en las continuaciones más probables. La respuesta es sensata, regular, a veces plana.

Con una temperatura alta, las probabilidades se acercan: las continuaciones menos esperadas tienen su oportunidad. La respuesta se vuelve más variada, más sorprendente y también más expuesta a irse por las ramas o a la incoherencia.

La tabla resume los usos habituales. Son tendencias, que debes probar en tu propio caso.

La escala varía según los proveedores, de 0 a 1 en algunos, de 0 a 2 en otros, y un valor dado no tiene exactamente el mismo efecto de un modelo a otro. Algunos modelos recientes incluso restringen o ignoran este parámetro. Consulta la documentación antes de copiar un valor encontrado en un foro.

Hay dos errores que se repiten mucho.

Creer que una temperatura de cero hace que la respuesta sea verdadera. El ajuste influye en la variedad, nunca en la exactitud. Con temperatura nula, el modelo toma su continuación favorita, incluso cuando es falsa. Una información inventada puede, por tanto, volver idéntica en cada intento, lo que le da una falsa apariencia de solidez.

Creer que la hace perfectamente reproducible. Una temperatura muy baja reduce mucho las variaciones, pero no siempre las elimina. Algunas API ofrecen un parámetro seed para mejorar la repetibilidad, sin garantía absoluta.

Los otros ajustes con los que te cruzarás

Top-p limita la elección a las continuaciones más probables, hasta alcanzar una parte dada de la probabilidad total. Con 0,9, el modelo escoge entre las continuaciones que representan el 90 % de esa probabilidad e ignora las demás. El efecto se parece al de la temperatura, por eso las documentaciones suelen recomendar modificar uno u otro, no los dos.

La longitud máxima (a menudo max_tokens) pone un tope al tamaño de la respuesta. Corta el texto en seco una vez alcanzado el límite: el modelo no redacta por ello una respuesta más concisa. Para un texto corto y completo, pídelo en el prompt, siguiendo nuestros consejos para imponer un formato de respuesta. Si trabajas con documentos largos, ten presente también el límite que describimos en nuestro artículo sobre los tokens y la ventana de contexto.

Las secuencias de parada indican al modelo una serie de caracteres en la que debe interrumpirse. Sirven sobre todo a los desarrolladores que integran un modelo en una aplicación.

Las penalizaciones de frecuencia y de presencia, que ofrecen algunas API, desaniman la repetición de palabras ya empleadas. Pueden ayudar en textos largos que dan vueltas en círculo, pero no están disponibles en todas partes y su efecto sigue siendo difícil de prever.

La instrucción del sistema no es un ajuste numérico, pero suele encontrarse en las mismas pantallas. A menudo es la que más efecto tiene en el resultado.

Para un uso corriente, el orden de actuación es sencillo: mejora primero el prompt, ajusta después la temperatura y deja el resto por defecto mientras no tengas un problema concreto que resolver.

Conseguir el mismo efecto sin control deslizante

La mayoría de la gente no tiene acceso a estos parámetros, y no es muy molesto: el prompt permite ir en la misma dirección.

Para conseguir variedad, el prompt débil sería «Propón nombres para mi carta de otoño». El modelo produce entonces lo que ve como más probable. Oblígalo a explorar direcciones distintas:

Tengo [TIPO DE RESTAURANTE] en [CIUDAD]. Mi clientela: [DESCRIPCIÓN]. Busco un nombre para [LA CARTA O EL PLATO], que contiene [INGREDIENTES O IDEA].

Propón 12 nombres repartidos en 4 enfoques muy diferentes: poético, humorístico, de arraigo local y un enfoque inesperado de tu elección al que pondrás nombre.

Restricciones:
- menos de 5 palabras;
- evita las palabras [PALABRAS MUY VISTAS, P. EJ. SABORES, DELICIAS, TIERRA];
- que un camarero pueda pronunciarlos fácilmente en voz alta.

Para cada nombre, indica en pocas palabras qué evoca. Termina señalando los dos nombres más arriesgados y explica qué podría disgustar.

La ganancia viene de la obligación de buscar en otra parte: los enfoques impuestos y las palabras prohibidas descartan las continuaciones más esperadas. También puedes generar varias respuestas en conversaciones separadas y compararlas, lo que equivale a aprovechar la parte de azar en lugar de sufrirla.

Para conseguir regularidad, es lo contrario: reduce la libertad. Da un formato estricto, un ejemplo del resultado esperado y una instrucción para los casos ambiguos.

Extrae la información de la factura que aparece a continuación. Responde únicamente con una tabla con estas columnas, en este orden: Proveedor | Fecha (DD/MM/AAAA) | Número de factura | Importe sin IVA | IVA | Importe total.

Reglas:
- copia los importes tal como aparecen, sin recalcular;
- si un valor falta o es ilegible, escribe «NO ENCONTRADO»;
- no añadas ningún comentario.

Factura:
"""
[TEXTO DE LA FACTURA]
"""

Aun así, controla a mano las primeras extracciones y luego una muestra periódica. Si la necesidad se vuelve repetitiva y un programa debe leer el resultado, pasa mejor a una salida JSON estructurada.

La prueba que debes hacer con tu próximo prompt

Lanza tu prompt habitual tres veces, cada una en una conversación nueva, y compara las respuestas. Si se parecen demasiado cuando querías ideas, impón enfoques distintos. Si divergen cuando querías un resultado estable, estrecha el formato. En ambos casos, sabrás qué corregir sin tocar un solo control deslizante.