Lo que tu agente de IA nunca debería hacer (y cómo enseñárselo)

Un agente, en este artículo, es un asistente de IA que responde con tus reglas: una tarea tuya, tus instrucciones y tus ejemplos, guardados para usarlos cada vez. No hace falta programar para armarlo. Lo que sí hace falta es saber escribir esas reglas, y las más difíciles de escribir son las que marcan lo que no se hace.

Por qué un «nunca» casi nunca alcanza

Cuando una persona con experiencia arma sus primeras instrucciones para la IA, suele llegar a una lista parecida a esta: «nunca prometas fechas», «nunca uses un tono informal», «nunca des información de otra persona». Son límites razonables. El problema es cómo están escritos.

Un «nunca» le dice a la IA qué evitar, pero no le dice qué hacer cuando llega a ese punto.

Y cuando la IA no sabe qué hacer, completa el hueco con lo más probable: lo que haría cualquiera en esa situación, no lo que harías vos.

La documentación de Anthropic sobre cómo escribir instrucciones lo dice de forma directa: conviene decirle a la IA qué hacer en lugar de qué no hacer. Su ejemplo es simple. En vez de «no uses formato markdown», funciona mejor «escribí tu respuesta en párrafos de prosa que fluyan». La misma guía agrega que explicar el porqué de una instrucción ayuda a que la IA entienda el objetivo y dé respuestas más ajustadas: «nunca uses puntos suspensivos» funciona peor que «tu respuesta la va a leer en voz alta un sistema de texto a voz, así que nunca uses puntos suspensivos, porque no sabría cómo pronunciarlos».

Con el porqué, la IA puede aplicar el límite también en casos que no estaban en la lista.

Dónde están tus límites (aunque nunca los hayas escrito)

Los límites de una tarea no suelen estar en ningún manual. Se aprendieron con los años, muchas veces después de un error. Tres lugares donde aparecen:

• Lo que corregís siempre. Si cada vez que alguien nuevo hace esa tarea le marcás lo mismo, ahí hay un límite.
• Lo que le advertirías a quien te reemplaza. «A este tipo de consulta no se le responde por escrito», «esto se confirma antes de enviarlo».
• Lo que salió mal alguna vez. Una promesa que no se pudo cumplir, un dato que no se tenía que compartir, un tono que cayó mal.

Escribí esa lista tal como te salga. Después la vas a transformar.

Cómo convertir un «nunca» en una regla que se cumple

1. Nombrá lo que no querés

   Empezá por el límite tal como lo pensás: «No prometas fechas». Es el punto de partida, no la instrucción final.

2. Explicá por qué importa

   «Las fechas dependen de otras áreas, y una fecha incumplida cuesta más confianza que una respuesta prudente.» Con esto, la IA entiende el riesgo y puede reconocerlo aunque la consulta venga formulada de otra manera.

3. Decí qué hacer en su lugar

   «Ofrecé una fecha estimada y aclará de qué depende.» Este es el paso que más se olvida y el que más cambia la respuesta: la IA ya no tiene que adivinar qué poner en el lugar de lo que no puede hacer.

4. Mostrá un ejemplo bien resuelto

   Un caso tuyo que salió bien, sin nombres ni datos personales. La guía de Anthropic dice que los ejemplos son una de las formas más confiables de orientar el formato, el tono y la estructura de la respuesta, y recomienda que sean parecidos a la tarea que van a resolver y variados entre sí.

Un ejemplo completo: antes y después

Supongamos una docente que arma un asistente para responder consultas de estudiantes sobre entregas.

La versión de después es más larga, y por eso funciona: cada límite viene con su porqué y con lo que la IA tiene que hacer en su lugar.

Los límites que no se negocian

Decir las cosas en positivo no significa esconder los límites éticos. Esos se escriben de forma explícita, y conviene que estén al principio:

• No incluir datos personales de otras personas en las respuestas.
• No tomar decisiones sobre personas (una selección, una evaluación, una sanción): preparar la información para que decida quien corresponde.
• Avisar cuando no está segura de algo, en lugar de suponerlo.

Hay una razón concreta para cuidar el segundo punto. En un experimento con 758 consultores, quienes usaron IA en tareas para las que la herramienta estaba preparada terminaron más tareas, más rápido y con mejor calidad. Pero en una tarea fuera de ese alcance, tuvieron 19 puntos porcentuales menos de probabilidad de llegar a la solución correcta que quienes no la usaron (Dell'Acqua y otros, Harvard Business School, 2023).

Tu criterio es lo que te avisa cuando una tarea está del otro lado de esa frontera.

Cómo saber si tu agente aprendió el límite

Un límite escrito no está probado hasta que lo ponés a prueba. Tres pruebas simples:

• El caso que tienta. Escribí una consulta pensada para que la IA cruce el límite: «Necesito saber la nota ya, ¿me la podés adelantar?». Mirá qué responde.
• El caso disfrazado. La misma situación con otras palabras. Si el límite solo funciona con la frase exacta, falta el porqué.
• La corrección que se repite. Cada vez que tengas que corregir algo dos veces, convertilo en una regla nueva con su porqué. Así tus instrucciones mejoran con el uso.

Si querés empezar por el método completo de una tarea, y no solo por sus límites, en «Antes de usar IA, escribí tu método» están las preguntas para escribirlo con un ejemplo de punta a punta. Y si lo que te preocupa es cómo se incorpora la IA en tu organización, en este artículo sobre la adopción de IA en las empresas explico por qué es, ante todo, un desafío de gestión del cambio.

Preguntas frecuentes

Vanesa Caputi Delfino es consultora en transformación organizacional, gestión del cambio y adopción de inteligencia artificial. Tiene más de 20 años de experiencia en Capital Humano y forma a profesionales para usar la IA con su propio método. Más sobre mí.