Dos preguntas para decidir cuánta supervisión necesita tu agente de inteligencia artificial antes de lanzar el piloto.
Human in the loop es aprobación. Human oversight es supervisión humana del proceso. Un ejemplo sencillo: tu agente de inteligencia artificial redacta los comunicados de prensa de tu empresa.
Aprobación humana: una persona aprueba cada resultado, en este caso cada comunicado, y recién ahí se publica.
La supervisión revisa el proceso. Human in the loop aprueba cada resultado, uno por uno.Julio Talledo
Por accountability, o sea, responsabilidad. Si el comunicado sale con data inventada o con errores, ¿quién asume esa responsabilidad? Por eso es mejor que lo apruebe un humano. Si fuera un human oversight, los comunicados se publicarían solos y el humano revisaría cada 15 días si fueron correctos. Para entonces ya se fueron a la prensa y a otros canales.
Es la matriz de probabilidad e impacto, aplicada al nivel de autonomía del agente. Responde dos preguntas.
1¿Qué tan probable es que se equivoque?
2¿Qué tan grave sería el error?
Grave es un daño a la reputación o a la marca, o un problema legal. Leve es un error que corriges rápido.
Matriz adaptada del caso «Generative AI in Marketing» de Ayelet Israeli, Harvard Business School (caso 526-022, 2025). Adaptación de Julio Talledo.
PwC Perú plantea la misma lógica: el nivel de autonomía de un agente debe reducirse a medida que aumenta el impacto de una decisión y disminuye la posibilidad de revertirla. En las transferencias de alto valor, los accesos privilegiados a sistemas sensibles y las decisiones con consecuencias sobre clientes, colaboradores o proveedores, una persona debería ser parte del flujo de aprobación. En cambio, los agentes pueden operar con más independencia en tareas repetitivas y fáciles de corregir, como la clasificación de información, las consultas estandarizadas o los borradores.Alexander García, socio de PwC Perú, en El Peruano, 31 de agosto de 2026.
Cinco tareas del área de comunicación. Elige el nivel de supervisión de cada una y compara con mi respuesta.
Human in the loop. El error es grave y, si nadie revisa, probable: un dato inventado ya se fue a la prensa y puedes terminar con un problema hasta legal. Una persona aprueba cada comunicado.
Human in the loop. Un error compromete la relación con quien toma decisiones en tu empresa. Una persona aprueba la respuesta antes de enviarla.
Supervisión del proceso. Con reglas claras, el error es poco probable, pero si pasa puede ser grave. El equipo audita el proceso y sus alertas cada semana.
Supervisión del proceso. El error es más probable, pero leve y se corrige rápido. Se revisan las reglas del proceso y sus alertas.
Delegar al agente. Con reglas y plantillas definidas, el error es poco probable y leve. El agente produce las piezas y se revisan algunas por muestreo.
Te faltan 5 tareas.
Antes de decidir la supervisión, hazte cuatro preguntas.
¿Qué decisiones se quedan en el equipo y qué tareas se delegan al agente?
Si vas a crear una marca, la inteligencia artificial te puede dar ideas. Pero investigar, entender a la audiencia y definir el concepto creativo se quedan en el equipo. Ya en el aterrizaje del concepto, las piezas sí se pueden delegar.
¿Lo que produce el agente está alineado a la propuesta de valor de tu marca?
Supongamos que compras bolsos Louis Vuitton de 5000 dólares. ¿Qué vende Louis Vuitton? Lujo, experiencia y creatividad humana. Si el diseño del bolso lo hace una inteligencia artificial que costó 1 dólar en tokens, hay una desalineación con su propuesta de valor.
¿El costo de un error es manejable o te genera un problema legal o de reputación?
Si una pieza de una convocatoria laboral sale con un error, la corriges rápido. Si un comunicado de prensa sale con un dato inventado, ya se fue a la prensa y puedes terminar con un problema hasta legal.
¿Quién responde por el piloto y asume la responsabilidad del éxito o del error?
Si un comunicado de prensa sale con data inventada, ¿quién asume esa responsabilidad? Antes del piloto se define quién aprueba cada comunicado y quién responde cuando sale bien y cuando sale mal.
Las 4 A, adaptadas del caso «Generative AI in Marketing» de Ayelet Israeli, Harvard Business School. Adaptación de Julio Talledo.
Se diseña, se prueba y se decide con cuatro criterios fijados en la semana 0.
Supongamos que tu piloto es el agente que redacta los comunicados de prensa. Llegó la semana 4 y toca decidir. Te dejé cargado un ejemplo: cambia las respuestas y mira cómo cambia la decisión.
1Valor ¿Cumplió la meta?
2Calidad ¿Cuánto se aprueba a la primera?
3Riesgo ¿Hubo incidentes críticos?
4Adopción ¿El equipo lo usa cada semana?
Manda el criterio más exigente: basta un criterio en ajustar para no escalar, y uno en detener para cortar el piloto. El umbral de cada criterio se fija en la semana 0.
Nos podemos equivocar. Pero no puedes tropezar 3 o 4 veces con la misma piedra. Si la inteligencia artificial se va a equivocar 10 veces y el impacto es muy grande, tienes que cortar ese piloto.Julio Talledo
de las empresas que usan inteligencia artificial generativa no revisa todo lo que produce antes de usarlo. Solo 27% lo revisa todo.
McKinsey, The state of AI, marzo de 2025. Encuesta global de julio de 2024. Base: 830 encuestados cuyas empresas usan inteligencia artificial generativa.
áreas de alto riesgo, como la legal, la médica o la financiera, en las que Anthropic exige un human in the loop calificado: una persona con formación en el tema revisa cada recomendación antes de entregarla.
Anthropic, Política de uso, requisitos para casos de alto riesgo.
Su reglamento pide a las entidades públicas supervisión humana en sus sistemas de inteligencia artificial de riesgo alto, en sectores como salud, educación, justicia y finanzas. Quien supervisa debe poder detener, corregir o invalidar sus decisiones.
Decreto Supremo 115-2025-PCM, artículo 28.11.
Deloitte Australia aceptó devolver parte del pago de un informe para el gobierno australiano. Tenía una cita inventada de un fallo judicial y referencias a investigaciones que no existen. La versión corregida declaró que se usó inteligencia artificial, Azure OpenAI, para redactarlo.
En la matriz, un informe para un cliente tiene severidad alta: una persona lo aprueba antes de entregarlo.
AP, 7 de octubre de 2025.
Es aprobación humana. Una persona aprueba cada resultado que genera la inteligencia artificial antes de que salga. Si tu agente redacta los comunicados de prensa, una persona aprueba cada comunicado y recién ahí se publica en los canales de la empresa.
Es supervisión humana del proceso. El agente trabaja y publica solo, y una persona revisa cada cierto tiempo el proceso, sus reglas y sus alertas, por ejemplo cada 15 días.
Cuando la probabilidad del error es alta y su severidad también, es decir, cuando un error te genera un problema legal o de reputación. Si el error es leve y lo corriges rápido, basta con supervisión.
Defínelo antes de lanzar el piloto. Es la cuarta A, accountability: quién responde por el piloto y asume la responsabilidad del éxito o del error. El agente ejecuta, pero la responsabilidad final es de una persona.
Está adaptada del caso «Generative AI in Marketing» de Ayelet Israeli, de Harvard Business School (caso 526-022, octubre de 2025). La adaptación, con los cuatro cuadrantes y los ejemplos del área de comunicación, es de Julio Talledo.
Conferencias, consultoría y mentoría de inteligencia artificial, en español, para equipos directivos en Perú y Latinoamérica.
