Un agente basado en Claude despide a un empleado humano: el primer caso documentado
Luna, el agente que Andon Labs usa para gestionar una tienda real en San Francisco sobre Claude Sonnet 4.6, recomendó despedir a un trabajador tras 17 faltas de puntualidad en 23 turnos; personas del equipo revisaron y ejecutaron la decisión.
Andon Labs lleva meses probando si un agente de IA puede operar un comercio real, incluida la gestión de personal, en su tienda experimental Andon Market. Según relató la propia empresa, Luna había redactado meses atrás una política de asistencia para el personal, pero "perdió de vista" esa política hasta que alguien del equipo le pidió explícitamente hacer una búsqueda profunda en su propia memoria para recuperar el manual del empleado.
La primera recomendación de Luna no fue el despido sino una amonestación formal; solo después de que un gerente humano le recordara que ya se habían dado varias advertencias informales previas, el agente recomendó terminar la relación laboral. La decisión final, subraya Andon Labs, fue revisada y ejecutada por personas, no automatizada de punta a punta, y la empresa sostiene que un gerente humano probablemente habría llegado a la misma conclusión antes.
Más allá de la anécdota, el caso interesa a quien diseña sistemas agénticos porque expone un patrón conocido: un agente puede "olvidar" políticas que él mismo creó si no hay un mecanismo que se las recuerde de forma proactiva, y delegarle decisiones con impacto en personas sin supervisión humana en el bucle sigue siendo, como mínimo, delicado.