Respuesta breve

Gobernar la IA en una organización pequeña no exige un comité ni un documento de cincuenta páginas. Exige una tabla honesta: para cada herramienta, qué hace la IA, qué no hace nunca, dónde se ejecuta y qué persona revisa lo que propone. Esa tabla aclara más que cualquier política genérica. Permite ver que en algunas herramientas la IA solo transcribe, en otras prepara una ficha que alguien valida y en otras, a propósito, no hay IA.

Puntos clave

  • Gobernar la IA en una organización pequeña exige una tabla honesta: para cada herramienta, qué hace la IA, qué no hace nunca, dónde se ejecuta y quién revisa.
  • Escribir lo que la IA no hace nunca, como puntuar candidaturas o responder a un cliente, evita que su alcance crezca sin que nadie lo decida.
  • Lo que se entrega a un modelo externo sale de la organización, y quitar el nombre no es anonimizar: sector, tamaño, fechas y cargos también identifican.
  • Toda salida de un modelo debería llegar marcada como propuesta, con su evidencia, hasta que una persona la acepte, corrija o rechace, quedando registrado quién y cuándo.
  • A veces la respuesta correcta es no usar IA, como en un canal de denuncias, donde la confianza se apoya en que una persona instruye el caso.

Cuatro columnas que lo cambian todo

La primera columna describe la tarea en concreto: transcribir un currículum a una ficha, extraer objeto, plazo e importe de una convocatoria, proponer una clasificación para un documento. Cuanto más acotada es la tarea, más fácil resulta revisarla y sustituirla.

La segunda recoge lo que la IA no hace nunca: puntuar candidaturas, decidir si la organización se presenta a un concurso, responder a un cliente, prometer resultados. Escribirlo evita que el alcance crezca sin que nadie lo decida. Las otras dos columnas, dónde se ejecuta y quién revisa, convierten la tabla en un mapa de riesgo.

Dónde se ejecuta importa tanto como qué hace

Lo que se entrega a un modelo externo sale de la organización. Por eso conviene distinguir entre un modelo que corre en un equipo propio, uno que corre en la cuenta de un proveedor bajo contrato y uno externo que solo recibe texto público, como el de una convocatoria oficial. Una capa propia entre la aplicación y el modelo permite cambiar de proveedor sin reescribir el producto, y registrar cada llamada con su coste permite saber cuánto cuesta y cuándo falla.

Quitar el nombre no es anonimizar. El sector, el tamaño, las fechas y los cargos identifican igual que un apellido. Minimizar lo que se envía y agregar los datos con umbrales mínimos protege más que un borrado superficial.

Marcar la propuesta hasta que alguien la revise

Todo lo que sale de un modelo debería llegar marcado como propuesta, con su evidencia al lado: el fragmento del documento del que se extrajo un importe, el párrafo del que salió una fecha. La marca desaparece cuando una persona acepta, corrige o rechaza, y queda registrado quién lo hizo y cuándo.

Si la salida no cumple el formato esperado, conviene un reintento y, si vuelve a fallar, una cola de revisión manual. Un sistema que degrada hacia la persona es más fiable que uno que improvisa.

Cuándo la respuesta correcta es no usar IA

Un canal de denuncias no debería depender de un modelo para nada: la confianza de quien comunica se apoya en que una persona instruye el caso. Una herramienta que reconstruye horas facturables a partir del calendario puede clasificar con reglas y palabras clave, que son predecibles y auditables.

Las herramientas de selección de personal merecen atención especial: el Reglamento europeo de IA considera de alto riesgo los sistemas que filtran o evalúan candidaturas. Diseñar la herramienta para que la IA solo transcriba, sin puntuar, ordenar ni extraer edad, sexo o nacionalidad, es una decisión de diseño que debe documentarse y que no sustituye el análisis jurídico de cada organización.

Preguntas frecuentes

¿Cómo documento el uso de IA en las herramientas de mi organización sin montar un comité?

Con una tabla de cuatro columnas para cada herramienta: qué tarea concreta hace la IA, qué no hace nunca, dónde se ejecuta y qué persona revisa lo que propone. Esa tabla aclara más que una política genérica y funciona como mapa de riesgo. Muestra, por ejemplo, que en unas herramientas la IA solo transcribe, en otras prepara una ficha que alguien valida y en otras, a propósito, no hay IA.

¿Basta con quitar los nombres antes de enviar datos a un modelo de IA externo?

No. Quitar el nombre no es anonimizar: el sector, el tamaño, las fechas y los cargos identifican igual que un apellido. Minimizar lo que se envía y agregar los datos con umbrales mínimos protege más que un borrado superficial. También conviene distinguir si el modelo corre en un equipo propio, en la cuenta de un proveedor bajo contrato o en un servicio externo que solo recibe texto público.

¿Puede una herramienta de selección de personal usar IA para filtrar candidaturas?

Es un caso que exige especial atención: el Reglamento europeo de IA considera de alto riesgo los sistemas que filtran o evalúan candidaturas. Una decisión de diseño posible es que la IA solo transcriba, sin puntuar, ordenar ni extraer edad, sexo o nacionalidad. Esa decisión debe documentarse y no sustituye el análisis jurídico de cada organización.

¿Qué debe hacer el sistema cuando la IA devuelve una respuesta con un formato incorrecto?

Conviene un reintento y, si vuelve a fallar, enviar el caso a una cola de revisión manual. Un sistema que degrada hacia la persona es más fiable que uno que improvisa. En cualquier caso, todo lo que sale de un modelo debería llegar marcado como propuesta hasta que una persona lo acepte, corrija o rechace.