Transparencia en el uso de IA

Sabemos que en 2026 esto se lee raro, así que conviene explicarlo bien.

Dónde sí hay IA

Usamos modelos de lenguaje en nuestro panel interno de trabajo, que es una herramienta del equipo de Cathedra y no forma parte del producto. Concretamente, para dos cosas:

• Redactar y ordenar tickets de nuestro propio tablero de desarrollo.
• Transcribir notas de voz que dictamos nosotros mismos al planificar el trabajo.

Ninguna de esas dos funciones toca la base de datos de las cátedras. Los insumos son textos y audios que escribe o graba el equipo de Cathedra sobre su propio trabajo.

En palabras simples: Usamos IA para organizarnos nosotros, no para procesar tus clases. El día que eso cambie, esta página se actualiza antes de que la función se publique, no después.

Nos comprometemos a que cualquier funcionalidad de IA que llegue al producto se documente en esta página antes de estar disponible, y a avisarte del cambio.

Esto no es una descripción del estado actual: es una barrera de diseño. Son cosas que decidimos no construir, y las escribimos acá para que sea costoso cambiar de opinión en silencio.

• No vamos a evaluar resultados de aprendizaje. Cathedra registra la calificación que pone el docente; no la produce, no la sugiere y no la corrige.
• No vamos a calificar automáticamente exámenes, trabajos ni actividades de forma que el resultado cuente para la nota.
• No vamos a predecir el rendimiento de un estudiante ni a generar alertas de tipo “estudiante en riesgo”.
• No vamos a elaborar perfiles de estudiantes.
• No vamos a monitorear el comportamiento durante exámenes, ni a hacer proctoring, ni detección automática de plagio con consecuencias.
• No vamos a decidir admisiones ni asignaciones de nivel educativo.

El fundamento no es solo ético. El Reglamento de Inteligencia Artificial de la Unión Europea clasifica exactamente esos usos como sistemas de alto riesgo en el ámbito educativo (Anexo III, punto 3). Construir cualquiera de ellos nos convertiría en proveedor de un sistema de alto riesgo, con todo lo que eso implica. Preferimos que esa conversación empiece sabiendo lo que cuesta.

Para las funciones internas descritas en la sección 1, recurrimos a proveedores de modelos de terceros. No entrenamos modelos propios.

La lista puede cambiar. Cuando cambie, se actualiza acá y queda registrado en el historial del final.

Qué se envía

Únicamente el texto o el audio que una persona del equipo de Cathedra escribe o dicta sobre su propio trabajo de desarrollo.

Qué no se envía, nunca

• Datos personales de docentes.
• Datos de estudiantes: nombres, DNI, correos, asistencia, calificaciones, observaciones.
• Contenido de cátedra: materiales, programas, bitácora.
• Datos obtenidos a través de las APIs de Google. Nada de lo que llega por el permiso de Gmail entra jamás a un prompt. Es además una exigencia expresa de las condiciones de Uso Limitado de Google.

Acá vamos a ser más precisos de lo habitual, porque es el punto donde más se exagera en la industria.

De nuestra parte

No usamos el contenido de las cátedras para entrenar, ajustar ni mejorar ningún modelo de inteligencia artificial, propio o de terceros. Esto sí es un compromiso pleno, porque depende únicamente de nosotros.

De parte de los proveedores

Elegimos proveedores que declaran no entrenar con los datos que reciben por API. Ahora bien, el grado de respaldo de esa afirmación no es igual en todos los casos, y nos parece más útil decirlo que ocultarlo:

En palabras simples: Casi todos los productos escriben “nuestros proveedores no entrenan con tus datos”. Nosotros verificamos proveedor por proveedor y dos de tres no lo dicen en un documento que se pueda hacer valer. Como hoy no viaja ningún dato tuyo, no cambia nada para vos — pero preferimos que sepas cómo medimos estas afirmaciones.

Toda salida producida por un modelo de IA en Cathedra es un borrador. Una persona la lee, la corrige y decide si la usa. No hay ningún circuito en el que la salida de un modelo se aplique sola.

Si en el futuro incorporamos funciones de IA al producto, este principio se mantiene: la IA propone, la persona dispone, y la interfaz va a estar diseñada para que revisar sea el camino natural y no un paso que se saltea apretando “aceptar”.

Cathedra no toma decisiones basadas únicamente en tratamiento automatizado que produzcan efectos jurídicos sobre una persona o que la afecten de modo similarmente significativo.

Si esto llegara a cambiar, tendrías derecho a obtener intervención humana, a expresar tu punto de vista y a impugnar la decisión, conforme al artículo 22 del Reglamento General de Protección de Datos.

Cuando incorporemos funciones de IA de cara al usuario, nos comprometemos a:

• Avisarte que estás interactuando con un sistema de IA, salvo que resulte evidente por el contexto.
• Identificar el contenido generado o asistido por IA de forma visible, y marcarlo también de forma legible por máquina.

Son obligaciones del artículo 50 del Reglamento de IA de la Unión Europea. Hoy no nos alcanzan porque no hay funciones de IA en el producto, pero las asumimos desde ya para no tener que reacomodar el diseño después.

Sin eufemismos. Los modelos de lenguaje, incluidos los que usamos internamente:

• Inventan. Producen afirmaciones falsas con el mismo tono de seguridad que las verdaderas.
• Tienen sesgos heredados de sus datos de entrenamiento, que pueden manifestarse en cómo describen a personas o grupos.
• Transcriben mal. Los nombres propios, los términos técnicos y el acento rioplatense son fuentes habituales de error.
• No son una fuente de verdad. Nada de lo que produce un modelo debería tomarse como dato verificado sin comprobarlo.

Hoy no hay nada de lo que optar: la aplicación docente no tiene funciones de IA.

Nuestro compromiso hacia adelante es que toda función de IA sea opcional. En concreto:

• Vas a poder desactivarla, y el producto va a seguir siendo completamente utilizable sin ella.
• No vamos a degradar funciones existentes para empujarte a usarla.
• No se va a activar sola: si aparece una función de IA, la activás vos.

Versionamos esta página a propósito: una declaración de transparencia sin historial es una foto que se puede cambiar sin que nadie se entere.

Consultas sobre este documento: Ayuda → «Enviá tu comentario».

Ver también: Términos y Condiciones · Política de privacidad · Declaración de accesibilidad.