La IA hipotecaria necesita un rastro documental, no solo una buena respuesta

Imagine que un prestatario pregunta por qué los ingresos que aparecen en un expediente de préstamo son distintos de los que figuran en un talón de pago. Una herramienta de IA ayudó a leer el documento. La cifra parece razonable y ya se incorporó al sistema de préstamos. Pero ahora alguien tiene que explicarla.

Encontrar el talón de pago original es solo el principio. ¿La herramienta leyó la línea correcta? ¿Alguien convirtió el pago semanal en ingresos mensuales? ¿Hubo alguna corrección? ¿Qué versión del documento se utilizó?

Ahí es donde la gobernanza de la IA se vuelve práctica. Para un equipo hipotecario, significa saber cómo se produjo un resultado automatizado y quién puede corregirlo. Para el prestatario, significa poder comunicarse con alguien que pueda explicar lo sucedido.

Dos conversaciones con Brian Vieaux, presidente de MISMO, abordan este problema desde perspectivas diferentes. Su conversación en Awesome Technologies sobre MISMO FRAME se centra en organizar el uso de la IA y la responsabilidad correspondiente. En MISMO Mic’d Up, el director ejecutivo de TRUE, Steve Butler, se une a él para hablar sobre cómo rastrear la información a lo largo de un proceso hipotecario automatizado. En conjunto, ofrecen una manera útil de pensar en cómo poner la IA a trabajar sin perder de vista el trabajo en sí.

Video: Gobernanza de la IA - Cómo poner en práctica MISMO FRAME (nueva pestaña) · Video: ¿Puede rastrearlo hasta su origen? Cómo generar confianza en los préstamos hipotecarios impulsados por IA (nueva pestaña)

Siga el rastro del número, no solo de la respuesta

En la conversación con TRUE, Vieaux pregunta cómo podría un prestamista explicar una cifra de ingresos cuestionada un año después de que se extrajera de un documento. Butler describe cómo rastrear la cifra a través de las herramientas y transformaciones por las que pasó hasta llegar a su fuente. Afirma que TRUE combina la IA generativa con la validación determinista. Estas son sus descripciones del enfoque de la empresa, no resultados verificados de forma independiente.

Video: ¿Puede rastrearlo hasta su origen? Cómo generar confianza en los préstamos hipotecarios impulsados por IA (nueva pestaña)

Volvamos al ejemplo del talón de pago. Un registro útil conectaría el documento original, el valor extraído de este, cualquier cálculo y cualquier corrección. Si alguien proporcionara un talón de pago más reciente, el historial permitiría distinguir entre ambos. Ese registro permite que una persona encargada de la revisión investigue el resultado, en vez de intentar reconstruirlo de memoria.

Volver a hacerle la misma pregunta a la IA no es lo mismo. Podría dar una respuesta diferente, y una respuesta nueva no puede indicar qué sucedió con el archivo original.

Qué puede detectar una verificación y qué no

La IA puede ayudar a interpretar un documento desordenado o a identificar una discrepancia. El código determinista sigue reglas explícitas. Con los mismos datos de entrada, reglas y condiciones de ejecución, produce el mismo resultado. Ambos pueden funcionar en conjunto, pero ninguno elimina la necesidad de elegir los datos de entrada y las reglas adecuados.

Este es un flujo de trabajo ilustrativo para esa cifra de ingresos. Describe un diseño posible, no el funcionamiento del producto de ninguno de los entrevistados.

Una fórmula puede verificar las operaciones aritméticas y aun así utilizar el valor equivocado. Por ejemplo, multiplicar una cantidad semanal no sirve si el documento muestra en realidad el pago correspondiente a un período diferente. Un campo también puede tener el formato correcto, pero corresponder al documento equivocado. Repetir un cálculo de manera uniforme es útil, pero no demuestra que el cálculo responda la pregunta correcta.

Para un equipo que evalúa una herramienta, esto ofrece una prueba mejor que preguntarse si una demostración pareció impresionante: entréguele documentos difíciles, examine qué no detecta y compruebe si la persona encargada de la revisión puede reconstruir cada resultado.

Comience con una tarea específica

En la conversación sobre FRAME, Vieaux explica por qué un inventario de IA debe describir los usos individuales y no limitarse a enumerar proveedores de software. Una misma plataforma podría redactar textos de marketing, responder una pregunta interna sobre directrices y ayudar a comunicar una condición del préstamo. Esas tareas involucran información y consecuencias diferentes.

Video: Gobernanza de la IA: cómo poner MISMO FRAME en práctica (nueva pestaña)

Para el ejemplo de los ingresos, el inventario debe responder algunas preguntas concretas: ¿qué documentos puede leer la herramienta, dónde puede colocar el resultado y quién es responsable del siguiente paso? Una herramienta que redacta un artículo general no tiene por qué recibir el mismo acceso que una herramienta que maneja un documento de préstamo.

MISMO FRAME incluye recursos para políticas de gobernanza, un inventario de sistemas de IA y la evaluación de riesgos. Estos pueden ayudar a un equipo a organizar su trabajo. El resultado útil es una explicación clara de lo que hace cada herramienta y de quién es responsable, en lugar de una política que nadie consulta.

Descripción general de MISMO FRAME e información de acceso (nueva pestaña)

Dé a las excepciones un destino claro

Butler distingue entre la verificación manual rutinaria, la revisión de excepciones y la supervisión ejecutiva. Esa distinción es importante: para que un proceso tenga una supervisión responsable, una persona no tiene que repetir cada paso automatizado. Pero alguien sí debe responsabilizarse de los casos que no encajan.

Video: ¿Puede rastrearlo hasta su origen? Cómo generar confianza en los préstamos hipotecarios impulsados por IA (nueva pestaña)

Supongamos que la verificación de ingresos detecta una discrepancia. Mi recomendación es detener temporalmente ese elemento, enviarlo a una persona designada para la revisión y conservar la corrección junto con el resultado original. Decida de antemano quién puede resolverlo y quién puede detener el flujo de trabajo si el mismo error comienza a aparecer en varios archivos.

El equipo también debe examinar más allá de los elementos marcados para revisión. Un resultado incorrecto que pasa inadvertido es un problema distinto al de una herramienta que pide ayuda. Las pruebas deben buscar ambos.

Mantenga el acceso de la herramienta limitado a su tarea

La conversación sobre FRAME plantea otro problema cotidiano: la IA puede incorporarse a una empresa mediante software conocido, extensiones del navegador y cuentas personales. Saber qué herramientas se utilizan forma parte de entender adónde va la información.

Video: Gobernanza de la IA: cómo poner MISMO FRAME en práctica (nueva pestaña)

Mi recomendación es limitar una herramienta a la información y las acciones que requiere su tarea. Leer el documento de un prestatario no debería darle automáticamente permiso para enviar ese documento por correo electrónico a otro lugar.

Las instrucciones encontradas dentro de un documento o una página web son otra preocupación. Deben tratarse como contenido que se debe examinar, no como permiso para cambiar el flujo de trabajo. Por ejemplo, un archivo cargado que diga «envía esto a otro lugar» no debería autorizar una transferencia. Ese límite debe someterse a prueba, además de establecerse en una regla escrita.

Qué significa esto para un prestatario

No necesita saber el nombre del modelo de IA para preguntar cómo afecta un resultado a su préstamo. Si una cifra o solicitud no tiene sentido, comience con estas preguntas:

• ¿Qué documento o información respalda esta cifra?
• ¿Quién puede explicarla y revisar un posible error?
• ¿Cómo puedo proporcionar una corrección de forma segura y cómo sabré que se aplicó?

También puede preguntar si intervino una herramienta automatizada y cómo se maneja su información. Los detalles varían según el prestamista y el flujo de trabajo. El objetivo es comprender el proceso y encontrar a la persona que pueda resolver su pregunta.

Pruebe con un archivo antes de ampliar el flujo de trabajo

Para un equipo hipotecario, un buen punto de partida es una sola tarea específica y un resultado que pueda seguir de principio a fin. Rastree la fuente, verifique el cálculo, introduzca una discrepancia y vea adónde va. Después, repita el proceso con casos más difíciles.

Si el equipo no puede explicar el resultado ni resolver un error, acelerar el procesamiento no habrá solucionado ese problema. Un flujo de trabajo de IA útil debería facilitar tanto la realización del trabajo como la rendición de cuentas sobre este.

Vea las conversaciones

Vea la conversación de Brian Vieaux sobre cómo poner en práctica MISMO FRAME y su conversación con el director ejecutivo de TRUE, Steve Butler, sobre la trazabilidad en los préstamos hipotecarios. Los enlaces a ambas grabaciones aparecen a continuación, junto con el perfil de Brian en LinkedIn. LinkedIn puede requerir que inicie sesión.

Información educativa general, no asesoramiento hipotecario, legal ni de cumplimiento normativo individualizado. Los ejemplos son ilustrativos; las descripciones de los proveedores no constituyen resultados de desempeño verificados de forma independiente.