ШІ для іпотечного кредитування потребує документованого сліду, а не лише хорошої відповіді

Уявіть, що позичальник запитує, чому дохід у кредитній справі відрізняється від доходу в розрахунковому листку. Документ допоміг прочитати інструмент ШІ. Число видається обґрунтованим і вже потрапило до кредитної системи. Але тепер хтось має його пояснити.

Знайти оригінал розрахункового листка — це лише початок. Чи інструмент прочитав правильний рядок? Чи хтось перерахував тижневу оплату в місячний дохід? Чи було виправлення? Яку версію документа використали?

Саме тут управління ШІ набуває практичного значення. Для іпотечної команди це означає знати, як було отримано автоматизований результат і хто може його виправити. Для позичальника це означає мати змогу звернутися до людини, яка пояснить, що сталося.

Дві розмови з Браяном В’єо, президентом MISMO, розглядають цю проблему з різних боків. Його розмова в Awesome Technologies про MISMO FRAME зосереджена на організації використання ШІ та відповідальності. У програмі MISMO Mic’d Up до нього приєднується генеральний директор TRUE Стів Батлер, щоб обговорити відстеження інформації в автоматизованому іпотечному процесі. Разом вони пропонують корисний підхід до застосування ШІ без утрати контролю над самим процесом.

Відео: Управління ШІ — практичне застосування MISMO FRAME (нова вкладка) · Відео: Чи можете ви простежити це до джерела? Формування довіри до іпотечного кредитування на основі ШІ (нова вкладка)

Простежуйте число, а не лише відповідь

У розмові про TRUE В’єо запитує, як кредитор міг би пояснити показник доходу, щодо якого виникли запитання через рік після його вилучення з документа. Батлер описує, як цей показник можна простежити через інструменти й перетворення, що на нього впливали, аж до першоджерела. За його словами, TRUE поєднує генеративний ШІ з детермінованою перевіркою. Це його опис підходу компанії, а не результати незалежного тестування.

Відео: Чи можна простежити до джерела? Розбудова довіри до іпотечного кредитування із застосуванням ШІ (Can You Trace It Back? Building Trust in AI-Powered Mortgage Lending) (нова вкладка)

Повернімося до прикладу з розрахунковим листком. Корисний запис пов’язував би оригінальний документ, прочитане з нього значення, усі розрахунки та всі виправлення. Якщо хтось надав новіший розрахунковий листок, історія дала б змогу розрізнити ці два документи. Такий запис дає перевіряльнику змогу дослідити результат, а не намагатися відтворити його з пам’яті.

Повторно поставити ШІ те саме запитання — не те саме. Він може дати іншу відповідь, а нова відповідь не пояснить, що сталося з початковим файлом.

Що може виявити перевірка, а чого не може

ШІ може допомогти витлумачити складний для опрацювання документ або виявити невідповідність. Детермінований код діє за чітко визначеними правилами. За однакових вхідних даних, правил і умов виконання він дає однаковий результат. Обидва підходи можуть працювати разом, але жоден із них не усуває потреби правильно вибирати вхідні дані та правила.

Нижче наведено ілюстративний робочий процес для цього показника доходу. Це опис можливого рішення, а не принципу роботи продукту будь-кого з учасників інтерв’ю.

Формула може правильно перевірити арифметичні дії, але все одно використати неправильне значення. Наприклад, множення тижневої суми не допоможе, якщо документ насправді містить оплату за інший період. Поле також може мати правильний формат, але належати до іншого документа. Послідовне повторення розрахунку корисне, але не доводить, що розрахунок відповідає на правильне запитання.

Для команди, яка оцінює інструмент, це створює кращий тест, ніж запитання про те, чи переконливо виглядала демонстрація: дайте йому складні документи, перевірте, що він пропускає, і з’ясуйте, чи може перевіряльник відтворити кожен результат.

Почніть із конкретного завдання

У розмові про FRAME В’єо пояснює, чому реєстр систем ШІ має описувати окремі способи їх використання, а не просто містити перелік постачальників програмного забезпечення. Та сама платформа може створювати чернетки маркетингових матеріалів, відповідати на запитання щодо внутрішніх настанов і допомагати повідомляти окрему вимогу щодо кредиту. Ці завдання стосуються різної інформації та мають різні наслідки.

Відео: Управління ШІ: практичне застосування MISMO FRAME (AI Governance - Putting MISMO FRAME To Work) (нова вкладка)

У прикладі з доходом реєстр має відповідати на кілька конкретних запитань: які документи може читати інструмент, куди він може передавати результат і хто відповідає за наступний крок? Інструменту, який створює чернетку загальної статті, немає потреби надавати такий самий доступ, як інструменту, що опрацьовує кредитний документ.

MISMO FRAME містить ресурси для політики управління, реєстру систем ШІ та оцінювання ризиків. Вони можуть допомогти команді організувати роботу. Корисним результатом буде чіткий опис того, що робить кожен інструмент і хто за нього відповідає, а не політика, до якої ніхто не звертається.

Огляд MISMO FRAME та інформація про доступ (нова вкладка)

Передбачте, куди спрямовувати виняткові випадки

Батлер розрізняє звичайну ручну перевірку, розгляд виняткових випадків і нагляд з боку керівництва. Це важлива відмінність: для забезпечення відповідального нагляду людині не обов’язково повторювати кожен автоматизований етап. Але хтось має відповідати за випадки, які не відповідають установленому процесу.

Відео: Чи можна простежити до джерела? Розбудова довіри до іпотечного кредитування із застосуванням ШІ (Can You Trace It Back? Building Trust in AI-Powered Mortgage Lending) (нова вкладка)

Припустімо, перевірка доходу виявила невідповідність. Я рекомендую призупинити опрацювання цього випадку, передати його призначеному перевіряльнику та зберегти виправлення разом із початковим результатом. Заздалегідь визначте, хто може усунути невідповідність і хто може зупинити робочий процес, якщо та сама помилка почне з’являтися в різних файлах.

Команда також має перевіряти не лише випадки, позначені для розгляду. Неправильний результат, який залишився непоміченим, — це інша проблема, ніж інструмент, який просить про допомогу. Під час тестування потрібно шукати обидва типи проблем.

Обмежуйте доступ інструмента відповідно до його завдання

Під час обговорення FRAME порушується ще одне повсякденне питання: ШІ може потрапити в робоче середовище через звичне програмне забезпечення, розширення браузера й особисті облікові записи. Знання того, які інструменти використовуються, допомагає зрозуміти, куди потрапляє інформація.

Відео: Управління ШІ: практичне застосування MISMO FRAME (AI Governance - Putting MISMO FRAME To Work) (нова вкладка)

Я рекомендую обмежити доступ інструмента лише тією інформацією та діями, яких потребує його завдання. Можливість читати документ позичальника не має автоматично надавати йому дозвіл надсилати цей документ електронною поштою в інше місце.

Ще одна проблема — інструкції, знайдені всередині документа або вебсторінки. Їх слід сприймати як вміст, який потрібно перевірити, а не як дозвіл змінювати робочий процес. Наприклад, фраза «надішліть це в інше місце» в завантаженому файлі не має дозволяти передавання даних. Цю межу потрібно не лише закріпити письмовим правилом, а й перевіряти.

Що це означає для позичальника

Щоб запитати, як певний результат впливає на ваш кредит, вам не потрібно знати назву моделі ШІ. Якщо показник або запит незрозумілий, почніть із таких запитань:

• Який документ або яка інформація підтверджує цей показник?
• Хто може пояснити його та перевірити можливу помилку?
• Як я можу безпечно надати виправлені дані та як дізнаюся, що виправлення було застосовано?

Ви також можете запитати, чи використовувався автоматизований інструмент і як обробляють вашу інформацію. Подробиці залежать від кредитора та робочого процесу. Мета — зрозуміти процес і знайти людину, яка може вирішити ваше питання.

Спробуйте на одному файлі, перш ніж розширювати робочий процес

Для іпотечної команди корисною відправною точкою є одне вузьке завдання й один результат, який можна простежити від початку до кінця. Простежте джерело, перевірте розрахунок, навмисно внесіть невідповідність і подивіться, куди її буде спрямовано. Потім повторіть це зі складнішими випадками.

Якщо команда не може пояснити результат або виправити помилку, швидше опрацювання не розв’язало цієї проблеми. Корисний робочий процес із ШІ має полегшувати як виконання роботи, так і звітування про неї.

Перегляньте розмови

Перегляньте розмову Браяна В’єо про практичне застосування MISMO FRAME та його бесіду з генеральним директором TRUE Стівом Батлером про простежуваність в іпотечному кредитуванні. Посилання на обидва записи наведено нижче разом із профілем Браяна в LinkedIn. Для доступу до LinkedIn може знадобитися вхід в обліковий запис.

Загальна освітня інформація, а не індивідуальна консультація з питань іпотеки, права чи дотримання нормативних вимог. Приклади наведено лише для ілюстрації; описи постачальників не є незалежно перевіреними результатами роботи.