Британский инспектор по иммиграции решает, проверять ли GPT-4 в Home Office

Что решает ICIBI

Независимый главный инспектор по вопросам границ и иммиграции Великобритании (ICIBI) рассматривает возможность расследования. Речь идёт об использовании МВД (Home Office) инструментов генеративного ИИ при обработке заявлений о предоставлении убежища.

• ICIBI попросил Open Rights Group (ORG) предоставить дополнительную информацию об инструментах.
• Инспекция определяет темы проверок на следующий год.
• ICIBI не может подтвердить, какие темы сейчас рассматриваются.
• При этом инспектор знает об опасениях по поводу ИИ-инструментов.
• В прошлогодних выводах ICIBI отметил, что «эффективность и надёжность» одного из инструментов были различными.

Вывод. Запрос к ORG ещё не означает начала расследования. Практический критерий — смотреть, войдёт ли тема в план проверок ICIBI на следующий год.

Какие инструменты использует МВД

МВД использует два инструмента на базе генеративного ИИ. Asylum Case Summarisation (ACS) суммирует стенограммы интервью с просителями убежища. Asylum Policy Search (APS) помогает искать и суммировать информацию о странах происхождения. Оба инструмента опираются на большую языковую модель OpenAI GPT-4 2023 года и Microsoft Foundry.

Вывод. Инструменты различаются по задаче. Критерий оценки — понимать, с какими данными работает каждый из них.

Что выяснила Open Rights Group

ORG провела шестимесячное расследование инструментов. Она направила 11 парламентских запросов, два письма министрам и 10 запросов на доступ к публичным документам.

• Доля сводок Asylum Case Summarisation (ACS), признанных непригодными для использования, значительно выше 9 процентов. Это опубликованный показатель ошибок по итогам пилотной оценки.
• Для сводок Asylum Policy Search (APS), по данным ORG, контроль качества отсутствует.
• Инструменты отсутствуют в публичном реестре алгоритмических средств. Согласно британскому «AI Playbook», реестр должен содержать информацию о таких инструментах. Государственные ведомства используют их при принятии решений.
• Просителям убежища не сообщают, когда в их деле используются эти ИИ-инструменты.

Вывод. Критерий оценки — не только функция инструмента. Важны качество сводок и раскрытие использования.

Юридические риски и реакция регулятора

Юристы Cloisters в независимом заключении, заказанном ORG, указали на риск. Невозможность оспорить ошибочную ИИ-сводку персональных данных может нарушать британские законы о правах на данные.

• ORG и Public Law Project опасаются задокументированной «культурной предвзятости» языковых моделей. Такая предвзятость может создавать языковые барьеры и вести к утрате культурных нюансов в сводках. Это может повлечь дискриминационные решения.
• В июле британский судья обвинил МВД в ссылке на документ, «галлюцинированный ИИ». Так МВД отказывало в убежище марокканке и её ребёнку.
• ORG и Public Law Project передали выводы британскому регулятору данных Information Commission. Регулятор расследует отказ МВД сообщить ORG, как сотрудники используют два ИИ-инструмента и как их обучали.

Вывод. Юридический риск связан с проверяемостью сводок и раскрытием практики. Критерий — может ли заявитель оспорить ошибку и получить информацию о применении ИИ.

Позиция МВД

МВД заявляет, что решения по заявлениям принимают обученные сотрудники. ИИ-инструменты только помогают работать с записями интервью и политической информацией. Их нельзя применять изолированно, и они не принимают решений по заявлениям.

• МВД сообщило, что регулярно отслеживает работу инструментов.
• Ведомство уже обязалось опубликовать обновлённые оценки их внедрения.

Вывод. Декларация МВД отделяет решения сотрудников от работы ИИ. Критерий проверки — как этот контроль подтверждается на практике. Для этого нужны раскрытие данных и проверяемые оценки.