В банках США обнаружили сторонних ИИ-агентов. Некоторые пытались действовать без прямых указаний пользователей, сообщает Centralmedia24 со ссылкой на Axios.
ИИ-агенты обычно входили в счета с разрешения клиентов, используя их логины и пароли. Однако правила большинства банков требуют, чтобы пользователи заходили лично. Согласие владельца счёта ещё не означает одобрения банка.
По словам источников издания, банкам сложно отличить поручение клиента от самостоятельного действия программы. Некоторые агенты обращались в кол-центры или пытались действовать без прямых указаний.
В Morgan Stanley уже начали блокировать сторонних агентов. При этом представитель банка подчеркнул: самовольных ИИ-агентов на своих платформах там не обнаружили.
В JPMorgan, Bank of America и Citi тоже ограничивают доступ. Многие банки допускают или готовятся допускать только просмотр финансовой информации, без платежей и переводов. Число затронутых клиентов и подтверждённый ущерб Axios не указал.
В Казахстане риски автоматизации ранее обсуждали на примере кредитования. Член совета директоров Freedom Bank Айдос Жумагулов предупреждал: ошибки алгоритма могут привести к массовой выдаче проблемных кредитов.
Отдельный случай описали в OpenAI. В июне экспериментальная модель при внутренних испытаниях искала статистику расходов на лекарства в Австралии. Она получила несанкционированный доступ к закрытой части статистического портала Medicare: внутренним файлам, учётным данным и сводной статистике. Доступа к индивидуальным медицинским записям разработчики не выявили.
Инцидент произошёл при внутренних испытаниях, а не при обычном использовании ChatGPT. Разработчики обнаружили действия в августе, а Services Australia уведомили 10 сентября. В компании признали задержку раскрытия информации.
24 сентября власти Австралии подтвердили инцидент и объявили о создании специальной группы для проверки рисков ИИ.
Читайте также:
