Gartner: в 2024 году будет расширен аудиторский охват рисков ИИ

29 марта 2024 г.

Стремительное развитие и внедрение генеративного ИИ привело к необходимости обеспечить аудиторский охват потенциальных рисков, возникающих при использовании этой технологии, свидетельствует исследование Gartner.

«Организации всё шире используют новые технологии ИИ, и руководители внутреннего аудита стремятся расширить свой охват в этой области, — пишет в пресс-релизе Томас Теравайнен (Thomas Teravainen), специалист по исследованиям практики Legal, Risk & Compliance Leaders в Gartner. — Существует целый ряд рисков, связанных с ИИ, с которыми сталкиваются организации, — от недостатка контроля и недостоверных результатов до новейших киберугроз. Три из топ-шести рисков, по которым ожидается самый заметный рост аудиторского охвата, связаны с ИИ».

В августе прошлого года Gartner провел опрос 102 руководителей внутреннего аудита (CAE), чтобы оценить важность обеспечения уверенности по 35 рискам. Шесть рисков, по которым ожидается наибольшее расширение аудиторского охвата, это управление стратегическими преобразованиями; кадровое многообразие, равенство возможностей и инклюзивность (DEI); организационная культура; киберугрозы, вызванные использованием ИИ; неспособность контролировать использование ИИ и недостоверность выдачи ИИ-моделей (см. рис. 1).

Рис. 1. Риски, по которым ожидается наибольшее расширение охвата аудиторской проверкой

Процент респондентов, давших ответ «Охвачен аудитом в 2023 году» и «Обязательно (или скорее всего) будет охвачен аудитом в 2024 году»

(легенда:)

Охвачен аудитом в 2023 г. / Планируется охватить аудитом в 2024 г.

Киберугрозы, вызванные использованием ИИ / Неспособность контролировать использование ИИ / Управление стратегическими преобразованиями / Кадровое многообразие, равенство возможностей и инклюзивность (DEI) / Организационная культура / Недостоверность выдачи ИИ-моделей

База опроса: 102 руководителя внутреннего аудита

Недостаток уверенности по рискам ИИ

«Наверно, самый бросающийся в глаза результат опроса это насколько руководители внутреннего аудита не уверены в своей способности обеспечить эффективный надзор за рисками ИИ, — пишет Теравайнен. — Не более 11% респондентов, назвавших один из трех рисков, связанных с ИИ, очень важным, вполне уверены, что могут гарантировать надежность по этим рискам».

Общедоступные приложения с GenAI и те, что созданы внутри организации, создают новые, повышенные риски, касающиеся безопасности данных и информации, конфиденциальности, защиты интеллектуальной собственности и нарушения авторских прав, а также достоверности результатов и доверия к ним. Многие корпоративные инициативы в GenAI реализуются в бизнес-подразделениях, работающих с клиентами, и распространение генеративного ИИ делает приоритетом расширение аудита рисков ненадежности результатов ИИ-моделей (например, предвзятой или неточной информации и «галлюцинаций» ИИ-моделей) для защиты организации от репутационного ущерба или возможных судебных исков.

«При столь широком спектре потенциальных рисков, исходящих отовсюду в организации, легко понять, почему внутренние аудиторы не уверены, что способны дать гарантии, — пишет в заключение Теравайнен. — И, поскольку CEO и финдиректора расценивают ИИ как технологию, которая окажет наибольшее влияние на их организации в ближайшие три года, сохраняющийся недостаток уверенности помешает руководителям аудита гарантировать ожидания заинтересованных сторон».

Источник: Пресс-служба компании Gartner