KPMG убрала отчет о применении agentic AI после обвинений в использовании генеративного ИИ с ошибками

Профессиональная консалтинговая фирма KPMG сняла с публикации отчет под названием «Redefining excellence in the age of agentic AI» после того, как несколько организаций заявили, что утверждения о применении искусственного интеллекта в их деятельности являются ложными. Согласно сообщениям, опубликованным Financial Times, исследовательская группа GPTZero выявила в документе несколько неточностей, которые, как предположили эксперты, могли возникнуть из-за так называемых «галлюцинаций» генеративных моделей ИИ. Это означает, что KPMG, возможно, использовала ИИ для написания отчета, который, в свою очередь, касался применения ИИ в бизнесе.

Отчет, опубликованный в октябре 2025 года, содержал утверждения о том, что такие организации, как швейцарские железные дороги, британское Национальное управление здравоохранения (NHS) и компания UBS, активно внедряют agentic AI в свои операции. Однако представители этих организаций сообщили FT, что упомянутые в отчете данные были либо недостоверными, либо вводили в заблуждение. Например, NHS заявила, что не проводила масштабных тестов agentic AI в своей деятельности, а Swiss Federal Railways отметила, что их текущие системы не включают агентные ИИ-модели. Transport for London также подтвердила, что не использует agentic AI в управлении транспортом.

Технические аспекты: как возникают галлюцинации ИИ

GPTZero, исследовательская группа, специализирующаяся на анализе генеративных ИИ-моделей, объяснила, что неточности в отчете могли возникнуть из-за характерной для крупных языковых моделей способности «вымышлять» информацию, которая не существует в реальности. Это явление, известное как hallucination («галлюцинация»), часто наблюдается, когда ИИ пытается заполнить пробелы в данных, не имея достаточной информации для подтверждения фактов. Например, если модель получает запрос, который требует знаний, выходящих за пределы её обучающей выборки, она может выдавать информацию, которая кажется логичной, но при этом не соответствует действительности.

Согласно специалистам, такие ошибки могут возникать в двух основных сценариях: 1) при использовании ИИ для генерации текста без последующей проверки человеком, и 2) когда модель обучена на данных, которые содержат неточности или противоречия. В случае KPMG, как предположили эксперты, возможно, отчет был создан с использованием ИИ, но не прошел достаточную проверку со стороны сотруд