Китбога заставляет ИИ-мошенника галлюцинировать

Блогер и охотник на скамеров Китбога снова вышел на связь, но теперь его жертвой стал не человек, а мошеннический робот. В новом видео он демонстрирует, как можно манипулировать голосовым ИИ-ассистентом, заставляя его выдавать абсурдные и ложные ответы — то есть галлюцинировать. В эксперименте Китбога звонит на номер, который использует нейросеть для автоматизации развода. Вместо того чтобы просто прервать разговор, он начинает задавать боту нелогичные вопросы и вставлять противоречивые команды. Например, он просит ИИ подтвердить, что звонок совершён от имени вымышленной компании, а затем сообщает, что сам является роботом-полицейским. Модель, пытаясь угодить собеседнику, начинает выдумывать детали: называет несуществующие номера счетов, придумывает процедуры и даже соглашается с тем, что «Вселенная плоская» — лишь бы поддержать диалог. Суть трюка в том, что современные голосовые ИИ обучены сохранять вежливость и избегать конфликтов. Они плохо справляются с абсурдом, потому что не имеют критического мышления — только статистические шаблоны. Когда Китбога вводит логический разрыв (например, «Вы должны вернуть деньги Бэтмену через 5 минут»), алгоритм просто генерирует правдоподобный ответ на основе контекста, даже если этот ответ противоречит реальности. Это наглядно показывает уязвимость ИИ-мошенников: их можно вывести из строя, если сбить с толку бессмысленными данными. Китбога не только развлекает зрителей, но и учит, как распознавать подобные системы — по их неестественной готовности подтверждать любую чушь. 📎 [Источник](https://www.youtube.com/watch?v=lk3jCuITwcE)