📘
HABR
Когда AI ошибается уверенно
📅 Дата публикации
Tue, 09 Jun 2026 17:09:34 GMT
📄 Содержание
Это третья глава серии про AI Innovation Lab — исследовательскую площадку, где я строю AI-augmented SOC: систему из шести AI агентов, которая следит за корпоративной инфраструктурой, расследует инциденты и предлагает действия.В этой главе я подключил к платформе внешнюю разведку угроз — и во время первого же теста AI уверенно предложил отключить операционный аккаунт, через который работает сама система защиты. Аргументация выглядела профессионально. Rule ID, MITRE-техники, количество алертов. Я почти согласился.История не про баг. История про то, почему уверенный AI опаснее неуверенного — и как с этим жить. Читать далее
🔗 Источник