CrowdStrike разшири съобщенията си за сигурността на AI агентите с инструменти, които трябва да разпознават необичайно поведение дори без формално нарушение на правило. Актуализацията от 4 ноември следва обявения по-рано AI Kill Switch и разширява фокуса от спиране на агента към откриване на проблема.
Предлаганият Agent Insider Threat Detection изучава обичайното поведение на агента и отбелязва отклонения. Компанията включва сред рисковете както манипулиране от нападател, така и излизане извън възложената задача без очевидно нарушение на зададено правило.
Какво е налично и какво предстои
Координираните проверки в няколко области на сигурността вече са общодостъпни. Като налични възможности са посочени и общо пространство за автоматизация, човешко одобрение за чувствителни инструменти и възможност анализаторите да прекъсват работещи агенти по сигурността.
Новото разпознаване на вътрешна заплаха, допълнителните проверки в AI екосистемата и разширените одобрения са включени в плана за четвъртото тримесечие. Допълнителни защити срещу отклонение от правилата са предвидени по-късно. Тези планове не означават, че функциите вече работят навсякъде.
Бутонът за спиране е само част
По-ранното съобщение за AI Kill Switch описва прекратяване под контрола на администратор, първоначално през AI Gateway, а след това и на крайните устройства. Новата актуализация добавя слой за откриване и проверка около този контрол, без да отменя обявените ограничения на въвеждането.
Това са продуктови твърдения на производителя, а не независим тест за ефективност. За организациите практическите въпроси остават кои действия се наблюдават, кой одобрява намесата и какви доказателства се запазват. Софтуерът, който действа бързо, се нуждае и от ясни граници на достъпа и правомощията.
