МЕТОД ЗА ОЦЕНКА НА КИБЕРИНЦИДЕНТИ С ИЗКУСТВЕН ИНТЕЛЕКТ

Абстракт

Разширяването на приложението на изкуствения интелект в информационни системи, облачни платформи, автоматизирани процеси и автономни агенти променя характеристиките на съвременните киберинциденти. Изкуственият интелект може да бъде едновременно обект на атака, средство за нейното осъществяване, автономен участник в последователност от действия или фактор за ускоряване и разпространение на инцидента. Това затруднява използването на традиционни подходи за оценяване, които не отчитат степента на автономност, достъпа до външни инструменти, загубата на човешки контрол и възможността компрометирането да се разпространява между взаимосвързани AI компоненти.
В статията се предлага метод за класифициране и количествена оценка на киберинциденти, свързани с изкуствен интелект. Методът първоначално определя ролята на ИИ в инцидента, след което оценява неговата техническа тежест чрез набор от нормализирани показатели. Особено внимание се отделя на степента на автономност, потенциала за разпространение, въздействието върху данни и информационни ресурси, злоупотребата с права за достъп и степента на запазен човешки контрол. Въвежда се интегрална оценка, която комбинира базовата тежест на инцидента с корекции за съвместното влияние на автономността и разпространението и за загубата на човешки надзор. Приложимостта на метода се предвижда да бъде проверена чрез сценарии, представящи AI-assisted phishing, prompt injection, компрометиране на автономен AI агент и разпространение в multi-agent среда.