Сигурност

AI - оръжие от двете страни на барикадата

Майя Бойчева-Манолчева

Разходите за изкуствен интелект се очаква да достигнат 110 млрд. долара през 2024 г., показва неотдавнашно проучване на анализаторската компания IDC. Наред с търсенето на по-добро преживяване за клиентите и подобряване на работата на служителите сред основните катализатори на внедряването на изкуствен интелект се нареждат автоматизираното проучване за заплахи и защита и анализът на измами и разследването им.

Добрата новина е, че киберсигурността и противодействието на киберпрестъпленията са безспорно един от секторите, които ще имат все по-голяма полза от внедряването на решения, базирани на изкуствен интелект. Лошата е, че от възможностите на технологията все повече ще се възползват и киберпрестъпниците. На всички ни е ясно, че добрият изкуствен интелект означава използване на повече данни, които захранват системите, а повече данни означава и повече възможности за атака.

Как изкуственият интелект може да бъде използван от киберпрестъпниците и как - от екипите по киберсигурност? Ето няколко приложения.

AI базирани атаки

Годината е 2018, месецът - април, когато 3,75 милиона потребители на платформата за фрийлансъри TaskRabbit попадат сред жертвите на масивна кибератака, осъществена с помощта на изкуствен интелект. В резултат - изтекли са номерата на социалните осигуровки и детайлите от банковите сметки на засегнатите. Към сървърите на TaskRabbit е извършена огромната DDoS атака от хакери с помощта на ботнет, контролиран от изкуствен интелект, който експлоатира компютрите. Атаката е толкова голяма, че се налага сайтът да бъде свален, за да се възстанови неговата сигурност. Пет месеца минават, преди сайтът отново да е онлайн, като според оценките на експертите в крайна сметка са засегнати 145 милиона потребители.

Всички помним и атаката към WordPress, при която бяха заразени 20 000 сайта. Тя отново беше осъществена от ботнет, чрез който зловредни сървъри атакуваха посредством руски прокси провайдър с името best-proxies.ru. Този провайдър беше закачен за мрежа от 14 000 прокси сървъра, които инфектираха сайтове, направени на популярната платформа.

Помним и други атаки като тези срещу Instagram през 2019 г., когато киберпрестъпници промениха информацията в профилите на потребители, в резултат на което те не можеха да влязат в профилите си. Малко по-късно пароли на потребители бяха изложени в URL адресите на браузърите им. Много анализатори коментираха, че хакерите са използвали точно AI системи, за да сканират информацията на потребителите в Instagram за уязвимости.

Миналата година киберпрестъпници използваха софтуер, базиран на изкуствен интелект, за да имитират гласа на главния изпълнителен директор на германска енергийна компания при телефонен разговор с ръководителя на дъщерна фирма, намираща се във Великобритания. По време на разговора фалшивият управител е накарал управителя на дъщерната компания да преведе пари на унгарски доставчик. В резултат компанията бе ощетена с 220 000 евро. Имената на засегнатите организации не бяха оповестени.

AI все по-често се използва и за фалшиви материали с цел дезинформация в социалните медии.

Защо хакерите се насочиха към изкуствения интелект? Отговорите като че ли са ясни. В сравнение с хората изкуственият интелект е по-бърз, не се уморява, в много случаи е по-адаптивен и не на последно място - не иска "хонорар". Така технологията се превръща в доста добър и удобен инструмент в ръцете на киберпрестъпниците.

Кои са най-разпространените приложения на изкуствения интелект при кибератаките?

- AI и социално инженерство
Изкуственият интелект може да разпознава модели на поведение, което лесно може да бъде използвано при атаки тип "социално инженерство". Резултатът е - възможност за манипулиране на поведението и достъп до чувствителна информация.

- Мониторинг на уязвимостите
AI може да бъде използван за откриване на уязвимости, които впоследствие хакерите да атакуват.

- Постоянно променящ се софтуер
Изкуственият интелект може да бъде използван и за създаване на постоянно променящ се малуер, който не може да бъде разпознат като такъв точно поради изменящата му се структура.

- Манипулиране на данни и ботове
Хакерите могат да извършват злонамерени действия, като манипулират данните или ботовете.

Знаем, че данните са в основата на изкуствения интелект и моделите на машинното самообучение. Когато изкуственият интелект се захрани с манипулирани данни, е много лесно да се контролира и промени поведението му. Например лесно спам имейлите могат да бъдат разпознати като безопасно съдържание. Най-общо специалистите разделят манипулациите на данните на два вида - такива, които атакуват достъпа до алгоритмите, и такива, които са насочени към тяхната цялост. Според експертите манипулирането на 3% от данните може да доведе до спад в точността на AI с 11%.

Ботовете също могат да бъдат манипулирани, което пък да доведе до грешни решения от страна на алгоритмите на изкуствения интелект.

AI киберсигурност

Не само лошите момчета използват изкуствен интелект. Той може да бъде част от арсенала и на добрите, които да приложат технологията в своята стратегия за киберсигурност. Причините, поради които специалистите прибягват до него, са аналогични на тези, които мотивират и киберпрестъпниците. За 69% от компаниите изкуственият интелект е жизненоважен за организациите поради нарастващия брой атаки, с които традиционните методи не могат да се справят. Това показва проучване на Capgemini Research Institute сред 850 висши мениджъри в 10 държави. Според 56% от допитаните компании експертите по киберсигурност са под прекалено голям стрес, а 23% смятат, че не се способни да предотвратят всички атаки.

Как изкуственият интелект може да стане част от киберсигурността?

- Симулиране на потребителското поведение
Изкуственият интелект може да симулира и оценява поведението на потребителите в мрежата и да помогне за разпознаване на странно поведение или аномалии. Когато нов потребител влезе, AI базираните машини могат да идентифицират съмнителни действия, които да бъдат директно прекратени или просто системните администратори да бъдат уведомени.

- Разпознаване на заплахи
Обикновено хакерите използват техники за командване и управление, за да избегнат разпознаване от страна на мрежовата сигурност. Например, за да преминат защитните стени и IDS/IPS, информацията се вкарва в DNS запитвания. От своя страна специалистите по киберсигурност могат да разчитат на изкуствен интелект за разпознаване на аномалиите, сравнение на моделите и проследяване на информацията. Това безспорно ще доведе до идентифициране на голям брой мрежови или системни атаки.

- По-бърза реакция
Според експертите системите с изкуствен интелект могат да подобрят и реакцията при инциденти, включително при по-модерните насочени атаки, рансъмуер, малуер, социален инженеринг и криптираните атаки.

- Защита при крайните устройства
Изкуственият интелект може да бъде използван за анализ на заплахите в крайните точки и защита на персоналните мобилни устройства.

- Приоритизиране на заплахите
Машинното самообучение може да бъде от голяма помощ на експертите, като автоматизира повторяемите задачи и им помогне да приоритизират заплахите и да обърнат внимание първо на най-съществените.

- AI и антивирусни програмиДобър пример за приложение е внедряването на изкуствен интелект в антивирусните програми, като технологията подпомага разпознаването на странно или подозрително поведение на процесите и може да предпази мрежовите активи от експлойти при наличие на зловреден код в мрежата.

AI срещу AI

Киберпрестъпниците стават все по-изобретателни и използват все по-иновативни методи за атака, които често включват и изкуствен интелект. А най-добрият начин, за да се противодейства на нарастващия брой AI базирани атаки, е чрез AI инструменти. Специалистите съветват експертите от отдела по киберсигурност да планират система, базирана на изкуствен интелект, която може както да оцени потенциалните рискове и заплахи, така и да избере подходящата стратегия, да я имплементира ефективно и да локализира зловредния софтуер. На база на това тя може да помогне и да бъде изграден адекватен план за реакция при инциденти. И не на последно място - изкуственият интелект може да помогне за справяне с все по-често срещаната умора на експертите. А както знаем, човешкият фактор не е за пренебрегване и в добрия, и в лошия смисъл.

X