Черкаський державний технологічний університет продовжує активно реалізовувати амбітний міжнародний проект SECURE («Security Education Center for Unified Resilience and Effective Communications»), що фінансується програмою ERASMUS+.
На нещодавньому вебінарі, який відбувся 06 травня 2026 року, партнери з європейських університетів – Universidade De Aveiro (Португалія), Universidad De Valladolid (Іспанія) та Kauno Technologijos Universitetas (Литва), провідних університетів Грузії – Caucasus University, Akaki Tsereteli State University, Shota Rustaveli State University, а також з вітчизняних ЗВО – Національного авіаційного університету, Харківського національного університету радіоелектроніки та Черкаського державного технологічного університету, обговорили перспективи застосування і реалізації технологій штучного інтелекту/машинного навчання в кібербезпеці з експертом Олександром АДАМОВИМ, доцентом Харківського національного університету радіоелектроніки, старшим викладачем-дослідником BTH – Blekinge tekniska högskola (Швеція), генеральним директором (CEO) та засновником Nioguard Security Lab.
Сьогодні технології штучного інтелекту та машинного навчання стали невід’ємною частиною сучасної кібербезпеки, дозволяючи аналізувати трильйони сигналів безпеки щодня для побудови стійких онлайн-екосистем. Актуальність AI/ML полягає у здатності трансформувати захист наступного покоління за допомогою автоматизації виявлення загроз та реагування на інциденти. Важливим аспектом обговорення став принцип Responsible AI (відповідальний ШІ), який базується на етиці, законності та надійності, включаючи такі ключові вимоги, як прозорість, підзвітність, захист конфіденційності та врахування суспільного впливу.
Експерт Олександр Адамов детально розглянув класифікацію загроз, пов’язаних із ШІ. Зокрема, було виділено три основні напрями: AI-as-a-Weapon (використання ШІ для створення шкідливого контенту, допомоги у розробці малварі та соціальної інженерії), AI-as-a-Target (атаки на самі моделі ML, такі як отруєння даних або ухилення від виявлення) та AI-as-an-App (вразливості LLM-додатків, наприклад, через ін’єкції промптів). Реальні приклади використання ШІ зловмисниками включають створення глибоких фейків (Deepfake) для шахрайства та маніпулювання чат-ботами для отримання несанкціонованих знижок або конфіденційної інформації.
Особливу увагу було приділено платформі Lakera, яка є передовим рішенням для захисту систем на основі великих мовних моделей (LLM). На прикладі гри «Gandalf» було продемонстровано можливості платформи у тестуванні захищеності AI-моделей: призначення системи полягає у запобіганні витоку секретної інформації та блокуванні спроб маніпуляції промптами. Перспективи Lakera полягають у створенні надійного «захисного шару» для корпоративних LLM, що дозволяє бізнесу безпечно впроваджувати інновації, мінімізуючи ризики несанкціонованого доступу до даних.
Для систематизації знань про атаки на ШІ було розглянуто базу MITRE ATLAS — глобальну базу знань про тактики та техніки супротивників, засновану на реальних спостереженнях за атаками на AI-системи. У поєднанні з рейтингом OWASP Top 10 LLM, що визначає найбільш критичні вразливості (такі як Prompt Injection, Insecure Output Handling та Model Theft), ці інструменти дозволяють розробникам та експертам з безпеки краще розуміти ландшафт загроз для мовних моделей. Також було згадано дослідження CERT-UA щодо шкідливого ПЗ LAMEHUG, що підкреслює складність сучасних кіберзагроз, які потребують постійного моніторингу.
Підбиваючи підсумки вебінару, можна стверджувати, що застосування AI/ML є критичною необхідністю для сучасної кібербезпеки. Хоча штучний інтелект створює нові виклики та розширює поверхню атак, він водночас надає захисникам потужні інструменти для інтелектуального аналізу загроз, швидкого реагування на інциденти та автоматизованого моніторингу мереж. Майбутнє цифрової стійкості залежить від нашої здатності впроваджувати принципи «Secure by Design» та активно використовувати ШІ для протидії дедалі складнішим кіберзлочинам.
Кафедра РТСК активно впроваджує сучасні технології AI/ML в навчальний процес, що забезпечить випускникам конкурентні переваги на ринку праці та сприятиме зміцненню глобальної кіберстійкості.
