ua
- ua
- en
![Тестування безпеки AI-платформи]({"desktop":"assets\/images\/cache\/assets\/images\/cases\/case-large-45-998x499.png","desktop2x":"assets\/images\/cache\/assets\/images\/cases\/case-large-45-1996x998.png","tablet":"assets\/images\/cache\/assets\/images\/cases\/case-large-45-1150x575.png","tablet2x":"assets\/images\/cache\/assets\/images\/cases\/case-large-45-2296x1148.png","mobile":"assets\/images\/cache\/assets\/images\/cases\/case-large-45-740x370.png","mobile2x":"assets\/images\/cache\/assets\/images\/cases\/case-large-45-1478x739.png"})
Клієнт створив AI SaaS-платформу на основі великих мовних моделей: чат-середовище, агентні інструменти, завантаження файлів і зображень, зовнішній перегляд вебсторінок.
Для платформи, яка обробляє персональні дані, конфігурації систем і ключі доступу, кібербезпека є фундаментом довіри. Одна вразливість здатна розкрити внутрішні інструкції, скомпрометувати дані користувачів або надати зловмиснику контроль над агентними функціями.
У цьому кейсі Datami застосувала комбінований підхід: тестування Black-box для перевірки публічного інтерфейсу та White-box для аналізу кодової бази. Це дозволило змоделювати зовнішні атаки та виявити приховані вразливості в архітектурі.
Перевірку API проводили автоматизованими сканерами та протестували вручну. Статичний аналіз коду здійснювали інструментами SonarQube та Snyk, а також за допомогою локально розгорнутих мовних моделей.
Роботу розпочали з організації безпечного середовища для тестування – кодова база клієнта не передавалася на зовнішні сервери.
Окремою задачею стало залучення носіїв мов для перевірки векторів атак: деякі обходи фільтрів безпеки були можливі, якщо запити надходили мовами з нелатинськими алфавітами.
Кожне
Datami провела пентест AI-платформи та виявила 51 вразливість, серед яких дві критичні: повне вилучення системного промпта через багатоходову атаку та довільний запис файлів без перевірки шляху (через інструменти редагування можна було записати файл у будь-яку точку файлової системи сервера).
Також виявили обхід фільтрів безпеки через перемикання мови (підтверджено в 6 з 14 перевірених категорій), ін'єкцію промпта через завантажений PDF або DOCX та ін'єкцію через зображення з вбудованим текстом.
Клієнт отримав такі рекомендації:
AI-платформа обробляла персональні дані та конфігурації систем у середовищі, де зловмисник міг через звичайний чат-інтерфейс обійти захист і отримати внутрішні інструкції системи.
Завдяки пентесту Datami критичні загрози були виявлені та усунуті до того, як ними скористалися. Цей кейс з кібербезпеки підтверджує: AI-продукти потребують спеціалізованої перевірки, яка виходить за межі класичного тестування вебзастосунків.
![Впровадження SIEM Wazuh для фінансової компанії]({"desktop":"assets\/images\/cache\/assets\/images\/cases\/case-large-36-554x277.png","desktop2x":"assets\/images\/cache\/assets\/images\/cases\/case-large-36-1106x553.png","tablet":"assets\/images\/cache\/assets\/images\/cases\/case-large-36-380x190.png","tablet2x":"assets\/images\/cache\/assets\/images\/cases\/case-large-36-758x379.png","mobile":"assets\/images\/cache\/assets\/images\/cases\/case-large-36-560x280.png","mobile2x":"assets\/images\/cache\/assets\/images\/cases\/case-large-36-1118x559.png"})
![Аудит безпеки блокчейн-проєкту]({"desktop":"assets\/images\/cache\/assets\/images\/cases\/case-large-34-554x277.png","desktop2x":"assets\/images\/cache\/assets\/images\/cases\/case-large-34-1106x553.png","tablet":"assets\/images\/cache\/assets\/images\/cases\/case-large-34-380x190.png","tablet2x":"assets\/images\/cache\/assets\/images\/cases\/case-large-34-758x379.png","mobile":"assets\/images\/cache\/assets\/images\/cases\/case-large-34-560x280.png","mobile2x":"assets\/images\/cache\/assets\/images\/cases\/case-large-34-1118x559.png"})
![Впровадження SOC для ІТ-компанії]({"desktop":"assets\/images\/cache\/assets\/images\/cases\/case-large-35-554x277.png","desktop2x":"assets\/images\/cache\/assets\/images\/cases\/case-large-35-1106x553.png","tablet":"assets\/images\/cache\/assets\/images\/cases\/case-large-35-380x190.png","tablet2x":"assets\/images\/cache\/assets\/images\/cases\/case-large-35-758x379.png","mobile":"assets\/images\/cache\/assets\/images\/cases\/case-large-35-560x280.png","mobile2x":"assets\/images\/cache\/assets\/images\/cases\/case-large-35-1118x559.png"})
![Самостійне оцінювання кіберризиків: 20 запитань для фінтех-компаній]({"desktop":"assets\/images\/cache\/assets\/images\/blog\/41-2-554x277.png","desktop2x":"assets\/images\/cache\/assets\/images\/blog\/41-2-1106x553.png","tablet":"assets\/images\/cache\/assets\/images\/blog\/41-2-380x190.png","tablet2x":"assets\/images\/cache\/assets\/images\/blog\/41-2-758x379.png","mobile":"assets\/images\/cache\/assets\/images\/blog\/41-2-560x280.png","mobile2x":"assets\/images\/cache\/assets\/images\/blog\/41-2-1118x559.png"})
Пропонуємо безплатний опитувальник, розроблений на основі 9-річного досвіду Datami у проведенні тестувань на проникнення для організацій фінансового сектору та з урахуванням вимог NIS2, GDPR, PCI DSS, PSD2 і DORA.
![Смартфон як мішень: хто відповідає, коли зламали мобільний додаток?]({"desktop":"assets\/images\/cache\/assets\/images\/blog\/blog-39-1-554x277.png","desktop2x":"assets\/images\/cache\/assets\/images\/blog\/blog-39-1-1106x553.png","tablet":"assets\/images\/cache\/assets\/images\/blog\/blog-39-1-380x190.png","tablet2x":"assets\/images\/cache\/assets\/images\/blog\/blog-39-1-758x379.png","mobile":"assets\/images\/cache\/assets\/images\/blog\/blog-39-1-560x280.png","mobile2x":"assets\/images\/cache\/assets\/images\/blog\/blog-39-1-1118x559.png"})
Коли користувач втрачає гроші через вразливість у мобільному додатку, винен не він. Розбираємо, де проходить межа відповідальності власника застосунку і що зробити, щоб додаток не став мішенню кіберзлочинців.
![Пентест мобільних додатків: захист від шкідливих застосунків]({"desktop":"assets\/images\/cache\/assets\/images\/blog\/blog-37-1-554x277.png","desktop2x":"assets\/images\/cache\/assets\/images\/blog\/blog-37-1-1106x553.png","tablet":"assets\/images\/cache\/assets\/images\/blog\/blog-37-1-380x190.png","tablet2x":"assets\/images\/cache\/assets\/images\/blog\/blog-37-1-758x379.png","mobile":"assets\/images\/cache\/assets\/images\/blog\/blog-37-1-560x280.png","mobile2x":"assets\/images\/cache\/assets\/images\/blog\/blog-37-1-1118x559.png"})