EchoLeak – це уразливість в Microsoft 365 Copilot, яка дозволяла зловмисникам отримати доступ до конфіденційних даних компанії. Жодних дій з боку користувача Copilot не було потрібно. Натомість, зловмисна інструкція для Copilot була прихована в електронному листі, який жертві достатньо було отримати, щоб зіткнутися з проблемою безпеки.
Вступ
Копілот від Microsoft — це загальна КІ, яка в деяких аспектах здається корисною, але часто має бути названа провальником. Простіший тест із дуже простою задачею відкрило еклатне провалання Копілота на рівні функціональності.
Відомо, що Microsoft масштабно використовує дані клієнтів без жодної сорому. Натомість Microsoft навіть публікує цей крок відкрито (вірогідно через юридичні причини).
Релативно нова небезпека для підприємств та приватних користувачів Copilot. Copilot отримує доступ майже до всіх даних на комп'ютерах, де встановлено цю КІ-техніку. Через платформу Microsoft 365, в яку інтегрований Copilot "„нахтуло“", дані знову відправляються у світ, наприклад, через застосунок Teams.
EchoLeak використовує це вміло. Користувач Copilot не мав необхідності зробити помилку, щоб бути зацікавленим. Достатньо було бути користувачем Copilot, щоб піддіяти напад і утратити дані. Microsoft замовно заткнулася про безпекову лагу і вона була закрита лише через чотири місяці після повідомлення шляхом дії «випереджувача».
Що таке EchoLeak?
Ехо-лейк – це Нуль-клікова безпеки. Це означає: Ви є жертвою навіть якщо ви нічого не зробили неправильно та ніде не клікали, де не повинні були клацнути. Винуватцем не ви, а Microsoft 365 Copilot.
Результатом EchoLeak є витіснення даних з вашої системи. Завдяки Copilot і великій екосистемі Microsoft 365 неавторизовані особи можуть отримати ваші дані. Для досягнення успіху зловмиснику не потрібна взаємодія з користувачем.
Постраждали системи Microsoft 365 Copilot у всіх конфігураціях. Доступ до даних був можливий через Word, Excel, PowerPoint, Outlook, Teams, сайти SharePoint, вміст OneDrive та Microsoft Graph.
Технічний аналіз
Атака EchoLeak була успішною, оскільки мовна модель Copilot (LLM) не працювала з достатніми обмеженнями. Замість цього всі можливі дані з робочих станцій, на яких працював Copilot, були просто завантажені в штучний інтелект Microsoft і проаналізовані. Таким чином, надійні внутрішні дані були змішані з ненадійними зовнішніми даними в одному "розумовому процесі".
Це означало, що електронний лист, отриманий від зловмисника (в тому числі спам), міг змусити Copilot отримати доступ до внутрішніх даних і переслати ці дані зловмиснику.
Є база даних, в якій перелічені безпеки лагуни відносно програмного забезпечення. Ця називається CVE (Common Vulnerabilities and Exposures). Кожна безпекова лагуна оцінюється за критичністю. 10 — це найвищий рівень.
Уразливість Microsoft 365 Copilot під назвою EchoLeak отримала оцінку 9.3, що свідчить про те, наскільки критичною була проблема, яку Microsoft замовчувала.
Навіть якби Microsoft поінформувала всіх клієнтів, її дії все одно були б дуже сумнівними. Сам факт існування проблеми свідчить про дивне розуміння Microsoft захисту та безпеки даних. Повний доступ до всіх даних у системі не повинен, принаймні, відбуватися за замовчуванням. Можливо, краще було б надіслати належний, прозорий і зрозумілий запит залежним від Microsoft клієнтам?
Що свідчить про ще одну сторінку цієї катастрофи, так це те, що Microsoft працювала над цим питанням чотири місяці, поки не сподівається нарешті вирішити його. Що свідчить про ще одну сторінку цієї катастрофи, так це те, що Microsoft не може або не хоче швидко ліквідувати дуже великі безпеки, які можуть загрожувати існуванню підприємств.
Результат
Чи можна вимкнути Copilot. Для багатьох користувачів це було б найкращим рішенням. Є інші та головним чином краще системи, які значно безпечніші та функціональніше ефективніші.
Вільні держави та країни вийшли з Microsoft. Зручність заважає багатьом. Але зростає кількість тих, хто розпізнає структурну небезпеку, яку створюють продукти Cloud компанії Microsoft.
Сьогодні чудові хмарні продукти можна не лише придбати у власній країні, але й розробити зі значно меншими зусиллями, ніж раніше. Порівняно з тим, що було три роки тому, зусиль потрібно докласти, мабуть, у 10 разів менше.
У майбутньому з продуктами Microsoft точно не буде більше проблем із безпекою. Я обіцяю!
My name is Klaus Meffert. I have a doctorate in computer science and have been working professionally and practically with information technology for over 30 years. I also work as an expert in IT & data protection. I achieve my results by looking at technology and law. This seems absolutely essential to me when it comes to digital data protection. My company, IT Logic GmbH, also offers consulting and development of optimized and secure AI solutions.
