Google Bard: Витік даних розкриває особисті чати

Чат-бот Google під назвою Bard викидає особисті чати користувачів у відкритий доступ. Чати разом із запитанням та відповіддю від AI можна знайти в пошукових системах, як ті що належать Google чи Microsoft. Коли вже відомо, посилання на чат можна відкрити прямо.

Вступ

Google Bard – це чат-бот від Google. Він вже має функцію так званої автокорекції. Але ця автокорекція не працює правильно, як показують випробування. Замість того щоб виправляти помилкові заяви, вони часто підтверджуються. З іншого боку, вірні заяви можуть бути представлені як можливо помилкові. У підсумку: коригування не є коригуванням.

Гугл Бард містить кілька безпеки вразливостей: Приватні лінки були публіковані та відкрили приватні історію чатів.

2. Треті можуть захопити історію чату та тим самим пам'ять AI іншого користувача і вивідати інформацію з цієї пам'яті у Bard.

3. Зображення, які користувач за допомогою Bard попередньо видалив, можна легко відновити шляхом запитання у чат-бота.
Стан на 29.09.2023

Причина цього посту була звіт користувача. Він виявив, що треки чату у Google Bard стали публічними, хоча це не передбачалося.

Справа виникла, ймовірно, з цієї конфігурації:

Користувач спілкується з Google Bard.
Користувач поділяє посилання з іншими (але тільки зі спеціально вибраними особами).
Гугл розміщує або розміщував цей посилання в своїй базі даних пошуку.
Лінк був доступний за допомогою пошукової системи Google.

Розділка посилання відбувається в Google Bard за допомогою функції "Розділити":

Створити посилання для поділу в Google Bard. Джерело: Google Bard.

Як зрозуміти, посилання спочатку є секретним, воно криптовано. Лише люди, яким його надсилає користувач, який поділяє його, знають посилання та можуть відкрити його.

Через витік даних Google Bard приватні посилання на чати стали публічними.

Випадок даних від Google Bard

Някі такі запити в Google пошук безпосередньо виводили до результатів, які містили „секретні“ посилання на приватні чат-історія Bard. Пізніше посилання вже не було секретним і міг побачити та відкрити будь-хто.

Відповідь тексту: Довільний приклад чату, який був розкритий через витік даних:

З розмови із Google випадково виведений чат-історія з Google Bard. Стан: 29.09.2023

Схиль і питання КІ містять Ім'я особи. Відповідь КІ додає контекст, який міг би стати проблемою з точки зору захисту даних. Хіба це не фальшиві заяви?.

У відповіді на Bard помітно, що максимальні визначення у висловлюваннях про людей, які здаються незвичайними, є звичайним явищем. Наприклад, там стоїть: "Він досвідчений і успішний фахівець з SEO та аналізу даних …".

Думати можна також про цитату Сlander, яку публікував третій щодо якоїсь особи. Якщо Бард відмовляється від цього, то це буде не дуже приємно. Коли цей діалог ще й випадково розповсюджується далі, то це вже зовсім неприємне і, вірогідно, стане проблемою для Google.

Навіть гірше буде тут:

У чаті вказується ім'я людини, а також завантажений резюме.

Чат містить повний ім'я людини, яке тут анонімізовано для знімка екрану. Ім'я людини можна вважати потенційно унікальним, оскільки ім'я та прізвище не дуже типові. Крім того, місто в Німеччині.

Самовідомо, Бард також надає біографію, про яку йде мова:

Бард дозволяє продовжувати розмову, яку провів інший.

Зв'язок з Бардом можна продовжити іншому від третього, з допомогою Барда потенційно кожен може вкравати контекст іншого та запитувати Бард про контекст. Це відкриває двері для безпеки проблем.

Інше приклад (від 29.09.2023) показує, що через витік даних можуть виникати проблеми безпеки:

Завдяки Google Bard Відкритий посилання на дані в Google Drive.

Назначена URL доступна для звернення, як показав тест. Вона валідна і веде до зберігання Google Drive, який якимось використовується для документів та файлів.

Наприклад, ще одне приклад показує чат, в якому URL на власний резюме був прямо поставлений до Бард як запитання:

Дяки Бард можуть отримувати дані третіх осіб щодо користувачів Бард.

Веб-адрес була доступна (станом на 29 вересня 2023 року) і, ймовірно, залишиться такою назавжди, поки хто-небудь не вирішить знову видалити свій резюме.

Пряма пошукова операція за чатами Bard

Пряма пошукова операція за допомогою публічно вийшовших URL-адрес Bard була можливою до 28 вересня 2023 року. У полі Google треба було ввести наступне:

Сайт: https://bard.google.com/share/<опціональний пошукові запит>

Результатом були багато хітів, які раніше були секретними чат-траєкторіями, що зробили їх доступними для громадськості. Google здається зупинив це.

Вже ж, Google не деактивував URLs для приватних чатів, створених для внутрішнього обміну між друзями чи колегами. Отже, ці URL ще завжди доступні. Таким чином, ця невинна прикладна інформація також тепер можна відкрити.

Гугл Бард дуже нестійкий

У деяких чатах з Бард користувачі завантажують зображення та запитують у Бард пояснення або опис цього зображення.

Добре, що Бард видаляє зображення, коли людина відкриває посилання на історію чату, яка не створила цей чат. Це виглядає так:

Бард намагається захистити зображення інших людей, які завантажують їх у свої чати.

Виночас Google поставила собі за мету обробляти якомога більше даних (я припускаю), але є виход із цього питання, щоб все ж таки показати зображення. Тут простий спосіб обманути Bard:

Гугл Бард також може виводити захищені дані (станом на 29 вересня 2023 року).

Виставлене раніше за допомогою Бард захищене зображення легко відкривається шляхом застосування простого трюка. Бард демонструє це зображення, яке раніше було приховане.

Як кооперативний чат-бот, Бард допомагає кожному користувачеві та тим, хто навіть не має доступу до певних даних.

Майкрософт як рятувальник даних

Хай буде Microsoft. бо в пошуковій системі Bing ще можна знайти секретні відповіді від Bard:

Майкрософт Бінг забезпечує подальшу доступність вмісту, який вже був видалений Google (станом на 29 вересня 2023 року).

Дякуємо Microsoft, що ви відновили дані, які Google видалило зі свого пошукового індексу. Це робить роботу хакерам легшою. Також хакери — це лише люди, які працюють і хочуть заробляти гроші.

Якщо я була б жінкою, мене справді цікавила би друга спроба ("Що таке як жінка так добре у себе біля грудей грається?"). Якщо в запитанні було ще ім'я людини, ми тепер знали хто такий цей погляд.

Також інші відомі чатботи мають витік даних. У листопаді 2023 року було повідомлено, що ChatGPT розкриває особисту інформацію користувача, якщо він лише запитує про неї. Конкретно мова йде про так звані Custom GPTs. Це власні моделі GPT, які можна створити за допомогою нестійкої платформи OpenAI та використовувати в ChatGPT.

Результат

Приватно кожен може розкидувати свої дані, як йому або їй спаде на думку. Однак краще не передавати особисті дані Google, Microsoft, Meta чи Apple. А навіть жартівлива запитання щодо власних уподобань, відповідь якої від КІ можна надсилати друзям, може швидко стати бумерангом.

Говірки Google Bard були випадково опубліковані. Забезпечені дані осіб, але також URL-адреси на зберігання даних.
Перегляньте повідомлення.

Що стосується підприємств та адміністративних органів, вони повинні краще віддалятися від чат-ботів з інтелектуальної власності, адже тепер ще більше помітно стає, що таке відбувається. Також масштабні безпеки в продуктах Microsoft, які не тільки були зменшені, але й залишилися незміненими, повинні викликати велику хвилю занепокоєння.

Підприємчі власні системи КІ, які не передають даних третім особам, є не лише рішенням для уникнення проблем із даними (бізнес-секрети, дані співробітників, угоди тощо). Вони також забезпечують краще виконання завдань та здатні досліджувати підприємські документи та бази даних.