Google Bard: Persoonlijke chats laten zien bij datalek

De chatbot van Google genaamd Bard gooit private chats van gebruikers in het openbaar. De chats met vraag en antwoord door de AI waren en zijn te vinden via zoekmachines zoals die van Google of Microsoft. Zodra bekend, kan de link naar de chat rechtstreeks worden opgeroepen.

Inleiding

Google Bard is een chatbot van Google. Hij wacht nu ook met een vermeende autocorrectie op. De autocorrectie werkt echter niet goed, zoals tests laten zien. In plaats van foutieve uitspraken te corrigeren, worden ze vaak bevestigd. Anderzijds worden juiste uitspraken wel als mogelijk onjuist weergegeven. Kortom: de correctie is geen correctie.

Google Bard bevat meerdere veiligheidslekken: Persoonlijke links werden openbaar en onthullen privé-chatgesprekken.

1. Ze kunnen de chatgeschiedenis en dus het geheugen van een ander gebruiker overnemen en informatie uit het geheugen van Bard opdiepen.

3. Afbeeldingen die een gebruiker voor een vraag aan de chatbot in Bard heeft geüpload en door Bard opzettelijk zijn uitgeschakeld, kunnen gemakkelijk worden hersteld door het chatbot te vragen.

Staan per 29.09.2023

De aanleiding voor dit artikel what een bericht van een gebruiker. Hij ontdekte dat chatgesprekken van Google Bard openbaar werden, hoewel dat niet what bedoeld.

De zaak kwam waarschijnlijk uit deze Konstellatie voort:

1. Een gebruiker chat met Google Bard.
2. De gebruiker deelt de link met anderen (maar alleen met geselecteerde personen).
3. Google plaatst of plaatste de link in zijn zoekindex.
4. De link what via de Google zoekopdracht te vinden.

Het delen van een link gebeurt in Google Bard via de delen-functie:

Zoals te lezen is, is de link aanvankelijk geheim, hij is kryptisch opgebouwd. Alleen mensen die de link van de delende gebruiker manueel naar zich toe gestuurd krijgen, kennen de link en kunnen hem oproepen.

Door het Google Bard-databaselek werden de tot dan toe geheime links op privé-chatgesprekken openbaar gemaakt.

Het lek van Google Bard

Sommige zoektermen in Google Search leidden direct naar resultaten die de "geheime" links op private Chatgesprekken met Bard bevatte. De link what dan al niet meer geheim en kon door iedereen worden gezien en aangeklikt.

Een voorbeeld van een chatgesprek dat door het datalek is onthuld:

Zowel de vraag als het antwoord van de AI bevatten een Persoonsnamen. Door het antwoord van de AI wordt een context toegevoegd die uit privacy-oogpunt tot een probleem zou kunnen leiden. In elk geval zou het om vals geruchten kunnen gaan.

In de Bard-reactie wordt hier echter duidelijk dat maximale Wierookceremonieën in uitspraken over personen die realistisch ongeschikt lijken, aan de orde van de dag zijn. Bijvoorbeeld: "Hij is een ervaren en succesvol SEO- en dataanalist …".

Denkbaar zou ook zijn dat een Belediging wordt geciteerd die iemand over een persoon heeft gepubliceerd. Als Bard dat ontkent, is dat onplezierig. Wordt deze chatgeschiedenis vervolgens nog ongewild verder verspreid, dan is dat nog onplezieriger en zou het waarschijnlijk ook een probleem zijn voor Google.

Het wordt hier nog veel slechter:

De chat bevat een volledige naam van een persoon, die hier voor de screenshot is geanonimiseerd. De naam van de persoon kan als uniek worden beschreven omdat voornaam en achternaam allesbehalve typisch zijn. Daarnaast staat er nog de stad in Duitsland.

Natuurlijk geeft Bard op verzoek ook de biografie waar het om gaat:

Met Bard kan dus de conversatie van een ander door een derde worden voortgezet. Met Bard kan potentieel iedereen de context van een ander stelen en Bard over de context uitvragen. Dat opent de deur voor veiligheidsproblemen.

Een ander voorbeeld (van 29-09-2023) laat zien dat door het datalek ook veiligheidsproblemen kunnen ontstaan:

De genoemde URL is aanroepbaar, zoals een test liet zien. Ze is geldig en leidt naar een Google Drive-opslagruimte die iemand gebruikt voor zijn documenten en bestanden.

Een ander voorbeeld laat een chat zien waarin de URL naar een eigen cv rechtstreeks aan Bard wordt gesteld als vraag:

De URL what bereikbaar (stand: 29-09-2023) en zal het wel tot in alle eeuwigheid zijn, tot iemand zich besluit om zijn curriculum vitae weer te verwijderen.

Directe zoekopdracht naar Bard-chatten

Een directe zoekactie naar per ongeluk openbaar geworden Bard-URLs what tot 28.09.2023 ook mogelijk. In de Google zoekopdracht moest alleen het volgende worden ingevuld:

Site: https://bard.google.com/share/ en zoekwoord (optioneel);

Het resultaat what veel treffers, die elk voorheen geheim waren geweest en nu de publieke beschikking kregen. Google heeft dat kennelijk gestopt.

Alleen heeft Google de URLs van de privé-chatgesprekken, die zijn gemaakt voor het delen met vrienden of collega's, niet uitgeschakeld. Zo zijn de URLs nog steeds opvraagbaar. Zo kan dit onbedenklijk voorbeeld ook nu nog worden opgeroepen.