De chatbot van Google genaamd Bard gooit private chats van gebruikers in het openbaar. De chats met vraag en antwoord door de AI waren en zijn te vinden via zoekmachines zoals die van Google of Microsoft. Zodra bekend, kan de link naar de chat rechtstreeks worden opgeroepen.
Inleiding
Google Bard is een chatbot van Google. Hij wacht nu ook met een vermeende autocorrectie op. De autocorrectie werkt echter niet goed, zoals tests laten zien. In plaats van foutieve uitspraken te corrigeren, worden ze vaak bevestigd. Anderzijds worden juiste uitspraken wel als mogelijk onjuist weergegeven. Kortom: de correctie is geen correctie.
Google Bard bevat meerdere veiligheidslekken: Persoonlijke links werden openbaar en onthullen privé-chatgesprekken.
- Ze kunnen de chatgeschiedenis en dus het geheugen van een ander gebruiker overnemen en informatie uit het geheugen van Bard opdiepen.
3. Afbeeldingen die een gebruiker voor een vraag aan de chatbot in Bard heeft geüpload en door Bard opzettelijk zijn uitgeschakeld, kunnen gemakkelijk worden hersteld door het chatbot te vragen.
Staan per 29.09.2023
De aanleiding voor dit artikel what een bericht van een gebruiker. Hij ontdekte dat chatgesprekken van Google Bard openbaar werden, hoewel dat niet what bedoeld.
De zaak kwam waarschijnlijk uit deze Konstellatie voort:
- Een gebruiker chat met Google Bard.
- De gebruiker deelt de link met anderen (maar alleen met geselecteerde personen).
- Google plaatst of plaatste de link in zijn zoekindex.
- De link what via de Google zoekopdracht te vinden.
Het delen van een link gebeurt in Google Bard via de delen-functie:
Zoals te lezen is, is de link aanvankelijk geheim, hij is kryptisch opgebouwd. Alleen mensen die de link van de delende gebruiker manueel naar zich toe gestuurd krijgen, kennen de link en kunnen hem oproepen.
Door het Google Bard-databaselek werden de tot dan toe geheime links op privé-chatgesprekken openbaar gemaakt.
Het lek van Google Bard
Sommige zoektermen in Google Search leidden direct naar resultaten die de "geheime" links op private Chatgesprekken met Bard bevatte. De link what dan al niet meer geheim en kon door iedereen worden gezien en aangeklikt.
Een voorbeeld van een chatgesprek dat door het datalek is onthuld:
Zowel de vraag als het antwoord van de AI bevatten een Persoonsnamen. Door het antwoord van de AI wordt een context toegevoegd die uit privacy-oogpunt tot een probleem zou kunnen leiden. In elk geval zou het om vals geruchten kunnen gaan.
In de Bard-reactie wordt hier echter duidelijk dat maximale Wierookceremonieën in uitspraken over personen die realistisch ongeschikt lijken, aan de orde van de dag zijn. Bijvoorbeeld: "Hij is een ervaren en succesvol SEO- en dataanalist …".
Denkbaar zou ook zijn dat een Belediging wordt geciteerd die iemand over een persoon heeft gepubliceerd. Als Bard dat ontkent, is dat onplezierig. Wordt deze chatgeschiedenis vervolgens nog ongewild verder verspreid, dan is dat nog onplezieriger en zou het waarschijnlijk ook een probleem zijn voor Google.
Het wordt hier nog veel slechter:
De chat bevat een volledige naam van een persoon, die hier voor de screenshot is geanonimiseerd. De naam van de persoon kan als uniek worden beschreven omdat voornaam en achternaam allesbehalve typisch zijn. Daarnaast staat er nog de stad in Duitsland.
Natuurlijk geeft Bard op verzoek ook de biografie waar het om gaat:
Met Bard kan dus de conversatie van een ander door een derde worden voortgezet. Met Bard kan potentieel iedereen de context van een ander stelen en Bard over de context uitvragen. Dat opent de deur voor veiligheidsproblemen.
Een ander voorbeeld (van 29-09-2023) laat zien dat door het datalek ook veiligheidsproblemen kunnen ontstaan:
De genoemde URL is aanroepbaar, zoals een test liet zien. Ze is geldig en leidt naar een Google Drive-opslagruimte die iemand gebruikt voor zijn documenten en bestanden.
Een ander voorbeeld laat een chat zien waarin de URL naar een eigen cv rechtstreeks aan Bard wordt gesteld als vraag:
De URL what bereikbaar (stand: 29-09-2023) en zal het wel tot in alle eeuwigheid zijn, tot iemand zich besluit om zijn curriculum vitae weer te verwijderen.
Directe zoekopdracht naar Bard-chatten
Een directe zoekactie naar per ongeluk openbaar geworden Bard-URLs what tot 28.09.2023 ook mogelijk. In de Google zoekopdracht moest alleen het volgende worden ingevuld:
Site: https://bard.google.com/share/ en zoekwoord (optioneel);
Het resultaat what veel treffers, die elk voorheen geheim waren geweest en nu de publieke beschikking kregen. Google heeft dat kennelijk gestopt.
Alleen heeft Google de URLs van de privé-chatgesprekken, die zijn gemaakt voor het delen met vrienden of collega's, niet uitgeschakeld. Zo zijn de URLs nog steeds opvraagbaar. Zo kan dit onbedenklijk voorbeeld ook nu nog worden opgeroepen.
Google Bard is echt onzeker
Bij sommige chats met Bard laden gebruikers een foto op en vragen ze aan Bard naar een uitleg of beschrijving van de foto.
Gelukkig dat Bard het beeld uitschakelt als iemand een link opent naar de chatgeschiedenis van iemand die de chat niet heeft gemaakt. Dat ziet er zo uit:
Weil Google zich heeft voorgenomen om zo veel mogelijk data te verwerken (vermoed ik), is er een uitweg om het beeld toch weer aan te tonen. Hier is de eenvoudige manier om Bard te overlopen:
Het daadwerkelijk al door Bard beschermd beeld wordt ontsloten met een eenvoudig trucje. Bard laat het beeld trouw zien, dat eerder verborgen what.
Als kooperatieve chatbot helpt Bard iedere gebruiker en dus ook gebruikers die helemaal geen toegang tot bepaalde gegevens moeten hebben.
Microsoft als redder van de data
Gelukkig dat er Microsoft is. Want in de Bing-zoekopdracht zijn de geheime Bard-hits nog steeds te vinden:
Dankzij Microsoft dat jullie de data weerherstellen, die Google uit zijn zoekindex heeft verwijderd. Dat maakt het voor hackers makkelijker. Ook hackers zijn maar mensen die werken en geld verdienen willen.
Als ik een vrouw zou zijn, zou me de tweede hit interesseren ("Wat is er zo leuk aan zichzelf op de borsten te spelen?"). Als in de vraag nog een naam what vermeld geweest, wisten we nu wie deze gedachte had.
Andere bekende chatbots hebben ook datalekken. In november 2023 werd bekend dat ChatGPT privégegevens prijsgeeft , wanneer een gebruiker alleen maar lief vraagt. Concreet gaat het hier om zogenaamde Custom GPTs. Dat zijn eigen GPT-modellen die men met de onzekere platform van OpenAI kan creëren en in ChatGPT kan gebruiken.
Conclusie
Privé kan iedereen zijn gegevens verspreiden, zoals hij of zij dat wil. Maar het is beter om geen persoonlijke gegevens aan Google, Microsoft, Meta of Apple door te geven. Ook een schertsende vraag over eigen neigingen, waarvan de AI-antwoord naar vrienden gestuurd moet worden, kan snel een bumerang worden.
Google-Bard-conversaties werden ongewild openbaar gemaakt. Beïnvloed zijn gegevens van personen maar ook van URLs op data-opslagplaatsen.
Zie het artikel.
Dat bedrijven en besturen beter afstand moeten nemen van AI-chatbots, wordt nu nog duidelijker door het datalek van Bard. Ook de massieve beveiligingsgaten in Microsoft-producten, die Microsoft niet alleen neerhaalde maar ook onhersteld liet, zouden grote aanleiding tot bezorgdheid moeten geven.
Eigen AI-systemen, die geen gegevens doorgeven aan derden, zijn niet alleen de oplossing voor het voorkomen van gegevensproblemen (bedrijfsgeheimen, medewerkergegevens, contracten …). Ze leveren ook betere resultaten en zijn vooral in staat om eigen bedrijfsdocumenten en databases door te nemen.
My name is Klaus Meffert. I have a doctorate in computer science and have been working professionally and practically with information technology for over 30 years. I also work as an expert in IT & data protection. I achieve my results by looking at technology and law. This seems absolutely essential to me when it comes to digital data protection. My company, IT Logic GmbH, also offers consulting and development of optimized and secure AI solutions.
