Googles chattbot Bard kastar in privat chatt med användare ut i allmänheten. Chattarna inklusive fråga och AI-svar kan hittas via sökmotorer som Googles eller Microsofts. När det är känt kan länken till chatten också direkt anropas.
Inledning
Google Bard är en chattbot från Google. Den väntar nu också med en påstådd automatisk korrektur. Automatiska korrekturen fungerar dock inte rätt, som tester visar. Istället för att korrigera felaktiga uttalanden bekräftar de ofta dem. Å andra sidan presenteras riktiga uttalanden ibland som möjligtvis falska. Kort sagt: Korrektionen är ingen korrektion.
Google Bard innehåller flera säkerhetsluckor: Privata länkar blev offentliga och avslöjade privata chattloggar.
- De kan ta över chattloggen och därmed den AI-minneskapacitet hos en annan användare och utvinna information från minnet.
3. photos som en användare med försiktighet har blockerat från att visas av Bard kan lätt återställas genom att fråga chatboten i Bard.
Status som av 29.09.2023
Orsaken till denna artikel var en rapport från en användare. Han upptäckte att chattloggar från Google Bard blev offentliga, trots att det inte var tänkt så.
Fallet uppstod väl ur denna konstellation:
- En användare chattar med Google Bard.
- Användaren delar länken med andra (men bara med utvalda personer).
- Google har lagt respektive låg in länken i sin sökindex.
- Länken var sökbar via Googles sökmotor.
Delningen av en länk sker i Google Bard via delningsfunktionen:
Som du kan läsa är länken först och främst hemlig, den är kryptiskt uppbyggd. Bara människor som fått länken från delande användare manuellt skickad vet om länken och kan öppna den.
Genom Googles Bard-dataintrång blev de ursprungligen hemliga länken till privata chattloggar offentliggjorda.
Googles dataläcka
Vissa sökord i Google Search ledde direkt till träffar som innehöll "hemliga" länkar till privata chattloggar från Bard. Länken var då åtminstone inte längre hemlig och kunde ses och anropas av vem som helst.
Här ett exempel på en chattlogg som blivit utsatt för dataskyddsförordningen:
Både frågan och svaret från AI innehåller en Personnamn. Genom AI-svaret läggs till ett sammanhang som ur dataskyddssynpunkt kunde bli ett problem. Även om det skulle kunna vara falska uppgifter.
I den Bard-svaret tydliggörs dock att maximala Reningsceremonier i uttalanden om personer som verkar orealistiska är en vanlighet. Till exempel står där: "Han är en erfaren och framgångsrik SEO- och datanalyst …".
Det skulle också kunna vara ett citat av en Förtal, som någon annan har publicerat om en person. Om Bard inte ger tillbaka detta, är det obehagligt. Om denna chattlogg sedan även oavsiktligt sprids vidare, är det ännu mer obehagligt och skulle sannolikt också vara ett problem för Google.
Det blir ännu värre här:
Chaten innehåller en fullständigt namn som här anonymiserats i skärmdumpen. Namnet på personen kan betraktas som unikt, eftersom förnamn och efternamn är långt ifrån typiska. Dessutom står det ännu till staden i Tyskland.
Naturligtvis gerar Bard också CV:n efterfrågan handlar om:
Med Bard kan en konversation från någon annan fortsätta av en tredje person. Med Bard kan potentiellt vem som helst stjäla kontexten till någon annans och fråga Bard om det. Det öppnar upp för säkerhetsproblem.
Ett ytterligare exempel (från den 29 september 2023) visar att även säkerhetsproblem kan uppstå genom dataläckaget:
Den angivna URL:n är åtkomlig, som ett test visade. Den är giltig och leder till en Google Drive-fil som någon använder för sina dokument och filer.
Ett ytterligare exempel visar en chatt där URL:en till en egen CV direkt har ställts som fråga till Bard:
URL:n var tillgänglig (per den 29 september 2023) och kommer sannolikt att vara det i evighets tid, tills någon bestämmer sig för att ta bort sin CV igen.
Direkt sökning efter Bard-chattar
En direkt sökning efter av misstag offentliggjorda Bard-URLs var också möjlig fram till den 28 september 2023. I Google-sökningen behövde man bara skriva in följande:
Sidan: https://bard.google.com/share/ <valfri sökterm>
Resultatet var många träffar som tidigare hemliga chattloggar blev tillgängliga för allmänheten. Google har tydligen stängt av det.
Men Google har inte inaktiverat URL:erna till de privata chattloggar som skapats för att dela med vänner eller kollegor internt. Så är URL:erna fortfarande åtkomliga. Så kan detta oförargliga exempel också nu fortfarande kallas upp.
Google Bard är verkligen osäker
Vissa chattar med Bard har användare som laddar upp en bild och frågar Bard om en förklaring eller beskrivning till bilden.
Lyckligtvis blottar Bard inte bilden när någon som inte skapat chatten öppnar en länk till chatloggen. Det ser ut såhär:
Eftersom Google har satt sig som mål att behandla så mycket data som möjligt (förmodar jag), finns det dock ett sätt att ändå visa bilden. Här är den enkla lösningen för att överlista Bard:
Det faktiskt redan skyddade bilden av Bard tas med en enkel trick. Bard visar upp det tidigare dolda bilden.
Som kooperativ chattrobot hjälper Bard varje användare och därmed även användare som inte har tillgång till vissa data.
Microsoft som räddare för data
Lyckligtvis finns det Microsoft. För i Bing-sökningen hittar man fortfarande de dolda Bard-hittarna:
Tack Microsoft för att ni återställt data som Google tagit bort från sin sökindex. Det gör det lättare för hackare. Även hackare är bara människor som arbetar och vill tjäna pengar.
Om jag var en kvinna skulle jag nog vara intresserad av den andra frågan ("Vad är så kul med att leka med sina bröst som kvinna?"). Om det i frågan hade funnits ett namn på personen, vore vi nu säkra på vem som hade kommit på idén.
Även andra kända chattbotar har dataläckor. I november 2023 uppmärksammades att ChatGPT läcker privat data, om en användare bara frågar efter det med lite längtan. Konkret handlar det här om så kallade Custom GPTs. Det är egna GPT-modeller som man kan skapa med den osäkra plattformen från OpenAI och sedan använda i ChatGPT.
Sammandrag
Privat kan var och en sprida sina data, som man vill. Men det är bättre att inte dela personliga uppgifter med Google, Microsoft, Meta eller Apple. Även en skämtsamma fråga om egna preferenser, vars AI-svar ska skickas till vänner, kan snabbt bli ett bumerang.
Googles Bard-chattar blev oavsiktligt offentliga. Drabbade är data från personer men också URL:er på datalagringar.
Se inlägg.
Att företag och förvaltningar borde hålla avstånd till AI-chatbotar, tydliggörs nu ännu tydligare genom dataläckaget från Bard. Även de massiva säkerhetsluckorna i Microsoft-produkter, som Microsoft inte bara nedtonade utan också lämnade obesvarade, borde ge stort anledning till oro.
Företagsägda AI-system, som inte överför data till tredje part, är inte bara lösningen för att undvika dataproblem (företagshemligheter, anställdauppgifter, avtal …). De ger också bättre resultat och är framför allt i stånd att granska företagsägda dokument och databaser.
My name is Klaus Meffert. I have a doctorate in computer science and have been working professionally and practically with information technology for over 30 years. I also work as an expert in IT & data protection. I achieve my results by looking at technology and law. This seems absolutely essential to me when it comes to digital data protection. My company, IT Logic GmbH, also offers consulting and development of optimized and secure AI solutions.
