Intelligence artificielle: faits et malentendus. Protection des données ? Droit d'auteur ?

Chacun parle d'intelligence artificielle, mais personne ne sait ce que cela signifie. C'est le premier fait. La Commission italienne de protection des données a interdit l'utilisation de ChatGPT, mais les moteurs de recherche comme Google peuvent continuer à fonctionner. Qu'est-ce qu'intelligence artificielle au sens actuel du terme et en quoi cela a-t-il trait avec la protection des données ?

En résumé

Résumé:

L'intelligence artificielle (IA) et la protection des données sont deux sujets qui ont reçu une attention croissante ces dernières années. Les systèmes d'IA comme ChatGPT reposent sur des sources de données publiques et utilisent les mêmes approches que les moteurs de recherche. Par conséquent, le problème de protection des données dans les applications d'IA n'est pas nécessairement plus grand que celui des moteurs de recherche. Cependant, les systèmes d'IA peuvent causer des problèmes de droits d'auteur si ils reproduisent du contenu étranger sous une autre forme.

Réponses aux questions:

Qu'est-ce que l'intelligence artificielle de notre époque ?
Réponse: L'intelligence artificielle de notre époque se réfère aux systèmes modernes de IA comme ChatGPT ou d'autres modèles de langage large (LLM), qui reposent sur des données massives de qualité et des modèles mathématiques géniaux pour simuler une intelligence humaine.
Qu'est-ce que l'intelligence artificielle a à faire avec la protection des données ?
La réponse: L'intelligence artificielle peut surtout poser des problèmes de protection des données lorsqu'elle accède à des données personnelles non publiques.
Source est la différence entre l'intelligence artificielle et les moteurs de recherche en matière de protection des données ?
Réponse: Les systèmes d'intelligence artificielle et les moteurs de recherche collectent tous deux des données à partir de sources publiques, mais les systèmes AI peuvent reproduire du contenu sous une autre forme et potentiellement causer des problèmes de droits d'auteur, tandis que les moteurs de recherche affichent généralement uniquement de courtes citations.
Source est les principaux problèmes liés à l'intelligence artificielle ?
Les principaux problèmes liés à l'intelligence artificielle sont les problèmes de droits d'auteur, la capacité de l'IA à remplacer l'homme et des problèmes potentiels de protection des données.

Mots-clés importants:

Intelligence artificielle, ChatGPT, LLMs, Modèles de langage large, Ensembles de données Common Crawl, Wikipédia, Textes en ligne, Vecteurs, Base de connaissances, Modèle mathématique, Suites numériques, Informatique en nuage, Python, Pytorch, TensorFlow

L'émission de radio pour cet article:

Introduction

Depuis quelques années déjà, le terme d'intelligence artificielle est utilisé de manière inflationniste et indifférenciée. Maintenant, en 2023, selon ma perception, il y a eu un véritable tournant. À mon avis en tant que informaticien, on a réussi à décrypter le principe fondamental de l'intelligence humaine. Ensuite, on a réussi à démontrer qu'on y est arrivé.

Ainsi, le test de Turing a selon moi été réussi pour la première fois par un programme informatique. Ce que Joseph Weizenbaum avait réalisé avec son psychiatre virtuel Eliza à l'époque «seulement» en programmant une technique de dialogue astucieuse dans son système, fonctionne maintenant, en avril 2023, grâce à une simulation performante du cerveau humain. J'ai eu d'ailleurs l'honneur de rencontrer M. Weizenbaum personnellement à mon ancienne université, la TU Ilmenau, il y a environ 20 ans (vers 2000). Je suis également fier que la TU Ilmenau fût parmi les meilleures universités d'Europe et figurât dans un classement comme suit: Cambridge, Oxford, Zurich, Eindhoven, Londres, Ilmenau. Qui ne connaît pas Ilmenau ?

Qu'est-ce que l'intelligence artificielle ?

Qu'est-ce que l'intelligence artificielle, je ne peux pas le décrire en détail. Cependant, je peux dire beaucoup de choses sur les systèmes actuels comme ChatGPT ou plus généralement, sur les LLMs (Large Language Models),.

Les systèmes actuels, qui suscitent à juste titre des émotions fortes, reposent en grande partie sur deux approches:

1. La base de connaissances: Données massives de qualité élevée
2. Modèle mathématique génial: Le centre de pensée et de compréhension du cerveau

La base de connaissances de ChatGPT repose en particulier sur les sources publiques suivantes ([1]) :

• Données de Common Crawl (CC et CC4): Grande partie du web (partiellement aléatoire). Toute personne peut les télécharger.
• Sur Wikipédia: Il est disponible depuis longtemps comme dump. Chacun peut le télécharger.
• Livres numériques divers: chacun peut les télécharger.
• Texte en ligne: accessible publiquement, par crawling ou à travers des dumps.

Comme on peut le voir, il ne s'agit pas d'informations confidentielles, mais de ce que les moteurs de recherche comme Google explorent en substance également. Google explore même un grand nombre d'autres sources, telles que des documents PDF, des plateformes de médias sociaux et encore plus de sites Web.

Maintenant, ça va être intéressant. Le modèle mathématique, qui est à la base des systèmes AI actuels performants, fonctionne approximativement ainsi:

• Convertissez la base de connaissance en séries numériques (vecteurs).
• Selon la tâche à résoudre: Convertissez également une entrée (question, texte à traduire, etc.) en séries numériques.
• Fais une recherche d'analogue entre les deux vecteurs mentionnés précédemment. Les paires de données les plus analogues sont probablement le résultat le plus probable.

Ce procédé peut être appliqué à toutes les formes possibles de données, notamment:

• ChatGPT, LLaMa etc., en particulier la complétion de texte, les assistants question-réponse, la traduction, la recherche d'analogue, les résumés de texte (extrayables et abstrayables: citations originales sélectionnées versus reprise sensée dans des mots nouveaux…)
• Photos: Dall-E, Midjourney etc.
• Fichiers audio: Wav2Vec, GANSynth. Qui connaît des exemples ?
• Vidéos: ici
• Tous les autres signaux, qu'ils soient continus (analogiques) ou discrets (numériques), pourvu que l'on puisse les convertir en valeurs et vecteurs discrètes

L'art résidait (!) dans la vectorisation des données d'entrée. Ce problème est désormais résolu de manière tout à fait satisfaisante. Nous tous, en particulier les informaticiens et autres personnes passionnées par la technologie, pouvons maintenant utiliser ces possibilités. Les non-spécialistes doivent utiliser des systèmes préconçus. Quiconque possède une connaissance approfondie de la technique logicielle et des technologies modernes peut se les construire, les élargir et les modifier en profondeur.

J'ai essayé cela hier et j'ai programmé un système qui donne des réponses à des questions. Pour cela, on utilise une base de données de connaissances accessibles au public, appelée également Enregistrement de données. En tant que langage de programmation préféré, Python s'est imposé. Les frameworks AI notables sont en particulier Pytorch et TensorFlow. Puisque ces frameworks sont ressourcenhungrig, il ne fait pas de mal de se familiariser avec Cloud Computing. Heureusement, il existe des solutions Cloud respectueuses de la vie privée qui proviennent d'Allemagne.

Il y a quelque chose de spécial à ChatGPT, c'est l'approche générale. Le système ne peut pas seulement accomplir une tâche avec excellence, mais plusieurs en même temps. Cela est également appelé Intelligence Artificielle Générale. AGI signifie Intelligence Artificielle Générale, tandis que AI a déjà été utilisée pour Intelligence Artificielle et désignait le français par AI.

Beaucoup de systèmes d'intelligence artificielle pourraient déjà résoudre des tâches difficiles avant ChatGPT, mais avec une capacité limitée à un problème spécifique. Cependant, ChatGPT est très polyvalent. Par exemple, on pouvait déjà traduire des textes fantastiquement avec DEEPL (une entreprise allemande de Cologne !). Mais avec ChatGPT, ce n'est pas seulement ça, c'est encore beaucoup plus, dont DEEPL n'a aucune idée.

Afin que les algorithmes de l'intelligence artificielle soient plus rapides, on utilise souvent des cartes graphiques pour les calculs. En opposition aux processeurs normaux (CPUs), les cartes graphiques ont des GPUs (processeurs graphiques). Aléatoirement, les GPUs peuvent exécuter les opérations de calcul des applications d'intelligence artificielle beaucoup plus efficacement que les CPUs.

La interface la plus populaire et plateforme pour une GPU est, selon mes connaissances, CUDA de NVidia, un fabricant connu de cartes graphiques. CUDA signifie Architecture Unifiée de Traitement du Calcul. Il existe cependant aussi des IPUs du fournisseur Graphcore. IPU signifie Unité de Traitement d'Intelligence, tandis que CPU signifie Unité de Traitement Central et GPU signifie Unité de Traitement Graphique. De Google, il y a alors quelque chose de positif à signaler, à savoir les TPUs (Unités de Traitement des Tenseurs). Les TPUs sont probablement utilisées principalement dans la plateforme cloud de Google, raison pour laquelle ils intéressent peu souvent le développeur soucieux du respect de la vie privée.

La puissance de telles cartes graphiques basées sur l'intelligence artificielle résulte notamment du nombre de CUDA-Cœurs qu'elles possèdent. Les cartes graphiques du segment consommateur ont par exemple 5888 tels cœurs (Nvidia GeForce RTX 3070) et sont même accessibles aux particuliers.

Si vous pensez pouvoir suivre, voici quelques autres termes que vous devriez connaître: Modèle, Lecteur, Retriever, Index, Encodeur/Décodificateur, Transformateur, Pipeline, Politique, Données. C'est juste une petite partie des termes importants nécessaires pour comprendre plus en détail les systèmes de IA modernes. Qui veut mieux comprendre les systèmes GPT devrait par exemple avoir entendu parler de réseaux neuronaux (récurrents), de modèles Markov et de concepts comme LSTM et NLP.

Les cas d'application de la recherche d'apparences sur des vecteurs discrets sont énormes. Ils se basent tous sur le même (pas le même) principe fondamental:

• Systèmes de questions-réponses. Exemple tiré de ma localement installée, qui ne fait usage que d'une relativement faible base de connaissances: «Pourquoi était le précédent président américain John F. Kennedy connu ? Pour les programmes Apollo (une semaine après la mort de Kennedy, le Président Johnson émit un décret présidentiel selon lequel les installations spatiales de Cap Canaveral et d'Apollo étaient nommées en l'honneur de Kennedy).»
• Traduction de texte d'une langue source dans une langue cible.
• Quel image convient le mieux à un prompt donné ?
• Générer une image à partir d'un prompt de texte.
• Résumer un texte.
• Composition d'une œuvre musicale qui présente les mêmes caractéristiques que d'autres compositions d'un compositeur.

La recherche d'homologie permet que des systèmes informatiques avec "des moyens simples" puissent apprendre la structure interne de la langue allemande. Wow ! Expliquez à quelqu'un ce qu'est "structure interne", encore moins comment on peut l'apprendre sans pratiquer la langue dans la vie réelle pendant des années.

Un caractère charmant particulier des systèmes de IA modernes basés sur les LLMs: les modèles pré-entraînés peuvent être fine-tunés pour résoudre des problèmes spécifiques. C'est ainsi que le sigle GPT (Generative Pre-trained Transformer). Le système a donc été une fois appris et peut ensuite très rapidement étendre ses capacités à des tâches spécifiques. Exactement comme un humain qui a appris à apprendre.

Il faut savoir que l'entraînement d'un modèle de langage est très intensif en calcul. Sur un ordinateur normal, cela prend quelques semaines, si les données appropriées sont disponibles. Au moins «seulement» quelques semaines, il faut dire. On avait besoin d'un superordinateur pour ça, à l'époque.

On peut donc partir d'un modèle de langage en tant que base qui a été laborieusement entraîné par quelqu'un d'autre. On puisera ensuite dans ce modèle de langage pour y injecter ses propres données spécifiques à la tâche. Au final, on obtiendra un système AI doté des capacités du puissant modèle de langage plus une connaissance sur le domaine en question. Le fine-tuning du puissant modèle est alors réalisé en un clin d'œil. Il est essentiel d'avoir un bon lot de données initiales, qui devrait être préparées à l'aide d'un traitement automatique. Avec les outils techniques adéquats, on peut ainsi créer une "atelier" pour résoudre très efficacement tous les problèmes de connaissance possibles. Et ceci avec un système AI installé localement qui ne nécessite pas de connexion Internet et dont l'utilisation n'occasionne aucun coût auprès d'autres parties.

Beaucoup disent que ChatGPT et d'autres systèmes similaires fonctionnent de manière stochastique*: Exactement comme notre cerveau. Notre cerveau est aussi juste un Automat, rien de plus. Mais apparemment, un très puissant automat. Le degré du hasard dans notre cerveau nous ne pouvons pas le contrôler (au mieux par la consommation d'alcool ou d'autres drogues). Dans les systèmes AI, on peut contrôler le hasard en spécifiant la surnommée Temperatur. Une température plus élevée crée des réponses plus créatives. Une température au point de congélation assure un automate déterministe qui répond toujours aux mêmes questions avec les mêmes réponses.

Une remarque, car un lecteur s'est manifesté à moi en raison de cet article: il m'a promis de me faire savoir pourquoi ma compréhension de l'intelligence est susceptible de critiques. Je suis impatient de sa réponse et je vais l'intégrer dans ce billet dès qu'elle sera disponible.

Qu'est-ce que la IA a à faire avec la protection des données ?

Les systèmes de IA locaux, tels que celui décrit ci-dessus, ne conservent pas leurs données auprès de tiers. Ils pourraient cependant le faire sans que des problèmes particuliers de protection des données se posent, à condition que les données proviennent d'une source publique qui est librement disponible.

Si les moteurs de recherche connus n'existaient pas, la réponse au problème du secret des données dans les applications d'intelligence artificielle serait plus simple. Cependant, les moteurs de recherche font dans un premier temps rien d'autre que les systèmes d'IA: ils collectent beaucoup de données. Ce qui est fait par ChatGPT est même identique à ce que font Google ou Bing en termes de disponibilité des sources. ChatGPT collecte ainsi autant que Google ou Bing des donnees publiques.

Je ne vois pas où la différence devrait se trouver.

Les moteurs de recherche donnent de bonnes, mais pas très intelligentes réponses aux questions. Une question est un mot clé ou une simple formulation d'une question de connaissance. Les systèmes AI donnent également des réponses aussi bonnes (ou parfois meilleures) à des questions linguistiques ou complexes en termes de contenu.

Qualitativ il s'agit de systèmes de question-réponse pour les moteurs de recherche et certaines formes de systèmes d'intelligence artificielle. ChatGPT est un tel automate de réponse, exactement comme les moteurs de recherche Google ou Bing. Le type de traitement des données est déjà considéré comme invasif chez les moteurs de recherche classiques. Les systèmes d'intelligence artificielle ne vont pas vraiment plus loin si on regarde les modèles mathématiques qui sont très intensifs en calculs, mais pas nécessairement plus excitants.

Ce point est donc qualitativement équivalent, même si ChatGPT réussit le test de Turing, mais les moteurs de recherche naifs ne le font pas. Dans l'article que je vous ai lié ci-dessus, j'ai expliqué brièvement et illustré avec un exemple réel le test de Turing.

Les réponses que donnent les moteurs de recherche correspondent en substance à la reprise des contenus lus précédemment. Les applications d'intelligence artificielle rendent souvent les contenus sous une forme différente, comme par exemple ChatGPT. C'est là un différence. Mais cela n'a qu'un rapport limité avec la protection des données. On peut discuter de savoir si les fausses déclarations ou les hallucinations de l'intelligence artificielle constituent un problème de protection des données. Je ne vois pas d'abord en tout cas pas le lien.

Lors de l'interdiction de ChatGPT en Italie par la commission italienne chargée du respect des données personnelles, le Protection de la jeunesse a également été cité comme motif. Je ne vois pas où se situe ici le Protection de la jeunesse, car je sais que les contenus sur YouTube, Facebook, Twitter et dans les moteurs de recherche Google et Bing sont accessibles à tout le monde qui appuie quelques boutons.

Lorsqu'une intelligence artificielle s'abonne à des sources publiques, je ne vois donc d'abord pas de problème de protection des données. En tout cas, le problème n'est pas différent de celui que rencontrent les moteurs de recherche, les réseaux sociaux ou autres portails qui reprennent du contenu tiers. L'Italie a probablement (sur la base d'un délit d'initié) constaté que les entrées des utilisateurs de ChatGPT sont stockées. Jusqu'à présent, je sais que les grandes moteurs de recherche font également cela. Cela ne rend pas cela meilleur, mais il s'agit de se demander pourquoi on n'a pas agi plus tôt contre les moteurs de recherche.

Où est le problème avec l'IA ?

Les systèmes AI pourraient poser des problèmes de droits d'auteur. Car la représentation de contenus sous une forme qui va au-delà des citations courtes est juridiquement problématique. Cela vaut autant pour les textes que pour d'autres médias, comme par exemple les images. Voici un exemple d'image générée par ordinateur qui espère ne pas violer les droits d'auteur (personne n'en sait rien avec certitude):

Les moteurs de recherche donnent généralement que des extraits (snippets) de résultats de recherche. Cela est considéré comme autorisé. Voici un exemple d'un tel snippet:

Parfois, les réponses aux questions formulées sont même affichées directement dans la page de recherche. Voilà le problème: si je prends déjà le temps et la peine de publier des contributions gratuites, je voudrais que les lecteurs visitent mon site web. Ainsi, j'aurai au moins la chance qu'un bon contact se crée, quelle qu'en soit la nature.

Mais si une moteur de recherche présente directement mes contenus, personne ne visite plus jamais mon site Web. Pourquoi devrais-je alors mettre mes contenus à la disposition du public ou les rendre gratuits ?

Les algorithmes et les systèmes de IA sont encore plus extrêmes. Ces systèmes comprennent des contenus étrangers, et les rendent sous une autre forme (synonyme ou combiné avec d'autres informations). D'un autre côté, j'ai quelque chose, au moins lorsque il s'agit de mes propres contenus et que les exploitants de l'IA ne m'en offrent rien (lien, argent etc.). C'est pourquoi vous trouverez un article sur Dr. RGPD, dans lequel on décrit comment ChatGPT est empêché d'absorber vos propres contenus..

Résumé

Les systèmes AI comme ChatGPT se servent des sources publiques (au moins c'est l'information que OpenAI a rendue publique). Ainsi, ils ne font rien d'autre que les moteurs de recherche. Je n'ai pas entendu dire qu'une telle machine de recherche ait été interdite en Europe, ni en Italie ni en Allemagne. Les autorités allemandes chargées du contrôle des données personnelles ont demandé à OpenAI d'où venaient les données sur lesquelles fonctionnait ChatGPT.

Un problème de droits d'auteur pourrait en effet surgir si des contenus étrangers sont utilisés par des systèmes de IA sans autorisation. J'ai encore peu lu sur ce sujet.

Je comprends l'agitation concernant (la) connaissance artificielle et le protection des données pour plusieurs raisons:

• Les données proviennent de sources publiques qui sont également exploitées par les moteurs de recherche.
• Il existe des mesures simples pour résoudre les problèmes de protection des données, s'ils existent en effet.

Mesures que je vais bientôt décrire en fonction de la RGPD. Mon approche repose sur une compréhension technique du fonctionnement des systèmes AI, associée à ma connaissance en matière de protection des données. J'ai déjà pu aider un client à éviter des problèmes juridiques liés à son système AI. Si le dataset du AI devait être restreint, le système ne serait plus opérationnel.

Je trouve que le traitement de certaines autorités (notamment l'Italie) est difficile à suivre. Les systèmes d'intelligence artificielle doivent être réglementés, afin que l'humanité puisse encore exister un peu plus longtemps. Cependant, cette réglementation a principalement trait aux droits d'auteur et au risque de systèmes trop puissants. D'après mes prévisions basées sur les développements actuels, le marché boursier ne pourra pas exister dans sa forme actuelle et sera affecté. En effet, grâce à des systèmes intelligents, il faudra bientôt (presque) que tout le monde soit en mesure de prédire avec précision les variations des cours d'action, afin de pouvoir spéculer sur ces derniers de manière relativement sans risque.

Seulement en deuxième ligne et surtout pour les systèmes utilisant des contenus non publics, un problème de protection des données peut surgir. Mais pour du contenu protégé par licence, c'est à nouveau le droit d'auteur qui est la bonne base de référence. Veuillez me corriger si je me trompe.

Vous pouvez vous amuser à demander à OpenAI si des données de votre site web sont présentes dans leur index et exiger la suppression de ces données du index ainsi que de tous les modèles AI (l'adresse e-mail liée provient de la déclaration de protection des données d'OpenAI). ([1])