Résoudre les problèmes en état d'urgence : comment l'IA hors ligne résout vos défis

Les avantages d'une IA optimisée pour les entreprises et l'administration peuvent même être démontrés hors ligne sur un ordinateur portable. Pour de nombreux cas d'application, cette IA hors ligne est plus performante que n'importe quelle intelligence universelle comme ChatGPT. Elle offre un contrôle total des données et fonctionne de manière très économique, même en service continu.

Introduction

Cet article est une preuve pratique des possibilités offertes par l'IA hors ligne. Mais tout d'abord, une brève introduction à l'IA hors ligne. Elle est déjà possible depuis un an, mais ce n'est que récemment qu'elle est devenue aussi performante, y compris pour la langue française.

La AI hors-ligne est une intelligence artificielle fonctionnant localement sur un ordinateur ou serveur propre. Hors-ligne signifie que le système d'intelligence artificielle ne fonctionne pas avec une connexion Internet. En conséquence, aucune donnée n'est envoyée à des tiers. Voici les avantages particuliers qu'une AI hors-ligne offre :

• Entreprises et administrations obtiennent un résoudre les problèmes pour leurs cas d'application.
• Chaque fois, des modèles de langage d'intelligence artificielle, des modèles d'image Stable Diffusion, des modèles audio, des modèles vidéo peuvent être installés et utilisés.
• Même le débit continu est rentable possible. Au revoir Microsoft Azure. Au revoir les failles de sécurité.
• Une intelligence artificielle qui se perfectionne elle-même, capable de se critiquer elle-même, est pratiquement possible.
• Rechtlich simple*: Les contrats de traitement des commandes sont inutiles ; au lieu d'une demande d'autorisation, l'Opt-Out proposé par ChatGPT n'a plus d'effets juridiques. Personne ne doit plus s'inquiéter si une autorité de contrôle interdit à nouveau ChatGPT.

Pour être complet, il faut mentionner que l'interface de programmation (API) de ChatGPT a parfois son utilité. Cependant, ce cas devient de plus en plus rare grâce aux modèles de langage open-source qui s'améliorent chaque semaine. Avant tout : avec une API, on peut faire beaucoup de choses. Pour illustrer : à partir de votre Invite par défaut, un LLM forme une description du programme d'une composition d'image, qui est ensuite transformée par un modèle de création d'images en un image. Voici un exemple de sortie :

Pour l'allemand en tant que langue, il existe en outre souvent de meilleurs modèles linguistiques que ChatGPT. Soit ils sont de meilleure qualité, soit ils sont moins chers. Les personnes intéressées devraient regarder Claude, Command R+ et Mistral. L'IA hors ligne est toutefois plus amusante et mieux adaptée aux problèmes concrets.

Quand une IA hors ligne et quand un chatbot général ?

Qui veut savoir quelle est la hauteur du troisième plus haut sommet du monde, peut tranquillement utiliser ChatGPT. L'utilisation occasionnelle et le résumé de textes publics à des fins semi-professionnelles constituent également un bon exemple d'application pour les chatbots généraux. Ces chatbots sont également disponibles pour une conversation sans risque.

Utiliser un chatbot comme moteur de recherche est une approche qui semble plaire à beaucoup. Pour ceux qui veulent un moteur de recherche particulièrement performant, l'IA hors ligne est la meilleure solution. OpenAI ne va certainement pas lire et évaluer pour vous une page web spécifique avec 5000 sous-pages.

Une haute fiabilité des résultats n'est pas seulement souhaitable, mais toujours importante dans un environnement professionnel. Quiconque a besoin de cette fiabilité a besoin d'une IA hors ligne avec des mécanismes de contrôle qualité.

Données sensibles*, secrets commerciaux ou informations personnelles ne devraient jamais être insérés dans un système tiers d'opérateurs américains. Tout d'abord, les lois américaines comme le Cloud Act, FISA 702 ou l'Executive Order 12333 permettent aux autorités et services de renseignement américains d'accéder à ces données. Deuxièmement, des failles de sécurité apparaissent presque régulièrement dans les chatbots populaires et systèmes de Microsoft (qui détient une majorité des parts chez ChatGPT !). Troisièmement, des évaluations juridiques et des règlementations doivent être prises, ce qui se limite à un papier et nécessite beaucoup d'efforts.

Les entreprises et les administrations peuvent surmonter les défis grâce à des solutions intelligentes d'IA.

Plus rapide, meilleur et plus léger que jamais.

Une intelligence artificielle hors ligne peut tourner en permanence. Pourquoi, se demandent certains. Pourquoi les humains étudient-ils 5 ans ? Pour s'améliorer. Exactement ce que peut faire une intelligence artificielle hors ligne. Mais cette amélioration continue ne dure pas des années, mais souvent quelques secondes ou quelques heures.

Qu'est-ce qui est possible avec l'IA hors ligne ?

L'IA hors ligne peut faire beaucoup. Même plus que ChatGPT. Tout dépend du cas d'utilisation. Vos données, votre cas d'utilisation. Même si vous n'avez pas vos propres données, l'IA hors ligne est généralement meilleure.

Un exemple a déjà été donné dans la section précédente : La recherche d'informations sur Internet. La recherche d'informations sur Internet suivie d'une évaluation est également un très bon cas d'application pour une IA hors ligne. Par exemple, les dernières nouvelles peuvent être consultées chaque jour et évaluées de manière automatisée par l'IA de l'entreprise.

Ou comment serait-il avec une analyse de marché ou observation des concurrents ? Ça commence très mal avec les chatbots généraux, car il faut d'abord obtenir les données. Cette collecte de données est facilement automatisable. Qui fait ce petit pas quitte l'inconfort lié à l'innovation. En guise de récompense, on obtient une indépendance maximale, un contrôle total et surtout des résultats meilleurs !

Exemples d'utilisation de l'IA dans l'administration :

Les citoyens (ou clients) veulent demander quelque chose. La recherche du bon formulaire ou notice peut être optimisée avec l'intelligence artificielle. L'IA est utilisée ici pour la recherche sémantique. Les employés de l'administration sont ainsi déchargés et peuvent travailler plus productivement.

Si une feuille d'annonce est trop compliquée, l'intelligence artificielle peut la résumer en langage plus simple.

Si un formulaire ou une demande est disponible uniquement en allemand ou en anglais et que le citoyen ne comprend que l'ukrainien, alors ce document peut être traduit avec l'aide de l'intelligence artificielle.

Des demandes et des formulaires similaires à ceux trouvés peuvent être trouvés grâce à l'IA. Les lois, les règles internes et les jugements relatifs à une affaire peuvent également être trouvés de cette manière. Les agents seront ainsi soutenus au mieux.

Possible par analogie pour le traitement des déclarations de sinistre, des demandes des clients ou des tickets d'assistance.

Dans le dernier article, d'autres bons scénarios pour l'IA hors ligne ont été mentionnés.

Documents pour l'IA hors ligne

Lors du congrès numérique MADKON24 de Mayence, les participants à mon atelier ont pu voir en direct comment l'IA hors ligne produit des résultats. Cela s'est déroulé sur mon ordinateur portable, sur place et sans connexion Internet.

L'image montre des impressions du MADKON24. Un rapport sur les conférences et les ateliers, y compris le mien, a été publié par Peter Winninger dans son blog KOBLENZ DIGITAL.

Sur le laptop, il a été notamment montré :

• Générateur d'images : l'entrée de texte (prompt) génère la sortie d'image
• Générateur d'images 2 : l'image d'entrée sert de modèle pour la structure de l'image. Une nouvelle image est créée à partir de ce modèle et d'une invite.
• Optimisation du prompt : le prompt pour la génération d'images a été automatiquement optimisé avec l'IA hors ligne. Ensuite, le prompt optimisé a été donné au générateur d'images. La nouvelle image était plus attrayante.
• Les variantes du prompt : Des variantes ont été automatiquement créées pour le prompt à l'aide de l'IA hors ligne :
  • Variantes générales similaires à l'original
  • Variantes très proches de l'original
• Traduction : L'invite optimisée automatiquement et les variantes créées automatiquement ont été
  • traduit, et plus précisément selon
    • Anglais,
    • Espagnol,
    • Ukrainien
• reformulé, à savoir
  • en langage juridique,
  • en langage pirate,
  • dans la langue qu'un enfant de cinq ans comprend
• pour s'amuser, un conte de fées a été créé à partir du prompt optimisé, et ce en deux variantes

Le tout s'est déroulé une douzaine de fois pendant l'atelier, à chaque fois avec une seule entrée différente et à chaque fois avec de nombreux nouveaux et bons résultats.

Pour l'optimisation du prompt mentionnée précédemment : Cette amélioration de soi-même de l'intelligence artificielle est possible en faisant en sorte que l'intelligence artificielle reçoive à nouveau ses propres sorties comme entrées. Ce qui fonctionne également très bien, c'est la génération artificielle de données d'entraînement par l'intelligence artificielle, avec lesquelles la même intelligence artificielle est ensuite entraînée. C'est comme si un humain pouvait écrire lui-même son matériel de formation et s'améliorer ainsi.

Voici un exemple de sortie du générateur d'images mentionné :

Un agrandissement de cette image, qui n'est de toute façon pas petite, est possible grâce à l'extrapolation de l'IA. Il est ainsi possible de produire une image quatre fois plus grande, sans perte sensible de qualité.

Le générateur d'images 2 susmentionné a alors reçu cette image en entrée et devait en faire un savant fou ; tout en conservant la structure de l'image. Voici le résultat de Mayence :

En outre, des variantes avec un tamia, un tigre, souvent des politiciens américains peu populaires, le commandant Data, une dame en vue et de nombreuses autres options ont été calculées. Tout cela a été effectué sur ordinateur portable en très peu de temps. Au total, environ 100 images ont été générées dans un court laps de temps au cours du deuxième atelier d'une durée de deux heures. Un autre exemple a été donné avec un générateur d'image qui a été entraîné pour adopter un style particulier. Ainsi, par exemple, des images imitant le style des instructions IKEA peuvent être générées à chaque invitation de texte.

Si l'on comptait le nombre de textes générés avec la AI hors ligne dans le workshop, on arriverait à quelques milliers de textes. C'étaient des prompts texte optimisés, des traductions, des simplifications linguistiques et bien d'autres choses encore. Par exemple, les mots-clés ont été extraits à partir des informations en temps réel. De même, les résultats de recherche ont été classifiés avec la AI hors ligne. Ainsi, les articles d'information ont pu être distingués des publicités. Même l'appel des résultats d'une célèbre moteur de recherche (différent de Google) peut se faire automatiquement.

Les possibilités à peine imaginables d'une IA hors ligne :

Une entrée, puis l'IA en boucle. L'IA génère elle-même d'autres entrées et produit ainsi des résultats de plus en plus nombreux et de meilleure qualité. Si les résultats sont trop nombreux, ils peuvent être critiqués et filtrés par la même IA.

Désormais possible, même sur un ordinateur portable. Ce n'est pas un souhait, c'est une réalité.

Présent était également Michael Westphal de TV1. Il a enregistré mon atelier (sans que je sache) sous forme audio. Après cela, il m'a fourni le transcript, avec AI hors ligne. Même si il n'utilisait qu'un micro-telephone portable (assez bon), un grand nombre de personnes étaient dans la pièce et plusieurs parlaient, le résultat était très bon. Un entretien enregistré après l'atelier par lui et moi sera bientôt publié. AI est également utilisée dans le vidéo pour la transcription et les sous-titres.

Le transcript audio (pour une langue d'une durée de deux heures) j'ai traîné à travers la AI hors ligne pour le faire résumer. Après quoi, la résumé a été simplifié linguistiquement et les affirmations clés ont été extraites.

Les points clés de mon atelier sur l'intelligence artificielle au congrès numérique à Mayence sont :

• L'IA fonctionne comme le cerveau humain : la fonction d'intelligence de l'homme est décryptée.
• Nvidia est actuellement le seul fournisseur pratiquement disponible de cartes graphiques d'intelligence artificielle.
• Les modèles d'IA open-source sont excellents.
• Des applications qui, auparavant, ne pouvaient pas être programmées du tout ou seulement après des mois ou des années, peuvent aujourd'hui être développées en très peu de temps, grâce à l'IA.
• L'IA permet de résoudre des problèmes différents de manière uniforme. Cela réduit considérablement la complexité et les efforts.
• L'IA peut être appliquée uniformément à différents types de données. Les types de données sont des textes, des images, des signaux audio, des valeurs de capteurs, des vidéos, etc.
• Les applications d'IA ont besoin de données pour fournir des résultats significatifs.
• L'origine de ces données peut être:
  • Données historiques, telles que les données relatives aux offres issues d'appels d'offres clôturés,
  • données provenant d'Internet (via une recherche automatisée),
  • Données générées artificiellement (utiliser l'IA hors ligne),
  • données générées par l'homme.
• Seule une IA que l'on guide peut fournir des réponses fiables. Ce guidage peut être automatisé.
• Les systèmes d'IA généraux comme ChatGPT sont de moins bonne qualité (et généralement beaucoup plus chers à moyen terme) que les systèmes spécialisés.
• Seule la combinaison de l'IA et de la programmation classique offre les meilleurs résultats.
• L'innovation naît de l'abandon du confort et de la libération des dépendances.

De nos jours, la meilleure solution n'est plus qu'à un petit pas.

L'IA hors ligne illustrée par des images

L'image de contribution tout en haut a été générée avec une IA hors ligne. Elle est visible dans la collection suivante de trois images à l'extrême gauche :

La première image (à gauche) a été générée par une IA hors ligne sur la base d'une consigne manuelle. La deuxième image a été générée par une IA hors ligne chargée d'ajuster l'éclairage et d'ajouter des détails à l'image. La troisième image (à droite) a été générée par un générateur d'images hors ligne. Les consignes étaient les suivantes:

• Image d'entrée (préalablement générée par l'IA, mais toute autre image est également possible)
• Ajoute quelques robots très petits qui dansent autour de la lampe à incandescence

Il est également possible de poser des questions à la AI elle-même pour savoir quels autres prompts seraient bons. Il faut bien sûr faire une certaine hypothèse. Par exemple : Je voudrais que l'image ait plus de détails soit plus intéressante ressemble à un gâteau..

Selon le générateur d'image hors ligne utilisé, il est même possible de discuter avec lui. Tout d'abord, on laisse générer une image. Ensuite, on dit : Remplacez l'homme par une femme. On pourrait même automatiser ce processus grâce à un critique AI. Au final, x images sont créées. On peut soit les sillonner soi-même, soit les faire passer par un filtre AI. La AI peut apprendre quelles images vous plaisent. Pour cela, il suffit de marquer chaque image comme étant bonne ou pas si bien. La AI apprend ensuite en fonction d'exemples peu nombreux ce que vous voulez.

Le prompt qui a mené à l'image du post a été optimisé par une IA comme suit :

• Original: problem solver system, intelligent, connections, bright colors
• AI-Version: Vibrant problem-solving AI, illuminating connections with radiant hues.

Ensuite, une image a été générée avec la version IA du prompteur :

Maintenant, l'IA locale hors ligne a été instruite pour ajouter un dinosaure futuriste :

Comme on peut le voir à chaque fois, 3 variantes ont été générées. Nous aurions pu générer 1.000 ou 100.000 variantes. Cela ne coûte rien. Grâce à une IA de critique d'image hors ligne, les 10 meilleures images peuvent ensuite être filtrées. L'homme peut alors les regarder et trouver rapidement la meilleure image.

Conclusion

Les avantages de l'IA s'offrent aux entreprises et aux administrations surtout avec une IA hors ligne.

La Qualité est nettement meilleure pour de nombreuses problématiques. Cela est réalisé par codage supplémentaire conventionnel, qui ne cause qu'un très petit effort. Exemple plastique mini : le nombre de lettres d'un mot peut être déterminé ainsi, tandis que ChatGPT échoue.

La contrôle complet des données est un autre aspect important. Laissez les juristes de votre choix faire d'autres choses que de parler bien de ce qui ne va pas : ChatGPT est incertain, Microsoft est incertain (preuves dans cet article ainsi que suivant).

La signification stratégique de l'intelligence artificielle hors ligne est la plus importante. Elle peut s'améliorer et se critiquer elle-même. Tout cela est pratiquement possible uniquement parce que des frais dépendant de l'utilisation ne sont pas applicables. Même les organisations avec un grand budget veulent savoir d'avance ce qu'il coûte. Mais personne ne sait d'avance, lorsqu'un cerveau (intelligence artificielle) est interrogé. C'est clair que le très fréquent appel à une interface de l'intelligence artificielle payante, avec des documents complémentaires, devient rapidement coûteux.

L'innovation* se produit par la suppression d'obstacles. Exactement cela est possible avec l'intelligence artificielle hors ligne. Puisque le développement est en pleine expansion, c'est un immense avantage que de pouvoir remplacer simplement les nouveaux LLMs. Les modèles de langage open-source, par exemple, sont tellement excellents qu'il faut que les fournisseurs commerciaux se mettent au chaud pour ne pas geler.

Quels sont les cas d'application dans votre entreprise ou dans votre administration ? Nous nous ferons un plaisir de vous donner une première estimation de la faisabilité.