Une intelligence artificielle hors ligne offre souvent de meilleurs résultats que les meilleurs modèles d'intelligence artificielle, une pleine maîtrise des données et est dans de nombreux cas beaucoup moins coûteuse que les solutions avec ChatGPT ou Microsoft Azure. Qu'est-ce qu'une intelligence artificielle hors ligne et quelles chances elle offre ?
L'avenir de l'intelligence artificielle
Dans cet article, on décrit une possibilité pour les entreprises d'obtenir de bons résultats avec leur propre système AI et de contrôler pleinement leurs propres données. Même en cas d'utilisation intensive de cette AI d'entreprise, les coûts restent bas.
Cette forme de l'intelligence artificielle est appelée ici Intelligence artificielle hors ligne.
Rappel: Atelier "Intelligence artificielle dans les entreprises et les administrations".
Les avantages d'une intelligence artificielle hors ligne
Qualité
Une intelligence artificielle hors ligne se distingue par sa capacité de traitement et d'analyse de grandes quantités de données, pour en tirer des conclusions précieuses. Cela permet aux entreprises de prendre des décisions meilleures et d'optimiser leurs processus. Par la combinaison avec des méthodes conventionnelles, l'intelligence artificielle peut également résoudre des problèmes complexes et faire des prévisions. Les problèmes les plus difficiles à résoudre peuvent être résolus en ajoutant des procédures du Machine Learning.
Exemple:
Une entreprise participe à des Appels d'offres et a collecté une série de données issues de précédentes Appels d'offres. Pour la prochaine Appel d'offres, l'entreprise souhaite maintenant savoir, quel Prix de l'offre conduira probablement au Zuschlag.
Ce type de problème peut être résolu beaucoup mieux par une intelligence artificielle hors ligne qu'avec des intelligences générales comme ChatGPT. Les raisons sont notamment:
- Spécificité des tâches qui ne peuvent pas être résolues universellement (et si jamais cela se produit, alors les hommes ne seront plus la forme d'existence la plus intelligente sur cette planète).
- De la forme des textes et des termes spécifiques à votre entreprise et à votre secteur d'activité.
- Une grande quantité de données doivent être injectées dans l'IA. Cela pose la question des coûts pour les services cloud tels que Microsoft Azure ou l'API ChatGPT.
- Peut-être: Besoin de confidentialité de vos données ou confidentialité de vos données.
Règle générale: La grande capacité de la AI hors ligne est surtout utile pour des cas d'application qui ne semblent pas aussi triviaux que l'entrée d'un texte ou moins de textes dans une boîte à chat.
Contrôle des données
Une intelligence artificielle hors ligne protège les données qui vous appartiennent. Cela peut être des demandes de brevet ou des secrets commerciaux. Mais souvent, il a été également convenu contractuellement que certaines données seraient confidentielles. Ces données ne devraient pas atterrir dans des entreprises américaines (Loi sur le Cloud Act, EO 12333, FISA 702). Certains clients ne veulent pas que leurs données, qui leur sont fournies, tombent entre les mains de tiers comme Google, Microsoft, Meta ou OpenAI. Tous ces entreprises utilisent les données des utilisateurs pour entraîner leur propre intelligence artificielle.
Une intelligence artificielle en ligne garde les données chez vous. C'est d'où vient également le nom de cette intelligence artificielle: elle est en principe capable de fonctionner sans connexion Internet. Cela signifie que tous les flux de données sont pleinement contrôlables. Vous décidez quelles données doivent aller où. Bien sûr, le système d'intelligence artificielle a accès à Internet si nécessaire. Par exemple, lorsque des vidéos doivent être téléchargées automatiquement pour l'intelligence artificielle ou lorsque l'intelligence artificielle doit effectuer des recherches sur Internet.
Résolvent ainsi de nombreuses questions juridiques. Les contrats de traitement des commandes avec les grandes entreprises américaines ne sont plus nécessaires et ne doivent pas être évalués juridiquement. Les opt-outs en raison de l'utilisation des données d'entrée par le fournisseur de l'intelligence artificielle sont supprimés.
Une intelligence artificielle hors ligne améliore la sécurité des systèmes basés sur l'intelligence artificielle indéfiniment.
Sans aucun autre surcoût, certaines difficultés juridiques sont déjà éliminées.
Puisque une intelligence artificielle hors ligne n'a pas besoin de renvoyer des contenus lus à l'avance, on peut éviter les problèmes avec le droit d'auteur ou la RGPD. Une intelligence artificielle générative comme ChatGPT, qui n'est pas "bloquée", est presque un garant pour les violations du droit d'auteur.
Coûts raisonnables
Une intelligence artificielle propriétaire d'entreprise hors ligne n'est pas seulement performante et sécurisée, mais également rentable. Une fois installée, il est indifférent que votre système d'intelligence artificielle fonctionne uniquement 3 heures par semaine ou 24 heures par jour et chaque jour de l'année avec une charge maximale.
Qui a déjà regardé les coûts des plateformes cloud comme Azure peut trouver ce aspect du coût particulièrement attrayant.
Try Offline-AI now
Optimizable and with full data control. Economical even in continuous operation.
Fully-controlled data center, no third-parties.
La mise en œuvre même de l'API ChatGPT soulève des questions concernant les coûts, bien qu'elle soit qualifiée d'économique. Puisque une intelligence artificielle est floue, il n'est pas clair a priori combien et avec quelles données la AI doit être appelée pour un résultat souhaité. Ainsi, cela ne fait aucune différence que 100 appels coûtent 1 euro ou 10 euros. La seule incertitude quant aux coûts est un obstacle.
Si un système doit traiter de nombreux données, comme les documents de votre entreprise ou tous les lois hessoises, alors le fréquent appel d'une API très avantageuse devient rapidement trop coûteux et imprévisible.
Du point de vue des coûts, il y a également un autre avantage pour les entreprises d'une intelligence artificielle hors ligne.
Capacité innovante
L'innovation est un processus. Un bon processus fonctionne de manière continue et à tout moment, si nécessaire.
Un 24/7 fonctionnement est la condition parfaite pour l'innovation. 24/7 signifie que l'intelligence artificielle de l'entreprise est disponible à tout moment et en pleine capacité, et qu'elle fonctionne de manière permanente.
Techniquement, tous les services cloud peuvent être utilisés de manière permanente. Les coûts qui en découlent sont cependant souvent exorbitants et souvent imprévisibles. Outre votre argent, vous remettez également vos données au fournisseur cloud, qui ne vous remercie même pas pour cela.
Une intelligence artificielle hors ligne coûte toujours autant peu que souvent elle est utilisée. Les coûts se limitent en grande partie à:
- Achat de matériel informatique: Soit location ou achat (centre de données propre ou colocation, c'est-à-dire des serveurs propres dans un centre de données étranger). Un serveur AI professionnel est déjà disponible pour 5000 euros. Lors de la location, les coûts sont inférieurs à 1000 euros par mois. Pour certains cas d'application AI, les coûts de la location des serveurs sont même négligeables.
- Installation du système: Cette dépense unique dépend de votre cas d'application. Elle est modeste. Si vous louez un serveur AI prêt à l'emploi, les coûts sont encore plus réduits.
- Programmation d'intelligence artificielle: En fonction de votre cas d'application. Très souvent très efficace possible. Voir le exemple suivant: L'auteur de cet article a été interviewé pour une émission documentaire 3sat. Pour la doc, l'auteur a programmé en quelques heures un système d'intelligence artificielle qui peut reconnaître et marquer les cambrioleurs dans des vidéos de surveillance. Voir 3sat-Dokumentation à partir de la minute 33:16.
Quelques exemples d'initiatives innovantes qui sont possibles avec une IA hors ligne:
- Recherche de documents: Les documents peuvent également être des tickets de support ou des e-mails des clients. Trouvez les documents qui correspondent le mieux à votre requête de recherche. La recherche peut également se faire sous forme de question formulée en langage naturel.
- Trouver et évaluer le savoir mondial: Le moteur de recherche parcourt l'internet en fonction de votre requête. L'objectif est d'obtenir plus de résultats que ce qui serait pertinent. Dans la suite, ces résultats (souvent 1000) sont donnés à une intelligence artificielle hors ligne. Dans un processus multi-étapes, facilement programmable, les résultats manifestement sans rapport sont d'abord éliminés. Ensuite, le crawl des résultats restants a lieu. Les résultats complets sont donc lus et réinjectés dans la AI hors ligne. Cette dernière analyse ensuite les textes du savoir mondial en fonction de vos préférences. Exemples:
- Analyse SEO
- Extraire les adresses
- Analyser la concurrence
- Identifier les innovations actuelles
- Déceler des tendances
- Trouver des projets de construction
- Traduction en d'autres langues: Vous obtenez par la même occasion un traducteur performant. Pour la perfection, utilisez DEEPL ou assimilé. Mais si des résultats très bons (!) suffisent, vous les obtiendrez gratuitement et en quantité indéfinie avec une intelligence artificielle hors ligne. Pensez aux résultats de travail manuels ou générés par l'intelligence artificielle que reçoit un collègue en Espagne, en France ou en Ukraine et qu'il doit comprendre.
- Transcription audio: Convertit la langue des vidéos ou des podcasts en texte. Fonctionne mieux que toute solution AI disponible. La AI hors ligne utilise un dictionnaire propre. Elle peut télécharger et transcrire automatiquement autant de vidéos ou de séries de podcasts qu'on veut. Un ajustement de prompt n'est pas nécessaire.
- Générer des images: À la différence de services comme Midjourney ou DALL-E, votre intelligence artificielle hors ligne peut générer des milliers d'images. Des styles propres et l'optimisation automatique de vos prompts d'image sont possibles. Les choses comme la vérification des droits d'auteur sont également bien intégrables.
- Reconnaître des objets: Soit vous voulez reconnaître sur des vidéos ou des images des objets spécifiques, soit vous cherchez à trouver des erreurs de production au cours du processus de fabrication. Il est également possible d'entraîner votre AI en ligne une fois avec les images de vos pièces de fabrication. Vous voyez déjà que cela pourrait être difficile avec une solution cloud. D'autant plus qu'une optimisation spécifique semble sensée et peut économiser des coûts importants.
Le plus important des aspects, qui se trouve au-dessus de toutes les problèmes concrets, est cependant un autre.
Amélioration personnelle par autocritique de l'intelligence artificielle
Avec une intelligence artificielle hors ligne, même une amélioration de votre système d'intelligence artificielle est possible.
Pour comprendre cela, il faut savoir que les systèmes d'intelligence artificielle sont presque aussi peu fiables que l'homme. Même des personnes très intelligentes sont idiots dans de nombreux domaines du savoir ou de la vie quotidienne. Prenez Albert Einstein. Si il vivait encore et qu'on lui demandait comment traiter le bois pour les extérieurs, on obtiendrait peut-être une mauvaise réponse.
AI for your company
- Powerful and optimizable
- Full data control
- Fast proof of concept
- Inexpensive
Il faut également tenir compte du fait que la réponse d'un modèle de langage de l'intelligence artificielle n'est peut-être pas suffisamment bonne. Il suffit cependant que la réponse de l'IA soit moyenne, voire encore fausse.
Prenez par exemple l'extraction de connaissances à partir d'aucun texte. De tels textes peuvent provenir des documents de votre entreprise ou de votre administration, ou être trouvés sur Internet.
L'extraire des connaissances à partir du Internet est particulièrement charmant. Le trésor de données est infini. La seule chose qui est nécessaire pour cela, c'est une interface avec une moteur de recherche. Cette interface existe, et elle se fait de la même manière économique que l'IA hors ligne offre.
L'extraction de connaissances n'est pas équivalente à la génération d'antwoord AI qui répètent ces connaissances.
L'extraction ne signifie que l'analyse, tandis que la génération d'une sortie signifie souvent une reprise fidèle des mots du savoir.
Ainsi, théoriquement, le web peut être perpétuellement "raflé" pour des contenus intéressants. Ces contenus peuvent ensuite être analysés par une IA hors ligne. L'IA hors ligne corrige alors perpétuellement vos propres réponses, si nécessaire. Les résultats peuvent ensuite être traduits dans d'autres langues.
Pour illustrer, voici un exemple où il faut extraire les Messages clés d'un document. La IA fournit par exemple une liste de 5 Kernausagen pour un document (du Internet ou de votre entreprise). Une des Kernausagen extraites par la IA concernant l'article du blog Dr. RGPD Cookies ne sont pas des fichiers texte est:
"Dans le document, il est décrit pourquoi les cookies ne sont pas des fichiers texte et que les cookies sont en fait des ensembles de données.
Une version d'un résultat de cœur qui a été extraite avec une IA hors ligne du document mentionné.
Cette réponse est bien, mais elle ne peut pas être utilisée de manière indépendante car la réponse fait référence au document lu. C'est ce que nous voulons ici: des affirmations centrales indépendantes.
Ainsi, la question à poser à l'IA serait: "Vérifie si la réponse suivante est compréhensible de manière autonome. Si la réponse est compréhensible de manière autonome, réponds avec 'OK'. Si la réponse n'est pas compréhensible de manière autonome, reformule-la pour qu'elle soit compréhensible de manière autonome."
La AI hors ligne répond ensuite avec une réponse reformulée:
"Cookies ne sont pas des fichiers texte. Les cookies sont des enregistrements de données."
Une version d'une alerte nucléaire extraite avec une IA hors ligne du document mentionné.
Cette affirmation centrale est correctement extraite et compréhensible de manière autonome. De même, on pourrait extraire des réponses à l'intelligence artificielle d'une même intelligence artificielle
- Vérifier les erreurs d'orthographe et laisser la AI corriger elle-même ces erreurs
- Faire traduire en d'autres langues (ici des résultats réels, générés rapidement avec la même IA):
- Les cookies ne sont pas des fichiers texte. Les cookies sont des ensembles de données._
- Ukrainien: _Kukies ne sont pas des fichiers texte. Kukies, c'est des ensembles de données.
- Ciasteczka_ ne sont pas des fichiers texte. Ciasteczka sont des ensembles de données_
- Azerbaïdjanais: Kukilər mətn faylları deyil. Kukilər məlumat dəstləridir. (DEEPL ne connaît pas cette langue ! Vérification croisée effectuée avec un autre modèle de langage artificiel)
- Laisser publier en une langue plus simple
- Faire résumer
- Dans le style et la longueur d'un post sur les réseaux sociaux
- …
On peut également lire plusieurs articles de blog et en faire un article, tout cela coûte 0 euros.
Certaines réponses que l'on obtiendrait directement avec ChatGPT nécessiteraient à la AI hors ligne deux prompts. La différence est qu'elle permet, sans supplément de coûts, 100 autres prompts par document, tandis que les plateformes utilisant des abonnements comme celles d'OpenAI ou Microsoft facturent davantage pour chaque appel. La seconde différence est la sécurité des données. La AI hors ligne fonctionne sur votre serveur et ne partage pas de données avec des tiers qui s'en réjouiraient et deviendraient de plus en plus puissants.
Résumons ce que signifie l'amélioration de soi-même:
- La AI de leur entreprise génère des réponses en temps réel.
- L'intelligence artificielle de leur entreprise se contrôle elle-même ("auto-critique")
- L'intelligence artificielle de leur entreprise s'améliore elle-même, si nécessaire ("amélioration continue")
On peut pousser encore plus loin tout cela par l'amélioration de l'intelligence artificielle elle-même (et non seulement les réponses individuelles). C'est déjà possible, et même sur un ordinateur portable AI. Pour cela, le résultat généré et amélioré par la AI, est utilisé comme ensemble d'entraînement dans la même AI. Les ensembles d'entraînement sont ensuite utilisés pour créer une nouvelle version de la AI. Cela s'appelle Finetuning. La nouvelle et améliorée version de la AI, se perfectionne à nouveau elle-même. Le processus s'arrête, lorsque il n'y a plus rien à améliorer en fonction des données disponibles et de la tâche donnée ou que le modèle de AI est arrivé à ses limites. La première situation, la disponibilité des données ou l'énoncé du problème, est probablement celle qui mettra fin à l'amélioration de soi-même. Après "parfait", vient "?".
Un autre avantage considérable de l'intelligence artificielle hors ligne: vous pouvez combiner des chaînes d'opération entières. Essayez de commander à ChatGPT la lecture d'une toute entière site web avec 500 sous-pages et puis extraire ensuite, à partir du contenu lu, tous les mots-clés pertinents, les thèmes et les conclusions clés. Cela échoue déjà parce que OpenAI n'est pas prêt à scanner pour votre entreprise le "tout Internet" pour 20 dollars par mois. Même l'utilisation de l'API ChatGPT pour 500 documents plus complets (après avoir lu vous-même) est peu agréable, car les coûts résultent de l'intensité d'utilisation.
Conclusion
Une intelligence artificielle hors ligne offre des possibilités et des chances infinies pour les entreprises allemandes. Les modèles de langage AI sont désormais excellents en allemand. En particulier, existent des modèles de langage plus petits qui présentent ces avantages.
Ainsi, les entreprises peuvent en très bonne manière et à faible coût exploiter leurs propres systèmes de IA. Ces systèmes d'IA sont rentables chaque fois que ce n'est pas seulement une question d'entrer parfois un prompt dans une boîte de chat. La capacité d'une IA propre est souvent bien supérieure à celle des meilleurs systèmes d'IA généraux du monde.
La AI hors ligne est intéressante lorsque il s'agit de nombreux données ou documents, lorsqu'il s'agit d'une utilisation intensive, lorsqu'il s'agit d'une contrôle totale des données, lorsqu'il s'agit du lecture de connaissances à partir d'internet ou (!) lorsque votre cas d'utilisation spécifique doit être résolu avec AI de manière optimale
Des exemples de mise en œuvre réalisés pour la AI hors ligne (Extraits):
- Résumer et simplifier les textes législatifs
- Générer des images (sur ordinateur à IA)
- Simplifier la communication intelligente
- Système de questions-réponses avec des réponses fiables
En résumé, une intelligence artificielle hors ligne est rentable pour votre entreprise si vous avez un problème articulable. Demandez-nous à tout moment pour en savoir plus sur la faisabilité de votre problématique.
Messages clés
L'intelligence artificielle hors ligne peut être plus efficace et moins coûteuse que les modèles en ligne pour les entreprises qui ont besoin de traiter de grandes quantités de données spécifiques.
Une intelligence artificielle hors ligne est plus sécurisée et économique car elle garde vos données privées et ne nécessite pas de frais de plateforme cloud.
Une intelligence artificielle hors ligne est plus économique et offre une innovation continue, contrairement aux solutions cloud coûteuses et imprévisibles.
Une intelligence artificielle hors ligne permet d'effectuer de nombreuses tâches, comme la traduction, la transcription audio, la génération d'images et la reconnaissance d'objets, de manière efficace et personnalisée.
L'intelligence artificielle peut extraire des informations clés du web et les reformuler de manière autonome et compréhensible.
L'intelligence artificielle hors ligne offre aux entreprises allemandes des possibilités infinies à faible coût grâce à des modèles de langage performants en allemand.
L'intelligence artificielle hors ligne est rentable pour les entreprises qui ont un problème précis à résoudre.



My name is Klaus Meffert. I have a doctorate in computer science and have been working professionally and practically with information technology for over 30 years. I also work as an expert in IT & data protection. I achieve my results by looking at technology and law. This seems absolutely essential to me when it comes to digital data protection. My company, IT Logic GmbH, also offers consulting and development of optimized and secure AI solutions.
