Risolvitori di problemi in stato d'eccezione: come l'intelligenza artificiale offline supera le loro sfide

I vantaggi di una IA ottimizzata per le aziende e l'amministrazione possono essere addirittura dimostrati su un laptop offline. Questa IA offline offre più funzionalità per molti casi d'uso rispetto a qualsiasi intelligenza universale come ChatGPT. Offre controllo totale dei dati e funziona anche in regime di durata con grande economia di spesa.

Introduzione

Questo articolo è un esempio concreto delle possibilità dell'Intelligenza Artificiale offline. Ma prima di tutto una breve introduzione all'Intelligenza Artificiale offline. È stata possibile da un anno, ma solo recentemente è diventata così performante anche per la lingua tedesca.

La AI offline è una AI che funziona su un proprio computer o server locale. Offline significa che il sistema di AI non ha bisogno di alcuna connessione internet. Ciò comporta che nessun dato viene inviato a terzi. Ecco i vantaggi che offre una AI offline in particolare:

• Imprenditori e autorità ricevono un Risolutore di problemi per i loro casi di applicazione.
• Ogni volta possono essere installati e utilizzati nuovi modelli di linguaggio AI, modelli di immagini Stable Diffusion, modelli audio, modelli video.
• Sé stesso il funzionamento continuativo è economico possibile. Addio Microsoft Azure. Addio buchi di sicurezza.
• Una AI che si migliora da sola, capace di criticarsi stessa, è praticamente possibile.
• Semplicemente giuridico: i contratti di elaborazione dei dati sono inutili; l'opzione "opt-out" dubbia offerta da ChatGPT al posto della richiesta di consenso non ha più alcun impatto giuridico. Nessuno deve più scuotere la testa quando un'altra autorità di vigilanza vieta ChatGPT.

Per completezza va detto che l'interfaccia di programmazione (API) di ChatGPT ha senso in alcuni casi. Tuttavia, a causa dei modelli linguistici open-source che migliorano sempre più settimanalmente, questo caso si verifica sempre meno spesso. In sintesi: con un'API si possono fare molte cose. Per esempio: da un Suggerimento di partenza (promemoria) un Sprogmodel forma una descrizione del programma di una composizione d'arte, che poi viene trasformata in un Immagine da un Modello di generazione dell'immagine. Ecco un esempio di output:

Per la lingua tedesca esistono spesso modelli linguistici migliori di ChatGPT. O sono qualitativamente migliori o più economici. Gli interessati dovrebbero considerare Claude, Command R+ e Mistral. La AI offline è però più divertente e meglio adatta a problemi concreti.

Quando offline AI e quando chatbot generico?

Chi vuole sapere quanto è alto il terzo monte più alto del mondo, può tranquillamente utilizzare ChatGPT. Anche la lettura occasionale e la sintesi di testi pubblici per scopi semiprofessionali è un buon esempio di applicazione per chatbot generali. Questi chatbot sono anche a disposizione per un colloquio innocuo.

Utilizzare un chatbot come motore di ricerca è un approccio che sembra piacere a molti. Chi vuole avere una potente motore di ricerca, è meglio rivolgersi alla AI offline. OpenAI non leggerà e valuterà sicuramente per voi un sito web con 5000 sottopagine.

Una alta affidabilità dei risultati non è solo desiderabile, ma sempre importante in un contesto professionale. Chi ha bisogno di questa affidabilità deve avere una IA offline con meccanismi per la verifica della qualità.

Dati sensibili, segreti commerciali o informazioni personali non dovrebbero essere inseriti in un sistema di terze parti di fornitori americani. In primo luogo, le leggi americane come il Cloud Act, FISA 702 o l'Ordinanza esecutiva 12333 consentono alle autorità e ai servizi segreti americani di accedere a questi dati. In secondo luogo, si verificano quasi regolarmente vulnerabilità di sicurezza nei popolari chatbot e sistemi di Microsoft (che detiene la maggioranza delle quote azionarie di ChatGPT!). In terzo luogo, devono essere fatte valutazioni legali e normative che avvengono solo sulla carta e richiedono un grande sforzo.

Con soluzioni di intelligenza artificiale avanzata, le aziende e le amministrazioni possono superare le sfide.

Meno veloce, meglio e leggero che mai.

Una AI offline può correre permanentemente. Perché, si chiedono alcuni. Perché gli esseri umani studiano per 5 anni? Per migliorare. Precisamente quello che può fare una AI offline. Solo che questa auto-migliorazione non dura anni, ma spesso secondi o alcune ore.

Che cosa è possibile con l'intelligenza artificiale offline?

La AI offline può fare molto. Addirittura di più del ChatGPT. Dipende comunque dal caso d'uso. I suoi dati, il suo caso d'uso. Anche se non ha propri dati, la AI offline è in genere meglio.

Nel precedente capitolo è stato già dato un esempio di ciò: l'ottenimento di informazioni dall'internet. Anche la ricerca di informazioni nell'internet con successiva valutazione è un ottimo caso d'applicazione per una AI offline. Ad esempio, possono essere prese quotidianamente le notizie attuali e automatizzate con la propria AI aziendale vengono valutate.

Or come sarebbe fare una analisi del mercato o osservazione della concorrenza? Partendo da casa va molto male con i chatbot generali, perché bisogna procurarsi i dati. Questa raccolta di dati è facilmente automatizzabile. Chi fa questo piccolo passo esce dalla comodità innovativa ostile. In premio ci sono massima indipendenza, piena controllo e soprattutto risultati migliori!

Esempi di utilizzo dell'intelligenza artificiale nell'amministrazione pubblica:

Cittadini (o clienti) vogliono richiedere qualcosa. La ricerca del modulo o foglio di istruzioni adatto può essere ottimamente supportata con l'intelligenza artificiale. L'IA viene qui utilizzata per la ricerca semantica. I dipendenti dell'amministrazione vengono così alleggeriti e possono lavorare in modo più produttivo.

Se un foglio di marca è troppo complesso, l'AI può riconciliare le idee in una lingua più semplice.

Se un modulo o una richiesta è disponibile solo in tedesco o inglese e il cittadino capisce solo ucraino, allora quel documento può essere tradotto con l'AI.

Richieste e moduli simili a una richiesta o modulo trovato possono essere trovati con l'intelligenza artificiale. Anche leggi, disposizioni interne e sentenze relative a un procedimento possono essere trovate in questo modo. Gli addetti ai lavori saranno così supportati al meglio.

Possibile per la gestione di reclami danni, richieste dei clienti o ticket di supporto.

Nel precedente post sono stati citati altri buoni scenari per l'Intelligenza Artificiale offline.

Prove per l'intelligenza artificiale offline

Al congresso digitale di Magonza MADKON24 i partecipanti al mio workshop poterono assistere in diretta alla produzione di risultati da Offline-AI. Ciò avvenne sul mio laptop presente sul posto e senza connessione internet.

L'immagine mostra impressioni dal MADKON24. Un resoconto sui discorsi e sui workshop, compreso il mio, è stato pubblicato da Peter Winninger nel suo blog KOBLENZ DIGITAL.

Sul laptop è stato in particolare mostrato:

• Generatore di immagini: ingresso testuale (prompt) produce uscita in immagine
• Generatore di immagini 2: l'immagine di input serve come riferimento per la struttura dell'immagine. Da questa riferenza e da un promemoria viene generata una nuova immagine.
• Optimizzazione del prompt: il prompt per la generazione delle immagini è stato ottimizzato automaticamente con l'AI offline. Successivamente, il prompt ottimizzato è stato inserito nel generatore di immagini. L'immagine nuova era più accattivante.
• Varianti di promemoria: sono state formate automaticamente con varianti offline dell'intelligenza artificiale:
  • Varianti generali che sono simili all'originale
  • Varianti che sono molto simili all'originale
• Il prompt ottimizzato automaticamente e le varianti generate automaticamente furono
  • Tradotto, e cioè dopo
    • Inglese,
    • Spagnolo,
    • Ucraino
• Espresso in forma di formulazione, e cioè
  • Nella lingua giuridica,
  • In lingua dei pirati,
  • Nella lingua che un bambino di cinque anni può capire
• Per divertimento è stato creato un racconto di fate dal prompt ottimizzato, e cioè in due varianti

Tutto è passato durante il workshop come un dozzino di volte, ogni volta con una sola altra input e ogni volta con molti nuovi e buoni risultati.

Per l'ottimizzazione del prompt: questa Autosuperamento della IA è possibile facendo in modo che la IA riceva nuovamente le sue stesse uscite come input. Ciò funziona anche molto bene, è la creazione artificiale di dati di addestramento da parte della IA con cui poi viene addestrata la stessa IA. È così come se un essere umano potesse scrivere lui stesso il suo materiale di formazione e migliorare in tal modo.

Ecco un esempio di uscita del generatore di immagini menzionato:

Una ingrandimento di questo già non piccolo immagine è possibile con il calcolo di alta prestazione di intelligenza artificiale. Con ciò si può creare la dimensione quattro volte maggiore senza perdita di qualità percepibile.

Il generatore di immagini sopra menzionato ha ricevuto ora questa immagine come input e doveva da essa creare uno scienziato pazzo; mantenendo la struttura dell'immagine. Ecco il risultato da Magonza:

Inoltre sono state Varianti calcolate con un armadillo, un tigre, spesso politici sgraditi dagli Stati Uniti, il comandante Data, una donna prominente e molti altri parametri. Tutti questi calcoli sono stati eseguiti in breve tempo sul laptop. In totale, nel corso di un breve periodo del workshop durato due ore circa 100 immagini sono state generate. Come ulteriore esempio è stato mostrato un generatore di immagini che è stato addestrato a un determinato stile. Così, per esempio, possono essere generate immagini nel stile delle istruzioni IKEA per ogni testo promt.

Se si volesse contare l' Quantità dei testi generati con l'intelligenza artificiale offline nel workshop, si arriverebbe a qualche migliaio di testi. Questi erano promemoria ottimizzati per i testi, traduzioni, semplificazioni linguistiche e altro ancora. Ad esempio, sono stati estratti i keywords dalle notizie. Allo stesso modo, sono stati classificati i risultati delle ricerche con l'intelligenza artificiale offline. In questo modo è stato possibile distinguere gli articoli di conoscenza dalle pubblicità. Anche l'accesso ai risultati da una popolare motore di ricerca (diversa da Google) può avvenire in modo automatico.

Le possibilità quasi inimmaginabili di un'intelligenza artificiale offline:

Una input, poi ciclo di elaborazione con intelligenza artificiale. L'intelligenza artificiale genera ulteriori input da sola e produce così sempre più e migliori risultati. Se ci sono troppi risultati, questi possono essere criticati e filtrati con la stessa intelligenza artificiale.

Ora possibile, anche su un laptop. Nessun desiderio, ma realtà.

Presente c'era anche Michael Westphal di TV1. Ha registrato il mio workshop (senza la mia conoscenza) come audio. Dopo avermi consegnato il Trascrizione, con KI offline. Nonostante abbia utilizzato solo un buon microfono del cellulare, molte persone erano nel locale, lo spazio era grande e diverse persone parlavano, l'esito è stato molto buono. Un'intervista registrata dopo il workshop da lui e me verrà pubblicata presto. Anche nel video viene utilizzata KI per la trascrizione e i sottotitoli.

Il trascrizione audio (per un linguaggio di due ore) l'ho cacciato con la AI offline per farlo riassumere. Dopo di che, la riassunzione è stata semplificata linguisticamente e sono state estratte le affermazioni centrali.

Le affermazioni centrali del mio workshop di intelligenza artificiale al congresso digitale a Magonza sono:

• La AI funziona come il cervello umano: la funzione intellettiva dell'uomo è stata decifrata.
• Nvidia è l'attuale unico fornitore praticamente disponibile di schede grafiche per l'intelligenza artificiale.
• Modelli di intelligenza artificiale open-source sono acuti.
• Applicazioni che non potevano essere programmate neanche prima o solo dopo mesi o anni possono oggi essere sviluppate in breve tempo grazie all'intelligenza artificiale.
• La AI consente di risolvere in modo omogeneo problemi diversi, riducendo notevolmente la complessità e l'impegno richiesti.
• La AI può essere applicata in modo uniforme a diverse tipologie di dati. Le tipologie di dati sono testi, immagini, segnali audio, valori sensoriali, video ecc.
• Le applicazioni AI richiedono dati per fornire risultati utili.
• L'origine di questi dati può essere:
  • Dati storici, ad esempio dati di offerta da gare concluse
  • Dati dal web (tramite ricerca automatizzata)
  • Dati generati artificialmente (utilizzare l'offline-IA)
  • Dati generati dall'uomo.
• Risposte affidabili possono essere fornite solo da un'AI che viene guidata. Questo guidare può avvenire in modo automatico.
• Sistemi di intelligenza artificiale generali come ChatGPT sono qualitativamente peggiori (e in via di medio termine spesso molto più costosi) rispetto a sistemi specializzati.
• La combinazione di intelligenza artificiale e programmazione classica offre i migliori risultati.
• L'innovazione nasce lasciando la comodità e risolvendo le dipendenze.

La migliore soluzione è oggi solo un piccolo passo lontana.

Intelligenza artificiale offline illustrata con immagini

L'immagine di copertina sopra è stata generata con una AI offline. È visibile nella raccolta dei tre immagini a sinistra:

Il primo (sinistro) immagine è stata prodotta da un'Intelligenza Artificiale offline a causa di una specifica manuale. L'altra immagine è stata prodotta da un Intelligenza Artificiale offline che aveva l'incarico di adattare la illuminazione e aggiungere più dettagli all'immagine. Il terzo (destro) immagine è stato prodotto da un generatore di immagini offline. Le specifiche erano qui:

• Immagine di input (precedentemente generata da intelligenza artificiale, ma qualsiasi altra immagine è anche possibile)
• Vorgabe: _Aggiungi un paio di robot molto piccoli che danzano intorno alla lampadina.

È possibile inoltre interrogare direttamente la AI per sapere quali altri Prompts sarebbero buoni. Bisogna naturalmente fare una qualche ipotesi. Ad esempio: Ich möchte, dass il Bild mehr Details enthält/interessanter aussieht/an Kuchen erinnert..

A seconda del generatore di immagini offline che si utilizza, è anche possibile chattare con il generatore. Inizialmente si lascia generare un'immagine. Poi si dice: Sostituisci l'uomo con una donna. Anche questo processo potrebbe essere automatizzato da un critico AI. Alla fine vengono generate x immagini. Queste possono essere sottoposte a valutazione personale o filtrate tramite una AI. La AI può imparare quali immagini piacciono a voi. Per farlo, basta semplicemente segnalare per ogni immagine se vi è piaciuta o meno. La AI apprende quindi in base a pochi esempi, cosa volete.

Il prompt che ha portato all'immagine del contributo è stato ottimizzato in questo modo da un'intelligenza artificiale:

• Original: problem solver system, intelligent, connections, bright colors
• AI-Version: Vibrant problem-solving AI, illuminating connections with radiant hues.

Dopo di che, è stato generato un'immagine con la versione AI del promemoria:

Ora la AI locale offline è stata istruita ad aggiungere un dinosauro futuristico:

Come si può vedere, sono state generate 3 varianti. Avremmo potuto anche generare 1.000 o 100.000 varianti. Non costa nulla. Grazie a una critica di immagini offline con l'aiuto dell'intelligenza artificiale, possono poi essere selezionate le migliori 10 immagini. L'uomo può quindi vederle e trovare velocemente l'immagine migliore.

Conclusione

Le Vantaggi di AI si offrono soprattutto per le aziende e le autorità con un'AI offline.

La Qualità è per molte problematiche semplicemente molto meglio. Ciò viene raggiunto attraverso la programmazione di aggiunta convenzionale, che causa un po' poco sforzo. Esempio plastico minimo: quanti caratteri ha una parola, può essere determinato al meglio in questo modo, mentre ChatGPT fallisce.

La piena controllo dei dati è un altro aspetto importante. Lasciate che il giurista di vostra scelta faccia altre cose, piuttosto che parlare bene di ciò che non è bello: ChatGPT è incerto, Microsoft è incerto (prove in questo blog e seguenti).

La significativa importanza della AI offline è la sua capacità di auto-aggiornarsi e auto-criticarsi. Tutto ciò è praticamente possibile solo perché non si verificano costi legati all'utilizzo. Anche le organizzazioni con grandi budget vorrebbero sapere in anticipo cosa "costa". Ma nessuno lo sa prima di consultare un cervello (AI). È chiaro che il richiamo frequente di una connessione AI a pagamento, meglio ancora con documenti ampiamente dettagliati, diventa presto costoso.

Innovazione nasce dall'eliminare ostacoli. Precisamente questo è possibile con l'intelligenza artificiale offline. Poiché lo sviluppo è rapido, è un enorme vantaggio che nuovi LLM possano essere semplicemente sostituiti. Modelli di linguaggio open-source ad esempio sono così eccellenti che gli operatori commerciali devono farsi molto desiderosi per non congelare.

Quali casi di utilizzo hanno nel vostro azienda o amministrazione pubblica? Sarebbe gradito un primo giudizio sulla fattibilità.