Intelligenza Artificiale: Domande e Risposte frequenti

Una guida per le imprese e le amministrazioni, per valutare e pianificare meglio i progetti di intelligenza artificiale. In diversi seminari di IA sono emerse alcune domande degli interessati all'IA come particolarmente rilevanti. In questo articolo vengono nominate le domande della pratica e risposte in modo pragmatico.

Introduzione

Chi vuole risolvere un problema con l'intelligenza artificiale spesso non sa se è possibile o a quale costo. La seguente raccolta di risposte pratiche alle domande sulle soluzioni AI mostra cosa si può fare.

Le domande provengono tra l'altro da un webinar recentemente tenuto, ma anche da altri contatti con clienti e interessati. Le risposte si basano sull'esperienza di progetti in cui sono state attuate le richieste dei clienti.

I progetti contenevano tutti un rilevante apporto di programmazione AI. Sono stati utilizzati sempre modelli AI open-source e occasionalmente anche interfacce con ChatGPT, Claude 3, Command R+ o altri modelli commerciali di linguaggio.

Le risposte alle domande sopra menzionate dovrebbero fornire una guida per riconoscere, valutare, pianificare e condurre meglio i progetti di intelligenza artificiale.

Domande dalla pratica sulla IA e risposte

In stampa a caratteri grandi viene nominata la domanda. Sotto di essa segue come testo normale la risposta.

Qual è l'applicazione che si presta meglio per l'ingresso nel campo dell'intelligenza artificiale?

A causa dei risultati molto buoni e delle basse richieste di hardware, i seguenti casi d'uso si prestano molto bene all'introduzione di soluzioni AI – ovviamente senza dover utilizzare ChatGPT!

• Ricerca dei documenti: Cerca i propri documenti o ticket nel sistema di tickets.
• Funzione di ricerca del sito web: Funzione di ricerca intelligente per testi e PDF sul proprio sito web.
• Gestione delle lamentele: Suggerire al dipendente, sulla base di casi precedenti, come trattare meglio una lagnanza attuale.
• Regolazione dei danni: Analogo al management delle lamentele.
• Ricerca internet intelligente: ottieni risultati di ricerca da un motore di ricerca (attraverso interfaccia/api) e sottolineali intelligentemente. Dai 1000 risultati, vengono così eliminati i risultati non pertinenti.
• Sistema di risposta alle domande frequenti: sono necessari o coppie di domanda-risposta o documenti che contengano le risposte (le domande che i documenti rispondono possono essere generate sinteticamente).
• Classificazione di documenti, testi, titoli, immagini, segnali: assegnare ogni documento a una delle categorie definite. Apprendimento automatico delle categorie corrette. Possibilità di alta percentuale di successo.

Queste applicazioni possono essere eseguite sul proprio hardware aziendale o organizzativo senza dover inviare dati a terzi.

Quali casi d'uso si adattano ancora per una soluzione con l'intelligenza artificiale?

Sono da notare in particolare:

• Chatbot / Assistente del sapere: Conversazione con memoria, risposta in proprie parole, utilizzo anche di conoscenza internet per la ricerca della risposta…
• Generazione di testo: Creazione di testi creativi di alta qualità, ad esempio per articoli di blog; Sintesi del contenuto dei documenti
• Riconoscimento di oggetti: riconoscere classi di oggetti (Persona, Casa, …) in immagini e video, rilevamento intelligente del movimento.
• Generazione di immagini: Generare immagini in base a una descrizione testuale, generare immagini simili all'immagine di input. È possibile la verifica automatica dei diritti d'autore.
• Traduzione di lingua e testo: Trascrizione, lettura a voce alta, traduzione da una lingua in una delle altre 100 lingue.

Il sforzo richiesto è spesso basso. Solo le esigenze di hardware sono più elevate rispetto agli scenari d'uso menzionati nel paragrafo precedente.

Che cos'è l'intelligenza artificiale offline?

La AI offline è un'ottimizzazione della AI che può funzionare senza connessione internet, ma può comunicare con l'esterno se necessario.

Vantaggi:

• Controllo dei dati completi
• Risultati spesso migliori di ChatGPT, Gemini ecc
• Spesso più economico

Ulteriori informazioni su KI offline

Quali risorse temporali sono realistiche per un progetto di intelligenza artificiale?

Per un prototipo e una valutazione di fattibilità l'impegno è spesso molto basso. Quando si tratta del trattamento dei suoi dati, questi dati (come sempre) devono essere letti. Questa è un'attività convenzionale.

La Time lavora per voi: avviare il vostro progetto di intelligenza artificiale, poi potete essere sicuri che l'avanzamento tecnologico nel campo dell'intelligenza artificiale vi favorirà in pochi mesi.

Come facilmente un modello di linguaggio per l'intelligenza artificiale può essere scambiato con un altro

In poche parole: di solito è possibile con facilità. Molti modelli linguistici seguono la stessa architettura del sistema. Possono essere sostituiti semplicemente modificando alcune righe di codice. Nuovi e migliori modelli linguistici possono quindi essere utilizzati come Drop-In Replacement, per citare un termine tecnico.

Quali sono i costi di licenza per i programmi di intelligenza artificiale e i modelli linguistici di IA?

Il mercato open-source offre nel campo dell'intelligenza artificiale una qualità e attualità estremamente elevate, che non possono essere paragonate con nessun altro mercato open-source.

Ciò riguarda sia i framework di intelligenza artificiale che i modelli linguistici di IA (e altri modelli di IA).

I costi di licenza sono quindi, in poche parole, zero.

Ecco la traduzione: "Ecco come appare quando si utilizza l'API di ChatGPT ecc. Ci sono costi associati che dipendono dall'intensità dell'utilizzo.

Può essere eseguita una AI su hardware proprio?

Sì. Un esempio plastico dalla pratica: questo testo è stato scritto su un Laptop su cui sono in esecuzione modelli linguistici di intelligenza artificiale con 30 miliardi di parametri (modelli da 30B). Ciò che è possibile fare su un laptop funziona ancora meglio su un server di IA.

Al Servizio AI: O megliare (da fornitori tedeschi o europei) oppure acquistarlo. I principali costi di acquisto derivano dai costi delle schede grafiche.

Per molti casi di utilizzo, come la ricerca del sapere o la generazione di suggerimenti per le segnalazioni di danneggiamento o le lamentele dei clienti, è sufficiente una Hardware minimo.

Quanto è alto il carico di cura per un'applicazione di intelligenza artificiale?

Il costo di manutenzione è piuttosto basso rispetto ad altri sistemi IT, spesso addirittura zero. Se sono disponibili nuovi documenti di conoscenza, possono essere letti e elaborati automaticamente. Il costo si verifica naturalmente quando viene raccolto nuovo sapere per migliorare la qualità del sistema o aggiungere nuove informazioni. Senza l'aggiunta di nuovo sapere il costo è piuttosto vicino a zero.

Può essere aggiunto nuovo sapere a un'applicazione di intelligenza artificiale dopo l'installazione?

Sì, è possibile in più modi.

La possibilità più semplice è quella di selezionare nuove informazioni che si adattano a una domanda dell'utente, per presentarle al modello linguistico in modo da facilitargli la risposta.

L'allenamento più sostenibile è quello del modello linguistico con il nuovo sapere. Il modello linguistico viene qui in un certo senso aggiornato.

Per far funzionare l'apprendimento della IA sono necessari esempi.

Possono essere generate delle training set, se ci sono troppo pochi esempi disponibili?

Sì, è possibile. Per questo si creano esempi artificiali. Questo si chiama dati sintetici. Per la creazione di dati sintetici viene utilizzato un modello linguistico. Per i dati pubblici può essere utilizzato un servizio cloud come ChatGPT, Command R+ ecc., se lo si considera opportuno. Spesso meglio, perché anche senza ulteriori spese è possibile, è l'utilizzo di un modello linguistico locale. Questo modello locale può inoltre essere addestrato per essere particolarmente bravo a generare dati sintetici di formazione.

Un altro vantaggio dei modelli locali è la possibilità di caricarli in modo continuativo (24/7) per generare dati sintetici. Ciò che con ChatGPT costerebbe circa 10.000 euro al mese, può essere fatto da un modello AI locale a un prezzo fisso. Le spese fisse consistono nei costi di funzionamento del vostro hardware. Se affittate il hardware, questi ammontano a poche centinaia di euro al mese. Acquistare un sistema o averne uno significa che i soli costi sono quelli dell'elettricità in esercizio.

Si vede già qui che si possono ottenere notevoli vantaggi strategici e possibilità se si fa un po' più di sforzo rispetto a tutti gli altri, che per comodità utilizzano la presunta soluzione migliore "ChatGPT".

Quanto affidabili sono le risposte di un modello linguistico / chatbot / sistema di intelligenza artificiale?

È come con gli uomini: nessuno lo sa, se non ha già conosciuto la risposta prima.

In concreto: i modelli linguistici forniscono spesso risposte corrette in funzione normale, ma non abbastanza spesso per poter parlare di affidabilità. Anche ChatGPT fallisce quando si tratta di domande più specifiche che non riguardano la altezza della Torre Eiffel.

La ricerca di conoscenza nei documenti ha una grande affidabilità.

La affidabilità dei chatbot può essere notevolmente migliorata attraverso intelligenti tecniche di aggiunta, a un costo molto basso.

La conclusione è: "Non c'è pranzo gratis". Bisogna fare un po' di sforzo per ottenere una grande affidabilità. L'impegno richiesto per lo sforzo è spesso limitato e può essere considerato economicamente ragionevole.

Come si può impedire che i dati fluiscono a ChatGPT o ad altri fornitori di intelligenza artificiale?

Si può impedire il flusso di dati a OpenAI o Microsoft solo non utilizzando ChatGPT.

Utilizzate ChatGPT e non potete impedire il flusso dei dati. Spesso le impostazioni sulla protezione dei dati sono a danno degli utenti (Opt-Out anziché Opt-in). Il flusso dei vostri dati può essere impedito solo in via legale, quindi in modo teorico.

Quali problemi relativi alla protezione dei dati personali possono sorgere nell'uso di un'applicazione come HeyGen?

Ecco la traduzione: "HeyGen è qui solo come sostituto per molte applicazioni di intelligenza artificiale di questo tipo, con cui possono essere generate contenuti sintetici.

HeyGen è uno strumento online disponibile per creare un video. In questo modo si clona la propria voce, si applica su un altro volto e si sincronizza con le labbra. Un'ingresso di testo viene emesso come lingua nella voce clonata.

Se il vostro dipendente del marketing propone lui stesso HeyGen e si fa volontariamente clonare la sua voce, forse non ha neanche il diritto di recesso perché prima non aveva espresso alcuna autorizzazione da poter revocare. Altrimenti bisogna tenere presente che per l'uso di una voce umana potrebbe essere necessaria l'autorizzazione del proprietario della voce.

Sono i migliori modelli linguistici?

Probabilmente no. ChatGPT fornisce risultati sorprendenti, ma non è stato addestrato specificamente per la lingua tedesca. Inoltre, è "vecchio", si basa su un'architettura che ormai deve essere considerata obsoleta. Solo la quantità di dati e la grandezza (numero di neuroni artificiali e connessioni) assicurano una prestazione competitiva.

I costi di ChatGPT non sono concorrenziali perché a volte sono più che il doppio rispetto ad altri modelli linguistici offerti da altri fornitori. Mistral dalla Francia offre un modello molto buono, così come Cohere dagli Stati Uniti. I fornitori extraeuropei si prestano meglio per applicazioni in cui non è coinvolta la criticità dei dati e non c'è da temere un flusso di conoscenza.

I modelli open-source sono ormai così eccellenti da essere concorrenti validi. Vengono inoltre migliorati sempre di più e possono essere gestiti autonomamente.

Che cosa bisogna tenere presente nell'uso di un ricevitore vocale basato su intelligenza artificiale?

Si intende qui un annuncio (statico) creato con un'applicazione di IA.

La voce sintetica non dovrebbe essere troppo simile a quella di una persona reale (con voce riconoscibile). Per la sintesi della voce, il materiale iniziale dovrebbe essere privo di diritti d'autore.

Altre cose non sono da considerare in modo particolare, poiché qui attraverso l'intelligenza artificiale non vengono trattate dati personali.

Quali conoscenze dovrebbe avere un programmatore di intelligenza artificiale?

Un profondo conoscenza tecnica e esperienza di programmazione sono molto utili. Chi non ha mai lavorato in modo approfondito sulla programmazione della IA, non dovrebbe iniziare a costruire un sistema di IA da zero.

Il AI è un tema molto complesso con numerose evoluzioni rapide. In particolare dovrebbero essere presenti conoscenze in Python e Linux/Ubuntu (ecc.). Se le basi tecniche dell'intelligenza artificiale sono note, non fa male. Anche la conoscenza della programmazione delle interfacce è di vantaggio. Se il programmatore è quello che configura per la prima volta il sistema e lo installa da zero, è una questione diversa. Spesso è utile se qualcun altro lo faccia.

Per quanto riguarda il AI, è di vantaggio a medio termine se il partner tecnico (spesso lo sviluppatore/programmatore) segue e conosce le rapide evoluzioni del mercato tecnologico AI.

Può essere utilizzata anche per altre attività oltre alla trattazione di testi?

Sì. Qui si parla di modalità. Le modalità sono tipi di dati, quindi testo, immagine, video, audio, valori dei sensori di temperatura, dati di analisi web e via dicendo.

Per molte modalità esistono modelli di intelligenza artificiale, e cioè open-source, quindi disponibili gratuitamente. Ad esempio, si può estrarre la lingua da video o podcast e trasformarla in testo. Ciò va meglio con i propri sistemi di IA a base open-source rispetto ad esempio Microsoft Teams! Lasciamo fuori per ora il tema della controllo dei dati.

Quali computer consiglio per un computer di lavoro per l'intelligenza artificiale?

È importante sapere se si vuole programmare o lavorare semplicemente come utente con l'intelligenza artificiale.

Per la programmazione consiglio un sistema Ubuntu. Possibile è anche Windows con WSL, che però non è adatto per i professionisti.

Come utente potete scegliere un PC (o notebook) che possiede una scheda grafica in grado di eseguire calcoli con l'intelligenza artificiale, con la maggiore quantità possibile di memoria VRAM (NVidia) o un chip KI da Apple (ad esempio il M3). Tutto il resto è quasi irrilevante. È importante avere una disco rigido di almeno 1 TB, meglio se con tecnologia SSD veloce. RAM da almeno 32 GB.

Osservazioni conclusive

Certo ci sono molte altre domande. Non esitate a porre le vostre domande. Saranno felici di rispondere.

Anche se avete bisogno di una prima valutazione sulla fattibilità o sulle spese per il vostro progetto, sarete felici di ricevere un feedback realistico.