Un modello pre-addestrato d'Intelligenza Artificiale locale è un modello che può essere installato ed eseguito su qualunque computer o server.
Questi modelli possono essere scaricati da diverse piattaforme specializzate, la più conosciuta è Hagging Face.

Hugging Face è una piattaforma che offre una vasta gamma di strumenti e risorse per sviluppatori, ricercatori e appassionati di IA. E' molto popolare perché fornisce modelli pre-addestrati e strumenti per l'elaborazione del linguaggio naturale (NLP). Questi modelli possono essere utilizzati per diverse attività come la traduzione automatica, la generazione di testo, l'analisi del sentiment e molto altro ancora.

Gli LLM installati localmente possono essere gestiti con gli strumenti seguenti:
1) OLLAMA
2) LM STUDIO
3) PYTHON

COME LAVORARE CON UN MODELLO PRE-ADDESTRATO LOCALE UTILIZZANDO OLLAMA

Prima di tutto dovete eseguire il download di OLLAMA collegandovi all'indirizzo:

https://ollama.com/download

come mosta l'immagine seguente:

Dopo il download per verificare se OLLAMA è stato installato correttamente eseguite il comando:

ollama --version

Adesso potete caricare il modello pre-addestrato da usare localmente. Vi suggerisco di utilizzare LLAMA3 prodotto da Meta, un modello con 8 miliardi di parametri.

Per installare LLAMA3 eseguite il comando:

ollama pull llama3

Per verificare se il modello è stato caricato correttamente dovete eseguire il comando:

ollama list

Per visualizzare le caratteristiche del modello appena caricato usate il comando:

ollama show llama3

Adesso potete attivare il prompt per porre domande al modello con il comado:

ollama run llama3

Per conoscere i comandi disponibili usate il comando:

/?

Potete chiudere la sessione corrente con il comando:

/bye

COME LAVORARE CON UN MODELLO PRE-ADDESTRATO LOCALE UTILIZZANDO LM STUDIO

Potete eseguire il download di LM STUDIO collegandovi all'indirizzo:

https://lmstudio.ai/

Dopo il download eseguite il file:

per installarlo.

Quando avviate LM Studio appare la seguente interfaccia grafica:

Per caricare il modello dovete cliccare prima sull'icona a sinistra "My Models":

poi successivamente dovete cliccare sulla lente d'ingrandimento che appare al cenrro della schermata:

Dopo questa operazione potete scegliere il modello da caricare, selezionandolo e cliccando sul pulsante Download.

Nell'immagine seguente vi mostro come caricare il modello PHI-4 di Microsoft, con 14 miliardi (14B) di parametri.

Dopo il download e il caricamento del modello scelto, tornate alla chat  e utilizzate il prompt per porgli le domande.

L'immagine seguente descrive l'area chat di LM Studio.

Quando usate la chat di LM Studio assicuratevi sempre di aver caricato il modello che volete utilizzare.
Per caricare uno dei modelli disponibili, cliccate sul pulsante "Select a model to load" o usate i tasti Crtl + L:

scegliete il modello da caricare, selezionandolo con il puntatore del mouse:

e infine cliccare sul pulsante "Load Model":

Dopo aver caricato il modello potete porgli le domande utilizzando il prompt della chat, come mostra l'esempio seguente:

You
Ciao, sei phi?

Assistant phi-4
Sì, sono qui per aiutarti! Come posso esserti d'aiuto oggi? Se hai delle domande o qualcosa di specifico su cui vorresti discutere, fammelo sapere. 😊

Nel prossimo articolo creeremo un chatbot per comunicare con LLAMA3 attraverso OLLAMA.

1.Intelligenza Artificiale: se la conosci non la temi
2.Intelligenza Artificiale: i modelli linguistici di grandi dimensioni
3.Intelligenza Artificiale: le reti neurali artificiali
4.Intelligenza Artificiale: tipi di reti neurali artificiali
5.Intelligenza Artificiale: IA Generativa

Vuoi qualificarti per entrare nel modo del lavoro? 

Presso la nostra Academy delle Professioni Digitali, con il programma PAR GOL puoi partecipare ai seguenti corsi di formazione gratuiti di 300 ore, con 90 ore di tirocinio aziendale: