Come scrivere AI prompt: piccola guida al prompt engineering per LLM

Introduzione alle principali tecniche di prompting e fine-tuning per LLM

Come scrivere degli AI prompt efficaci? Gli LLM (Large Language Models) stanno rivoluzionando il modo in cui le aziende gestiscono e sviluppano il processi. Per sfruttare al meglio le AI generative, occorre sapergli porre le giuste domande, ovvero saper costruire specifici prompt per creare le immagini, i testi, i video etc. che vogliamo ottenere.

I prompt AI sono quindi le istruzioni, o le domande, che vengono poste ad un modello LLM. Il prompt engineering consiste nel sviluppare tecniche modelli e strutture di prompt che permettano di arrivare velocemente al risultato che vogliamo.

In questo articolo, esploreremo in dettaglio i principali prompt framework che possono essere particolarmente utili per i marketer, copywriter, designer ed in generale per le PMI italiane. Ognuno di questi framework offre un approccio diverso alla progettazione dei prompt, adattandosi a specifiche esigenze e tipologie di task.

Nel dettaglio, tratteremo:

  • Come scrivere dei prompt efficaci
  • Modelli di prompt per AI
  • Le principali tecniche di prompting
  • Fine-tuning dei modelli
  • Strumenti e risorse per il prompt engineering

 

come scrivere prompt ai prompt engineering

Come scrivere dei prompt efficaci per LLM

La progettazione di prompt efficaci per i Large Language Models (LLM) è un processo iterativo che richiede sperimentazione. In questa sezione, ti forniremo alcuni consigli chiave per ottenere i migliori risultati.

1. Inizia semplice

Utilizza un playground come OpenAI o Cohere per iniziare.
Parti con prompt semplici e aggiungi gradualmente elementi e contesto per migliorare i risultati.
Se hai un compito complesso, suddividilo in sotto-compiti più semplici.

2. Istruzioni chiare e concise

Usa comandi come “Scrivi”, “Classifica”, “Riassumi”, “Traduci”, “Ordina” per istruire il modello.
Sperimenta con diverse istruzioni, contesti e dati per trovare l’approccio migliore.
Il contesto deve essere specifico e rilevante per il compito.
Posiziona le istruzioni all’inizio del prompt e usa un separatore chiaro (ad esempio, “###”) per distinguerle dal contesto.

3. Specificità

Sii molto specifico nelle istruzioni e nel compito.
Fornire esempi nel prompt è molto efficace per ottenere l’output desiderato.
Considera la lunghezza del prompt e evita di includere dettagli non necessari.

Esempio:

Prompt:

Estrai i nomi dei luoghi dal seguente testo.

Formato desiderato: Luogo:

Input: “Sebbene questi sviluppi siano incoraggianti per i ricercatori, molto rimane ancora un mistero. Spesso quello che succede tra  il cervello e la periferia del sistema nervoso è come una scatola nera”, afferma Henrique Veiga-Fernandes, neuroimmunologo al Champalimaud Centre for the Unknown di Lisbona. “Se vogliamo usarlo in un contesto terapeutico, dobbiamo effettivamente comprendere il meccanismo.“”

Output:

Luogo: Champalimaud Centre for the Unknown, Lisbona

4. Evita l’imprecisione

Sii diretto e conciso nelle istruzioni.
Evitare di dire “cosa non fare” ma concentrarsi su “cosa fare”.

Esempio (errato):

Prompt: Il seguente è un agente che raccomanda film a un cliente. NON CHIEDERE INTERESSI. NON CHIEDERE INFORMAZIONI PERSONALI.

Esempio (corretto):

L’agente è responsabile di raccomandare un film tra i migliori film in tendenza globale. Se l’agente non ha un film da raccomandare, dovrebbe rispondere “Spiacenti, non ho trovato alcun film da raccomandare oggi.”.

5. Sperimentazione continua

L’ingegneria dei prompt è un processo iterativo.
Sperimenta con diverse combinazioni di istruzioni, contesti ed esempi per trovare le soluzioni più efficaci. Un buon punto di partenza possono essere i modelli di prompt seguenti:

consulenza intelligenza artificiale

Modelli di prompt per AI

Di seguito alcuni esempi di modelli che potete usare per la creazione dei vostri prompt. In genere nel prompt engineering sono detti framework:

CARE

Context → Action → Result → Example

(Contesto→Azione→Risultato→Esempio)

Il framework CARE è ideale per compiti che richiedono una risposta specifica e dettagliata. Fornendo un contesto chiaro, definendo l’azione desiderata e specificando il risultato atteso, si guida l’LLM verso un output preciso e pertinente. Vantaggi: flessibile, adatto a diverse tipologie di task, facile da implementare. Casi d’uso: generazione di contenuti, brainstorming, creazione di report.

Esempi di prompt CARE:

Esempio prompt CARE per generazione di contenuti:

Prompt:

Contesto: Stai scrivendo un post per un blog di viaggi dedicato al Giappone.

Azione: Descrivi le attrazioni principali di Kyoto.

Risultato: Crea una lista di 5 attrazioni, includendo un breve paragrafo per ognuna.

Esempio: “Il Tempio Kinkaku-ji, noto come il Padiglione d’Oro, è un’icona di Kyoto, famoso per la sua scintillante facciata d’oro.”

 

Esempio prompt CARE per creazione di script:

Prompt:

Contesto: Stai scrivendo una sceneggiatura per un breve spot pubblicitario.

Azione: Crea uno slogan accattivante per un nuovo prodotto di bellezza.

Risultato: Lo slogan dovrebbe essere breve, memorabile e sottolineare i benefici del prodotto. Esempio: “La tua pelle, la tua luce.”

 

RACE

Result → Action → Context → Example

(Risulato→Azione→Contesto→Esempio)

Il framework RACE è particolarmente utile quando si ha già un’idea chiara del risultato finale. Invertendo l’ordine rispetto al CARE, si pone l’enfasi sul risultato, guidando l’LLM a trovare le soluzioni più adatte. Vantaggi: focalizzato sul risultato, efficace per compiti creativi. Casi d’uso: sviluppo di slogan, creazione di storyboarding, ideazione di campagne marketing.

Esempi di prompt RACE

Esempio prompt RACE per Sviluppo di slogan:

Risultato: Creare uno slogan per una nuova app di meditazione.

Azione: Usa parole chiave come “calma”, “benessere” e “mente”.

Contesto: L’app si rivolge a giovani adulti stressati.

Esempio: “Trova la tua pace interiore.”

 

Esempio prompt RACE per Ideazione di campagne marketing:

Risultato: Creare un concept per una campagna di lancio di un nuovo smartphone.

Azione: Sfrutta l’elemento della sorpresa.

Contesto: Il telefono ha una fotocamera di altissima qualità.

Esempio: “Cattura momenti indimenticabili con un click.”

 

RISE

Role → Input → Steps → Execution

(Ruolo→Input→Passaggi→Esecuzione)

Il framework RISE è perfetto per compiti complessi che richiedono una serie di azioni sequenziali. Assegnando un ruolo all’LLM e definendo i passaggi da seguire, si ottiene un output strutturato e coerente. Vantaggi: ideale per task complessi, promuove la creatività guidata. Casi d’uso: scrittura di articoli, creazione di presentazioni, sviluppo di piani di progetto.

Esempi di prompt RISE:

Esempio prompt RISE per Scrittura di articoli:

Ruolo: Sei un giornalista esperto.

Input: Argomento: “L’impatto dell’intelligenza artificiale sul mercato del lavoro”.

Passi: 1. Definisci i principali vantaggi e svantaggi. 2. Intervista esperti del settore. 3. Concludi con una previsione per il futuro.

Esecuzione: Scrivi un articolo di 500 parole.

 

Esempio prompt RISE per creazione di presentazioni:

Ruolo: Sei un esperto di marketing.

Input: Prodotto: Nuovo modello di auto elettrica.

Passi: 1. Sottolinea le caratteristiche uniche. 2. Evidenzia i benefici per l’ambiente. 3. Crea una call to action convincente.

Esecuzione: Crea una presentazione di 10 slide.

 

ARC

Action → Result → Context

(Azione→Risultato→Contesto)

Il framework ARC è un approccio più semplice e diretto, adatto a compiti meno complessi. Definendo l’azione da eseguire, il risultato desiderato e il contesto, si ottiene una risposta rapida e concisa. Vantaggi: facile da utilizzare, adatto a task rapidi. Casi d’uso: traduzione di testi, riassunti, generazione di idee rapide.

Esempi di prompt ARC:

Esempio prompt ARC per traduzione testi:

Azione: Traduci la seguente frase in spagnolo.

Risultato: Ottieni una traduzione accurata e naturale.

Contesto: La frase è: “Mi piace molto leggere libri”.

 

Esempio prompt ARC per riassunto testi:

Azione: Riassumi il seguente articolo in 3 punti chiave.

Risultato: Ottieni un riassunto conciso e informativo.

Contesto: [Inserisci qui il link all’articolo]

 

BAB

Before → After → Bridge

(Prima→Dopo→Ponte)

Il framework BAB è utile per descrivere trasformazioni o cambiamenti desiderati. Aiutando l’LLM a visualizzare lo stato iniziale e quello finale, si stimola la generazione di soluzioni creative e innovative. Vantaggi: stimola la creatività, ideale per brainstorming e ideazione di nuovi prodotti o servizi. Casi d’uso: design thinking, sviluppo di concept, risoluzione di problemi.

Esempi di prompt BAB:

Esempio prompt BAB per Ideazione di prodotti:

Prima: Un’azienda di abbigliamento produce solo t-shirt basiche.

Dopo: L’azienda offre una linea di abbigliamento sostenibile e personalizzabile.

Ponte: Come può l’azienda raggiungere questo obiettivo?

 

Esempio prompt BAB per Risoluzione di problemi:

Prima: Un’azienda ha un alto tasso di abbandono dei carrelli.

Dopo: Il tasso di conversione aumenta del 20%.

Ponte: Quali strategie di marketing possono essere implementate per raggiungere questo obiettivo?

 

TAG

Task → Action → Goal

(Attività→Azione→Obiettivo)

Il framework TAG è particolarmente efficace per compiti che richiedono una pianificazione strategica. Definendo il task, le azioni necessarie e l’obiettivo finale, si guida l’LLM verso una soluzione ottimale. Vantaggi: promuove la pianificazione strategica, ideale per compiti che richiedono una visione d’insieme. Casi d’uso: sviluppo di campagne marketing, creazione di piani editoriali, ottimizzazione dei processi.

Esempi di prompt TAG:

Esempio prompt TAG per sviluppo di una campagna marketing:

Task: Aumentare le vendite di un nuovo prodotto tecnologico.

Azione: Creare una campagna di influencer marketing, sviluppare un sito web dedicato, lanciare una serie di webinar.

Goal: Raggiungere 10.000 nuove vendite entro la fine dell’anno.

Esempio prompt TAG per ottimizzazione di un sito web:

Task: Migliorare il posizionamento del sito web sui motori di ricerca.

Azione: Ottimizzare le parole chiave, migliorare la struttura dei contenuti, creare backlink.

Goal: Aumentare il traffico organico del 30% nei prossimi 6 mesi.

 

RTF

Role → Task → Format

(Ruolo→Attività→Formato)

Il framework RTF è ideale per ottenere output strutturati e coerenti con un formato specifico. Assegnando un ruolo all’LLM e definendo il task e il formato desiderato, si ottiene un risultato preciso e professionale. Vantaggi: garantisce coerenza e uniformità, adatto a compiti che richiedono un output formale. Casi d’uso: generazione di report, scrittura di email formali, creazione di contenuti per siti web.

Esempi di prompt RTF:

Esempi o prompt RTF per generazione di report:

Ruolo: Sei un analista finanziario.

Task: Crea un report finanziario annuale per un’azienda.

Formato: Utilizza  un formato standard di report finanziario, includendo grafici e tabelle.

Esempi o prompt RTF per scrittura creativa:

Ruolo: Sei uno scrittore di fantascienza.

Task: Scrivi una storia breve ambientata su Marte.

Formato: Utilizza uno stile narrativo avvincente e descrivi in dettaglio l’ambiente marziano.

Questi sono solo alcuni esempi per illustrare come utilizzare i diversi framework. La scelta del framework più adatto dipenderà dal compito specifico che si vuole svolgere e dalla complessità del problema. Sperimenta con diversi approcci per trovare quello che funziona meglio per te.

consulenza intelligenza artificiale

Tecniche di prompting per LLM

Prompt a catena di pensiero (CoT)

La tecnica del prompt a catena di pensiero (CoT, Chain of thoughts in inglese) consiste nel guidare l’LLM attraverso una serie di ragionamenti intermedi per arrivare alla risposta finale. Invece di fornire direttamente la domanda, si scompone il problema in una serie di passaggi logici, permettendo all’LLM di simulare un processo di pensiero umano.

Benefici:

Migliora la qualità delle risposte: la CoT permette all’LLM di fornire risposte più accurate e coerenti, soprattutto per compiti complessi che richiedono ragionamento.
Aumenta la trasparenza: Rendendo espliciti i passaggi intermedi, si facilita la comprensione del processo decisionale dell’LLM.
Favorisce la generalizzazione: La CoT aiuta l’LLM a generalizzare i concetti e ad applicare le conoscenze acquisite a nuovi contesti.

Casi d’uso:

Content marketing:

“Come posso creare un post accattivante sui social media per promuovere un nuovo prodotto eco-sostenibile?” (CoT: Identificare i benefici chiave del prodotto, scegliere i canali social più adatti, creare un messaggio emotivamente coinvolgente, utilizzare hashtag rilevanti).

Risoluzione di problemi:

“Come posso ridurre i costi di produzione della mia azienda?” (CoT: Analizzare i costi attuali, identificare le aree di miglioramento, valutare le possibili soluzioni, stimare i risparmi).

Generazione di report:

“Crea un report dettagliato sull’impatto ambientale della produzione di plastica.” (CoT: Definire gli indicatori chiave, raccogliere i dati pertinenti, analizzare i dati, presentare i risultati in modo chiaro e conciso).

 

Few-shot learning

Il few-shot learning è una tecnica che permette agli LLM di apprendere nuove task o concetti a partire da pochi esempi. Invece di essere addestrati su enormi dataset, gli LLM vengono forniti con un numero limitato di esempi rappresentativi.

Come funziona:

L’LLM analizza gli esempi forniti, cercando di individuare pattern e relazioni tra gli input e gli output. In seguito, è in grado di generalizzare queste informazioni per risolvere nuovi problemi simili.

Applicazioni nel marketing:

Personalizzazione dei contenuti:

“Dato che l’utente ha mostrato interesse per prodotti eco-sostenibili, suggeriscigli altri prodotti simili.” (Esempi: T-shirt in cotone organico, bottiglie d’acqua riutilizzabili, detersivi ecologici).

Classificazione di recensioni:

“Classifica le seguenti recensioni di un prodotto in positive, negative e neutre.” (Esempi di recensioni positive, negative e neutre).

Generazione di idee: “Genera 5 idee per una campagna di email marketing per promuovere un nuovo corso online.” (Esempi di soggetti di email di successo).

 

Zero-shot learning

Il zero-shot learning è una tecnica ancora più ambiziosa, che permette agli LLM di eseguire task che non hanno mai incontrato durante l’addestramento. In altre parole, l’LLM è in grado di generalizzare le sue conoscenze a nuovi domini e concetti senza alcun esempio specifico.

Differenze con il few-shot learning:

Mentre il few-shot learning richiede alcuni esempi per guidare l’apprendimento, lo zero-shot learning si basa esclusivamente sulle conoscenze generali acquisite durante l’addestramento.

Vantaggi e svantaggi:

Vantaggi: Grande flessibilità e adattabilità a nuovi compiti.
Svantaggi: Risultati meno precisi rispetto al few-shot learning e al fine-tuning.

Casi d’uso nel mondo delle PMI:

Traduzione di testi:

“Traduci la seguente frase in spagnolo: ‘Our company is committed to sustainability’.” (Senza aver mai visto esempi specifici di traduzioni in spagnolo).

Generazione di descrizioni di prodotti:

“Descrivi un nuovo tipo di smartphone pieghevole con un display OLED flessibile e una fotocamera a cinque lenti.”

Risposta a domande complesse:

“Spiega la teoria della relatività in modo semplice e comprensibile per un bambino di 10 anni.”

 

Meta Prompting

Il Meta Prompting è una tecnica di prompting avanzata che si concentra sugli aspetti strutturali e sintattici dei compiti e dei problemi piuttosto che sui dettagli specifici del contenuto. L’obiettivo del meta prompting è quello di costruire un modo di interazione più astratto e strutturato con i Large Language Models (LLM), enfatizzando la forma e il modello delle informazioni rispetto ai tradizionali metodi incentrati sul contenuto.

Caratteristiche principali

Secondo Zhang et al. (2024), le caratteristiche chiave del meta prompting possono essere riassunte come segue:

  1. Orientato alla struttura: Prioritizza il formato e il modello di problemi e soluzioni rispetto al contenuto specifico.
  2. Focalizzato sulla sintassi: Utilizza la sintassi come modello guida per la risposta o la soluzione attesa.
  3. Esempi astratti: Impiega esempi astratti come framework, illustrando la struttura di problemi e soluzioni senza concentrarsi su dettagli specifici.
  4. Versatile: Applicabile a vari domini, in grado di fornire risposte strutturate a una vasta gamma di problemi.
  5. Approccio categoriale: Si basa sulla teoria dei tipi per enfatizzare la categorizzazione e la disposizione logica dei componenti in un prompt.

Vantaggi rispetto al Few-Shot Prompting

Zhang et al., 2024 riportano che il meta prompting e il few-shot prompting differiscono in quanto il meta prompting si concentra su un approccio più orientato alla struttura rispetto a un approccio incentrato sul contenuto, che invece caratterizza il few-shot prompting.

Il seguente esempio, ottenuto da Zhang et al. (2024), dimostra la differenza tra un meta prompt strutturato e un prompt few-shot per la risoluzione di problemi dal benchmark MATH:

scrivere prompt, meta prompting

I vantaggi del Meta Prompting rispetto al few-shot prompting includono:

  1. Efficienza dei token: Riduce il numero di token necessari concentrandosi sulla struttura piuttosto che sul contenuto dettagliato.
  2. Confronto equo: Fornisce un approccio più equo per confrontare diversi modelli di risoluzione dei problemi minimizzando l’influenza di esempi specifici.
  3. Efficacia zero-shot: Può essere visto come una forma di prompting zero-shot, in cui l’influenza di esempi specifici è minima.

Applicazioni

Concentrandosi sui modelli strutturali della risoluzione dei problemi, il Meta Prompting offre una chiara roadmap per navigare argomenti complessi, migliorando le capacità di ragionamento degli LLM in vari domini.

È importante notare che il meta prompting presuppone anche che l’LLM abbia una conoscenza innata del compito o del problema specifico affrontato.

Le applicazioni in cui il meta prompting può essere vantaggioso includono, ma non sono limitate a, compiti di ragionamento complesso, risoluzione di problemi matematici, sfide di codifica, query teoriche.

 

Prompt Chaining: suddividere i compiti per migliorare i risultati

Una delle tecniche di prompt engineering più importanti per migliorare l’affidabilità e le prestazioni degli LLM consiste nel suddividere i compiti in sotto-compiti. Una volta identificati questi sotto-compiti, l’LLM viene istruito con un sotto-compito e la sua risposta viene utilizzata come input per un altro prompt. Questo è ciò che viene chiamato prompt chaining, dove un compito viene suddiviso in sotto-compiti con l’obiettivo di creare una catena di operazioni di prompt.

Il prompt chaining è utile per eseguire compiti complessi che un LLM potrebbe non essere in grado di affrontare se istruito con un prompt molto dettagliato. In questo approccio, i prompt della catena eseguono trasformazioni o processi aggiuntivi sulle risposte generate prima di raggiungere lo stato finale desiderato.

Oltre a migliorare le prestazioni, il prompt chaining aiuta a aumentare la trasparenza dell’applicazione LLM, migliorandone la controllabilità e l’affidabilità. Ciò significa che è possibile eseguire il debug dei problemi relativi alle risposte del modello in modo molto più semplice e analizzare e migliorare le prestazioni nelle diverse fasi che necessitano di miglioramenti.

Il prompt chaining è particolarmente utile nella creazione di assistenti conversazionali basati su LLM e nel miglioramento della personalizzazione e dell’esperienza utente delle applicazioni.

Casi d’uso del Prompt Chaining

Prompt Chaining per il Question Answering (QA) su documenti:

Il prompt chaining può essere utilizzato in diversi scenari che potrebbero coinvolgere diverse operazioni o trasformazioni. Ad esempio, un caso d’uso comune degli LLM prevede la risposta a domande su un ampio documento di testo. È utile progettare due prompt diversi: il primo responsabile dell’estrazione delle citazioni rilevanti per rispondere a una domanda e il secondo che utilizza come input le citazioni e il documento originale per rispondere a una data domanda. In altre parole, creerai due prompt diversi per eseguire il compito di rispondere a una domanda data in un documento.

Il primo prompt seguente estrae le citazioni rilevanti dal documento data la domanda. Si noti che per semplicità, abbiamo aggiunto un segnaposto per il documento {{document}}. Per testare il prompt, puoi copiare e incollare un articolo, ad esempio da Wikipedia, noi abbiamo usato il testo dell’articolo che stai leggendo, tradotto in inglese.

A causa del contesto più ampio utilizzato per questo task, stiamo utilizzando il modello gpt-4-1106-preview di OpenAI nel playground. Puoi utilizzare il prompt anche con altri LLM a lungo contesto come Claude.

Prompt 1:

Sei un assistente utile. Il tuo compito è aiutare a rispondere a una domanda data in un documento. Il primo passo consiste nell’estrarre le citazioni rilevanti dal documento, delimitate da ####. Si prega di restituire l’elenco delle citazioni delimitandolo con <quotes></quotes>. Rispondi con “Citazioni rilevanti non trovate!” se non sono state trovate citazioni rilevanti.

{{document}}

Lo screenshot seguente mostra l’intero prompt, inclusa la domanda che viene passata utilizzando il ruolo dell’utente.

come scrivere i prompt-chaining

 

Output di Prompt 1:

<quotes>

Chain-of-thought (CoT) prompting[27]
Generated knowledge prompting[37]
Least-to-most prompting[38]
Self-consistency decoding[39]
Complexity-based prompting[41]
Self-refine[42]
Tree-of-thought prompting[43]
Maieutic prompting[45]
Directional-stimulus prompting[46]
Textual inversion and embeddings[59]
Using gradient descent to search for prompts[61][62][63][64]
Prompt injection[65][66][67]

</quotes>

Le citazioni restituite nel primo prompt possono ora essere utilizzate come input per il secondo prompt seguente. Si noti che è possibile pulire le citazioni in modo più accurato, ad esempio rimuovendo la sezione in cui spieghiamo il passaggio che stiamo facendo eseguire al modello (ad esempio, [27]). Il secondo prompt prende le citazioni rilevanti estratte dal prompt 1 e prepara una risposta utile alla domanda data nel documento e alle citazioni estratte. Il secondo prompt può essere il seguente:

Prompt 2:

Dati una serie di citazioni rilevanti (delimitate da <quotes></quotes>) estratte da un documento e il documento originale (delimitato da ####), si prega di comporre una risposta alla domanda. Assicurarsi che la risposta sia accurata, abbia un tono amichevole e suoni utile.

####

{{document}}

####

<quotes>

Chain-of-thought (CoT) prompting[27]
Generated knowledge prompting[37]
Least-to-most prompting[38]
Self-consistency decoding[39]
Complexity-based prompting[41]
Self-refine[42]
Tree-of-thought prompting[43]
Maieutic prompting[45]
Directional-stimulus prompting[46]
Textual inversion and embeddings[59]
Using gradient descent to search for prompts[61][62][63][64]
Prompt injection[65][66][67]

</quotes>

Output di Prompt 2:

Le tecniche di prompting menzionate nel documento includono:

Chain-of-thought (CoT) prompting[27]
Generated knowledge prompting[37]
Least-to-most prompting[38]
Self-consistency decoding[39]
Complexity-based prompting[41]
Self-refine[42]
Tree-of-thought prompting[43]
Maieutic prompting[45]
Directional-stimulus prompting[46]
Textual inversion and embeddings[59]
Using gradient descent to search for prompts[61][62][63][64]
Prompt injection[65][66][67]

Ognuna di queste tecniche utilizza strategie uniche per migliorare o specificare le interazioni con i modelli linguistici di grandi dimensioni per produrre i risultati desiderati.

 

Come scrivere AI prompt

 

Fine-tuning dei modelli

Che cos’è il Fine-Tuning dei modelli LLM?

Si tratta del processo di perfezionamento di un modello pre-addestrato attraverso dei dataset specifici per migliorare le sue prestazioni su un compito particolare.

I vantaggi di un modello fine-tuned sono la personalizzazione del modello, l’aumento della precisione, un migliore adattamento ai casi d’uso specifici che ci prefiggiamo di ottimizzare tramite il modello in questione. Ad esempio,  la creazione di chatbot altamente specializzati, la generazione di contenuti personalizzati, lo sviluppo di strumenti di analisi del sentiment etc.

In questo articolo non affronteremo nel dettaglio questo aspetto del prompt-engineering, per chi volesse, OpenAI mette a disposizione un ambiente di fine-tuning per i suoi ultimi modelli, GPT-4o e GPT-4o mini. Questa nuova funzionalità consente agli sviluppatori di personalizzare i modelli GPT-4o per casi d’uso specifici, migliorandone le prestazioni e adattandone gli output.

Al momento in cui scriviamo, il costo per il fine-tuning di GPT-4o è di $25 per milione di token per l’addestramento e di $3,75 per milione di token di input e $15 per milione di token di output per inferenza. Questa funzionalità è disponibile esclusivamente per gli sviluppatori con un piano a pagamento.

 

Strumenti e risorse per l’ingegneria dei prompt

Per chi volesse approfondire tematiche e pratiche del prompt engineering, o avesse necessità più complesse, di seguito una lista di risorse disponibili online

Domande?

Lascia un commento

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *

Altre cose utili per il tuo marketing Online

Vuoi inserire l'AI nei tuoi processi aziendali?

Prenota un'ora di consulenza gratuita