Few-shot prompting: guidare l'IA con gli esempi
Due o tre esempi ben scelti sostituiscono un lungo paragrafo di istruzioni. Come selezionarli, presentarli ed evitare la copia pedissequa.
Prendi un ristoratore che vuole smistare le recensioni dei clienti per capire che cosa ricorre più spesso. Incolla una recensione e chiede:
Classifica questa recensione per tema.
La risposta può essere giusta e inutilizzabile. Sulla prima recensione l'IA scrive una frase intera. Sulla seconda risponde «Esperienza contrastante». Sulla terza inventa una categoria in più. Dopo venti recensioni è impossibile contare qualsiasi cosa.
Potrebbe aggiungere regole di formato, e aiuterebbe. Può anche fare più in breve: mostrare due o tre recensioni già classificate come le vuole. Questo è il few-shot prompting, cioè guidare il modello con qualche esempio invece di descrivere tutto. Senza esempi si parla di zero-shot, con uno solo di one-shot.
Ciò che gli esempi dicono meglio delle istruzioni
Un'istruzione descrive ciò che vuoi con le parole, e le parole lasciano gioco. «Tono professionale ma caloroso» copre decine di modi di scrivere. Un esempio decide in un colpo solo lunghezza, punteggiatura, livello di dettaglio e che cosa lasciare fuori, comprese cose che non avresti pensato di specificare.
È particolarmente redditizio in tre situazioni:
- la classificazione, quando le categorie devono restare stabili da un passaggio all'altro;
- la trasformazione ripetuta di un testo in una forma precisa, come appunti in verbale;
- il tono, perché è più facile da mostrare che da spiegare.
Per una domanda aperta, come trovare idee di nome per un'azienda, gli esempi possono invece ingabbiare il modello: produrrà varianti di ciò che gli hai mostrato. In quel caso tieni gli esempi per la fine, quando vorrai affinare una pista.
Lo stesso smistamento di recensioni, con tre esempi
Ecco la versione corretta del prompt del ristoratore. Le categorie sono chiuse, il formato è mostrato invece che descritto, e l'ultimo esempio risolve un caso ambiguo.
Classifichi recensioni di clienti di un ristorante per una tabella di monitoraggio. Temi consentiti: cucina, servizio, attesa, prezzo, ambiente, altro. Sentiment consentito: positivo, negativo, contrastante. Rispondi solo con una riga in questo formato: tema | sentiment | riassunto in meno di 8 parole. Se la recensione tocca più temi, tieni quello che ha pesato di più nel giudizio del cliente. Esempi: Recensione: «Il petto d'anatra era perfetto, cottura impeccabile.» Risposta: cucina | positivo | petto d'anatra cotto alla perfezione Recensione: «Conto salato per porzioni così.» Risposta: prezzo | negativo | porzioni troppo piccole per il prezzo Recensione: «Piatto ottimo, ma 40 minuti per essere serviti un martedì a pranzo, non torneremo.» Risposta: attesa | negativo | 40 minuti di attesa, non tornerà Recensione da classificare: [INCOLLA QUI LA RECENSIONE]
Il terzo esempio fa la parte più grossa del lavoro. Contiene un pregio e un difetto, e la risposta mostra come decidere: il cliente non torna a causa dell'attesa, quindi il tema è l'attesa. Una regola da sola avrebbe lasciato più spazio all'interpretazione, e l'esempio la rende concreta.
Scegliere esempi che coprano i casi difficili
Il riflesso comune è prendere gli esempi più netti, quelli che l'IA avrebbe azzeccato anche senza aiuto. Servono per il formato, ma non le insegnano nulla sul modo di decidere.
Una selezione efficace si riassume in tre idee:
- un caso tipico, per fissare il formato;
- un caso limite, quello su cui hai esitato tu stesso;
- varietà: se tutti i tuoi esempi sono positivi, o tutti brevi, il modello può pendere in quella direzione.
Il modo più semplice per trovare il caso limite è far girare il tuo prompt senza esempi su una decina di casi reali, poi individuare dove sbaglia. Ogni errore corretto diventa un candidato. È un modo di testare un prompt che nel frattempo lo migliora.
Quanti esempi, e in quale forma
Non esiste un numero magico. Da due a cinque esempi bastano per molti compiti quotidiani. Se i risultati restano instabili con cinque, il problema viene spesso dalle tue categorie, troppo vicine tra loro, più che da una mancanza di esempi.
Per la presentazione contano tre dettagli:
- Mantieni esattamente la stessa struttura in ogni esempio. L'IA riproduce gli schemi, comprese le tue etichette (
Recensione:,Risposta:) e le tue irregolarità. - Separa chiaramente gli esempi dal caso da trattare, con una dicitura come «Recensione da classificare» o con dei tag. Senza, il modello può trattare un esempio come una richiesta.
- Fai attenzione all'ordine. L'ultimo esempio può pesare di più: mettici piuttosto un caso sfumato che un caso estremo.
Se vuoi un output molto rigoroso, combina gli esempi con le tecniche per imporre un formato di output.
Quando l'IA copia i tuoi esempi
Il principale difetto del metodo emerge appena chiedi un testo elaborato: l'IA riprende le tue espressioni, la struttura delle tue frasi, a volte un dettaglio di sostanza che non c'entra niente. Un'insegnante che fornisce un esempio con «deve partecipare di più all'orale» rischia di ritrovare la formula in metà dei giudizi, compresi quelli di alunni che parlano benissimo.
Due contromisure: variare nettamente gli esempi tra loro e dire esplicitamente a che cosa servono. Questo prompt applica entrambe, con alunni anonimizzati (non incollare dati nominativi di alunni in uno strumento senza sapere che cosa consente il tuo istituto).
Aiuti un'insegnante di scuola media a scrivere i giudizi della pagella a partire dai suoi appunti veloci. Gli esempi qui sotto mostrano la lunghezza (2 frasi), il tono (diretto, benevolo, senza formule vuote) e la struttura (una constatazione precisa, poi un consiglio applicabile). Non riutilizzare le loro formulazioni: ogni giudizio deve basarsi solo sugli appunti forniti. Appunti: buon livello, consegne irregolari, dimentica i compiti da novembre Giudizio: I risultati sono solidi quando il lavoro è svolto, ma le dimenticanze ripetute da novembre pesano sulla media. Un diario compilato ogni sera basterebbe a risolvere il problema. Appunti: timido, grandi progressi nella scrittura, non osa chiedere aiuto Giudizio: I progressi nella scrittura sono netti e premiano un lavoro serio. Ora bisogna osare fare le proprie domande in classe: aiuteranno tutti. Appunti da trattare per l'alunno [INIZIALE]: [I TUOI APPUNTI VELOCI] Se gli appunti sono troppo scarni per scrivere due frasi precise, dillo invece di completare.
Senza l'ultima riga, il modello può colmare i vuoti con banalità plausibili. Rileggi comunque ogni output, perché può interpretare male un appunto. Quando l'obiettivo è riprodurre una voce nel tempo, un esempio non basta più e bisogna costruire una scheda: è il tema dell'articolo per far scrivere l'IA nel tuo stile.
Il tuo primo esempio esiste già
Ritrova l'ultimo risultato dell'IA che hai corretto a mano prima di usarlo. La versione corretta, insieme al testo di partenza, forma una coppia di esempio pronta all'uso. Aggiungila al prompt, rilancia su un nuovo caso e guarda se hai ancora bisogno di fare la stessa correzione.