Nell’era dell’intelligenza artificiale, i chatbot hanno acquisito un ruolo sempre più importante nell’interazione tra esseri umani e macchine. Tuttavia, c’è un aspetto spesso trascurato che limita le capacità di questi assistenti virtuali: la memoria. Sebbene i modelli di intelligenza artificiale che alimentano i chatbot siano addestrati su terabyte di testo, la quantità di informazioni che possono elaborare in uso è limitata da ciò che viene definito “finestra di contesto”.

Per esempio, nel caso di ChatGPT, uno dei modelli di intelligenza artificiale sviluppati da OpenAI, la finestra di contesto può contenere circa 3.000 parole. Questo significa che il chatbot ha una visione ristretta della conversazione corrente e di ciò che è stato detto in precedenza. Nonostante ci siano metodi per superare questa limitazione, la quantità di informazioni disponibili è ancora relativamente limitata.

Tuttavia, l’AI startup Anthropic, fondata da ex ingegneri di OpenAI, ha compiuto un grande passo avanti nell’evoluzione dei chatbot con il suo assistente virtuale chiamato Claude. Anthropic ha ampliato in modo significativo la finestra di contesto di Claude, portandola a 100.000 token, un notevole miglioramento rispetto ai 9.000 token precedenti. I token rappresentano unità semantiche utilizzate per misurare le informazioni nei modelli di intelligenza artificiale e non corrispondono direttamente al numero di caratteri o parole.

Grazie a questa espansione della memoria, Claude è in grado di elaborare una quantità molto maggiore di testo, equivalente a circa 75.000 parole. Per mettere alla prova le nuove capacità del chatbot, Anthropic ha testato il sistema chiedendo a Claude di individuare una singola modifica in un intero romanzo, come “Il grande Gatsby”, completando l’operazione in soli 22 secondi.

Questa innovazione apre nuove possibilità nell’interazione tra chatbot e utenti. Claude può ora leggere, riassumere ed analizzare documenti lunghi in pochi minuti, un compito che richiederebbe solitamente a un essere umano circa cinque ore. Tuttavia, è importante sottolineare che i chatbot, anche con una maggiore memoria, possono ancora generare informazioni inaccurate o inventate.

Un’ulteriore conseguenza dell’aumento della memoria dei chatbot è la possibilità di sostenere conversazioni più lunghe e coerenti. Uno dei motivi per cui i chatbot possono perdere il filo della conversazione è che, una volta che la finestra di contesto si riempie, dimenticano ciò che è stato detto in precedenza.

Nell’ambito dei chatbot, l’espansione della memoria rappresenta un importante passo avanti per superare le limitazioni attuali e migliorare l’interazione con gli utenti. Anthropic, con il suo chatbot Claude, ha dimostrato di essere all’avanguardia in questo ambito, aumentando la capacità della finestra di contesto a 100.000 token.

Questo significa che Claude può ora elaborare una quantità significativamente maggiore di testo, consentendo di leggere, comprendere, riassumere e analizzare documenti complessi in pochi minuti anziché ore. L’AI language model di Claude è stato sottoposto a test approfonditi, compreso l’esame di interi romanzi come “Il grande Gatsby” in tempi estremamente ridotti.

L’aumento della memoria dei chatbot apre nuove possibilità per sfruttare appieno il potenziale dell’intelligenza artificiale. I chatbot possono ora sostenere conversazioni più lunghe e mantenere una maggiore coerenza nel contesto delle interazioni. Questo migliora l’esperienza dell’utente e consente ai chatbot di fornire risposte più precise e dettagliate.

Tuttavia, è importante sottolineare che, nonostante l’aumento della memoria, i chatbot non sono esenti da errori. La generazione di informazioni inesatte o inventate rimane una sfida significativa nell’ambito dei chatbot basati sull’IA. Gli sviluppatori e gli utenti devono essere consapevoli di questo aspetto e fare attenzione nell’interpretare e utilizzare le risposte fornite dai chatbot.

per ovviare a questo problema un prompt utile è: attieniti solo a fonti certe, senza inventare nulla. In caso di dubbi chiedi a me.

In questo modo è più probabile che la veridicità delle fonti sia esatta.