Nicu
un nano modello AI
Un'AI addestrata da zero, con un carattere suo: un catanese un po' tonto. È così piccola che può girare anche nel tuo browser.
Perché l'ho fatto
Ho costruito Nicu perché in italiano non c'era niente come TinyStories, la ricerca di Microsoft su modelli minuscoli che imparano a scrivere storie sensate. L'ho fatto da zero, piccolo e tutto italiano. Strada facendo è nata un'idea: un personaggio che non si inventa le cose. Quando non sa, non sa, e parla di sé.
Cosa si impara
Con poco hardware e costi molto bassi si attraversa, in piccolo, tutto il percorso di un modello vero. Prima di tutto si scrivono e si ripuliscono i dialoghi da cui impara; poi il vocabolario, la forma della rete, l'addestramento e la rifinitura sulle risposte migliori. Non tutto vale uno a uno per i modelli grandi, ma è una prima base, e i risultati sorprendono.
In numeri
- di parametri
- 20,6 milioni
- tutto il modello, in un file
- 24 MB
- dialoghi da cui ha imparato a parlare
- 929.500
Dove sta andando
Nicu 1.2 è su nicu.chat: si apre e ci si parla, senza installare niente.
- Nuove versioni con nuovi addestramenti e più dialoghi nel dataset, per risposte migliori.
- Modelli un po' più grandi, ma sempre nano.
- Varianti: personaggi con caratteri diversi.
