LoRA: cronologia delle modifiche

Confronto tra versioni: selezionare le caselle corrispondenti alle versioni desiderate e premere Invio o il pulsante in basso.

Legenda: (corr) = differenze con la versione attuale, (prec) = differenze con la versione precedente, m = modifica minore

17 ago 2024

16 ago 2024

15 lug 2024

  • corrprec 14:0014:00, 15 lug 2024Alesaccoia discussione contributi 1 863 byte +1 863 Creata pagina con "LoRA, acronimo di "Low Rank Adaptation", è un metodo di fine tuning per modelli di grandi dimensioni che diminuisce drasticamente il numero di parametri da addestrare. '''QLoRA''' è un metodo che combina quantizzazione e LoRa, permettendo di utilizzare delle GPU piccole per fare fine-tuning su modelli di dimensioni enormi (miliardi di parametri). === Il rango delle matrici === Il rango di una matrice rappresenta il numero di colonne linearmente indipendenti:..." Etichetta: Modifica visuale