Povertà dello stimolo (Linguistica)

L'espressione "Povertà dello stimolo" viene utilizzata per sottolineare che, nonostante il fatto che durante l'addestramento il modello possa aver visto molte abilità individuali, il numero di possibili combinazioni di queste abilità è così vasto che è improbabile che tutte siano state presenti nei dati di addestramento. Questo significa che se il modello dimostra competenza anche solo in una piccola percentuale delle possibili combinazioni, allora deve aver sviluppato in qualche modo la capacità di affrontare anche combinazioni che non ha mai visto prima durante l'addestramento.

Alcuni compiti sembrano troppo complessi perché il modello possa averli imparati solo dagli esempi nel dataset di addestramento. Ad esempio, se il modello riesce a svolgere compiti che coinvolgono la combinazione di molte abilità diverse, potrebbe essere difficile capire come abbia imparato queste combinazioni solo guardando gli esempi nel dataset di addestramento. Questo è simile al concetto di "povertà dello stimolo" in linguistica, dove si discute come i bambini possano imparare la complessità del linguaggio con così pochi esempi. In sostanza, ciò solleva la domanda su come il modello possa aver acquisito queste abilità complesse senza averle viste esplicitamente nel dataset di addestramento.