Emergent Abilities of Large Language Models
Emergent Abilities of Large Language Models | |
---|---|
Data | 2023 |
Autori | Jason Wei, Yi Tay, Rishi Bommasani, Colin Raffel, Barret Zoph, Sebastian Borgeaud, Dani Yogatama, Maarten Bosma, Denny Zhou, Donald Metzler, Ed H. Chi, Tatsunori Hashimoto, O. Vinyals, P. Liang, J. Dean, W. Fedus |
URL | https://www.semanticscholar.org/paper/dac3a172b504f4e33c029655e9befb3386e5f63a |
Topic | Large Language Models |
Citazioni | 1936 |
Questo articolo discute le capacità emergenti dei modelli linguistici di grandi dimensioni. Un'abilità è considerata emergente se non è presente in modelli più piccoli ma è presente in modelli più grandi. Pertanto, le capacità emergenti non possono essere previste semplicemente estrapolando le prestazioni di modelli più piccoli. L'esistenza di tale emergenza implica che un ulteriore aumento di scala potrebbe espandere ulteriormente la gamma di capacità dei modelli linguistici.