https://wiki.mindmaker.it/index.php?action=history&feed=atom&title=Language_Models_are_Few-Shot_Learners 2026-05-01T10:47:15Z Cronologia della pagina su questo sito MediaWiki 1.41.0 https://wiki.mindmaker.it/index.php?title=Language_Models_are_Few-Shot_Learners&diff=2950&oldid=prev 2024-08-19T13:09:11Z

<p>Alesaccoia ha spostato la pagina <a href="/index.php/Language_Models_are_Few-Shot_Learners_(2020)" class="mw-redirect" title="Language Models are Few-Shot Learners (2020)">Language Models are Few-Shot Learners (2020)</a> a <a href="/index.php/Language_Models_are_Few-Shot_Learners" title="Language Models are Few-Shot Learners">Language Models are Few-Shot Learners</a></p> <table style="background-color: #fff; color: #202122;" data-mw="interface"> <tr class="diff-title" lang="it"> <td colspan="1" style="background-color: #fff; color: #202122; text-align: center;">← Versione meno recente</td> <td colspan="1" style="background-color: #fff; color: #202122; text-align: center;">Versione delle 13:09, 19 ago 2024</td> </tr><tr><td colspan="2" class="diff-notice" lang="it"><div class="mw-diff-empty">(Nessuna differenza)</div> </td></tr></table>

Alesaccoia https://wiki.mindmaker.it/index.php?title=Language_Models_are_Few-Shot_Learners&diff=2531&oldid=prev 2024-08-17T10:51:09Z

<p></p> <table style="background-color: #fff; color: #202122;" data-mw="interface"> <col class="diff-marker" /> <col class="diff-content" /> <col class="diff-marker" /> <col class="diff-content" /> <tr class="diff-title" lang="it"> <td colspan="2" style="background-color: #fff; color: #202122; text-align: center;">← Versione meno recente</td> <td colspan="2" style="background-color: #fff; color: #202122; text-align: center;">Versione delle 10:51, 17 ago 2024</td> </tr><tr><td colspan="2" class="diff-lineno" id="mw-diff-left-l1">Riga 1:</td> <td colspan="2" class="diff-lineno">Riga 1:</td></tr> <tr><td colspan="2" class="diff-side-deleted"></td><td class="diff-marker" data-marker="+"></td><td style="color: #202122; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #a3d3ff; vertical-align: top; white-space: pre-wrap;"><div><ins style="font-weight: bold; text-decoration: none;">{{template pubblicazione</ins></div></td></tr> <tr><td colspan="2" class="diff-side-deleted"></td><td class="diff-marker" data-marker="+"></td><td style="color: #202122; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #a3d3ff; vertical-align: top; white-space: pre-wrap;"><div><ins style="font-weight: bold; text-decoration: none;">|data=2020-07-22</ins></div></td></tr> <tr><td colspan="2" class="diff-side-deleted"></td><td class="diff-marker" data-marker="+"></td><td style="color: #202122; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #a3d3ff; vertical-align: top; white-space: pre-wrap;"><div><ins style="font-weight: bold; text-decoration: none;">|autori=Tom B. Brown, Benjamin Mann, Nick Ryder, Melanie Subbiah, Jared Kaplan, Prafulla Dhariwal, Arvind Neelakantan, Pranav Shyam, Girish Sastry, Amanda Askell, Sandhini Agarwal, Ariel Herbert-Voss, Gretchen Krueger, Tom Henighan, Rewon Child, Aditya Ramesh, Daniel M. Ziegler, Jeff Wu, Clemens Winter, Christopher Hesse, Mark Chen, Eric Sigler, Mateusz Litwin, Scott Gray, Benjamin Chess, Jack Clark, Christopher Berner, Sam McCandlish, Alec Radford, Ilya Sutskever, Dario Amodei</ins></div></td></tr> <tr><td colspan="2" class="diff-side-deleted"></td><td class="diff-marker" data-marker="+"></td><td style="color: #202122; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #a3d3ff; vertical-align: top; white-space: pre-wrap;"><div><ins style="font-weight: bold; text-decoration: none;">|URL=https://www.semanticscholar.org/paper/90abbc2cf38462b954ae1b772fac9532e2ccd8b0</ins></div></td></tr> <tr><td colspan="2" class="diff-side-deleted"></td><td class="diff-marker" data-marker="+"></td><td style="color: #202122; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #a3d3ff; vertical-align: top; white-space: pre-wrap;"><div><ins style="font-weight: bold; text-decoration: none;">|topic=Modelli Linguistici, Few-Shot Learning</ins></div></td></tr> <tr><td colspan="2" class="diff-side-deleted"></td><td class="diff-marker" data-marker="+"></td><td style="color: #202122; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #a3d3ff; vertical-align: top; white-space: pre-wrap;"><div><ins style="font-weight: bold; text-decoration: none;">|citazioni=29330</ins></div></td></tr> <tr><td colspan="2" class="diff-side-deleted"></td><td class="diff-marker" data-marker="+"></td><td style="color: #202122; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #a3d3ff; vertical-align: top; white-space: pre-wrap;"><div><ins style="font-weight: bold; text-decoration: none;">}}</ins></div></td></tr> <tr><td colspan="2" class="diff-side-deleted"></td><td class="diff-marker" data-marker="+"></td><td style="color: #202122; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #a3d3ff; vertical-align: top; white-space: pre-wrap;"><div><ins style="font-weight: bold; text-decoration: none;"></ins></div></td></tr> <tr><td class="diff-marker"></td><td style="background-color: #f8f9fa; color: #202122; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #eaecf0; vertical-align: top; white-space: pre-wrap;"><div>Il paper, pubblicato il 22 luglio 2020 da [[OpenAI]], discute delle capacità di apprendimento [[few-shot learning]] dei modelli di linguaggio, in particolare di GPT-3, [[modello autoregressivo]] da 175 miliardi di parametri.</div></td><td class="diff-marker"></td><td style="background-color: #f8f9fa; color: #202122; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #eaecf0; vertical-align: top; white-space: pre-wrap;"><div>Il paper, pubblicato il 22 luglio 2020 da [[OpenAI]], discute delle capacità di apprendimento [[few-shot learning]] dei modelli di linguaggio, in particolare di GPT-3, [[modello autoregressivo]] da 175 miliardi di parametri.</div></td></tr> <tr><td class="diff-marker"></td><td style="background-color: #f8f9fa; color: #202122; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #eaecf0; vertical-align: top; white-space: pre-wrap;"><br></td><td class="diff-marker"></td><td style="background-color: #f8f9fa; color: #202122; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #eaecf0; vertical-align: top; white-space: pre-wrap;"><br></td></tr> <tr><td colspan="2" class="diff-lineno" id="mw-diff-left-l4">Riga 4:</td> <td colspan="2" class="diff-lineno">Riga 12:</td></tr> <tr><td class="diff-marker"></td><td style="background-color: #f8f9fa; color: #202122; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #eaecf0; vertical-align: top; white-space: pre-wrap;"><br></td><td class="diff-marker"></td><td style="background-color: #f8f9fa; color: #202122; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #eaecf0; vertical-align: top; white-space: pre-wrap;"><br></td></tr> <tr><td class="diff-marker"></td><td style="background-color: #f8f9fa; color: #202122; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #eaecf0; vertical-align: top; white-space: pre-wrap;"><div>Viene osservato che esistono tantissimi possibili task, dalla correzione della grammatica, alla generazione di dataset sintetici, alla recensione di romanzi brevi. Per molti di essi è difficile se non impossibile ottenere dei dataset annotati. Viene anche evidenziato che all&#039;aumentare della dimensione dei modelli, il fine tuning su task molto specifici ha delle proprietá statistiche non desiderabili, portando a una mancata generalizzazione. In più, gli umani spesso hanno bisogno solo di poche indicazioni per imparare la maggior parte dei task linguistici (&quot;please tell me if this sentence describes something happy or something sad&quot;), o al massimo di qualche esempio (&quot;here are two examples of people acting brave; please give a third example of bravery&quot;).</div></td><td class="diff-marker"></td><td style="background-color: #f8f9fa; color: #202122; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #eaecf0; vertical-align: top; white-space: pre-wrap;"><div>Viene osservato che esistono tantissimi possibili task, dalla correzione della grammatica, alla generazione di dataset sintetici, alla recensione di romanzi brevi. Per molti di essi è difficile se non impossibile ottenere dei dataset annotati. Viene anche evidenziato che all&#039;aumentare della dimensione dei modelli, il fine tuning su task molto specifici ha delle proprietá statistiche non desiderabili, portando a una mancata generalizzazione. In più, gli umani spesso hanno bisogno solo di poche indicazioni per imparare la maggior parte dei task linguistici (&quot;please tell me if this sentence describes something happy or something sad&quot;), o al massimo di qualche esempio (&quot;here are two examples of people acting brave; please give a third example of bravery&quot;).</div></td></tr> <tr><td class="diff-marker" data-marker="−"></td><td style="color: #202122; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #ffe49c; vertical-align: top; white-space: pre-wrap;"><div><del style="font-weight: bold; text-decoration: none;"></del></div></td><td colspan="2" class="diff-side-added"></td></tr> <tr><td class="diff-marker" data-marker="−"></td><td style="color: #202122; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #ffe49c; vertical-align: top; white-space: pre-wrap;"><div><del style="font-weight: bold; text-decoration: none;">[[Category:Pubblicazione]]</del></div></td><td colspan="2" class="diff-side-added"></td></tr> </table>

Mindmakerbot https://wiki.mindmaker.it/index.php?title=Language_Models_are_Few-Shot_Learners&diff=1192&oldid=prev 2024-03-14T16:28:03Z

<p></p> <table style="background-color: #fff; color: #202122;" data-mw="interface"> <col class="diff-marker" /> <col class="diff-content" /> <col class="diff-marker" /> <col class="diff-content" /> <tr class="diff-title" lang="it"> <td colspan="2" style="background-color: #fff; color: #202122; text-align: center;">← Versione meno recente</td> <td colspan="2" style="background-color: #fff; color: #202122; text-align: center;">Versione delle 16:28, 14 mar 2024</td> </tr><tr><td colspan="2" class="diff-lineno" id="mw-diff-left-l5">Riga 5:</td> <td colspan="2" class="diff-lineno">Riga 5:</td></tr> <tr><td class="diff-marker"></td><td style="background-color: #f8f9fa; color: #202122; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #eaecf0; vertical-align: top; white-space: pre-wrap;"><div>Viene osservato che esistono tantissimi possibili task, dalla correzione della grammatica, alla generazione di dataset sintetici, alla recensione di romanzi brevi. Per molti di essi è difficile se non impossibile ottenere dei dataset annotati. Viene anche evidenziato che all&#039;aumentare della dimensione dei modelli, il fine tuning su task molto specifici ha delle proprietá statistiche non desiderabili, portando a una mancata generalizzazione. In più, gli umani spesso hanno bisogno solo di poche indicazioni per imparare la maggior parte dei task linguistici (&quot;please tell me if this sentence describes something happy or something sad&quot;), o al massimo di qualche esempio (&quot;here are two examples of people acting brave; please give a third example of bravery&quot;).</div></td><td class="diff-marker"></td><td style="background-color: #f8f9fa; color: #202122; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #eaecf0; vertical-align: top; white-space: pre-wrap;"><div>Viene osservato che esistono tantissimi possibili task, dalla correzione della grammatica, alla generazione di dataset sintetici, alla recensione di romanzi brevi. Per molti di essi è difficile se non impossibile ottenere dei dataset annotati. Viene anche evidenziato che all&#039;aumentare della dimensione dei modelli, il fine tuning su task molto specifici ha delle proprietá statistiche non desiderabili, portando a una mancata generalizzazione. In più, gli umani spesso hanno bisogno solo di poche indicazioni per imparare la maggior parte dei task linguistici (&quot;please tell me if this sentence describes something happy or something sad&quot;), o al massimo di qualche esempio (&quot;here are two examples of people acting brave; please give a third example of bravery&quot;).</div></td></tr> <tr><td class="diff-marker"></td><td style="background-color: #f8f9fa; color: #202122; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #eaecf0; vertical-align: top; white-space: pre-wrap;"><br></td><td class="diff-marker"></td><td style="background-color: #f8f9fa; color: #202122; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #eaecf0; vertical-align: top; white-space: pre-wrap;"><br></td></tr> <tr><td class="diff-marker" data-marker="−"></td><td style="color: #202122; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #ffe49c; vertical-align: top; white-space: pre-wrap;"><div>[[Category:<del style="font-weight: bold; text-decoration: none;">Pubblicazioni</del>]]</div></td><td class="diff-marker" data-marker="+"></td><td style="color: #202122; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #a3d3ff; vertical-align: top; white-space: pre-wrap;"><div>[[Category:<ins style="font-weight: bold; text-decoration: none;">Pubblicazione</ins>]]</div></td></tr> </table>

Michela https://wiki.mindmaker.it/index.php?title=Language_Models_are_Few-Shot_Learners&diff=1191&oldid=prev 2024-03-14T16:27:49Z

<p></p> <table style="background-color: #fff; color: #202122;" data-mw="interface"> <col class="diff-marker" /> <col class="diff-content" /> <col class="diff-marker" /> <col class="diff-content" /> <tr class="diff-title" lang="it"> <td colspan="2" style="background-color: #fff; color: #202122; text-align: center;">← Versione meno recente</td> <td colspan="2" style="background-color: #fff; color: #202122; text-align: center;">Versione delle 16:27, 14 mar 2024</td> </tr><tr><td colspan="2" class="diff-lineno" id="mw-diff-left-l5">Riga 5:</td> <td colspan="2" class="diff-lineno">Riga 5:</td></tr> <tr><td class="diff-marker"></td><td style="background-color: #f8f9fa; color: #202122; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #eaecf0; vertical-align: top; white-space: pre-wrap;"><div>Viene osservato che esistono tantissimi possibili task, dalla correzione della grammatica, alla generazione di dataset sintetici, alla recensione di romanzi brevi. Per molti di essi è difficile se non impossibile ottenere dei dataset annotati. Viene anche evidenziato che all&#039;aumentare della dimensione dei modelli, il fine tuning su task molto specifici ha delle proprietá statistiche non desiderabili, portando a una mancata generalizzazione. In più, gli umani spesso hanno bisogno solo di poche indicazioni per imparare la maggior parte dei task linguistici (&quot;please tell me if this sentence describes something happy or something sad&quot;), o al massimo di qualche esempio (&quot;here are two examples of people acting brave; please give a third example of bravery&quot;).</div></td><td class="diff-marker"></td><td style="background-color: #f8f9fa; color: #202122; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #eaecf0; vertical-align: top; white-space: pre-wrap;"><div>Viene osservato che esistono tantissimi possibili task, dalla correzione della grammatica, alla generazione di dataset sintetici, alla recensione di romanzi brevi. Per molti di essi è difficile se non impossibile ottenere dei dataset annotati. Viene anche evidenziato che all&#039;aumentare della dimensione dei modelli, il fine tuning su task molto specifici ha delle proprietá statistiche non desiderabili, portando a una mancata generalizzazione. In più, gli umani spesso hanno bisogno solo di poche indicazioni per imparare la maggior parte dei task linguistici (&quot;please tell me if this sentence describes something happy or something sad&quot;), o al massimo di qualche esempio (&quot;here are two examples of people acting brave; please give a third example of bravery&quot;).</div></td></tr> <tr><td class="diff-marker"></td><td style="background-color: #f8f9fa; color: #202122; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #eaecf0; vertical-align: top; white-space: pre-wrap;"><br></td><td class="diff-marker"></td><td style="background-color: #f8f9fa; color: #202122; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #eaecf0; vertical-align: top; white-space: pre-wrap;"><br></td></tr> <tr><td class="diff-marker" data-marker="−"></td><td style="color: #202122; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #ffe49c; vertical-align: top; white-space: pre-wrap;"><div>[[Category:<del style="font-weight: bold; text-decoration: none;">paper</del>]]</div></td><td class="diff-marker" data-marker="+"></td><td style="color: #202122; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #a3d3ff; vertical-align: top; white-space: pre-wrap;"><div>[[Category:<ins style="font-weight: bold; text-decoration: none;">Pubblicazioni</ins>]]</div></td></tr> </table>

Michela https://wiki.mindmaker.it/index.php?title=Language_Models_are_Few-Shot_Learners&diff=705&oldid=prev 2024-03-08T10:16:28Z

<p></p> <table style="background-color: #fff; color: #202122;" data-mw="interface"> <col class="diff-marker" /> <col class="diff-content" /> <col class="diff-marker" /> <col class="diff-content" /> <tr class="diff-title" lang="it"> <td colspan="2" style="background-color: #fff; color: #202122; text-align: center;">← Versione meno recente</td> <td colspan="2" style="background-color: #fff; color: #202122; text-align: center;">Versione delle 10:16, 8 mar 2024</td> </tr><tr><td colspan="2" class="diff-lineno" id="mw-diff-left-l5">Riga 5:</td> <td colspan="2" class="diff-lineno">Riga 5:</td></tr> <tr><td class="diff-marker"></td><td style="background-color: #f8f9fa; color: #202122; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #eaecf0; vertical-align: top; white-space: pre-wrap;"><div>Viene osservato che esistono tantissimi possibili task, dalla correzione della grammatica, alla generazione di dataset sintetici, alla recensione di romanzi brevi. Per molti di essi è difficile se non impossibile ottenere dei dataset annotati. Viene anche evidenziato che all&#039;aumentare della dimensione dei modelli, il fine tuning su task molto specifici ha delle proprietá statistiche non desiderabili, portando a una mancata generalizzazione. In più, gli umani spesso hanno bisogno solo di poche indicazioni per imparare la maggior parte dei task linguistici (&quot;please tell me if this sentence describes something happy or something sad&quot;), o al massimo di qualche esempio (&quot;here are two examples of people acting brave; please give a third example of bravery&quot;).</div></td><td class="diff-marker"></td><td style="background-color: #f8f9fa; color: #202122; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #eaecf0; vertical-align: top; white-space: pre-wrap;"><div>Viene osservato che esistono tantissimi possibili task, dalla correzione della grammatica, alla generazione di dataset sintetici, alla recensione di romanzi brevi. Per molti di essi è difficile se non impossibile ottenere dei dataset annotati. Viene anche evidenziato che all&#039;aumentare della dimensione dei modelli, il fine tuning su task molto specifici ha delle proprietá statistiche non desiderabili, portando a una mancata generalizzazione. In più, gli umani spesso hanno bisogno solo di poche indicazioni per imparare la maggior parte dei task linguistici (&quot;please tell me if this sentence describes something happy or something sad&quot;), o al massimo di qualche esempio (&quot;here are two examples of people acting brave; please give a third example of bravery&quot;).</div></td></tr> <tr><td class="diff-marker"></td><td style="background-color: #f8f9fa; color: #202122; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #eaecf0; vertical-align: top; white-space: pre-wrap;"><br></td><td class="diff-marker"></td><td style="background-color: #f8f9fa; color: #202122; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #eaecf0; vertical-align: top; white-space: pre-wrap;"><br></td></tr> <tr><td class="diff-marker" data-marker="−"></td><td style="color: #202122; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #ffe49c; vertical-align: top; white-space: pre-wrap;"><div>[[Category:<del style="font-weight: bold; text-decoration: none;">papers</del>]]</div></td><td class="diff-marker" data-marker="+"></td><td style="color: #202122; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #a3d3ff; vertical-align: top; white-space: pre-wrap;"><div>[[Category:<ins style="font-weight: bold; text-decoration: none;">paper</ins>]]</div></td></tr> </table>

Michela https://wiki.mindmaker.it/index.php?title=Language_Models_are_Few-Shot_Learners&diff=35&oldid=prev 2024-02-23T08:53:23Z

<p></p> <table style="background-color: #fff; color: #202122;" data-mw="interface"> <col class="diff-marker" /> <col class="diff-content" /> <col class="diff-marker" /> <col class="diff-content" /> <tr class="diff-title" lang="it"> <td colspan="2" style="background-color: #fff; color: #202122; text-align: center;">← Versione meno recente</td> <td colspan="2" style="background-color: #fff; color: #202122; text-align: center;">Versione delle 08:53, 23 feb 2024</td> </tr><tr><td colspan="2" class="diff-lineno" id="mw-diff-left-l5">Riga 5:</td> <td colspan="2" class="diff-lineno">Riga 5:</td></tr> <tr><td class="diff-marker"></td><td style="background-color: #f8f9fa; color: #202122; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #eaecf0; vertical-align: top; white-space: pre-wrap;"><div>Viene osservato che esistono tantissimi possibili task, dalla correzione della grammatica, alla generazione di dataset sintetici, alla recensione di romanzi brevi. Per molti di essi è difficile se non impossibile ottenere dei dataset annotati. Viene anche evidenziato che all&#039;aumentare della dimensione dei modelli, il fine tuning su task molto specifici ha delle proprietá statistiche non desiderabili, portando a una mancata generalizzazione. In più, gli umani spesso hanno bisogno solo di poche indicazioni per imparare la maggior parte dei task linguistici (&quot;please tell me if this sentence describes something happy or something sad&quot;), o al massimo di qualche esempio (&quot;here are two examples of people acting brave; please give a third example of bravery&quot;).</div></td><td class="diff-marker"></td><td style="background-color: #f8f9fa; color: #202122; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #eaecf0; vertical-align: top; white-space: pre-wrap;"><div>Viene osservato che esistono tantissimi possibili task, dalla correzione della grammatica, alla generazione di dataset sintetici, alla recensione di romanzi brevi. Per molti di essi è difficile se non impossibile ottenere dei dataset annotati. Viene anche evidenziato che all&#039;aumentare della dimensione dei modelli, il fine tuning su task molto specifici ha delle proprietá statistiche non desiderabili, portando a una mancata generalizzazione. In più, gli umani spesso hanno bisogno solo di poche indicazioni per imparare la maggior parte dei task linguistici (&quot;please tell me if this sentence describes something happy or something sad&quot;), o al massimo di qualche esempio (&quot;here are two examples of people acting brave; please give a third example of bravery&quot;).</div></td></tr> <tr><td class="diff-marker"></td><td style="background-color: #f8f9fa; color: #202122; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #eaecf0; vertical-align: top; white-space: pre-wrap;"><br></td><td class="diff-marker"></td><td style="background-color: #f8f9fa; color: #202122; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #eaecf0; vertical-align: top; white-space: pre-wrap;"><br></td></tr> <tr><td class="diff-marker" data-marker="−"></td><td style="color: #202122; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #ffe49c; vertical-align: top; white-space: pre-wrap;"><div><del style="font-weight: bold; text-decoration: none;">== Tipologie di In-Context-Learning nei modelli di grandi dimensioni ==</del></div></td><td class="diff-marker" data-marker="+"></td><td style="color: #202122; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #a3d3ff; vertical-align: top; white-space: pre-wrap;"><div>[[<ins style="font-weight: bold; text-decoration: none;">Category</ins>:<ins style="font-weight: bold; text-decoration: none;">papers</ins>]]</div></td></tr> <tr><td class="diff-marker" data-marker="−"></td><td style="color: #202122; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #ffe49c; vertical-align: top; white-space: pre-wrap;"><div> </div></td><td colspan="2" class="diff-side-added"></td></tr> <tr><td class="diff-marker" data-marker="−"></td><td style="color: #202122; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #ffe49c; vertical-align: top; white-space: pre-wrap;"><div>[[<del style="font-weight: bold; text-decoration: none;">File</del>:<del style="font-weight: bold; text-decoration: none;">in_context_learning.png</del>]]</div></td><td colspan="2" class="diff-side-added"></td></tr> </table>

Alesaccoia https://wiki.mindmaker.it/index.php?title=Language_Models_are_Few-Shot_Learners&diff=33&oldid=prev 2024-02-23T08:53:09Z

<p>Alesaccoia ha spostato la pagina <a href="/index.php?title=Paper:Language_Models_are_Few-Shot_Learners_(2020)&amp;action=edit&amp;redlink=1" class="new" title="Paper:Language Models are Few-Shot Learners (2020) (la pagina non esiste)">Paper:Language Models are Few-Shot Learners (2020)</a> a <a href="/index.php/Language_Models_are_Few-Shot_Learners_(2020)" class="mw-redirect" title="Language Models are Few-Shot Learners (2020)">Language Models are Few-Shot Learners (2020)</a> tramite redirect</p> <table style="background-color: #fff; color: #202122;" data-mw="interface"> <tr class="diff-title" lang="it"> <td colspan="1" style="background-color: #fff; color: #202122; text-align: center;">← Versione meno recente</td> <td colspan="1" style="background-color: #fff; color: #202122; text-align: center;">Versione delle 08:53, 23 feb 2024</td> </tr><tr><td colspan="2" class="diff-notice" lang="it"><div class="mw-diff-empty">(Nessuna differenza)</div> </td></tr></table>

Alesaccoia https://wiki.mindmaker.it/index.php?title=Language_Models_are_Few-Shot_Learners&diff=21&oldid=prev 2024-02-23T07:53:53Z

<p>Alesaccoia ha spostato la pagina <a href="/index.php/Language_Models_are_Few-Shot_Learners_(2020)" class="mw-redirect" title="Language Models are Few-Shot Learners (2020)">Language Models are Few-Shot Learners (2020)</a> a <a href="/index.php?title=Paper:Language_Models_are_Few-Shot_Learners_(2020)&amp;action=edit&amp;redlink=1" class="new" title="Paper:Language Models are Few-Shot Learners (2020) (la pagina non esiste)">Paper:Language Models are Few-Shot Learners (2020)</a></p> <table style="background-color: #fff; color: #202122;" data-mw="interface"> <tr class="diff-title" lang="it"> <td colspan="1" style="background-color: #fff; color: #202122; text-align: center;">← Versione meno recente</td> <td colspan="1" style="background-color: #fff; color: #202122; text-align: center;">Versione delle 07:53, 23 feb 2024</td> </tr><tr><td colspan="2" class="diff-notice" lang="it"><div class="mw-diff-empty">(Nessuna differenza)</div> </td></tr></table>

Alesaccoia https://wiki.mindmaker.it/index.php?title=Language_Models_are_Few-Shot_Learners&diff=17&oldid=prev 2024-02-21T18:13:48Z

<p></p> <table style="background-color: #fff; color: #202122;" data-mw="interface"> <col class="diff-marker" /> <col class="diff-content" /> <col class="diff-marker" /> <col class="diff-content" /> <tr class="diff-title" lang="it"> <td colspan="2" style="background-color: #fff; color: #202122; text-align: center;">← Versione meno recente</td> <td colspan="2" style="background-color: #fff; color: #202122; text-align: center;">Versione delle 18:13, 21 feb 2024</td> </tr><tr><td colspan="2" class="diff-lineno" id="mw-diff-left-l4">Riga 4:</td> <td colspan="2" class="diff-lineno">Riga 4:</td></tr> <tr><td class="diff-marker"></td><td style="background-color: #f8f9fa; color: #202122; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #eaecf0; vertical-align: top; white-space: pre-wrap;"><br></td><td class="diff-marker"></td><td style="background-color: #f8f9fa; color: #202122; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #eaecf0; vertical-align: top; white-space: pre-wrap;"><br></td></tr> <tr><td class="diff-marker"></td><td style="background-color: #f8f9fa; color: #202122; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #eaecf0; vertical-align: top; white-space: pre-wrap;"><div>Viene osservato che esistono tantissimi possibili task, dalla correzione della grammatica, alla generazione di dataset sintetici, alla recensione di romanzi brevi. Per molti di essi è difficile se non impossibile ottenere dei dataset annotati. Viene anche evidenziato che all&#039;aumentare della dimensione dei modelli, il fine tuning su task molto specifici ha delle proprietá statistiche non desiderabili, portando a una mancata generalizzazione. In più, gli umani spesso hanno bisogno solo di poche indicazioni per imparare la maggior parte dei task linguistici (&quot;please tell me if this sentence describes something happy or something sad&quot;), o al massimo di qualche esempio (&quot;here are two examples of people acting brave; please give a third example of bravery&quot;).</div></td><td class="diff-marker"></td><td style="background-color: #f8f9fa; color: #202122; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #eaecf0; vertical-align: top; white-space: pre-wrap;"><div>Viene osservato che esistono tantissimi possibili task, dalla correzione della grammatica, alla generazione di dataset sintetici, alla recensione di romanzi brevi. Per molti di essi è difficile se non impossibile ottenere dei dataset annotati. Viene anche evidenziato che all&#039;aumentare della dimensione dei modelli, il fine tuning su task molto specifici ha delle proprietá statistiche non desiderabili, portando a una mancata generalizzazione. In più, gli umani spesso hanno bisogno solo di poche indicazioni per imparare la maggior parte dei task linguistici (&quot;please tell me if this sentence describes something happy or something sad&quot;), o al massimo di qualche esempio (&quot;here are two examples of people acting brave; please give a third example of bravery&quot;).</div></td></tr> <tr><td colspan="2" class="diff-side-deleted"></td><td class="diff-marker" data-marker="+"></td><td style="color: #202122; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #a3d3ff; vertical-align: top; white-space: pre-wrap;"><div><ins style="font-weight: bold; text-decoration: none;"></ins></div></td></tr> <tr><td colspan="2" class="diff-side-deleted"></td><td class="diff-marker" data-marker="+"></td><td style="color: #202122; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #a3d3ff; vertical-align: top; white-space: pre-wrap;"><div><ins style="font-weight: bold; text-decoration: none;">== Tipologie di In-Context-Learning nei modelli di grandi dimensioni ==</ins></div></td></tr> <tr><td class="diff-marker"></td><td style="background-color: #f8f9fa; color: #202122; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #eaecf0; vertical-align: top; white-space: pre-wrap;"><br></td><td class="diff-marker"></td><td style="background-color: #f8f9fa; color: #202122; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #eaecf0; vertical-align: top; white-space: pre-wrap;"><br></td></tr> <tr><td class="diff-marker"></td><td style="background-color: #f8f9fa; color: #202122; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #eaecf0; vertical-align: top; white-space: pre-wrap;"><div>[[File:in_context_learning.png]]</div></td><td class="diff-marker"></td><td style="background-color: #f8f9fa; color: #202122; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #eaecf0; vertical-align: top; white-space: pre-wrap;"><div>[[File:in_context_learning.png]]</div></td></tr> </table>

Alesaccoia https://wiki.mindmaker.it/index.php?title=Language_Models_are_Few-Shot_Learners&diff=16&oldid=prev 2024-02-21T18:12:45Z

<p></p> <table style="background-color: #fff; color: #202122;" data-mw="interface"> <col class="diff-marker" /> <col class="diff-content" /> <col class="diff-marker" /> <col class="diff-content" /> <tr class="diff-title" lang="it"> <td colspan="2" style="background-color: #fff; color: #202122; text-align: center;">← Versione meno recente</td> <td colspan="2" style="background-color: #fff; color: #202122; text-align: center;">Versione delle 18:12, 21 feb 2024</td> </tr><tr><td colspan="2" class="diff-lineno" id="mw-diff-left-l4">Riga 4:</td> <td colspan="2" class="diff-lineno">Riga 4:</td></tr> <tr><td class="diff-marker"></td><td style="background-color: #f8f9fa; color: #202122; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #eaecf0; vertical-align: top; white-space: pre-wrap;"><br></td><td class="diff-marker"></td><td style="background-color: #f8f9fa; color: #202122; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #eaecf0; vertical-align: top; white-space: pre-wrap;"><br></td></tr> <tr><td class="diff-marker"></td><td style="background-color: #f8f9fa; color: #202122; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #eaecf0; vertical-align: top; white-space: pre-wrap;"><div>Viene osservato che esistono tantissimi possibili task, dalla correzione della grammatica, alla generazione di dataset sintetici, alla recensione di romanzi brevi. Per molti di essi è difficile se non impossibile ottenere dei dataset annotati. Viene anche evidenziato che all&#039;aumentare della dimensione dei modelli, il fine tuning su task molto specifici ha delle proprietá statistiche non desiderabili, portando a una mancata generalizzazione. In più, gli umani spesso hanno bisogno solo di poche indicazioni per imparare la maggior parte dei task linguistici (&quot;please tell me if this sentence describes something happy or something sad&quot;), o al massimo di qualche esempio (&quot;here are two examples of people acting brave; please give a third example of bravery&quot;).</div></td><td class="diff-marker"></td><td style="background-color: #f8f9fa; color: #202122; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #eaecf0; vertical-align: top; white-space: pre-wrap;"><div>Viene osservato che esistono tantissimi possibili task, dalla correzione della grammatica, alla generazione di dataset sintetici, alla recensione di romanzi brevi. Per molti di essi è difficile se non impossibile ottenere dei dataset annotati. Viene anche evidenziato che all&#039;aumentare della dimensione dei modelli, il fine tuning su task molto specifici ha delle proprietá statistiche non desiderabili, portando a una mancata generalizzazione. In più, gli umani spesso hanno bisogno solo di poche indicazioni per imparare la maggior parte dei task linguistici (&quot;please tell me if this sentence describes something happy or something sad&quot;), o al massimo di qualche esempio (&quot;here are two examples of people acting brave; please give a third example of bravery&quot;).</div></td></tr> <tr><td colspan="2" class="diff-side-deleted"></td><td class="diff-marker" data-marker="+"></td><td style="color: #202122; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #a3d3ff; vertical-align: top; white-space: pre-wrap;"><div><ins style="font-weight: bold; text-decoration: none;"></ins></div></td></tr> <tr><td colspan="2" class="diff-side-deleted"></td><td class="diff-marker" data-marker="+"></td><td style="color: #202122; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #a3d3ff; vertical-align: top; white-space: pre-wrap;"><div><ins style="font-weight: bold; text-decoration: none;">[[File:in_context_learning.png]]</ins></div></td></tr> </table>

Alesaccoia