Quelltext der Seite Chain-of-Thought-Prompting

{{SchaufensterBeginn|Auszug}}
''[[Chain-of-Thought Prompting|Chain-of-Thought]] (CoT) Prompting'' ist eine [[Prompt-Engineering]]-Technik, die darauf abzielt, die Argumentationsfähigkeit großer [[Sprachmodell|Sprachmodelle]] ([[Large Language Models]], LLMs) zu verbessern, indem sie sie dazu veranlasst, eine Reihe von Zwischenschritten zu generieren, die zur endgültigen Antwort eines mehrstufigen Problems führen.<ref>Zachary McAuliffe: [https://www.cnet.com/tech/services-and-software/googles-latest-ai-model-can-be-taught-how-to-solve-problems/ Google's Latest AI Model Can Be Taught How to Solve Problems.] In: CNET. Abgerufen am 10.&nbsp;März 2023 (englisch).</ref> Bei Nutzung bestehender LLMs kann die schrittweise Verfeinerung der Fragestellung zu verbesserten Antworten führen.

Während LLMs bei verschiedenen Aufgaben zur Verarbeitung natürlicher Sprache eine beeindruckende Leistung zeigen, haben sie immer noch Schwierigkeiten bei einigen Denkaufgaben, die logisches Denken und mehrere Lösungsschritte erfordern, wie etwa arithmetische Fragen oder Fragen zum gesunden Menschenverstand.<ref>Ekta Dang: [https://venturebeat.com/ai/harnessing-the-power-of-gpt-3-in-scientific-research/ Harnessing the power of GPT-3 in scientific research.] In: VentureBeat. 8.&nbsp;Februar 2023, abgerufen am 10.&nbsp;März 2023 (englisch).</ref><ref>Roger Montti: [https://www.searchenginejournal.com/google-chain-of-thought-prompting/450106/ Google's Chain of Thought Prompting Can Boost Today's Best Algorithms.] In: Search Engine Journal. 13.&nbsp;Mai 2022, abgerufen am 10.&nbsp;März 2023 (englisch).</ref><ref>Tiernan Ray: [https://www.zdnet.com/article/amazons-alexa-scientists-demonstrate-bigger-ai-isnt-always-better/ Amazon's Alexa scientists demonstrate bigger AI isn't always better.] In: ZDNET. Abgerufen am 10.&nbsp;März 2023 (englisch).</ref>

Dafür werden Modelle verwendet, die eine Gedankenkette erzeugen, um logische Textaufgaben zu lösen, die sonst falsch gelöst würden. Die Gedankenkette ähnelt einer Lösung und kann auch als solche interpretiert werden. Sie ahmt einen schrittweisen Denkprozess nach, um zu einer Antwort zu gelangen. Die Lösungen und Erklärungen werden normalerweise nach der endgültigen Antwort ausgegeben.

Das Chain-of-thought prompting hat als Methode zur Erleichterung des Denkens in Sprachmodellen mehrere vorteilhafte Eigenschaften:<ref>Jason Wei, Xuezhi Wang, Dale Schuurmans, Maarten Bosma, Brian Ichter, Fei Xia, Ed H. Chi, Quoc V. Le, Denny Zhou: Chain-of-Thought Prompting Elicits Reasoning in Large Language Models. 10.&nbsp;Januar 2023, [https://de.wikipedia.org/wiki/Digital_Object_Identifier doi]:[https://doi.org/10.48550/arXiv.2201.11903 10.48550/arXiv.2201.11903], [https://de.wikipedia.org/wiki/ArXiv arxiv]:[https://arxiv.org/abs/2201.11903v6 2201.11903v6] (englisch).</ref>

* Es ermöglicht, mehrstufige Probleme in Zwischenschritte zu zerlegen, was bedeutet, dass zusätzliche Berechnungen Problemen zugewiesen werden können, die mehr Denkschritte erfordern.
* Es bietet ein interpretierbares Fenster zum Verhalten des Modells, das Hinweise darauf gibt, wie es zu einer bestimmten Antwort gekommen sein könnte, und Möglichkeiten, Fehler zu beheben, wenn der Denkpfad falsch war.
* Es kann für Aufgaben wie mathematische Textaufgaben, logisches Denken und Symbolverarbeitung verwendet werden und ist prinzipiell auf jede Aufgabe anwendbar, die Menschen mithilfe von Sprache lösen können.
* Es kann in ausreichend großen Sprachmodellen hervorgerufen werden, indem Beispiele von Gedankenketten in die Muster von ''Few-Shot-Prompting'' aufgenommen werden.
{{SchaufensterEnde|Auszug}}
<references />
[[Kategorie:Prompt Engineering]]