Tree of Thoughts (ToT) Prompting

Über diese Seite Werk

Gründet auf dem Werk „KI-Revolution“ Arnold Oberleiter
25. Oktober 2024 n. Chr. hrsg.
AI mit Arnie
LLMs meistern
Prompt Engineering im Standard-Interface
Überarbeitung Liste Werke von Klaus Feldmann
Abschrift
29. November 2024 n. Chr. erst.
17:47 Uhr Ausgabe 00
Ausgabe 00
veröffentlicht
geprüft
↑ Chain of Thougth Prompting
→ Tree of Thoughts (ToT) Prompting
↓ Revers Prompt Engineering, Priming & Limits
Tree of Thoughts ToT prompting.mp4 Tree of Thoughts ToT prompting.pages

🎓 Tree of Thoughts (ToT) Prompting

📽️ 6 Tree of Thoughts ToT prompting (9:29)

Tree of Thoughts Prompting, Abkürzung ToT.

Diese Grafik hast du im Kurs schon mal kurz gesehen, und in diesem Video sehen wir uns natürlich genau an, wie das funktioniert. Denn hier geht es einfach nur darum, ganz, ganz viele verschiedene Gedankengänge aufzuwerfen. Dadurch kann das neuronale Netz einfach viel, viel mehr im Kurzzeitgedächtnis haben. So oder so ähnlich kannst du dir das vorstellen. Sehen wir uns das Ganze genauer an.

Übrigens, es gibt ganz, ganz viele Studien, die beweisen, dass Chain of Thought Prompting eines der mächtigsten Konzepte ist, das ganz, ganz gut funktioniert. Natürlich, das Konzept ist, wie wir schon gehört haben, dass wir irgendwann sagen können: „Nimm dir einfach mal zwei Minuten Zeit und denke selbst durch die Dinge durch.“ Aber bis wir das haben, müssen wir einfach mal mit etwas wie dem Tree of Thoughts arbeiten.

Und du siehst auch hier schon, auch das kann ein iterativer Prozess sein. Das heißt, man kann hier erst mal starten mit Input-Output. Das sind viele der Prompts, die wir uns schon angesehen haben. Danach natürlich den Chain of Thought Prompt. Das ist ganz einfach, dass wir am Ende hinzufügen: „Denke Schritt für Schritt“, wie wir es im letzten Video gehört haben. Dann haben wir noch das Self-Consistency Prompting. Ich denke nicht, dass wir das hier durchgehen müssen, da ich auch denke, dass das überflüssig wird mit der Zeit.

Und deshalb jetzt Tree of Thoughts Prompting. Das Grundprinzip, das Grundkonzept ist eigentlich sehr, sehr einfach. Es geht eigentlich darum, dass wir die Maschine ähnlich wie einen Menschen denken lassen. Wenn ein Mensch über ein Problem nachdenkt, dann hat er meistens einige Lösungen im Kopf, und e… und er wägt ab, welche Lösung wohl am besten laufen kann. Es gibt tatsächlich Studien, die herausgefunden haben, dass man so den Output von Large Language Models um 300 oder 400 % verbessern kann.

Das Konzept ist ganz einfach folgendes: Anstatt dass man einfach nur einen Input gibt und einen Output erwartet, macht man so etwas, wie du hier siehst. Man gibt ganz einfach den Input und fragt das Modell, ob man denn drei verschiedene Antworten bekommen könnte. Danach fragt man, welche dieser Antworten die vernünftigsten sind. Und das macht man so lange weiter, bis man eben beim gewünschten Ergebnis landet. Das ist jetzt hier nur die Schnellfassung, denn das zeige ich dir ganz einfach anhand eines coolen Beispiels.

Sagen wir ganz einfach, du arbeitest in einer Firma. Du traust dich nicht, um mehr Geld zu fragen, und du willst dennoch verhandeln. Lasst uns mal mit ChatGPT darüber sprechen, wie du mehr Gehalt bekommen kannst:

„Ich bin 30 Jahre alt, arbeite seit 10 Jahren in derselben Firma und würde gerne mein Gehalt verhandeln. Ich bin schüchtern und traue mich deshalb nur schwer zu fragen. Ich habe in den letzten drei Jahren dafür gesorgt, dass das Unternehmen – natürlich schreibe ich Unternehmen klein, denn das Coole ist: Diese Large Language Models interessieren sich nicht besonders für deine Rechtschreibung. Ich empfehle dir generell, die richtige Rechtschreibung zu verwenden, aber hier machen kleine Fehler wirklich so gut wie keinen Unterschied, weil diese Modelle deine Wörter in Worttoken teilen. Jetzt aber weiter. In den letzten drei Jahren habe ich also dafür gesorgt, dass das Unternehmen 24 % mehr Umsatz gemacht hat und habe eine Erhöhung wirklich verdient. Meine letzte Gehaltserhöhung liegt zwei Jahre zurück. Außerdem brauche ich das Geld, weil mein Auto kaputt geworden ist. Gib mir drei Vorschläge, was ich machen könnte. Berücksichtige alle Informationen, die ich dir gegeben habe.“

Das ist eigentlich ein Prompt, der nicht schlecht ist. Wir haben ihm hier zwar keine Rolle gegeben und nichts, aber der Prompt insgesamt ist recht gut. Du gibst viel Kontext: Wie geht es dir? Wie ist sogar deine Persönlichkeit? Das wird wichtig beim Verhandeln. Wie lange arbeitest du schon in der Firma? Wie lange liegt die letzte Verhandlung zurück? Und natürlich auch, dass du den Umsatz tatsächlich um 24 % steigern konntest. Du kannst das tatsächlich mit Zahlen nachweisen, dass du kein Nichtsnutz bist.

Diese privaten Dinge vom Auto muss man nicht erwähnen in einer Gehaltsverhandlung. Hier sollte es um Leistung gehen. Aber wie gesagt, das ist ein Prompt. Wir müssen ja sprechen mit unserem Modell. Wir fragen jetzt nach den drei Vorschlägen, und es muss alles berücksichtigen.

Nach den drei Vorschlägen können wir mit GPT zusammen aussuchen, was für uns das Vernünftigste ist. Lasst uns mal hier die Antwort ansehen:

Erstaml könnten wir eine gut vorbereitete E-Mail machen, also „Schreibe eine gut formulierte E-Mail an deinen Vorgesetzten, in der du deine Leistung in den letzten Jahren hervorhebst und deine Gehaltserhöhung begründest. Verwende dabei konkrete Zahlen und Fakten, wie den gesteigerten Umsatz um 24 %. Erkläre auch deine persönliche Situation mit dem kaputten Auto und dass du das zusätzliche Geld dringend benötigst. Biete an, dich persönlich zu treffen, um deine Angelegenheit weiter zu besprechen.

Möglichkeit Nummer zwei, das persönliche Gespräch: Ich erspare dir mein Geschwafel.

Und die Dritte ist, Unterstützung durch einen Mentor oder Kollegen.

Was ist jetzt aber der nächste Schritt? Der nächste Schritt sieht für mich so aus: Wir wollen hier möglichst analytisch vorgehen.

„Bewerten Sie für jede der drei vorgeschlagenen Lösungen ihr Potenzial. Berücksichtigen Sie die Vor- und Nachteile, den anfänglichen Aufwand, die Schwierigkeit der Umsetzung, mögliche Herausforderungen und die erwarteten Ergebnisse. Ordnen Sie jeder Option auf der Grundlage dieser Faktoren eine Erfolgswahrscheinlichkeit und ein Vertrauensniveau zu.“

Also, wir wollen ganz einfach wissen, was ist objektiv das Beste und was müssen wir für was aufwenden und aufbringen. Und das hast du hier jetzt sehr gut aufgelistet bekommen:

Die vorbereitete E-Mail hat die Vorteile, dass du Zeit hast, atürlich, du kannst dir alles in Ruhe aufschreiben, dein Vorgesetzter kann das nach seiner eigenen Zeit machen, wann er will. Hier listet er dir noch die Nachteile auf.

Danach selbiges für das persönliche Gespräch und du hast natürlich hier unten immer die Erfolgswahrscheinlichkeit und das Vertrauensniveau.

Erfolgswahrscheinlichkeit von einer E-Mail ist Mittel, das Vertrauensniveau ist auch nur mittel. Das persönliche Gespräch, Erfolgswahrscheinlichkeit hoch, wenn du gut vorbereitet und selbstbewusst bist und Vertrauensniveau auch sehr hoch. Also ist das ein objektiv wie jetzt schon viel besser als die Mail.

Unterstützung durch einen Mentor oder Kollegen, hier, da hast du die Vorteile, Erfolgswahrscheinlichkeit hoch, Vertrauensniveau auch hoch.

Also solltest du dich tatsächlich überwinden und das nicht über eine Mail machen. Geh ganz einfach selbst zu deinem Chef. Oder wenn du dich das nicht traust, dann rede erst mal mit deinem Kollegen oder Mentor darüber, wie er das Ganze machen würde.

All das kannst du natürlich noch weiter spinnen. Zum Beispiel „vertiefe den Denkprozess für jede Lösung: Gib mir Strategien für verschiedene Szenarien.“ Also sind wir hier jetzt wirklich, wirklich tief eingetaucht. Was sind die Vorteile? Was die Nachteile? Wir haben hier wirklich viel, worüber wir nachdenken können, und wir können auch ChatGPT nachdenken lassen.

Lass uns noch folgenden Prompt eingeben:

„Erstelle auf der Grundlage der Bewertung und Szenarien eine Rangfolge der vielversprechendsten Lösungen. Begründe jede Rangfolge und stelle abschließende Überlegungen zu jeder Lösung an.“

Auch ChatGPT schlägt hier ganz einfach vor, zum persönlichen Gespräch zu greifen. „Diese Lösung hat die höchste Erfolgswahrscheinlichkeit und das höchste Vertrauensniveau. Durch ein persönliches Gespräch hast du die Möglichkeit, deine Argumente direkt und überzeugend zu präsentieren. Du kannst auf mögliche Einwände reagieren und eine persönliche Beziehung aufbauen. Mit einer gründlichen Vorbereitung und Selbstsicherheit hast du gute Chancen, eine Gehaltserhöhung erfolgreich zu verhandeln.“

Als zweite Lösung ist danach ganz einfach das Unterstützen von Kollegen. Und ganz an letzter Stelle kommt die E-Mail.

Also: Reiße dich zusammen und geh zu deinem Chef. Erkläre ihm den Tree-of-Thought-Prompting-Prozess, und ich bin mir sicher, er ist beeindruckt von dir.

Lasst uns das noch ganz, ganz kurz zusammenfassen, noch mal zum Konzept:

Du gibst dem Modell eine Aufgabe, und du sagst, es soll meinet wegen brainstormen. Lass dir drei Möglichkeiten geben, fünf Möglichkeiten – wie viele du willst. Lass das Modell bewerten, welche dieser Lösungen deine Aufgabe am besten bewältigen kann. Danach lässt du dir noch mehr Details geben. Zum Schluss lässt du dir die Rangfolge vom Modell aufstellen.

Und danach habt ihr zusammen wirklich gut und anständig über dein Problem nachgedacht. Mehr kannst du nicht mehr machen. Jetzt geht es ans Handeln.