Prompt Engineering für LLMs - Die einfachsten Strategien

Über diese Seite Werk

Gründet auf dem Werk „KI-Revolution“ Arnold Oberleiter
25. Oktober 2024 n. Chr. hrsg.
AI mit Arnie
LLMs meistern
Prompt Engineering im Standard-Interface
Überarbeitung Liste Werke von Klaus Feldmann
Abschrift
29. November 2024 n. Chr. erst.
15:31 Uhr Ausgabe 00
Ausgabe 00
veröffentlicht
geprüft
↑ Prompt Engineering Basics
→ Prompt Engineering für LLMs - Die einfachsten Strategien
↓ Chain of Thougth Prompting
Prompt Engineering für LLMs die einfachsten strategien.mp4 Prompt Engineering für LLMs die einfachsten strategien.pages

🎓 Die einfachsten strategien

📽️ 4 Prompt Engineering für LLMs die einfachsten strategien (9:21)

📽️ 🎓 📽️ 🎓


◀	Kurs AI mit Arnie (KI Revolution) LLMs meistern
4 Prompt Engineering für LLMs die einfachsten strategien (9:21)
Prompt Engineering Basics

▲	Prompt Engineering Basics
▶	Prompt Engineering für LLMs - Die einfachsten Strategien
▼	Chain of Thougth Prompting
	––––––––––––––––––––––––––
◀	Kurs AI mit Arnie (KI-Revolution) Open-Source LLMs
5 Prompt Engineering für LLMs die einfachsten strategien (9:54)


▶
▼
◀

LLMs meistern: 📽️
Open-Source LLMs: 📽️
- Zufügung ist eingerückt

Du hast gelernt, dass LLMs eigentlich nur zwei Dinge können: Text erweitern und Text zusammenfassen. Man verwendet die Dinger eigentlich vor allem, um Text zu erweitern. Das heißt, man schreibt einen Satz rein und bekommt im Optimalfall etwas Anständiges zurück. Damit wir etwas Anständiges zurückbekommen, sollte man die Prompts, also die Textbefehle, anständig schreiben. Das nennt sich Prompt Engineering, und in diesem Video sehen wir uns so schnell wie möglich einige der Konzepte an.

Wir haben die Möglichkeit, strukturierte Prompts zu schreiben. Es gibt das Shot Prompting, Rollen-Prompting, den Tree of Thoughts, den Chain of Thoughts, das Spars Prime Representation und daneben noch ein paar coole Tipps bzw. Hacks. Nun, wir müssen das Ganze nicht allzu komplex machen, und dementsprechend machen wir hier natürlich den kürzesten Weg. Es geht immer nur darum: Es geht darum Kontext zu geben. Kontext, Kontext, Kontext. Du musst den Modellen Kontext geben, und du kannst auch mehrere Dinge hier kombinieren.

Was ist ein Beispiel für das Rollenprompting? Das sehen wir uns jetzt an. Wir gehen in ChatGPT

Natürlich muss es nicht ChatGPT sein, du könntest auch auf HuggingChat gehen. Du könntest das Ganze lokal verwenden, mit LM Studio, aber ich will dir einfach nur zeigen: Es ist völlig egal, welches Interface du verwendest. Das Prompt Engineering funktioniert immer gleich. Die Hintergrundtechnologie sind immer LLMs. Also ist es völlig egal, was du verwendest. Wir machen das einfach mal als Beispiel in ChatGPT, weil natürlich auch das ein LLM ist. Aber ChatGPT ist natürlich Closed Source. Aber wie gesagt, es funktioniert immer und überall gleich.

und hier geben ihm sozusagen eine Rolle und das nennt sich Rollen-Prompting. Und das hier wäre zum Beispiel unsere Rolle: „Du bist ein Copywriting-Experte.“ Das nennt man Rollen-Prompting, und das hilft uns – und das beweisen sogar Studien. Damit könnte man einen Satz beginnen. Wie gesagt, ab jetzt kann man auch Konzepte vermischen.

Das Rollen-Prompting: abgehakt. Du gibst ChatGPT eine Rolle. Jetzt kombinieren wir das Rollen-Prompting mit dem Shot Prompting. Shot bedeutet einfach nur, dass wir ChatGPT ein Beispiel geben. Und das Beispiel könnte so aussehen: „Ein Werbetext, der mir gefällt, sieht so aus.“ Hier kopieren wir jetzt unser Beispiel rein. Sagen wir, mir würde diese Copy gefallen, roter Pullover: „Dein Statement für Stil und Leidenschaft. Erwecke deine Leidenschaft mit unserem roten Pullover.“ Und so weiter. Am Ende fügen wir noch einen Call-to-Action, den lösch ich raus, daß ist hier eben nur eine Beispiel.

Und jetzt schreiben wir folgendes dazu: „Erstelle eine ähnliche Copy, aber für eine blaue Hose.“ Sagen wir, du willst eine blaue Hose verkaufen. Du brauchst eine Copy und du findest irgendwo eine Copy, die eben um einen roten Pullover geht oder um etwas anderes. Dann könntest du hier ChatGPT ein Beispiel geben, mit diesem Shot, und danach bekommst du eine Copy, die ähnlich aussieht wie das Beispiel, das du hineinschreibst. Und du siehst, ChatGPT hält sich eigentlich ganz genau an deine Vorgabe.

Das war das Rollen-Prompting. Also er ist Copywriting-Experte. Danach fangen wir mit dem Shot Prompting an. Das heißt, wir geben ihm das Beispiel. Das Beispiel ist: Roter Pullover. Dein Staintmen… dein Statement für Leidenschaft und Stil. Danach beschreiben wir den Pully und am Ende noch den Call-to-Action, also: „Jetzt shoppen und sofort einen roten Pully sichern!“ Und danach wollen wir eine ähnliche Copy, ja aber für eine blaue Hose. Und wir bekommen eine ähnliche Überschrift, wir bekommen den Text, und am Ende natürlich den Call-to-Action: „Jetzt shoppen und sofort eine blaue Hose sichern!“

Du siehst, das war das Shot Prompting. So kannst du, wenn du irgendwo was siehst, das dir gefällt, alles mit reinkopieren. Das funktioniert übrigens auch mit deinem Schreibstil. Hast du zum Beispiel einen Blog und schreibst immer wieder Artikel oder schreibst Ex-Threads oder was auch immer, kannst du ChatGPT mit diesem Shot Prompting sozusagen trainieren an deinen Texten. Und du wirst ähnliche Texte im ähnlichen Schreibstil wiederbekommen.

Dementsprechend: Shot Prompting: abgehakt. Rollen-Prompting: abgehakt.

Die strukturierten Prompts dauern vielleicht etwas länger zu erklären, deshalb mache ich es ganz einfach so und kurz: Du musst einfach nur versuchen, Struktur reinzubringen. Du kannst immer noch beginnen mit deiner Rolle, zum Beispiel: „Du bist Experte für XYZ.“ Danach gibst du mehr Kontext. Du schreibst. bzw. du beschreibst ganz genau, was du willst. Ein Beispiel würde so aussehen: „Schreibe einen Blogpost über schöne Zähne.“ Alles, was ich in Klammern setze, könntest du theoretisch austauschen. Zum Beispiel: Richte ihn an Zahnärzte und verwende Keywords, die für SEO interessant sind (Search Engine Optimization). Das heißt, daß sie dich auf Google leichter finden und du besser rankst.

„Schreibe den Text in einem verständlichen Stil, sodass er leicht zu lesen ist.“ Vielleicht könnte ich noch ist dazuschreiben. „Die Länge sollte 400 Wörter betragen und der Text sollte gut gegliedert sein.“ Das Konzept ist einfach, dass man hier über ein Thema schreibt und dazu Modifikatoren packt.

Das Thema ist natürlich ein Blogpost über schöne Zähne. Das könnte aber auch ein Ex-Thread zu einem dicken Bizeps sein – das kommt natürlich darauf an, was du schreiben willst. Und jetzt geben wir weitere Modifikatoren dazu. Das heißt: das Zielpublikum. An wen sollte es sich richten? Wenn du hier „Zahnärzte“ reinschreibst oder „Jugendliche“, dann wird der gesamte Stil von ChatGPT anders. Er sollte für SEO relevant sein. Dementsprechend werden wir auch Keywörter mit einbauen. Der Stil sollte eher verständlich sein – oder lieber wissenschaftlich? Sollte es leicht zu lesen sein oder bsser eher wie ein akademisches Papier wirken? Und wie lang sollte das Ganze sein?

Konzentriere dich einfach darauf, so viel Kontext wie möglich zu geben. Alles in Klammer kannst du austauschen. Und wir senden das Ganze ab. Wir bekommen jetzt einen superguten Artikel. Wie gesagt, und den Artikel kannst du ganz schnell supergut umbauen. Und du bekommst auch noch aufgelistet, welche Wörter hier relevant für die Suche sind. Denn diese sind alle eingebaut. Wenn du magst, kannst du auf „Bearbeiten“ klicken, und anstatt eines Blogposts kannst du hier jetzt einen Ex-Thread machen. Und die schönen Zähne kannst du auch austauschen.

Strukturierte Prompts: abgehakt.

Diese Hacks will ich dir unbedingt mit an die Hand geben. Hack Nummer 1: „Take a deep breath.“ Deutsch übersetzt: „Nimm einen tiefen Atemzug.“ Danach: „Let’s think step by step“ – denken wir Schritt für Schritt. Zusätzlich kannst du auch noch sowas machen: „Du kannst das, weil ich dir 20$ gebe“. Vielleicht lachst du hier, aber all die Dinge funktionieren. Ich kann natürlich auch darüber lachen. Also: ChatGPT funktioniert besser, wenn wir ihm Trinkgeld geben. Und das ist keine Spinnerei von mir, sondern das haben Studien bewiesen. Auch das funktioniert laut Studien richtig richtig gut. Er soll Schritt für Schritt denken und einen tiefen Atemzug nehmen. Warum funktioniert das? Weil sich ChatGPT so selbst Dinge in den Kontext holen kann.

Sagen wir, du sagst zu ChatGPT: „Denke Schritt für Schritt.“ Dann nimmt er sich Zeit, fängt beim ersten Schritt an und holt sich immer mehr Dinge selbst in den Kontext.

Andrew Karpathy – das ist ein richtig guter Entwickler, der bei Tesla und OpenAI gearbeitet hat – auch der sagte auch, dass es in Zukunft vielleicht möglich ist, dass man zu einem Large Language Model einfach sagt: „Nimm dir zwei drei Minuten Zeit und gib mir den Output erst dann.“ Dann kann das Modell sozusagen automatisch durchdenken, bevor es dir den Output gibt, und holt sich selbst die ganzen Dinge in das Kontextfenster. Es geht immer nur um Kontext. Wie wir schon am Anfang gesagt haben.

Die Modelle können durch Wörter und Sätze wie diese ganz einfach selbst durch die Dinge durchdenken und holen sich selbst mehr Dinge in den Kontext. Wenn du sie das nicht machen lässt, dann musst du den Kontext geben, z. B. mit Shot Prompting oder strukturierten Prompts. Noch besser: Du kombinierst das alles. Das heißt, du gibst eine Rolle, du gibst vielleicht sogar noch ein Beispiel, du strukturierst das Ganze so gut wie möglich, und du schreibst zum Schluss dazu: „Hey, lass dir doch Zeit, nimm einen tiefen Atemzug und denke Schritt für Schritt.“

So denke ich, kannst du schon sehr viele Prompts richtig, richtig gut anwenden.

Und wenn du dich fragst, warum das alles funktioniert: Das funktioniert wegen einem Konzept, das sich „Semantic Association“ nennt. Semantic Association heißt nichts anderes, als dass diese Modelle assoziativ sind. All diese Large Language Models wurden trainiert mit haufenweise Text. Und wenn man hier Wörter gibt, dann suchen sie die Token von diesem Text raus. Und in diesen Texten ist die Wahrscheinlichkeit groß, dass daneben ähnliche Wörter stehen. Gibst du das Beispiel „Ostern“ an, dann wird ChatGPT in Texten suchen, wo irgendwo die Runde auch „Osterhase“ steht. Dementsprechend bekommst du bessere Outputs. Und darum geht es im Prompt Engineering.

Und in diesem Video haben wir all das so schnell und so einfach wie möglich gelöst. Wie gesagt, hierzu kann man viel viel mehr erzählen. Wir wollen das jedoch so knapp und einfach wie möglich machen. Wir sehen uns im nächsten Video.