Zum Inhalt springen

Worum geht es & Das Interface von LLM

aus AufEinWort, der freien Forschung

Über diese Seite Werk


Gründet auf dem Werk „KI-Revolution“ Arnold Oberleiter
25. Oktober 2024 n. Chr. hrsg.  
AI mit Arnie
LLMs meistern
Prompt Engineering im Standard-Interface
Überarbeitung Liste Werke von Klaus Feldmann 
Abschrift
29. November 2024 n. Chr. erst.  
13:58 Uhr Ausgabe 00
Ausgabe 00
veröffentlicht
geprüft
→ Worum geht es & Das Interface von LLM
↓ Warum ist Prompt Engineering wichtig, Ein Beispiel
Worum geht es in deisem Abschnitt und das Interface von LLMs.mp4 Worum geht es in deisem Abschnitt und das Interface von LLMs.pages

🎓 Worum geht es & Das Interface von LLMs

📽️ 0 Worum geht es in deisem Abschnitt und das Interface von LLMs (4:57)

Inzwischen haben wir ja viel gehört. Wir wissen bis ins kleinste Detail, wie LLMs funktionieren, wie sie sich eventuell in Zukunft weiterentwickeln sollen. Aber all das bringt uns natürlich nur etwas, wenn wir auch lernen, wie wir diese LLMs verwenden. Deshalb geht es in diesem Abschnitt um das sogenannte Prompt-Engineering. Das bedeutet nichts anderes, als dass man weiß, wie man den Befehl an die LLMs stellen muss.

Und es ist dabei völlig egal, welches LLM man verwendet. Es ist immer wichtig, dass man den richtigen Prompt eingibt. Nur mit dem richtigen Prompt bekommt man eine richtige Antwort bzw. eine bessere Antwort. Es geht immer um Wahrscheinlichkeiten, und die Wahrscheinlichkeit ist höher, dass man die richtige Antwort bekommt, wenn man auch den richtigen Prompt gibt.

Und es ist mir hierbei vollkommen egal, was man verwendet: Man kann ChatGPT verwenden, man kann Groq verwenden, man kann Llama verwenden, man kann den Copiloten verwenden. Der Copilot ist von Microsoft. Das heißt, hier werden einfach die OpenAI-Modelle integriert in die Microsoft-Produkte. Man kann Mistral verwenden. Man kann verwenden, was auch immer man will.

Alle diese Modelle sind relativ ähnlich aufgebaut. Hier sprechen wir noch nicht unbedingt über die Multimodalität. Es geht darum, wie man Text generieren und Text zusammenfassen kann und wie man dafür ganz, ganz genau die Prompts strukturieren muss.

Also sehen wir uns erstmal ein zwei kleine Interfaces an, denn die sehen fast immer ganz genau gleich aus. Es geht, wie schon gesagt, um Text- und Codestellung und Zusammenfassung.

Jetzt zu einem Interface. Wie gesagt, jedes Interface sollte genau gleich funktionieren. Und wir sehen uns natürlich später für den Kurs alle Modelle noch mal genauer an. Also erstmal geht es wirklich nur darum, wie man sie breit verwenden kann.

Das hier ist Gemini, das LLM von Google. Uns fällt vielleicht schon auf, dass das fast genauso aussieht wie ChatGPT. Es funktioniert wirklich fast immer ganz genau gleich. Man kann hier unten draufklicken und man kann reinschreiben, was man will. Das ist der Prompt. Man hat oft auch solche kleinen Prompt-Vorlagen. Das heißt, man kann auf solche Dinge draufklicken, bekommt einen Prompt und kann den abschicken und bekommt hier sofort alles ausgespuckt.

„Ich bin mir unsicher, welcher Wassersport mir Spaß machen würde“ und so weiter. Das müssen wir jetzt nicht verwenden.

Daneben haben wir auch fast immer etwas, auf das wir klicken können, dass wir es sozusagen auch Bilder und Dateien hochladen können. In den aller allermeisten LLMs funktioniert das. Wir haben auch ab und zu ein Mikrofon eingebaut. Das heißt, wir können oft unsere Prompts auch sprechen, anstelle vom Tippen.

Wozu verwende ich das kleine Mikrofon, das ich hier unten sehe? Du siehst hier schon: Man kann also sprechen, und die Prompts muss man nicht unbedingt eintippen. Generell funktioniert das, wie schon gesagt, fast immer gleich. Und danach kann man seinen Prompt absenden, und man bekommt eine Antwort. Eigentlich ganz, ganz genau gleich wie in ChatGPT.

ChatGPT haben wir uns ja schon einige Male angesehen. Auf der linken Seite ist es fast immer so, dass die Chats gespeichert werden. Hier sind also einige Chats, die ich in Gemini bereits gemacht habe.

Außerdem gibt es auch fast immer Aktivitäten, Einstellungen und eine kleine Hilfe, die man machen kann oder die man sich ansehen kann. Und natürlich kann man auch meistens einfach einen neuen Chat verwenden und die Dinge ein- und ausblenden. So funktioniert fast jedes LLM im Standardinterface. Über die API ist das natürlich etwas anders.

Vielleicht noch mal ganz, ganz kurz Chat… zu ChatGPT. Das heißt, hier sieht das natürlich genau gleich aus. Hier unten gibt man die Anfrage an, danach wird hier der Chat gespeichert. Über GPTs und die ganzen speziellen Dinge sprechen wir später. Es geht erstmal nur darum, wie wir in einem Standardinterface die LLMs verwenden.

Und natürlich auch genau das Gleiche im Copiloten. Das hier ist der Microsoft Copilot, und auch hier hat man da unten eine Prompt-Box. Man kann Sachen hochladen, man kann mit dem Ding sprechen, und hier drüben hat man noch einige weitere Features, die wir uns im Laufe vom Kurs natürlich genauer ansehen.

Also, du weißt: Es ist völlig egal, welches LLM du verwendest. Wir müssen die richtigen Prompts verwenden, um die richtigen Outputs zu bekommen.

Und im nächsten Video will ich dir ein kleines Beispiel zeigen, warum der richtige Prompt so wichtig ist. Und ich muss dazu sagen, das ist tatsächlich ein Video, das ich schon etwas länger aufgezeichnet habe, da es einfach immer noch dasselbe Konzept ist. Die richtigen Prompts werden höchstwahrscheinlich für immer wichtig sein, weil die Technologie dahinter immer gleich funktioniert.

Also sehen wir uns im nächsten Video. Dort wirst du sehen, warum richtige Prompts wertvoll sind. Und danach geht es darum, wie man richtige Prompts schreibt für ein Standard-LLM – völlig egal, in welchem Interface.