Werk:AI mit Arnie/Flowise Basics - Unsere erste Langchain App
In diesem Video starten wir bei den Basics. Wir machen den einfachsten Chatbot, den es gibt. Wir starten wie immer hier in Flowwise, und wir starten bei Null. Das heißt, wir werden nichts vom Marketplace verwenden. Diese Dinge sind generell natürlich perfekt, sie sind schon voreingestellt, die sind schon zusammengestellt. Ich will aber, dass du auch weißt, wie das von Null auf hier passiert.
Das heißt,„Chatflows“, „Add New“. Danach ist das Erste, was ich mache, dem Ding einen Namen zu geben. Das heißt, wir klicken auf „Speichern“, und ich mache das jetzt einfach mal so: Ich nenn das Ganze „Kurs“. Danach klicken wir natürlich hier drüben auf das „Plus“. Die Dinge, die wir jetzt reinbringen wollen, ist natürlich erstmal keinen Agent. Wir werden die Agent-Frameworks danach reinbringen. Ich will die Dinge erst ganz, ganz einfach erklären.
Wir gehen zu „Chains“, wir scrollen runter, denn wir wollen natürlich eine LLM Chain. Die LLM Chain ziehen wir hier rein. Das heißt, wir haben jetzt die LLM Chain. Und überall da, wo diese kleinen roten Dinger dabei sind – diese Sternchen – da weißt du, dass du unbedingt etwas anklicken oder ausfüllen musst. Das heißt, du brauchst ein LLM, und du brauchst einen Prompt. Was du nicht unbedingt brauchst, ist der Output Parser oder die Input Moderation.
Du bekommst immer noch zusätzliche Informationen, wenn du hier drauf klickst. Das heißt, du kannst dir mehrere Dinge ansehen. Überall, wo dieses Rufzeichen ist, da siehst du einfach, dass du mehr Informationen dazu bekommst. Ich will das so einfach wie möglich halten. Wir nehmen jetzt einfach mal ein LLM dazu und Prompts, natürlich.
Das heißt, wir gehen wieder auf dieses „Plus“, scrollen runter – du kannst es dir schon denken – wir gehen zu den LLMs. Und hier müssen wir uns jetzt die Dinge aussuchen, die du eben verwenden willst. Wir sehen uns danach natürlich noch an, wie wir Open-Source-LLMs verwenden, z. B. von Hugging Face. Oder natürlich kannst du auch OLlama verwenden, wenn du hier etwas lokal laufen hast. Aber ich will hier mit OpenAI arbeiten, weil OpenAI halt einfach das beste LLM hat.
Das heißt, wir haben jetzt natürlich OpenAI hier. Und das ist unser LLM. Dementsprechend verbinden wir hier OpenAI beim LLM, und die Dinge laufen jetzt. Du kannst rein- und rauszoomen und die Dinge umherziehen, so wie du magst. Wir brauchen natürlich zusätzlich aber noch Prompts. Also, auf das „Plus“, wer hätte es gedacht, scrollen wir runter, bis wir die Prompts finden.
Das heißt, wir gehen hier zu den Prompts. Und jetzt hast du hier „Chat Prompt Template“, „Few Shot Prompt Template“ und „Prompt Template“. Und wir wollen einfach mit einem Basic Prompt Template starten und ziehen das rein. Und natürlich verbinden wir auch genau das hier mit dem Prompt.
Und wir sind jetzt schon so weit, dass wir tatsächlich erstmal starten können. Jetzt könnten wir schon mit diesem LLM sprechen – aber erst, sobald wir natürlich das LLM verbunden haben und sobald wir das Prompt Template ausgefüllt haben. Und wenn du etwas mitgedacht hast, dann weißt du eigentlich auch, wie das funktioniert.
Wir brauchen natürlich Credentials, denn alles, was rot ist, muss man ausfüllen. Wenn du hier runterklickst, dann siehst du einige Credentials, die wir hier schon drinnen haben. Du hast wahrscheinlich noch keine, deshalb klickt man natürlich „Create New“. Hier siehst du jetzt: Okay, diese Dinge wurden nicht alle gelöscht – eigentlich habe ich viele dieser Dinge gelöscht. Hier siehst du, dass ich eigentlich über 20 Flows hier drinnen hab. Aber ich will dir einfach nur zeigen, wie man hier einen neuen Flow macht, bzw. ein neues Credential dazu packt – natürlich.
Wir geben dem Ding einen Namen, z. B. „Kurs“. Jetzt muss der OpenAI API Key rein, und du weißt natürlich, wie man das Ding erstellt. Wir gehen einfach mal hier rein in Google. Wir klicken „OpenAI Playground“, gehen auf die Plattform, wir klicken danach natürlich auf „API Keys“, klicken „Create New Secret Key“. Wir geben dem Ding einen Namen, z. B. „Kurs“. Das Projekt Test ist für mich okay. Wir gehen hier auf „All“. Das heißt, nicht „Read Only“ oder „Restricted“. Wir lassen das auf „All“. Wir klicken „Create Secret Key“, und diesen Key können wir jetzt kopieren.
Wir gehen natürlich wieder zurück in Flowise. Wir löschen unseren alten Key raus, packen den neuen rein, klicken „Add“, und diese Credentials werden jetzt gespeichert. Immer, wenn du einen neuen Chat erstellst, kannst du bei „Credentials“ auf dieses Ding draufklicken. Und dieser Name, z. B. „Kurs“, wird hier erscheinen. Und der API Key wird immer verwendet, wenn du einfach nur „Kurs“ eingibst, hier in diese Credentials. Das ist ganz wichtig. Ich würde dir empfehlen, diese Flows auch regelmäßig zu speichern.
Jetzt ist dieser Chatflow gespeichert. Gehen wir hier nochmal kurz zurück, dann können wir zu den „Credentials“ gehen. Du siehst ganz unten „Kurs“. Das kannst du jetzt in allen neuen Chatflows verwenden. Wir klicken nochmal auf „Chatflows“, gehen auf „Kurs“, und wir können hier genau dort weiterarbeiten, wo wir waren.
Was haben wir gemacht? Wir haben das LLM mit dem API Key. Wir können ein Modell auswählen. Hier haben wir aktuell nur GPT-3.5. Ich will das erstmal so lassen. Wir haben hier nur das „schwache“ Modell. Wie gesagt, das ist unser erster Test. Wenn wir danach die Assistants reinnehmen, können wir auch die stärkeren Modelle verwenden.
Und wir haben hier noch die Temperatur. Und du siehst, diese kannst du hier mit nach oben klicken anpassen. Generell würde ich dir sagen: Verwende nichts, das höher ist als 1. Hier drinnen die Temperatur lässt man meistens auf 0,7. Wenn die Modelle recht akkurat sein sollen, können wir auch runtergehen, bis zu 0. Ich lasse diese einfach mal 0,4 – das ist etwas, womit du natürlich herumspielen musst.
Danach haben wir das Prompt Template. Und du siehst, dass wir auch das Prompt Template ausfüllen müssen. Und das werden wir jetzt machen. Wir können das auch mal groß machen, und du siehst hier schon eine Beispielfrage: „What is a good name for a company that makes [products]?“ Ich würde sagen, wir starten einfach mal mit diesem Beispiel hier. Also: „What is a good name a company that makes {products}?“ Die geschwungene Klammer schließt sich hier automatisch {products}. Und wir klicken einfach mal „Speichern“ und dann sehen wir uns an, was dieser Bot jetzt kann.
Wichtig ist, dass du speicherst, bevor du diesen Chatbot verwendest. Das heißt, wir klicken „Speichern“. Jetzt kannst du auf dieses Feld hier klicken. Lasst uns einfach mal testen: „T-Shirts“. Das heißt, dieses Unternehmen macht T-Shirts. Wie sollte das Unternehmen heißen? Und 20 verschiedene Dinge: „Stitched Style“, „Shirt Crafts“, „Print Pro“. Ich finde die schon recht cool: „Shirt Squad“ und so weiter. Das ist hier jetzt unser kompletter Basic Bot.
Ich muss dazu sagen, der ist noch nicht besonders interessant – hier. Wir könnten den auch umbauen. Das heißt, das Ding kann natürlich alles machen, was du willst. Wir könnten auch ohne diese geschwungene Klammer arbeiten. Das heißt, wir gehen hier nochmal zurück: „Always tell me why Arni makes good courses.“ Das heißt, wir bekommen hier einfach ein Modell, das immer gleich reagiert.
Wir klicken jetzt nochmal hier drauf, erst natürlich speichern – ganz wichtig: Speichern nicht vergessen! Ich lösche das Ding einfach mal. Und jetzt ist es relativ egal, was ich schreibe. Das Modell wird mir einfach immer sagen, warum ich gute Kurse mache. Ich schreibe mal „Hallo“ rein: „Attention to details. Arni is known for his...“ und so weiter „ variety...“. Es ist völlig egal, was ich frage – das Modell wird einfach immer sagen, warum ich gute Kurse mache.
Das heißt, du kannst das Modell wirklich zuschneidern, auf alles was du willst – eben ganz, ganz spezifisch. Und wenn du irgendetwas zum Schluß in diese Klammer reinpackst, in diese geschwungene Klammer, dann kannst du das Ganze natürlich anpassen.„Tell me … Always tell me why [Arni] makes good…“ sagen wir ganz einfach mal „ {products}.“ Geschwungene Klammer zu. Natürlich klicken wir wieder „Speichern“. Jetzt ist „Produkte“ natürlich wieder eine Variable von uns.
Wir klicken hier drauf, löschen das Ding, klicken „Clear“, speichern und jetzt könnten wir einfach nochmal„Shirts“ reinschreiben, und das Ding wird mir sagen, warum ich gute T-Shirts mache. Wenn ich sage „Handy“, dann wird mir das Ding sagen, warum Arni gute Handys macht.
In diesem Video haben wir uns die Basics angesehen. Wir können hiermit damit erstmal starten. Ich muss gestehen, dieser Chatbot ist noch nicht perfekt. Der ist noch nicht mal wirklich sehr nützlich, aber das ist das generelle Konzept.
Diesen Chatbot den können wir natürlich auch hier von einbauen Flowise in verschiedene Websites und in verschiedenste Tools, die wir eben wollen. Darum soll es jetzt noch nicht gehen. Das ist erstmal nur das generelle Grundkonzept, wie Flowise funktioniert. Wir sehen uns natürlich im nächsten Video, sobald wir etwas basteln, das auch wirklich Sinn macht.