Werk:AI mit Arnie/Das Grundgerüst des ersten Chatbots
Wir sitzen vor einer leeren Pipeline, und in diesem Video werden wir die Pipeline natürlich füllen. Also los geht's. Das Allererste, was wir machen müssen in dieser Pipeline von Vector Shift, ist natürlich hier Dinge hinzuzufügen. Und wir starten mit der Input-Node. Das heißt, wir klicken darauf, und sofort haben wir die Input-Node hier mit integriert. Du siehst, wie einfach das läuft. Und natürlich hat jedes Ding, das einen Anfang hat, natürlich auch ein Ende. Das heißt, wir brauchen auch nach dem Input die Output-Node.
Das heißt, wir haben jetzt Input und Output, und diese Nodes kann man ganz generell gesprochen miteinander verbinden. So gut wie jede Node kann man miteinander verbinden, es passt aber nicht immer überall dazu. Du siehst, die heften von alleine an, wo es passt. Das heißt, diese Input-Node passt auf diese Output-Node, und du kannst die Dinge so umherziehen, wie es dir passt. Und hier unten siehst du die kleine Skizze, wie das eben aussehen soll, und du kannst natürlich rein- und rauszoomen, so wie du willst. Jetzt haben wir hier bereits etwas, das wir testen können, auch wenn es noch nicht viel Sinn macht. Also lasst es uns testen.
Um das zu testen, klicken wir auf "Run". Das heißt, "Run Pipeline" hier oben. Hier haben wir "Standard" und die "Chatbot-Ansicht". Die Chatbot-Ansicht zeigt uns einfach beide Nodes hier, die Standardansicht zeigt uns natürlich nur die Standardansicht. Dieses Ding schickt ganz einfach Input zu Output. Das heißt, Input und Output ist hier das Gleiche. Wir können das ja mal testen. Wir klicken also einfach mal auf Chatbot und sagen hier "Hey Bot". Wir können das Ganze abschicken. Du siehst hier unten, das ist der Input, der wird sofort hier in den Input geschickt, und das kommt dann ganz einfach nur rüber in den Output. Das läuft hier alles natürlich im Hintergrund mit Code, ähnlich wie wir das in Google Colab gemacht haben, aber mit diesem Drag-and-Drop-Tool.
Das heißt, wir schicken das Ganze, und wir werden danach natürlich "Hey Bot" als Antwort zurückbekommen, weil Input das Gleiche ist wie Output. Und dieses grüne Häkchen zeigt uns ganz einfach, dass beide Nodes richtig ausgeführt worden sind. Bekommst du irgendwo in deiner Pipeline nicht ein solches grünes Häkchen, dann bedeutet das, dass die Node nicht richtig ausgeführt worden ist. Aber bis jetzt natürlich alles gut hier.
Okay, dieser Input und Output alleine, das ist natürlich noch nicht wirklich gut genug. Wir müssen hier Dinge mit einbauen, damit das Sinn macht. Ich schließe das nochmal. Wir können diese Verbindungen unterbrechen. Wir klicken einfach einmal und danach nochmal drauf, und diese Verbindung ist unterbrochen. Wenn du übrigens sowas löschen willst, dann kannst du auch auf das da klicken oder Rechtsklick und danach "Delete". Du kannst dir auch die Dokumentation ansehen oder das Ganze duplizieren. Sobald es dupliziert ist, merkst du, dass du es nicht mehr brauchst, und wir löschen es.
Was wir jetzt aber brauchen, ist natürlich ein LLM. Also gehen wir auf "LLMs", und ich verwende hier einfach mal OpenAI als LLM, weil es das stärkste LLM ist. Und jetzt können wir hier die Dinge natürlich miteinander verbinden. Das da ist der Input. Wir starten erstmal ohne den Input. Das heißt, ich verbinde einfach nur das LLM mit dem Output. Und jetzt haben wir hier eigentlich ChatGPT. Das ist ganz einfach, spricht mit unserer Node hier.
Ich muss jetzt dazu sagen, du kannst einen persönlichen API-Key verwenden, und den API-Key kannst du hier einfügen. Das ist natürlich genauso, wie wir es in Google Colab gesehen haben. Du kannst aber, ich glaube, für einen Dollar die API-Keys von diesem Tool testen. Das heißt, diesen einzelnen Dollar, den können wir uns erstmal sparen, und wir können einfach nur das Modell hier verwenden, das sie uns eben zur Verfügung stellen. Ich würde sagen, GPT-4 Turbo oder GPT-4o ist hier natürlich perfekt. Ich verwende einfach mal GPT-4o, jetzt.
Jetzt brauchen wir einen System-Prompt und natürlich einen normalen Prompt. Und du kennst natürlich die Geschichten hier. Du weißt, wie all das funktioniert. Der Systemprompt, der könnte natürlich sowas sein. Und was ist der Prompt? Natürlich, der Prompt kommt vom User hier, der kommt von Input. Deshalb können wir den Input ganz einfach verbinden, schwups, hier mit dem Prompt. Danach können wir in diesen Chatbot ganz einfach reinschreiben. Danach wird hier OpenAI reagieren, dazwischen mit diesem LLM.
Der System-Prompt ist hier: Du bist ein Assistent namens "Dodel", der Fragen zu LLMs beantwortet. Und danach bekommen wir unseren Output. Das können wir testen. Wir gehen dafür wieder auf "Run". Wir klicken auf Chatbot, und wir können hier natürlich die Dinge ganz einfach nur fragen: "Hey, wobei hilfst du?" Wir können das einfach mal so fragen. Ich nehme an, der Chatbot sagt uns hier, dass er "Dodel" heißt und dass er Fragen zu LLMs beantwortet. Und du siehst hier grüne Häkchen, sieht alles gut aus. Und das Ding sagt uns: "Hallo, ich helfe dabei, Fragen zu großen Sprachmodellen, Large Language Models (LLMs), zu beantworten. Das umfasst Themen wie deren Funktionsweisen, Anwendungen, Vorteile, Herausforderungen und vieles mehr. Wenn du spezifische Fragen hast oder mehr über ein bestimmtes Thema wissen möchtest, lass es mich einfach wissen.“
Das ist natürlich großartig. Wir haben jetzt nicht gefragt, wie das Ding heißt. Das lassen wir so stehen. Ich nehme an, er sagt uns auch, er heißt Dodel, wenn wir nachfragen. Und im Groben wäre das auch schon unsere erste Mini-Applikation. Ja, die Applikation ist nicht gut. Ja, die kann bis jetzt nur ganz, ganz einfach Antworten hier. Und ja, wir haben uns noch nicht angesehen, wie wir die Applikation verwenden können und wie wir die spezifisch zuschneiden.
Aber dennoch war es das erstmal für dieses Video, denn im nächsten Video sehen wir uns an, wie wir das Ganze viel, viel, viel hilfreicher machen können. Denn in diesem Video haben wir einfach nur uns angesehen, wie wir hier ChatGPT mit reinholen.
Erinnere dich daran, wir bekommen ein paar Gratis-Kredite von Vector Shift zur Verfügung gestellt. Wir sollten die verwenden, und wenn die aufgebraucht sind, tja, dann können wir ja natürlich unseren OpenAI API-Key verwenden. Du weißt, wo du ihn findest, du weißt, wie du ihn einfügst, ganz genauso wie in Google Colab. Also, wir sehen uns im nächsten Video.