Werk:AI mit Arnie/Chatbots für Kunden extern auf Render hosten
- LLMs meistern:
- KI-Agenten (AKIR-Kurs) "Externes Hosting vonfür Kunden auf Render"
- eingerückt ist gekürzt
In diesem Video sehen wir uns an, wie wir unsere Chatbots hosten können, und zwar in der Cloud. Bis jetzt haben wir alles lokal gemacht, zum Bauen, zum Basteln, zum Spielen und für Dinge, die man selbst verwendet, ist das natürlich auch perfekt und der optimale Weg, wie man das angehen sollte. Wenn man diese Chatbots jedoch hosten möchte, sodass sie auch andere Personen verwenden können, oder aber, wenn man natürlich selbst von anderen Orten aus Zugriff haben will auf diese Chatbots, dann muss man diese hosten, und zwar in der Cloud.
Es gibt ganz, ganz viele verschiedene Möglichkeiten. Ich habe einige ausgetestet. Ich lande aber immer wieder bei Render. Render macht das zu einem sehr, sehr günstigen Preis. Und nicht abschalten, denn wir können das Ganze gratis machen, und in diesem Video zeige ich dir, wie du das auch Klick für Klick gratis machen kannst. Jedoch haben wir dabei Nachteile, die du im Laufe vom Video noch sehen wirst.
Generell ist es wirklich günstig, wenn du einen solchen Chatbot für immer hosten willst. Auf Render kostet das tatsächlich nur 7 $ in diesem Starterplan. Und bei diesem Plan bekommst du alles, was du brauchst, um solche Chatbots zu verkaufen. Und das ist natürlich auch ein gutes Geschäft. Du bezahlst nur 7 $, aber bekommst für einen solchen Chatbot natürlich eine gute Summe an Geld, wenn du denn einen richtigen Kunden findest und etwas baust, was dem Kunden hilft.
- Ich habe zum Beispiel einenähnlichen Chatbots, einen Social-Media-Chatbot an eine Social-Media-Managing-Agentur verkauft. Den Leuten ist geholfen, sie sparen viel Zeit, bekommen viele Informationen, viele Skripts, viele Vorlagen. Und sie sparen damit Zeit. Deshalb haben sie mich bezahlt, sogar wenn ich ihnen gesagt habe: „Hey, ihr könnt das selbst lernen, seht euch ein paar Videos von mir an!“ Die machen bereits viel Geld, die haben mehr Geld als Zeit. Dementsprechend kaufen solche Leute solche Chatbots.
Denke einfach immer daran: Was könnte dem Kunden helfen, Zeit zu sparen? Jetzt aber genug geschwafelt. Wie können wir das Ding hosten, und zwar auf Render? Das ist einfach.
Wir gehen auf GitHub. Du hast dir natürlich bereits einen Account gemacht, im Laufe vom Kurs. Zumindest hoffe ich das. Danach können wir hier runterscrollen, und du siehst hier unten danach die Hosting-Möglichkeiten. Hier unten steht Selfhosting. Du kannst das Hosten auf AWS, auf Azure, auf Digital Ocean und viele mehr. Wenn du auf „Others“ klickst, dann siehst du hier „Deploy on Railway“, „Deploy on Render“, sogar auf HuggingFace kannst du die Dinge veröffentlichen. Du kannst das auf ganz, ganz vielen Dingen veröffentlichen. Einige davon habe ich bereits ausprobiert.
Ich muss es dir sagen: Die beste Möglichkeit, zumindest meiner Meinung nach, ist Render. Und wenn du hier auf Render klickst, „Deploy to Render“, dann bekommst du die Dokumentation, die dir die Dinge auch noch mal erklärt, die ich dir jetzt aber sowieso erklären werde. Also sieh dir einfach das Video an.
Wir gehen noch mal zurück. Wir sind hier in Flowise, und das Erste, was wir machen müssen, ist hier „Fork“ zu klicken. Ich muss dir jetzt sagen, ich habe diese Instanz natürlich bereits geforkt, aber du hast das vielleicht noch nicht gemacht. Also klickst du einfach nur ein einziges Mal hier auf „Fork“. Auf der nächsten Seite wirst du gebeten, noch mal „Okay“ zu klicken, und das machst du.
Danach landest du in einer Instanz, die so aussieht. Also, da oben wird dein Name stehen, und daneben steht ganz einfach „Flowise“. Und hier weißt du danach, dass das Forken geklappt hat. Du hast jetzt Flowise geforkt in dein GitHub-Profil. Und jetzt können wir die Dinge auf Render hosten.
Aber vorher will ich dir noch was zeigen: Immer wenn die Dinge alt werden in Flowise, wenn du die Dinge hostest über Render, dann kannst du die Sachen updaten. Und das funktioniert einfach und schnell. Hier siehst du bei mir: „This branch is up to date“. Also, hier habe ich aktuell alles up to date. Wenn es aber nicht up to date ist, dann klickt man einfach „Synchronize Fork“. Hier siehst du danach höchstwahrscheinlich, ob du etwas forken musst oder nicht. Wenn du noch etwas zu forken hast, dann steht hier irgendwas mit „Branch“. Ich habe die genauen Worte gerade nicht mehr im Kopf. Aber wenn du noch was forken musst, dann forkst du einfach nur die Branches, die hier noch zu forken sind. Hier drüben steht dann auch die Nummer, wie viele Branches du noch forken musst. Und das geht unglaublich schnell.
Lange Rede, kurzer Sinn: Du hast jetzt Flowise geforkt in dein GitHub-Profil, und jetzt schmeißen wir das Ding auf Render.
Der nächste Schritt ist natürlich, einen Render-Account zu machen. Dafür gehen wir ganz einfach auf Render. Du kannst das googeln oder natürlich meine Links verwenden. Du klickst auf Render, und hier musst du dich jetzt einloggen. Wenn du das noch nie geöffnet hast, wird das so aussehen. Ich öffne mal einen Incognito-Tab. Das heißt, ganz oben steht „Get started“ oder „Sign in“. Natürlich, wenn du hier noch nichts gemacht hast, jemals, dann klickst du „Get started“ und machst dann den Account ganz normal so, wie du immer die Accounts machst. Du kannst dich mit Google einloggen. Du kannst auch ganz normal mit Mail und Passwort das Ganze machen. Falls du schon einen Account hast, dann klickst du natürlich auf „Sign in“ – auch hier mit Google. Und sobald du dich einloggst, landest du auf einer Webseite, die so aussieht.
Du siehst: Ich habe hier einige Dinge schon deployed von Flowise. Aber wenn du dich hier das erste Mal einloggst, dann hast du höchstwahrscheinlich noch gar nichts hier drinnen. Oder eigentlich ganz sicher hast du gar nichts. Wenn du hier Flowwise hosten willst, dann klickst du einfach auf „New“. Wir müssen auf „Web Service“ klicken. Danach „Build and deploy from Git Repo“. Das ist natürlich, weil du das in GitHub schon geforkt hast. Du klickst „Next“.
Wenn du hier das erste Mal bist, dann wirst du höchstwahrscheinlich gefragt, ob du GitHub verbinden willst. Das könnte irgendwo hier stehen, und natürlich klickst du dann „Connect Account“. Sobald das Ding connected ist, wird das da auftreten. Und hier klickst du natürlich jetzt „Connect“.
Also, erstmal GitHub mit Render connecten, und danach connecten wir unser GitHub-Repo mit Render. Also wir klicken „Connect“. Du landest natürlich auf dieser Seite, und hier geben wir einen Namen: Flowise habe ich schon, ich mache einfach mal „Flowise1234“. Warum denn nicht? Nachdem du einen super kreativen Namen ausgesucht hast, solltest du die Region angeben. Wir klicken hier einfach drauf, und ich klicke hier ganz einfach auf EU, also die Zentralzeit.
Die Branch, die lassen wir hier auf „Main“. Die Runtime: Hier kannst du verschiedene Dinge verwenden. Alle verwenden hier das Ganze etwas anders. Das Einfachste ist, das Ding auf Docker zu lassen.
Und jetzt kommt das: „Instance Type“. Das wird jetzt wichtig. Es wird hier schon automatisch – wenn du die Kreditkarte hinterlegt hast, so wie ich – dann wird automatisch dieser Starterplan hier gewählt. Ich will aber jetzt schon sagen: Den musst du nicht verwenden. Das heißt, du musst jetzt keinen Cent ausgeben.
Wenn das ein Projekt werden soll, das du hosten willst und zwar über lange Zeit, das du zum Beispiel für einen Kunden baust, oder du willst einfach wieder und wieder auf dieses Projekt zugreifen, dann solltest du diese 7 Dollar pro Monat bezahlen. Ich hoffe, das macht uns nicht arm.
Aber natürlich: Falls du das jetzt erst mal testen willst, dann machst du das so, wie ich es in diesem Tutorial mache. Wir klicken auf „Free“, und du siehst hier, welche Dinge wir als Nachteil haben. „Free instances spin down after periods of inactivity“. Das heißt, wenn du eine Weile nichts machst im Flowwise, dann werden die Dinge automatisch offline genommen. Das ist hier tatsächlich der größte Nachteil. Wenn du eine Weile nichts machst, dann wird das Zeug offline genommen.
Und du hast auch keine sogenannte Persistent Disk. Das heißt, deine Chatflows werden ganz, ganz schnell wieder verschwinden. Wenn du also hier drinnen Dinge baust in Flowise, gehostet über Render und nicht bezahlst, dann werden deine Projekte, deine Chatflows und alle Daten gelöscht.
Wie gesagt, für ein Tutorial natürlich kein Problem. Willst du das Ding aber hosten – für dich oder für einen Kunden –, dann brauchst du den Starterplan. Wie gesagt: Bau das Ganze nach im Gratisplan, wenn du magst. Ich verwende also „Free“, damit wir hier genau die gleichen Dinge verwenden.
Und wir gehen runter. Jetzt gibt es hier die „Environment Variables“, und diese Variablen, die sollten wir auch eingeben. Wenn man in die Dokumentation von Flowise reingeht – also auf Flowise rein, dann natürlich „Deployment Environment Variables“ –, dann sehen wir hier, dass wir verschiedene Möglichkeiten haben.
Wenn du die Dinge lokal hostest, dann weißt du, hast du natürlich immer diesen 3000er-Server. Jedoch müssen wir hier ein paar andere Dinge beachten: „Flowise Username“ und „Flowise Password“. Ich würde das Ding wirklich angeben, außer du willst das Zeug wirklich nur testen. Wenn du es testest, ist es okay. Aber wenn du es wirklich veröffentlichen willst, für einen Kunden, dann sollten wir natürlich ein Passwort verwenden, weil sich sonst alle Leute einloggen können hier.
Natürlich wollen wir erstmal den Username verwenden. Das heißt, diese Variable können wir kopieren. Wir gehen hier zurück. „Name of Variable“ – also wir fügen hier ganz einfach „Flowise Username“ ein. Und wie sollte dieser User heißen? Ich mache hier einfach mal „Arnie“. Das Ganze solltest du im Optimalfall so sicher wie möglich machen. Du kannst auch noch einen stärkeren Namen verwenden.
Als nächstes natürlich eine weitere Variable. Und welche Variable? Natürlich das Passwort. Wir kopieren also das Passwort – bitte nur das Passwort. Du kannst das auch selbst eintippen. Ich mag aber kopieren. Und jetzt müssen wir ein Passwort eingeben. Und ich mache das wieder ganz einfach: „Arnie123“. Bitte macht das Ganze etwas sicherer, wenn du das wirklich für längere Zeit hosten willst. Das Letzte, das wir einfügen wollen, ist hier die „Node Version“. Also wir machen das Ganze so: „Node_Version“. Welche Version sollte das Ganze sein? 18. Also 18.18.1. Es ist hier wichtig, dass du eine höhere Version verwendest als hier steht, und zwar natürlich bei Flowise: 18.15.0. Es muss ganz einfach höher sein als das da. Bis jetzt funktioniert die 18.18.1 hervorragend. Deshalb will ich es einfach mal bei dieser hier belassen.
Danach gehen wir runter und wir klicken jetzt auf „Create Web Service“. Und du siehst auch das hier: „Your free instance will spin down with inactivity, which can delay requests by 50 seconds or more“. Das heißt ja, das Ding ist langsam, und ja, das Ding wird automatisch gelöscht. Wie gesagt, das ist hier nur als Tutorial gedacht. Willst du das hosten, dann bezahl halt diese 7 Dollar im Monat. Das Ding dauert jetzt meistens so 2, 3, 4 Minuten. Wir müssen ein klein wenig Geduld mitbringen.
Jetzt aber noch etwas ganz, ganz Wichtiges: Ich bin hier jetzt extra noch mal in Render reingegangen. Wenn du hier diesen Plan verwendest, dann kannst du eine Persistent Disk hinzufügen. Das heißt, wenn du diese 7 Dollar im Monat bezahlst, dann kannst du natürlich absolut deine Dinge speichern.
Und wie machst du das? Dafür klickst du auf „Advanced“, und wir müssen hier eine Persistent Disk verwenden. Hier bei „Advanced“ natürlich „Add Disk“. Und bei „Add Disk“ musst du jetzt zwei Dinge eingeben: den Namen deiner Disk – es ist völlig egal, du kannst sie „Arni“ nennen, du kannst sie „Flowwise“ nennen, du kannst sie „Flowise Disk“ nennen, es interessiert mich nicht wirklich, wie du das Ding nennst – und danach die Size. Die ist mehr als groß genug, wenn du sie einen Gigabyte groß machst. Das ist wirklich mehr als genug für Flowise.
Und jetzt der „Mount Path“. Der „Mount Path“ ist wichtig, den musst du genauso eingeben: /opt/render/.flowise. Also noch mal: /opt/render/.flowise. Das wird wichtig, weil wir das jetzt gleich noch dreimal kopieren müssen. Also der Name – in meinem Fall „Flowise“ – du kannst das Ding nennen, wie du willst. Und der „Mount Path“: /opt/render/.flowise.
Als Nächstes müssen wir weitere Variablen hinzufügen. Wir gehen jetzt einfach mal davon aus, dass du natürlich von vorhin noch die „Node Version“ mit drinnen hast, den „Flowise Username“ und natürlich auch das Passwort drin hast. Das heißt, diese Dinge stehen bei dir natürlich schon.
Ich habe hier noch mal eine neue Disk aufgemacht, damit ich die Dinge separat zeigen kann – diesmal natürlich mit deinem Bezahlplan. Da würdest du natürlich auch wieder „Node Version“, „Username“ und „Password“ machen. U
nd jetzt noch folgende drei Variablen: Also, diese drei Pfade müssen hier unbedingt rein: „Database Mount_Path“ – immer derselbe Pfad –, dieser „Mount Path“. Danach der „API Key Path“ – wieder genau derselbe Pfad. Und danach den „Log Path“ – wieder derselbe Pfad, aber zum Schluss „/logs“ dazu. Als Letztes kannst du noch den „Secret Key Path“ hinzufügen. Also „Secret Key Path“. Und auch das ist wieder genau derselbe Pfad.
Und danach klickst du natürlich auf „Create Web Service“. Und du hast das gleiche Ding laufen wie ich hier schon laufen habe. Das Ding ist immer noch am Installieren, also sehen wir uns, sobald das installiert ist.
Bitte erinnere dich: Wenn du hier nicht bezahlst, wenn du den Gratisplan verwendest, dann brauchst du all diese Dinge nicht. Wenn du aber diesen Starterplan verwendest, dann brauchst du eine persistente Disk. Die solltest du hinzufügen, gib ihr einen Namen, füge das da ein und danach solltest du noch diese Variablen hier hinzufügen. Und so, das war's.
Sobald hier „Live“ steht, kannst du auf diesen Link da oben klicken, und du wirst direkt zu Flowise weitergeleitet. Du musst jetzt natürlich „Username“ und „Passwort“ eingeben. Ich glaube, ich war hier bei „Arnie“ und beim Passwort „123“, sofern ich mich noch erinnere.
Wir können uns einloggen, und wir sind jetzt hier. Ich will das hier speichern – komm schon, ist okay – und wir sind jetzt in Flowise. Das Erste, natürlich: den Dark Mode rein.
Und wir können jetzt all die Dinge so zusammenbasteln, wie du es schon gelernt hast. Du findest alles ganz, ganz genau gleich, wie du es eben schon gewohnt bist. Und du kannst dieses Interface jetzt abrufen, völlig egal, wo du bist. Und natürlich auch, wenn du einen Chatbot hostest, wird dieser funktionieren – für andere Leute.
Das ist hier das Wichtigste von allem. Also, du hast jetzt etwas laufen in der Cloud. Das wird auch erst mal da bleiben. Wenn du im Gratisplan bist, wird es gelöscht mit der Zeit. Wenn du hier diese 7 Dollar bezahlst, und ganz wichtig: Wenn du die Persistent Disk mit hinzugefügt hast, so wie ich es dir gezeigt habe, dann wird das Ding laufen, dann wird es da bleiben. Dann kannst du es verkaufen, immer wieder verwenden, damit machen, was auch immer du willst, weil du eine App gehostet hast bei Render. Glückwunsch!
In diesem Video hast du gelernt, wie du Flowise hosten kannst – über Render. Meiner Meinung nach ist das die allerbeste Möglichkeit, um Flowise zu hosten.
Du gehst auf GitHub, du musst das GitHub-Repo forken. Nachdem es geforkt ist, kannst du es auf Render „deployen“. Du machst ganz einfach nur die Dinge nach – Klick für Klick, so wie ich es dir gezeigt habe. Willst du es als Tutorial verfolgen, verwendest du den Gratisplan. Willst du es aber für immer hosten im Internet, sodass deine Chatflows auch erhalten bleiben, dann musst du das Ganze in diesem Starterplan machen: 7 Dollar bezahlen, einen Gigabyte auswählen, und Persistent Disk und diese Variablen hinzufügen, damit du dich erstens sicher einloggen kannst und damit die Dinge auch für immer gespeichert werden.
Der größte Vorteil ist, wie schon gesagt, dass du diesen Chatbot auch hosten kannst und dass andere auf diese Chatbots zugreifen können.
Und im nächsten Video sehen wir uns an, wie wir diese Chatbots verwenden können in verschiedensten Umgebungen. Wir können die als Standalone-App verwenden, aber wir können die natürlich auch in Webseiten einbauen. Und darum geht es im nächsten Video.