Werk:AI mit Arnie/KI Agenten mit Function Calling

YT: 7 KI Agenten mit Function Calling, Internetzugriff und drei Experten (13:30)

nach unserem ersten Framework natürlichden solltest du speichern aber nachunseren ersten Framework machen wir denzweiten und der ist generell ähnlichaufgebaut das heißt wir gehen zurückagentfows add new wir klicken das Pluswir brauchen wir immer einen Supervisorwir brauchen Arbeiter und diesmal willich drei Arbeiter verwenden das heißt 12 und D du kannst auch hochgehen aufvier oder fünf ich muss aber dazu sagenbei open sourceemellen sind dreizumindest wie ich das aktuell sehe sodas Maximum das man machen kann dennsonst werden die Open Source Modelle zudumm ja das wird sich ändern mit Zeitund ja wenn du auf deinem lokalenComputer ein 70 Billionen Parameterlama3 Modell laufen lassen kannst im Q8Format dann wird es das Dingwahrscheinlich auch schaffen und spätersehen wir uns natürlich auch noch an wiedu GPU Power ausleihen kannstnichtsdestotrotz ich will das jetzt mitmeinem einfachen Lama 3 machen 7Billionen und zwar in Q4 und ich hoffedass es schlau genug ist ich verbindehier erstmal natürlich unserenSupervisor mit den drei Arbeitern Boomdas haben wir jetzt gemacht danachbrauchen wir natürlich wieder daschatmodell und das chatmodell ist malwieder natürlich olama mit functioncalling wichtig habe ich auch erstvorhin wieder gemerkt man brauchtfunction calling das verbinden wir derlokale Host der läuft natürlich immernoch das haben wir ja vorhin schongesehen das heißt olama ist running undjetzt müssen wir natürlich wiederhierher gehen den modelnen Lama 3 dieTemperatur die kann ich tatsächlichdiesmal auf 09 lassen denn hier habenwir auch etwas Kreatives Schreiben mitdabei also die Dinge die ich jetztmachen will die erfordern auch ein kleinwenig Kreativität jetzt sollte unsererster Arbeiter das sollte sowas werdenwie ein researcher das heißt der wirdZugriff zum Internet haben und das Webdurchsuchen unser zweiter Arbeiter wirddanach einen kreativen Artikel schreibenüber die Dinge die unser erster Arbeiterzusammengetragen hat und unser dritterArbeiter der wird danach aus diesemArtikel ein paar Tweets machen unsergenerelles Konzept ist dass ich eineSocial mediaagenten haben will ich gehedavon aus dass du z.B eine Webseite hastund du willst auf deiner WebseiteArtikel veröffentlichen da du zusätzlichauch noch auf Twitter bzw auf bistwillst du natürlich noch ein paar tuitsraussenden damit sich Leute eventuelldeinen Artikel durchlesen natürlichwillst du über Dinge schreiben dieaktuell in der Welt passieren und jetztwill ich dir zeigen wie wir daseventuell machen könnten das erste wasich machen will ist natürlich dieprompts zu schreiben für meine Arbeiterdas heißt ich speichere erstmal das Dingund ich nenne das Ding jetzt einfach malContent Maschine und ich klicke savejetzt gehen wir hier wieder zu zurückdenn die Content masaschine müssen wirnatürlich mal wieder Füttern mit denDingen die wir bauen wollen das heißtwir gehen hier natürlich in diese Agentflows prompts für Agenten und jetzt willich die prompts schreiben natürlich fürunseren kleinen ki-agenten ich klickhier wieder drauf und wir schreiben hierwas wir haben wollen ich kläre den altenChat und wir sollten das möglichst sogarauf Englisch beschreiben und ich machedas ganze hier in Englisch weil es etwasbesser Funktion falls du Englisch nichtkannst du kannst es auch mit Deutschprobieren unseren Output werden wirnatürlich auf Deutsch bekommen aber ichhabe die Erfahrung gemacht dass geradebeim prompts schreiben englische promptsbesser funktionieren ich sage ih ganzeinfach ich will drei Arbeiter einArbeiter soll das Web durchsuchen umneue Informationen zu bekommen derandere Arbeiter soll einen Blogpostschreiben für Männer die 30 bis 50 Jahrealt sind und der dritte Arbeiter sollfünf Tweets machen von dem vorherigenArtikel und der Output soll natürlich inDeutsch sein ich schick das ganze jetztlos und jetzt bekommen wir hoffentlichdrei Spezialisten also drei Arbeiter undich bekomme die prompts und den Namenvon diesen Typen und die können wirdanach einfach nur kopieren und einfügenich eröffne inzwischen natürlich wiedereine leere Textdatei wo ich die Dingealle einfügen kann und die Agenten sindein paar Mal hin und und her gegangen umdie Dinge besser und besser und besserzu machen und das finale Ergebnis istdas da der Agent Nummer 1 nennt sich Webresearcher mit diesem System prompt under sagt natürlich zum Schluss dass erder den Output in Deutsch machen sollder zweite Agent ist der Content wrriterdas da ist der systemprompt undnatürlich auch hier der Output soll inDeutsch sein und es sollen 800 bis bis1000 Wörter werden der Agent 3 SocialMedia Spezialist und auch hier drunterdie fünf Tweets sollten auf deutsch seindementsprechend will ich natürlich dieseDinge alle kopieren ich schmeiß dasnatürlich in eine leere Textdatei hierdrüben also habe ich gerade hierreingefügt damit wir danach besserarbeiten können ich lösche das ganzeclear das passt schon so wir gehenzurück bei unseren Agent Flow wollen wirnatürlich die Content Maschine haben undbei der Content Maschine werde ich jetztdiese promt mit einfügen der ersteArbeiter der nennt sich webrresesearcher ich kopiere die Dingeeinfach von hier drüben rüber und derSystem prompt also ich kann dir das auchzeigen der systemprompt ist natürlichdas da bis hier runter und es wird auchimmer gesagt best this report to thecontent writer also nachdem dieser Typdie Aufgabe fertig hat soll natürlichdanach der Content writer getriggertwerden das heißt ich kopiere das wirgehen hier rein ich mache das groß ichlösche das Ding hier raus ich füge dasein und ich klicke save danach mache ichdas gleiche mit dem zweiten der Name istContent wrriter ich füge den Contentwrriter hier rein der systemprompt gehtbis hierrunter und bup ich mache das groß ichlösche das raus ich füge das da ein unddu siehst auch hier wieder ein Deutsches soll in 800 bis 1000 Wörter sein under soll sobald er fertig hat in SocialMedia Spezialisten aktivieren ich klickeHIER save und zum Schluss natürlich nochder Social Media Spezialist ich kopieredas ich füge das hier ein ich mache daswieder groß den System promt bis hierrunterBkopieren wir löschen das alte natürlicherstmal raus fügen das neue ein undklicken save jetzt speichere ich daserstmal natürlich aber dir fälltvielleicht etwas auf der erste Arbeiterder sollte natürlich das Internetdurchsuchen und das müssen wir jetztnatürlich machen das heißt er brauchtInternet Zugriff dafür klicke ich hiernatürlich das Plus und was brauchen wirnatürlich wir brauchen Tools und wennich auf diese Tools klicke dann siehstdu hier vielleicht schon dass ichähnliche Tools mit einbauen kann wie inanything LM wir haben die Google CustomSearch wir haben aber auch wieder unsereServer API also da ist das Ding ServerAPI und da da wir in der Server APIbereits einen API Key gemacht haben willich das Ding verwenden das heißt ichverbinde das Tool natürlich mit demersten Arbeiter der soll Zugriff zumInternet haben und wir müssen dieCredentials hier reinfügen und ich hoffedu weißt noch wie das geht wir googleneinfach serper API Keys wir müssen unsnatürlich Einloggen in unseren serperAccount habe ich jetzt schon gemachtdiesen Key den kann ich jetzt kopierenich kann i resetten was auch immer icheinfach mal copy ich hoffe du weißt nochwie das geht eigentlich hätte ich hiersogar schon credentials ich will aberneue erstellen dass du siehst wie dasgeht das heißt create new ich nenne dasganze einfach mal serber ich lösche dasDing hier raus wir fügen die credentialsein wir klichen ad und jetzt sollte dasDing hier getriggert werden das heißtLama 3 unser lokales Lama wird Hergendanach wird der Supervisor getriggertder Supervisor sollte unseren erstenArbeiter triggern der erste Arbeitersollte das Web durchsuchen für neueInformationen der zweite Arbeiter solldiese neue Informationen hernehmen undeinen Artikel schreiben für unsereWebseite für Männer die 30 bis 50 Jahrealt sind sobald wir den Artikel habensollte danach unser Social MediaSpezialist hergehen und fünf Tweetsdavon machen ich will das jetzt einfachmal testen das heißt speichern natürlichwir klicken hier drauf Artikel über denaktuellen bitcoinpreis sagen wir du hasteine Webseite im Finanzbereich du hastgehört dass Bitcoin gestern etwasnachgegeben hat und du willst einenArtikel darüber schreibendementsprechend muss natürlich unserArbeiter erstmal hergehen und rausfindenwo der bitcoinpreis steht dass dergestern etwas gesunken ist odervorgestern danach müssen wir den Artikelschreiben von den Infos die der ersteArbeiter zusammengetragen hat und danachdie Tweets und ich schick das Los daskann natürlich ein klein wenig dauernalso du siehst der Supervisor gibterstmal diese Angabe raus an denwebresearcher der webr resesearcher hatsofort schon den aktuellen Preisgefunden jetzt wird natürlich derSupervisor wieder hergehen und das ganzesollte weitergehen ich mache das ganzemal groß und zeig dir was passiert istdenn dieser kiagent ist jetzt ein paarmal hin und her gegangen ich musste densogar einmal neu starten wie gesagt dieModelle sind natürlich nicht so 100%akkurat ich habe noch mal kurz gefragtbitcoinpreis also das ist das einzigewas was ich reingeschrieben habebitcoinpreis danach ist der Supervisorhergegangen und er sagte dass deraktuelle bitcoinpreis gefunden werdenmuss der websearcher hat natürlich dersearch tool verwendet und er meinte 1000$ ist der bitcoinpreis klicke ichhier drauf dann siehst du auch dass hierunsere Suche verwendet wurde und klickeich auf mein Trading view dann sehe ichauch dass000$ natürlich akkurat ist das heißt dieWebsuche funktioniertdanach hat unser Supervisor einenkleinen Fehler gemacht denn er sagtetatsächlich zum Social Media Expertendass wir Posts haben wollen zu Bitcoindiese Posts habe ich auch bekommendanach ist unserem Experten aberaufgefallen dass wir erstmal natürlichauch den Content wrriter brauchen bevorwir unsere Posts machen dementsprechendgut angepasst hier hat automatischfunktioniert ein gesunder Lebensstil fürMänner und so weiter das heißt wirbekommen jetzt einen Artikel überBitcoin und ich denke das wurde hier inVerbindung gebracht tatsächlichmit gesundem Lebensstil na ja das passtschon so darüber kann man sich streitenvielleicht wenn ich etwas genauergewesen wäre als einfach nurbitcoinpreis dann würde das natürlichetwas besser funktionieren und zumSchluss ist unser superweiser wiederhergegangen und wir haben natürlich auchnoch unsere Tweets bekommen und zumSchluss bekomme ich fin zurück und nochmal die Tweets zusammengefasst du siehstall das funktioniert manchmal bessermanchmal schlechter je nachdem welchesModell du reinholst das generelleKonzept ist einfach ja man kann mehrereModelle mit reinholen ja die Modellekönnen sich gegenseitig triggern undunterhalten und ja diese Modelle werdensmarter und smarter und smarter und ichdenke ki-agenten sind das nächste großeDing sobald die Modelle nur noch etwasschlauer werden besonders die die OpenSource Modelle funktioniert das Ganzenatürlich viel viel viel besser wenn duhier jatgbt4 omni mit einklickst miteinem API Key dann funktioniert dasnatürlich auch noch ein klein wenigbesser aber das generelle Konzept istwahnsinnig wahnsinnig praktisch versuchdir einfach mal anen solchen kieragentenzu basteln denn du kannst hiertatsächlich Lokal etwas bauen das auszwei drei würtern deine gesamtecontentstategie überarbeiten könnte einArbeiter kann z.B research machen zuwelchenem Thema du auch immer willst dernächste kann einen Blogpost machen dernächste kann Tweets machen wieder dernächste könnte z.B ein Youtube Scriptmachen oder Instagram Post oder was auchimmer und diese ganzen KI Agenten dieArbeiten hier alle zusammen mit einemeinzelnen Befehl und ich denke das istnatürlich richtig richtig praktisch füruns also in dem Sinne bitte pasastel einklein wenig um mit diesen kieragentenwie gesagt es gibt viele viele weitereFrameworks aber in flowwise funktioniertdas am einfachsten meiner Meinung nachsogar am besten ja wir haben creui wirhaben agency SWM wir haben Autogen wirhaben viele viele mehr aber ich denkewirklich mit flowwise haben wir daseinfachste Tool was gleichzeitig sogarnoch am besten funktioniert also testedie Dinge auf alle Fälle aus ich denkedas ist der nächste große Schritt nachvorne wenn wir über ki-agenten sprechentatsächlich wir sehen uns im nächstenVideo