Werk:AI mit Arnie/Microsoft Autogen im Überblick
Ich will noch ganz, ganz kurz Autogen anreißen. Autogen ist ein cooles Projekt von Microsoft. Das GitHub-Repo ist richtig toll, tatsächlich. Es gibt andauernd Updates hier, man bekommt wirklich fast wöchentlich Updates. Denn hier bei diesem Framework passiert relativ viel. Ich muss dazu sagen, ich persönlich … ich verwende Autogen so gut wie gar nicht mehr. Ich habe Autogen für eine Weile verwendet. Ich habe es damals oft ganz einfach in Python laufen lassen. Es gibt viele verschiedene Möglichkeiten, wie man das Ding laufen lassen kann. Man kann es auch in Google Colab laufen lassen. Und hier bekommt man wirklich ganz, ganz, ganz viele Informationen auf diesem GitHub-Repo.
Ich will einfach nur einen klitzekleinen Überblick geben, in diesem Video, von einigen Beispielen, die Microsoft hier selbst gebracht hat. Sie haben auch ein Google Colab Notebook rausgebracht. Also sehen wir uns ganz, ganz kurz Autogen an. Autogen ist generell ein riesengroßes Tool, um ehrlich zu sein. Du musst es nicht wirklich kennen. Denn der Conversational Agent in Flowise ist meiner Meinung nach überlegen. LangChain mit LangGraph ist hier wirklich ein Tool, das beinahe unschlagbar ist.
Das hier ist auf der Seite von Microsoft. Hier beschreiben sie dir einfach nur, wie eigentlich dieser Autogen funktioniert. Stellen wir uns das ganz, ganz einfach vor: Dann sprechen hier ganz einfach nur zwei, sozusagen AI-Agenten miteinander. Und die zusammen schaffen es ganz einfach komplexere Probleme zu lösen. Du siehst: Hier spricht der eine Agent mit dem anderen. Und zusammen finden sie heraus, wie sie den Aktienpreis von Meta und Tesla vergleichen könnten. Sie sprechen ganz einfach miteinander, verbessern den Code, holen sich die Dateien genau dort, wo sie sie brauchen. Generell sprechen hier also zwei Agenten miteinander, und wir brauchen so gut wie nichts mehr machen.
Wenn der Output von GPT falsch ist, dann muss man ihn andauernd sagen. „Hey, mach das anders, hey, das musst du noch hinzufügen, das hat nicht funktioniert. Als Nächstes machst du das...“ und so weiter. Hier geben wir den zwei Agenten einfach nur den Output, also das, was wir haben wollen. Und danach arbeiten die so lange, bis sie das Endergebnis haben. Das Coole ist auch, dass man hier nicht nur mit ChatGPT arbeiten kann, sondern man kann auch andere Large Language Models, sozusagen, einstöpseln. Man könnte auch zum Beispiel LLaMA odr Anthropic einstöpseln.
Hier kannst du dir die Zusammenfassung auch noch mal in Microsofts Worten durchlesen. Sie sagen dir einfach nur, dass man hier LLMs sozusagen verwendet. Und dank diesen zwei Agenten werden die besser. Das sind meine Worte für diesen Satz. Das Coole ist eben: Man gibt das Endergebnis und danach arbeiten diese Agenten automatisch für uns. Auch hier wird es noch mal beschrieben: Generell arbeitet hier einfach ChatGPT mit Code-Interpreter und Plugins zusammen. Dazu noch Bing, und die Typen sprechen ganz einfach untereinander und versuchen, die Probleme zu lösen. Und es ist sogar die Möglichkeit, dass Menschen ab und zu gefragt werden: „Hey, was soll ich als Nächstes machen?“
Lies dir gerne den Artikel durch. Aber was dich jetzt vielleicht wirklich interessiert, ist, wie man das Zeug verwenden kann. Und es gibt zwei Möglichkeiten: Wenn du Programmierer bist, dann ist das relativ einfach für dich. Du hast mit Sicherheit schon Python installiert und du kannst das alles mit Python lokal auf deinem Computer laufen lassen. Für alle Nichtprogrammierer funktionieren diese Google Colabs sehr gut. Hier haben wir also einige Beispiele. Ich klicke ganz einfach mal auf das erste. Hiermit können wir Code generieren, und wir werden danach in diesem Beispiel tatsächlich, so wie wir vorhin schon gesehen haben, die Aktienkurse von Tesla und Meta vergleichen.
Klicken wir darauf, dann landen wir auf GitHub. Auf GitHub war dieser Typ hier, „sonichi“, so freundlich, dieses Google Colab Notebook zu schreiben. Und wir können das ganz, ganz einfach öffnen, indem wir auf „Open in Colab“ klicken. Und wir haben das sofort geöffnet. In diesem Colab Notebook verwenden wir den Assistant Agent und den User Proxy Agent. Die zwei werden für uns zusammenarbeiten und die Dinge machen, die ich nicht kann. Nämlich Python-Code schreiben, den in Blöcke packen, und der andere Typ wird den Code danach ausführen, so, dass ich nur noch die Dinge bekomme, die ich brauche.
Und das Coole ist eben: Diese zwei AI-Agenten arbeiten hier zusammen. Sollte irgendwas irgendwann nicht funktionieren, werden sie ihre Fehler automatisch ausbessern. Hier sagen sie dir auch noch, dass du danach den Code nicht mal irgendwo hin kopieren musst, sondern er wird tatsächlich automatisch ausgeführt. Und du kannst unten auch noch eingeben, ob du „Human Input Mode“ aktivieren oder deaktivieren willst. Also in kurz: Willst du mitreden, was die Typen machen sollen, oder sollen sie alles komplett alleine machen? Kleiner Tipp: Ich bin faul. Die sollen mal selbst arbeiten.
Der erste Schritt, den wir machen müssen, ist ganz einfach nur „Play“ zu klicken bei der ersten Zelle. Erinnere dich daran: In allen Colab Notebooks, das habe ich schon mal erklärt, wenn du ein solches Zeichen siehst, das musst du weglöschen. Denn sonst wird der Code nicht ausgeführt. Lösch das Zeichen weg, der Hashtag hat hier nichts verloren. Und danach klicken wir „Play“. Wir müssen hier trotzdem ausführen und ganz einfach auch den Zugriff geben.
Die nächste Zelle: Diese Zelle zeigt dir hier ganz einfach, welche Modelle hier alles verwendet werden können, und zwar alle GPT-4-Modelle. Gehen wir etwas weiter nach unten, siehst du auch diese Config-List. Du kannst hier generell so gut wie jedes Large Language Model einstöpseln mit der API und dem API-Key. Den fügen wir ganz einfach hier ein. Und den API-Key brauchen wir von OpenAI. Das Ding muss jetzt hier rein. Wir klicken erstmal „Play“ bei dieser Zelle, und eigentlich sollten wir hier jetzt alles schon haben.
Wir scrollen noch etwas nach unten. Hier haben wir unseren „Example Task“, also „Check Stock Price Exchange“. Wir werden hier jetzt einfach den Aktienpreis vergleichen. Hier siehst du im Übrigen auch diesen User Input Mode, wo „Never“ aktiviert ist. Also, ich werde um nichts gefragt. Das Zeug wird ganz einfach automatisch alles ausgefüllt. Und die zwei arbeiten ganz einfach für mich, bis sie die Aktienpreise von Meta haben und von Tesla haben und diese miteinander verglichen haben.
Ach, und übrigens: Diese zwei Typen, die werden danach für mich arbeiten. Nämlich einmal der Assistant und einmal der User Proxy. Sie verwenden ganz einfach die OpenAI API und werden für mich so lange arbeiten, bis sie das Ergebnis haben. Was müssen wir hier machen? Wir klicken „Play“ und das war's. Also „Play“ auf dieser Zelle und los geht's. Tatsächlich habe ich jetzt gerade ein, zwei Fehler bekommen, aber so sollte das am Ende danach alles aussehen. Du siehst: Die zwei Agenten haben hier einfach miteinander diskutiert, und das Endergebnis ist: Year-to-Date-Gain von Meta zum Beispiel 130 %, von Tesla 120 %.
Scrollen wir weiter nach unten, dann könnten wir hier auch noch weitere „Example Tasks“ machen. So wie du hier sehen kannst, dieser Example Task ist: „Plot a Chart of the Stock Price Change Year-to-Date“. Also hier soll jetzt auch noch ein Chart gezeichnet werden. Und du siehst: Hier unten ist auch sofort der gesamte Chart aufgezeichnet. Wie gesagt, ich habe hier einen kleinen Fehler bekommen. Lass uns das nächste Beispiel testen.
Ein Konzept, das ich hier auch richtig, richtig cool finde, ist dieses Colab Notebook: „Autogenerated Agent Chat – Chess Game: Playing while Chit-Chatting by GPT-4 Agents.“ Also, so wie ich das verstehe, spielen hier tatsächlich zwei AI-Agents gegeneinander Schach. Und die sprechen auch miteinander. Aber wie ich das rauslese, spielen hier tatsächlich diese zwei AI-Agenten gegeneinander selbstständig Schach. Der eine startet dann mit „Your Turn“, und der Weiße fängt an, seinen Zug zu machen. Sobald er seinen Zug fertig hat, beschreibt er den Zug. Sobald er den Zug fertig hat, sagt er ganz einfach „Your Move“, und danach spielt der andere seinen Zug zurück.
Ich denke, hier spielen zwei AI-Agents gegeneinander Schach. Natürlich könntest du einen ganz einfach deaktivieren, sodass du gegen ihn spielst. Cool ist ganz einfach, dass du hier ChatGPT mit integrieren kannst und mit ihm sprechen kannst. Und das alles ist so wirklich unglaublich einfach zu erschaffen. Du kannst in solchen Colab Notebooks ganz einfach den Code laufen lassen. Falls du selbst Programmierer bist, kannst du hier Code zusammenstellen, der alles machen kann, was du auch immer willst.
Aber natürlich hat auch Autogen ein paar Downsides. Ich will jetzt nicht tiefer in die Downsides eintauchen. Ich bin der Meinung, du kannst eventuell etwas damit rumspielen. Sieh dich hier auf GitHub ein klein wenig um. Aber ich bin wirklich der Meinung: Wenn du LangChain mit LangSmith* kannst und das in Flowise, zum Beispiel mit diesem Supervisor, dann hast du fast die besseren AI-Agents als mit Autogen.
* LangGraph
Aber ich wollte das Projekt natürlich dennoch ganz, ganz kurz vorstellen.