Werk:AI mit Arnie/Unser erster API Call an OpenAI
Eigene Apps über APIs in Google Colab
📽️ 🎓Du kennst Google Colab, du kennst GitHub, du kennst Hugging Face, du kennst die OpenAI API, du kennst ganz, ganz viele Dinge. Und in diesem Video wollen wir uns ansehen, wie wir Google Colab verwenden können, um die OpenAI API laufen zu lassen. Darin können wir Transkripts machen mit Whisper, und wir können uns natürlich später auch tatsächlich Stimmen generieren lassen. Wir können uns aber auch Text generieren lassen. Wir können die Bilderkennung verwenden. Das heißt, wir können alles verwenden in Google Colab mit OpenAI bzw. mit der OpenAI API.
Wenn du ein Entwickler bist, hast du höchstwahrscheinlich deinen Lieblingsweg, all diese Modelle zu verwenden. In diesem Video will ich einfach nur zeigen, wie es in Google Colab funktionieren könnte, da es da erstens gratis ist und zweitens halt am einfachsten von überall. Also, wir werden jetzt Google Colab verwenden, um die OpenAI API laufen zu lassen, in unserer ersten klitzekleinen Application. Wir können wirklich sagen, das ist danach eine kleine App, denn wir können hier ChatGPT verwenden über die API, außerhalb vom Standard-ChatGPT-Interface. Wir verwenden das, um erstmal ein klein wenig zurechtzukommen, wie das Ganze hier abläuft. Denn bevor wir etwas komplexere KI-Agenten bauen, müssen wir erstmal hier die Basics verstehen.
Das heißt, wir gehen hier auf Google Colab. Natürlich, ich gehe nochmal zurück. Also, du kannst einfach nur bei Google eingeben „Google Colab“, und du klickst auf diesen Link „Welcome to Google Colab“. Und alles, was wir hier machen müssen, ist ganz einfach nur jetzt „Neues Notebook“ zu klicken. Ich kann dir mein Notebook auch danach natürlich verlinken, denn dann kannst du es einfach nur das verwenden. Jetzt haben wir hier natürlich immer diese Zeilen, und hier können wir Dinge reinschreiben. Das erste, was wir machen müssen, ist, die richtige Bibliothek zu integrieren. Ganz, ganz viele Dinge sind bei Google Colab schon vorinstalliert. Was wir hier reinbringen müssen, ist die Bibliothek von OpenAI, denn dies ist leider nicht vorinstalliert.
Jetzt sehen wir uns an, wie das Ganze funktioniert. Du weißt, bei jeder dieser Zeilen können wir einfach nur Code einfügen. Danach können wir „Play“ klicken, und dieser Code wird ausgeführt. Und das ist wirklich so einfach. Du kannst das erstmal komplett gratis machen. Du kannst natürlich auf „Laufzeit“ gehen, danach natürlich den Laufzeittyp ändern, und du verwendest einfach die Dinge, die für dich funktionieren. Es kann z. B. CPU sein, erstmal hier. Das heißt, du brauchst höchstwahrscheinlich überhaupt nichts hier umändern. Wenn man z. B. Bilder generieren will, dann sollte man eine GPU verwenden. Ich kann hier die A100 verwenden, diese rendert sehr, sehr schnell. Wenn du im Gratis-Abo bist, dann brauchst du die D4-GPU, das ist eine etwas langsamere, aber diese bekommst du dadurch halt komplett gratis ausgeliehen.
Also, du brauchst erstmal nichts machen, außer beim ersten Feld das hier einzutippen: Alles startet mit einem Rufzeichen, danach „pip install openai“, und das Ganze war's schon. Was machen wir jetzt? Wir klicken „Play“ bei dieser Zelle. Danach wirst du hier automatisch verbunden mit der richtigen Rechenleistung hier. Das sollte eigentlich zu 100 % gratis sein, immer. Und danach werden hier die OpenAI-Dinge installiert. Du siehst, alles wird hier automatisch ausgeführt, ganz, ganz genauso, wie du es halt eben haben willst. Und du siehst, alles hat funktioniert, also „successfully installed“. Wir haben die ganzen OpenAI-Bibliotheken installiert. Und du kannst hier oben natürlich auch drauffahren. Das heißt, all das funktioniert jetzt natürlich komplett gratis. Das sollte alles so passen.
Was machst du als Nächstes? Wir brauchen den nächsten Codeblock. Dafür können wir einfach nur hier draufgehen und hier unten auf „Code“ klicken, und bup, und schon bekommen wir unsere neue Zelle. Und hier fügen wir jetzt einige Dinge ein. Wir können jetzt natürlich auch sofort auf die Overview gehen, hier bei OpenAI. Das heißt, du kennst natürlich hier, wir sind im OpenAI Playground, hier der Dashboard. Den kennst du natürlich schon. Und wenn wir auf die Dokumentation gehen, dann können wir uns natürlich genau ansehen, wie das alles funktioniert. Wenn wir hier auf den Quickstart draufgehen, dann kannst du hier runterscrollen. Wir sind hier z. B. in einer Python Umgebung, und du siehst, wie die ganzen Dinge hier alle aufgelistet sind.
Das erste, was du machen musst in Google Colab, ist natürlich das da: pip install openaieinen zum Beispiel. Danach ist natürlich der Step 2 an der Reihe: Wir brauchen unseren API Key. Den werden wir uns danach natürlich noch holen – einen API Key. Aber wir brauchen natürlich auch den Code, um die Dinge laufen zu lassen. Wir müssen natürlich unsere API Requests machen. Und um unsere API Requests zu machen, könnten wir so vorgehen: Das ist tatsächlich der Code, den wir benötigen, um hier an die Modelle sozusagen unsere kleinen Calls zu machen. Das heißt, wir können genau diesen Code verwenden. Oder aber du verwendest den Code wie ich. Du kannst natürlich auch danach mein Notebook kopieren, wie gesagt. Aber du kannst auch gerne genau diesen Code kopieren. Und anstatt GPT-3.5-Turbo können wir hier danach einfach GPT-4o mit einfügen.
Das heißt, wir kopieren das. Lass uns das einfach mal zusammen machen. Wir gehen zurück, wir fügen genau das hier ein. Also haben wir hier natürlich von OpenAI alles importiert, wie wir hier oben so sehen können. Danach Client = openai, hier haben wir jetzt diese Klammern. Hier müssen wir jetzt natürlich unseren API Key mit reinholen. Das heißt, wir schreiben einfach nur api_key. Du siehst, du bekommst hier die Dinge schon automatisch aufgeschlüsselt tatsächlich. Also api_key = und jetzt machen wir einfach nur unsere Gänsefüßchen auf. Und hier können wir jetzt unseren API Key tatsächlich mit einfügen.
Und wie machen wir unseren API Key? Wir gehen wieder hier zurück tatsächlich. Und was brauchen wir hierfür? Wir gehen mal auf das Dashboard. Du kennst natürlich noch dieses Dashboard. Wir klicken auf „API Keys“. Und als Nächstes klicken wir „Create new secret key“. Wir sollten dem Ding einen Test geben, z. B. „Kurs XYZ“. Ist ja völlig egal. Ein neues Projekt, wenn du magst. wegen…aber kann aber auch dieses Projekt sein. Und das ist jetzt ein Key für all. Wir könnten den aber auch gerne „restricted“ machen, aber nicht „read only“. Also das soll ein Key sein, der für alles funktioniert, sodass wir auch unsere Calls machen können. Und dann klicken wir „Create secret key“.
Das Ding sieht so aus: Diesen Key, den darfst du niemandem zeigen. Denn wenn diesen Key jemanden sieht, dann kann er natürlich von dir sozusagen auf die Modelle zugreifen, und du wirst bezahlen. Du weißt natürlich noch, was die Modelle kosten: Das Pricing ist immer pro Token. Und du bezahlst pro Output. Ja, generell ist das sehr, sehr günstig. Und ja, wir können genau in Google Colab natürlich auch mit LLM Studio lokale Apps danach laufen lassen und so unsere Modelle betreiben. Aber erstmal, wie gesagt, das Einfachste hier. Das heißt, wir kopieren hier unseren API Key, wir gehen zurück. Und hier beim OpenAI Key – hier danach beim API Key von OpenAI – fügen wir diesen Key jetzt mit ein.
Und was haben wir als Nächstes? completion = client.chat. Das heißt, wir verwenden hier die Chat Completion. Was ist das Modell? GPT-3.5-Turbo erstmal. Danach die Message. Hier ist praktisch, wie das Ding aufgebaut ist. Wir haben Rolle „System“, Content. Danach sehen wir hier tatsächlich, wie das Ding geprompted wurde: „You are a poetic assistant skilled in explaining complex programming concepts with creative flair.“ Und danach hier unten nochmal Role „User“, Content: „Compose a poem that explains the concept of recrussion in programming.“ Das heißt, wir werden hier danach tatsächlich ein kleines Gedicht bekommen mit GPT-3.5-Turbo.
Und hier unten siehst du noch dieses printen. Das heißt, hier unten wird das Ding danach rausgespuckt. Also, das wird jetzt unser erster API Call an GPT-3.5-Turbo. Ich klicke hier einfach mal „Play“. Danach sollten wir hier unten sofort unsere kleine Antwort bekommen. Du siehst das Ganze hier schon: „Cast completion message = in the realm of programming there exists a technique…“, und so weiter. Das heißt, wir haben hier unseren kompletten Output bekommen. Wir sind hier natürlich wunderhübsch zusammen alle. Wir haben unser gesamtes Gedicht hier unten.
Und wenn du hier andere Modelle verwenden willst, natürlich, dann gehst du wieder zurück in diesen Playground. Du suchst dir natürlich die neuesten Modelle raus. Dafür gehen wir natürlich auf die Dokumentation, auf die Modelle hier drüben. Wir wollen natürlich GPT-4o. Das heißt, das da sind immer die Modelle: GPT-4o. Wir können natürlich runterscrollen. Denn wie heißt das Ding genau? Wir sehen es hier: „bup“, das Ding können wir jetzt einfach nur kopieren: gpt-4o. Wir kopieren das, gehen hier zurück. Dann werden wir GPT-3.5-Turbo einfach mal rauslöschen. Wir können GPT-4o hier einfügen. Wir klicken hier jetzt nochmal „Play“.
Wir könnten eventuell natürlich auch hier die Prompts ändern. Ich will mal hier was Deutsches haben: „Du bist ein Experte für Marketing. Deine Aufgabe ist es, Texte zu schreiben, die verkaufen.“ Meinetwegen kannst du „Aufgabe“ auch großschreiben. Aber du weißt, die Rechtschreibung ist hier nicht ganz so kritisch, wenn es um die Prompts geht. Aber hier ist die Rechtschreibung tatsächlich wichtig, im Code. Denn wenn du hier was falsch machst, dann funktioniert das Ganze nicht mehr.
Und was machen wir hier? Hier müssen wir natürlich die Angabe tatsächlich hier reinschreiben. Meinetwegen: „Schreibe einen Text für eine blaue Uhr.“ Und jetzt klicken wir hier tatsächlich mal „Play“. Danach sollten wir hier unten die Antwort bekommen, höchstwahrscheinlich auch auf Deutsch. Und GPT-4o wird hier antworten: „Ein Hauch von Eleganz. Die blaue Uhr, die Ihr Handgelenk verzaubern wird…haben sie“, und so weiter. Das heißt, all das hat hier sofort natürlich schon funktioniert. Und wir haben hier unseren gesamten Text bekommen. Das Ding hat hier auch Smileys eingebaut. Das ist natürlich etwas suboptimal, da Google Colab diese Smileys nicht richtig gut ausschreibt hier. Aber du verstehst natürlich generell, wie das Ganze hier klappt.
Und das war jetzt schon die aller-, allereinfachste Aufgabe, die wir hier somit lösen können. Du hast in diesem Video also gelernt, wie wir Google Colab verwenden können, um API Calls an OpenAI zu machen. Und das Ganze ist wahnsinnig einfach. Wir müssen nur in der ersten Zelle pip install openai machen. Danach fügen wir die nächste Zelle hinzu, indem wir auf dieses Plus klicken. Und danach können wir ganz einfach nur hier die Dinge reinkopieren. Was muss man hier alles reinkopieren? Einfach nur hier: from openai import OpenAI. Client ist natürlich OpenAI. Danach kommen hier unsere API Keys rein. Den API Key holen wir uns natürlich bei OpenAI. Danach bekommt das Ding hier die Aufgabe. Wir müssen das Modell spezifizieren, z. B. GPT-3.5 oder GPT-4o. Und danach hier natürlich noch, wie der ganze Output sein soll, also Rolle „System“, Content: Hier kommt unser Prompt rein bzw. der Systemprompt. Und danach Rolle „User“, Content: „Schreibe einen Text für eine blaue Uhr.“ Und das Ganze funktioniert sofort.
Und wenn du nicht ganz sicher bist, wie das hier funktioniert, natürlich, dann gehst du wieder zurück hier. Du kannst auf den Quickstart gehen. Du scrollst dann gerade ein wenig runter, und du siehst natürlich, wie man startet. Das heißt, bei Python: Was brauchst du alles? Du musst Python installieren. Das können wir uns sparen, da wir in Google Colab sind. Und du bekommst die ganzen Dinge hier natürlich alle aufgelistet. Das Eimnzige, was wir hier machen müssen, ist natürlich hier: pip install openai. Danach brauchen wir natürlich unseren API Key. Du bekommst hier die ganzen Dinge alle aufgeschlüsselt. Das ist das einfachste Konzept, wie wir die OpenAI API verwenden können, in unseren eigenen Applications. Ja, das ist hier in Google Colab. Und ja, das ist das aller-, allereinfachste.
Aber einige Dinge funktionieren in Google Colab wirklich cool. Wir können z. B. Whisper verwenden, um ein Transkript zu machen. Wir können hier ganz, ganz viele coole Dinge machen. Wir können auch Vision verwenden. Das heißt, Vision ist auch in die API eingebaut. Und in den nächsten Videos will ich dir zeigen, wie man diese Dinge verwendet in einem Google Colab Notebook, bevor wir hier danach natürlich starten, selbst unsere KI-Agenten zu bauen, Fine-Tuning zu machen, um etwas komplexere Dinge hier zu erstellen.
Bis jetzt: unglaublich einfach. Wie gesagt, zwei kleine Felder: pip install openai und danach den Code, den uns OpenAI zur Verfügung stellt. Wirklich kein Hexenwerk. Und ich werde dir das komplette Colab Notebook verlinken. Dann kannst du das natürlich auch verwenden. Du, daß heißt, du kannst einfach nur „Play“ klicken. Ich werd alles ganz genauso verlinken. Natürlich werde ich wohl meinen API Key löschen müssen. Aber den Rest kannst du verwenden. Und deshalb, deshalb sehen wir uns im nächsten Video.