Werk:AI mit Arnie/Die Google Gemini API
'
📽️ 🎓Natürlich können wir auch die Gemini API verwenden, und wir können die Gemini API auch abrufen, über API-Schlüssel und in unsere eigenen Applikationen reinholen. Zusätzlich haben wir auch noch sowas wie den Playground. Jedoch ist der etwas besonders. In diesem Video sehen wir uns alles an.
Also, was ist die Gemini API? Im Groben das Gleiche wie die OpenAI API. Also, mit der Gemini API erstellen... Das Ganze ist hier sogar auf Deutsch. Das ist natürlich recht praktisch. Wir haben bis zu zwei Millionen Token, das ist natürlich riesig, riesig groß. Allerdings muss man dafür auf die Warteschleife. Das kleinere Modell mit einer Million Token, das können wir jetzt schon verwenden.
Wenn wir weiter runterscrollen, dann siehst du, wir haben natürlich mehrere verschiedene Modelle. Wir haben das Blitzmodell, wir haben das Promodell, wir haben das Ultramodell, und wir haben das Nanomodell. Diese sind ganz einfach unterschiedlich groß und unterschiedlich stark. Wir haben sogar Gemini Flash. Das Ding ist sehr, sehr schnell. Wir können uns API-Schlüssel in Google AI Studios abrufen. Dafür können wir ganz einfach hier draufklicken. Ich will aber noch runterscrollen, dass du für Unternehmen auch über die Vertex AI arbeiten kannst. Du kannst natürlich entwickeln in Google Colab, über den Lama Index oder wo auch immer.
Ich würde einfach mal vorschlagen, wir sehen uns die API-Schlüssel im Google AI Studio an. Dafür klicken wir einfach hierauf, und du siehst: API-Schlüssel. Du kannst hier einen API-Schlüssel erstellen, wenn du denn einen Account hast. Du wirst natürlich ständig gefragt, ob du denn einen Account machen willst, wenn du bis jetzt hier noch keinen hast. Hier drüben siehst du natürlich "Create new prompts", z. B. in einem Chat-Prompt. Du kannst auch hier die ganzen Dinge austesten. Also auch hier funktioniert das Ganze relativ gut. Du hast hier Gemini Flash. Das ist hier jetzt ähnlich wie der Playground, und du hast hier ganz einfach verschiedene Modelle. Danach kannst du auf "New custom models" klicken, und du kannst sogar deinen Drive verbinden. Du kannst auf deine Bibliothek gehen. Du kannst dir natürlich selbst die ganze Dokumentation durchlesen, wenn du dich hier mehr auskennst.
Ich kenne mich leider nicht aus mit der Entwicklung von Android-Apps oder so etwas, aber du kannst dich hier natürlich noch weiter umsehen, wenn du dich hiermit sehr, sehr gut auskennst. Generell, was macht man hier? Ich würde mir hier auf dieser Webseite tatsächlich nur die API-Keys holen, wenn du selbst was machen musst. Und dafür müssen wir natürlich wissen, was das Ganze kostet. Und wir müssen das natürlich auch wissen, wenn wir in diesem Playground arbeiten. Also, was kosten die Modelle eigentlich? Und dafür gehen wir auf diese Seite. Also, hier können wir uns die Preise ansehen. Das da ist Gemini 1.5 Flash. Das ist das schnelle Modell. Ich würde dir vorschlagen, dir Gemini 1.5 Pro anzusehen.
Hier können wir uns jetzt ansehen, wie teuer die Dinge sind. Erstmal können wir kostenlos starten. Danach haben wir hier die Referenzen, also, was kosten die Dinge in der Eingabe und was in der Ausgabe. Und du siehst, die Preise sind hier auch relativ gut. Hier die Eingabepreise, und hier unten die Ausgabepreise. Ich muss hier aber dazu sagen, dass Google hier etwas unübersichtlich ist mit den Preisen. Generell finde ich die Preisabrechnung von OpenAI etwas übersichtlicher und, um ehrlich zu sein, sogar besser. Und machen würde ich das alles in der Vertex AI. Also, lasst uns einfach mal auf diese Vertex AI klicken. Wir klicken danach in der Konsole auf "Ausprobieren", und jetzt landen wir auf diesem Dashboard hier. Wir sollten auf das Vertex AI Studio gehen.
Und ich würde dir raten, hier auf multimodal zu klicken. Jetzt starten, meinetwegen mit einem Promptentwurf. Und jetzt sind wir hier tatsächlich drinnen, und du kannst die Dinge testen, ganz, ganz genauso wie im Playground. Die Temperatur bei den Google-Modellen ist auch hier genauso wie bei den OpenAI-Modellen. Das Token-Ausgabelimit kannst du auch einstellen, und du kannst auch das Modell auswählen, z. B. 1.5 Flash. Das Ding ist schnell, hat ein großes Kontextfenster, ist aber nicht ganz so schlau. Das da ist hier, um ehrlich zu sein, das beste Modell. Und das da ist auch multimodal. Das heißt, wir können Text, Bilder, Dokumente, Videos und Audios tatsächlich hier analysieren. Dementsprechend würde ich vorschlagen, du verwendest mal dieses Modell.
Und hier kannst du jetzt verschiedenste Dinge machen. Du kannst deinen Prompt sogar sprechen. Und ich muss auch jetzt schon anmerken: Es kann sein, dass VertexAI nicht funktioniert ohne VPN. Hier die Region: Du siehst hier Iowa. Es kann also sein, dass du eine VPN verwenden musst. Du kannst natürlich auch ganz, ganz gerne einfach über Opera arbeiten und hier einfach die VPN einschalten, und dann funktioniert das Ganze. Du kannst hier in diesem Interface erstmal gratis starten. Du wirst hier in etwa 150 $ bekommen. Das darfst du dann für ein paar Monate verwenden. Danach musst du leider bezahlen für den Output. Aber zum Testen ist das Ganze relativ cool.
Das heißt, wir klicken einfach mal dieses Modell hier an, und danach können wir, wie du schon weißt, natürlich die Eingaben sagen. Aber wir können auch ein Medium hochladen. Gehen wir noch mal kurz zurück hier auf Google Chrome. Ich will mal versuchen, ein Video hochzuladen, denn wir wollen das analysieren. Also, wir klicken auf "Medien einfügen". Jetzt siehst du hier "Vom Computer hochladen" oder "Aus Cloud Storage". Und ich versuche einfach mal ein Video hochzuladen. Aber hier ist wichtig, dass es geringer als sieben MB groß ist. Ich habe jetzt etwas extra zugeschnitten. Also, ich will was hochladen, das nur sieben MB hat, und bup – das Ding wurde hochgeladen. Ich will einfach mal fragen, worum es in diesem Video geht. Worum geht es in diesem Video? Das dauert jetzt bis zu 90 Sekunden. Wie gesagt, das Video habe ich extra zugeschnitten, damit es nur noch 6,5 MB groß ist.
Okay, und hier sagt uns das Ding schon: Also, das Video – hier geht es um Fine-Tuning und In-Context-Learning. Das sind die zwei Möglichkeiten, die man verwendet, um große Sprachmodelle anzupassen. Und der Sprecher erwähnt MemGPT und erläutert, dass dies nicht unbedingt gut funktioniert. Er ist der Meinung, dass Fine-Tuning besser ist. Und genau das sind die Dinge, die ich in diesem ganz, ganz kurzen Video sage. Und hier kannst du natürlich alle die anderen Dinge machen, die du generell auch im OpenAI Playground machen kannst. Leider hast du hier nicht die Möglichkeit, den Code Interpreter oder sonst was zu importieren.
Lange Rede, kurzer Sinn: Es gibt die Gemini API. Wir können alle Modelle über die API abrufen, entweder in diesem VertexAI, also in Google AI Studio, oder wir können auch API-Keys rausholen und diese in eigene Projekte einbauen. Das sehen wir uns natürlich später noch an. Würde ich dir empfehlen, die Google API bzw. die Gemini API für irgendetwas zu verwenden? Persönliche Meinung hier: Ich verwende diese niemals. Ja, wir können hier tatsächlich in der VertexAI ein klein wenig arbeiten, ein klein wenig rumspielen, weil wir hier die Modelle erstmal gratis verwenden können. Wir bekommen bis zu 150 $ für die API-Requests komplett gratis. Und wenn wir selbst Modelle oder Apps erstellen, dann können wir auch eventuell mal API-Calls machen.
Persönliche Meinung: Ich mache das nicht. Ich spiele auch kaum in diesem Modell rum. Ich versuche hier ab und zu etwas, um rauszufinden, ob OpenAI immer noch weit vorne liegt. Persönliche Meinung: Ich würde sagen, diese API können wir auch erstmal links liegen lassen. Ich verwende tatsächlich nur die OpenAI API oder tatsächlich Open-Source-LLMs, über die wir natürlich danach sprechen. Aber vielleicht kannst du mich ja davon überzeugen, dass die Gemini API die bessere API ist.