Werk:AI mit Arnie/Preismodelle der OpenAI API

Du hast also gesehen, dass es die OpenAI API gibt und dass sie viele Dinge machen kann. Jetzt soll es wirklich darum gehen, was das Ding kostet. Ich habe dir ja schon gesagt, du brauchst kein Abo in OpenAI, bzw. kein ChatGPT Plus-Abo, kein Teams-Abo – nichts. Denn du kannst einfach nur für bezahlen die Token, die uns das Modell um die Ohren schmeißt. Verwenden kannst du die API danach in deinen Apps oder im Playground. Den Playground sehen wir uns im nächsten Video an. Erstmal will ich einfach nur aufzeigen, was das Ding kostet. Danach kannst du für dich selbst entscheiden, ob du vielleicht ab und zu im Playground arbeiten willst oder ob du natürlich auch selbst Apps entwickeln willst damit.

Also, wir gehen kurz auf das Pricing. Das da ist die Pricing-Abteilung von OpenAI, und sie sagen uns hier Folgendes: Sie haben verschiedene Modelle mit verschiedenen Pricing. Das Pricing-Unit ist entweder 1 Million oder 1.000 Tokens. Also immer Tokens. Bitte erinnere dich daran, 1.000 Tokens sind ungefähr 750 Wörter. Dieser Paragraph sind hier 35 Tokens. Du weißt natürlich schon, wie das Ganze läuft. Zusätzlich gibt es auch noch die Batch-API, die etwas günstiger ist. Ich will aber die normale API erstmal zeigen. Hier zeigen sie uns das Pricing an sich.

Wir haben GPT-4o, und GPT-4o – das da hinten ist das Datum, wann das Ding erschienen ist. Daß heißt, es ist am 13. Mai 2024 erschienen. Und das Pricing ist im Input fünf Dollar für eine Million Tokens und im Output 15 Dollar für eine Million Tokens. Das ist natürlich ganz schön günstig, würde ich zumindest argumentieren. Wir könnten ja mal eine kleine Rechnung machen. Wir könnten den Mittelwert nehmen, mit zehn Dollar für eine Million Tokens, wenn wir davon ausgehen, dass Input und Output gleich groß ist. Meistens ist der Output etwas größer. Deswegen will ich einfach mal zwölf Dollar für eine Million Tokens hernehmen. Also, wir brauchen nicht mal einen Taschenrechner. Nehmen wir einfach zwölf Dollar für eine Million Tokens her.

Du weißt, was eine Million Tokens sind: eine Million Tokens sind 750.000 Wörter. Und ich denke, 750.000 Wörter generiert mit GPT-4o für zwölf Dollar, ich denke, das ist relativ günstig. Wenn du ChatGPT nicht allzu oft verwendest, dann wirst du auf alle Fälle über die API und über den Playground günstiger arbeiten können. Wir scrollen etwas runter. Wir können auch GPT-4 Turbo verwenden. Hier haben sie den Output beziehungsweise das Pricing etwas anders. Frag mich nicht genau, warum das Pricing vom GPT-4 Turbo teurer ist als vom GPT-4o. Eigentlich sollte dieses Modell das bessere Modell sein. Es kann aber sein, dass dieses Modell noch mehr feingetunt werden soll, sodass sie das Pricing günstiger machen, daß mehr Leute dieses Modell verwenden und OpenAI so schneller lernen kann. Das ist zumindest, was ich mir denke.

GPT-4 Turbo – wie gesagt, hier das Pricing. Die normalen GPT-4-Modelle – das ist das originale Modell. Das ist aktuell tatsächlich, lustigerweise, das teuerste. Das GPT-4-Modell mit 32.000 Tokens kostet 60 im Input und 120 im Output. Aber das da ist wahnsinnig günstig: das GPT-3.5-Turbo-Modell. Das heißt, willst du eine App bauen mit einem solchen Modell, dann ist das natürlich wahnsinnig günstig. 50 Cent im Input und 1 Dollar und 50 Cent im Output. Du siehst also, diese API ist relativ günstig.

Zusätzlich hast du noch die Assistant-API. Das weißt du schon: Bei der Assistant-API hast du zusätzliche Tools, die du einbauen kannst, zum Beispiel den Code Interpreter. Der kostet drei Cent pro Sitzung. Pro Session. Und du kannst natürlich noch deine Files durchsuchen, das kostet zehn Cent pro Gigabyte auf Vector Storage per Day. Und ein Gigabyte ist hier gratis. Das heißt, über die API kannst du viele, viele Modelle abrufen. Wie gesagt, du kannst auch Fine-Tuning machen. Das Fine-Tuning – ich muss es sagen, wie es ist – das ist es nicht unbedingt wert für die Allermeisten. Man bezahlt ein klein wenig. Es ist nicht angesprochen teuer. Ja, du kannst dein GPT-3.5-Modell finetunen, jedoch nicht komplett so, wie man es sich vorstellt.

Ich werde dir all das noch zeigen, wenn du magst. Die Embeddings, die sind auch relativ günstig, wenn du etwas machen willst für eine Vektor-Database in einer App, die du generierst. Wir bezahlen zum Beispiel zwei Cent pro eine Million Tokens mit diesem Modell hier. Die normalen Basemodelle, die verwendet man eigentlich nicht. Also dieses DaVinci-002-Modell und auch die anderen Modelle. Ja, du kannst zwar DALL-E in eine App mit integrieren. Ich weiß aber nicht, ob das wirklich sinnvoll für uns ist. Und da können sich die Kosten irgendwann auch tatsächlich etwas steigern hier.

Zusätzlich können wir auch noch die Audiomodelle mit integrieren. Das ist eventuell ab und zu praktisch. Whisper ist hier das günstigste. Danach kommt das DTS-Modell. Das kostet da schon ein klein wenig mehr, und DTS-HD 300 Dollar für eine Million Zeichen. Das summiert sich also alles mit der Zeit doch ein klein wenig. Hier natürlich nochmal eine kleine Übersicht. Also sieh dich einfach um, was die Dinge kosten, wenn du hier tiefer eintauchen willst. Wie gesagt, vor allem die Assistant-API macht Sinn.

Und im nächsten Video zeige ich dir, wie du die APIs verwenden kannst, und zwar erstmal in einem Interface, das du nicht selbst programmieren musst. Wie gesagt, über die App-Entwicklung sprechen wir ein klein wenig später. Erstmal geht es darum, wie wir als Alternative ChatGPT verwenden können über die API, ohne ein Abo abzuschließen. Und das funktioniert im Playground. Und im Playground kann man viele coole Dinge tun. Deshalb sehen wir uns im nächsten Video.