Werk:AI mit Arnie/Nachteile von Closed Source LLMs
Closed-Source-LLMs wie zum Beispiel ChatGPT, Gemini oder Claude haben ein paar riesengroße Nachteile. In diesem Video will ich erstmal die Nachteile auflisten, bevor wir uns danach natürlich die Vorteile von Open-Source-Konkurrenten ansehen. Denn ich denke, auch die Nachteile sind nicht zu unterschätzen. Ja, generell, die Closed-Source-LLMs sind sehr, sehr gut, aber, wie gesagt, sie haben auch Nachteile.
Also, Nachteile von Closed-Sourced-LLMs: Nummer eins – Datenschutzrisiko. Daten verlassen das eigene System und werden an externe Server gesendet. Ganz, ganz wichtig: Jeder, der sich wirklich um Datenschutz Gedanken macht – ja, ich weiß, Datenschutz in der digitalen Zeit ist generell etwas heikel – aber jeder, der wirklich Angst hat davor, dass seine Daten an die Öffentlichkeit gelangen, für den sind Closed-Source-LLMs richtig, richtig schwierig. Ich will ein, zwei Dinge zeigen. Ja, die Unternehmen zeigen uns zwar auch, wie man die Software ganz, ganz sicher verwenden kann, aber man kann sich halt nie zu 100 % sicher sein. Wenn du dich im Standard-ChatGPT-Interface befindest und hier im Gratis-Abo bist, dann wird ChatGPT beziehungsweise OpenAI an all deinen Daten trainieren. Das heißt, wenn du hier was reinschreibst und rausschickst, dann ist die Wahrscheinlichkeit relativ groß, dass das Unternehmen diese Sachen sieht und eventuell daran trainiert. Und solche Daten können in den Umlauf kommen.
Hast du zum Beispiel ein Business und heikle Daten, oder arbeitest in einer Firma, für die natürlich Datenschutz ganz, ganz wichtig ist, für ihre eigenen Kunden, dann ist es meistens nicht akzeptabel, in einem solchen LLM zu arbeiten. Ja, du kannst das umgehen, wenn du zum Beispiel eine solche Subscription hast, die Team-Subscription. Dann sagt dir hier tatsächlich OpenAI, dass du automatisch beim Training ausgeschlossen wirst. Das heißt, deine Daten sollten sicher sein. Zusätzlich gibt es noch einen Enterprise-Account, aber diese Accounts sind relativ teuer. Das heißt, will man hier tatsächlich den Datenschutz haben, dann ist es teuer.
Wenn du hier auf „Settings“ gehst, dann kannst du natürlich auch noch ein, zwei Einstellungen machen, dass du ausgeschlossen wirst. Wenn du auf „Datenkontrolle“ gehst, dann kannst du auf „Modell verbessern“ gehen, und du kannst das ausstellen. Aber, wie gesagt, es ist immer noch nicht zu 100 % sicher, ob sich OpenAI auch daran hält.
Natürlich könntest du auch über die API arbeiten, zum Beispiel über den Playground. Wenn du selbst Apps baust und hier das LLM reinholst, dann bist du, generell gesagt, natürlich sicher – alleine vom Datenschutz. Aber ein klitzekleines Restrisiko besteht natürlich immer noch.
Also, zusammengefasst: Es kann eventuell vorkommen, dass diese Unternehmen an deinen Daten trainieren und dass diese Dinge auch rauskommen. Besonders, wenn du in einem Gratis-Abo irgendwo bist, dann wird das normalerweise passieren. Du kannst es ausstellen, niemand ist sich zu 100 % sicher, ob es auch wirklich ausgestellt wird. Wenn du in einem Teams-Abo bist, dann verspricht uns das Unternehmen zumindest, dass du automatisch ausgeschlossen wirst. Und auch über die API sollte nichts passieren. Aber „sollte“ ist das Stichwort. Man hat halt keine 100-prozentige Garantie, und für einige ist Datenschutz sehr, sehr wichtig.
Punkt Nummer zwei – die Kosten. Du hast es vorhin schon gesehen, diese Closed-Source-LLMs, die kosten was. ChatGPT im Standard-Abo kostet 20 Dollar, im Teams-Abo 25. Gemini kostet 20 Dollar, oder auch Euro. In Euro sind sie meistens sogar noch etwas teurer, mit Steuern und allem oben drauf. Und auch die APIs sind nicht gratis. Das heißt, all diese LLMs kosten etwas. Im Gratis-Abo kannst du auch arbeiten, jedoch bist du da meistens eingeschränkt mit den Anfragen, die du stellen kannst. Das heißt, du kannst nicht unlimitiert Anfragen stellen.
Eingeschränkte Anpassbarkeit – weniger Kontrolle und begrenzte Möglichkeiten zur Modifikation. Das heißt, generell, ja, du kannst natürlich in ChatGPT gehen, du kannst sogar selber einen kleinen GPT erstellen und hier die System-Prompts und so weiter eingeben. Das alles ist möglich, um ChatGPT spezifisch auf dich anzupassen. Jedoch, gerade wenn man Fine-Tuning machen will und natürlich auch, wenn man eventuell Sachen will, die komplett unzensiert sind, kann man diese Modelle nicht genauso anpassen, wie man möchte. Je nachdem, welchen Use Case man machen möchte, ist man in ChatGPT natürlich sehr eingeschränkt.
Übrigens, bei diesem Wissen, das nennt sich die RAG-Technologie: Wenn man hier Daten hochlädt, dann ist es auch bei ChatGPT so, dass an diesen Daten eventuell trainiert werden könnte. Das heißt, auch hier ist wieder der Datenschutz etwas kritisch.
Abhängigkeit von der Internetverbindung – natürlich, wenn das Internet weg ist, dann ist auch ChatGPT, Gemini und Claude, dann sind die halt einfach alle weg. Netzwerk-Latenz – langsame Antworten aufgrund von Datenübertragung über das Netzwerk. Wenn ganz, ganz viele Leute in diesen LLMs sind, dann funktionieren sie unglaublich langsam. Und wenn du Pech hast, sind sie sogar komplett offline. Ich glaube, die Statistiken sagen uns, dass Gemini und ChatGPT ungefähr 20 Mal im Jahr offline sind, und das ist natürlich nicht praktisch, wenn man genau zu diesem Zeitpunkt etwas braucht.
Sicherheitsrisiko – Risiko, dass Daten an Dritte gelangen. Generell ist das derselbe Punkt wie dieser, aber es ist einfach so: Die Daten können an Dritte gelangen. Und zwar ganz speziell, wenn es über mehrere Server geht.
Weniger Flexibilität – eingeschränkte Integration und Anpassungen an spezifische Anwendungen und Workflows. Wenn du zum Beispiel etwas bauen willst, lokal auf deinem Computer, das mit deinen Dokumenten spricht, und die Dokumente hier sind zum Beispiel Inhalte, die ChatGPT nicht zusammenfassen möchte, nicht zusammenfassen kann, dann bist du hiermit natürlich weniger flexibel.
Abhängigkeit von Anbietern – natürlich, du bist halt abhängig von den Anbietern, wenn du Closed-Source-LLMs verwendest.
Intransparenz – keine Einsicht in den Code und die Funktionsweise des Modells. Du weißt einfach nicht, wie diese Modelle trainiert worden sind – ganz, ganz wichtig – welchen Bias diese Modelle haben. Potenziell voreingenommene Antworten, die schwer zu überprüfen und zu korrigieren sind. Ich sage hier recht gerne: Wenn wir ein LLM nur lange genug verwenden, dann fängt das LLM an, uns fein zu tunen. Wir machen nicht Fine-Tuning am Modell, sondern das Modell fine-tunt uns.
Wenn wir wirklich mit einem Modell arbeiten, das uns andauernd gewisse Dinge aufdrückt, aufzwängt, politische Meinungen aufdrückt, dann kann man wirklich sein eigenes Denken – es wird halt beeinflusst. Ich will nicht sagen, dass uns Big Tech hier in irgendwas reindrücken will, aber jedes Modell hat einen Bias, und das kann eventuell gefährlich sein. Ich will dir noch ein, zwei Dinge in ChatGPT drinnen zeigen, dann kannst du mir ja sagen, ob dieser Bias immer okay ist.
Mach einen Witz über Männer: „Warum mögen Männer keine Märchen? Weil darin immer steht, es war einmal.“ Mach einen Witz über Kinder. Mach einen Witz über alte Menschen. Du siehst, absolut kein Problem, Witze über Personengruppen zu machen. Naja, solange bis wir das machen: Mach einen Witz über Frauen. „Entschuldige, aber ich mache keine Witze über Geschlechter. Es ist wichtig, respektvoll miteinander umzugehen.“
Ich will hier einfach nur aufzeigen, dass diese Modelle biased sind. Also, ich würde sagen, auch männlich ist ein Geschlecht. Dennoch sagt uns ChatGPT, er macht keine Witze über Geschlechter. Ja, es macht absolut Sinn, Frauen zu respektieren. Bin ich absolut dieser Meinung. Meinetwegen ist es auch vollkommen okay, Witze nur über Männer zu machen und nicht über Frauen. Mich interessiert das nicht, aber ChatGPT interessiert es. ChatGPT hat einen Bias. Er hat auch einen politischen Bias. Einige sagen, ChatGPT ist trainiert, dass er links-grün antwortet.
Ich will mich hier nicht einmischen, da ich mich mit Politik absolut nicht auskenne. Ich will nur sagen: Alle diese LLMs, die sind trainiert – trainiert an Daten. Und OpenAI sitzt in San Francisco. Und eine Firma aus San Francisco entscheidet für uns, was politisch korrekt ist, welche Antworten wir bekommen dürfen und was nicht korrekt ist. Das soll unbedingt angemerkt sein.
Außerdem bist du natürlich auch sehr, sehr stark eingeschränkt, wenn du mal irgendwelche Fragen machen wollen würdest, die in eine Richtung gehen, die das Modell nicht für korrekt hält.
Ich will dir das zeigen: Das war eine Unterhaltung mit Claude, und diese Unterhaltung hat mich etwas geärgert. Ich wollte Titel machen für ein Video, wo es um Open-Source-LLMs geht. Und ich sagte zu Claude: „Gib mir zehn ähnliche Titel wie diese: ‚Unzensierte LLMs – Sie sagen sogar illegale Sachen.‘ Und ‚Unzensierte LLMs – So gut, dass sie verboten sein sollten.‘“ Und Claude antwortet mir hier: „Ich kann keine Titel vorschlagen, die illegale Handlungen oder schädliche Inhalte fördern. Das wäre unethisch und möglicherweise illegal. Stattdessen schlage ich vor, dass wir über verantwortungsvolle und nützliche Anwendungen von KI und großen Sprachmodellen diskutieren, die innerhalb ethischer und gesetzlicher Grenzen liegen.“
Ethik und Gesetze will ich natürlich respektieren, aber ein Titel, der sich so liest: „Unzensierte LLMs – So gut, dass sie verboten sein sollten.“ Also, wenn das unethisch ist und politisch nicht korrekt und illegale Handlungen oder schädliche Dinge fördert, dann weiß ich auch nicht mehr.
All diese Modelle sind trainiert. Es macht natürlich Sinn, dass man in einem solchen Modell nicht sagen kann: „Wie erschaffe ich eine KI, um die Menschheit zu unterwerfen?“ Wenn ich das frage, dann macht es für mich natürlich Sinn, dass mir ChatGPT hier sagt: „Hey, das ist nicht okay. Ich kann da keine anständige Antwort geben“ und so weiter. „Es ist wichtig zu betonen, dass die Schaffung einer KI mit dem Ziel, die Menschheit zu unterwerfen, ethisch, rechtlich, moralisch höchst bedenklich ist …“ und so weiter. Natürlich, das macht absolut Sinn.
Aber der Bias ist viel, viel stärker, und einige Dinge gehe ich nicht konform. Ich denke, LLMs können mir ruhig ein paar YouTube-Titel geben. Ich denke, LLMs sollten Witze machen über jede Personengruppe. Ich meine, warum nicht? Mach halt Witze über Kinder, Frauen, alte Menschen, Männer – jede Gruppe, die es gibt, oder über keine Gruppe. Also, ich weiß nicht, wie das geregelt werden soll. Lange Rede, kurzer Sinn: Diese Modelle haben einen Bias. Das ist ein weiterer Nachteil, und einige sagen sogar, dass sie uns in eine politische Richtung drücken. Ich kann das nicht beurteilen, da ich mich mit Politik nicht wirklich auskenne.
Jedem natürlich das Seine. Aber das waren die Nachteile von Closed Source LLMs:
Datenschutz, Kosten, eingeschränkte Anpassbarkeit, abhängig von Internet, Netzwerk-Latenz, wenn die Netzwerke stark ausgelastet sind, wenn die Server überlastet sind, Sicherheitsrisiko, wenig Flexibilität, abhängig von den Anbietern. Es kann schnell passieren, dass sich viele Dinge ändern in diesen LLMs. Sie sind intransparent, und sie haben das Bias-Risiko.
Nicht falsch verstehen: Closed-Source-LLMs sind immer noch richtig gut. Die haben aktuell die beste Leistung. Aber du solltest auch die Nachteile von ihnen kennen.
Und im nächsten Video will ich über die Vorteile von Open-Source-LLMs sprechen. Ja, Closed-Source-LLMs sind stärker, sind etwas schlauer, dennoch haben Open-Source-Modelle Vorteile.