Werk:AI mit Arnie/Rückblick (Open-Source LLMs - Vorteile & Nachteile)
📽️ 6 Recap sd (2:48)
In dieser Sektion haben wir uns einige Basics angesehen. Wir haben gestartet damit, was LLMs eigentlich sind. Es sind eigentlich KI-Modelle, und diese sind recht einfach aufgebaut. Sie basieren auf der Transformerarchitektur, und wir haben einfach nur zwei Files: wir ahben ein Parameterfile und ein Runfile. Das Parameterfile ist tatsächlich ein File, sowas wie ein Zipfile, das haufenweise Text aus dem Internet komprimiert in ein klitzekleines File, aus dem uns die Modelle antworten können, nachdem sie natürlich noch das Fine-Tuning und das Reinforcement Learning durchlaufen haben.
Diese Modelle sind intelligent, und sie können uns immer und überall unterstützen und helfen. Alle diese Modelle haben ein Token-Limit, und das sollte man wissen.
Du hast auch gesehen, dass es ganz, ganz, ganz viele verschiedene LLMs gibt – tausende. Aber in der Chatbot-Arena bekommen wir sofort einen Überblick, was wir vielleicht verwenden könnten.
Daneben hast du noch gelernt, was die Unterschiede von Closed Source und Open Source LLMs sind. Im Groben: Bei Open Source LLMs kann man den Code einsehen. Wir können uns das Runfile und das Parameterfile auch runterladen, alles lokal laufen lassen, alles ist komplett sicher – ohne Bias, ohne politische Richtungen. An unseren Daten kann nicht trainiert werden. Wir sind nicht abhängig von Servern, nicht abhängig von Unternehmen, noch nicht mal abhängig vom Internet.
Deshalb haben Open-Source-LLMs auch riesengroße Vorteile, und die kennst du mittlerweile. Das heißt, du hast einiges in dieser Sektion gelernt.
Und du weißt, was Lernen ist. Ich will Lernen definieren: Lernen ist eine Veränderung im Verhalten basierend auf neuen Umständen. Wenn du das nächste Mal keine Lust hast, in eine politische Richtung gedrückt zu werden, wenn du das nächste Mal keine Lust hast, dass an deinen Daten trainiert wird, dann solltest du eventuell mal überlegen, ob du ein Open-Source-LLM lokal auf deinem Computer installierst. Nur so hast du auch wirklich gelernt.
Und weißt du, was gute Lerner machen? Die lernen zusammen! Denn durch die Schwarmintelligenz kann man zusammen viel, viel schneller lernen. Mehr Leute wissen mehr als wenige Leute. Und das erreichst du, indem du diesen Kurs teilst. Das würde wirklich alles für mich bedeuten:
Wenn du den Kurs mit jemandem teilst, und die Person lernt was aus dem Kurs, dann bekommst du noch einen netten Nebeneffekt: Dein Status wird ansteigen, weil die Person den Wert von diesem Kurs dir zuschreibt, weil du den Kurs mit ihr geteilt hast.
In dem Sinne: Wir sehen uns natürlich in der nächsten Sektion, sobald wir uns ansehen, wie wir solche Open-Source-LLMs laufen lassen können. Denn Theorie ist ja gut und recht, aber du musst natürlich auch wissen, wie das geht.
Also, wir sehen uns in der nächsten Sektion.