Werk:AI mit Arnie/Die Anwendungszwecke von LLMs
Du hast also LM Studio installiert und laufen. Du weißt, wie du Modelle findest, du weißt, dass es unzensierte Modelle gibt, und du weißt auch, wie du diese verwendest. In diesem Video will ich noch einen kleinen Überblick geben über die Dinge, die du eigentlich so mit LLMs machen kannst. Ja, natürlich, du musst wissen, was du alles machen kannst, damit du diese LLMs anständig verwenden kannst. Also in diesem Video einen kleinen Überblick, was du mit LLMs in diesem normalen Standardinterface machen kannst, bevor du danach natürlich etwas bastelst, damit du etwas mehr machen kannst.
Also, was sind die Anwendungen generell von LLMs?
Texterstellung und Bearbeitung. Das heißt, du kannst ganz einfach automatisch Texte generieren und bearbeiten, und zwar für kreatives Schreiben, Artikel und Geschäftskommunikation. Es ist völlig egal, welche Texte du machen willst, du kannst alles erstellen und bearbeiten. Mit Bearbeiten meine ich auch, dass du Texte reinkopieren kannst und du kannst sagen: „Hey, kontrolliere die Rechtschreibung. Hey, bring das in die Höflichkeitsform. Hey, setz das von der Vergangenheit in die Jetztvergangenheit oder in die Zukunft oder was auch immer.“ Du kannst all deine Texte bearbeiten, umschreiben und natürlich komplett neu erstellen.
Danach können diese Modelle natürlich auch als Programmierunterstützung helfen. Das heißt, sie helfen dir bei der Coderstellung, bei der Fehlerbehebung in deinem Code. Die können natürlich auch Programmierkonzepte erklären, und sie sind ganz einfach generell nützlich, wenn du hier Dinge lernen willst. Man kann sogar Coding lernen mit einem solchen LLM, indem man fragt, welche Zeile eben was macht.
Außerdem sind diese Modelle gut in der Sprachübersetzung. Wenn du hier tatsächlich Texte reinkopierst in Englisch, kannst du sie dir übersetzen lassen, in Deutsch oder von Deutsch in Englisch oder auch in Italienisch, in was auch immer.
Zu der Bildung und zum Lernen sind auch diese LLMs natürlich richtig, richtig perfekt, weil du ganz, ganz gute Erklärungen bekommen kannst zu einer Vielzahl von Themen. Es können akademische Fächer sein oder auch Allgemeinwissen. Oder, wie ich schon sagte, Programmieren. Oder sagen wir, du weißt nicht genau, wie du Word verwendest, du weißt nicht, wie du PowerPoint verwendest, du weißt nicht, wie du Excel verwendest. Du kannst ganz einfach das LLM fragen: „Hey, wie mache ich X, Y, Z in Excel?“ und du wirst höchstwahrscheinlich eine relativ gute Antwort bekommen.
Natürlich auch zur Kundenunterstützung können diese Dinge helfen. Du kannst einen Chatbot bauen, und diesen Chatbot – also wir müssen uns natürlich noch genauer ansehen, wie wir diesen Chatbot bauen – aber du kannst sogar einen Chatbot bauen mit Open-Source-LLMs. Du kannst den hosten und einbauen in Webseiten oder sonst was. All das funktioniert. Und du kannst später sogar PDFs und sogenannte GPTs erstellen, jedoch natürlich in Open-Source-Modellen, und dafür brauchen wir ein paar mehr Softwares, da wir in LM Studio diese RAG-Technologie, diese sogenannte RAG-Technologie, noch nicht eingebaut haben. Dazu kommen wir etwas später.
Natürlich auch zur Datenanalyse und Berichterstattung: Du kannst natürlich Datensätze reinkopieren und fragen, was man daraus bekommen könnte.
Das sind hier so die generellen Dinge, die du mit diesen LLMs machen kannst. Wie gesagt, generell können diese LLMs Text erweitern und Text zusammenfassen. Das ist natürlich ein breites, breites Thema, und du kannst und solltest natürlich auch kreativ werden, je nachdem, was du halt ganz, ganz genau machen willst.
Aber diese ganzen Dinge, die kannst du machen, die kannst du jetzt sofort schon machen mit LM Studio. Natürlich ist es noch nicht perfekt, so wie du es machst. Wir sollten eventuell besseres Prompt-Engineering verwenden, um diese Modelle noch besser zu verwenden.
Und wir können diese Modelle noch besser an unseren spezifischen Use Case anpassen. Wir können die Modelle entweder fintunen – ich will einen klitzekleinen Überblick zum ersten Fine-Tuning im nächsten Video geben – und wir können die Modelle auch fintunen über andere Wege, z. B. über Google Colab. Das will ich etwas später zeigen. Und wir können sie auch anpassen durch die RAG-Technologie und viele, viele weitere Dinge. Das wird jedoch minimal komplexer. Wie gesagt, all das kommt natürlich später.
Bis jetzt weißt du, dass du diese LLMs zu vielen Dingen verwenden kannst, und ich würde dir raten, dass du einfach mal ein klein wenig rumspielst, bevor wir danach etwas tiefer eintauchen. Bevor wir uns erst mal das Prompt-Engineering ansehen, dann die RAG-Technologie, das Bauen von KI-Agenten und so weiter. Denn es ist ganz, ganz viel möglich, auch mit diesen Open-Source-LLMs.
Im nächsten Video sehen wir uns noch ganz, ganz kurz das Fine-Tuning an, so wie es Eric Hartford macht. Denn das Fine-Tuning, wie er es macht, ist relativ teuer. Aber wenn du unbedingt willst, kannst du es auch machen, und du kannst dann ein solches LLM spezifisch anpassen für den Use Case, den du machst.
Also, wir sehen uns im nächsten Video.