Werk:AI mit Arnie/Open-Source LLMs

1. Teaser Clip (Das lernst du)
   1. YTV: Teaser Opensource LLMs (3:56)
   2. VAS: Teaser Clip (Das lernst du)
2. Überblick
   1. YTV: Opensource LLMs Überblick (8:11)
   2. VAS: Überblick
3. Downloads & Links
   1. VAS: Downloads & Links
4. Open-Source LLMs: Vorteile & Nachteile
   1. Worum geht es in diesem Abschnitt
      1. YTV: 1 Worum geht es in diesem Abschnitt (0:20)
      2. VAS: Worum geht es in diesem Abschnitt
   2. Was sind LLMs wie ChatGPT, Llama, Mistral usw
      1. YTV: 2 Was sind LLMs wie ChatGPT, Llama, Mistral usw (12:23)
      2. VAS: Was sind LLMs wie ChatGPT, Llama, Mistral usw
   3. Welche LLMs gibt es und was soll ich verwenden
      1. YTV: 3 Welche LLMs gibt es und was soll ich verwenden (4:40)
      2. VAS: Welche LLMs gibt es und was soll ich verwenden
   4. Nachteile von Closed Source LLMs
      1. YTV: 4 Nachteile von Closed Source LLMs wie ChatGPT, Gemini und Claude (12:14)
      2. VAS: Nachteile von Closed Source LLMs
   5. Vor und Nachteile von Open Source LLMs
      1. YTV: 5 Vor und Nachteile von Open Source LLMs wie Llama3, Mistral & mehr (4:09)
      2. VAS: Vor und Nachteile von Open Source LLMs
   6. Rückblick
      1. YTV: 6 Recap sd (2:48)
      2. VAS: Rückblick
5. Der einfachste Weg, LLMs lokal zu verwenden
   1. Voraussetzungen für die lokale Nutzung von LLMs
      1. YTV: 1 Voraussetzungen für die lokale Nutzung von Open Source LLMs (6:12)
      2. VAS: Voraussetzungen für die lokale Nutzung von LLMs
   2. Installation von LM Studio
      1. YTV: 2 Installation von LM Studio und alternative Methoden zum Betrieb von LLMsss (4:52)
      2. VAS: Installation von LM Studio
   3. Open Source Modelle in LM Studio nutzen
      1. YTV: 3 Open Source Modelle in LM Studio nutzen h (17:19)
      2. VAS: Open Source Modelle in LM Studio nutzen
   4. Zensierte VS unzensierte LLMs
      1. YTV: 4 Zensierte vs unzensierte LLMs (14:28)
      2. VAS: Zensierte vs unzensierte LLMs
   5. Die Anwendungszwecke von LLMs
      1. YTV: 5 Die Anwendungszwecke von LLMs (5:03)
      2. VAS: Die Anwendungszwecke von LLMs
   6. Finetuning eines Modells auf Huggingface
      1. YTV: 6 Finetuning eines Open Source Modells mit Huggingface j (5:27)
      2. VAS: Finetuning eines Modells auf Huggingface
   7. Bilderkennung mit Llama3 Llava
      1. YTV: 7 Vision Bilderkennung in Opensource LLMs mit Llama3 Llava (7:13)
      2. VAS: Bilderkennung mit Llama3 Llava
   8. Einige Beispiele zur Bilderkennung
      1. YTV: 8 Einige Beispiele zur Bilderkennung Vision (8:05)
      2. VAS: Einige Beispiele zur Bilderkennung
   9. Details zur Hardware: GPU Offload, CPU, RAM & VRAM
      1. YTV: 8 2Mehr Details zur Hardware GPU Offload, CPU, RAM und VRAM (4:51)
      2. VAS: Details zur Hardware: GPU Offload, CPU, RAM & VRAM
   10. Zusammenfassung und ein kurzer Ausblick
       1. YTV: 9 Zusammenfassung und ein kurzer Ausblick (3:56)
       2. VAS: Zusammenfassung und ein kurzer Ausblick
6. Prompt Engineering & Nutzung in der Cloud
   1. Was wird in hier behandelt?
      1. YTV: 1 Was wird in diesem Abschnitt behandelt, (1:42)
      2. VAS: Was wird in hier behandelt?
   2. HuggingChat Ein Interface für Open Source LLMs
      1. YTV: 2 HuggingChat Ein Interface für die Nutzung von Open Source LLMs (724)
      2. VAS: HuggingChat Ein Interface für Open Source LLMs
   3. Systemprompts & Function Calling
      1. YTV: 3 Systemprompts sind ein wichtiger Teil im Prompt Engineering + Function Calling (6:18)
      2. VAS: Systemprompts & Function Calling
   4. Prompt Engineering Basics
      1. YTV: 4 Prompt Engineering Basics, semantische Assoziation, strukturierte Prompts & Rollen Prompting (10:16)
      2. VAS: Prompt Engineering Basics
   5. Prompt Engineering: Einfache Strategien
      1. YTV: 5 Prompt Engineering für LLMs die einfachsten strategien (9:54)
      2. VAS: Prompt Engineering: Einfache Strategien
   6. Erstellung eigener Assistenten in HuggingChat
      1. YTV: 6 Erstellung eigener Assistenten in HuggingChat (7:32)
      2. VAS: Erstellung eigener Assistenten in HuggingChat
   7. Groq LPU Chip statt GPU
      1. YTV: 7 Groq Open Source LLMs mit schnellem LPU Chip statt GPU nutzen (4:18)
      2. VAS: Groq LPU Chip statt GPU
   8. Recap, das solltest du dir merken
      1. YTV: 8 Recap, das solltest du dir merken (3:25)
      2. VAS: Recap, das solltest du dir merken
7. Vektordatenbanken, Embedding-Modelle & RAG
   1. Was wird in diesem Abschnitt behandelt?
      1. YTV: 0 Was wird in diesem Abschnitt behandelt (1:06)
      2. VAS: Was wird in diesem Abschnitt behandelt?
   2. Function Calling
      1. YTV: 1 Was ist Function Calling bei LLMs d (6:46)
      2. VAS: Function Calling
   3. Vektordatenbanken, Embedding Modelle & RAG
      1. YTV: 2 Vektordatenbanken, Embedding Modelle und Retrieval Augmented Generation RAG (10:40)
      2. VAS: Vektordatenbanken, Embedding Modelle & RAG
   4. Anything LLM installieren mit lokalen Server
      1. YTV: 3 Anything LLM installieren und einen lokalen Server einrichten (13:57)
      2. VAS: Anything LLM installieren mit lokalen Server
   5. Lokaler RAG Chatbot mit Anything LLM
      1. YTV: 4 Lokaler RAG Chatbot mit Anything LLM (12:00)
      2. VAS: Lokaler RAG Chatbot mit Anything LLM
   6. Ollama & Llama 3 einrichten
      1. YTV: 5 Ollama & Llama 3 herunterladen, lokalen Server erstellen & verknüpfen 12:16)
      2. VAS: Ollama & Llama 3 einrichten
   7. Function Calling mit Llama 3 & Anything LLM
      1. YTV: 6 Function Calling mit Llama 3 & Anything LLM Internet durchsuchen (7:30)
      2. VAS: Function Calling mit Llama 3 & Anything LLM
   8. Mehr zu Function Calling
      1. YTV: 7 Function Calling Daten zusammenfassen, speichern und Diagramme mit Python erstellen (9:03)
      2. VAS: Mehr zu Function Calling
   9. Weitere Funktionen von Anything LLM & APIs
      1. YTV: 8 Weitere Funktionen von Anything LLM und externe APIs (12:58)
      2. VAS: Weitere Funktionen von Anything LLM & APIs
   10. Recap, das solltest du nicht vergessen
       1. YTV: 9 Recap, das solltest du nicht vergessen (4:06)
       2. VAS: Recap, das solltest du nicht vergessen
8. RAG-App optimieren: Tipps zur Datenvorbereitung
   1. Firecrawl für Daten aus Webseiten
      1. YTV: 1 Tipps für bessere RAG Apps Firecrawl für deine Daten aus Webseiten (8:18)
      2. VAS: Firecrawl für Daten aus Webseiten
   2. LlamaIndex & LlamaParse: PDF zu Markdown
      1. YTV: 2 Effizienteres RAG mit LlamaIndex und LlamaParse Datenvorbereitung für PDFs, Docs, CSV Dateien & m (12:32)
      2. VAS: LlamaIndex & LlamaParse: PDF zu Markdown
   3. Llama Parse Update
      1. YTV: 3 Llama Parse Update D (1:59)
      2. VAS: Llama Parse Update
9. Lokale KI-Agenten mit Open-Source LLMs
   1. Worum geht es hier?
      1. YTV: 0 Was wird in diesem Abschnitt über KI Agenten behandelt (1:37)
      2. VAS: Worum geht es hier?
   2. KI Agenten, Definition und verfügbare Tools
      1. YTV: 1 KI Agenten, Definition und verfügbare Tools (14:42)
      2. VAS: KI Agenten, Definition und verfügbare Tools
   3. Möglichkeiten, Flowise zu betreiben
      1. YTV: 2 Möglichkeiten, Flowise lokal mit Node js oder extern zu betreiben (6:30)
      2. VAS: Möglichkeiten, Flowise zu betreiben
   4. Installation von Flowise mit Node.js
      1. YTV: 3 Installation von Flowise mit Node js (5:35)
      2. VAS: Installation von Flowise mit Node.js
   5. Das Flowise Interface
      1. YTV: 4 Das Flowise Interface Einfacher als Langchain und LangGraph (4:28)
      2. VAS: Das Flowise Interface
   6. Überblick von einem lokalen Rag ChatBot
      1. YTV: 5 Überblick von einem lokalen Rag ChatBot (4:59)
      2. VAS: Überblick von einem lokalen Rag ChatBot
   7. Unser erster KI Agent
      1. YTV: 6 Unser erster KI Agent, der Python Code und Beschreibungen erstellt (17:33)
      2. VAS: Unser erster KI Agent
   8. KI Agenten mit Function Calling
      1. YTV: 7 KI Agenten mit Function Calling, Internetzugriff und drei Experten (13:30)
      2. VAS: KI Agenten mit Function Calling
   9. Welchen KI Agenten bauen & externes Hosting
      1. YTV: 8 Welchen KI Agenten solltest du bauen & externes Hosting (6:56)
      2. VAS: Welchen KI Agenten bauen & externes Hosting
   10. Rückblick: Das solltest du dir merken
       1. YTV: 9 Rückblick Das solltest du dir merken (3:52)
       2. VAS: Rückblick: Das solltest du dir merken
10. Finetuning, GPUs mieten, Open-Source TTS & mehr
    1. Worum ght es in deisem Abschnitt
       1. YTV: 01 Worum ght es in deisem Abschnitt (1:10)
       2. VAS: Worum ght es in deisem Abschnitt
    2. Text to Speech "TTS" mit Google Colab
       1. YTV: 1 Text to Speech TTS mit Google Colab (10:05)
       2. VAS: Text to Speech "TTS" mit Google Colab
    3. F5 TTS: Stimme klonen (Opensource)
       1. YTV: Vergiss Elevenlabs! So Klonst Du Stimmen Gratis mit F5-TTS (8:11)
       2. VAS: F5 TTS: Stimme klonen (Opensource)
          1. Das ist ein Youtube Video von mir, es passt hier perfekt rein! Also viel Spaß =)
    4. Finetuning mit Google Colab
       1. YTV: 2 Finetuning von Open Source LLMs mit Google Colab Alpaca + Llama 3 8b, Unsloth für 2x schnelleres (26:13)
       2. VAS: Finetuning mit Google Colab
    5. GPU bei Runpod oder Massed Compute mieten
       1. YTV: 3 GPU bei Runpod oder Massed Compute mieten, wenn der lokale PC nicht leistungsfähig genug ist (7:25)
       2. VAS: GPU bei Runpod oder Massed Compute mieten
    6. Was ist das beste Open Source LLM
       1. YTV: 4 Was ist das beste Open Source LLM, das ich verwenden sollte (3:19)
       2. VAS: Was ist das beste Open Source LLM
    7. Rückblick: Das solltest du dir merken
       1. YTV: 5 Rückblick das solltest du dir merken (5:29)
       2. VAS: Rückblick: Das solltest du dir merken
11. Datenschutz, Sicherheit & Wie es weiter geht
    1. Worum geht es in diesem Abschnitt?
       1. YTV: 00 Worum geht es in diesem Abschnitt (0:57)
       2. VAS: Worum geht es in diesem Abschnitt?
    2. Jailbreaks
       1. YTV: 1 Jailbreaks Sicherheitsrisiken durch Angriffe auf LLMs mit Prompts (4:39)
       2. VAS: Jailbreaks
    3. Prompt Injections
       1. YTV: 2 Prompt Injections als Angriff auf Opensource LLMs (7:54)
       2. VAS: Prompt Injections
    4. Data Poisoning
       1. YTV: 3 Data Poisoning (3:49)
       2. VAS: Data Poisoning
    5. Datenschutz & Sicherheit
       1. YTV: 4 Datenschutz und Sicherheit Sind deine Daten gefährdet (5:17)
       2. VAS: Datenschutz & Sicherheit
    6. Kommerzielle Nutzung & Verkauf
       1. YTV: 5 Ist die kommerzielle Nutzung und der Verkauf generierter Inhalte erlaubt (5:15)
       2. VAS: Kommerzielle Nutzung & Verkauf
    7. Mein Danke und wie geht es weiter
       1. YTV: 6 Mein Danke und wie geht es weiter (3:56)
       2. VAS: Mein Danke und wie geht es weiter