Zum Inhalt springen

Werk:AI mit Arnie/Open-Source LLMs

aus AufEinWort, der freien Forschung
Dies ist eine alte Version dieser Seite, zuletzt bearbeitet am 10. Dezember 2024 um 17:55 Uhr durch Nikolaos (Diskussion | Beiträge). Sie kann sich erheblich von der aktuellen Version unterscheiden.
  1. Teaser Clip (Das lernst du)
    1. YTV: Teaser Opensource LLMs (3:56)
    2. VAS: Teaser Clip (Das lernst du)
  2. Überblick
    1. YTV: Opensource LLMs Überblick (8:11)
    2. VAS: Überblick
  3. Downloads & Links
    1. VAS: Downloads & Links
  4. Open-Source LLMs: Vorteile & Nachteile
    1. Worum geht es in diesem Abschnitt
      1. YTV: 1 Worum geht es in diesem Abschnitt (0:20)
      2. VAS: Worum geht es in diesem Abschnitt
    2. Was sind LLMs wie ChatGPT, Llama, Mistral usw
      1. YTV: 2 Was sind LLMs wie ChatGPT, Llama, Mistral usw (12:23)
      2. VAS: Was sind LLMs wie ChatGPT, Llama, Mistral usw
    3. Welche LLMs gibt es und was soll ich verwenden
      1. YTV: 3 Welche LLMs gibt es und was soll ich verwenden (4:40)
      2. VAS: Welche LLMs gibt es und was soll ich verwenden
    4. Nachteile von Closed Source LLMs
      1. YTV: 4 Nachteile von Closed Source LLMs wie ChatGPT, Gemini und Claude (12:14)
      2. VAS: Nachteile von Closed Source LLMs
    5. Vor und Nachteile von Open Source LLMs
      1. YTV: 5 Vor und Nachteile von Open Source LLMs wie Llama3, Mistral & mehr (4:09)
      2. VAS: Vor und Nachteile von Open Source LLMs
    6. Rückblick
      1. YTV: 6 Recap sd (2:48)
      2. VAS: Rückblick
  5. Der einfachste Weg, LLMs lokal zu verwenden
    1. Voraussetzungen für die lokale Nutzung von LLMs
      1. YTV: 1 Voraussetzungen für die lokale Nutzung von Open Source LLMs (6:12)
      2. VAS: Voraussetzungen für die lokale Nutzung von LLMs
    2. Installation von LM Studio
      1. YTV: 2 Installation von LM Studio und alternative Methoden zum Betrieb von LLMsss (4:52)
      2. VAS: Installation von LM Studio
    3. Open Source Modelle in LM Studio nutzen
      1. YTV: 3 Open Source Modelle in LM Studio nutzen h (17:19)
      2. VAS: Open Source Modelle in LM Studio nutzen
    4. Zensierte VS unzensierte LLMs
      1. YTV: 4 Zensierte vs unzensierte LLMs (14:28)
      2. VAS: Zensierte vs unzensierte LLMs
    5. Die Anwendungszwecke von LLMs
      1. YTV: 5 Die Anwendungszwecke von LLMs (5:03)
      2. VAS: Die Anwendungszwecke von LLMs
    6. Finetuning eines Modells auf Huggingface
      1. YTV: 6 Finetuning eines Open Source Modells mit Huggingface j (5:27)
      2. VAS: Finetuning eines Modells auf Huggingface
    7. Bilderkennung mit Llama3 Llava
      1. YTV: 7 Vision Bilderkennung in Opensource LLMs mit Llama3 Llava (7:13)
      2. VAS: Bilderkennung mit Llama3 Llava
    8. Einige Beispiele zur Bilderkennung
      1. YTV: 8 Einige Beispiele zur Bilderkennung Vision (8:05)
      2. VAS: Einige Beispiele zur Bilderkennung
    9. Details zur Hardware: GPU Offload, CPU, RAM & VRAM
      1. YTV: 8 2Mehr Details zur Hardware GPU Offload, CPU, RAM und VRAM (4:51)
      2. VAS: Details zur Hardware: GPU Offload, CPU, RAM & VRAM
    10. Zusammenfassung und ein kurzer Ausblick
      1. YTV: 9 Zusammenfassung und ein kurzer Ausblick (3:56)
      2. VAS: Zusammenfassung und ein kurzer Ausblick
  6. Prompt Engineering & Nutzung in der Cloud
    1. Was wird in hier behandelt?
      1. YTV: 1 Was wird in diesem Abschnitt behandelt, (1:42)
      2. VAS: Was wird in hier behandelt?
    2. HuggingChat Ein Interface für Open Source LLMs
      1. YTV: 2 HuggingChat Ein Interface für die Nutzung von Open Source LLMs (724)
      2. VAS: HuggingChat Ein Interface für Open Source LLMs
    3. Systemprompts & Function Calling
      1. YTV: 3 Systemprompts sind ein wichtiger Teil im Prompt Engineering + Function Calling (6:18)
      2. VAS: Systemprompts & Function Calling
    4. Prompt Engineering Basics
      1. YTV: 4 Prompt Engineering Basics, semantische Assoziation, strukturierte Prompts & Rollen Prompting (10:16)
      2. VAS: Prompt Engineering Basics
    5. Prompt Engineering: Einfache Strategien
      1. YTV: 5 Prompt Engineering für LLMs die einfachsten strategien (9:54)
      2. VAS: Prompt Engineering: Einfache Strategien
    6. Erstellung eigener Assistenten in HuggingChat
      1. YTV: 6 Erstellung eigener Assistenten in HuggingChat (7:32)
      2. VAS: Erstellung eigener Assistenten in HuggingChat
    7. Groq LPU Chip statt GPU
      1. YTV: 7 Groq Open Source LLMs mit schnellem LPU Chip statt GPU nutzen (4:18)
      2. VAS: Groq LPU Chip statt GPU
    8. Recap, das solltest du dir merken
      1. YTV: 8 Recap, das solltest du dir merken (3:25)
      2. VAS: Recap, das solltest du dir merken
  7. Vektordatenbanken, Embedding-Modelle & RAG
    1. Was wird in diesem Abschnitt behandelt?
      1. YTV: 0 Was wird in diesem Abschnitt behandelt (1:06)
      2. VAS: Was wird in diesem Abschnitt behandelt?
    2. Function Calling
      1. YTV: 1 Was ist Function Calling bei LLMs d (6:46)
      2. VAS: Function Calling
    3. Vektordatenbanken, Embedding Modelle & RAG
      1. YTV: 2 Vektordatenbanken, Embedding Modelle und Retrieval Augmented Generation RAG (10:40)
      2. VAS: Vektordatenbanken, Embedding Modelle & RAG
    4. Anything LLM installieren mit lokalen Server
      1. YTV: 3 Anything LLM installieren und einen lokalen Server einrichten (13:57)
      2. VAS: Anything LLM installieren mit lokalen Server
    5. Lokaler RAG Chatbot mit Anything LLM
      1. YTV: 4 Lokaler RAG Chatbot mit Anything LLM (12:00)
      2. VAS: Lokaler RAG Chatbot mit Anything LLM
    6. Ollama & Llama 3 einrichten
      1. YTV: 5 Ollama & Llama 3 herunterladen, lokalen Server erstellen & verknüpfen 12:16)
      2. VAS: Ollama & Llama 3 einrichten
    7. Function Calling mit Llama 3 & Anything LLM
      1. YTV: 6 Function Calling mit Llama 3 & Anything LLM Internet durchsuchen (7:30)
      2. VAS: Function Calling mit Llama 3 & Anything LLM
    8. Mehr zu Function Calling
      1. YTV: 7 Function Calling Daten zusammenfassen, speichern und Diagramme mit Python erstellen (9:03)
      2. VAS: Mehr zu Function Calling
    9. Weitere Funktionen von Anything LLM & APIs
      1. YTV: 8 Weitere Funktionen von Anything LLM und externe APIs (12:58)
      2. VAS: Weitere Funktionen von Anything LLM & APIs
    10. Recap, das solltest du nicht vergessen
      1. YTV: 9 Recap, das solltest du nicht vergessen (4:06)
      2. VAS: Recap, das solltest du nicht vergessen
  8. RAG-App optimieren: Tipps zur Datenvorbereitung
    1. Firecrawl für Daten aus Webseiten
      1. YTV: 1 Tipps für bessere RAG Apps Firecrawl für deine Daten aus Webseiten (8:18)
      2. VAS: Firecrawl für Daten aus Webseiten
    2. LlamaIndex & LlamaParse: PDF zu Markdown
      1. YTV: 2 Effizienteres RAG mit LlamaIndex und LlamaParse Datenvorbereitung für PDFs, Docs, CSV Dateien & m (12:32)
      2. VAS: LlamaIndex & LlamaParse: PDF zu Markdown
    3. Llama Parse Update
      1. YTV: 3 Llama Parse Update D (1:59)
      2. VAS: Llama Parse Update
  9. Lokale KI-Agenten mit Open-Source LLMs
    1. Worum geht es hier?
      1. YTV: 0 Was wird in diesem Abschnitt über KI Agenten behandelt (1:37)
      2. VAS: Worum geht es hier?
    2. KI Agenten, Definition und verfügbare Tools
      1. YTV: 1 KI Agenten, Definition und verfügbare Tools (14:42)
      2. VAS: KI Agenten, Definition und verfügbare Tools
    3. Möglichkeiten, Flowise zu betreiben
      1. YTV: 2 Möglichkeiten, Flowise lokal mit Node js oder extern zu betreiben (6:30)
      2. VAS: Möglichkeiten, Flowise zu betreiben
    4. Installation von Flowise mit Node.js
      1. YTV: 3 Installation von Flowise mit Node js (5:35)
      2. VAS: Installation von Flowise mit Node.js
    5. Das Flowise Interface
      1. YTV: 4 Das Flowise Interface Einfacher als Langchain und LangGraph (4:28)
      2. VAS: Das Flowise Interface
    6. Überblick von einem lokalen Rag ChatBot
      1. YTV: 5 Überblick von einem lokalen Rag ChatBot (4:59)
      2. VAS: Überblick von einem lokalen Rag ChatBot
    7. Unser erster KI Agent
      1. YTV: 6 Unser erster KI Agent, der Python Code und Beschreibungen erstellt (17:33)
      2. VAS: Unser erster KI Agent
    8. KI Agenten mit Function Calling
      1. YTV: 7 KI Agenten mit Function Calling, Internetzugriff und drei Experten (13:30)
      2. VAS: KI Agenten mit Function Calling
    9. Welchen KI Agenten bauen & externes Hosting
      1. YTV: 8 Welchen KI Agenten solltest du bauen & externes Hosting (6:56)
      2. VAS: Welchen KI Agenten bauen & externes Hosting
    10. Rückblick: Das solltest du dir merken
      1. YTV: 9 Rückblick Das solltest du dir merken (3:52)
      2. VAS: Rückblick: Das solltest du dir merken
  10. Finetuning, GPUs mieten, Open-Source TTS & mehr
    1. Worum ght es in deisem Abschnitt
      1. YTV: 01 Worum ght es in deisem Abschnitt (1:10)
      2. VAS: Worum ght es in deisem Abschnitt
    2. Text to Speech "TTS" mit Google Colab
      1. YTV: 1 Text to Speech TTS mit Google Colab (10:05)
      2. VAS: Text to Speech "TTS" mit Google Colab
    3. F5 TTS: Stimme klonen (Opensource)
      1. YTV: Vergiss Elevenlabs! So Klonst Du Stimmen Gratis mit F5-TTS (8:11)
      2. VAS: F5 TTS: Stimme klonen (Opensource)
        1. Das ist ein Youtube Video von mir, es passt hier perfekt rein! Also viel Spaß =)
    4. Finetuning mit Google Colab
      1. YTV: 2 Finetuning von Open Source LLMs mit Google Colab Alpaca + Llama 3 8b, Unsloth für 2x schnelleres (26:13)
      2. VAS: Finetuning mit Google Colab
    5. GPU bei Runpod oder Massed Compute mieten
      1. YTV: 3 GPU bei Runpod oder Massed Compute mieten, wenn der lokale PC nicht leistungsfähig genug ist (7:25)
      2. VAS: GPU bei Runpod oder Massed Compute mieten
    6. Was ist das beste Open Source LLM
      1. YTV: 4 Was ist das beste Open Source LLM, das ich verwenden sollte (3:19)
      2. VAS: Was ist das beste Open Source LLM
    7. Rückblick: Das solltest du dir merken
      1. YTV: 5 Rückblick das solltest du dir merken (5:29)
      2. VAS: Rückblick: Das solltest du dir merken
  11. Datenschutz, Sicherheit & Wie es weiter geht
    1. Worum geht es in diesem Abschnitt?
      1. YTV: 00 Worum geht es in diesem Abschnitt (0:57)
      2. VAS: Worum geht es in diesem Abschnitt?
    2. Jailbreaks
      1. YTV: 1 Jailbreaks Sicherheitsrisiken durch Angriffe auf LLMs mit Prompts (4:39)
      2. VAS: Jailbreaks
    3. Prompt Injections
      1. YTV: 2 Prompt Injections als Angriff auf Opensource LLMs (7:54)
      2. VAS: Prompt Injections
    4. Data Poisoning
      1. YTV: 3 Data Poisoning (3:49)
      2. VAS: Data Poisoning
    5. Datenschutz & Sicherheit
      1. YTV: 4 Datenschutz und Sicherheit Sind deine Daten gefährdet (5:17)
      2. VAS: Datenschutz & Sicherheit
    6. Kommerzielle Nutzung & Verkauf
      1. YTV: 5 Ist die kommerzielle Nutzung und der Verkauf generierter Inhalte erlaubt (5:15)
      2. VAS: Kommerzielle Nutzung & Verkauf
    7. Mein Danke und wie geht es weiter
      1. YTV: 6 Mein Danke und wie geht es weiter (3:56)
      2. VAS: Mein Danke und wie geht es weiter