Zum Inhalt springen

„Werk:AI mit Arnie/Open-Source LLMs“ – Versionsunterschied

aus AufEinWort, der freien Forschung
← Zum vorherigen VersionsunterschiedZum nächsten Versionsunterschied →

Nikolaos (Diskussion | Beiträge)

12 Benutzergruppen
266.592 Bearbeitungen
VisuellWikitext
Keine Bearbeitungszusammenfassung
Keine Bearbeitungszusammenfassung
Zeile 6: Zeile 6:
## VAS: [[AKIR/Open-Source LLMs - Überblick|Überblick]]
## VAS: [[AKIR/Open-Source LLMs - Überblick|Überblick]]
# [https://www.skool.com/ai-mit-arnie-ki-revolution/classroom/013e3213?md=736b535edf6d4e6a8171a340de631acb Downloads & Links]
# [https://www.skool.com/ai-mit-arnie-ki-revolution/classroom/013e3213?md=736b535edf6d4e6a8171a340de631acb Downloads & Links]
## VAS: [[AKIR/Open-Source LLMs - Downloads & Links|Downloads & Links]]
## VAS: [[AKIR/Downloads & Links#Open-Source LLMs (AKIR-Kurs)|Downloads & Links]]
# Open-Source LLMs: Vorteile & Nachteile
# Open-Source LLMs: Vorteile & Nachteile
## [https://www.skool.com/ai-mit-arnie-ki-revolution/classroom/013e3213?md=cdf982b95b044b539a4f102097ed5d70 Worum geht es in diesem Abschnitt]
## [https://www.skool.com/ai-mit-arnie-ki-revolution/classroom/013e3213?md=cdf982b95b044b539a4f102097ed5d70 Worum geht es in diesem Abschnitt]
Zeile 119: Zeile 119:
## [https://www.skool.com/ai-mit-arnie-ki-revolution/classroom/013e3213?md=108c79a9848140f1a4e6c35c319a95b4 LlamaIndex & LlamaParse: PDF zu Markdown]
## [https://www.skool.com/ai-mit-arnie-ki-revolution/classroom/013e3213?md=108c79a9848140f1a4e6c35c319a95b4 LlamaIndex & LlamaParse: PDF zu Markdown]
### YTV: [https://youtu.be/TapJNjLPuds?si=0ulPPKGTBhBfE6Hj 2 Effizienteres RAG mit LlamaIndex und LlamaParse Datenvorbereitung für PDFs, Docs, CSV Dateien & m] (12:32)
### YTV: [https://youtu.be/TapJNjLPuds?si=0ulPPKGTBhBfE6Hj 2 Effizienteres RAG mit LlamaIndex und LlamaParse Datenvorbereitung für PDFs, Docs, CSV Dateien & m] (12:32)
### VAS: [[AKIR/LlamaIndex & LlamaParse: PDF zu Markdown|LlamaIndex & LlamaParse: PDF zu Markdown]]
### VAS: [[AKIR/LlamaIndex & LlamaParse - PDF zu Markdown|LlamaIndex & LlamaParse: PDF zu Markdown]]
## [https://www.skool.com/ai-mit-arnie-ki-revolution/classroom/013e3213?md=e2e2d2b07bec4e8cb3a49464fb9425fc Llama Parse Update]
## [https://www.skool.com/ai-mit-arnie-ki-revolution/classroom/013e3213?md=e2e2d2b07bec4e8cb3a49464fb9425fc Llama Parse Update]
### YTV: [https://youtu.be/NuCDYWJ_L2M?si=PnAS-halpUa144ld 3 Llama Parse Update D] (1:59)
### YTV: [https://youtu.be/NuCDYWJ_L2M?si=PnAS-halpUa144ld 3 Llama Parse Update D] (1:59)

Version vom 14. Dezember 2024, 11:51 Uhr

  1. Teaser Clip (Das lernst du)
    1. YTV: Teaser Opensource LLMs (3:56)
    2. VAS: Teaser Clip (Das lernst du)
  2. Überblick
    1. YTV: Opensource LLMs Überblick (8:11)
    2. VAS: Überblick
  3. Downloads & Links
    1. VAS: Downloads & Links
  4. Open-Source LLMs: Vorteile & Nachteile
    1. Worum geht es in diesem Abschnitt
      1. YTV: 1 Worum geht es in diesem Abschnitt (0:20)
      2. VAS: Worum geht es in diesem Abschnitt
    2. Was sind LLMs wie ChatGPT, Llama, Mistral usw
      1. YTV: 2 Was sind LLMs wie ChatGPT, Llama, Mistral usw (12:23)
      2. VAS: Was sind LLMs wie ChatGPT, Llama, Mistral usw
    3. Welche LLMs gibt es und was soll ich verwenden
      1. YTV: 3 Welche LLMs gibt es und was soll ich verwenden (4:40)
      2. VAS: Welche LLMs gibt es und was soll ich verwenden
    4. Nachteile von Closed Source LLMs
      1. YTV: 4 Nachteile von Closed Source LLMs wie ChatGPT, Gemini und Claude (12:14)
      2. VAS: Nachteile von Closed Source LLMs
    5. Vor und Nachteile von Open Source LLMs
      1. YTV: 5 Vor und Nachteile von Open Source LLMs wie Llama3, Mistral & mehr (4:09)
      2. VAS: Vor und Nachteile von Open Source LLMs
    6. Rückblick
      1. YTV: 6 Recap sd (2:48)
      2. VAS: Rückblick
  5. Der einfachste Weg, LLMs lokal zu verwenden
    1. Voraussetzungen für die lokale Nutzung von LLMs
      1. YTV: 1 Voraussetzungen für die lokale Nutzung von Open Source LLMs (6:12)
      2. VAS: Voraussetzungen für die lokale Nutzung von LLMs
    2. Installation von LM Studio
      1. YTV: 2 Installation von LM Studio und alternative Methoden zum Betrieb von LLMsss (4:52)
      2. VAS: Installation von LM Studio
    3. Open Source Modelle in LM Studio nutzen
      1. YTV: 3 Open Source Modelle in LM Studio nutzen h (17:19)
      2. VAS: Open Source Modelle in LM Studio nutzen
    4. Zensierte VS unzensierte LLMs
      1. YTV: 4 Zensierte vs unzensierte LLMs (14:28)
      2. VAS: Zensierte vs unzensierte LLMs
    5. Die Anwendungszwecke von LLMs
      1. YTV: 5 Die Anwendungszwecke von LLMs (5:03)
      2. VAS: Die Anwendungszwecke von LLMs
    6. Finetuning eines Modells auf Huggingface
      1. YTV: 6 Finetuning eines Open Source Modells mit Huggingface j (5:27)
      2. VAS: Finetuning eines Modells auf Huggingface
    7. Bilderkennung mit Llama3 Llava
      1. YTV: 7 Vision Bilderkennung in Opensource LLMs mit Llama3 Llava (7:13)
      2. VAS: Bilderkennung mit Llama3 Llava
    8. Einige Beispiele zur Bilderkennung
      1. YTV: 8 Einige Beispiele zur Bilderkennung Vision (8:05)
      2. VAS: Einige Beispiele zur Bilderkennung
    9. Details zur Hardware: GPU Offload, CPU, RAM & VRAM
      1. YTV: 8 2Mehr Details zur Hardware GPU Offload, CPU, RAM und VRAM (4:51)
      2. VAS: Details zur Hardware: GPU Offload, CPU, RAM & VRAM
    10. Zusammenfassung und ein kurzer Ausblick
      1. YTV: 9 Zusammenfassung und ein kurzer Ausblick (3:56)
      2. VAS: Zusammenfassung und ein kurzer Ausblick
  6. Prompt Engineering & Nutzung in der Cloud
    1. Was wird in hier behandelt?
      1. YTV: 1 Was wird in diesem Abschnitt behandelt, (1:42)
      2. VAS: Was wird in hier behandelt?
    2. HuggingChat Ein Interface für Open Source LLMs
      1. YTV: 2 HuggingChat Ein Interface für die Nutzung von Open Source LLMs (724)
      2. VAS: HuggingChat Ein Interface für Open Source LLMs
    3. Systemprompts & Function Calling
      1. YTV: 3 Systemprompts sind ein wichtiger Teil im Prompt Engineering + Function Calling (6:18)
      2. VAS: Systemprompts & Function Calling
    4. Prompt Engineering Basics
      1. YTV: 4 Prompt Engineering Basics, semantische Assoziation, strukturierte Prompts & Rollen Prompting (10:16)
      2. VAS: Prompt Engineering Basics
    5. Prompt Engineering: Einfache Strategien
      1. YTV: 5 Prompt Engineering für LLMs die einfachsten strategien (9:54)
      2. VAS: Prompt Engineering: Einfache Strategien
    6. Erstellung eigener Assistenten in HuggingChat
      1. YTV: 6 Erstellung eigener Assistenten in HuggingChat (7:32)
      2. VAS: Erstellung eigener Assistenten in HuggingChat
    7. Groq LPU Chip statt GPU
      1. YTV: 7 Groq Open Source LLMs mit schnellem LPU Chip statt GPU nutzen (4:18)
      2. VAS: Groq LPU Chip statt GPU
    8. Recap, das solltest du dir merken
      1. YTV: 8 Recap, das solltest du dir merken (3:25)
      2. VAS: Recap, das solltest du dir merken
  7. Vektordatenbanken, Embedding-Modelle & RAG
    1. Was wird in diesem Abschnitt behandelt?
      1. YTV: 0 Was wird in diesem Abschnitt behandelt (1:06)
      2. VAS: Was wird in diesem Abschnitt behandelt?
    2. Function Calling
      1. YTV: 1 Was ist Function Calling bei LLMs d (6:46)
      2. VAS: Function Calling
    3. Vektordatenbanken, Embedding Modelle & RAG
      1. YTV: 2 Vektordatenbanken, Embedding Modelle und Retrieval Augmented Generation RAG (10:40)
      2. VAS: Vektordatenbanken, Embedding Modelle & RAG
    4. Anything LLM installieren mit lokalen Server
      1. YTV: 3 Anything LLM installieren und einen lokalen Server einrichten (13:57)
      2. VAS: Anything LLM installieren mit lokalen Server
    5. Lokaler RAG Chatbot mit Anything LLM
      1. YTV: 4 Lokaler RAG Chatbot mit Anything LLM (12:00)
      2. VAS: Lokaler RAG Chatbot mit Anything LLM
    6. Ollama & Llama 3 einrichten
      1. YTV: 5 Ollama & Llama 3 herunterladen, lokalen Server erstellen & verknüpfen 12:16)
      2. VAS: Ollama & Llama 3 einrichten
    7. Function Calling mit Llama 3 & Anything LLM
      1. YTV: 6 Function Calling mit Llama 3 & Anything LLM Internet durchsuchen (7:30)
      2. VAS: Function Calling mit Llama 3 & Anything LLM
    8. Mehr zu Function Calling
      1. YTV: 7 Function Calling Daten zusammenfassen, speichern und Diagramme mit Python erstellen (9:03)
      2. VAS: Mehr zu Function Calling
    9. Weitere Funktionen von Anything LLM & APIs
      1. YTV: 8 Weitere Funktionen von Anything LLM und externe APIs (12:58)
      2. VAS: Weitere Funktionen von Anything LLM & APIs
    10. Recap, das solltest du nicht vergessen
      1. YTV: 9 Recap, das solltest du nicht vergessen (4:06)
      2. VAS: Recap, das solltest du nicht vergessen
  8. RAG-App optimieren: Tipps zur Datenvorbereitung
    1. Firecrawl für Daten aus Webseiten
      1. YTV: 1 Tipps für bessere RAG Apps Firecrawl für deine Daten aus Webseiten (8:18)
      2. VAS: Firecrawl für Daten aus Webseiten
    2. LlamaIndex & LlamaParse: PDF zu Markdown
      1. YTV: 2 Effizienteres RAG mit LlamaIndex und LlamaParse Datenvorbereitung für PDFs, Docs, CSV Dateien & m (12:32)
      2. VAS: LlamaIndex & LlamaParse: PDF zu Markdown
    3. Llama Parse Update
      1. YTV: 3 Llama Parse Update D (1:59)
      2. VAS: Llama Parse Update
  9. Lokale KI-Agenten mit Open-Source LLMs
    1. Worum geht es hier?
      1. YTV: 0 Was wird in diesem Abschnitt über KI Agenten behandelt (1:37)
      2. VAS: Worum geht es hier?
    2. KI Agenten, Definition und verfügbare Tools
      1. YTV: 1 KI Agenten, Definition und verfügbare Tools (14:42)
      2. VAS: KI Agenten, Definition und verfügbare Tools
    3. Möglichkeiten, Flowise zu betreiben
      1. YTV: 2 Möglichkeiten, Flowise lokal mit Node js oder extern zu betreiben (6:30)
      2. VAS: Möglichkeiten, Flowise zu betreiben
    4. Installation von Flowise mit Node.js
      1. YTV: 3 Installation von Flowise mit Node js (5:35)
      2. VAS: Installation von Flowise mit Node.js
    5. Das Flowise Interface
      1. YTV: 4 Das Flowise Interface Einfacher als Langchain und LangGraph (4:28)
      2. VAS: Das Flowise Interface
    6. Überblick von einem lokalen Rag ChatBot
      1. YTV: 5 Überblick von einem lokalen Rag ChatBot (4:59)
      2. VAS: Überblick von einem lokalen Rag ChatBot
    7. Unser erster KI Agent
      1. YTV: 6 Unser erster KI Agent, der Python Code und Beschreibungen erstellt (17:33)
      2. VAS: Unser erster KI Agent
    8. KI Agenten mit Function Calling
      1. YTV: 7 KI Agenten mit Function Calling, Internetzugriff und drei Experten (13:30)
      2. VAS: KI Agenten mit Function Calling
    9. Welchen KI Agenten bauen & externes Hosting
      1. YTV: 8 Welchen KI Agenten solltest du bauen & externes Hosting (6:56)
      2. VAS: Welchen KI Agenten bauen & externes Hosting
    10. Rückblick: Das solltest du dir merken
      1. YTV: 9 Rückblick Das solltest du dir merken (3:52)
      2. VAS: Rückblick: Das solltest du dir merken
  10. Finetuning, GPUs mieten, Open-Source TTS & mehr
    1. Worum ght es in deisem Abschnitt
      1. YTV: 01 Worum ght es in deisem Abschnitt (1:10)
      2. VAS: Worum ght es in deisem Abschnitt
    2. Text to Speech "TTS" mit Google Colab
      1. YTV: 1 Text to Speech TTS mit Google Colab (10:05)
      2. VAS: Text to Speech "TTS" mit Google Colab
    3. F5 TTS: Stimme klonen (Opensource)
      1. YTV: Vergiss Elevenlabs! So Klonst Du Stimmen Gratis mit F5-TTS (8:11)
      2. VAS: F5 TTS: Stimme klonen (Opensource)
        1. Das ist ein Youtube Video von mir, es passt hier perfekt rein! Also viel Spaß =)
    4. Finetuning mit Google Colab
      1. YTV: 2 Finetuning von Open Source LLMs mit Google Colab Alpaca + Llama 3 8b, Unsloth für 2x schnelleres (26:13)
      2. VAS: Finetuning mit Google Colab
    5. GPU bei Runpod oder Massed Compute mieten
      1. YTV: 3 GPU bei Runpod oder Massed Compute mieten, wenn der lokale PC nicht leistungsfähig genug ist (7:25)
      2. VAS: GPU bei Runpod oder Massed Compute mieten
    6. Was ist das beste Open Source LLM
      1. YTV: 4 Was ist das beste Open Source LLM, das ich verwenden sollte (3:19)
      2. VAS: Was ist das beste Open Source LLM
    7. Rückblick: Das solltest du dir merken
      1. YTV: 5 Rückblick das solltest du dir merken (5:29)
      2. VAS: Rückblick: Das solltest du dir merken
  11. Datenschutz, Sicherheit & Wie es weiter geht
    1. Worum geht es in diesem Abschnitt?
      1. YTV: 00 Worum geht es in diesem Abschnitt (0:57)
      2. VAS: Worum geht es in diesem Abschnitt?
    2. Jailbreaks
      1. YTV: 1 Jailbreaks Sicherheitsrisiken durch Angriffe auf LLMs mit Prompts (4:39)
      2. VAS: Jailbreaks
    3. Prompt Injections
      1. YTV: 2 Prompt Injections als Angriff auf Opensource LLMs (7:54)
      2. VAS: Prompt Injections
    4. Data Poisoning
      1. YTV: 3 Data Poisoning (3:49)
      2. VAS: Data Poisoning
    5. Datenschutz & Sicherheit
      1. YTV: 4 Datenschutz und Sicherheit Sind deine Daten gefährdet (5:17)
      2. VAS: Datenschutz & Sicherheit
    6. Kommerzielle Nutzung & Verkauf
      1. YTV: 5 Ist die kommerzielle Nutzung und der Verkauf generierter Inhalte erlaubt (5:15)
      2. VAS: Kommerzielle Nutzung & Verkauf
    7. Mein Danke und wie geht es weiter
      1. YTV: 6 Mein Danke und wie geht es weiter (3:56)
      2. VAS: Mein Danke und wie geht es weiter
Abgerufen von „https://aufeinwort.info/w/index.php?title=Werk:AI_mit_Arnie/Open-Source_LLMs&oldid=80334“