Einsatz von GPTs zur Datenanalyse & für PDFs

Über diese Seite Werk

Gründet auf dem Werk „KI-Revolution“ Arnold Oberleiter
25. Oktober 2024 n. Chr. hrsg.  
AI mit Arnie
LLMs meistern
LLM-Anpassung - Systemprompts & GPTs
Überarbeitung Liste Werke von Klaus Feldmann 
AbschriftAbschrift
30. November 2024 n. Chr. erst.  
17:46 Uhr Ausgabe 00
Ausgabe 00
veröffentlicht
geprüft
↑ Der GPT Store - Alles, was du wissen musst
→ Einsatz von GPTs zur Datenanalyse & für PDFs
↓ Embeddings & Vektordatenbanken erklärt
Einsatz von GPTs zur Datenanalyse und für PDFs.mp4 Einsatz von GPTs zur Datenanalyse und für PDFs.pages

🎓 Einsatz von GPTs zur Datenanalyse & für PDFs

📽️ 8 Einsatz von GPTs zur Datenanalyse und für PDFs (16:29)

In diesem Video sprechen wir über einen GPT, der besonders ist. Generell weißt du natürlich schon, dass wir diese ganzen Tools verwenden können. Ein Tool ist zum Beispiel dieser Code-Interpreter, und der Code-Interpreter ist auch richtig, richtig gut. Der wurde umgebrandet in "Advanced Data Analysis", und wir haben das Ding schon einige Male verwendet. Aber ich denke, einige Leute verstehen nicht, wie mächtig das Ding wirklich ist. Und in diesem Video will ich das Ganze zeigen.

Wir haben natürlich auch die Möglichkeit, das in einem Standard-Chat zu machen. Haben wir bis jetzt auch ganz, ganz oft gemacht. Wir können aber auch auf GPTs der Kunden klicken, und wir suchen hier die GPTs, die Sinn machen würden. Scrollen wir hier ein klein wenig runter, dann gehen wir auf die Dinger von OpenAI. Hier haben wir den Data-Analysten. Klicken wir auf den Data-Analysten, dann können wir den sofort verwenden. Das heißt, hier geht es einfach nur darum, Daten zu analysieren. Wir klicken also auf "Chat beginnen", und dann haben wir hier den Data-Analysten mit dabei. Wir können hier Files hochladen und wir können die Dinge alle sozusagen analysieren. Wir können PDFs hochladen, aber auch komplette Datasets.

Wir starten erstmal mit einem klitzekleinen PDF. Wir durchsuchen sozusagen das PDF, wir verwenden auch hier sowas wie die RAG-Technologie, und wir können uns die wichtigsten Informationen zusammenfassen lassen. Das heißt, wir können PDFs zusammenfassen lassen, aber wir können danach auch komplette Datasets analysieren. Ich muss dazu sagen, nochmal, bevor wir das Ding verwenden: Wir können natürlich immer noch auf GPTs der Kunden zurückgehen, und wir können hier oben nach den Dingen suchen, die wir machen wollen. Geht es zum Beispiel darum, PDFs zu analysieren, dann ist natürlich auch AI PDF ganz, ganz gut. Denk immer darüber nach, dass du einfach die Sachen hier anklicken willst, die für dich am meisten Sinn machen.

Also, um das so gut wie möglich zu machen, lasst uns einfach mal AI PDF machen, da wir jetzt erst mal über ein PDF tatsächlich sprechen wollen. Also: Wir können hier bei der Büroklammer ein PDF hochladen. Wir suchen einfach mal ein PDF über LLMs. Ich denke, wir werden schon was finden. Hier haben wir irgendeines. Also generell finden wir hier natürlich ganz, ganz viele PDFs. Ich denke, wir sollten mal auf Hugging Face gehen. Ich habe das Ding hier gefunden: "A Comprehensive Overview of LLMs" oder "Of Large Language Models". Das Ding ist hier relativ groß. Du siehst hier, das hat natürlich einige Seiten. Studien sind aufgelistet. Das heißt, das ist ein großes PDF. Ich lade das einfach mal runter auf meinen Desktop zum Beispiel, und genau das werden wir jetzt hochladen – genau in diesen GPT. Wir klicken auf die Büroklammer, laden das PDF hoch, und jetzt können wir natürlich Dinge aus diesem PDF rauskitzeln, sozusagen.

Worum geht es in diesem PDF? Wenn wir überhaupt nichts lesen wollen, können wir natürlich auch so ein klein wenig befragen. Also: Einführung in die LLM#s, Architekturen und Trainingsstrategien, Feinabstimmung und Einsatzgebiete, Herausforderungen und zukünftige Richtungen, detaillierte Diskussion von LLMs. Wir können uns aber natürlich auch mehr Details hier raussuchen. Ich will hier mal irgendetwas Praktisches raussuchen. Es geht hier um Fine-Tuning. Das PDF sagt uns, es gibt verschiedene Styles vom Fine-Tuning, und ich will mal auf das Transfer-Learning hier tatsächlich etwas haben. Eine Zusammenfassung, was das Ganze ist. Gibt es verschiedene Styles vom Fine-Tuning? Durchsuche die PDF. Mein Wissen wird durchsucht. Du siehst, wir verwenden hier wieder diese RAG-Technologie, und das Ding findet die Dinge sofort raus. Das PDF-Dokument beschreibt verschiedene Stile des Feinabstimmens (Fine-Tuning): Transfer-Learning. Sofort haben wir schon das Transfer-Learning mit dabei. Vortrainierte LLMs werden mit aufgabenspezifischen Daten feinabgestimmt, um die Leistung für bestimmte Aufgaben zu verbessern. Dies wird als Transfer-Learning bezeichnet.

Danach: Instruction-Tuning, Alignment-Tuning, Adapter-Tuning, Prompt-Tuning, Prefix-Tuning und Bias-Tuning. Das heißt natürlich, all diese Modelle haben oft zumindest einen Bias. Die gehen in eine gewisse Richtung, die sind sozusagen voreingenommen, und beim Bias-Tuning will man das Ganze natürlich etwas umgehen. Wie beschreibt ChatGPT das? Beim Bias-Tuning werden nur die Bias-Terme fein getunt. Diese Methode ist besonders effektiv bei kleinen bis mittelgroßen Trainingsdatenmengen und erzielt dabei eine vergleichbare Leistung wie vollständiges Feinabstimmen.

Gehen wir mal kurz in unsere Textdatei zurück, beziehungsweise in die PDF, ob wir auch wirklich das Bias-Tuning hier enthalten haben. Sie sprechen hier natürlich auch über das Prompting, über das Prompting, also den Chain of Thought, den Tree of Thought. Diese Dinge haben wir uns natürlich schon angesehen. Instruction-Tuning, Alignment-Tuning, das Reinforcement-Learning. Lasst uns mal spezifisch nach den Wörtern suchen, also Steuerung-F natürlich. Und wir haben natürlich Bias-Tuning. Und hier haben wir das Ganze natürlich schon: Also das Bias-Tuning – "Fine-Tuning only bias terms in small to medium training data" und so weiter. Du siehst, all das hat funktioniert. Das LLM hat nicht halluziniert. Das Ganze war hier einwandfrei. Unser LLM, ChatGPT, ist imstande, diese PDF perfekt zusammenzufassen.

Jetzt aber zum Kernpunkt dieses Videos zurück. Es geht hier natürlich generell um diesen "Advanced Data Analysis". Also klicken wir mal auf diesen Datenanalysten. Ich will den Chat beginnen, und du wirst sehen, wie viele coole Dinge wir hier machen können. Ich gehe mal kurz auf Kaggle. Auf Kaggle kann man gesamte Datasets finden, und hier gibt es wirklich viele, viele coole Dinge. Wir können ja mal ein solches Dataset suchen. Auf der linken Seite finden wir hier Datasets, und wir können uns danach die Dinge raussuchen, die uns eben gefallen.

Water Data – also hier geht es um die neuesten Daten von Wasser. Tatsächlich: Movie and TV Shows. Hier haben wir Datasets zu verschiedenen Filmen. Recently viewed Datasets: Hier haben wir zum Beispiel die Nvidia-Aktie. Das heißt, hier könnten wir über die Nvidia-Aktie eine komplette Analyse machen. Bei Economics finden wir verschiedene Dinge, sogar Daten über Krebs, über COVID. Ich denke, wir werden das Ganze einfach machen. Ich will einfach mal die Nvidia-Aktie mir hier genau ansehen.

Wir können dieses Dataset downloaden. Dafür klicken wir einfach hier oben, und danach können wir hier verschiedenste Dinge raussuchen, rauslesen. Das ist hier jetzt als ZIP-Datei gespeichert. Wir können uns das Ganze natürlich ansehen. In dieser ZIP-Datei haben wir eine komplette Excel-Datei. Klicke ich auf diese Excel-Datei, dann siehst du, wie viel Dinge wir hier drinnen haben. Wir haben hier also, lass mich nicht lügen: Wir haben das Datum, den Preis, wo die Aktie geöffnet hat, den höchsten Preis, "Adjusted Close" und das Volumen. Und davon haben wir wahnsinnig viele Daten, nämlich 6000 Zeilen in dieser Excel-Liste. Und davon können wir Sinn machen.

Also, wir haben hier tatsächlich wahnsinnig, wahnsinnig viele Zahlen, und unser Datenanalyst kann das Ganze analysieren. Ich ziehe das mal kurz auf den Desktop, dann laden wir das Zeug hoch in ChatGPT. Die Büroklammer – die Nvidia-Daten hochladen – und ich frage ganz einfach mal: Was ist im Dataset? Ihr solltet uns hier sagen, es geht um Nvidia tatsächlich, und wir bekommen sogar sofort schon hier die Dinge aufgeschlüsselt: "Date, Open, High, Low". Wir können das auch runterladen oder natürlich hier drauf klicken – Tabelle erweitern – und wir können uns hier die ganzen Dinge ansehen.

Also, das ist wahnsinnig praktisch. Geht auch wahnsinnig, wahnsinnig schnell. Ich will das noch mal klein machen. ChatGPT beschreibt uns hier auch, natürlich: Er spricht hier erstmal Englisch zurück, weil das Dataset natürlich in Englisch ist. Aber wir können hier natürlich viele, viele weitere Dinge machen. Wir bekommen hier Beispiele: "Show me trend chart of Nvidia stock price", "Analyze the volume of Nvidia trades over time". Wir können uns ja einmal diesen Trendchart anzeigen lassen, und ich klicke darauf. Jetzt werden die gesamten Daten durchsucht, und unser Datenanalyst wird uns einen Chart zeichnen zur Nvidia-Aktie.

Sofort haben wir hier den Chart auch bekommen. Das sieht schon richtig gut aus: Y-Achse: Preis, X-Achse: das Datum natürlich. Wir haben hier das Datum natürlich nicht bis in das aktuellste Ding hier rein, aber wir können uns ansehen, wie weit wir hier das Datum haben. Wir haben hier wirklich ganz, ganz viele verschiedene Datenpunkte. Wir können das natürlich auch etwas umgestalten. Wir können also diesen Chart so ansehen. Mir gefällt dieser Chart aber besser. Wir können natürlich auch die Farbe ändern. Das heißt, meinetwegen haben wir lieber hier einen roten Chart, und das passt natürlich auch gut.

Du kannst wieder das Ganze groß machen und das Ganze etwas genauer sehen, aber das ist natürlich immer noch nicht alles. Du kannst wirklich viel, viel mehr hier machen. Füge das Volumen hinzu. Volumen zu diesem Chart hinzu. Jetzt wird hier ChatGPT hergehen. Das Volumen hat er natürlich auch, und ich hoffe und gehe davon aus, dass er in diesen Chart das Volumen mit einbaut. Und ganz genauso ist es. Jetzt haben wir hier das Volumen mit eingebaut. Das heißt, hier hatten wir zum Beispiel einen riesengroßen Spike im Volumen. Und natürlich kannst du auch das hier groß machen, und du kannst dir alles etwas genauer ansehen, wenn du magst.

Also, wenn man hier tatsächlich Grafiken zeichnen muss, wenn man Datenanalyst ist, dann ist das natürlich wahnsinnig praktisch. Und das ist natürlich noch immer nicht alles. Wir können wirklich so viele Dinge machen hiermit. Wir können auch Forecasts machen. Wie würde der Chart aussehen, wenn ein ähnliches Wachstum weitergeht über die nächsten drei Jahre? Jetzt fragt mich hier ChatGPT, was für uns am meisten Sinn macht – also welche Methode würde Sinn machen? Eine lineare Wachstumsprojektion machen, natürlich. Also, das ist hier keine Voraussage der Aktie, das ist einfach nur ein lineares Wachstum. ChatGPT geht einfach davon aus, dass Nvidia weiterhin steigen würde.

Und hier ist der Output von ChatGPT. Und ich muss sagen, das Ganze ist hier nicht wirklich so verlaufen, wie ich gehofft hab. Aber ich muss sagen, ich bin hier nicht enttäuscht. Also, Projektionen nach vorne sind natürlich immer schwierig. Vielleicht war ich auch zu unklar. Wenn du das machen willst, versuch das Ganze selbst. Mir geht es wirklich darum, dass du die Dinge selbst machst, selbst probierst. Nur so wirst du am meisten lernen.

Ich will dir aber noch was Cooles zeigen. Wie gesagt, wir können auch viele, viele Dinge umwandeln, hier. Wir könnten ja mal folgendes machen, wir verwenden immer noch unseren Datenanalysten, aber in einem neuen Chat hier tatsächlich. Und jetzt laden wir hier nochmal was hoch. Es ist egal, was du hochlädst. Der Einfachheit halber verwende ich nochmal diese PDF hier, und danach können wir auch Dinge zu dieser PDF hier befragen.

Kannst du mir eine Tabelle erstellen zu den bekanntesten LLMs und deren Performance? Du siehst, das Wissen wird durchsucht, und danach sollten wir höchstwahrscheinlich hier eine P ein … eine kleine Tabelle bekommen, die wir tatsächlich uns danach ansehen können. Also hier natürlich das Modell, die Größe, den Score – ich weiß nicht, wie das alles aufgebaut ist, tatsächlich, aber wir bekommen hier die gesamte Tabelle. Ich bin mir relativ sicher, dass sowas natürlich auch in dieser PDF enthalten ist. Und du siehst, die Tabelle ist relativ groß. Und du siehst, die oben stehende Tabelle zeigt eine Auswahl der bekanntesten LLMs und deren Leistung in verschiedenen Benchmarks. Also das sieht schon relativ gu… gut aus, würde ich sagen. Aber eventuell will man diese Tabelle nicht hier in ChatGPT haben, sondern man will die woanders haben.

Sagen wir, ich würde das ganz gerne als Excel-Tabelle haben. Wandle die Tabelle in eine Excel-Liste um. Jetzt wird ChatGPT hergehen, diese Tabelle umwandeln, tatsächlich, in eine Excel-Liste wieder mit unserem Advanced Data Analysis. Wir können uns hier ansehen, was das Ding macht. Das heißt, wir bekommen hier ganz einfach danach unsere komplette Tabelle in Excel, und wir können uns die Liste runterladen. Das ist natürlich wahnsinnig, wahnsinnig praktisch.

Ich habe die Tabelle in eine Excel-Datei umgewandelt. Du kannst die Datei hier runterladen. Und ich klicke einfach mal darauf. Jetzt haben wir hier diese Excel-Tabelle in den Downloads, und die Excel-Tabelle sieht so aus. Ich will die mal ganz kurz vergleichen mit der Tabelle, die uns ChatGPT hier erstellt hat. Also, es geht los: Modell, Größe, und so weiter. Ich ziehe mal kurz unsere Excel-Tabelle rein. Modell, Größe, Top-Score und so weiter. Es startet hier mit dem Chinchilla-Modell: 70 Billionen, sech … 65,1 in Top-1 Score. Also, du siehst: Alles ganz, ganz genauso, wie wir hier in dieser Tabelle haben. Und auch das kann dieser Advanced Data Analysis. Das ist hier schon, muss ich sagen, wirklich, wirklich praktisch. Und alle die Dinge, die stimmen halt perfekt überein.

Und, ja, ich habe hier haufenweise Bildschirme, wo ich die Dinge hinziehen kann. Aber generell siehst du, dieser Datenanalyst, der kann ganz, ganz viel machen. Und wenn du in das ganz normale ChatGPT gehst, im neuen Chat bei GPT-4o, also GPT-4 Omni, dann ist auch dieser Datenanalyst mit eingebaut. Er hat aber noch keine speziellen Custom Instructions. Die bekommst du, wenn du einen GPT verwendest, automatisch.

In diesem Video wollte ich dir einfach nur zeigen, wie praktisch, cool und gut gewisse GPTs sein können. Wir haben uns angesehen, wie wir PDFs durchsuchen können mit AI PDF zum Beispiel. Wir verwenden hier unseren Datenanalysten. Der geht rein, zieht uns die wichtigsten Dinge raus. Und dasselbe können wir mit riesigen Datasets machen. Wenn du ein Dataset hast, zum Beispiel eine Excel-Tabelle mit wahnsinnig, wahnsinnig vielen Informationen, dann kannst du dir hier sofort Charts zeichnen lassen. Du kannst zum Beispiel auch hergehen und ein Kuchendiagramm machen, ein Balkendiagramm – was auch immer. ChatGPT ist hier wirklich, wirklich sehr gut mittlerweile geworden.

Ich will vielleicht noch ein klitzekleines Ding zeigen, diesmal auch ohne GPT, damit du siehst, dass auch GPT-4o das Ganze kann. Ich habe 10.000 € investiert: 2000 in Cash, 5000 in Aktien, 2000 in Bitcoin und 1000 in Bonds. Mach ein Kuchendiagramm. Das heißt, ChatGPT kann das natürlich auch sofort und instant in GPT-4 Omni tatsächlich umsetzen. Und er wird uns ein wunderhübsches Kuchendiagramm zeichnen.

Und „bup“, da war das Ganze schon. Und wir können die Dinge natürlich auch bearbeiten, wenn wir wollen. Wir können hier tatsächlich die Farben ändern und vieles, vieles mehr. Und wir können es auch in unser weißes Diagramm umwandeln, wobei ich das weiße nicht ganz so hübsch finde wie dieses Diagramm. Wir bekommen sogar ausgerechnet, wie viel Prozent das Ganze ist. Also: 1000 € sind 10 %. Das ist in Bonds. 20 % Cash. 5000 in Aktien, und 2000 in Bitcoin – das sind 20 %.

Du siehst also: Der Advanced Data Analysis ist wahnsinnig, wahnsinnig praktisch. Ich denke, du solltest damit ein klein wenig rumspielen. Also, viel Spaß!