NotebookLM von Google
Über diese Seite Werk
Gründet auf dem Werk „KI-Revolution“ Arnold Oberleiter
25. Oktober 2024 n. Chr. hrsg.
AI mit Arnie
Speedreading & KI
Überarbeitung Liste Werke von Klaus Feldmann
Abschrift
6. Dezember 2024 n. Chr. erst.
19:22 Uhr Ausgabe 00
Ausgabe 00
veröffentlicht
geprüft
↑ Verwende Custom Instructions
→ NotebookLM von Google
↓ Chrome Extensions, die helfen können
Eine Lösung für das Tokenlimit für das Speedreading.mp4
📽️ Eine Lösung für das Tokenlimit für das Speedreading (7:10)
Verwende KI
PS: Du kannst auch aus deinen Büchern einen Podcast generieren mit NotebookLM.
EInfach auf "Generate Podcast" klicken und zuhören =)
Eine Limitation von diesen ganzen Large Language Models sind natürlich immer das Token-Limit. Und gerade, wenn es ums Lesen und ums Speed-Reading geht, wäre es natürlich unglaublich praktisch, wenn man sehr, sehr viele Token hätte. Dementsprechend will ich dir das in diesem Video nicht vorenthalten. Eigentlich ist das ein Ausschnitt von einem YouTube-Video von mir, aber ich denke, das passt in diesen Kurs unglaublich gut hinein. Und deshalb will ich es unbedingt hier mit einfügen. Dementsprechend viel Spaß! Wir sehen uns Gemini 1,5 und Notebook LM an, denn das funktioniert zum Speed-Reading zumindest für mich unglaublich gut.
Es ist erst ein paar Tage her, dass wir Gemini 1.0 bekommen haben, und jetzt haben wir hier schon das Upgrade. Und wenn die Dinge stimmen, die uns Google hier so erzählt, dann ist das ein riesen riesengroßes Upgrade. Wir können uns den Artikel hier anhören, indem wir auf Play klicken – das mache ich jetzt nicht. Wir sehen uns die wichtigsten Punkte so schnell wie möglich an. Diese Chart hier ist absolut unglaublich: Sie haben in Gemini 1,5 mit 1 Million Token als Kontextfenster. Und sie haben sogar ein Modell mit 10 Millionen Token als Kontextfenster. Das ist unglaublich groß! ChatGPT 4 Turbo hat im Vergleich 128.000 Token. Also, das Standard-Interface ist fast zehnmal so groß.
Aktuell bekommt man das Modell höchstwahrscheinlich mit 128.000 Token. Einige Personen bekommen höchstwahrscheinlich 1 Million Token, und zwar in AI Studios oder in Vertex AI. Google AI Studios sieht im Übrigen so aus: Hier kann man ähnliche Dinge machen wie im OpenAI Playground. Und hier beim Modell sollten einige von uns zumindest Zugriff zu Gemini 1,5 Pro bekommen. Ich gehöre leider nicht zu den Glücklichen. Dementsprechend muss ich hoffen, dass bei Notebook LM das bessere Modell läuft. Keine Sorge, wir sehen danach etwas an, wie wir das selbst testen können. Und einige richtig Glückliche bekommen jetzt schon 1 Million Token. Und ich bin wirklich gespannt, wann wir diese 10 Millionen bekommen.
Wie schaffen sie das Ganze, wie wird das so effizient? Sie machen das mit einer neuen effizienten Architektur. Im Groben haben sie hier einfach nur die Large Language Model-Architektur übernommen, so wie es Mistral Mixture macht. Ich habe das schon mal hier kurz erklärt: „Im Groben hat man einfach einige verschiedene Experten, und jeder verschiedene Expert ist für einen kleinen Task zuständig. Und dementsprechend können die Modelle viel effizienter sein.“ Damals im Video, als ich das erklärt habe, habe ich übrigens schon gesagt, dass das höchstwahrscheinlich wohl die Zukunft von einigen Large Language Modellen sein wird. Und jetzt sind wir da: Google verwendet das Ding.
Wenn man auf 1 Million Token tatsächlich hochgeht, dann bedeutet das, dass man eine ganze Stunde Video analysieren könnte, 11 Stunden Audio, 30.000 lines, also 30.000 Zeilen Code oder 700.000 Wörter. Ich denke, das ist mehr, als ich heute Abend noch lesen werde.
Hier haben sie ein kurzes Demo-Video gebracht, wie sie 400 Seiten Transkript von Apollo 11 sozusagen filtern. Und auch die Multimodalität haben sie getestet. Danach haben sie einen 44-minütigen stillen Film analysiert – also nur die Bilder. Und sie haben Fragen zu verschiedenen Stellen gestellt. Alles hat in den Promos zumindest gut funktioniert. Hier haben sie riesige Zeilen Code untersucht. Auch das hat gut funktioniert. Und laut vielen Benchmark-Tests ist es einfach richtig gut. Die lassen wir hier mal kurz außen vor.
Natürlich wollen sie das Ganze so sicher wie möglich machen. Man sollte sich einfach mal für diese AI Studios anmelden. Ich habe das schon gemacht und noch was Cooles gefunden, wie wir das jetzt schon testen können: und zwar Notebook LM. Ich habe das sonst schon ab und zu getestet, aber ich bin nochmal drauf gekommen, weil in meinem letzten Video in den Kommentaren jemand drunter geschrieben hat, dass er Notebook LM cool findet. An der Stelle: Shoutout und danke! Ich habe das deshalb hier getestet.
Das Konzept ist recht einfach. Man kann hier sehr, sehr viele Dinge hochladen. Ich habe hier drei komplette Bücher hochgeladen: „Common Stocks and Uncommon Profits“, „Rich Dad Poor Dad“ und „Work“. Das funktioniert hier aktuell leider Gottes nur in Englisch und nur mit einer VPN. Also, ich bin in Opera und teste das Ganze hier. Ich habe erstmal gefragt: „Was ist der Nummer-eins-Punkt in Philips Buch?“ Also, was ist der wichtigste Punkt, um eine Aktie zu kaufen? Und Notebook LM, also Gemini, sagt mir hier, dass die Firma Management braucht, die einen Willen haben, und dass sie ein Produkt haben, das funktioniert. Also, das ist hier wirklich komplett wahr. Ich habe das getestet, und das war komplett perfekt.
Danach habe ich eine Frage gestellt, wo ich nicht genau genug war. Und Notebook LM sagte mir: „Hey, darauf kann ich nicht antworten.“ Finde ich relativ gut. Denn besser als irgendeinen Quatsch zu bekommen, ist natürlich das. Danach habe ich die Frage etwas genauer gestellt und ich habe gefragt: „Was sind in Philips Buch die fünf Don'ts?“ Also, was sollten Investoren auf keinen Fall machen? Und wir haben genau die fünf aufgelistet bekommen – ganz genauso, wie sie im Buch beschrieben werden. Ich habe alles kontrolliert.
Selbiges habe ich danach mit dem nächsten Buch gemacht, von Timothy. Ich sagte nur „Timothys Buch“, das ist „The 4-Hour Workweek“. Und auch hier habe ich einige Fragen gestellt. Danach noch eine Frage: „Wie lange sollte es laut Timothy dauern, um ein Produkt zu entwickeln?“ Das Tool sagt mir: drei bis vier Wochen. Und hier habe ich noch das Ding offen, denn es wird tatsächlich gesagt: drei bis vier Wochen sollte man hier für Arbeit haben. Ich habe alles selbst kontrolliert, jede einzelne Antwort war richtig – von drei verschiedenen Büchern. Und ich habe verschiedene Fragen gestellt. Das war komplett unglaublich für mich.
Ich habe keine Ahnung, welches Modell wir hier haben. Wahrscheinlich ist das Gemini 1,5. Ich weiß nicht, welches Token-Limit ich habe. Ich weiß nur, dass ich drei komplette Bücher analysieren konnte. Ich konnte gezielte Fragen stellen, und alles wurde ganz perfekt gezielt beantwortet. Google hat im Übrigen auch ein cooles Research Paper veröffentlicht, wo sie sagen, dass sie bei diesem sogenannten „Nadel-im-Heuhaufen-Test“ 99 % Genauigkeit erreicht haben. Dieser Test, den wir hier gemacht haben, das ist sozusagen dieser Test. Wir fragen von riesigen Daten nach einer spezifischen Antwort, und das LLM kann genau diese Antwort rauspicken.
Also, für mich war das unglaublich. Das ist natürlich, muss ich sagen, besser als GPTs. Ich hatte mit den selbstgebauten GPTs noch nie solch gute Ergebnisse. Also, ich bin wirklich überzeugt – zumindest von diesem Ding hier.