Episode #136
136 | Was ist Jev? Das KI-Modell, das 400x billiger ist als ein LLM, weil es nicht redet
Jetzt bei Frachtwerk bewerben: https://frachtwerk.de/mitmachen/ Seit ein paar Wochen taucht ein Name in jeder zweiten Timeline auf: Jev. Ein neues KI-Modell von TypeSafe AI, gegründet vom Ex-OpenAI-Forscher Diogo Almeida, das laut Hersteller rund 200x schneller und 400x billiger sein soll als ein LLM. Der Trick dahinter: Jev generiert keinen Text. Statt einer Antwort in ganzen Sätzen bekommt man typisierte Entscheidungen mit Wahrscheinlichkeiten zurück, in 70 bis 500 Millisekunden. Ein smartes If-Statement mit dem Sprachverständnis eines LLMs, das sich direkt in die eigene Pipeline einbauen lässt. In dieser Folge sortieren wir den Hype. Was steckt hinter der Idee vom "System 1"-Modell nach Daniel Kahneman, warum ist Jev näher an klassischen Klassifizierungsmodellen als an ChatGPT und was macht es trotzdem anders? Thomas hat sich den Doom-Nachbau angeschaut und dabei festgestellt, dass der eigentlich spannende Teil vielleicht gar nicht Jev selbst ist, sondern der Abstraktionslayer davor. Wir sprechen über Use Cases von NPCs bis LLM-Routing, über das Kalibrierungsversprechen von RLCD, über Kosten, Datenschutz und Bias, und über die Frage, ob hier gerade eine Revolution passiert oder nur eine gut vermarktete Wiederentdeckung. Und ganz am Anfang klären wir natürlich, wer dieser Jeff überhaupt ist. Werde Teil der IOOB Discord Community: https://discord.gg/bbC5c4vvQY Links: Vortrag von Diogo Almeida (im Podcast besprochen): https://www.youtube.com/watch?v=cJ0EOzey--o Launch-Post von TypeSafe AI zu System One Models und Jev: https://typesafe.ai/blog/introducing-system-one-models-and-jev Jev spielt Doom, Open-Source-Nachbau von Olivier Motium: https://github.com/olivier-motium/jev-doom Thomas' Gist mit Beispiel für Doom-State und Jev-Output: https://gist.github.com/dithom/eb3073067a0d6855b2033afc8ec2f920 ViZDoom: https://github.com/Farama-Foundation/ViZDoom Kev, Open-Source-Nachbau von Jev auf Qwen-Basis: https://github.com/jaredpalmer/kev Laya, Open-Source-Decision-Model von Convai Innovations: https://github.com/NandhaKishorM/laya Kontakt: ioob.de input@ioob.de x.com/IoobPodcast youtube.com/@ioobpodcast
