Generation Data #8: Grill-Skill statt Blindflug: So zähmt Quoniam KI-Agenten
Shownotes
Bei Quoniam arbeiten KI-Agenten bereits als digitale Junior-Researcher: Sie schreiben Code, durchsuchen die Angebote von Datenanbietern und werten wissenschaftliche Publikationen aus. So helfen sie dabei, neue Investmenthypothesen schneller zu testen. Den größten Nutzen sieht Dr. Laura Jehl nicht darin, Forschende zu ersetzen. Vielmehr ermöglicht KI, mehr Ideen parallel zu prüfen. Doch auch der digitale Traumkollege braucht klare Leitplanken: Halluzinationen können sich tief im Code verbergen. Deshalb bleiben sorgfältige Reviews, begrenzte Zugriffsrechte und der menschliche "grüne Knopf" unverzichtbar. Der "Grill-Skill" (Quelle: https://github.com/mattpocock/skills)) prüft bereits vor Arbeitsbeginn, ob ein Auftrag präzise genug formuliert ist. Und weil jedes von der KI verarbeitete Wort Geld kostet, gilt beim "Caveman-Skill" (Quelle: https://github.com/JuliusBrussee/caveman)): kurze Sätze, klare Antworten, weniger Tokens. Das Fazit: weniger Schrauben im Maschinenraum, mehr Zeit zum Denken am Reißbrett - doch den Schlüssel behält der Mensch.
Transkript anzeigen
00:00:01: Märkte sind laut, Daten sind präzise.
00:00:05: Willkommen bei Generation
00:00:06: Data dem Podcast über systematisches Investieren und KI im Asset Management.
00:00:16: Ein neuer Kollege sitzt im Maschinenraum des Asset Managements.
00:00:22: Er braucht keinen Schreibtisch, keinen Kaffee keine Mittagspause.
00:00:26: dafür braucht er ziemlich genaue Anweisungen ein bisschen E-Typen, suspekt die kein Kaffees brauchen.
00:00:31: KI Agenten können heute Daten suchen Programmi schreiben, Analysen durchführen und sich ein ganzes Stapel wissenschaftlicher Arbeiten durchwühlen.
00:00:40: Das klingt eigentlich nach einem Traumkollegen bis er mit voller Überzeugung an den falschen Schrauben dreht.
00:00:48: Wie setzt Squonium solche Agenten im Research einen?
00:00:50: Wo liegen die Chancen, die Grenzen?
00:00:52: und vor allem wie behält der Mensch die Kontrolle?
00:00:55: Ja und darüber spreche ich heute bei Generation Data mit Dr.
00:01:00: Laura Jehl von Cognum.
00:01:02: Laura arbeitet im Team Research Forecast und entwickelt betreut Prognosemodelle für Aktien und Anleihen.
00:01:10: Laura, schön, dass du da bist!
00:01:11: Ja
00:01:11: danke, dass ich hier sein darf.
00:01:13: Und aus dem Börsenradestödel grüßt Peter Heinrich also unser Thema im Podcast heute KI-Agenten im Asset Management, im Research Chancen und Grenzen.
00:01:22: So bewahrst du die Kontrolle über KI-Agenten.
00:01:25: Laura, bevor wir über KI Agenten sprechen... ...du hast eure Arbeit mal als eine Art Maschinenraum vom Kwonium beschrieben!
00:01:32: Was passiert in diesem Maschienenraum eigentlich?
00:01:34: Also wenn ich mir das so vorstelle, ich gehe in den Maschinerum runter da und es ist warum laut heiß.
00:01:40: Der Maschine muss geölt werden, du schwitzt und am Abend bist der Öl verschmiert und brauchst ne Dusche.
00:01:44: Wie ist das so im Maschininraum?
00:01:46: Ja, du hast ja schon gesagt dass wir hier eben im Team Research Vorkast zuständig sind für die Entwicklung und Wartung der Prognosemodelle bei Quinium.
00:01:57: Bei Quinium arbeiten wir ja Daten getrieben und quantitativ, das heißt unser Modell kann man sich wie so eine Art Maschine vorstellen an der wir als Researcher dann eben rumschrauben zum einen damit die immer zuverlässig läuft natürlich und zum anderen eben auch versuchen wir natürlich die ständig zu verbessern.
00:02:16: diese Maschine spuckt uns unsere Prognosen aus, also die Bewertungen von Aktien oder Anleihen auf deren Basis dann unser Portfoliomanagement Teams.
00:02:28: Die tatsächlichen Portfolios bauen.
00:02:30: so funktioniert ungefähr unser Maschinenraum.
00:02:33: Ihr entwickelt Modelle, die beurteilen sollen welche Aktien und Anlein attraktiv weniger attraktive sind.
00:02:39: Also wo beginnt eigentlich deine konkrete Arbeit?
00:02:42: Meine Arbeit beginnt im Prinzip ganz vorne beim Signal.
00:02:47: Wir suchen ja immer wieder nach neuen Signalen, wo wir Zusammenhänge sehen eben zur zukünftigen Renditeentwicklung von Unternehmen.
00:02:54: Zum Beispiel könnten wir uns fragen gibt es einen Zusammenhang zwischen den Stellenanzeigen die ein Unternehmen gerade publiziert und der zukünftig Rendite Entwicklung?
00:03:05: Und solche Fragestellungen untersuchen wir dann im Team Research.
00:03:09: da bauen wir uns sozusagen erst einen Prototypen und wenn das gut funktioniert dann bauen wir das in unsere große Prognosemaschine mit ein.
00:03:18: Das finde ich jetzt interessant, also wie wird aus Tausenden von Stellenanzeigen am Ende überhaupt ein Signal das für eine Investment-Idee interessant sein könnte?
00:03:26: Über einen Stellenanzeugen gibt es ja viele.
00:03:28: müsste man nicht ihrer auf Stellenentlassungen
00:03:32: suchen.
00:03:33: Das könnte man natürlich auch machen.
00:03:35: da gibt es auch viele verschiedene Ansätze.
00:03:38: Hier lassen wir uns dann auch gerne inspirieren von akademischen Arbeiten, also von Forschungsaufsätzen die wir uns anschauen.
00:03:46: Man könnte sich zum Beispiel überlegen ist es gut wenn ein Unternehmen viele Stellen gerade frei hat oder ist das vielleicht sogar eher ein Risikoindikator?
00:03:55: Das ist beim Unternehmen viel ja!
00:03:58: Durchsatz gibt.
00:03:59: Man könnte sich anschauen, in welchen Bereichen dann Stellen ausgeschrieben.
00:04:03: im Bereich Management werden vielleicht Programmiererinnen gesucht und alle diese Signale kann man eben untersuchen ob sie eine Prognosekraft haben.
00:04:13: Spoiler die allermeisten funktionieren nicht aber ab und an findet man mal was Spannendes.
00:04:18: Was sagt die KI wenn mal ein neuer CEO gesucht wird?
00:04:22: Das ist wahrscheinlich ein eigen Podcast wert.
00:04:24: Gehen wir einmal auf die Definition ein.
00:04:28: Agent.
00:04:29: Jetzt kommt der Roboter-Assistent in den Maschinenraum, Philippine Czecibeti und andere Language Models – was unterscheidet KI-Agenten jetzt von eigentlich diesen normalen Sprachmodell?
00:04:40: Genau!
00:04:40: Also grundsätzlich ist das nichts anderes der KI-Agent sondern dass es so eine Art Höhle oder Gerüst um das Ladsch Language Model herum also diese Höhlle enthält dann zum Beispiel eine Beschreibung der Rolle die der Agent ausführen soll bestimmte Handlungsanweisungen.
00:05:00: Zusätzlich ist er noch ausgestattet in einem Arbeitsspeicher, also der kann sich Dinge merken und einen Werkzeugkasten, der kann auf Tools zugreifen.
00:05:09: Das heißt, er kann auch Dinge tun.
00:05:11: das reine LLM.
00:05:12: Das kann ja nur Text erzeugen.
00:05:15: was könnte in so einem Werkzeug Kasten drin sein?
00:05:18: Das könnte zum Beispiel die Fähigkeit sein im Internet etwas zu suchen oder die Fähigkeit, einen Programmcode auszuführen selbstständig.
00:05:26: Oder vielleicht E-Mails zu verschicken sogar.
00:05:29: und das LLM, das Sprachmodell Das kann man sich vorstellen als das Gehirn von diesen kleinen Roboterassistenten dass die Entscheidung trifft was eben die nächste Handlung ist.
00:05:40: Ich kann mir das auch vielleicht ein bisschen plastischer Vorstellen.
00:05:44: wenn ich sage ich möchte jetzt ein Urlaub buchen dann könnte ich zum Beispiel chat GPT fragen Wenn ich im August wegfahren will ans Meer und da soll es aber nicht zu heiß sein, wo könnte ich ihn dahin fahren?
00:05:54: Dann würde mir Chat Stibitie vielleicht ein paar Reiseziele ausgeben.
00:05:58: Wenn ich jetzt mit einem KI-Agenten arbeite, dann könnte der vielleicht auch noch Verfügbarkeiten prüfen Buchungsanfragen verschicken Und vielleicht am Ende noch meinen Koffer für mich einchecken.
00:06:08: Das ist ein gutes Beispiel.
00:06:10: das kann sich glaube ich auch jeder vorstellen.
00:06:12: Also ein Sprachmodell kann mir sagen November oder jetzt im Herbst noch Sommer ist, wo es war und der Agent würde die ganze Bucherei sozusagen übernehmen.
00:06:20: Das heißt auch vereinfacht das Sprachmodell ist eigentlich das Gehirn aber der Agent ja ist das Werkzeug drum herum also Gedächtnis und so eine Art.
00:06:29: Ja er hat ein Werkzeugkasten.
00:06:31: was steckt in diesen Werkzeug Kasten bei euch im Research?
00:06:35: Genau wir nutzen im Research verschiedene Agenten.
00:06:40: zum einen ist es so, dass wir früher sehr viel Zeit mit Programmieren verbracht haben.
00:06:46: Ich habe Ihnen ja schon erwähnt diese Stellen anzeigen zum Beispiel wenn wir die uns anschauen dann müssen wir die erst mal auslesen Wir müssen sie in Zahlen übersetzen und wir müssen die Zusammenhänge überprüfen Und wenn alles funktioniert müssen wir das Ganze auch in unsere Codebasis einbauen.
00:07:05: Das Alles ist viel Programmierarbeit.
00:07:09: Hier können wir spezielle Coding-Agenten nutzen, die für uns auf Anweisungen im Programmcode erzeugen.
00:07:17: Das ist eine Variante – also ein bestimmter Agent!
00:07:20: Wir haben aber auch noch andere Agenten im Einsatz, die uns bei anderen Aufgaben helfen und hier insbesondere sind das Rechercheaufgaben, also die Suche nach der Nadel im Heurihaufen.
00:07:31: Zum Beispiel wenn wir mit Stellen an Zeigen arbeiten wollen, dann müssen wir ja erst mal wissen, wo kann man die denn überhaupt herbeziehen?
00:07:37: gibt es da vielleicht Datenanbieter, bei denen wir die kaufen könnten.
00:07:40: Dann googeln wir und finden zwanzigtausend Ergebnisse oder wir suchen eben nach interessanten Forschungsaufsätzen, die hier Ansätze beschreiben Und auch da kommen jede Woche hundert neue Artikel.
00:07:51: Da müssen wir dann den richtigen finden.
00:07:53: Auch hier unterstützen uns schon KI-Agenten Indem sie für uns diese Breite, diese Flut von Information durchschauen schnell auf Relevanz bewerten zurückgeben.
00:08:08: Okay, das heißt ein Agent hat eine höhere Rolle bekommen.
00:08:12: einen kennt ein Agents kann inzwischen auch die Rolle des Research Scouts übernehmen suchen fursatieren was macht er noch?
00:08:19: vergleichend Informationen so ablegen dass sie später wieder drauf zugreifen können?
00:08:24: Ganz genau also da kann er schon so ein bisschen so ne Juniorrolle für uns ausführen.
00:08:29: das heißt natürlich nicht dass wir dann nicht nochmal prüfende Blick darauf haben sollten was da zurückkommt und uns blind auf die Ergebnisse verlassen sollten, aber wir haben festgestellt dass diese KI-Modelle gerade bei solchen einfacheren Aufgaben uns doch schon sehr gut unterstützen können.
00:08:47: Ja wenn man dann nochmal an unseren Maschinenraum denkt könnte man vielleicht sagen das wir jetzt eher mehr am Reisbrett arbeiten und weniger eben an der Maschine schrauben so wie Sie das vorher beschrieben hatten.
00:08:58: Okay
00:08:59: wenig einer Maschinenschraube dafür Planung am Reisbrett machen.
00:09:04: Ist das schon eine Veränderung im Arbeitsplatz oder ist es eine logische Konsequenz?
00:09:10: Also wird die Fähigkeit, eine gute Forschungsfrage zu formulieren wichtiger als die Fährigkeit jeden einzelnen Kohl selbst zu schreiben?
00:09:18: Das würde ich auf jeden Fall sagen!
00:09:19: Ich denke, es ist immer noch wichtig dass wir natürlich auch unsere Analysewerkzeuge unser Handwerkszeug immer noch beherrschen und kennen.
00:09:27: Wir müssen aber nicht mehr für jede einzelne kleine Analypse Ein Skript schreiben.
00:09:32: Das können wir uns abnehmen
00:09:33: lassen.".
00:09:34: Der Agent ist fleißig, aber wir wissen es ja nicht unfehlbar!
00:09:38: Jetzt kommen wir eigentlich zur Grenze und zur Gretchenfrage.
00:09:40: Sprachmodelle haben ja eine unangenehme Eigenschaft.
00:09:42: Sie können ziemlich überzeugend falsch liegen.
00:09:45: oder hättest du vielleicht ein Beispiel dafür?
00:09:46: Genau das stimmt.
00:09:48: Das kann auch verschiedene Gründe haben würde ich sagen.
00:09:51: zum einen ist eben dieses Problem der Halluzinationen dass man vielleicht auch schon mal gehört hat die Sprachmodele die arbeiten ja mit Wahrscheinlichkeiten und sagen eben immer das nächste wahrscheinliche Wort voraus.
00:10:03: Und dabei kann es halt auch mal passieren mit einer kleinen Wahrscheinlichkeit, dass Unsinn rauskommt.
00:10:07: Also wenn ich mir vorstelle, ich hätte eine Maschine die Autos baut, die baut dann hundert schöne fertige Autos und beim hunderteinsten sind dann vielleicht die Räder am Dach angeschraubt plötzlich.
00:10:17: Solche kleinen Fehlleistungen kommen auch bei Large Language Models vor.
00:10:22: Das ist eigentlich lustig weil also beim Menschenwürtteln man sagt ja Die Räder am Dach, das ist jetzt mal kreativ.
00:10:29: So ein Auto wo die Räde am Dacht sind... Das würde ich jetzt Schwebeband nennen wie in Wuppertal nur bei der KI nervt es natürlich wenn sie so extreme Fehler macht.
00:10:36: Kommt natürlich auch drauf an was man möchte!
00:10:39: Ich würde aber die KI im Moment noch eher für Routineaufgaben als für Kreativ-Aufgaben einsetzen.
00:10:45: Und wie findet man eigentlich so einen blöden Fehler?
00:10:49: Das Beispiel macht's ja sehr deutlich Autoreifen am Dach fällt auf.
00:10:53: Aber wenn es jetzt in irgendeiner Zahlenkombination irgendwas verwurschtelt, statt beim Microsoft zu sagen die haben zehntausend Mitarbeiter macht er hundertfünftausend Mitarbeiter und das fällt eigentlich am Anfang gar nicht auf.
00:11:04: und dann teilt man vielleicht den Gewinn durch Anzahl des Mitarbeiters.
00:11:07: also zahlen können so verschachtel sein dass einem dieser Fehler am Anfang Gar nicht auffällt.
00:11:12: wie findet man solche Fehler?
00:11:14: Nicht nur Zahlen auch bei Programmcode passiert das häufig Gerade die Fehler, die dann die KI macht wirklich sehr im Detail stecken.
00:11:24: Und das ist auch was bei uns immer wichtiger wird, das Thema Qualitätskontrolle.
00:11:30: Das heißt, bei uns ist es immer noch so dass wir auch Code Review also das nochmal durchschauen und testen von Programmcode, dass wir das nicht vollständig an Maschinen abgegeben haben sondern dass da auch immer noch mal ein Mensch drüber schauen muss damit da eben nicht das falsch rauskommt und dass wir sehr etablierte Kontrollprozesse haben, die ihm sicherstellen, dass unsere Maschine hier nichts baut was wir nicht haben wollen.
00:11:54: Ist das sozusagen der Begriff Grill Skill?
00:11:57: Den habe ich jetzt also bei euch zum ersten Mal entdeckt.
00:11:59: ihr habt bei Quonium... Ich finde eigentlich wunderschöne Namen!
00:12:03: Das soll erstmal den Auftrag grillen bevor der Agent losarbeitet.
00:12:07: Also wie funktioniert es wenn er jetzt mal anders gedacht hat nichts mit dem Grill zu tun und das Fleisch umzudrehen.
00:12:15: Wie grillt ihr sozusagen die Kontrolle?
00:12:17: oder wie grillt ihr die Frage?
00:12:19: Genau, also das Thema Qualitätskontrolle was ich gerade angesprochen hatte.
00:12:22: da geht es ja darum was die KI produziert und dass wir hier nochmal kontrollieren, dass das Richtige raus kommt bei dem Thema oder der Verwendung von dem Grill Skill.
00:12:33: Also das ist eine Fähigkeit, die man bei einem KI-Agenten an oder ausschalten kann.
00:12:39: Da geht es eher darum bevor der Agent überhaupt anfängt zu arbeiten, sicherstellt dass man eine klare Anweisung gegeben hat.
00:12:48: Also wenn ich zum Beispiel dem Agent nur die Anweisungen gebe, baue mir ein Auto dann weiß er ja noch gar nicht genau was für ein Auto ich eigentlich haben will.
00:12:56: und dieser Grillskill, der sagt dem Agenten bitte nimm die Anweisung genau unter die Lupe und versuch genau herauszufinden was die Nutzerin jetzt von dir will.
00:13:08: Also jetzt könnt ihr mich fragen, okay möchtest du ein LKW oder einen PKW?
00:13:11: Welche Farbe soll das haben?
00:13:12: wie viele Räder soll es haben.
00:13:14: Soll das Lenkrad links oder rechts angeschraubt sein damit am Ende auch wirklich das Auto raus kommt was ich mir vorstelle.
00:13:22: und genau dieses Skill können wir auch für unsere Arbeitsaufträge in Research sehr gut verwenden damit dann eben am Ende das rauskommt was wir auch tatsächlich sehen wollen.
00:13:32: also beim Grillskill gibt's darum bevor der Agent etwas anbrennen lässt wird Erst mal der Auftrag gegrillt.
00:13:39: Also eigentlich wird der Auftaktgeber gegrills nach dem Motto, hey du hast mir keine ordentliche Anweisung gegeben?
00:13:45: Ja das kann man sich ein bisschen so vorstellen!
00:13:48: Denn manchmal ist es ja auch wenn wir zum Beispiel mit Praktikanten arbeiten... ...ist es auch manchmal so dass wir Anweisungen geben für die aus unserer Sicht ganz klar ist was wir wollen.
00:13:58: aber jemanden oder die vielleicht neu im Team ist und sich noch nicht auskennt weiß diese impliziten Annahmen noch nicht.
00:14:05: Und ganz ähnlich ist das auch mit einem KI-Agenten.
00:14:10: Also es eine klare Chefaufgabe, ne?
00:14:12: Macht deine Arbeitsanweisung so, dass es eigentlich jeder Depf versteht.
00:14:16: Dann kann man vielleicht sich den Grill-Skill sparen!
00:14:19: Der Skill des Skigrills – die KI legt los beim klassischen Programm was jeder entwickelt ziemlich genau und was passieren soll.
00:14:27: Ein Agent entscheidet dagegen teilweise selbst welchen nächsten Arbeitsschritt er machen könnte.
00:14:32: will Vielleicht will Halluzination, wie viel Autonomie gibt ihr einem KI-Agenten bei Kronium?
00:14:40: Ja das ist auch eine sehr relevante Frage.
00:14:43: Insbesondere wenn man in der letzten Zeit die Nachrichten gelesen hat von KI-Agenten, die aus ihren Testumgebungen ausgebrochen sind.
00:14:52: ganz prominent ging ja der Fall durch die Medien dass OpenAI-Modelle versucht haben, die Plattform Huggingface zu attackieren.
00:15:00: Das sind natürlich Nachrichten, die uns auch bewegen.
00:15:03: Man befindet sich hier in so einem Interessenkonflikt.
00:15:06: Man möchte möglichst die Arbeit an den Agenten abgeben und effizient sein.
00:15:11: Gleichzeitig möchte man eben nicht die Kontrolle verlieren.
00:15:15: So ist es bei uns im Moment noch so, dass wir bevor zum Beispiel ein Agent selbst Code ausführt, das wir da immer nochmal zustimmen müssen.
00:15:23: Es sei denn ... Eine Lösung wäre hier, dass man wirklich eine sehr eingeschränkte Testumgebung für den Agenten baut in der man ihn dann laufen lässt.
00:15:32: Und man muss natürlich auch im Blick behalten welche Zugriffsrechte so ein Agent hat, welche Daten darf er lesen auf welche Systeme darf der zugreifen?
00:15:42: und hier dürfen natürlich keine ja kriegsentscheidenden Systeme involviert sein.
00:15:48: Okay also wenn ein Agent Programmcode erzeugt dafür diesen Code nicht einfach ausführen Ja oder anders gesagt, es muss ein Mensch vorher auf den sprichwörtlichen grünen Knopf drücken.
00:15:57: Also der Mensch steht an der Tür und er sagt ist da hin und nicht weiter.
00:16:00: also wie quasi so'n Türsteher an der Disco?
00:16:02: Er sagt du kommst dann hier rein!
00:16:03: Oder du kommest dann hier raus sozusagen.
00:16:05: Ja damit uns der Roboter dann nicht am Ende den Maschinenraum übernimmt.
00:16:09: Okay Du hast vorhin schon gesagt Der ist in einem abgeschotteten Raum.
00:16:14: Dann braucht das technische Leitplan Firewalls Abgeschottete Umgebung keinen Zugriff aus den Ziple Systeme Aber eine Testumgebung vielleicht ne Sandbox.
00:16:22: ist das im Prinzip so, der Roboter darf arbeiten, mitspielen.
00:16:26: Aber zunächst nur einmal innerhalb eines einfach eingezollten Spielplatzes, so ein kleines Kind quasi.
00:16:31: Ganz genau!
00:16:31: So kann man sich das vorstellen.
00:16:33: Spannende ist ja... Man will ja auch ein bisschen rauskitzeln.
00:16:37: was kann eine KI?
00:16:38: Das heißt ich muss dem Agenten auch mal erlauben Gas zu geben aber eben nicht ohne Leitplanken und Führerschein.
00:16:45: Und wenn man neues Auto hat auch mal gucken wie schnell ist es eigentlich?
00:16:49: also man muss ja trotzdem so eine KI laufen lassen und mal zu testen, funktioniert es dann?
00:16:54: Also ihn quasi mal los schicken.
00:16:56: Wie macht ihr das denn eigentlich?
00:16:58: Nur weil wir sagen der darf nicht einfach Code ausführen heißt es ja nicht dass er keine Autonomie hat zum Beispiel wenn wir Coding Agents verwenden.
00:17:07: die dürfen durchaus selbst Code erzeugen und editieren.
00:17:12: Es muss allerdings immer noch einmal von jemand genehmigt werden.
00:17:16: am Ende
00:17:17: Kann ich den Nachvollziehen Was der Agent gemacht hat, ein interessanter Vorteil ist ja gleichzeitig die Nachvollziehbarkeit des Arbeitsprozesses.
00:17:26: Woran seht ihr was der KI-Agent eigentlich so alles denkt?
00:17:30: Tut?
00:17:31: Ja das finde ich tatsächlich ganz praktisch auch beim Arbeiten mit KI-Agenten dass man hier in diesem Chatlock den er generiert.
00:17:39: Der führt ja im Prinzip eine Art Selbstgespräch wenn ich ihm eine Anweisung gebe dann paraphrasierte das nochmal und sagt jetzt probiere ich das so jetzt probier ich das.
00:17:48: Und auch wenn dann mal was schief geht, wenn wir versuchen eine Anweisung auszuführen und die Schlecht fehlt.
00:17:53: Dann sagt er okay jetzt probiere ich etwas anderes.
00:17:55: Diese Art von Lockfall oder von Lockbuch der Entscheidungen finde ich sehr, sehr sinnvoll, wenn man einfach nachvollziehen will welche Schritte hat der gemacht?
00:18:04: Vielleicht auch wo ist er mal in die Irre gegangen?
00:18:08: Oder wo hängt da gerade?
00:18:09: Dann kann man auch gezielter intervenieren und mal sagen ne probier doch bitte das hier Damit du dann auch weiter kommst.
00:18:15: oder hier an der Stelle schalte ich jetzt mal ab, weil das geht mir in eine komplett falsche Richtung.
00:18:20: Worauf es noch zu achten?
00:18:21: Das sind die KI-Kosten.
00:18:24: Es kostet ja schließlich alles Geld!
00:18:25: Da wird selten drüber gesprochen... Die Rechnung also je länger so ein Agent arbeitet und je mehr Kontext er mitschläbt desto mehr Tokens werden verarbeitet desto teurer ist es, das haben wir schon einmal gehört.
00:18:36: Haben wir auch einen anderen Podcast schonmal bei Quonium hier besprochen.
00:18:39: Ist KI inzwischen auch ein klassisches Kostenmanagement Thema?
00:18:43: Ich würde sagen, ja.
00:18:45: Das ist was, was aktuell immer wichtiger wird, wo wir früher Flat Rates hatten also so viele Anfragen schicken konnten wie wir wollten bezahlen wir jetzt eben.
00:18:55: Token basiert Also Token kann man sich vorstellen es eine kleine Einheit die die KI verarbeitet zu ähnlich wie ein Wort und zwar nicht nur das was sie einließt sondern auch dass was sie ausgibt was ihr erzeugt kostet Geld Und da müssen wir uns auch in unserem Arbeitsalltag mittlerweile ganz konkret damit auseinandersetzen, wie wir hier die Kosten nicht explodieren lassen.
00:19:17: Wie macht man das?
00:19:18: Also ich könnte mir vorstellen es muss ja nicht immer der schnellste Auto sein.
00:19:22: Ganz genau also auch wenn ich in meinen Maschinenraum gehe dann kann ich mir überlegen welches Werkzeug passt für welche Aufgabe.
00:19:29: und genauso ist das jetzt auch bei den KI Modellen.
00:19:33: Mittlerweile haben die Anbieter ja auch schon verschiedene Arten von Modellen auf den Markt gebracht, die vielleicht die einen sind.
00:19:39: Vielleicht ein bisschen kleiner?
00:19:41: Ein bisschen weniger intelligent in Anführungszeichen im Vergleich zu den großen Flagship-Modellen.
00:19:48: aber hier lohnt es sich immer wieder drüber nachzudenken.
00:19:51: kann ich meine Aufgabe nicht auch mit einem günstigeren Modell lösen gerade wenn sie jetzt eine einfache Aufgabe ist eine einfacher Fragestellung vielleicht eine Fehlermeldung die ich analysieren möchte oder wenn zum Beispiel eine große Anzahl von Texten bewerten will, ob die jetzt positiv oder negativ sind.
00:20:07: Das sind so Dinge.
00:20:08: das können auch die einfacheren Sprachmodelle sehr gut und dann kann ich hier auch kosteneffizient hochskalieren.
00:20:14: Genau wenn ich jetzt ein komplexes Problem oder eine komplexe Implementierung habe, dann lohnt es sich auch mal den Porsche rauszuholen also das große Modell und das ganze einmal durch zu denken damit dich dann vielleicht doch schneller zum Ergebnis kommen.
00:20:29: Also hier ist auch viel abwägen gefragt.
00:20:32: Und was ich auch spannend finde, ist so eine KI-Se auch manchmal in der Quasselstrippe.
00:20:36: Also redet und redet hat so viele Daten... Da habe ich einen schönen Begriff bei euch kennengelernt!
00:20:41: Der Caveman Skill oder der Höhlenmensch Skill?
00:20:45: Was macht der Höhlmensch
00:20:47: Skill?!
00:20:48: Genau, ich hab ja schon gesagt die Kosten entstehen nicht nur durch den Input, sondern eben auch durch die Wörter, die die KI erzeugt.
00:20:57: Die ist ja dann oft auch sehr freundlich und höflich, und lobt mich noch mal für meine tolle Frage.
00:21:02: Und hier gibt es jetzt eben auch so einen Skill den wir verwenden – also eine Fähigkeit des Agenten die wir an- und ausschalten können.
00:21:11: Und dieser Höhlenmenschskill der sagt dem Agenten im Wesentlichen sprich wie ein Höhlemensch.
00:21:17: Also verwendet kurze Wörter, kurze Sätze.
00:21:20: lass alles weg was nicht notwendig ist.
00:21:22: sag mir ganz kurz und präzise was Sache ist!
00:21:26: Das ist natürlich super, wenn ich in Programmcode nach Fehlern suche.
00:21:30: Dann möchte ich nur kurz die Ursache wissen dann brauche ich keinen schönen Fließtext.
00:21:35: Wenn ich natürlich als eine E-Mail an meinen Chef formulieren lasse, dann sollte ich den Caveman Skill vielleicht wieder ausschalten.
00:21:41: Also kann man das so vorstellen der plappert und sagt einen langen Satz.
00:21:44: unter Berücksichtigung sämtlicher zuvor genannten Aspekt gelangen wir zum folgenden Schluss akzi kaufen.
00:21:49: und da da da Und die Kurzform wäre akzi gut.
00:21:52: drei Punkte kaufen.
00:21:53: also kürze is quasi Bares Geld.
00:21:56: Genau!
00:21:57: Keine Ausschmückungen, Hauptsache weniger Tokens.
00:22:00: Weniger Goethe mehr Höhlenmenschen und nebenbei sinkt auch noch die Token Rechnung sozusagen.
00:22:06: Was bringt das Ganze jetzt dem Investmentprozess?
00:22:08: Ziehen wir doch mal so ein bisschen im Fazit Immer zurück zum Asset Management.
00:22:14: Wo verbessern KIA-Genten den Investmentprozesses heute schon ganz konkret?
00:22:19: Und man spielt ja auch gerne einmal Mit dem Test, was kann das Spielzeug spielen?
00:22:24: Was leistet dieses Rennauto?
00:22:25: Da haben wir vorhin so ein bisschen angesprochen in der Spitze.
00:22:27: Nur null KI-Agent mit der Lizenz zum Datencrashen!
00:22:30: Also wie geht es dann mit dem Investmentprozess?
00:22:34: Ja also wenn wir erst mal drauf gucken wo ist die KI heute sinnvoll, wo sind die KI-Agenden heute sinn voll Dann können wir sagen dass sie uns auf jeden Fall ganz viel Zeit ersparen für Programmierung, für wiederkehrende Analysen.
00:22:50: Für aufwendige breiten Recherche und dadurch natürlich zum einen uns mehr Zeit gibt für wirklich die Denkarbeit, fürs Strukturieren, für das Entwickeln neuer Ansätze und gleichzeitig auch uns schneller macht.
00:23:07: wenn wir quasi mehrere Projekte gleichzeitig agentisch durchführen können dann kann man natürlich auch viel mehr Ideen, viel mehr Hypothesen austesten deutlich schneller, deutlich effizienter und deutlich innovativer arbeiten.
00:23:21: Und ich denke das sehen wir schon heute.
00:23:23: jetzt denken natürlich auch viele darüber nach ja werden wir denn dann überflüssig braucht es uns gar nicht mehr?
00:23:29: würde die völlig losgelöste KI einfach uns alle ersetzen?
00:23:34: da sehe ich uns definitiv noch nicht im Moment gerade gegeben die ganzen Grenzen über die wir gesprochen haben die ganzen Schwierigkeiten dass die menschlichen Experten und Expertinnen hier immer noch wissen, was passiert.
00:23:52: Und am Ende das letzte Wort haben
00:23:53: können.".
00:23:54: Ja, das ist glaube ich ganz wichtig!
00:23:56: Ich hatte mal ein spannendes Interview mit jemandem und er hat gesagt vergleicht KI mit der Einführung von Excel.
00:24:01: Früher als es noch kein Excel gab musste man viel Tippen, viel Arbeit gehabt.
00:24:04: Dann hat man gedacht Excel, Uraa nimmt einen Arbeit ab aber in Wahrheit hat man dann eigentlich noch mehr Arbeit gemacht oder gehabt weil man
00:24:12: ja
00:24:13: viel mehr Analysiert hat.
00:24:14: dann sozusagen mit X und so ähnlich kann man sich das mit KI auch vorstellen, dass die Arbeit eigentlich gar nicht weniger wird.
00:24:19: Sondern man macht – wie du schon gesagt hast – man macht vielleicht viel mehr parallel gleichzeitig Aufgaben?
00:24:25: Ja!
00:24:26: Und meine Vermutung ist wir suchen ja beim Research, wie ich schon sagte nach der Nadel im Heuhaufen.
00:24:32: in den allermeisten Fällen untersuchen wir eine Hypothese, die wir am Ende wieder verwerfen.
00:24:37: Ich vermute auch, dass sich das bei KI auch nicht ändern wird.
00:24:41: Also... Mein Schluss Fazit, ich würde es so zusammenfassen und dann bin immer gespannt wie du es zusammenfasst.
00:24:46: Mehr Forschung durch KI aber nicht unbedingt weniger Forscher.
00:24:49: Zumindest bis jetzt!
00:24:51: Laura wenn morgen jemand zum ersten Mal einen KI-Agenten im eigenen Arbeitsalltag einsetzen möchte?
00:24:57: Ihr habt ja schon viel Erfahrung gemacht das er bei Quonium schon sehr viele Jahre.
00:25:01: Was ist die eine Regel dir auf keinen Fall vergessen sollte?
00:25:04: Ich würde sagen vergesst nicht was dahinter steckt.
00:25:08: am Ende is ein Language Model immer noch eine super hochintelligente Textvervollständigung.
00:25:15: Das ist kein Mensch, kein Wesen – das ist eine Technologie!
00:25:19: Die hat viele, viele Daten von Menschen durchgelesen.
00:25:23: Deswegen könnte man meinen sie erscheint wie ein Mensch aber am Ende ist es immer noch ein Algorithmus.
00:25:31: Weiße Worte von Dr.
00:25:33: Laura Yehl vom Kronium.
00:25:35: Vielen Dank für die Einblicke.
00:25:36: Das war Generation Data.
00:25:38: Mein Name ist Peter Heinrich Danke fürs Zuhören und Bis zur nächsten Folge.
00:25:42: Laura, danke dir!
Neuer Kommentar