Ja, da sind wir wieder beim Deep Tech Deep Talk in, weiß ich nicht, vierter oder fünfter Folge, irgendwie sowas. Alois natürlich auch wieder am Start und wir haben mal wieder einen Gast, und zwar den Herrn Prof. Dr. Frank Passing. Wir freuen uns, dass du da bist. Was machst du so, wenn du dich gerade hier in diesem sehr warmen Studio abhängst?

Oh, dann interessiere ich mich für KI. Ja,

ich habe gelesen, du hast eine Firma, die heißt Intuitive AI. Ja. Und weil du so viel Langeweile hast, bist du auch noch an der International University Dozent.

Ganz genau. Das sind meine zwei Passionen. Auf der einen Seite das praktische Umsetzen von KI in Unternehmen und auf der anderen Seite die Neugierde immer wieder was Spannendes Neues zu finden, was man entwickeln und erforschen kann.

Was sind denn so deine Themen? Zum einen bist du ja Professor, also lehrst zum Thema auch Machine Learning, KI und Co. Auf der anderen Seite hast du eine Firma. Was machst du da? Wie hast du zu dem Thema gefunden? Was reizt dich an dem Thema und hol uns mal ein bisschen ab.

Das ist echt ein langer Weg. Also ich hoffe wir haben alle...

Heute relativ viel Zeit mitgebracht und zwar, ich bin eigentlich klassischerweise ein Wirtschaftsingenieur, weil ich damals nämlich gar nicht genau wusste was ich eigentlich werden wollte, hatte aber da relativ viele Möglichkeiten, ja im Bereich Technik zu lernen, aber eben auch zu wissen, wie man vielleicht mit Zahlen umgeht und Ja, so bin ich irgendwann mal auf das ganze Thema Sprachmodelle, damals noch Text Mining, Natural Language Processing gekommen.

Hab dann den Bereich geforscht und bin einfach da so tief reingekommen und hatte so viel Spaß daran, Sachen zu entwickeln. Und das ist mittlerweile nicht nur dann ein, ich würde mal sagen im ersten Schritt ein Hobby gewesen, sondern dann wirklich Passion zum Beruf gemacht.

Du warst ja auch eine ganze Weile in der Automobilindustrie.

Hat dich das auf dem Weg beeinflusst?

Absolut. Ich bin von Kind aus schon immer ein Auto-Nerd gewesen, hatte also da schon relativ viel zu tun und damals natürlich auch als junger Student war das natürlich ein Traum die große Automobilindustrie in Deutschland, die besonders großen Namen, da vielleicht sogar Fuß zu fassen und dann natürlich da besonders die Möglichkeit zu haben, das eine mit dem anderen zu kombinieren.

Frank, du bist ja in der Automotive-Industrie hattest du immer mit tiefgehenden Prozessen, mit Supply-Chain-Management, mit Risikomanagement zu tun und hast dich ja sehr intensiv damit auseinandergesetzt, wie kann ich das datenbasiert erfassen? Also wie kann ich mir ein Zukunftsbild schaffen, aber natürlich auch ein Bild der aktuellen Lage und wie kann ich Neueste erfassen Methoden aus dem KI-Bereich aber auch aus dem statistischen Bereich einfach nutzen, um beispielsweise die Vorhersagequalität zu erhöhen.

Wenn du das jetzt mal reflektierst du bist ja inzwischen mit deiner eigenen Firma unterwegs, du bist Dozent wie Olli gerade sagte, was hat sich eigentlich seit der Zeit geändert, wo ihr wahrscheinlich auch viel mit klassischen Modellen unterwegs seid, zu dem Bild, Das du heute so vor dir hast?

Die Frage ist brutal gut und die Antwort ist radikale Veränderung um es ganz ehrlich zu sagen.

Also die allerersten Schritte, die wir damals gegangen sind, waren wirklich, dass wir uns auf die kognitiven Arbeitsprozesse im Alltag konzentriert haben und geschaut haben, was davon Sind einzelne Schritte, die wir eventuell unterstützen können mithilfe von maschinellem Lernen. Heißt wie konnten wir von regelbasierten Ansätzen nun die ersten datengetriebenen Prozesse entwickeln, das heißt also aus Daten lernen.

Und wenn man das mit heute vergleicht was wir heute machen können, würde ich sagen, sind so gut wie alle Methodenansätze, die wir vor 10, 15 Jahren eingesetzt haben, zum großen Teil obsolet ... beziehungsweise es ist eine wahnsinnig gute Ausgangsbasis ... ... Dinge zu verstehen. Allerdings heute werden sie ... ... doch mit neuen Technologien komplett anders angegangen.

Hat sich was zum Thema Datenhygiene geändert im Mindset ... ... oder was beobachtest du da?

Oh, das Thema Daten, Datenhygiene Datenqualität ... ist nach wie vor eines der alles entscheidenden, denn ... Wir alle wissen, vorne kommt was rein und wenn da nichts besonders Gutes drinsteht ohne das Wort mit B zu verwenden, wir alle wissen, da kommt auch hinten nichts raus.

Also das Thema Datenhygiene Datenqualität ist nach wie vor eines der Top-Themen und mit Sicherheit auch immer noch eines der entscheidenden Punkte, um auch mit neuen Technologien diese Datenqualität sogar vielleicht auch zu erhöhen und zu verbessern

Du sagtest gerade kurz das Stichwort regelbasierte Systeme da pocht natürlich sofort mein Herz auf.

Vielleicht kannst du einmal den Zuhörern erklären, welche zwei unterschiedlichen Ansätze es gibt, denn wir sprechen heute viel über datenbasierte Verfahren, über Large Language Models bis hin zu den kleineren Modellen, lokalen spezifischen Modellen Trotzdem gibt es ja in der Geschichte der KI auch einen Platz, wo wir mit Regeln arbeiten, wo wir viel mit Informationssystemen gearbeitet haben, die entsprechend Fähigkeiten hatten, viele der Funktionsweisen sozusagen auch wirklich zu beschreiben symbolisch darzustellen.

Vielleicht kannst du uns einmal einen Hintergrund geben, welche zwei grundlegenden großen Ansätze es in diesen beiden Welten gibt.

Also der erste Schritt ist der wissensbasierte Ansatz, heißt also wissensbasierte KI bedeutet im Grunde wir haben Regeln schon erlernt und genau diese Regeln implementieren wir in unsere KI-Modelle Der zweite Ansatz, und das ist sozusagen der etwas modernere Ansatz, ist der datenbasierte Ansatz, zu sagen, warte mal, müssen wir denn eigentlich alle Regeln schon kennen oder können wir nicht mithilfe von KI eben auch genau diese Regeln erlernen?

Und das machen wir grundsätzlich aus den Daten, das heißt also auch hier merken wir, Daten ist ganz entscheidend. Umso mehr Daten wir haben, umso besser werden eben am Ende des Tages auch unsere Modelle

Wie funktioniert das? Also ihr guckt euch die Masse Daten an, guckt nach Verhaltensmustern nach Pattern und versucht die in Routinen niederzuschreiben oder wie läuft das?

Im Grunde funktioniert das wie folgt Wenn wir bei den datenbasierten Ansätzen sind, können wir zum Beispiel ein Klassifikationsmodell aufbauen. Das heißt, Wir könnten sowas sagen wie, diese Meldung ist positiv, also die erzeugt eine Emotion die für uns positiv dargestellt wird. Das Sentiment. Genau, das Sentiment klassischerweise oder eben auch eine, die negativ ist.

Und was wir eben damit machen, ist im Grunde zunächst diese Information erstmal zu vermitteln Labeln, das heißt zu einem bestimmten Satz oder zu einem bestimmten Text ein Label hinzuzufügen für positiv oder auch negativ Sentiment und auf Basis dieser Daten, das heißt also zu wissen, was ist positiv, was ist negativ, können eben die Modelle erkennen, welche Begrifflichkeiten stecken zum Beispiel in einem Text, die uns dabei unterstützen zu erkennen, das ist positiv oder das ist negativ.

Labelt ihr die händisch vor und übergebt an die Maschine oder macht ihr das direkt maschinell am Anfang?

Da gibt es auch zwei unterschiedliche Konzepte Früher würde man definitiv diese Daten erstmal manuell labeln und das ist praktisch Richtig harte Arbeit. Deswegen

frage ich das.

Und das Spannende dabei ist, auch da tun sich selbst die Experten in unterschiedlichen Bereichen manchmal schon sehr, sehr schwer zu entscheiden, ist es denn jetzt...

Ist positiv, ist es negativ oder ist es vielleicht doch ein bisschen neutral? Je nachdem, wie ich den Kontext halt sehe. So Beispiele sind zum Beispiel aus der Finanzbranche Ansätze. Auf der einen Seite würde der Investor sagen, Mitarbeiter werden entlassen. Das ist ja super negativ. Kommt drauf

an, für wen.

So genau. Und vielleicht sagt der Investor sich, warte mal, die gehen mit meinem Geld um und die sollen rentabel und profitabel werden. Also es ist im Zweifelsfall eine gute Meldung. Ich lasse jetzt mal offen, was das Richtige ist, weil ich glaube, das ist dann unabhängig oder abhängig dann eben von der jeweiligen Perspektive.

Bedeutet aber eben auch da, sich schon die Frage zu stellen, wie erzeuge ich eigentlich ein gutes Trainingsmaterial Das ist schon gar nicht so trivial.

Aber ist die Welt wirklich noch so binär? Also ich meine, wir reden über Quantum Computing und Co. Ist wirklich, dass ich in der Sentimentanalyse einfach schaue, gibt es da gut oder schlecht?

Ich meine, bei Geschmacksrichtung haben wir auch irgendwie Omami also süß-salzig Omami. Kriegt man das wirklich abgebildet dass man die verschiedenen Perspektiven da mit reinbringt?

Ich würde dazu ganz gerne mal auf ein anderes Beispiel eingehen wo wir uns tagtäglich mit beschäftigen Und zwar geht es dabei um das Thema der regulatorischen Compliance.

Bedeutet ist ein bestimmtes Gesetz für mich relevant und ich muss es befolgen Oder ist ein Gesetz für mich vielleicht gar nicht relevant und ich muss es nicht befolgen? Und auch diese Frage... Die jetzt zunächst sich erstmal ganz einfach anhört, ist gar nicht so trivial. Denn wie geht man in der Regel dort vor?

Und ich glaube, das ist dann so ein bisschen auch vielleicht auch die Möglichkeit, damit umzugehen ist, über einen risikobasierten Ansatz reinzugehen und zu entscheiden, Was hat dann welchen Einfluss eigentlich auf mich, wenn ich das zum Beispiel als nicht relevant einschätze? Also sich quasi darüber hinaus über die Folge eigentlich Gedanken zu machen seines Datensets und das ist zumindest eine Möglichkeit, vielleicht nochmal ganz anders an seine Daten heranzugehen und zu denken.

Jetzt hast du gerade einen sehr interessanten Themenbereich und auch eine Branche angeschnitten, Frank, die viele auslassen, weil sie sagen, oh, das ist mir viel zu komplex, also KI einzusetzen in einem Bereich, der regulatorisch durchaus komplex ist, wie in der Finanzwelt, Bankenwelt, Versicherungswelt, aber auch in der Rechtsanwaltswelt.

Könntest du uns da ein paar Beispiele nennen, wo du da eigentlich unterwegs bist? Und warum du dir gerade quasi so wirklich dieses durchaus sehr komplexe Umfeld Welt ausgesucht hast, bei den ganz vielen Möglichkeiten, die du gehabt hättest?

Ja, absolut. Also wie schon gesagt, auf der Forschungsseite reizt mich natürlich, das Neue zu schaffen und in den Regeln Chancen zu sehen und genau da rein zu grätschen und zu schauen, was man eigentlich da machen kann.

Denn klar, die Herausforderungen sind immens, sei es natürlich eben vor dem Hintergrund der regulatorischen Anforderungen Jetzt mal um mal so ein paar genannt zu haben, wir haben auf der einen Seite natürlich den AI Act, den wir mit Sicherheit beachten müssen. Auf der anderen Seite natürlich speziell jetzt in der Finanzbranche DORA, das heißt also das ganze Thema Security, Cyber Security, Sicherheiten im ICT-Bereich was sehr, sehr wichtig ist.

Aber natürlich eben auch Mindestanforderungen an das Risikomanagement und die Wechselwirkung dazwischen ist halt extrem spannend. Das macht natürlich auch am Ende des Tages halt die Besonderheit aus, hier Produkte entwickeln zu können, die eben insbesondere dann in der heimischen Industrie in Europa insbesondere daneben auch vielleicht ein

Alleinstellungsmerkmal haben.

Ich würde gerne jetzt eine Frage einschieben, die wahrscheinlich vielen auf den Lippen brennt weil in Deutschland gerade sehr intensiv diskutiert wird, ist eigentlich die Regulatorik eher ein Innovationskiller oder ist es vielleicht sogar ein Enabler wenn ich dir jetzt zuhöre. Wenn wir dir zuhören, dann hört sich das so an, als wäre das genau die richtige Herausforderung als würdest du auch eine Art von Alleinstellungsmerkmal daraus ableiten können.

Wie ist da deine Einstellung zu, wenn Menschen dich sowas fragen? ... zwei Perspektiven

ehrlich gesagt drauf. Auf einen Seite ganz klar für die Unternehmen, die ... Herausforderungen kennen und auch entsprechend die Kompetenzen haben, würde ich sagen, es ist absolut ein Vorteil weil sie sich gerade ganz bewusst gegen den Wettbewerb positionieren können.

Das ist allerdings auch mit sehr, sehr viel Arbeit und Fleiß verbunden, genau da entsprechend dann eben auch den Wettbewerbsvorteil zu generieren. Auf der anderen Seite natürlich in der Wechselwirkung weltweit gesehen ist es natürlich eben auch Ein Hemmnis, ganz ehrlich gesagt, weil man natürlich hier nun in ganz, ganz viele Dinge investieren muss, die man im Zweifelsfall in anderen Ländern halt erstmal beiseiteräumen würde und sich im Zweifelsfall im Nachhinein entschuldigt dafür, dass man was falsch gemacht hat.

Eine andere Mentalität an Dinge heranzugehen von der wir uns mit Sicherheit aber auch hin und wieder mal was angucken sollten. Im

unternehmerischen Kontext sage ich dann lieber zu den Leuten, lieber um Verzeihung bitten, als um Erlaubnis zu fragen. In dem Bereich sind ja wirklich auch viele Startups unterwegs und ich glaube, um wirklich dann auch das ganze Thema Venture-Clienting, also wie kauft ein Konzern bei Startups ein, das Thema ist sehr en vogue, das Thema

Compliance wird immer wichtiger in dem Kontext. Wenn ich als Startup eine Chance haben will, groß zu werden, dass meine Services, meine Produkte gekauft werden von Staaten, von der Wirtschaft, von Konzernen, dann muss ich das Thema Compliance verstehen wollen oder mich dementsprechend den Mindestkriterien anpassen.

Wie siehst du da aktuelle Entwicklungen? Weil viele Startups, mit denen ich rede, die sagen, man kommt da in diese Konzerne nicht rein, die wollen alle nicht und die sterben dann irgendwie so ein Stück weit vor sich hin. Bist du dadurch ein Stück weit auch auf das Thema aufmerksam geworden, weil du genau das bemerkt hast?

Im Grunde ist es genau das. Also mir ist es aufgefallen dass wir auf der einen Seite extrem viel Regulatorik aufbauen, was es immer komplexer macht, eigentlich mit Unternehmen zu kooperieren und auch zu arbeiten, aber eben natürlich auch als Unternehmen überhaupt erstmal wirksam zu sein. Und da dachte ich mir, okay, perfekt, ich liebe Regeln.

Oder auch in dem Fall ist das halt vielleicht genau das dein Playground, um zu sagen... Jetzt erst recht genau in diese Lücke rein und genau hier ein Geschäft aufzubauen, weil wenn du selbst halt schon merkst, wie komplex und wie aufwendig das für dich selbst ist, warum dann nicht aus der Not eine Tugend machen und anderen zukünftig dabei unterstützen, genau mit KI-basierten Systemen Compliance zu unterstützen, die Prozesse besser zu machen, im Sinne jetzt nicht Effizienter im ersten Schritt, sondern wirklich effektiver zu machen,

sondern da relevante rechtliche Anforderungen zu identifizieren, ... wirklich zwingend erforderlich sind für dein Geschäft.

Vielleicht nochmal ein kurzer Exkurs für unsere Zuhörer und Zuhörerinnen. Das Thema Compliance gibt im Grunde so eine Art Rahmenwerk vor, ... ... also in dem ich agieren kann, wann ich in welchem Umfang

viel vielleicht auch tun kann. Da gibt es Mindest und Maximalanforderungen. Da muss man sich auf jeden Fall in diesem ... Diesem Funnel bewegen. Tatsächlich ist mein Erleben auch so, dass es natürlich auf der anderen Seite, auf der Konzernseite auch viele Mitarbeiter gibt, die sagen, jetzt kommt schon wieder so neues Service, den muss ich mir angucken, habe ich auch nicht so viel Lust drauf.

Auf der anderen Seite wenn ich jetzt ein Startup beispielsweise bin, wie kriege ich die Konzernmenschen motiviert, wen muss ich da greifen, damit die dann auch gewillt sind, mir zu helfen.

Sehr guter Punkt. Da vielleicht so aus den Erfahrungen weil ich ja das Glück hatte, wirklich auf beiden Seiten sein zu dürfen.

Zunächst erstmal viele, viele Jahre lang im Konzern zu arbeiten, aber eben dann auch auf der anderen Seite zu verstehen, wie es dann eigentlich ist, wenn man draußen ist, auf der gegenüberliegenden Seite. Und ich glaube, ein ganz entscheidender Punkt ist erstmal, Prozesse brauchen dort einfach viel, viel länger.

Das heißt, Entscheidungsschritte, um mit einem Konzern arbeiten zu können, sind erstmal deutlich aufwendiger in der Zeit, aber eben auch in der Abstimmung Anders herum, und das finde ich eigentlich genauso wichtig, muss ein Großkonzern verstehen, dass er nicht mit einem riesengroßen AGB-Katalog um die Ecke kommen kann und den großen, von dem er hunderte von Millionen von Stücke eines Bauteils einkauft, die gleichen Regeln anzusetzen Wo er sagt, hier möchte ich ganz gerne mal einen MVP ausprobieren und mal gucken, ob da Mehrwert drin steckt.

Ich glaube, dafür müssen sie einfach ihre Prozesse anpassen, um einfach deutlich agiler eben auch mit kleinen Unternehmen umzugehen in Sandboxes zu arbeiten und mal was auszuprobieren.

Seid ihr genau in dem Bereich auch unterwegs und bietet Unterstützung an, mit eurem sozusagen Verständnis einerseits dieser beiden Welten und auf der anderen Seite auch mit dem Handwerkszeug KI?

Ja, absolut. Also natürlich

arbeiten wir sehr, sehr viel mit Großkonzernen zusammen. Ich glaube, das liegt einfach ein bisschen in der Natur, dass wir da selbst halt herkommen und uns da eigentlich auch relativ wohlfühlen genau hier eigentlich anzusetzen Gerade jetzt eben vor dem Hintergrund der...

Vielen kognitiven Arbeitsprozesse, wo es um viele textlastige Dinge geht, sei es jetzt in der Compliance, sei es im Risikomanagement oder eben auch im Bereich des Audits haben wir natürlich eben entsprechend, gerade bei einem Großkonzern natürlich einfach sehr, sehr viel mehr Potenzial eben auch Veränderungen herbeizuführen einfach bei der Schirrenmasse an Prozessen die in großen Konzernen tagtäglich auf sich so hereinkommen

Noch mal zwei, drei Schritte zurück.

Ihr hattet vorhin das Thema angerissen, dass LLMs ja momentan so eine Art Race to the Button gibt. Also das heißt, die Modelle werden doch irgendwie immer kleiner, dafür aber immer spezifischer an Anwendungsfällen. Das heißt, ich habe ein kleines Modell was nicht besonders viel Energie, also nicht besonders viel Rechenprozesse benötigt um trotzdem eine fundierte Anwendung Soweit es denn geht, nach den aktuellen Mitteln, fundiert es mögliche Aussage gibt.

Auf der anderen Seite gibt es das Gegen-Race. Das heißt, ich packe möglichst viel Energie und Rechenpower drauf und gucke einfach, was möglich ist. Wie seht ihr das denn? Also wo stehen wir da? Gibt da noch eine dritte Spur die ich vergessen habe?

Ja, die dritte Spur die ist immer irgendwo dazwischen. Das sind auch hybride Systeme die sich beiden quasi ermächtigen können.

Ich glaube, dass wir sowohl in der Open-Source-Welt, wo viel auch kleine Modelle inzwischen ja als Modellvarianten verfügbar sind, bis auf ein Level runtergedampft das ist auf dem Smartphone Passt und natürlich von dem Datenschutz und Privacy-Aspekten her entsprechend konfiguriert werden kann, wie man sich das vorstellt, bis hin halt entsprechend zu diesen großen Foundation-Modellen, die auf der einen Seite natürlich degradieren Die gewisse Sprünge Entwicklungssprünge Qualität vielleicht nicht mehr so schnell darlegen können, wie man sich erhofft hat, aber auf der anderen Seite natürlich auch von den kognitiven Prozessen her, Frank, über die du ja auch schon gesprochen hast, besser werden.

Was ich mal interessant finde, ist, wie stark ist diese Art von unterschiedlichen Ansätzen bei euch schon präsent Das heißt, nutzt ihr wirklich diese... Unterschiedlichen auch Denkrichtung, um eure Prozesse, um eure am Ende Systemarchitekturen auch aufzusetzen

Ja, absolut. Mit dem Grund ist es wirklich so, dass wir beide Prozesse nachverfolgen.

Auf der einen Seite die großen Sprachmodelle einzusetzen, herauszufinden, was können eigentlich die großen foundational models eigentlich heute leisten im Sinne ihrer Reasoning-Architektur, im Sinne von wo können sie selbst Entscheidungen treffen. Wir nutzen auf der einen Seite natürlich die Foundation and Model, um natürlich zu schauen, was können die großen Modelle Stand heute schon.

Auf der anderen Seite, und das ist für mich der viel spannendere Part, ist eigentlich zu sagen, wie kann man nun vielleicht eben auch die kleineren Modelle nutzen und das letztendlich dann kombinieren mit autonomen Agenten die eben in der Lage sind, sehr spezifische kleine Aufgaben zu lösen Die ja genau in unserem Arbeitsumfeld dann notwendig sind und gar nicht große General Artificial Intelligence Model zu entwickeln, das alle möglichen Aufgaben dieser Erde lösen kann, sondern wirklich...

Darauf dediziert, einen ganz spezifischen Arbeitsprozess raussuchen, wo wir da allerdings aber dann eben auch in diesem Umfeld sehr spezifische gute Aufgaben dann lösen können. Du

sprichst gerade ein ganz neues Feld an, was wir bisher auch in unseren Sendungen so noch nicht tief auseinandergenommen haben.

Deswegen freut mich das sehr, dass wir da heute mit dir darüber sprechen können. Stichwort autonome Agenten hat natürlich auch auf der einen Seite Eine enge Verbindung zu großen und kleinen Sprachmodellen, als Orchestrieren, als Einsetzen entsprechend nach gewissen Funktionsschritten. Auf der anderen Seite hat das aber vielleicht auch einen Aspekt, über den wir ganz zu Beginn gesprochen haben, regelbasiertes Vorgehen.

Wie nutzt ihr autonome Agenten um am Ende das Leben für beispielsweise Kooperationen mithilfe großen Unternehmen zu vereinfachen für die Startups?

Also das Besondere, wie wir KI-Agenten insbesondere autonome Agenten einsetzen, ist genau vor dem Hintergrund eigentlich, dass wir uns Gedanken gemacht haben, wie sehen die kognitiven Prozesse eigentlich eines Compliance Officers eigentlich am Arbeitsalltag aus?

Wie entscheidet er eigentlich, wann ein bestimmtes Gesetz für einen relevant ist? Um mal so ein paar praktische Beispiele zu geben, also er guckt natürlich in ein Gesetz rein, Ist es für meine Industrie anwendbar? Passt es auf mein Unternehmen auf Basis unserer bestimmten Größe? Verkaufe ich überhaupt diese Produkte die da im Gesetz erwähnt worden sind?

Unter welcher Kategorie falle ich da eigentlich? Und genau diese einzelnen Schritte wir haben ja schon gerade ganz viele genannt dafür entwickeln wir jeweils einen speziellen Agenten Und dieser einzelne Agent... Ist in der Lage, eigenständig Entscheidungen zu treffen und letztendlich dann eben auch eine Handlung durchzuführen.

Das heißt also zu entscheiden, ja, das ist für dich relevant, genau diesem und jedem

Hintergrund. Habt ihr noch die Kontrolle über diese autonomen Agenten die ja für sich genommen ja auch eine eigene Funktionseinheit, also ein eigenes Ziel haben und das auch verfolgen? Ja,

vor dem Hintergrund nämlich, dass wir sehr bewusst in einem ganz bestimmten kleinen Umfeld eingrenzen.

Das heißt also, der Agent hat eine ganz spezifische Aufgabe und genau nur diese Aufgabe soll er erfüllen. Das heißt also, der Output der generiert werden soll, kann zum Beispiel eine Kennzahl sein. Das heißt also, ja oder nein als Beispiel kann aber auch ein generierter Text sein, um eben auch dann seine Antwort zu plausibilisieren

Das Erste was man assoziiert ist ja autonomes Fahren.

Und da gibt es ja Kategorien, ich glaube von 1 bis 5. Und inzwischen gibt es auch noch Unterabweichungen, 2a, b, c, whatever. Wie autonom kann so ein Agent künftig sein in verschiedenen, vielleicht nicht nur in deiner Domäne, sondern wie misst man das? Wir hatten, glaube ich in einer Folge auch schon mal über den Chirurgen gesprochen.

Das hat, glaube ich, auch mit kausaler AI zu tun. Und wie siehst du das? Also in welche Richtung bewegt sich das?

Ich glaube schon, dass wir dort sehr, sehr viel Autonomie auch erzeugen können, wenn wir sie sehr bewusst designen Das heißt also für jeden einzelnen Agenten eben auch eine ganz bestimmte Aufgabe definieren.

Ich vergleiche das immer ganz gerne so ein Stück weit, dass wir Neuronen miteinander zusammenbringen und letztendlich diese Autobahn eben auch definieren wie Neuronen Ein Agent mit einem anderen Agent kommunizieren kann und wer eigentlich mit wem kommunizieren kann. Und darüber können wir das natürlich ein Stück weit eben auch steuern Sehr groß werden lassen.

Das heißt also, im Grunde wir eigentlich, wenn viele davon sprechen, dass wir vielleicht dieses Supermodell entwickeln, vielleicht die Alternative auch gewählen können, zu entscheiden, ja, was gibt es dann eigentlich für Entscheidungsprozesse und dafür letztendlich dann so eine Art ... Agent verwenden, der dann, ich sag mal, im übertragenen Sinne so ein Stück eher dann wie ein Neuron an einem Gehirn arbeitet Also ein

Agent nicht am Ende des Tages auch irgendwie so ein Konglomerat oder ein Orchestrat von verschiedenen, meinetwegen auch LLMs.

Wir hatten ja vorhin darüber gesprochen, wie die kleinen, die halt einen sehr spezifischen Zweck haben. Das heißt, dann hat man irgendwo diesen Trade-off vielleicht zwischen multiplen LLMs und versus einem massive LLM Der große Kurator sozusagen, der Generalist, das große, massive LLM, was dieses Weltverständnis mitbringt und auf der anderen Seite die kleinen Nerds die Spezialisten.

Man kann das ja heute auch im Open-Source-Bereich modular miteinander verquicken. Geht das in die Richtung

Da sehe ich absolut die Zukunft, dass wir ganz bewusst kleinere Modelle einsetzen. Das ist vorhin auch schon gesagt, beziehungsweise ihr beide habt es auch vorhin schon gesagt. Effizienz ist natürlich ein Thema.

Das heißt also, wir müssen uns am Ende des Tages auch darum kümmern, wo eigentlich die ganze Energie am Ende des Tages herkommt. Das heißt also, kleinere Modelle verbrauchen einfach weniger Energie. Und natürlich auf der anderen Seite wir brauchen die gesamten Infrastrukturen. Das heißt, nicht jedes Unternehmen kann sich die großen Foundation-Model leisten, klar.

Token-basiert geht alles. Allerdings bedeutet es dann eben auch, gerade insbesondere für hochregulierte Bereiche, möchte ich dann überall, dass meine geheimspezifischen Daten überall durchs Internet gehen oder möchte ich sie vielleicht doch lieber lokal bei mir in meiner Unternehmens-IT letztendlich dann gemanagt haben.

Und da sehe ich auf jeden Fall ein extrem großes Potenzial, dass wir mit kleinen Modellen Auf kleineren GPUs in Kombination mit den Agenten eben eine sehr, sehr gute Performance erzeugen können, die eben auch besonders gut Arbeitsprozesse

erleichtern kann. Es gibt sehr viele Befürworter für die Agentensysteme gerade in dieser auch smarten Kopplung die du ansprichst mit großen und kleinen Sprachmodellen.

Dann gibt es aber auf jeden Fall auch Kritiker die sagen, wir setzen uns damit eine immer komplexer werdende Architektur in die Realität. Denn wenn wir Systeme haben, die... Autonom sind oder teilautonom Funktionen erfüllen können und dann am Ende so ein Orchestrat haben von teilweise vielleicht Tausenden von solchen Agenten.

Wer soll das heute noch mit dem auch teilweise klassischen Verständnis einfach steuern und managen können? Was sagst du Kritikern, die da eher nicht die Potenziale sondern eher diese Gefahren sehen? Ich kann

die Kritiken absolut nachvollziehen und sie haben auch ihre Daseinsberechtigung, denn natürlich nachzuvollziehen wie eigentlich die Prozesse ganz spezifisch ablaufen, ist eine besondere Herausforderung.

Ich stelle allerdings mal die Gegenfrage auf, wer in seinem Unternehmen kennt denn alle seine eigenen Prozesse überhaupt noch und inwieweit würde es das zum allerersten Mal auch explizit machen? Dass wir nachvollziehen können anhand von, ich sage jetzt mal, den großen Bäumen die wir da aufbauen mit den einzelnen Agenten Welcher Agent trifft eigentlich welche Entscheidung?

Wofür? Und was kann er eigentlich als nächstes anträgen für eine Aktion? Ich glaube, das bildet im Grunde am Ende des Tages auch das ab, wie Unternehmensprozesse aussehen. Und wer kann sie heute beantworten Ganz wahrscheinlich sehr, sehr viele Beratungshäuser und natürlich eben auch im Zweifelsfall die Wirtschaftsprüfer, die nämlich sehr, sehr genau in dein Unternehmen reinkommen und prüfen.

Und im Zweifelsfall wissen die sogar besser Bescheid über deine eigenen Prozesse als du selbst.

Ich habe da so ein bisschen Gewaltenteilung gerade im Kopf. Also Legislative, Judikative, Exekutive. Wenn man die Agenten entsprechend zuteilen würde und sagen, okay, ihr seid jetzt die Exekutive, ihr macht jetzt die Prozesse, dann gibt es die Legislative die schaut, dass das auch entsprechend Compliant ist, im Rahmen stattfindet und die Judikative, das sind vielleicht erstmal der Mensch, das ist die Regelgebende und die am Ende sagt, war das compliant oder nicht?

Also diese Layer irgendwo einzieht, ist das vielleicht eine Zukunftsform? Also ich habe jetzt auch schon ein paar Mal gelesen, dass LLMs sich ja gegenseitig beaufsichtigen könnten.

Wahnsinnig guter Punkt und ich finde, da ist auch noch super, super viel Forschungspotenzial drin. Die eine Thematik ist natürlich einfach durch den KI-Eck gegeben.

Wir haben das Thema Human Oversight, Das heißt also, am Ende des Tages steht der Mensch und entscheidet final. Das sehe ich auch für ganz, ganz viele zukünftige Entwicklungen immer noch so, dass der Mensch immer noch am Ende des Tages entscheiden wird in vielerlei Geschäftsprozessen. Allerdings... Ist die Frage berechtigt und insbesondere in der Compliance mit Sicherheit auch.

Die Frage, die sich da dann relativ schnell stellen lässt, bei einem Vier-Augen-Prinzip das heißt in der Regel haben wir in der Compliance das Ziel, dass mindestens zwei Menschen draufschauen und eine Entscheidung treffen. Die Frage ist, machen wir das zukünftig vielleicht mit einem Mensch und zwei digitalen Augen?

Das wäre ganz spannend. Am Ende des Tages muss ja jemand für Dinge gerade stehen in unserer aktuellen Gesellschaft. Das heißt, wir müssen... Ein Mensch muss irgendwo haften für eine Entscheidung, wenn irgendwas passiert. Es wird zwar ein bisschen abgefahren, wenn wir jetzt vielleicht in Richtung Quantencomputing mal denken.

Und wir sagen, wir schaffen so eine Art künstliches Bewusstsein und es ist nachweislich einfach das... Die letzten 300 Judgments wesentlich besser gemacht als jeder Mensch, dann sind wir ja von der Rechenpower besser ausgestattet und auch vom Urteilsvermögen vielleicht in der Judikative oder wie auch immer, was wir gerade besprochen haben, dann könnte es ja wirklich kontrovers werden, oder?

Das wird es. Das wird es und ich glaube, wir müssen uns damit auseinandersetzen. Dass genau das passieren wird. Ich finde dass auch in der aktuellen Diskussion doch sehr, sehr viele negative Narrative aufgebaut werden. Wir können aber auch genau diese negativen Narrative mal umstellen und sagen, was steckt da eigentlich an Potenzial drin und uns mal Gedanken machen, wie sieht eigentlich die Zukunft, wenn das kommen wird, aus.

Und was bedeutet das? Was können wir heute vielleicht schon für Dinge tun, die uns darauf vorbereiten dass genau das, was du beschreibst eigentlich morgen da ist und wir uns mit den Themen beschäftigen im Sinne des Positiven, was eben auch da vielleicht in der Richtung möglich ist.

Ich sehe schon deine grundpositive Einstellung und deine Neugierde sozusagen auf das ganze Neue was noch kommt.

Jetzt ist es schon so, dass wir gerade natürlich hören, wie tief du in diesen ganzen Systemen im Bereich auf der einen Seite generativer KI bist, dann autonomer Systeme die Kopplung davon, datenbasierte, regelbasierte KI. Wie kriegst du das eigentlich hin in deiner Unternehmung dass sie auf dem aktuellen Stand bleibt?

Wie kannst du auf dem aktuellen Stand bleiben als Professor in diesem Bereich? Was ich mitbekomme, ist, dass das inzwischen fast schon zu einer Drucksituation geworden ist für viele KILer weil einfach so viel so kurzfristig passiert. Jede Woche kommen neue Releases raus, neue Möglichkeiten. Jetzt hat gerade Olli schon das Thema Quantencomputing angesprochen.

Also wie managst du eigentlich diesen Neuzufluss von Wissen, sodass du das dann auch auf der einen Seite auf die Straße bringen kannst, aber dich selber natürlich auch up-to-date hältst und entsprechend zukunftsgewandt auch aufgestellt bist?

Grunde sind es für mich wirklich zwei entscheidende Elemente Zum einen das Netzwerk.

Das heißt, sich mit anderen Unternehmern auch zu tauschen insbesondere natürlich auch mit Unternehmern die im Bereich KI unterwegs sind. Also mit euch zum Beispiel wirklich ins Detail einzusteigen zu verstehen, was kommt eigentlich als nächstes. Und das Zweite auf der anderen Seite ist eben auch Es einfach praktisch mal zu machen und es dann dabei festzustellen dass du auf einmal siehst warte mal, hier wird gerade ein Paradigma umgestellt.

Wir haben gerade vor kurzem uns einen ganz speziellen Geschäftsprozess angeschaut und haben eigentlich zwei Videos dabei gedreht. Und zwar haben wir gesagt, okay, wie sieht der Arbeitsplatz der Vergangenheit aus? Wie bist du vorgegangen Ohne jetzt in die Details reinzugehen aber ich glaube, das ist dann halt auch für den Zuhörer ganz interessant, einfach mal zu sagen, wie gehe ich eigentlich vor?

Google aufgemacht, Suchbegriff eingetippt alle relevanten Sachen angeschaut, eine Excel-Tapete aufgebaut und alle relevanten Informationen in eine schöne Liste aufbereitet. Was machen wir heute? Heute packen wir unsere kuratierten, relevanten Informationen in, ihr hattet es auch schon besprochen, in eine Rack-Architektur, das heißt also da, wo unsere wichtigen Informationen landen sollen und kombinieren es nun mit einem Sprachmodell Das heißt also, die Frage, die mir im Kopf schwebt, die ich beantworten möchte, ich stelle jetzt die Frage und ich muss ja nicht mehr den ganzen Weg hin.

Zur Beantwortung der Frage mir selbst bauen, sondern das macht jetzt mein System und was ich am Ende des Tages nur noch machen muss, ist eigentlich im Grunde die Antwort, die ich bekomme, zu überprüfen und diesen klassischen Weg, den wir vorher von ich google, ich suche mir relevante Dokumente raus, ich fasse es zusammen, drehe ich jetzt um.

Das war für mich eine extrem spannende Erkenntnis weil daraus ergeben sich einfach so viele neue Dinge, wie wir auf der einen Seite Bildung umgestalten müssen, auf der einen Seite, aber eben auch in einer anderen Art und Weise, worauf kommt es in meinem Arbeitsalltag eigentlich zukünftig an? Nämlich im Grunde wieder auf das Gleiche Ich muss ganz genau wissen, wo suche ich, was sind relevante Informationen und ich muss genau wissen, wie das Modell eigentlich in dem Sinne funktioniert hat.

Und es ändert aber sehr, sehr viel im Arbeitsalltag weil ich mich im Zweifelsfall auf die Antwort viel schneller verlasse, weil ich sage, ja, ich sehe die relevante Quelle. Haken hinter, mit dem Ergebnis bin ich fein und laufe sofort weiter und kann meinen Arbeitsalltag viel einfacher und vielleicht auch schneller bewältigen Genau,

anderen Worten ist es ja so, je nachdem wie gut ich in der Lage bin, einer KI eine Frage zu stellen, umso besser Wird meine Antwort.

Und dann muss ich ja eigentlich nur noch den Schritt machen, zu verifizieren, ist das Ding halluziniert? Dafür habe ich ja im Zweifel auch eine Rack-Architektur, dass ich das möglichst vermeide. Also Rack im Grunde Regal wo ich meine Daten indiziert reinstelle und so eigentlich nur auf verifizierte Daten zugreife.

Oder greife ich auf eine LLM zu, was angelernt wurde, was vielleicht dann doch noch mal halluziniert. Das könnt ihr nachhören in den anderen Folgen, die wir aufgenommen haben. Das wird jetzt hier zu lang. Aber im Grunde spare ich natürlich ganz viel Zeit. Ich muss einfach nur Resultat Überprüfen. Und dann sehe ich, okay, das geht in die richtige Richtung, scheint alles valide zu sein.

Ich habe mir irgendwie 80% der Zeit gespart. In die Richtung geht es ja auch. Ich meine, wir hatten es eben schon mal angeschnitten das ganze Thema Unsere Paradigmen wechseln. Ich meine, wenn Quantum um die Ecke kommt, dann wird das sowieso nochmal spannend, was multimodale Modelle angeht. Neulich hat mich einer gefragt, warum kann man eigentlich Videos noch nicht auswerten Also Bilder auswerten funktioniert so lala inzwischen, aber Videos ist ja dann noch die Frage wie viele Frames pro Sekunde werden eigentlich ausgewertet?

Nur drei oder tausend? Und dann wird es halt Und ungleich viel Rechenpower und sowas das sind halt so Sachen, die passieren dann vielleicht ganz schnell. Aber was die Leute, glaube ich sehen müssen und vielleicht auch mal die positive Seite, die nicht immer nur dystopische sondern utopische Seite der KI oder der Thematik die gerade passiert.

ist natürlich auch, dass viele Jobs in Zukunft auch aufgewertet werden, die aktuell gesellschaftlich extrem wichtig sind. Also wirklich in der Pflege, in Krankenhäusern und so, die einfach nicht gewürdigt werden finanziell entsprechend. Und dass man einfach in Zukunft als Mensch viel mehr Zeit dafür hat und die halt entsprechend aufgewertet werden,

weil Agenten durchs Netz schwirren und die Zeit die man vorher vor Google verbracht hat, ohne wirklich Menschen zu helfen, einfach investieren kann, die man ... Leute bildet, Leuten hilft und ähnliches. Fühlt sich beinahe wie so ein Wort zum Sonntag jetzt an. Absolut.

Frank vielleicht noch ein Aspekt. Wenn euch die Welt zu Füßen liegt, mit diesem Wissensverständnis, mit wirklich on the cutting edge of Tech zu sein, was du verkörperst in beiden Welten als Professor auf der einen Seite, als Unternehmer, wie sucht ihr eure Technik Tätigkeitsfelder aus und wie entwickelt ihr eigentlich neue Produkte bei der Vielfalt von Möglichkeiten, wo ihr eure Architekturen Agenten und auch die generative KI eigentlich einsetzen könntet?

Es fängt immer ganz vorne bei den Arbeitsprozessen an. Also wirklich da rein zu starten, wo wirklich im Arbeitsalltag der größte Pain sozusagen liegt. Klassisches Wort in dem Bereich. Also da, wo man wirklich sagt, das ist eigentlich genau das, was sich im Arbeitsalltag immer wieder zu Reibereien führt oder zu Schmerzen Demotivation von Mitarbeitern, weil sie sich mit Aufgaben auseinandersetzen müssen, die nicht angemessen sind, vielleicht aber auch nicht ansprechend sind genug, zu sagen, ja, sie müssen zwar Durchgeführt werden allerdings ist jetzt nicht das wonach man strebt und ich glaube ja da dann bedarf es halt immer am anfang erst mal gespräche und wonach wir mal suchen ist immer auf der einen seite extrem spannende unternehmen die aber sagen ja wir haben da so ein gefühl da könnte man irgendwie was mit ki machen und wir uns dann wirklich mit den hinsetzen und auf der einen seite erklären Was eigentlich überhaupt KI ist?

Ich glaube, das ist immer ein ganz, ganz wichtiger Beitrag, eben auch da wirklich in die Tiefe einzusteigen und auch die unterschiedlichen Optionen aufzuzeigen die man in dem ganzen KI-Umfeld eben auf der einen Seite hat, aber eben auf der anderen Seite dann auch ein Design zu schaffen gemeinsam und zu sagen, genau dieser Arbeitsprozess ist es und da fangen wir sehr gerne sehr klein an.

Und stellen dann im Nachhinein lieber fest, dass da etwas Riesengroßes daraus entstehen kann. Sondern ich glaube, da ist es einfach wichtig, ganz schnell den Lernerfolg zu haben, zu verstehen, wie funktioniert das und eben auch auf der gegenüberliegenden Seite einfach auch da den Mehrwert zu erkennen.

Ich glaube, das große Thema ist die Demystifizierung von...

Deep Tech und KI und allem, was da so dran hängt. Dafür machen wir diesen Podcast Deep Tech, Deep Talk mit euch. Wir freuen uns total, dass du hier gewesen bist, Frank. Also es war mir auch wieder eine Freude Insofern leiten wir mal das Ende ein. Wir sind bald wieder für euch da. Wir versuchen das gerade wöchentlich zu machen.

Es ist zwar gerade Sommerpause und es ist echt warm hier im Studio, aber ich hoffe, ihr konntet uns folgen. Und ja, bewertet uns gerne, schickt uns Rezensionen Teilen und so weiter und so fort. Ihr wisst Bescheid. Wir freuen uns über alles. Ihr findet uns überall, wo Podcasts zu hören sind. Ja, wir sehen uns.