Keynotes ESE Kongress 2026 Wie Entwickler KI sicher und zuverlässig beherrschen

Anbieter zum Thema

emlix GmbH

Parasoft® Deutschland GmbH

RTI Real-Time Innovations

Künstliche Intelligenz verändert die Softwareentwicklung und stellt Entwickler vor neue Herausforderungen. Die Keynotes des ESE-Kongresses 2026 (30.11. - 4.12.2026) beleuchten, wie sich KI-Modelle absichern, Fehler in Sprachmodellen aufdecken und autonome KI-Agenten kontrollieren lassen. Im Fokus stehen dabei praxisnahe Lösungsansätze für eine sichere und zuverlässige Entwicklung.

Ließen sich klassische deterministische Hard- und Softwareprodukte noch mit traditionellen Methoden der Sicherheitstechnik absichern, stellen heutige KI-Systeme völlig neue Anforderungen an Safety und Security von softwareintensiven Produkten wie Embedded-Systemen. Gerade schwer vorhersehbares Verhalten KI-basierter Systeme erschwert den Einsatz klassischer Sicherheitsmechanismen. Daher müssen Entwickler etablierte Sicherheitskonzepte so erweitern, dass sie intelligentes und autonomes Verhalten zuverlässig absichern.

Wie das gelingen kann, zeigt Prof. Dr. Mario Trapp, Leiter des Fraunhofer-Instituts für Kognitive Systeme IKS und Professor an der TU München, in der Keynote des ersten Tages. In „Reimagining Safety Engineering for AI in Cognitive Systems – From Functional Safety to Safe Intelligence“ geht er der Frage nach, wie sich bewährte Methoden der funktionalen Sicherheit weiterentwickeln müssen, wenn Systeme lernen, sich anpassen und zunehmend autonom handeln.

Im Mittelpunkt stehen neue Ansätze für AI Assurance, resiliente Systemarchitekturen und „Safe Intelligence“ – also intelligente Systeme, deren Verhalten auch unter Unsicherheit sicher, vertrauenswürdig und beherrschbar bleibt. Nur so können Embedded-Systeme über ihren kompletten Lebenszyklus sicher, robust und vertrauenswürdig bleiben. Für Entwickler liefert die Keynote damit einen Ausblick darauf, welche Methoden und Architekturkonzepte sie künftig benötigen, wenn KI Bestandteil sicherheitskritischer Systeme wird. Trapp verdeutlicht in seiner Keynote, wie man technische Innovationen im Bereich der KI mit den steigenden Anforderungen an die Sicherheit in Einklang bringt und gleichzeitig die Zuverlässigkeit für Gesellschaft, Industrie und Regulierungsbehörden sicherstellt.

Vom 17. Jahrhundert bis heute: Wenn überzeugende Antworten falsch sind

Einen ungewöhnlichen Blick auf Large Language Models (LLMs) wirft am Mittwoch Dr. Maximilian Walter, Principal Key Expert für Functional Safety bei Siemens und 2024 als „Inventor of the Year“ ausgezeichnet. Seine Keynote „Sprachmodelle und Athanasius Kircher – Genie oder Scharlatan?“ schlägt den Bogen von heutigen KI-Modellen, insbesondere LLMs, zum Universalgelehrten Athanasius Kircher aus dem 17. Jahrhundert: beeindruckend in Wissensbreite und Ausdruck, zugleich aber Urheber zahlreicher Irrtümer und frei erfundener Behauptungen.

So wurde Kircher als Berater von Päpsten und von zahlreichen Fürstenhäusern Europas geschätzt und galt als Genie. Eines seiner Werke enthielt zum Beispiel die These, dass Krankheiten von winzigen Lebewesen verursacht werden könnten. Andere Thesen Kirchers waren schlicht falsch: So behauptete er etwa, dass Bienen keine Eier legten oder dass unterirdische Höhlen bis zum Erdmittelpunkt reichten.

Diese Divergenz finden wir heute im Bereich der LLMs wieder: Sie verfügen über ein enorm breites Wissen, verarbeiten unterschiedliche Sprachen und können aus vorhandenen Informationen neue Zusammenhänge ableiten. Auf der anderen Seite geben sie falsche Informationen ungeprüft wieder und machen teilweise haarsträubende Fehler bei einfachsten Aufgaben. Gerade für Entwickler entsteht daraus ein grundlegendes Problem: Wie lässt sich KI sinnvoll in den Engineering-Prozess integrieren, wenn plausibel klingende Ergebnisse nicht automatisch korrekte Ergebnisse sind?

Walter erklärt, warum selbst leistungsfähige Sprachmodelle solch überzeugend falsche Ergebnisse liefern können und warum der Output kritisch geprüft werden sollte. Gerade im Bereich der Softwareentwicklung, insbesondere bei sicherheitsrelevanten Embedded-Systemen, hat das umfangreiche Konsequenzen für den Einsatz von LLMs. Walter geht in seiner Keynote nicht nur auf die Risiken des KI-Einsatzes ein, sondern beschreibt ebenfalls mögliche Lösungsstrategien für den heutigen Umgang mit KI, speziell für Embedded-Entwickler. Sie erhalten in der Keynote wichtige Denkanstöße für einen belastbaren Umgang mit den Ergebnissen von KI-Modellen.

Klare Handlungsempfehlungen für Unternehmen

Am Donnerstag richtet Ronnit Wilmersdörffer, Expertin und Speakerin für europäische KI-Politik und Compliance-Officer in der KI-Industrie, den Blick auf die nächste Evolutionsstufe künstlicher Intelligenz. Die Keynote „Future-Proofing European Industry – How Agentic AI Challenges Cybersecurity and Sovereignty“ thematisiert den Wandel hin zu autonomen KI-Agenten, die digitale Werkzeuge verwenden, langfristig planen und selbstständig Entscheidungen treffen können.

Innovate Your Software – for a Smarter Future

Deutschlands Leitkongress der Embedded-Softwarebranche

Das Programm des ESE Kongress umfasst 96 Vorträge, 21 Seminare und 3 Keynotes. Seien Sie dabei, wenn sich die Embedded-Software-Community trifft, und nutzen Sie Diskussionen und Expertengespräche für einen ergiebigen Wissenstransfer und erfolgreiches Networken. Während der vier Kongresstage erwartet Sie zudem eine große Fachausstellung mit den führenden Firmen der Branche. Erfahren Sie alles über die neuesten Trends, Herausforderungen und Lösungen im Embedded Software Engineering, von KI, Safety und Security bis hin zu Management und Innovation.

Jetzt mehr erfahren und anmelden!

KI-Systeme erzeugen nicht mehr nur Informationen, sondern können zunehmend selbst Aktionen auslösen. Unternehmen stellt dieser Wandel vor große Herausforderungen. Wilmersdörffer beleuchtet in ihrer Keynote, welche Fragen sich Unternehmen stellen müssen, um die Risiken des Einsatzes agentischer KI einschätzen zu können. Nur wer diese Fragen richtig beantwortet, kann sich in Zukunft wirksam vor Cyberangriffen und Kontrollverlust schützen und kritische Abhängigkeiten verwalten und reduzieren.

Die Keynote vermittelt einen praktischen Einblick in die Risiken, die von agentischer KI ausgehen und erklärt, inwieweit sich diese durch regulatorische Maßnahmen wie den CRA mindern lassen. Wilmersdörffer gibt Unternehmen klare Handlungsempfehlungen an die Hand, in welchen Bereichen sie selbst Maßnahmen ergreifen müssen, um die Risiken der KI-Nutzung zu minimieren. Hierbei verbindet sie technologische, geopolitische und wirtschaftliche Perspektiven mit eigenen Erfahrungen aus ihrer praktischen Tätigkeit im Compliance-Umfeld der Industrie. Hiermit erweitert die dritte Keynote den Blick über die reine Technologie hinaus und zeigt, welche Rahmenbedingungen Entwickler bei der Integration zunehmend autonomer KI-Systeme berücksichtigen müssen.

Drei Keynotes, drei Perspektiven auf die KI-Entwicklung

Safety intelligenter Systeme, verlässlicher Umgang mit LLMs und das Absichern autonom handelnder KI-Agenten: Die drei Keynotes des ESE-Kongresses betrachten KI aus unterschiedlichen Perspektiven, führen allerdings zu einer gemeinsamen Frage: Wie können Entwickler die Möglichkeiten künstlicher Intelligenz nutzen, ohne Kontrolle, Sicherheit und Zuverlässigkeit aus der Hand zu geben?

Wer an Embedded-Systemen arbeitet und KI bereits einsetzt oder deren Einsatz plant, findet auf dem ESE-Kongress reichlich Stoff für die eigene Entwicklungspraxis und für den fachlichen Austausch mit anderen Embedded-Experten. (sg)

(ID:50985178)