Ein neues Research Paper von Trend Micro zeigt, wie sich Angreifer die vermeintliche Transparenz von KI-Systemen zunutze machen können. Das Modell DeepSeek-R1, das mit Chain-of-Thought (CoT) Reasoning arbeitet, gibt in seinen Antworten detaillierte Denkschritte preis – und genau das macht es angreifbar. (Bild: Dall-E / KI-generiert)
Transparenz wird zum Risiko: DeepSeek-R1 und CoT Reasoning

Wie Hacker KI austricksen

Das KI-Modell DeepSeek-R1 setzt auf Chain-of-Thought (CoT) Reasoning, um Denkprozesse transparent zu machen. Doch diese Transparenz birgt Risiken: Sicherheitslücken ermöglichen Prompt-Injection-Angriffe, das Auslesen interner System-Prompts und das Offenlegen sensibler Daten wie API-Schlüssel. Trend Micro schlägt Alarm – und zeigt, warum Unternehmen beim Einsatz von generativer KI neue Sicherheitsstrategien brauchen.

Weiterlesen

Anbieter zum Thema

Bildergalerien

Ressourcenoptimierung ist einer der größten Herausforderungen in der Entwicklung von Embedded-Systemen. Die Verarbeitungsleistung der MCUs und MPUs in Embedded-Systemen ist geringer als die in Desktops, Smartphones und Servern, meist steht nur begrenzter Speicherplatz bereit. Embedded-Anwendungen benötigen also die volle Kontrolle über das Systemverhalten, um mit den verfügbaren Ressourcen die beste Reaktion und Performance zu erzielen. (Bild: gemeinfrei)
Code-Profiling

Code mit schlechter Performance oder unerreichbaren Code aufspüren

Gerade in Embedded-Systemen ist es angesichts meist knapper Ressourcen essentiell, dass Codeelemente mit ineffizienter Arbeitsleistung oder solche, die effektiv von der Anwendung nicht erreicht werden können, gar nicht erst ins fertige Produkt gelangen. Durch den Einsatz von Tools wie Code-Profilern und Performance-Analysatoren kann ein effizienterer und zuverlässigerer Code erstellt werden.

Weiterlesen