Instabilität bezeichnet in der Werkstoffmechanik den Verlust einer bisher stabilen Gleichgewichtslage oder Antwort eines Systems unter äußerer Belastung. Kleine äußere oder innere Störungen führen dann zu unverhältnismäßig großen Verformungen oder Spannungsumlagerungen. Instabilitäten markieren häufig Grenzen der Tragfähigkeit und Gebrauchstauglichkeit von Bauteilen.

Grundlegend unterscheidet man geometrische, materialbedingte und physikalische Instabilitäten. Geometrische Instabilitäten umfassen etwa Beulen dünnwandiger Strukturen oder den Schlauchknick in Rohren und Elastomerprofilen. Kennzeichnend ist, dass die Steifigkeit infolge der Geometrie abnimmt und Schnappinstabilitäten mit sprunghaften Last-Verformungs-Verläufen auftreten können.

Materialbedingte Instabilitäten beruhen auf nichtlinearem oder nichtmonotonem Stoffverhalten. Ein wichtiges Beispiel ist die plastische Instabilität, bei der die Fließspannung mit zunehmender plastischer Dehnung lokal abnimmt, was zur Ausbildung von Scher- oder Lüdersbändern führt. Die Portevin–Le-Chatelier-Bänder sind eine dynamische Form solcher plastischen Instabilitäten infolge dynamischer Versetzungsalterung.

Physikalisch getriebene Instabilitäten umfassen polare Instabilitäten in ferroelektrischen und dielektrischen Materialien sowie mechanofluidische Instabilitäten in porösen oder fluidgefüllten Systemen, in denen Kopplungen zwischen mechanischen Feldern und Fluid- bzw. Polarisationsfeldern zu Musterbildung, Rissinitiierung oder Funktionsversagen führen.

Die quantitative Beschreibung erfolgt typischerweise über lineare und nichtlineare Stabilitätsanalysen, Eigenwertprobleme und Pfadverfolgungsmethoden. Für das Werkstoffdesign ist das gezielte Nutzen oder Vermeiden von Instabilitäten zentral, etwa bei Metamaterialien mit programmierbarem Schnappverhalten oder beim Beulnachweis sicherheitsrelevanter Leichtbaustrukturen.