Nukleation bezeichnet die initiale Bildung einer neuen Phase oder eines neuen Strukturzustands aus einer metastabilen Ausgangsphase. Sie ist ein stochastischer Prozess, bei dem sich kleinste Keime (Cluster, Kristallkeime) bilden, die eine kritische Größe überschreiten müssen, um weiter zu wachsen, anstatt wieder zu zerfallen.

Thermodynamisch ergibt sich die Triebkraft der Nukleation aus der chemischen Potentialdifferenz bzw. der Unterkühlung/Übersättigung. Gleichzeitig führt die neu entstehende Phasengrenze zu einer Oberflächenenergie, die als Barriere wirkt. Die klassische Keimbildungstheorie beschreibt aus diesem Wettbewerb eine kritische Keimgröße und eine Aktivierungsbarriere, aus der sich die Nukleationsrate ableiten lässt.

Man unterscheidet homogene Nukleation in idealen, defektfreien Volumina und heterogene Nukleation an Oberflächen, Korngrenzen, Versetzungen oder Fremdpartikeln. Heterogene Nukleation reduziert die effektive Grenzflächenenergie und damit die Barriere, weshalb sie in realen Werkstoffen typischerweise dominiert. Spezielle Fälle sind partikelinduzierte Nukleation und Versetzungsnukleation, die z.B. bei Ausscheidungshärtung und Rekristallisation eine zentrale Rolle spielen.

Die Nukleationsdichte und die Zeitskala der Nukleation bestimmen zusammen mit den Wachstumsmechanismen die resultierende Mikrostruktur (Korngröße, Phasenverteilung, Textur) und damit die makroskopischen Eigenschaften. Gekoppelte Modelle von Keimbildung und Wachstum sind daher essenziell für die Simulation und das Design von Gefügeumwandlungen, etwa in Erstarrungsprozessen, martensitischen oder diffusionsgesteuerten Phasenumwandlungen sowie bei der Kristallisation amorpher Werkstoffe.