Die Nestwurz ist in ganz Europa verbreitet (vom Mittelmeer bis nach Skandinavien); ihr eurosibirisches Areal reicht nach Osten bis nach Südsibirien und in den Iran. In Deutschland kommt sie in allen Gebieten vor, in denen kalkhaltige Böden vorhanden sind, und ist dort meist auch nicht selten. In Thüringen ist sie in den Kalk- und Zechsteingebieten relativ weit verbreitet, sofern geeignete Biotope vorhanden sind. In einigen Gebieten gibt es sogar Vorkommen an Straßen- und Wegrändern. Regionale Schwerpunkte ergeben sich oftmals durch die Waldverteilung. Auffällig ist deshalb eine Häufung von Fundpunkten in waldreichen Gebieten rund um die Ackerebenen des Thüringer Beckens.

Die Nestwurz wächst bevorzugt auf basenreichen, frischen und lehmigen Böden mit einer starken Humusauflage. Sie gilt als Charakterart des Orchideen-Buchenwaldes. Hier gedeihen besonders schöne Bestände in falllaubreichen, etwas feuchten Senken schattiger Muschelkalkhänge. Man findet die Art jedoch auch in Eichenbeständen, Eichen-Hainbuchenwäldern und anderen Mischwäldern, bis hin zu reinen Nadelholzforsten.

Die Nestwurz ist eine rhizombildende Art und neben Korallenwurz und Widerbart eine der drei in Thüringen vorkommenden Orchideenarten, die kein Blattgrün zeigen. Diese ernähren sich mit Hilfe von Pilzen – endotrophe Mykorrhiza – von den Abbauprodukten organischer Substanzen. Chlorophyll wird nur in so geringer Menge gebildet, dass es für die Versorgung der Pflanzen mit Kohlenhydraten bedeutungslos bleibt. Diese Arten sind zeitlebens auf das Zusammenleben mit dem Mykorrhizapilz angewiesen, von dem sie alle lebensnotwendigen Nährstoffe, einschließlich der Kohlenhydrate bezieht.

Die Nestwurz ist eine wenig veränderliche Art; sehr selten werden gelbe oder schneeweiße Blüten beobachtet. Bei Jena existiert seit längerer Zeit eine Population mit deutlich zierlicherem Wuchs und lockerem, wenigblütigem Blütenstand.