Neuzeit bis zum Wiener Kongress
1537 wurde von Christian III. die Reformation eingeführt.
Um 1560 wechselten in Dänemark und Schweden die Regenten, womit die Phase der friedlichen Koexistenz beider Reiche nach dem Ende der Kalmaer Union beendet wurde. Der schwedische Monarch Erik XIV. wollte die dänische Vormachtstellung im Ostseeraum brechen. Der Nordische Siebenjährige Krieg (Dreikronenkrieg von 1563 bis 1570) endete aber, ohne dass es zu Grenzverschiebungen kam. Im Kalmarkrieg versuchte Dänemark, Schweden wieder in seine Abhängigkeit zu bringen, was aber misslang. Von da an verschoben sich die Machtverhältnisse zugunsten eines dynamischeren Schwedens, das in der Folgezeit die dominierende Ostseemacht wurde.
1620 erwarb Dänemark die Jungferninseln als Kolonie (Dänisch-Westindien). Den entscheidenden Wendepunkt in der dänischen Außenpolitik bildete das misslungene Eingreifen König Christian IV. im Dreißigjährigen Krieg in den Jahren 1625–1629. Christian unterlag im Jahr 1626 den kaiserlichen Truppen unter Tilly in der Schlacht bei Lutter. Die Niederlage bedeutete den militärischen Zusammenbruch Dänemarks. Der demütigende Friedensschluss von 1629 und die militärischen Erfolge des schwedischen Königs Gustav Adolfs II. ab 1630 in Deutschland machten deutlich, dass Schweden jetzt die dominierende Ostseemacht war.[41] In den folgenden dreißig Jahren ging es nur noch ums Überleben Dänemarks als souveräner Staat. In drei aufeinanderfolgenden Kriegen versuchte Schweden, Dänemark seinem Ostseereich einzuverleiben. Als Karl X. mit seinem Heer im Zuge des Zweiten Nordischen Krieges im Februar 1658 den zugefrorenen Belt überquerte und Kopenhagen bedrohte, schien dieses Vorhaben zu gelingen. Nur knapp konnte Hans von Schack das von den Schweden belagerte Kopenhagen vor der Eroberung und Dänemark davor bewahren, zu einer schwedischen Provinz zu werden. Der Fortbestand Dänemarks konnte nur gesichert werden, da ausländische Mächte, mit den Niederlanden an der Spitze, Schweden zum Frieden zwangen. Als Gegenleistung musste Dänemark alle östlich des Öresunds gelegenen Gebiete, darunter die Provinzen Schonen, Blekinge und Halland (Skåneland), das eigentliche Herkunftsgebiet der Dänen, im Frieden von Roskilde 1658 an Schweden abtreten. Damit war das Gebiet Dänemarks um ein Drittel reduziert worden und der Sund ein internationales Gewässer geworden.
Frederick III. ersetzte 1660/61 das bestehende Wahlkönigtum zugunsten einer Erbmonarchie. Dänemark versuchte, die verlorenen Gebiete von der schwächer werdenden Großmacht Schweden zurückzuerobern. Dies scheiterte aber sowohl im Schonischen Krieg als auch im Großen Nordischen Krieg aufgrund der geopolitischen Lage und diplomatischer Einflussnahme äußerer Mächte.[42] Der Frieden von 1720 leitete bis zum Krieg mit England 1808 die längste friedliche Epoche ein, die Dänemark bislang erlebt hatte. Die ersten Jahre nach 1720 waren von erdrückenden Schuldendiensten aufgrund des Krieges und von einer Krise der Landwirtschaft begleitet. Die Reformminister Johann Hartwig Ernst von Bernstorff, Johann Friedrich Struensee und Andreas Peter von Bernstorff modernisierten das Land zwischen 1751 und 1797 im Sinne der Aufklärung, wobei vor allen Dingen die Bauernbefreiung von 1788 bedeutsam war.
Nach der Französischen Revolution und zu Beginn der Empirezeit blieb Dänemark neutral, sowohl gegenüber Frankreich als auch gegenüber Großbritannien. Trotz (oder wegen) dieser bewaffneten Neutralität verweigerte das Land die Durchfahrt britischer Schiffe in die Ostsee. Darauf reagierte 1801 die britische Flotte mit dem aggressiven Angriff auf Kopenhagen. Als nach dem Frieden von Tilsit Großbritannien einen Bündnisabschluss forderte und Dänemark zögerte, dieses Ultimatum zu akzeptieren, griff es 1807 erneut Kopenhagen an, nahm die Stadt nach dreitägigem Beschuss am 5. September ein, wobei die Briten prächtige Teile der Altstadt zerstörten und die dänische Flotte raubten. „Es war der härteste Schlag, der Dänemark seit den schwedischen Eroberungen vor hundertfünfzig Jahren traf“ (Kjeersgaard, Geschichte 54). Der darauf folgende Seekrieg mit Großbritannien bis 1810 bewog Dänemark, Napoléon Bonaparte zu unterstützten. Die Kosten für die Kriegführung sowie die Wirtschaftskrise in Folge der Kontinentalsperre führten Dänemark erst in eine hohe Inflation und am 5. Januar 1813 in den Staatsbankrott. Die dänische Unterstützung für Napoleon hatte zur Folge, dass Dänemark im Kieler Frieden vom 14. Januar 1814 Norwegen an Schweden abtreten musste. Damit endete die dänisch-norwegische Personalunion. Grönland, Island, die Färöer und Dänisch-Westindien verblieben jedoch bei Dänemark.