Der öffentliche Dienst umfasst das gesamte Tätigkeitsfeld der Beamten und weiteren aufgrund öffentlichen Rechts beschäftigten Personen (wie z. B. Richter, Soldaten, Rechtsreferendare) sowie Tarifbeschäftigte (Angestellte öffentlich-rechtlicher Körperschaften, Anstalten, Stiftungen).
Neben der Tätigkeit der Verwaltung gehören im öffentlichen Dienst auch die Arbeit in Schulen, Hochschulen, Wasserbetrieben und Krankenhäusern dazu. Müllabfuhr und Verkehrsbetriebe sind meist privatisiert. Im weiteren Sinne betrifft der öffentliche Dienst auch die Arbeit in Sozialversicherungen (Bundesagentur für Arbeit, Rentenversicherung, Krankenkassen und Berufsgenossenschaften) sowie die Tätigkeit in öffentlich-rechtlichen Sparkassen und der Bundesbank.
Als Teil des öffentlichen Dienstes nimmt die öffentliche Verwaltung (ÖV) administrative Aufgaben wahr und ist an Gesetz und Recht gebunden. Dabei nimmt sie im Wesentlichen eine Durchführungs- und Umsetzungsfunktion getroffener Entscheidungen der Legislative ein und trägt Verantwortung für die Erfüllung dieser Aufgaben. Als Bindeglied zwischen Staat und Bürgern nimmt die öffentliche Verwaltung auch zunehmend Funktionen im politischen Bereich wahr. Demnach gehören heutzutage auch Vorbereitungs- und Kontrollfunktionen im Rahmen politischer Entscheidungen dazu, die mit dem Begriff einer modernen Organisation in Beziehung stehen. Galt die öffentliche Verwaltung vor einigen Jahren noch als "verlängerter Arm" der Legislative, ist sie heute in vielen Teilen autonomer Akteur und Manager.
Handlungsträger sind die Behörden, deren Ausführungskontrolle der jeweils höheren Behörde bzw. der Verwaltungsspitze obliegt. Auf Bundes- und Landesebene sind dies die Ministerien mit ihrem Minister. Im System der Gewaltenteilung ist die Verwaltungsspitze dabei immer dem gewählten Gremium rechenschaftspflichtig. So z. B. auch der Bürgermeister gegenüber dem Gemeinderat. Während der Bund große Teile der Gesetzgebung für sich in Anspruch nimmt, sind die Länder mehrheitlich mit deren verwaltungstechnischer Ausübung betraut. Die Bundesverwaltung bildet somit eine Teilgruppe der öffentlichen Verwaltung. In Bund und Ländern werden die Verwaltungsaufgaben überwiegend von den unmittelbaren Trägern wahrgenommen (Bundesbehörden, Landesbehörden, z. B. Bundesministerium, Bundespräsidialamt) oder aber durch mittelbare Träger (insbesondere Körperschaften, Anstalten und Stiftungen).
In den Kernbereichen der traditionellen Verwaltung arbeiten überwiegend Beamtinnen und Beamte, vor allem in den Leitungsfunktionen sowie in der Eingriffsverwaltung (Polizei, Finanzverwaltung). Im Gesundheitswesen, bei den Sozialdiensten und in den technischen Berufen arbeiten dagegen überwiegend tariflich Beschäftigte.