Das Verhältnis eines Systems zur Umwelt lässt sich in der Kommunikation beobachten: Bezieht sich die Kommunikation aufs System, auf die Umwelt oder auf deren Differenz? Außerdem: Welche Rolle spielt die Moral in Funktionssystemen?
Das bisher gezeichnete Bild von operativer Geschlossenheit erweitert Luhmann nun um den Begriff der Umwelt. Systeme haben selbstverständlich Beziehungen zur Umwelt. Doch ihre Kommunikation mit der Umwelt produzieren sie autonom: in autopoietischer Geschlossenheit, nach ihren eigenen „Regeln“, die sich alle an der jeweiligen Leitdifferenz wie Recht/Unrecht orientieren.
Insofern sind Systeme operativ geschlossen und offen zugleich. Die Geschlossenheit ist sogar Voraussetzung für die Offenheit: Indem das System durch Kommunikation seine Grenze zieht und sich schließt, unterscheidet es sich selbst von etwas anderem und konstituiert dadurch seine Umwelt als Umwelt. Wenn Luhmann also von Geschlossenheit spricht, so ist die Offenheit immer gleich mitgedacht.
Die Fragen lauten nun, wie das System beobachtet: Wie es sich selbst beobachtet (Selbstreferenz), wie es seine Umwelt beobachtet (Fremdreferenz) und wie es die Unterscheidung zwischen sich und der Umwelt wiederum in sich selbst einführt.
Diese Wieder-Einführung wird auch Re-Entry genannt: In der Formsprache George Spencer Browns handelt es sich um einen „Wiedereintritt der Form in die Form“. Etwas wird unterschieden, und diese Unterscheidung wird in das Unterschiedene wieder eingeführt. Eine Grenze (Differenz) wird gekreuzt. All das lässt sich in der Kommunikation beobachten und ist Gegenstand der folgenden Untersuchungen.
Luhmanns Begriff von Autonomie entspricht damit nicht dem üblichen Autonomieverständnis. Die Theorie sozialer Systeme untersucht keine kausalen Abhängigkeiten, also keine wechselseitigen Ursache-Wirkung-Beziehungen zwischen System und Umwelt, die zu Rückschlüssen auf eine relative Autonomie in bestimmten Punkten führen könnten. Stattdessen beobachtet die Theorie, wie das System seine durch spezifische Kommunikation erzeugte Autonomie handhabt, wie es also zwischen sich und der Umwelt unterscheidet, die „Grenze kreuzt“, erkennbar in der Kommunikation. Fremdreferenz bedeutet darum auch nicht Einschränkung der Autonomie, sondern sie ist eine systeminterne Operation.
Erkennen lässt sich operative Geschlossenheit in der Bezugnahme auf systeminterne Normen, z.B. die rechtliche Norm, bei der Unterscheidung zwischen Recht und Unrecht gleiche Fälle gleich und ungleiche Fälle ungleich zu behandeln. Insofern sind Systeme „normativ geschlossen“. Dagegen sind sie „kognitiv offen“: Sie besitzen die Fähigkeiten, sowohl die Umwelt wahrzunehmen als auch das Beobachtete zu verarbeiten.
Operative Geschlossenheit schließt die Vorstellung aus, Moral könnte im Rechtssystem (oder in der Wirtschaft, in der Politik) ein unmittelbar geltendes Entscheidungskriterium sein. Dies ist nicht der Fall. Das Rechtssystem muss konsistent entscheiden, d.h. es muss die Einheitlichkeit seines Entscheidens dauerhaft sicherstellen. Was moralisch oder unmoralisch ist, ist dagegen eine Standpunktfrage und wird typisch kontrovers diskutiert – ohne Aussicht auf universellen Konsens. Als oberste Entscheidungsinstanz eignet sich das nicht.
Gleichwohl ist eine moralische Kritik des Rechts möglich und notwendig. Moralische Diskurse bleiben notwendig, um immer aufs Neue zu hinterfragen, ob das Rechtssystem noch an Gerechtigkeit orientiert ist.
