Vortrag gehalten am 30. September 2016 anlässlich der gemeinsamen Tagung des Forschungsinstituts für Philosophie in Hannover und des Instituts für Sozialstrategie, Bad Wimpfen zur Digitalisierung der Zivilgesellschaft

 

Oktober 2016

Fragmentierte Verantwortung: Sind Menschen- und Bürgerrechte in der digitalen Welt eine Utopie?

 

DER VORTRAG IN 24 THESEN:

  1. Die globale Zivilgesellschaft ist durch gemeinsame Herausforderungen jenseits einzelner Staaten geprägt so wie etwa den Klimawandel, die weltweite Migration, die Digitalisierung und die Globalisierung.
  2. Die Zivilgesellschaft grenzt sich ab vom Staat und vom organisierten Verbrechen, auch wenn es fließende Übergänge, pathologische Strukturen und übergriffige Verhaltensweisen in jeder Hinsicht geben kann.
  3. Wirtschaftsunternehmen wirken als Akteure der globalen Zivilgesellschaft und können ein Eigeninteresse an wirtschaftlicher, sozialer und politischer Freiheit haben.
  4. Globalisierung ist auf drei Ebenen zu unterscheiden: Der Globalisierung der Güter und Dienstleistungen („Free Trade“), der Globalisierung der Interaktion und Kommunikation („Digitale Welt“) und der Globalisierung von Werten und Normen („ethisch-religiöse Globalisierung“).
  5. Das Stichwort der „Konnektivität“ bezeichnet als physische und/oder virtuell-digitale Verbindung zwischen Menschen und ihren Institutionen die Spuren einer globalen Signatur in jeder einzelnen Biographie, und zwar auf allen genannten Ebenen der Globalisierung.
  6. Globale Konnektivität wirkt sich aus in der Form digitaler Spuren unserer Existenz inklusive der Chance zu globaler Synchronizität bei großen Ereignissen (z.B. Fußball-WM oder Olympiade), jeweils verbunden mit neuen Chancen und Risiken von Kontrolle und Überwachung.
  7. Digitale Distanzüberbrückung schafft Zugänge zu Informationen, zu Bildung und Erziehung, zu Unterhaltung und zu Dienstleistungen, die sich auf digitale Eigentums-, Zugangs- und Schutzrechte unmittelbar auswirken.
  8. Die Frage nach digitaler Selbstbestimmung wird in den Gesellschaften des 21.Jahrhunderts von zunehmender Bedeutung sein, gerade weil digitale Großmächte auf der Ebene von Big Data gestaltende Kraft auf die „gefühlte mentale Normalität“ von Menschen gewinnen werden.
  9. Die mentale Architektur von Normalität wird zum Referenzpunkt für emotionale Bewertungen, damit aber auch für Kaufentscheidungen und Lebensstile. Mentale Marktanteile sind somit Vorboten realer Marktanteile.
  10. Die Ökologie der Gefühlswelt in der digitalen Zivilgesellschaft wird sich an global erfolgreichen Werten wie Transparenz, Fairness und Good Governance orientieren.
  11. Weil Fairness Entscheidungen voraussetzt, wird eine wahrgenommene Kultur der Fairness für den Erfolg von Wirtschaftsunternehmen, aber auch von politischen Akteuren entscheidend sein.
  12. Weil die ubiquitäre Digitalisierung zu einer gemischten Lebenswelt im Sinn einer hybriden digital-analogen Realität führt, steht der analogen Unvollkommenheit des einzelnen Menschen eine digital präzisere Proxy Realität gegenüber. Paradox daran ist die größere Vollkommenheit der digitalen „zweiten Realität“ im Verhältnis zur analogen, „ersten“ Realität.
  13. Die Entstehung komplexer digitaler Ökosysteme führt zur Frage der individuellen, kollektiven und politischen Steuerung in einer Welt gigantischer Unübersichtlichkeit inklusive der Risiken eines individuellen und kollektiven Kontrollverlusts.
  14. Aus der Evolution der digitalen Welt ergibt sich eine Fragmentierung von Handlungen im Sinn von Anscheins-Handlungen („E-Mail-Abwesenheitsagent“) und im Sinn von fragmentierter Verantwortung.
  15. Weil Maschine-Maschine-Interaktionen auf Mensch-Maschine-Interaktionen und Mensch-Mensch-Interaktionen treffen, entsteht eine hybride digitale Welt mit neuen Anforderungen an Orientierung und Steuerung, etwa im Sinn einer „ethischen Blackbox“.
  16. Die Vorab-Programmierung von Entscheidungen in einer ethischen Blackbox setzt die Vorab-Entscheidung für philosophische Modelle der Konfliktlösung voraus, bei denen kontinentaleuropäische Traditionen wie die situativ-deontologische Herangehensweise mit angelsächsischen Traditionen wie der utilitaristischen Entscheidungsfindung in Spannung zueinander stehen.
  17. Weil eine Welt ohne Referenzpunkt zum Orientierungschaos führt, bleibt es legitim, den einzelnen Menschen, die einzelne Person , das Individuum weiterhin als primären Träger von Menschenrechten, aber auch von menschlichen Pflichten und von Verantwortung anzusehen, auch dann, wenn es sich bisweilen um ein kontrafaktisches Prinzip handelt.
  18. Weil Menschen in verschiedenen Situationen unterschiedliche Handlungslogiken anwenden, unterscheiden sich Alltagsentscheidungen nach Handlungszwecken, die einer kommerziellen, einer eher politisch-machtbetonten, einer hedonistisch lustbetonten, aber auch einer wissenschaftlichen, einer religiösen oder einer anderen sozialen Logik folgen.
  19. Digitale Welten transportieren Werte ihrer sozialen Herkunftswelt, sei es in Form natürlicher Sprachen (z.B. Englisch, Deutsch, Chinesisch), sei es in Form von kodifizierten Vorentscheidungen über Spielregeln der Interaktion.
  20. Einzelne Staaten werden sich darin unterscheiden, ob sie im Blick auf die Ausgestaltung persönlicher Zugangs- und Schutzrechte den Weg der digitalen Repression, der digitalen Anarchie, der digitalen Mainstream-Demokratie oder der digitalen Avantgarde gehen.
  21. Dabei ist die globale Zivilgesellschaft sowohl Subjekt wie auch Objekt zur Gestaltung der digitalen Welt. Sie wird, so gesehen, zum Experimentierlabor mit zunehmend digitaler Konnotation.
  22. Gerade weil „Fairness“ und „Achtung“ die Chance zur universellen Verbreitung im Sinn einer ethisch-normativen Globalisierung haben, werden diejenigen Staaten und Wirtschaftsunternehmen die besten Chancen haben, die diese Werte glaubwürdig leben und kommunizieren.
  23. Daraus ergeben sich nicht zuletzt neue Chancen für einen philosophischen, politischen und gesellschaftlichen Dialog in einer „offenen Gesellschaft“, die letztlich als mentaler Referenzpunkt für einen großen Teil der hier und heute auf dem Planeten lebenden Menschen bildet.
  24. Die rasche Entwicklung von Ökosystemen der digitalen Welt interagiert daher mit einem gesteigerten Bedarf an philosophischer und ethischer Reflexion auch in eher technisch-pragmatischen Welten, gerade weil die systemische „Verdrahtung“ von Vorentscheidungen in einer Welt mit immer stärker fragmentierten Handlungen und Verantwortungen für massenweise Folgesituationen umso entscheidender wird.

 

Ist das Sprechen von Menschen- und Bürgerrechten in der digitalen Welt  mehr als ein Sehnsuchtsort für Nostalgiker und Romantiker? Andererseits:  Wenn Menschen- und Bürgerrechte nicht zählen, in welcher Welt leben wir dann überhaupt? Lohnt es sich, in einer  Welt zu leben, die Menschen- und Bürgerrechte erkennbar klein schreibt? Und wenn es in der digitalen Welt von morgen individuelle Menschen- und Bürgerrechte noch gibt und geben sollte, wer kann und wird sie in Anspruch nehmen? Wer ist Träger solcher Rechte, wer gewährt oder versagt sie?

 

  1. Die digitale Welt als Alltagsgestalt der Globalisierung: Konnektivität

Ich möchte mit einigen grundsätzlichen Überlegungen beginnen. Ich gehe dabei vom Gedanken einer neu entstehenden globalen Zivilgesellschaft aus, die alle hier und jetzt auf dem Planeten Erde lebenden Menschen und ihre Institutionen umfasst, sofern es sich weder um den Staat noch um organisiertes Verbrechen handelt.

Diese, vom Institut für Sozialstrategie seit 2009 weiter erforschte Definition bezieht Unschärfen und fließende Übergänge bewusst ein. Sie erlaubt es, das Phänomen der Globalisierung differenziert in die Alltagserfahrung heutiger Menschen einzubeziehen. Vorausgesetzt wird dabei eine dreifache Realität von Globalisierung:

  • die Globalisierung der Waren und Dienstleistungen („physische Globalisierung“)
  • die Globalisierung von Information und Kommunikation („digitale Globalisierung“)
  • und die Globalisierung von Werten und Normen („normativ-ethische Globalisierung“).

Unterscheidet man diese drei Ebenen der Globalisierung, dann lässt sich daraus ein grundlegendes Verständnis für die globale Signatur der Biographie bei jedem einzelnen von uns, aber auch eine Annäherung an die eben auch digital verfasste globale Konnektivität von Menschen im 21.Jahrhundert entwickeln. Mit globaler Signatur ist gemeint, dass wir Spuren der Globalität bewusst oder unbewusst mit uns und in uns tragen, auch wenn uns dies nicht immer bewusst sein sollte.

Globale Konnektivität lässt sich aber auch als Bewusstseins-Phänomen begreifen, eben weil wir wissen, dass wir alle durch direkte Kontakte, durch Reisen und familiäre Verbindungen, aber besonders eben auch durch Hilfsmittel der digitalen Welt wie Skype, Whatsapp, Mailverkehr, Telefonie, Social Media, Internet und andere  Kommunikationsformen real oder virtuell miteinander in Verbindung stehen.

Konnektivität heißt aber nicht nur, dass wir uns leichter und schneller als früher mit anderen Menschen in Verbindung setzen können und dann tatsächlich mit ihnen in Verbindung sind. Es geht vielmehr um erfahrbare Steigerungsformen, speziell um die Geschwindigkeit der Kommunikation („in Echtzeit“), um die Verfügbarkeit („ubiquitär“, also überall) und die Erschwinglichkeit („überschaubare Kosten“). Die digitale Konnektivität zeigt sich so insbesondere als ein Phänomen der Distanzüberbrückung und Beschleunigung.

Zur Konnektivität gehört es aber auch, dass wir faktisch nicht mehr leben, ohne digitale Spuren zu hinterlassen, von Bewegungsprofilen bis zu Suchprofilen, Nutzergewohnheiten und den verschiedenen Formen von Tracing und Tracking in kommerziellen, staatlich-politischen oder kriminellen Anwendungen.

Dem Bequemlichkeitsaspekt und der Vorteilhaftigkeit der digitalen Verfügbarkeit entspricht das Paradox zwischen Transparenz und Privatsphäre. Wenn die internationale Rohstoffwirtschaft mit dem EITI (Extractive Industries Transparency Initiative) einen Transparenzcodex vorlegt, und wenn selbst Papst Franziskus die Vatikanbank „IOR“ mithilfe externer Wirtschaftsprüfer zu mehr Transparenz verpflichtet, lässt sich die Hypothese aufstellen, dass der Wert der „Transparenz“ zu den Gewinnern im Bereich der ethisch-normativen Globalisierung gehört.

Die Gegenfrage wird dann aber auch lauten: Wo hört Transparenz auf? Die Antworten reichen dann vom Datenschutz oder dem Schutz der Privatsphäre bis zu Warnungen vor dem Darknet, wo sich beispielsweise der Amokläufer vom 22.Juli 2016 in München anonym eine tödliche Waffe bestellen konnte.

Wenn wir die digitale Welt als Alltagsgestalt der Globalisierung betrachten, was bleibt dann vom „analogen“ Menschsein überhaupt noch übrig? Und welchen Wert hat es?

 

  1. Die Realität der digitalen Welt und die Realität des Menschen

Die digitale Welt ist schon deshalb nicht die ganze Welt, weil es nicht-digitale Teile der Welt gibt. Ob nicht-digitale Teile grundsätzlich digitalisierbar sind und es nur heute „noch“ nicht sind, ist eine ganz andere Frage.

Die Frage ist aber nicht ganz trivial. Wenn wir im Sinn eines Gedankenexperiments von der kompletten Digitalisierbarkeit der Welt ausgehen, welche Welt hätten wir vor uns? Wolken und Sterne wären digital erfasst, aber immer noch Wolken und Sterne. Meine persönlichen Erinnerungen und Gefühle wären womöglich als Datensätze digital archiviert. Gleichwohl hätte ich wohl immer noch das Gefühl, meine eigenen Erinnerungen und Gefühle tatsächlich zu haben. Die digitale Welt bedroht daher physische Identität nicht. Sie bildet sie aber digital ab und kann sie dadurch in einer komplexen Rückkopplungsschleife verändern.

Diese Rückkopplungsschleife einer veränderten Welt durch neue Verhältnisse zwischen Abbild und Realität ist grundsätzlich nicht neu. Weil jede grundlegende Innovation eher den Aspekt der revolutionären Veränderung in den Vordergrund stellt, möchte ich an dieser Stelle das Gegenteil tun. Tatsächlich finde ich eine Linie der Kontinuität zwischen dem Verhältnis von Realität und Abbild in der digitalen Welt, wenn ich über 1200 Jahre zurückblende in die Welt des 8.Jahrhunderts, speziell im Blick auf den Bilderstreit in Konstantinopel.

Wie viele wissen, sind bildliche Darstellungen im Islam und im Judentum bis heute verboten, während es im Christentum eine reichhaltige ikonische Tradition gibt. Der Gedanke des Bilderverbots geht zurück auf Exodus 20, 1-6, wo es heißt, „Du sollst Dir kein Bild von Gott machen“. Einige Theologinnen und Theologen deuteten diesen Vers wörtlich und fürchteten, beim Anfertigen eines Bildes sei die Gefahr der Verwechslung zwischen Bild und Abbild zu groß. Bilder führten in dieser Weise zum Götzendienst, nicht zum Gottesdienst. Die Ikonoklasten des 8.Jahrhunderts zerstörten daher Bilder und Kunstwerke. Gleiches geschah während der Reformation in katholischen Kirchen und im 21.Jahrhundert unter dem islamistischen Terror, etwa in Timbuktu (Mali) oder in Banian (Afghanistan).

Andererseits fand das II.Konzil von Nikaia im Jahr 787 schließlich die kluge Formel, man dürfe Bilder – namentlich Ikonen- verehren, aber eben nicht anbeten. Dieser Gedanke schließt ein, dass Bild und Abbild nicht unmittelbar identisch sind. Realität kann ja unterschiedlich abgebildet werden. Wir können beispielsweise malen oder fotografieren, und dies noch auf recht unterschiedliche Art und Weise. Es besteht folglich kein 1:1-Verhältnis zwischen Bild und Abbild. Das Abbild ist sozusagen nicht das Ganze des Bildes, sondern Fragment und darin eine neue Wirklichkeit eigener Art. – Die Frage, wie real ein Bild denn wirklich sei, ist letztlich bis heute offen geblieben. Sie transformiert sich gegenwärtig zur Frage, wie real die digitale Welt „in Wirklichkeit“ sein könne.

Die Realität der digitalen Welt hängt mit dem Verhältnis von  Bild und Abbild zusammen, geht darin aber nicht auf. Neu an der digitalen Welt ist das Verschwimmen der Grenze zwischen Original und Kopie, zwischen erster und nachfolgender Realität. Ein per „Copy and Paste“ erzeugter Text unterscheidet sich nicht vom Originaltext. Dennoch spielen „Master Files“ bis heute eine Rolle, nicht nur beim Zugang zum Quellcode eines Programms oder bei der Unterscheidung zwischen nur „lesbaren“ und auch „veränderbaren“ Dokumenten. Auf Fragen des Urheberrechts bei Bildern, Texten und Musikstücken will ich hier gar nicht eingehen. Es ist aber keineswegs so, dass die digitale Verfügbarkeit einer Datei zugleich auch Eigentumsrechte verleiht. Ein Beispiel hierfür ist der juristische Unterschied zwischen dem Herunterladen und dem Streaming von Musik wie etwa mit dem Internetdienst „Spotify“.

Über Fragen von Eigentum, Zugang und Kontrolle hinaus möchte ich einen weiteren Aspekt hervorheben, der auf unser Gedankenexperiment, die ubiquitäre Digitalisierung der Welt, zurückführt. Wir müssten nämlich zwangsläufig verschiedene Ebenen, Schichten und Erscheinungsweisen von Realität gut unterscheiden. Stelle ich mir – wie oben erwähnt- alle Gedanken, Gefühle, Erfahrungen und Erlebnisse meines Lebens als Datensatz auf einer externen Festplatte vor, dann bleiben mir meine Gedanken und Gefühle ja dennoch erhalten. Die externe Festplatte schafft jedoch eine zweite Realität, eine Art Proxy Memory im wahren Sinn des Wortes. Schon in Zeiten der guten alten Fotoalben war es so, dass bestimmte Fotos die Erinnerung aufgefrischt haben. Um wie viel mehr könnte ich der externen Festplatte vertrauen, wenn mich die eigene Erinnerung im Stich lässt, weil sie bestimmte Ereignisse verdrängt, andere transformiert und dergleichen. Mein „wirklicheres“ Selbst wäre sozusagen auf der Festplatte, gebannt im persönlichen Proxy Server.

Dennoch wäre ich weiterhin dieselbe Person. Dies gilt jedenfalls vom Prinzip her, denn da Menschen lernfähig sind, bewirkt schon das Wissen um meine persönliche Proxy Memory eine Veränderung meines Bewusstseins. Ich könnte ja immer nachsehen, „wie es wirklich war“, würde also mein Gedächtnis nicht sonderlich trainieren wollen.  Die digitale Welt stellt sich dann sozusagen als das vollkommenere Gegenstück zur realen Welt dar und ist gleichwohl ein physisches und immaterielles Stück von dieser Welt.

Die analoge Unvollkommenheit des Menschen spiegelt sich dann an digitaler Präzision des Denkens und des Sich-Erinnerns. Gerade der Abbildcharakter der digitalen Realität führt hier zum Paradox der digitalen Welt:  Ihre Präzision und Vollkommenheit stehen im Gegensatz zur analogen Widersprüchlichkeit und Unvollkommenheit jedes einzelnen Menschen, sind aber dennoch sozusagen Kopie und nicht erste Realität.

Mit dem Begriff der ersten Realität meine ich in diesem rein auf Menschen bezogenen Zusammenhang nicht-digitales, „analoges“, menschliches Denken und Fühlen. Die digitale Welt wäre in diesem Sinn eine zweite Realität.

Es wäre aber unzureichend, diese zweite Realität lediglich als digital quantifizierte Darstellung der ersten Realität anzusehen. Vielmehr erfolgt immer wieder ein Umschlag von Quantität in Qualität, um es mit Karl Marx zu sagen. Die zweite Welt entwickelt sich und schafft sich eigene digitale Ökosysteme, aus denen neue Realitäten entstehen können. So gibt es nicht nur Clouds, sondern auch Clouds zur Auswahl spezifischer Clouds etwa für bestimmte numerisch intensive Anwendungen (Beispiel: die „Ubercloud“).

Die digitale Realität drängt sozusagen zur evolutionären Iteration. Sie schafft aus einer neuen Welt eine dritte Welt, die wir als hybride Lebenswelt im Verbund von Analog und Digital, als „blended reality“, als „Mischwelt“  begreifen können. Diese Welt erscheint uns mit zunehmender Gewöhnung als „normal“, weil vertraut. Der einfache Blick auf landwirtschaftlich genutzte Felder lässt in ähnlicher Weise vergessen, dass es sich um eine Kulturlandschaft handelt, welche sich aus der Interaktion von Mensch und Natur, genauer: von Mensch, Technik und Natur bis hin zum „Digital Farming“,  ergibt.

Die analog-digital hybride Lebenswelt ist ihrerseits erst der Anfang. Wir haben ja gelernt, Strukturebenen der sichtbaren Welt, der physischen Struktur, der chemischen Zusammensetzungen und der verschiedenen Mikro-, Meso- und Makroebenen zu unterscheiden: Jede Ebene IST Realität, keine ist die GANZE Realität. Das macht sie aus Sicht des einzelnen analogen Menschen unübersichtlich.

Der Begriff des „Unübersichtlichen“ ist längst vor dem Entstehen des Internet zu philosophischen Ehren gekommen (J.Habermas 1985). Er verweist politisch und gesellschaftlich auch auf etwas Anderes als die bloße Rechenleistung in der digitalen Welt. Der Begriff des Unübersichtlichen  spielt ja mit seinem Komplementärbegriff, dem Übersichtlichen.

Nicht umsonst spricht man positiv davon, Übersicht zu gewinnen. Sinn der Übersicht ist die richtige Einschätzung eigener Handlungsmöglichkeiten, die Steuerung der eigenen Selbstwirksamkeit, vielleicht auch die Kontrolle. Ein Kontrollturm ohne Übersicht – etwa an einer Grenze oder in einem Gefängnis- ist ist ja kaum von Nutzen.

Wenn die komplexer werdenden digitalen Ökosysteme uns an das Gefühl des Unübersichtlichen heranführen, dann liegt es nahe,  ein Bedürfnis nach Übersicht zu artikulieren. Es geht folglich um die Steuerungsfähigkeit im eigenen Leben, und zwar individuell und kollektiv.

An dieser Stelle könnte die Frage stehen, ob solche Übersicht und solche Steuerungsprozesse erstens möglich und zweitens nötig sind. Viele das Leben erleichternden Funktionen können automatisiert ablaufen und bedürfen einer expliziten Steuerung nicht mehr.

Die Diskussion zur Steuerbarkeit der Welt inklusive der Kontrolle über das eigene Leben kann ich hier freilich nur am Rande streifen, denn unser Leitmotiv  auf dem Hintergrund des Ausgeführten ist die so alte und immer wieder neue Frage nach  Menschen- und Bürgerrechten.

 

  1. Ausgestaltung und Tragfähigkeit von Rechten und Pflichten bei Menschen- und Bürgerrechten

Der Begriff der Menschenrechte ist universeller Natur, während Bürgerrechte vorgängig auf die Staatsangehörigkeit eines gegebenen Staates verweisen, die Bürgerrechte wie etwa das Wahlrecht nach sich ziehen.

Die zweite Ebene der Globalisierung, die digitale Welt von Information und Kommunikation, hat sich zwar nicht völlig, aber doch in erheblichem Umfang von einzelnen Staaten abgekoppelt. Man könnte sogar sagen, dass es eine Art Hase- und Igel-Spiel zwischen staatlichen und nicht-staatlichen Akteuren in der digitalen Welt gibt. Der sogenannte „Arabische Frühling“ schien die freiheitsförderlichen Aspekte des Internet zu stärken. Die digitale Aufrüstung von Staaten wie China, Russland, USA, aber auch anderen, auch europäischen Staaten spricht allerdings eine andere Sprache: Angesichts des starken islamistischen Terrorismus werden Formen der digitalen Überwachung immer weiter ausgebaut. Das Gleichgewicht zwischen „Schutz“ und „Überwachung“ wird neu definiert, wie immer man das beurteilen möchte.

Drittens gibt es das Darknet, ursprünglich gedacht zur digitalen Kommunikation ohne Nachverfolgung, aber natürlich auch nutzbar für kriminelle Zwecke wie etwa den illegalen Waffenhandel.

Bei den digitalen Menschenrechten ergibt sich angesichts dieser Realitäten ein  komplexes Bild. „Wer ist der Mensch?“, könnten wir beispielsweise fragen, und „Was ist eine vom Menschen angestoßene Interaktion?“, noch schärfer: „Was ist eine menschliche Handlung?“

Schon heute überwiegen im Internet die maschinell angestoßenen Interaktionen. Anders gesagt: Es gibt mehr Maschine-Maschine-Interaktion als Mensch-Maschine-Interaktionen. Wer für seine Mailadresse seinen Abwesenheitsagenten einschaltet, weiß ja nicht in jedem Moment, ob der gerade aktiv wird. Er weiß auch nicht unbedingt, ob das Aktiv-Werden einer programmierten Maschine so etwas wie „Handeln“ sein kann, darf und soll. Reden wir dann philosophisch, juristisch und psychologisch von „einer“ oder von „vielen“ Handlungen, wenn dieser Abwesenheitsagent auf 100 Mails pro Tag seine automatisierte Antwort sendet?

Nun mögen wir bei diesem Beispiel dazu neigen, nur von der einen Handlung der Einstellung des Abwesenheitsagenten zu sprechen. Im Empfängerhorizont als Handlung wahrgenommen wird aber die für mich bestimmte Abwesenheitsmeldung 47 von 100, gerade weil ich selbst sie erhalte. Eine reale Handlung führt dann zu einer Anscheins-Handlung, die im vorliegenden Fall als solche erkennbar ist, gelegentlich aber auch nicht.

Stellen wir uns ein Programm vor, welches eine psychologische Beratung online abwickelt. Auf meine eigene, existenzielle Frage antwortet dann ohne mein Wissen nicht ein Mensch, sondern eine Maschine. Stellen wir uns zweitens vor, ich erfahre von dieser „maschinellen“ Beratung, die aus  einer Folge von Anscheins-Handlungen besteht.

Es mag merkwürdig klingen, aber wir werden bis dahin  gelernt haben, dass es uns egal ist, ob wir mit einem Menschen oder einer Maschine interagieren. Denn im Vordergrund steht ja der für uns wahrnehmbare Effekt, beispielsweise eine Alltagsentlastung.

Überall dort, wo es um zweckrationale Handlungsketten geht, gilt dies ebenso: Ich kann Geld elektronisch überweisen oder immer noch am Bankschalter. Der rationale Effekt ist gleich, die Effizienz unterscheidet sich, das kommunikative Setting aber auch.

Der Gegensatz von „zweckrational“ und „kommunikativ“ oder „rational“ und „emotional“ reicht allerdings weder aus, um den Unterschied von Mensch und Rechner zu beschreiben, noch taugt er für eine Annäherung an das Thema der digitalen Menschen- und Bürgerrechte.

Erstens gibt es Grauzonen, über die mit guten Gründen gestritten werden kann. Zweitens lässt sich auch emotionales Verhalten programmieren: Emotionen sind darstellbar als digital abbildbare Serie von Entscheidungen zum Einsatz von Gefühlen in Sprache und in Handlungen. Mit anderen Worten: Die japanischen Pflegeroboter, die es bereits heute gibt, verrichten ihren Dienst zufriedenstellend. Und das Tamagochi-Fieber vor 20 Jahren, vielleicht ähnlich dem Pokemon*Go-Hype unserer Tage, richtete sich im Effekt ebenfalls an Emotionen, nicht so sehr die Ratio. Rechner können also Emotionen sowohl gezielt abbilden wie auch gezielt auslösen, ob uns das passt oder nicht.

Menschen kommen dann sozusagen von zwei Seiten unter Druck. Einerseits erscheint die Grenze zwischen Mensch und Tier immer weniger klar, wie Forschungen zur moralischen Welt der Menschenaffen zeigen (vgl. F. de Waal 2015): Auch Tiere zeigen Empathie, prosoziales Verhalten, ja so etwas wie „Moralität“. Bewegungen wie PETA setzen sich beispielsweise für „tierleidfreies“ Essen ein und bestreiten implizit den qualitativen Unterschied zwischen menschlichem und tierischem Leid.

Für die Frage nach Menschen- und Bürgerrechten sind diese Befunde keineswegs trivial, denn der Verlust einer herausgehobenen Stellung des Menschen verändert zwangsläufig den Status von Menschenrechten im Vergleich zu Tierrechten oder gar Statusrechten von Rechnern, Robotern oder anderen Formen künstlicher Intelligenz.

Der frühere Gedanke der Gegenübersetzung von Mensch und Natur wirkt, so gesehen, anachronistisch, aus der Zeit gefallen.

Aus diesem Grund ist es geradezu eine bisweilen kontrafaktische, aber nach wie vor sinnvolle und wirksame gesellschaftspolitische These, wenn hier am Primat der einzelnen menschlichen Person als Träger von Menschenrechten festgehalten wird.

Der einzelne Mensch, nicht seine Familie, seine Firma, sein Staat, sein Rechner oder seine IT-Welt ist Träger von Rechten, die wir unter dem Begriff der Menschenrechte fassen. Darunter fallen unter anderem das Recht auf die eigene Identität, das Recht auf Selbstbestimmung, das Recht auf Eigentum, das Recht auf Meinungs- und Religionsfreiheit, um nur einige zu nennen.

Facebook und andere mögen zur Massen-Individualisierung mit steigendem sozialem Konformitätsdruck beitragen. Verlieren wir aber die Zuschreibung von Freiheit und Verantwortung zum einzelnen Menschen, dann verlieren sich auch Sinn und Gestaltungsmöglichkeiten einer offenen Gesellschaft, über die stets neu gestritten und um deren Realisierung stets neu gerungen werden muss.

 

  1. Typen der Handlungslogik und Typen von Verantwortung in der digitalen Welt

Fragmentierte Verantwortung ist vom Grundsatz nichts Neues. Wenn Eltern sich über die Erfolge ihrer Kinder freuen, rechnen sich Väter und Mütter diese Erfolge gerne ihrer erfolgreichen Erziehung zu. Bei Misserfolgen kommt es schon mal vor, dass angeblich nur der andere Elternteil verantwortlich ist. Dieses überzeitlich gültige Beispiel für „fragmentierte Verantwortung“ aus dem Bereich Bildung und Familie will zeigen, dass Gesellschaften sich schon früh mit Fragen rund um dieses Thema auseinander setzen mussten.

Wenn mein Auto trotz angezogener Handbremse eine abschüssige Straße herab rollt, greift die allgemeine Betriebshaftung. Die Rechtsfiktion ist dann die einer Zurechenbarkeit des entstehenden Schadens zu einer gegebenen Person, auch wenn diese gar nicht falsch gehandelt hat. Zurechenbarkeit und Verantwortung sind damit zwar eng verbunden, aber nicht identisch. So ähnlich wird sich auch die digitale Welt entwickeln: Uns werden Aktionen zugerechnet, weil die Rechtsfiktion besteht, dass ein gegebener IP-Anschluss meinem Nachbarn oder mir zurechenbar ist.

Fragmentierte Verantwortung im Sinn der Zurechenbarkeit muss dann auch bei minimalen Handlungsanteilen gelten, etwa wenn eine Drohne oder ein PKW für einen bestimmten Anwendungsfall nicht nach erkennbaren Maßstäben von Verantwortung programmiert wurde.

Ähnliches gilt im Banken- und Finanzwesen: Hier sind systemische Verkettungen so mächtig, dass sie am Ende von niemand vorhergesehen werden können und bestenfalls die Grenzen der Mathematisierbarkeit der Welt aufzeigen. Es zeichnet sich aber ab, dass es hier Institutionen zweiter und dritter Ordnung geben kann, also beispielsweise einen Bankensicherungsfonds, eine europäische Bad Bank und dergleichen.

Für Maschinen wie Flugzeuge und Autos wird es wahrscheinlich zu einer Einrichtung wie der „ethischen Blackbox“ kommen, die Entscheidungsalgorithmen in kritischen Fällen nachvollziehbar macht, die aber auch vorab programmiert werden muss. Unterschiede der philosophischen Schulen können sich dann in unterschiedlichen Konfigurationen einer solchen  ethischen Blackbox spiegeln- und das ist neu!

Das utilitaristische Modell könnte sich dann vom situativ-deontologischen Modell der Güterabwägung sehr wohl unterscheiden, weil etwa in einer Konfliktsituation die maschinell programmierte Entscheidung einmal zugunsten eines einzelnen, sehr gut gebildeten, sehr betuchten Individuums statt zugunsten von drei eher armen und kranken Menschen fallen würde.

Je stärker die Fragmentierung von Handlungen zu Anscheins-Handlungen und damit auch zu Anscheinsverantwortung führt, desto ausgefeilter müssen Regeln für eine ethische Blackbox werden.

Dies gilt vor allem für die Zurechnung einer Entscheidung auch für den Fall, dass Verantwortung diffundiert, weil „keiner es so richtig gewesen ist“. In diesem Fall muss der oberste Organisationsverantwortliche Verantwortung übernehmen,  also im Fall des Abgas-Skandals bei Volkswagen der Vorstandsvorsitzende.

Fragen nach der „ethischen Blackbox“ können aber nicht ohne Diskussion über die zu schützenden Güter geführt werden. Welcher Handlungslogik ist zu folgen? Denn es ist ein Unterschied, ob Menschenleben immer vorgehen sollen oder ob eine Grenze einprogrammiert wird, die beispielsweise besagt: Kostet der Einsatz mehr als das zehnfache Durchschnittseinkommen eines Landes, dann wird er abgebrochen.

Solche Allokationsfragen sind für die Bergwacht, die Feuerwehr und die Medizinethiker nicht neu, aber sie werden an Brisanz gewinnen. Die grundlegende Frage wird dabei sein: Wo überwiegt eine kommerzielle Logik? Diese würde dann einzelnen digital mächtigen Unternehmens wie Facebook, Apple, Google, Amazon in die Karten spielen. Wo aber kommt eine eher politische, militärische und generell machtbetonte Logik ins Spiel, z.B. bei Militäreinsätzen in Afghanistan, Pakistan oder im Jemen? Schließlich hat selbst die US-Administration eingeräumt, dass es seit 2009 mindestens 100 menschliche Kollateralschäden, also Tote in der Zivilbevölkerung,  beim Einsatz von Drohnen im Kampfgebiet gegeben hat (N.Richter 2016). Das „Bureau of Investigative Journalism“ schätzt die Zahl seit 2002 jedoch auf 500-1100 Opfer (ebd.).

Neben der kommerziellen und der Machtlogik sind alternative   Handlungslogiken zu beachten, etwa die Logik wissenschaftlicher Erkenntnisgewinnung, die ästhetische Logik oder die religiöse Logik. Wenn es aber nur ansatzweise richtig ist, dass unterschiedliche Handlungslogiken mit gutem Recht existieren und gelebt werden, dann müssen auch unterschiedliche Formen der Verantwortung mit je eigenem Geltungsbereich akzeptiert werden können.

Was im Karneval aus der Logik von Spaß und Unterhaltung völlig akzeptiert wird, wird vielleicht schon am nächsten Tag als massive Verhaltensstörung diagnostiziert. Was der Logik von Umsatz und Gewinn entspricht, folgt nicht immer der Logik sozialer Solidarität.

Wo aber zählt in der digitalen Welt die „soziale“, wo die „kommerzielle“, wo die „machtförmige“ Logik? Aus dieser Frage entstehen u.a. neue Aufgaben für die Politik. Zumindest aus der Perspektive des einzelnen Menschen lässt sich dann fragen: Wer hat Vorrang, das Individuum, eine Institution oder der Staat?

Diese Frage soll nun bei der Betrachtung der digitalen Globalisierung in der globalen Zivilgesellschaft im Vordergrund stehen.

 

  1. Werte und Regeln in der digitalen Welt: Gibt es eine globale Werteorientierung?

Englisch und Chinesisch sind die beiden am weitesten verbreiteten Sprachen im Internet. Dabei gibt es rund 6000 Sprachen, von denen etwa 5%, also rund 300 Sprachen, im Internet vertreten sind. Menschen suchen nach Bequemlichkeit, sie sind soziale Wesen und orientieren sich an ihrer Mitwelt. Letztlich verhilft die digitale Welt von Facebook bis zum Internet der Dinge, vom Smartphone bis zur telemedizinischen OP-Unterstützung zur Erleichterung, Beschleunigung, Distanzüberbrückung, aber auch zur Kontrolle, zur Propaganda, zur Förderung von Konsumrausch und nicht substanzgebundener Abhängigkeit.

Wie jedes neue Werkzeug stehen wir vor neuen Ambivalenzen, vor neuen Chancen, aber auch vor neuen Risiken. Wichtig ist es daher, die digitale Welt als eine vom Menschen geschaffene, von ihm aber teilweise unabhängige Welt zu begreifen. Was von Menschen geschaffen ist, folgt auch menschlichen Werten und Zielen inklusive ihrer Widersprüche und Antagonismen.

Anders gesagt: Wenn Englisch und Chinesisch besonders wichtige natürliche Sprachen in der digitalen Kommunikation sind, dann wirken sich Werteorientierungen der englischsprachigen und der chinesischen Kultur auf das Verhalten im Internet aus. Freundschaft ist in Deutschland sehr deutlich von Bekanntschaft unterschieden. Mit dem Aufkommen von Facebook-Freunden wurde das Wort „Freundschaft“ neu besetzt; es entstand der Begriff „Facebook-Freunde“, der digitale Bekannte signalisiert, aber keine „engen Freunde“. Und es entstand der neuartige Begriff „sich entfreunden“, etwa wenn es heißt: „Habe mich von Claudia entfreundet.“

Das Internet kommt eben nicht ohne Sprache, Kultur, Rechtssysteme, aber auch Werte aus. Der „Mittransport“ von Werten im Rahmen sozialer Netzwerke, technischer Internetnutzung und generell digitaler Interaktion wird häufig übersehen. Er ist nicht trivial, weil Werte auf intensive gesellschaftliche Verständigung, auf Auslegung und soziale Geltung ausgelegt sind, ohne dass sie unmittelbar ins eigene Gesichtsfeld rücken.

Rechtssysteme spiegeln gesellschaftliche Werte sehr deutlich, manchmal auch offensichtlich. So ist in Deutschland das Werben mit Nazi-Symbolen verboten, in den USA nicht. Dort wiederum ist die freizügige Darstellung des nackten menschlichen Körpers immer noch anstößig, was in der Folge bei Facebook dazu geführt hat, dass bis vor kurzem der nackte Busen der Freundin womöglich zensiert wurde, die antisemitischen Parolen des Nachbarn aber eher nicht. Zur aktuellen politischen Debatte könnte es wiederum gehören, das Recht zu schaffen, bestimmte propagandistische Videos des islamistischen Terrors wie z.B. Enthauptungen zu sperren, eben weil nicht jede Information frei zugänglich sein sollte.

Auch die entstehende globale Zivilgesellschaft kann sich daher über Empfindlichkeiten in Werthaltungen und auch in den Gesetzen einzelner Staaten nicht hinweg setzen. Das Internet und generell die digitale Welt sind eben in erfahrbarer Art und Weise keine rechtsfreien Räume. Gerade dann aber stellt sich die Frage ja umso stärker: Wie sieht Werteorientierung in der digitalen Welt aus? Welche Werte sollen wie weit gelten, welche nicht?

Werte sind Vorzugsrichtungen des Handelns mit einer Verortung in Raum und Zeit. In der Gegenwart- also 2016- gewinnen die Werte der Transparenz und der „guten Führung“ (Good Governance) von Staaten und Organisationen weltweit an Boden, von der Vatikanbank bis nach Washington, von Peking bis nach Damaskus.

Gleichzeitig zeigt diese Aufstellung aber auch Grenzen auf. Wie die 2016 veröffentlichten „Panama Papers“ zeigen, besteht bis heute ein starker Anreiz, bestimmte Informationen (etwa über Geldanlagen) weitgehend intransparent zu halten. Niemand kennt das persönliche Vermögen von Wladimir Putin, der Angehörigen des saudi-arabischen Königshauses, des Diktators Santos in Angola oder auch anderer Exponenten politischer Macht. Im Gegenteil: Zu den Insignien der Macht gehört es in der digitalen Welt, sich digitale Intransparenz leisten zu können.

In anderer Facette gilt dies für die Welt der Information: Wer die Daten hat, der hat die Macht. Wie weit es wirklich gelingt, auch in gut beleumundeten Demokratien die eigenen Geheimdienste zu kontrollieren, ist und bleibt eine offene Frage nicht nur für die USA oder für Deutschland. Die Frage, wie weit es wirklich gelingt, aussagefähige Finanzzahlen für umsatzstarke Datenkonzerne wie Facebook, Amazon, Google und Apple zu generieren, wird umso skeptischer beurteilt, je näher jemand mit der Praxis der Wirtschaftsprüfung vertraut ist. „Big Data“ ist Chance und Gefahr zugleich- hier genügt es, im deutschen Kontext einmal kurz auf unsere eigenen Gesundheitsdaten in den Händen von Krankenkassen zu denken.

Die digitale Welt verschiebt somit auch Machtverhältnisse. Das historisch kurze Intermezzo des mündigen Bürgers, der frei über sich, sein Leben und- modern gesprochen- seine Daten bestimmt, wird zur immer stärker kontrafaktischen Illusion. Digitale Macht zeigt sich an der Verfügung über, der Nutzung von und dem Zugang zu Daten.

Klassisch könnte man hier von Eigentums-, Zugangs-, Nutzungs-, Gestaltungs-, aber auch Schutz- und Abwehrrechten sprechen. Gerade weil das Internet die Entstehung einer globalen Zivilgesellschaft fördert und beschleunigt, ist hier auf den Charakter sozialer Innovation auch in der Ausgestaltung von Spielregeln, Werten, Rechten und Pflichten zu achten.

Global tätige Unternehmen möchten als Akteure der globalen Zivilgesellschaft am liebsten universell geltende Gesetze. Sie haben sich aber sehr wohl daran gewöhnt, dass die Sozial- und Steuergesetzgebung von Land zu Land verschieden ist. In einem ähnlichen, dialektischen Modell lässt sich auch die Durchsetzung von Werten und Pflichten im Internet, in sozialen Medien und in der digitalen Welt der Dinge betrachten.

Gerade deshalb sind offene, demokratische Gesellschaften dazu aufgerufen, Standards zu diskutieren, zu setzen und zu verankern. Anders gesagt: Die Avantgarde digitaler Bürgerrechte wird vermutlich nicht aus Nordkorea kommen- oder aus einem anderen autoritären Staat.

Demokratische Standards finden in den Grundrechten der Person, namentlich in Gestalt der Menschenrechte, einen Anhaltspunkt für regelungsbedürftige, aber auch regelungsfähige Gestaltungen. So korrespondiert mit dem Recht auf Eigentum auch das Recht an den eigenen Daten, bis hin zu einem umfassenden Auskunftsrecht über gespeicherte Daten zur eigenen Person bei Behörden, Krankenkassen, privaten Unternehmen und sonstigen Institutionen. Ein solches Auskunftsrecht muss einklagbar sein- ebenso wie das Recht auf digitales Vergessen, also das Recht auf Löschen von persönlichen Daten, sofern diese nicht unter einem gesetzlichen Vorbehalt stehen. Ein solcher Vorbehalt betrifft insbesondere das Verwaltungshandeln, denn ohne verlässliche Datenbasis kann eine Verwaltung auch im demokratischen Staat nicht funktionieren.

Die Debatte zu digitalen Bürger- und Menschenrechten hat sich in der Vergangenheit sehr stark auf das Eindämmen staatlicher Übergriffe konzentriert. Angesichts geheimdienstlicher Exzesse hat das Thema sicher seine Berechtigung, doch sollten „private“ Aktivitäten von sonstigen Institutionen und von Unternehmen, aber auch von Akteuren des organisierten Verbrechens durchaus zum Thema werden.

Dabei ist es nicht immer von Schaden, dass die Instanzen zur Setzung und Durchsetzung von Regelungen einstweilig noch an das Vehikel funktionierender Einzelstaaten gebunden sind. Schließlich gibt es Wettbewerb auch in der Gesetzgebung, so wie etwa die Umweltgesetzgebung in verschiedenen Ländern zeigt. Wenn also ein Staat mit einer bestimmten Gesetzgebung besonders erfolgreich ist, kann es vorkommen, dass andere Staaten ähnliche Gesetze verabschieden.

Wahrscheinlicher ist es aber, dass es zu einer „Typologie“ von digitalen Rechten und Pflichten kommt, so wie wir es auch bei liberalen oder restriktiven Waffengesetzen erleben. Ohne hier die einzelnen Modelle ausführlich diskutieren zu könne, sehe ich im Blick auf digitale Menschen- und Bürgerrechte folgende „typischen“ Ausprägungen:

  1. Digitale Repression: Autoritäre Staaten mit ausgeprägtem Kontrollbedürfnis und eingeschränkten digitalen Bürgerrechten (wie z.B. China, Russland, Nordkorea).
  2. Digitale Anarchie: Staaten ohne funktionierende Verwaltung oder Failing States, die digital in den Händen der kommerzieller Anbieter landen und kaum funktionierende individuelle Schutzrechte kennen (wie z.B. Somalia, Libyen, Panama) .
  3. Digitale Mainstream-Demokratie: Hier trifft die digitale Welt auf eine großenteils noch funktionierende Öffentlichkeit, die kontrovers diskutiert und deren Gesetzgeber in unterschiedlichem Ausmaß Regelungen setzt; diese Regelungen sind jedoch teilweise widersprüchlich und werden nicht konsequent umgesetzt (wie z.B. in Deutschland, Italien, Kanada).
  4. Digitale Avantgarde: Der Maßstab der individuellen Menschenrechte inklusive persönlich zu verantwortender Zugangs- und Abwehrrechte einschließlich des Rechts auf digitale Einsicht und auf digitales Vergessen wird gesetzlich gewährleistet und kann mit Ausnahme berechtigter staatlicher Interessen gerichtlich durchgesetzt werden. Über Ausmaß und Ausgestaltung „berechtigter staatlicher Interessen“ wird öffentlich diskutiert und transparent berichtet.

Leider kann für die digitale Avantgarde  kein Beispiel nennen, so dass diese jetzt noch  im Status der kontrafaktischen Utopie bleiben muss.

  1. Schluss: Autopoiesis und Gestaltung der globalen Zivilgesellschaft als Aufgabe

Ich komme zum Schluss. Globale Regelungen zur Gestaltung der digitalen Welt zeichnen sich derzeit nicht ab, auch aufgrund höchst gegensätzlicher politischer Interessen in einer Welt, die populistische Wege geht oder den Weg der Renationalisierung sucht. Politischer Gegenwind ist freilich kein Argument gegen Sinn und Notwendigkeit eines globalen Diskurses, ja sogar globaler Regelungen in der und für die digitale Welt.

Die globale Zivilgesellschaft ist sowohl Subjekt wie Objekt solcher Regelungen. Sie ist Objekt, weil Staaten Kontrolle auch in der digitalen Welt anstreben. Sie ist Subjekt, weil aus der Autopoiese des Handelns vieler einzelner Menschen Trends entstehen, die nicht einfach ignoriert werden können- weder von Staaten noch von Exponenten des organisierten Verbrechens. Das vom Institut für Sozialstrategie verfolgte Konzept der Zivilgesellschaft in Absetzung von Staat und organisiertem Verbrechen zeigt in diesem Zusammenhang erneut eine heuristische Stärke.

Tatsächlich ringen nämlich genau diese Einflussgrößen um die Vormacht im Netz. Die digitale Aufrüstung von Staaten kann zu hoch repressiver Kontrolle und übergriffiger Staatsmacht führen. Andererseits führt eine unkontrollierte  digitale Realität in all ihren Facetten zu einem neodarwinistischen Kampf um die größten Marktanteile, die beste Voraussetzung manipulativer Datenmacht und die ungestörte Nutzung für kriminelle Zwecke wie Menschenhandel. Waffenschmuggel, Terrorismus, Organhandel, Prostitution und Geldwäsche, um nur einige zu nennen.

Die Welt bleibt, so gesehen, ein Experimentierlabor mit zunehmend digitaler Konnotation. Einzelne Staaten und Gesellschaften gelingt es besser oder schlechter, in der digitalen Welt für soziale Kohäsion zu sorgen, ohne ein nötiges Mindestmaß an Kontrolle zu verlieren. Einander widerstreitende Interessen und Aufgaben sind dabei kein Nachteil, sondern einfach ein Teil der Realität. Sie zu bündeln und akzeptable Lösungen für zivilgesellschaftlich zuträgliche Handlungskorridore zu finden, das freilich ist die Aufgabe.

Die Leitidee digital neu durchkonjugierter Menschenrechte kann hierzu die nötige Orientierung verschaffen. Denn Menschenrechte evozieren eine immer  auch kontrafaktische Utopie: Nämlich persönlich, institutionell, gesellschaftlich und staatlich-politisch zu lernen, wie das Wort „Achtung“ vor dem anderen Menschen durchbuchstabiert werden soll!

 

LITERATUR

Axel Stock (Hrsg.), Wozu Bilder im Christentum? St.Ottilien 1990

Jürgen Habermas, Die neue Unübersichtlichkeit, Frankfurt/M. 1985

André Habisch/René Schmidpeter/Martin Neureiter (Hrsg.), Handbuch Corporate Citizenship, Berlin 2008

Ulrich Hemel, Wert und Werte, Ethik für Manager- Ein Leitfaden für die Praxis, München ²2007

Ulrich Hemel, Die Wirtschaft ist für den Menschen da, Ostfildern 2013

Madeleine Herren, Internationale Organisationen seit 1865, Darmstadt 2009

Martin Kaufhold, Europas Werte, Wie wir zu unseren Vorstellungen von richtig und falsch kamen, Paderborn 2013

Fernand Kreff, Eva-Maria Knoll, André Gingrich (Hrsg.), Lexikon der Globalisierung, Bielefeld 2011

Jaron Lanier, Wem gehört die Zukunft? Hamburg 2014

Avishai Margalit, Politik der Würde, Über Achtung und Verachtung, Berlin 2012

Christoph Möller (Hrsg.), Internet- und Computersucht, Stuttgart 2012

Nicolas Richter, Unschuldig getötet, Obama gibt Zahl ziviler Drohnenopfer bekannt, in: Süddeutsche Zeitung 2./3.Juli 2016,  Nr.151, S. 8

Hans Josef Thümmel, Bilderlehre und Bilderstreit, Würzburg 1991

Frans de Waal, Der Mensch, der Bonobo und die zehn Gebote, Stuttgart 2.Aufl. 2015

 

 

Alle Rechte vorbehalten.
Abdruck oder vergleichbare Verwendung von Arbeiten des Instituts für Sozialstrategie ist auch in Auszügen nur mit vorheriger schriftlicher Genehmigung gestattet.
Publikationen des IfS unterliegen einem Begutachtungsverfahren durch Fachkolleginnen und -kollegen und durch die Institutsleitung. Sie geben ausschließlich die persönliche Auffassung der Autorinnen und Autoren wieder.

Posted by Prof. Dr. Dr. Ulrich Hemel

Leave a reply

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert