Das wahre „Killer-Feature“ der neuen Technologie: Vielleicht ist es nicht das „Lesen des Gehirns“, sondern das „Lesen des Verhaltens“?

Im Jahr 2017 schrieb Simon McCarthy-Jones einen Artikel über Schizophrenie für The Conversation[1]. Er scherzte, dass der Artikel von mehr als zwei Personen gelesen worden sei, was für ihn als Akademiker – er ist außerordentlicher Professor für klinische Psychologie am Trinity College Dublin – „ermutigend“ sei.

Doch bald darauf war McCarthy-Jones „im eisernen Griff von Facebook gefangen“ und überprüfte immer wieder, wer seinen Artikel geliked und wer ihn kommentiert hatte. Es „erregte meine Aufmerksamkeit und brachte mich zum Denken: ‚Schau mal auf Facebook! Schau mal auf Facebook!‘ ", sagte er kürzlich während eines Videoanrufs aus seinem Büro in Irland.

Wird sein Verstand heimlich von einer äußeren Kraft beeinflusst, in diesem Fall von einem großen Technologieunternehmen? Diese Erfahrung brachte ihn dazu, sich zu fragen, was „freies Denken“ eigentlich ist. Also begibt er sich in die verworrenen Welten der Psychologie, Philosophie, Kultur und des Rechts und versucht herauszufinden, woraus der Geist besteht und wie er wirklich frei bleiben kann.

Wie der Neuropsychologe Simon McCarthy-Jones argumentiert, sprudeln Gedanken ständig aus unserem Kopf – sei es in Form schriftlicher Aufgabenlisten oder beim Brainstorming mit Freunden. Gesetze zum Schutz der freien Meinungsäußerung müssen daher auch diese wichtigen, aber weniger internen Denkformen berücksichtigen. © Simon McCarthy-Jones

Sein Denken ist ihm aus dem Kopf gegangen und erscheint nun in einem neuen Buch: „Freidenken: Schutz der Gedankenfreiheit inmitten des neuen Kampfes um den Verstand“.

Wir sprachen mit McCarthy-Jones, der mit uns über die Geschichte der Kriminalisierung von „Gedankenverbrechen“, die physischen Grenzen des Denkens und die Bedeutung von Architektur und Stadtplanung für wirklich freies Denken sprach.

Der Untertitel Ihres neuen Buches hat mich dazu gebracht, darüber nachzudenken, wie Sie „den neuen Kampf“ für unser Denken definieren würden – sehen Sie den aktuellen Kampf als einen Kampf an mehreren Fronten?

Ich denke, dieser Kampf hat vier Aspekte: die Bedrohung durch Staaten, Unternehmen und Einzelpersonen und die Bedrohung durch das Gesetz. Wenn wir das Recht auf freie Meinungsäußerung sehr eng definieren, laufen wir Gefahr, dass viele Ideen vor den neuen Technologien ungeschützt bleiben.

Der letzte Punkt ist schwierig. Wir sprechen oft über die kommenden Geräte zum Lesen von Gehirndaten. Elon Musks Neuralink sorgt weiterhin für Schlagzeilen mit der Idee, er werde eine Art Gehirn-Computer-Schnittstelle entwickeln, die es uns ermöglichen würde, unsere Gedanken in einen Computer zu übertragen. Die Frage ist jedoch: Wie realistisch ist diese Technologie? Ist es eine Bedrohung, die wir jetzt berücksichtigen müssen? Ich befürchte, dass dies das Potenzial hat, eine moralische Panik auszulösen.

© WIRED

Ich glaube, dass die direktere Bedrohung durch neue Technologien nicht das „Gehirnlesen“, sondern die sogenannte „Verhaltensinterpretation“ sein könnte. Dabei geht es um die Idee, dass man durch die Messung unseres beobachtbaren Verhaltens – was uns auf Facebook gefällt, welche Websites wir besuchen, welche Musik uns gefällt usw. – und durch die Kenntnis dieser Fakten über uns auf unsere psychologischen Zustände schließen und so unser Verhalten leicht verstehen kann. Was wir denken und welche Knöpfe wir drücken müssen, um uns auf eine bestimmte Weise zu verhalten. Dieses Wissen könnte in Kombination mit der Technologie der künstlichen Intelligenz eine echte und enorme Bedrohung für unsere Autonomie darstellen.

In gewisser Weise handelt es sich hierbei um eine neue Technologie, die eine neue Perspektive auf ein uraltes Problem bietet. Im antiken Griechenland machten sich die Menschen seit Tausenden von Jahren Sorgen über die Sophisten – Menschen, die Argumente nicht nutzten, um die Wahrheit herauszufinden, sondern um bestimmte Politiker oder politische Ansichten zu unterstützen. Derzeit halten wir KI für einen digitalen Sophisten, bei dem ein enormes Machtungleichgewicht zwischen dem, was sie über uns weiß, und unserer Denkweise besteht – und wir sind nur Menschen.

Wir möchten vielleicht sagen: Nein, wir sind unabhängige, autonome Denker. Aber ich denke, wir müssen erkennen, dass wir in großen Schwierigkeiten stecken, wenn es um überzeugende KI geht.

Natürlich würden wir gerne glauben, dass, Science-Fiction beiseite, das, was in unseren Schädeln vorgeht, unsere letzte private Domäne bleibt. Aber Sie weisen darauf hin, dass wir dieser Fantasie keinen Glauben schenken sollten. Wie können also unsere freien Gedanken geschützt werden?

Als ich begann, dieses Problem zu untersuchen – eher als Psychologe denn als Anwalt –, erregten mich zunächst zwei Dinge, die mir dann Angst machten.

Erstens ist das Recht auf freie Meinungsäußerung gemäß der Allgemeinen Erklärung der Menschenrechte der Vereinten Nationen ein absolutes Recht[2]. In den Vereinigten Staaten ist dies ein nahezu absolutes Recht, das in der Verfassung verankert ist. Das ist sehr aufregend, denn es bedeutet, dass niemand Ihre Gedankenfreiheit beeinträchtigen kann. Zwar ist es manchmal möglich, die Redefreiheit einer Person einzuschränken, etwa wenn es um Verleumdung, falsche Werbung oder provokative Sprache geht, doch Ideen sind undurchdringlich und Sie können einen absoluten Schutz für die Ideen der Menschen schaffen.

Allerdings begann ich mir über die Macht dieses Rechts Sorgen zu machen. Denn wenn es nicht mit anderen gesellschaftlichen Belangen in Einklang gebracht wird, kann es andere gesellschaftliche Interessen dominieren. Sie könnten beispielsweise meinen, dass Gedankenfreiheit und freie Meinungsäußerung Hand in Hand gehen. Das Problem besteht jedoch darin, dass Sie, wenn Sie behaupten, jemandes Meinungsäußerung würde Ihren Geist manipulieren, möglicherweise im Namen der Gedankenfreiheit neue Beschränkungen der Meinungsäußerung auferlegen können.

Der zweite und vielleicht noch beunruhigendere Grund ist die fehlende Definition dieses Rechts. Wenn Sie genau hinschauen, werden Sie nichts finden. Es ist tatsächlich extrem leer. Das Merkwürdige ist, dass Menschen aller Zeiten – Jefferson, Voltaire, Chomsky – dieses Recht immer gepriesen haben.

In gewisser Weise waren wir zu sehr damit beschäftigt, es zu loben, als dass wir es definieren könnten. Obwohl es geschützt erscheint, ist es in Wirklichkeit nackt, ungeschützt und sehr verletzlich.

© nautil

Andere für uns denken zu lassen bedeutet, andere für uns leben zu lassen.

Die Vereinten Nationen haben vor kurzem versucht, es genauer zu definieren, aber glauben Sie, dass sie dabei nicht weit genug gegangen sind?

Im Jahr 2021 veröffentlichten die Vereinten Nationen einen Sonderbericht[3], der vier Säulen der Gedankenfreiheit enthielt: Immunität bedeutet, dass man für seine Gedanken nicht bestraft werden kann; Integrität bedeutet, dass Sie die Gedanken anderer nicht manipulieren können; Privatsphäre bedeutet, dass Sie das Recht haben, Ihre Gedanken privat zu halten; und Vorstellungskraft bedeutet, dass der Staat die Verantwortung hat, für seine Bürger ein Umfeld der freien Meinungsäußerung zu schaffen.

Doch es bestehen weiterhin grundlegende Probleme. Fragen wie: Was soll als Gedanke gelten? Was befreit den Geist? Ihre Antworten auf diese Fragen haben erhebliche Auswirkungen darauf, wie gut Sie Ihre Gedanken tatsächlich schützen bzw. wie viele Ihrer Gedanken angreifbar und unschützbar sind.

Schützt dies in gewisser Weise auch – wie Descartes‘ „Ich denke, also bin ich“ nahelegt – unsere eigene Persönlichkeit, ja sogar unsere autonome Existenz?

Ja, ich glaube, dieser Gedanke ermöglicht es uns, Abstand von der Welt zu gewinnen, sodass wir einen privaten Freiraum haben, in dem wir Pläne und Absichten schmieden können, ohne die Anforderungen der Außenwelt berücksichtigen zu müssen, und in dem wir unser Verhalten vollständig reflektieren und von innen heraus kontrollieren können. Ich bin daher der Meinung, dass es für unsere Selbstverwaltung eine zentrale Rolle spielt.

Doch durch Descartes akzeptieren wir implizit die Ansicht, dass Denken etwas ist, das im Inneren des Geistes geschieht. Ich habe viele juristische Artikel zu diesem Thema gelesen, in denen davon die Rede ist, die innere Welt zu schützen, die sie als **„innere Überzeugungen“** (forum internum) bezeichnen.

© Glas Koncila

Ich glaube nicht, dass das alles sein kann, was wir schützen müssen. Ich glaube, wenn wir nur das Recht auf freie Gedanken in unserer inneren Welt schützen würden, würden wir mehr aufgeben als retten – denn ein Großteil unseres Denkens geschieht außerhalb unseres Kopfes.

Wie Philosophen, Technologen und Psychologen sagen, ist es dieses wichtige externe Denken, das wir schützen müssen: das Denken, das wir betreiben, wenn wir an unseren Fingern abzählen, Einkaufslisten erstellen, mithilfe von Technologie denken (wie wenn wir danach googeln) und wenn wir unsere Gedanken durch Sprache miteinander kommunizieren.

Die Leute würden sich lieber selbst Elektroschocks verabreichen, als allein und in Ruhe ihren Gedanken nachzuhängen.

Ist es das, was Sie mit „Gedankenrede“ meinen?

Ja, obwohl es die Form von Worten hat, handelt es sich tatsächlich um unser gemeinsames Denken mit anderen. Wie EM Forster sagte: „Woher weiß ich, was ich denke, bis ich sehe, was ich sage?“ Wenn wir mit anderen sprechen, denken wir höchstwahrscheinlich mit ihnen.

Zahlreiche psychologische Untersuchungen zeigen, dass wir unter den richtigen Bedingungen der Wahrheit eher näher kommen, wenn wir als Gruppe denken, als wenn wir als Einzelpersonen denken. Psychologische Untersuchungen zeigen außerdem, dass man, um der Wahrheit am nächsten zu kommen, eine Gruppe von Menschen mit unterschiedlichen Ansichten in einen Raum bringen muss. Der Schlüssel liegt also darin, diese Räume zu schaffen. Während der Aufklärung gab es in ganz Europa Kaffeehäuser, in denen man Raum für derartige Debatten hatte – obwohl es sich dabei natürlich nicht um einen integrativen Ort handelte, der eine Vielzahl von Perspektiven einbringen konnte. Die Frage ist nun: Wie können wir eine solche Vielfalt an Perspektiven erreichen?

Offensichtlich haben wir jetzt den Cyberspace. Aber wenn man nicht reich oder dreist ist – oder beides – ist es sehr schwierig, in diesen Räumen frei zu sprechen. Wenn wir den Menschen in diesen Räumen kein Gefühl der Sicherheit geben, können sie ihre Ideen nicht frei äußern und haben keinen Zugang zur Wahrheit.

Die Idee, diese Denkweise zu schützen, führte Sie schließlich zur … Stadtplanung?

Ich habe auf einer Konferenz mit einem Kollegen aus Brasilien gesprochen und er erzählte mir, dass die Planer bei der Gestaltung der brasilianischen Hauptstadt Brasilia bewusst darauf geachtet hätten, Straßenecken zu vermeiden. Denn Straßenecken seien Orte, an denen sich Menschen versammeln und gemeinsam über Dinge nachdenken könnten, was für das herrschende Regime eine Bedrohung darstellen könnte. Die Stadtplanung kann daher wichtige Auswirkungen auf die Fähigkeit der Öffentlichkeit haben, gemeinsam zu denken.

© Internationales Zentrum für Fotografie

Dazu gehören auch Dinge, die die freie Meinungsäußerung fördern. Dazu gehört auch ökologisches Design, also die Idee, dass Spaziergänge im Grünen das Denken fördern. Oder Dinge, die uns dabei helfen könnten, Bibliotheken – die früher dunkle, staubige Orte waren – so zu gestalten, dass sie heute mehr Wert auf Licht und Raum für Gruppengespräche legen. Daher entwirft es Gebäude und Räume, die gemeinsames Denken fördern.

Natürlich leben wir heute in einer digitalen Welt, die dieser Art des freien Denkens vielleicht nicht so förderlich ist, oder? Die Vereinten Nationen sagen, wir sollten das Recht auf unsere eigenen Gedanken haben, ohne manipuliert zu werden. Aber wir alle haben schon Erfahrungen gemacht, bei denen unsere Aufmerksamkeit abgelenkt wurde. Ganz zu schweigen von den bizarren Ideen wie der QAnon-Verschwörungstheorie****, die im Internet verbreitet werden. Haben wir einen Ausweg? Oder haben wir versagt?

Es gibt eine Möglichkeit, Technologieprodukte zu entwickeln, die uns nicht algorithmisch in eine Richtung drängen, in die wir uns bereits bewegen, sondern einen Standardmodus mit mehr „freigeistigen“ Optionen annehmen, der uns eine größere Vielfalt an Perspektiven bietet. Dies wird dazu beitragen, das Problem anzugehen, von dem Donald Rumsfeld sprach – die „unbekannten Unbekannten“, die Dinge, von denen wir nicht einmal wissen, dass wir sie nicht wissen.

Es kann auch dabei helfen, das zu widerlegen, was manche Leute als „konventionelle Überzeugungen“ bezeichnen – Vorstellungen, die wir irgendwann haben, über die wir aber nie wirklich nachdenken. Um ein ziemlich schwerwiegendes Beispiel zu nennen, könnten Sie die Demokratie nennen, die, wie ich glaube, von vielen von uns als eine absolut gute Sache angesehen wird. Aber sind wir selbst zu einer solchen Überzeugung gelangt? Haben wir die Argumente gegen die Demokratie wirklich gehört und deshalb aufgehört, an ihre Vorteile zu glauben, oder haben wir wirklich verstanden, warum wir an sie glauben?

In Wirklichkeit ist es schwierig, genug Karotten zu essen, um Ihre Nachtsicht deutlich zu verbessern. Unser Körper wandelt Beta-Carotin nicht sehr effizient in Vitamin A um, daher hilft selbst der Verzehr großer Mengen Karotten nicht so viel wie die Einnahme eines Vitaminpräparats. © Atlas Obscura

Um ein trivialeres Beispiel zu nennen: Ich war schon immer der Meinung, dass man im Dunkeln besser sehen kann, wenn man Karotten isst. Karotten enthalten offenbar Beta-Carotin, das bei einem starken Mangel tatsächlich die Sehkraft verbessern kann. Während des Zweiten Weltkriegs stellten die Briten jedoch heimlich luftgestützte Abfangradare her, wollten jedoch nicht, dass die Deutschen davon erfuhren. Sie mussten sich also eine Ausrede einfallen lassen, um zu erklären, warum diese britischen Piloten im Schutz der Nacht so viele deutsche Flugzeuge abgeschossen hatten. Also verkündeten sie der Öffentlichkeit: Britische Piloten aßen viele Karotten. Diese Aussage ist Teil der Kultur geworden.

Wie können wir also herausfinden, was wir aus den falschen Gründen glauben?

Inwieweit sind wir noch Menschen, wenn wir unsere Denkfähigkeit opfern?

Wenn wir über freie Meinungsäußerung sprechen, müssen wir George Orwells Buch „1984“ erwähnen, das 1949 veröffentlicht wurde. Schon Jahrzehnte zuvor – in den 1920er und 1930er Jahren – erließ die damalige Regierung Japans in der Realität Gesetze, die „Gedankenverbrechen“ unter Strafe stellten, um Andersdenkende zum Schweigen zu bringen.

Gibt es eine Situation, in der die freie Meinungsäußerung in Frage gestellt werden sollte, wie Sie zuvor erwähnt haben? Was wäre, wenn sie missbraucht würde, um die freie Meinungsäußerung zu verhindern?

Dies ist ein kontroverser Bereich – ob es irgendeinen Grund gibt, das Denken einzuschränken. Derzeit ist dies ein absolutes Recht. Wir reagieren auf das Konzept des „Gedankenverbrechens“ mit einer orwellschen Reflexreaktion.

Der Philosoph Sam Harris sprach jedoch von der Möglichkeit, „Zonen für erzwungene Geständnisse“ zu schaffen, indem man Gedankenlesegeräte einsetzt, die zuverlässig Lügen erkennen können. Beispielsweise könnte Ihnen vor Gericht das Tragen eines solchen Geräts auferlegt werden, um festzustellen, ob Sie lügen. Einerseits wäre dies ein ungerechtfertigter Eingriff in die Meinungsfreiheit. Aber die öffentliche Meinung würde sagen, dass dies in diesem Bereich akzeptabel ist?

© LinkedIn

Mir gefällt dieser Satz in Ihrem Buch: „Andere für uns denken zu lassen, bedeutet, andere für uns leben zu lassen.“ Ist das für Sie der Kern des Problems?

Das ist es, was uns als Spezies einzigartig macht. Obwohl wir keine scharfen Zähne und Krallen haben, sind wir in der Lage, über Probleme nachzudenken. Unsere Fähigkeit, in dieser Welt zu überleben, besteht im Denken und ist ein wichtiger Teil dessen, was uns zu Menschen macht. Wenn wir unsere Denkfähigkeit opfern, inwieweit sind wir dann noch Menschen?

Aber letzten Endes denken wir doch nicht sehr oft nach, oder? Der Mensch hat sich dazu entwickelt, Energie zu sparen, aber das Denken erfordert viel Energie. Tatsächlich erwähnen Sie eine Reihe von Studien[4], in denen festgestellt wurde, dass Menschen sich lieber selbst Elektroschocks verabreichen, als sechs bis fünfzehn Minuten lang allein still dazusitzen und nachzudenken. Ist das für Sie als Psychologe überraschend oder nicht?

Der Nobelpreisträger Daniel Kahneman sagte einmal: „Der Mensch ist für das unabhängige Denken das, was die Katze für das Schwimmen ist. Sie können es, aber sie tun es lieber nicht.“

Daniel Kahneman (1934-), geboren in Tel Aviv im britischen Mandatsgebiet Palästina, ist ein israelisch-amerikanischer Psychologe. Für seine Beiträge zur Prospekttheorie erhielt er 2002 den Nobelpreis für Wirtschaftswissenschaften. © Richard Saker/The Observer

In meinem eigenen Leben gibt es Zeiten, in denen ich wirklich nicht denken möchte! Und die Technologie macht dies einfach. Beispielsweise liefert uns YouTube zahlreiche Informationen. Sie denken vielleicht, dass dies zum Nachdenken hilfreich wäre. Aber verwenden wir YouTube manchmal als digitales Benzodiazepin, so wie wir es zur Linderung von Ängsten verwenden?

Früher – für uns früher – hatte man beim Abwaschen oder Rasenmähen Zeit zum Nachdenken. Heutzutage scheinen wir diese Aufgaben immer häufiger mit Kopfhörern, YouTube und Podcasts zu erledigen. Helfen uns diese Indoktrinationen also beim Denken? Oder hindern wir uns selbst am Denken, indem wir uns täglich mit den Gedanken anderer herumschlagen?

Die Frage ist: Wie entdecken wir die Freude am Denken wieder? Wie genießen wir den Denkprozess? Wenn wir wirklich nicht mehr denken wollen, dann hat es doch keinen Sinn, eine Gesellschaft aufzubauen, die uns Dinge tun lässt, die wir nicht tun wollen, oder?

Welche Veränderungen haben Sie in Ihrem Leben vorgenommen, um Ihre Fähigkeit zum freieren Denken zu bewahren?

Als Erstes habe ich mich von allen sozialen Medien abgemeldet. Dies könnte eine Überreaktion sein! Für mich ist klar, dass Twitter eine großartige Quelle für neue Ideen sein kann. Allerdings muss ein Gleichgewicht gefunden werden zwischen der Fähigkeit, Ihre Aufmerksamkeit zu fesseln, und der Fähigkeit, Sie von Ihren Zielen abzulenken. Für mich schadet es mehr, als dass es nützt.

Ich glaube auch, dass es einfach ist, mit dem Finger auf die sozialen Medien zu zeigen und zu sagen, sie seien für meine Ablenkung verantwortlich. Aber wir müssen noch herausfinden, wer hinter all dem steckt. Es kann unsere eigene Eitelkeit oder unser Ego sein, die uns in diese „Gefällt mir“-Fallen der sozialen Medien locken. Ich denke also, dass wir, anstatt die Schuld direkt den sozialen Medien zuzuschieben, vielleicht unsere eigenen Motivationen betrachten und uns damit befassen sollten, woher wir unser Selbstwertgefühl beziehen, und versuchen sollten, uns selbst besser zu managen.

© nautil

Außerdem füge ich andere Denkweisen hinzu. Als Akademiker schließt man sich leicht mit einem Aufsatz oder einem Buch in einem Raum ein und glaubt, dies sei der beste Weg, um voranzukommen. Doch als ich all die Forschungsergebnisse sah, die zeigten[5], wie wertvoll es ist, mit anderen zu denken, und wie sehr wir unser Denken verbessern können, wenn wir mit anderen reden, war ich – als introvertierter Mensch – gezwungen, mich mehr mit anderen auseinanderzusetzen, verschiedene Arten von Gesprächen in Räumen zu führen, die freies Denken fördern, mit Menschen zu reden, denen ich vertraue, in einer sicheren Umgebung, in der ich meine eigenen Ideen mit unterschiedlichen Perspektiven hinterfragen kann.

Es gibt auch zahlreiche Untersuchungen, die den Zusammenhang zwischen Denken und Gehen – insbesondere in der Natur – untersuchen. Deshalb versuche ich, unterwegs positiv zu denken und mehr Spaziergänge zu machen. Natürlich trete ich damit in die Fußstapfen vieler Philosophen und Psychologen.

Keine Podcasts oder Musik während meiner Spaziergänge.

Ja, lassen Sie Ihre Kopfhörer zu Hause.

Von Katherine Harmon Courage

Übersetzung/Yuba und Thin Bamboo

Korrekturlesen/tim

Dieser Artikel basiert auf der Creative Commons License (BY-NC) und wird von Yuzhu und Shouzhu auf Leviathan veröffentlicht

Der Artikel spiegelt nur die Ansichten des Autors wider und stellt nicht unbedingt die Position von Leviathan dar