GEW Thüringen
Du bist hier:

Pädagogik und DigitalisierungLern-Maschine Mensch

Forscherinnen und Forschern zur Künstlichen Intelligenz (KI) zufolge befinden wir uns an der Schwelle zu einem Zeitalter, in dem Maschinen zunehmend in einen Wettbewerb mit den Menschen treten und ihnen letztlich überlegen sein werden.

06.07.2020 - Martina Schmerr, Referentin im Organisationsbereich Schule des GEW-Hauptvorstandes, und Birgita Dusse, Referentin im Organisationsbereich Schule für das Schwerpunktthema „Bildung in der digitalen Welt“ des GEW-Hauptvorstandes

Wenn von KI in der Praxis die Rede ist, dann sind meistens Teilbereiche wie „maschinelles Lernen“ gemeint, nicht aber Maschinen, die mit dem menschlichen Gehirn gleichziehen. Wohl aber greifen derlei digitale Verfahren zunehmend in das Leben, das Denken und die Teilhabe von Menschen ein. Wissenschaftlerinnen und Wissenschaftler aus den verschiedensten Forschungsbereichen warnen seit Jahren vor den Gefahren von KI und Big Data, also der Sammlung und Verarbeitung großer Datenmengen, für Freiheit und Demokratie.

Die beschleunigte Digitalisierung in der Corona-Krise hat uns vor Augen geführt, wie dringend eine Diskussion über eine demokratische Digitalisierung und Grundrechte in der digitalen Welt auf die Tagesordnung gehört. Die gestiegene Macht einzelner IT-Konzerne, die sich einer demokratischen Kontrolle entziehen, und die Gefahr, dass demokratische Strukturen ausgehöhlt werden, kritisierte kürzlich etwa die Initiative Digitale Zivilgesellschaft. Schon heute berührt die Digitalisierung fundamentale Grundrechte: sei es im Bereich Datenschutz und Persönlichkeitsrechte, sei es im Bereich der Meinungsfreiheit und Teilhabe.

Der Bildungsbereich scheint dabei bislang unterbelichtet: Während die Gefahren der Datafizierung und Algorithmisierung mittlerweile mit Blick auf Google, Facebook & Co. öffentlich diskutiert werden, fehlt dieser kritische Blick auf die Modellierung des Lehrens und Lernens durch Software, Plattformen oder Verwaltungsprogramme weitgehend. Es lohnt sich allerdings, die Initiativen zu digitalen Grundrechten unter die Lupe zu nehmen, um Forderungen für den Bildungsbereich zu entwickeln.

Gefahren durch Big Data

Die von der ZEIT-Stiftung ins Leben gerufene Initiative „Charta der digitalen Grundrechte der EU“, die Politikerinnen und Politiker sowie Netzaktivistinnen und -aktivisten wie Sascha Lobo und Juli Zeh unterstützen, ist 2016 als Petition in diversen Tageszeitungen veröffentlicht und 2018 überarbeitet worden. Die „Charta“ enthält viele Aspekte, die auch für den Bildungsbereich wichtig sind. Sie warnt vor den Gefährdungen der Menschenwürde durch Big Data und Massenüberwachung, durch den Einsatz von Algorithmen und die Machtkonzentration von Privatunternehmen. Menschliches Verhalten könnte vorhergesagt und gesteuert werden. Stattdessen, so der Appell, müssten ethisch-normative Entscheidungen Menschen überlassen werden. Das Recht auf gleichberechtigte Teilhabe und Nichtwissen, das Recht, nicht Objekt automatisierter Entscheidungen von „erheblicher Bedeutung für die Lebensführung“ zu sein, und die Netzneutralität sollen Fehlentwicklungen entgegensteuern.

Ähnlich argumentiert das ebenfalls 2016 veröffentlichte „Digital-Manifest“. Hier warnen neun europäische Wissenschaftlerinnen und Wissenschaftler sowie andere Fachleute aus Bildung, Recht und Informatik vor den Folgen von Algorithmen, KI und Nudging* für die Demokratie: eine „Automatisierung der Gesellschaft“, totalitäre Tendenzen durch Big Data Analysen und Manipulationen durch eine technokratische Verhaltens- und Gesellschaftssteuerung. Die Autorinnen und Autoren fordern stattdessen demokratische Technologien, informationelle Selbstbestimmung, gekennzeichnete Werbung, eine kollektive Intelligenz und einen staatlichen Regulierungs-rahmen.

Digitale Grundrechte

Ein Leitfaden des Europarats zu Menschenrechten von Internetnutzerinnen und -nutzern betont, dass Offline-Rechte der Bürgerinnen und Bürger auch online gelten müssen. Hierzu gehört ein kostengünstiger und nichtdiskriminierender Zugang zum Internet, um demokratische Teilhabe zu fördern. Auch das Recht auf Meinungs- und Informationsfreiheit gelte online wie offline. Verboten jedoch sind verletzende, beleidigende und schockierende Äußerungen. Das Recht auf Versammlung, Vereinigung und Teilhabe, der Datenschutz sowie der Schutz der Privatsphäre sind wichtige Bereiche der Internetrechte. Kinder und Jugendliche sollen zudem das Recht auf eine altersgerechte Information über den Schutz der Privatsphäre haben.

Die Bildungsforscherin und Leiterin des Forschungsschwerpunkts „Digital Education Governance – Datafizierung und Digitalisierung im Bildungssektor“ an der Helmut-Schmidt-Universität Hamburg, Sigrid Hartong, formulierte auf einer GEW-Tagung zu Learning Analytics einen noch weiter gefassten Bildungsanspruch im Sinne einer Data Infrastructure Literacy, also Hintergrundwissen über Entstehung und Funktionsweise von Dateninfrastrukturen, die über ein reines Anwendungswissen hinausgehen.

Buchstabiert man digitale Grundrechte für den Bildungsbereich aus, zeigen sich spezifische Problemfelder, die dringend debattiert und reguliert werden müssen. Die kürzlich aufgezeigten Datenlücken bei Schulclouds, zum Beispiel bei der Cloud des Potsdamer Hasso-Plattner-Instituts, und zahlreichen Online-Anwendungen für den Schulgebrauch zeigen den Handlungsbedarf beim Datenschutz auf. Gegen die Dystopie, also die negative Utopie von Schule und Hochschule als Lern-Maschinenpark benötigen wir ein Recht auf Wissen über die Funktionsweise von Algorithmen und die Erhebung von Daten zur Bildungsbiografie.

Mögliche Forderungen

Der Zugang zur digitalen Welt darf nicht vom Portemonnaie der Eltern abhängen. Alle haben ein Recht auf freien und gleichberechtigten Zugang zu digitaler Bildung. Geräteausstattung muss durch öffentliche Finanzierung sichergestellt werden. Bildung ist öffentliches Gut und sollte nicht der Profitlogik untergeordnet werden. Kinder und Jugendliche dürfen nicht der Manipulation durch verdeckte Werbung ausgesetzt werden. Sicherlich wäre über einige dieser Forderungen schnell Einigkeit in der GEW zu erzielen. Aber wie sieht es mit einem „Recht auf Nichtwissen?“ oder dem „Recht auf Offline-Sein“ aus? Weitere – teils in guter GEW-Tradition stehende, teils sicherlich kontroverse, in jedem Fall aber zu konkretisierende – Forderungen könnten sein:

  • Recht auf eine umfassende Bildung, die ein selbstbestimmtes Leben in der digitalen Welt ermöglicht.
  • Recht auf den Schutz der eigenen Daten und Achtung der Privatsphäre.
  • Recht auf Selbstbestimmung über die eigenen Daten.
  • Recht auf nicht-kommerzielle Bildung in öffentlichen Bildungseinrichtungen, also auch das Recht auf Schutz der eigenen Daten vor kommerzieller Verwertung.
  • Recht auf „unbeobachtete Räume“, auf nicht-standardisierte und nicht-algorithmisierte Lernräume und -wege.
  • Recht auf Offenlegung der Kriterien für datafizierte Entscheidungen, die das eigene Lernen oder auch die eigene Bildungslaufbahn betreffen.
  • Recht auf Vergessenwerden. Datenspuren, die bis in die Grundschulzeit zurückreichen, dürfen für zukünftige Arbeitgeberinnen und Arbeitgeber nicht zugänglich gemacht werden.

* Der Begriff „Nudging“ – wörtlich „Anstupsen“ – ist der Verhaltensökonomik entlehnt und bezeichnet (digitale) Verfahren, das Verhalten und die Entscheidungen von Menschen „sanft“ und möglichst vorhersehbar zu beeinflussen.

Zurück