KI in der Bildung – Welche (Bildungs-)Voraussetzungen werden für KI benötigt?

In einem vergangenem Blogbeitrag haben wir uns im Rahmen der Themenreihe „KI in der Bildung“ bereits damit auseinander gesetzt, was künstliche Intelligenz, abgekürzt als „KI“, überhaupt ist. Auf dieser Grundlage soll es heute darum gehen, welche Voraussetzungen benötigt werden, um KI einerseits in Gesellschaft und Wirtschaft zu integrieren und um damit andererseits im internationalen Wettstreit um KI mithalten zu können. Dabei wird ein besonderer Schwerpunkt auf den Bildungsvoraussetzungen in Deutschland bzw. in Europa bezogen auf KI liegen.

Ein erster Überblick

Die Europäische Kommission formulierte in einer Nachrichtenmeldung aus dem vergangenem Jahr folgende sieben Voraussetzungen, die für eine vertrauenswürdige künstliche Intelligenz benötigt werden: 

Systeme künstlicher Intelligenz sollten gerechten Gesellschaften dienen, indem sie das menschliche Handeln und die Wahrung der Grundrechte unterstützen‚ keinesfalls aber sollten sie die Autonomie der Menschen verringern, beschränken oder fehlleiten.

Eine vertrauenswürdige künstliche Intelligenz setzt Algorithmen voraus, die sicher, verlässlich und robust genug sind, um Fehler oder Unstimmigkeiten in allen Phasen des Lebenszyklus des Systems künstlicher Intelligenz zu bewältigen.

Die Bürgerinnen und Bürger sollten die volle Kontrolle über ihre eigenen Daten behalten, und die sie betreffenden Daten sollten nicht dazu verwendet werden, sie zu schädigen oder zu diskriminieren.

Die Rückverfolgbarkeit von Systemen künstlicher Intelligenz muss sichergestellt werden.

Systeme künstlicher Intelligenz sollten dem gesamten Spektrum menschlicher Fähigkeiten, Fertigkeiten und Anforderungen Rechnung tragen und die Barrierefreiheit gewährleisten.

Systeme künstlicher Intelligenz sollten eingesetzt werden, um einen positiven sozialen Wandel sowie die Nachhaltigkeit und ökologische Verantwortlichkeit zu fördern.

Es sollten Mechanismen geschaffen werden, die die Verantwortlichkeit und Rechenschaftspflicht für Systeme künstlicher Intelligenz und deren Ergebnisse gewährleisten.

Auf dieser Grundlage gilt es nun, die Voraussetzungen in der Bildung für den Einsatz und die Anwendung von KI stärker zu beleuchten. Dazu haben wir uns einige wichtige Punkt herausgegriffen, die wir in dem folgenden Abschnitt näher betrachten. Dabei beziehen wir uns vor allem sowohl auf Europa bzw. explizit auf Deutschland als auch auf den Handlungsraum Schule.

Datenschutz

Wenn es um den verantwortlichen Einsatz von KI geht, kommt man um die Thematik des Datenschutzes nicht drum herum. Unter „Datenschutz“ versteht man allgemein

„das hauptsächlich staatliche Mittel, um individuelle Interessen wie Privatsphäre und Sicherheit bei der Erhebung, Verarbeitung und Verwendung von Personendaten zu sichern“ [1].

Zwar bietet die neue Datenschutz-Grundverordnung (DSGVO) den Bürger*innen bereits viele Regelungen und Möglichkeiten zum Schutz persönlicher Daten. Doch gerade in Bezug auf Minderjährige gibt es dabei einige Grauzonen und Ungewissheiten. Um eine weiter fortschreitende Entwicklung von KI im Bildungsbereich zu gewährleisten, gilt es daher, diese Unsicherheiten auszuräumen.

Eine problematisches Feld bezogen auf den Einsatz von KI in der Aus- und Weiterbildung stellt beispielsweise das Sammeln und Speichern persönlicher Daten dar. Die Notwendigkeit personenbezogener Daten variiert mit dem Ziel, welches mit dem Einsatz von KI verfolgt wird.
So benötigt die KI bei allgemeingültigen Assistenz-Systemen für Schulen nicht unbedingt solch personenbezogene Daten. Denn, um dieses System zu trainieren, reichen anonymisierte (Massen-)Daten aus, wodurch wiederum ein Schutz der persönlichen Daten gewährleistet ist.
Bei einer individualisierten Lernbegleitung hingegen, würde das Trainingsmaterial aus individuellen Daten bestehen, da das System spezielle Voraussagen bezogen auf die jeweilige Person treffen muss. Damit ist die Qualität eines solchen KI-Systems abhängig von der Breite und Vielseitig des zugrundeliegenden Datensatzes. Doch je mehr personenbezogene Daten der KI zur Verfügung stehen, desto größer ist die Gefahr für die Privatsphäre der Nutzer*innen.

In der DSGVO ist zwar festgelegt, dass Daten nach dem Ende des jeweils definierten Verwendungszwecks gelöscht werden müssen, doch, um KI-Systeme auf lange Zeit gesehen effektiv nutzen zu können und gleichzeitig einen Missbrauch der verwendeten persönlichen Daten zu verhindern, wäre es sinnvoll, diese mit einer gewissen Laufzeit zu versehen und auf nicht mehr direkt zugänglichen Speichermedien zu lagern. Dazu sollten Schulen unabhängig von „Datenriesen“ agieren können. In diesem Zusammenhang bedarf es der Bereitstellung von IT durch staatliche Anbieter oder aber der Zusammenarbeit mit öffentlichen Instituten.

Quelle: Vgl. Künstliche Intelligenz und Maschinelles Lernen – Wirtschaftsfaktoren und Chancen für den Standort Schleswig-Holstein. Heute und morgen. Flensburg, Kiel, Lübeck: IHK Schleswig-Holstein 2019. S. 11 – 12.

Aus- und Weiterbildung

Aus- und Weiterbildungen müssen sich an die neuen Anforderungen, die im Rahmen des digitalen Wandels auf uns zukommen, anpassen. Das Ziel der Ausbildung sollte

„ein mündiges, selbstbestimmtes Individuum […] [sein], das sich mit technischen ebenso wie mit den ethischen, sozialen und gesellschaftlichen Facetten der KI als Teilbereich der Digitalisierung auseinandersetzen kann“ [2].

Schlüsselkompetenzen sind dabei beispielsweise das konzeptionelle und kritische Denken, Kreativität, emotionale Intelligenz sowie Kommunikations- und Kooperationsfähigkeit. Mit diesen Kompetenzen ist der Mensch schließlich jedem technischen System überlegen und hat damit die Möglichkeit, mithilfe des Einsatzes von KI, Freiräume zu schaffen, um die Vermittlung eben solch sozialer und kreativer Kompetenzen in Bildung und Weiterbildung zu stärken. Dies betrifft Schulen, Universitäten, Berufs- und Hochschulen ebenso wie die (Weiter-)Bildung im Arbeitsumfeld sowie in der Wissenschaft und Forschung.

In den USA promovieren pro Jahr circa 3000 KI-Experten. In Deutschland hingegen sind es lediglich circa 170. [3] Diese Zahlen machen die Problematik des dramatischen Expertenmangels im Bereich der KI deutlich. Aus diesem Grund wird eine Unterstützung der Universitäten und Hochschulen durch die Politik benötigt.
Doch auch die Hochschulen und Universitäten selbst müssen ihrerseits verstärkt das Thema der künstlichen Intelligenz fakultätübergreifend etablieren und ihre Lehrpläne danach ausrichten. KI muss als multidisziplinäres Fach begriffen- und der Ausbau von KI-Lehrstühlen in diesem Zusammenhang gefördert werden. Dabei gilt es auch, ethischen und soziologischen Fragestellungen im Zusammenhang mit KI eine weitaus größere Bedeutung zukommen zu lassen. Eine Stärkung der dualen Ausbildung kann dabei ebenfalls helfen, KI-Experten zu generieren und somit den digitalen Transformationen der Arbeitswelt zu begegnen.

Die Ausbildung aller Lehrämter sowie vor allem die der Informatiklehrer*innen muss bezogen auf die Digitalisierung deutlich an Quantität und Bedeutung zunehmen. Darüber hinaus sollten an allen Schulen Planstellen für Informatiklehrer*innen etabliert werden. Nur so kann gewährleistet werden, aktuelles Fachwissen und neue betriebliche Anforderungen in dem Bereich KI vermitteln zu können. Dazu benötigen die Lehrkräfte nicht zuletzt den Fachrichtungen entsprechende Qualifikationen und Weiterbildungen. Lehrkonzepte gilt es, fortlaufend an aktuelles Fachwissen oder neue Lernmethoden anzupassen.

Basiswissen zu KI und entsprechender Praxisbezug gilt es, bereits an allgemeinbildenden Schulen zu vermitteln, um somit in Berufs- und Hochschulen weiter darauf aufbauen zu können. Denkbar wäre in diesem Zusammenhang die Einführung des Pflichtfaches Informatik ab der Sekundarstufe I sowie eine informatorische Grundbildung in der Primarstufe. Dabei sollten vor allem Themen allgemeiner Medienkompetenz wie Informationssicherheit und Datenschutz, aber auch Grundkenntnisse über das Programmieren sowie Wissen über KI frühzeitig und flächendeckend vermittelt werden. Das Ziel sollte sein, einen umfassenden Kanon digitaler Kompetenzen zu vermitteln, um damit ein breites Grundlagenverständnis für die Digitalisierung und deren Wirkungen zu etablieren. Dazu ist es von Nöten, die Lehrpläne im dynamischen Sinne anzupassen, um somit neue Trends aufgreifen- und die Experimentierfreude bei neuen Technologien stärken zu können. Neben den aktualisierten Lehrplänen bedarf es ebenfalls einer entsprechenden bedarfsgerechten technischen Ausstattung von Schulen, Berufsschulen und Hochschulen mit zeitgemäßer Infrastruktur und digitalen Lernangeboten. Der MINT-Bildung sollte in diesem Zusammenhang ebenfalls ein größerer Stellenwert zukommen.

Kaum ein Bereich in unserem Leben wird nicht von der KI entscheidend transformiert – nicht zuletzt auch aufgrund ihrer zahlreichen Möglichkeiten. Aus diesem Grund muss das öffentliche Interesse auf dieses Themengebiet gelenkt und das Wissen dazu breit in die Gesellschaft getragen werden. Wichtig ist es dabei, die Chancen von künstlicher Intelligenz in den Mittelpunkt zu stellen und nicht die möglichen Risiken oder Angst, welche meist aus Halbwissen und Vermutungen resultiert. Schließlich bietet KI die Möglichkeit, für transparentere und effizientere Prozesse im Sinne der Bürger sowie der Unternehmen. Daher sollte auch die öffentliche Verwaltung für die Anwendung von KI sensibilisiert werden und das notwendige Know-how aufbauen. KI-Grundwissen sollte darüber hinaus als fester Bestandteil von Lehrinhalten in die beruflichen Aus- und Weiterbildungen integriert werden, wenn eine solche Integration als sinnvoll angesehen werden kann. Allgemein gilt es, die richtigen Rahmenbedingungen zu schaffen, um eine Akzeptanz für den Gesamtprozess sowie ein Interesse auf Seiten aller Beteiligten zu erzeugen.

Besondere Kompetenzen

Bei der Diskussion um die Verwendung von personenbezogenen Daten und damit um KI spielt auch die Datensouveränität eine wichtige Rolle. Darunter versteht man die

„Kompetenzen, eigenständig beurteilen und entscheiden zu können, was mit den personenbezogenen Daten geschieht“ [4].

Bezogen auf den Handlungsraum Schule wird diese Kompetenz von allen Beteiligten wie etwa Schüler*innen, Eltern und Lehrkräften benötigt, um eine entsprechende Diskussion im Sinne der Lernenden führen zu können. Diese Kompetenz gilt es jedoch zunächst zu fördern und damit für die Betroffenen sichtbar zu machen, welche Folgen für den Einzelnen durch die Verarbeitung der individuellen Daten entstehen können.

Ein weiterer wichtiger Punkt bezüglich des Umgangs mit KI ist die Frage der Entscheidungskompetenz vor allem auf Seiten der Schüler*innen. Vor einem möglichen Einsatz einer KI-Anwendung muss demnach eine Datennutzungsvereinbarung mit den Lernenden geschlossen werden. Das Problem dabei ist jedoch, dass Kinder und Jugendliche meist gar nicht in der Lage sind, die Folgen der Datenverarbeitung abzuschätzen. Daher müssen die Erziehungsberechtigten ebenfalls der Verarbeitung der Daten ihrer Kinder zustimmen. Lehnen jedoch Schüler*innen oder Eltern diese Vereinbarung ab, kann dies mit Nachteilen für die Schülerin oder den Schüler verbunden sein. Es entsteht somit eine Kluft zwischen Nutzenden und Nicht-Nutzenden, die mit Chancenunterschieden verbunden sein kann. Dementsprechend werden also Strategien benötigt, um mit unterschiedlichen Zustimmungsvarianten entsprechend umgehen zu können. Denkbar wäre dabei ein Erprobungsraum für einzelne Schulen oder Klassen sowie das Angebot einer KI-Schule als alternative Schulform.

Ethische Richtlinien

Die für KI-Systeme benötigten Trainingsdaten basieren auf von Menschen stammenden Datensätzen. Damit einher geht, dass selbstlernende algorithmische Systeme auch menschliche Vorurteile, sogenannte „Bias“ reproduzieren. Das auf solche Daten trainierte KI-System wird dann möglicherweise ungerechte Entscheidungen treffen und einige Gruppen gegenüber anderen bevorzugen. Um dies zu vermeiden,

„liegt es letztlich immer in der Verantwortung des Menschen, kritisch mit der Auswahl der Daten und den Ergebnissen der Algorithmen umzugehen“ [5].

Wichtig ist also, sich dieser Bias bewusst zu sein und damit gezielt umzugehen.

Transparenz und damit verbunden Kommunikation sind bezogen auf KI von großer Bedeutung, da sie die Bereitschaft zur Teilnahme an solchen Anwendungen steigern kann. Schließlich reduziert Vertrauen Unsicherheiten. Und falls das Vertrauen noch nicht oder nicht genügend etabliert sein sollte, hilft die Transparenz dabei, dieses Problem zu überbrücken. Sie fördert Akzeptanz und geht damit gegen Spekulation und Widerstand vor. 

In vielen Bereichen der Gesellschaft und damit auch bezogen auf den Umgang mit KI kann es sein, dass manche Akteure mehr Möglichkeiten und Bereitschaften zur Partizipation besitzen als andere. Demnach gilt, dass, wer sich am meisten engagiert auch den größten Einfluss hat. Dies führt jedoch zur potenziellen Benachteiligung anderer Gruppen, die weniger Einflussnahme besitzen.
Sowohl bei der Planung als auch bei der (Weiter-)Entwicklung eines KI-gestützten Systems sollten daher die Beteiligten, ihre Kritik und Vorschläge gleichwertig miteingebunden werden.

Schluss

Die angebrachten Punkte bilden natürlich nur einen Bruchteil der Diskussion rund um die Voraussetzungen für den Einsatz von künstlicher Intelligenz ab. Trotzdem wurde deutlich, dass es in Europa und insbesondere in Deutschland noch Aufholbedarf gibt, wenn es darum geht, mit der fortschreitenden technischen Entwicklung Schritt zu halten. Denn nur, wenn wir im internationalen Wettstreit um KI mithalten können, erhalten wir auch die Möglichkeit, technische Systeme und den Umgang damit nach unseren Wertvorstellungen zu prägen. 

Der nächste Blogbeitrag zur Reihe „KI in der Bildung“ erscheint am 07.06.2020 und wird sich dem Thema „KI in der (Bildungs-)Politik“ widmen.

Quellen 

[1] Zit. Jahn, Sandy/Kaste, Stefanie/März, Anna/Stühmeier, Romy: Denkimpuls digitale Bildung. Einsatz von Künstlicher Intelligenz im Schulunterricht. Berlin: Initiative D21 2019. S. 6.

[2] Zit. Die Bundesregierung: Strategie Künstliche Intelligenz der Bundesregierung. 2018. S. 30.

[3] Vgl. Künstliche Intelligenz und Maschinelles Lernen – Wirtschaftsfaktoren und Chancen für den Standort Schleswig-Holstein. Heute und morgen. Flensburg, Kiel, Lübeck: IHK Schleswig-Holstein 2019. S. 11.

[4] Zit. Jahn, Sandy/Kaste, Stefanie/März, Anna/Stühmeier, Romy: Denkimpuls digitale Bildung. Einsatz von Künstlicher Intelligenz im Schulunterricht. Berlin: Initiative D21 2019. S. 10.

[5] Zit. Jahn, Sandy/Kaste, Stefanie/März, Anna/Stühmeier, Romy: Denkimpuls digitale Bildung. Einsatz von Künstlicher Intelligenz im Schulunterricht. Berlin: Initiative D21 2019. S. 11.

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.