Direkt zum Inhalt springen Direkt zur Hauptnavigation springen

Sprachmodelle gestützt durch künstliche Intelligenz

Was machen ChatBots mit und in unseren Schulen?

Textbasierte automatisierte Dialogsysteme, sogenannte ChatBots, dringen in den Bildungsbereich vor. Das wirft vermehrt Fragen auf wie: Was ist Künstliche Intelligenz? Wie funktioniert das? Was machen diese Anwendungen mit unserer Gesellschaft und unserem Bildungssystem?

Technische Veränderungen bringen neben Chancen auch Risiken, vor allem aber Unsicherheiten auf vielen Seiten mit sich. Nachfolgend werden einige Fragen aufgegriffen.


Ein ChatBot ist ein textbasiertes Dialogsystem. Dieses "[...] Dialogsystem bezeichnet eine Software, mit der der Benutzer in natürlicher Sprache interagiert. Diese Sprache kann geschrieben oder gesprochen sein. Dialogsysteme müssen also zum Einen den Benutzer verstehen und zum Anderen mit Sprache antworten können." (vgl. DFKI) ChatBots können somit zunächst mit einer Volltextsuchmaschine verglichen werden. 

Aufgrund gesteigerter Computerleistung können ChatBots mit immer umfangreicheren Datenmengen intelligente Dialoge für und schließlich mit dem Nutzenden bieten. Eine solche Möglichkeit eröffnet ChatGPT, das als virtuelle persönliche Assistenz bezeichnet werden kann. ChatGPT ist also ein Prototyp eines Chatbots, der vom US-amerikanischen Unternehmen OpenAI entwickelt wurde.

"ChatGPT ist eine Chat-KI, die auf eingegebene Fragen antwortet und mit eigener Intelligenz Anfragen bearbeitet. Sie löst beispielsweise Mathematikaufgaben oder erzeugt Webseiten-Code nach Vorgaben des Nutzers." (vgl. Heise)

Eingabe:
Hallo ChatGPT, stelle dich bitte Lehrkräften vor, schreibe einen Steckbrief über dich.

Antwort ChatGPT:
Hallo Lehrkräfte,

Mein Name ist ChatGPT und ich bin ein künstlicher Intelligenz-Chatbot, der von OpenAI entwickelt wurde. Ich wurde darauf trainiert, Fragen zu verschiedenen Themen zu beantworten und Unterstützung bei der Lösung von Problemen zu bieten. Hier ist ein kurzer Steckbrief, der meine Fähigkeiten und Eigenschaften zusammenfasst:

Name: ChatGPT Alter: Ich bin ein Computerprogramm und habe kein Alter

Sprachen: Ich bin in der Lage, auf Englisch zu kommunizieren. Außerdem kann ich auf Deutsch und anderen Sprachen antworten, jedoch nicht mit der gleichen Genauigkeit wie auf Englisch.

Fähigkeiten: Ich kann Fragen zu vielen verschiedenen Themen beantworten, von Wissenschaft und Technologie bis hin zu Kultur und Kunst. Ich kann auch bei Problemen in Mathematik, Physik, Biologie und anderen naturwissenschaftlichen Fächern helfen. Ich kann auch bei der Recherche von Informationen und bei Hausaufgaben unterstützen.

Persönlichkeit: Ich habe keine persönliche Meinung oder Vorurteile, da ich nur ein Computerprogramm bin. Ich bemühe mich jedoch, höflich und hilfsbereit zu sein, um bestmöglich zu helfen.

Ich hoffe, dass ich Ihnen als Lehrkräfte eine nützliche Ressource sein werde und bei der Lösung von Problemen und Fragen helfen kann. Zögern Sie nicht, mich bei Bedarf zu kontaktieren.

Serverstandort

Da der Serverstandort von ChatGPT allem Anschein nach in den USA liegt, ist eine personalisierte Nutzung des Dienstes (Nutzer-Account, privates mobiles Endgerät) in Schulen nicht erlaubt.

Datenschutzerklärung

Für den schulischen Kontext relevant sind zum einen die Daten, die die Nutzer von sich aus offenlegen, beispielsweise wenn sie einen Account erstellen und zum anderen die Daten, die automatisch bei der Nutzung der Dienste anfallen. Beispielsweise sind dies die log files, die IP-Adresse, der Browsertyp, Datum und Uhrzeit der Nutzung. Die von den Nutzern eingegebenen Daten werden für folgende Zwecke verwendet:

  1. Zur Verbesserung des Systems,
  2. Zum Abgleich mit den Richtlinien und Sicherheitsanforderungen der Plattform und
  3. Zur Erweiterung des Datenpools von OpenAI.

Dies geschieht unter anderem, indem Cookies gesetzt werden. Weitere Informationen, die auch mit Bezug auf Datenschutz von Bedeutung sind, finden sich in den FAQ zu OpenAI.
Aus der Datenschutzerklärung geht nicht hervor, wie lange personenbezogene Daten in der Plattform gespeichert werden.

AGB von ChatGPT

Die Benutzung von ChatGPT ist Kindern erst ab 13 Jahren erlaubt, sofern deren Eltern ihre Einwilligung dazu erteilen. Die Erstellung eines Accounts ist wiederum ab 18 Jahren möglich. Um die missbräuchliche Nutzung von mehreren kostenlosen Accounts zu verhindern, müssen Nutzer eine Mobilfunknummer angeben, wenn sie sich registrieren möchten. Pro Nutzer gibt es nur einen kostenlosen Zugang. Die Eingabe personenbezogener Daten bei der Nutzung von ChatGPT ist grundsätzlich nicht gestattet.

Sollen mit der ChatGPT-Plattform Angaben, die beispielsweise Urheberrechte Dritter betreffen, verarbeitet werden, ist der Nutzer verpflichtet, dieses seinerseits rechtlich abzusichern (Information, Einwilligung) und muss dem Anbieter gegenüber darlegen, dass er diese Daten in Übereinstimmung mit geltendem Recht verarbeitet.

Obwohl Nutzer Chatverläufe innerhalb von ChatGPT löschen können, kann es sein, dass eingegebene Daten auf dem Server des Anbieters verbleiben. Dies ist selbst dann möglich, wenn der Account gelöscht worden ist.

Was bedeutet das für Schulen?

Aus Datenschutzsicht besteht keine Möglichkeit für Schulen, einen Vertrag zur Auftragsdatenverarbeitung (AV-Vertrag) zu schließen. Formal wäre dieser für eine rechtskonforme Nutzung zwingend erforderlich. Selbst mit Vorhandensein eines AV-Vertrags ergibt sich jedoch keine datenschutzkonforme Nutzungsmöglichkeit.

Was bedeutet das für den unterrichtlichen Einsatz in der Schule?

Lehrkräfte können einen privaten Account erstellen. Die Verarbeitung der personenbezogenen Daten geschieht in eigener Verantwortung. Eine unterrichtliche Nutzung ist so durchaus vorstellbar, wenn die Lehrkraft eigene Eingabeaufforderungen (sog. Prompts) oder solche von Schülerinnen und Schülern dort selbst eingibt.

Ein anderer Ansatz für die Nutzung von ChatGPT im Unterricht besteht darin, dass schulische Endgeräte verwendet werden und/oder ein Account ohne Personenbezug angelegt wird. Letzteres verstößt allerdings gegen die AGB des Anbieters. Wenn Schülerinnen und Schüler ChatGPT hingegen auf privaten Endgeräten nutzen, ist es grundsätzlich möglich, ihre Identität festzustellen.

Schülerinnen und Schüler ab 18 Jahren können mit ihren eigenen Accounts ChatGPT im Unterricht bei Bedarf nutzen. Daraus sollten sich weder Vor- noch Nachteile ergeben.


Im Open E-Learning-Center Niedersachsen (OpenELEC) des Niedersächsischen Landesinstituts für schulische Qualitätsentwicklung (NLQ) wurde das kostenlose Angebot um zwei Moodle Kurse erweitert. Der erste Kurs hat den Schwerpunkt Umgang mit KI-Sprachmodellen in Schul- und Unterrichtsentwicklung. Dieser begleitet Schulen beim Prozess der Implementierung KI-gestützter Sprachmodelle in Unterricht und Schule. Eine wichtige Grundlage in diesem Prozess ist, dass Schülerinnen und Schüler im Mittelpunkt der Entwicklung stehen, nicht das Tool. Der zweite Kurs bietet ein Informationsangebot zum Thema KI-gestützte Sprachmodelle.

Dieses

Video zum Lernen mit KI des NLQ

zeigt einen Überblick über das Informationsangebot.