ChatGPT ist derzeit allgegenwärtig – auch und insbesondere im Bildungskontext. Doch was ist eigentlich generative KI? Wie funktioniert sie? Und welche ethischen und gesellschaftlichen Fragen wirft ihr Einsatz auf? Um das zu erfahren, trafen sich am 19. Juli 180 Schüler*innen und Lehrkräfte in der Pausenhalle des Montessori Zentrum ANGELL zu einem Vortrag von Jacqueline Bellon vom Internationalen Zentrum für Ethik in den Wissenschaften, Tübingen.
Kooperation von Montessori Zentrum ANGELL, Gymnasium Kenzingen und School of Education FACE
Angeregt wurde die Initiative von Lehrkräften vom Montessori Zentrums ANGELL und vom Gymnasium Kenzingen, nach der Teilnahme an einer Veranstaltung der Universität Freiburg im Februar 2023. Am Ende jeden Semesters besteht für Lehrkräfte der Hochschulpartnerschulen die Möglichkeit an den Vorträgen der Abschlusskonferenz im Service Learning teilzunehmen und mit den Referent*innen ins Gespräch zu kommen. Die Themenschwerpunkte sind, neben Digitalisierung, Bildung für Nachhaltige Entwicklung, Interkulturalität und Ethik sowie Demokratiebildung, immer im Sinne der aktiven gesellschaftlichen Verantwortungsübernahme.
Was ist generative KI? Und was kann sie?
Jacqueline Bellon gelang es, mit ihrer Präsentation die Schüler*innen bei ihren Fragen und Interessen abzuholen. In ihrem Vortrag mit dem Titel „Gesellschaftliche und ethische Fragen zu generativer KI“ fokussierte sie unter den Anwendungen künstlicher Intelligenz auf die generative KI. Der Begriff der ‚Künstlichen Intelligenz“ so führte sie ein, hat seinen Hintergrund in der Werbung für die Dartmouth Summer School von John McCarthy im Jahr 1955. Sie veranschaulichte neuronale Netzwerke und entfaltete dann die Möglichkeiten, die derzeit mit generativer KI gegeben sind und die ethischen Fragen, die sich hier stellen. Sie zeigte an Bespielen, wie die Anwendungen funktionieren und ging dabei auf die Wünsche der Schüler*innen ein.
Viele Formen generativer KI unter Schüler*innen wenig bekannt
Die Schüler*innen wurden nach ihren Erfahrungen mit generativer KI befragt, und während eine große Mehrheit Text-to-Text-Anwendungen wie ChatGPT kennt und nutzt, wurde die Menge der Nutzer*innen von Text-to-Image-Anwendungen, Image-to-Image-Anwendungen, Text-to-Video-Anwendungen bis Image-to-Text-Anwendungen kleiner.
Spannend wird der Übergang zu Artificial Generalised Intelligence (AGI), wenn die von ChatGPT erzeugte sprachliche Information an andere Dienste weitergegeben wird.
Ethische Herausforderungen generativer KI
Jacqueline Bellon benannte eine Vielzahl von ethischen Herausforderungen:
- Fragen der globalen Gerechtigkeit: Um Informationen in ChatGPT einzuspeisen, ist viel ‚Clickwork‘ nötig, dies erfolgt im Globalen Süden zu geringfügigen Löhnen (Ghostwork). Zugleich sind die Menschen im Globalen Süden mehrheitlich von der Teilhabe ausgeschlossen.
- Fragen der Umweltgerechtigkeit: Der Stromverbrauch für das Training des KI-Modells wurde im Januar 2023 mit fast einer Gigawattstunde in 34 Tagen geschätzt; dies entspricht insgesamt etwa dem Verbrauch von 3000 europäischen Durchschnittshaushalten im gleichen Zeitraum.
- Fragen der Mensch-Technik bzw. Mensch-KI-Interaktion:
Jedes Ergebnis hängt ab von der Güte der Trainingsdaten, generative KI hat nachweislich die Eigenschaft, Stereotypen zu perpetuieren.
Stichwort Skalierung: Die Geschwindigkeit, mit der KI agiert, ist für Menschen nicht nachvollziehbar, Bsp. Börsenhandel). Gleiches gilt für die Entwicklungsgeschwindigkeit und die menschlichen Möglichkeiten, Schritt zu halten. Wie konzipieren Menschen das Verhältnis zur KI (Anthropomorphisierung, Überhöhung/Unterschätzung, Wunschmaschine oder Alptraum?)
Diskutiert wurden weiterhin:
- Die Möglichkeit des Nachweises, dass Texte von ChatGPT geschrieben und unter eigener Autorenschaft abgegeben wurden. Derzeitig erhältliche Programme ermitteln dies mit einer Zutreffenswahrscheinlichkeit von 26%, gleichzeitig gibt es bei den besten verfügbaren Überprüfungstools Falschpositivraten von 9 % (d.h.: ein von Menschen verfasster Text wird als maschinengeneriert klassifziert)
- Die grundlegende Frage, ob man Menschen als von der Technik determiniert konzipiert oder umgekehrt, Technik als vom Menschen determiniert.
- Mensch-Technik-Relationen, wie die enge Verbindung mit dem Chat-Bot Replica, den User menschlichen Kontakten vorzogen.
- Das Phänomen des Overtrust; Menschen folgen den Anweisungen technischer Objekte oder Systeme, obwohl ihre Erfahrungen dagegen sprechen.
Fazit: Sich auf Neues einlassen, ohne blind für Risiken zu sein
Schließlich kam die Referentin zur Take-Home-Message.
Schülern und Schülerinnen – und auch Lehrkräften – wurde empfohlen:
… sich und andere zu informieren,
… die Technik verstehen zu wollen,
… Faktencheck zu betreiben,
… die Neugierde nicht zu verlieren,
… einer gesellschaftlichen Spaltung entgegenzuwirken,
… neue Erwartungen auszubilden,
… Regulationen einzufordern und
… den Planeten zu schützen.
Dem ist nichts hinzuzufügen, außer vielleicht, dass dieser Veranstaltung viele weitere ähnliche – nicht nur – an den anderen Partnerschulen der School of Education FACE zu wünschen sind.
Die Referentin
Jacqueline Bellon (IZEW, Universität Tübingen und Institut für Philosophie, PH Ludwigsburg) ist wissenschaftliche Mitarbeiterin im Projekt ESTER (Ethische und soziale Aspekte Integrierter Forschung) am Internationalen Zentrum für Ethik in den Wissenschaften, Tübingen. Sie hat zuvor am Aufbau des Clusters Integrierte Forschung mitgearbeitet und war für ein assoziiertes Projekt zur Sozialen Angemessenheit für Assistenzsysteme an der Uni Siegen angestellt. Sie promoviert an der TU Darmstadt über den französischen Psychologen und Philosophen Gilbert Simondon.
Weitere Informationen zur Referentin bei LinkedIn und Mastodon.