ChatGPT an der Uni?

„Eine disruptive Technologie ist eine Innovation, die bestehende Produkte, Dienstleistungen oder Geschäftsmodelle durch ihre radikale Verbesserung oder vollständige Ersetzung untergräbt.“ Diese Definition stammt selbst von einer disruptiven Technologie: ChatGPT, einer „generativen KI“, welche die Firma OpenAI am 30. November 2022 veröffentlicht hat.

ChatGPT basiert auf einem tiefen neuronalen Netzwerk. Diese ermöglicht es, Texte auf der Grundlage von Trainingsdaten zu generieren oder auf Anfragen zu antworten, indem sie die statistischen Muster und Zusammenhänge im Text erlernt und diese Informationen nutzt, um prädiktive Modelle zu erstellen.

Innerhalb von nur fünf Tagen hatte ChatGPT bereits eine Million User, mittlerweile nähern sich die monatlichen Anfragen der Milliarden-Grenze. Keine digitale Technologie hat sich in so kurzer Zeit so rasch verbreitet. Das enorme Tempo und die stetige Weiterentwicklung erschweren eine kritische Diskussion um die Chancen und Risiken dieser neuen Technologie.

Das zeigt sich auch bei der Stellungnahme „Mensch und Maschine – Herausforderungen durch Künstliche Intelligenz“, die der Ethikrat am 20. März veröffentlicht hat. Darin untersucht er umfassend die Auswirkungen digitaler Technologien auf das menschliche Selbstverständnis und Miteinander. Dort heißt es „Auch die Debatten um den […] Chatbot ChatGPT und andere Anwendungen sogenannter generativer KI […] zeigen, dass eine grundlegende Auseinandersetzung mit den Wechselwirkungen zwischen Mensch und Maschine erforderlich ist.“ Eine Fußnote erklärt allerdings, dass „die die inhaltliche Befassung mit der Stellungnahme zum Zeitpunkt der Veröffentlichung von ChatGPT bereits abgeschlossen war“ und daher „nicht detaillierter auf ChatGPT und die damit verbundenen Folgen für schulische Bildung eingegangen“ werden kann.

Ebenfalls am 20. März veröffentlichte die Uni Hohenheim ein Whitepaper und rief zum Einsatz von ChatGPT in Studium und Lehre auf. Das Whitepaper ist als Leitfaden für Studierende und Lehrende gedacht, ChatGPT oder andere generative KI-Anwendungen überlegt und kritisch zu nutzen. Beteiligt sind auch Forschende anderer Hochschulen sowie der Fraunhofer-Gesellschaft.

Die Autor:innen des Whitepapers nehmen eine grundsätzlich positive Haltung zum Einsatz von ChatGPT & Co. in Studium und Lehre ein, behandeln aber auch Probleme, wie die „Halluzinationen“ von ChatGPT, also erfundene Fakten und Referenzen, die durch die korrekte Sprache gefährlich überzeugend wirken.

Die Empfehlungen der beiden Leitfäden für Studierende und Lehrende sollen eine produktive Anwendung von ChatGPT fördern und einer kritiklosen oder gar missbräuchlichen Nutzung vorbeugen. Das beinhaltet das Nachdenken über die Lern- bzw. Lehrziele und die Frage nach dem Stellenwert des neuen Instruments. So wird ausdrücklich betont, dass Studierende beim Verfassen von Texten ChatGPT nur als zusätzliches Werkzeug wie Google, Wikipedia oder Übersetzungsprogramme nutzen sollten. Die Verantwortung für den Text liege allein bei den menschlichen Autor:innen.

Die Lektüre des Whitepapers lohnt sich, zumal es eine kompakte Einführung in die Thematik bietet, Orientierung über andere, ähnlich ausgerichtete Veröffentlichungen gibt und Anstöße für die weitere Diskussion, die sich nicht zuletzt an der wachsenden Leistungsfähigkeit von generativer KI entzünden wird. Das aktuelle Sprachmodell GPT-4 akzeptiert nun auch Bilder als Input für Anfragen.

Volker Bruns, Gruppenleiter Medizinische Bildverarbeitung am Fraunhofer-Institut für Integrierte Schaltungen IIS, hat ChatGPT in Bezug auf den Einsatz in der Wissenschaft auf den Zahn gefühlt. Er führte mit diesem ein Gespräch über digitale Pathologie und veröffentlichte dieses mit Kommentaren zur Korrektheit der Antworten.

Sein erstes Fazit: „Man muss sich gut überlegen, wie man die Texte geschickt und vernünftig einsetzt. Den Bot jetzt einfach etwas produzieren zu lassen und das dann mehr oder weniger ungesehen zu benutzen – da wird man sich schnell die Finger verbrennen. Wissenschaftlichen Ansprüchen genügt es jedenfalls nicht.“

Ein Meinungsbild zur ChatGPT-Nutzung liefert eine Kurzstudie, die der Wirtschaftsinformatiker Tobias Kollmann von der Universität Duisburg-Essen zusammen mit dem Marktforschungsunternehmen Civey durchgeführt hat. Befragt wurden sowohl über 5000 Bundesbürger:innen als auch rund 1500 Nutzerinnen und Nutzer von Chat GPT zu ihren Erfahrungen.

Rund ein Viertel der Deutschen ab 18 Jahren (23 %) steht der Möglichkeit, dass Menschen mit KI-Anwendungen kommunizieren können, grundsätzlich positiv gegenüber (41 % negativ, 35 % sind unentschieden). 17 % der Bundesbürgerinnen und -bürger haben Chat GPT schon einmal genutzt.

Fünf Prozent der 1500 befragten Nutzerinnen und Nutzer verwenden es täglich, immerhin 23 Prozent wöchentlich und weitere 21 Prozent monatlich. Viele Nutzende sind mit den Antworten der KI auf ihre Fragen zufrieden: 44 Prozent der befragten Personen, die ChatGPT schon verwendet haben, bewerten die Qualität der Antworten mit gut oder sogar sehr gut. Demgegenüber fanden nur 11 Prozent, dass die Qualität eher schlecht bzw. sehr schlecht war.

„Die Qualität der Antworten hat jedoch noch nichts mit der Richtigkeit der Inhalte zu tun“, gibt Tobias Kollmann zu bedenken. Deutlich über die Hälfte der Befragten (59 %) habe schon einmal Fehler in den Antworten von ChatGPT gefunden. Von einer automatischen Übernahme der Inhalte und Aussagen sei daher dringend abzuraten.

Die genannten Veröffentlichungen bieten auf unterschiedlich konkrete Weise Möglichkeiten, sich kritisch mit ChatGPT auseinanderzusetzen. Klar ist: Dies muss der Mensch selbst machen. Das meint auch der ChatBot selbst: „ChatGPT ist ein Computerprogramm und kann nicht selbst kritisch hinterfragen oder reflektieren, da es keine eigene Intelligenz oder eigenes Bewusstsein hat. Es kann nur auf die ihm zur Verfügung gestellten Informationen und Algorithmen zurückgreifen, um Antworten auf Anfragen zu generieren.“

Alexander Pawlak

Einige Absätze sind auf Grundlage von Antworten von ChatGPT entstanden, ich übernehme aber allein die Verantwortung für diesen Text. (AP)

Weitere Infos

• Whitepaper: H Gimpel et al., Unlocking the Power of Generative AI Models and Systems like GPT-4 and ChatGPT for Higher Education, Hohenheim Discussion Papers in Business, Economics and Social Sciences (2023) PDF
• Deutscher Ethikrat, Stellungnahme: Mensch und Maschine – Herausforderungen durch Künstliche Intelligenz (20. März 2023) PDF
• ChatGPT für die Wissenschaft - Eignet sich die KI für Texte in der Forschung? (Fraunhofer-Institut für Integrierte Schaltungen IIS)
• Kurzstudie Universität von Duisburg-Essen & Civey zu Erfahrungen mit der Nutzung von Chat-GPTZ (2023)
• DigitalDialog: Die Möglichkeiten und Risiken von ChatGPT und Co., 9. Mai 2023, 10 Uhr (Fraunhofer-Institut für Arbeitswirtschaft und Organisation IAO)
• Arbeitskreis Physik, moderne Informationstechnologie und Künstliche Intelligenz (AKPIK)

Weitere Beiträge

• A. Pawlak, Rezension: Was euch zu Menschen macht (2022) & 100 Jahre Joseph Weizenbaum
• Schwerpunkt: Künstliche Intelligenz, Physik Journal, April 2020
• H. Kagermann, Künstliche Intelligenz gestalten, Physik Journal, Oktober 2018, S. 3 PDF
• DKFI / Alexander Pawlak, Ein CERN für Künstliche Intelligenz? (Physik Journal Nachrichten, 20. Juni 2018)