Lunch-Talk im Oktober: „Generative KI in der Wissenschaft: Wie verändert sich die wissenschaftliche Praxis?“ (Dr. Anne K. Krüger, Weizembaum-Institut) : Datum:
Anne K. Krüger erforscht in ihrem Projekt KIWi den Einsatz generativer KI in der Wissenschaft. Eine Erkenntnis: Es geht auch um Produktivitätsdruck und Geschwindigkeit. Weitere Erkenntisse stellt sie im Interview und im Lunchtalk vor.
Wie kamen Sie auf die Idee zu Ihrem Projekt?
Wir konnten sehr schnell beobachten, dass sich generative KI auch in der Wissenschaft rasant verbreitet. Schon im Januar 2023 konnte man in Nature nachlesen, dass ChatGPT als Autor genannt wurde. Nature hat das zwar sofort unterbunden. Aber der Fall hat gezeigt, wie schnell sich generative KI und Large Language Models in der Wissenschaft verbreiten. Inzwischen geht es längst nicht mehr nur darum, Texte zu produzieren. Generative KI wird an ganz unterschiedlichen Stellen des Forschungsprozesses eingesetzt. Darauf wollten wir einen genaueren Blick werfen.
Wie sind Sie dabei vorgegangen?
Zunächst haben wir uns vor allem auf die Wissenschaftlerinnen und Wissenschaftler selbst konzentriert. Wir haben eine explorative Online-Umfrage durchgeführt, um zu sehen: Wofür wird generative KI genutzt? Was gilt als legitime Nutzung? Und wie bewerten Wissenschaftlerinnen und Wissenschaftler ihre eigenen Erfahrungen mit generativer KI?
Zusätzlich haben wir mit Fokusgruppen gearbeitet. Das war ursprünglich gar nicht geplant, hat sich aber als sehr wichtig erwiesen, um zu verstehen, wie die Nutzung von generativer KI in unterschiedlichen Disziplinen diskutiert wird. Wir haben dafür Wissenschaftlerinnen und Wissenschaftler unterschiedlichen akademischen Alters zusammengebracht und mit ihnen darüber gesprochen, wie sich ihr wissenschaftlicher Alltag verändert.
Jeden Tag scheint sich etwas zu verändern. Ist das für ein Forschungsprojekt nicht ein erhebliches Problem?
Ja, das ist tatsächlich eine Herausforderung. Das Thema ist kontinuierlich in Bewegung. Es ist ein „Moving Target“. Es passiert einfach unglaublich viel. Es stellt sich deshalb die Frage, inwieweit man bei einem solchen Thema überhaupt ein Forschungsprojekt durchführen kann, an dessen Ende man nach drei Jahren sagt: Das haben wir herausgefunden. Vielleicht ist es bei einem so aktuellen Thema daher wichtiger, kontinuierlich zu beobachten und zu dokumentieren, was passiert. Wir verstehen unsere Arbeit deshalb auch als das Monitoring eines momentanen Ist-Zustandes. Der kann sich jederzeit verändern. Aber wir können damit Impulse für die Diskussion darüber geben, was Wissenschaftlerinnen und Wissenschaftler gerade beschäftigt und wie sich das Wissenschaftssystem als solches dadurch verändert.
Wir werden auch sehr häufig für Vorträge angefragt, was verdeutlicht, dass das Interesse in allen Disziplinen groß ist. Die Menschen wollen wissen, was gerade passiert, und zugleich innerhalb ihrer eigenen Institutionen darüber diskutieren.
Gibt es trotz dieser Dynamik bereits Entwicklungen, die sich klar abzeichnen?
Man merkt, dass es um wesentlich mehr geht als um die Veränderung von Methoden oder die konkrete Autorschaft eines Textes. Im Kern geht es um die Urheberschaft wissenschaftlicher Erkenntnis, von der Forschungsfrage über die Interpretation von Ergebnissen bis zur Textproduktion und Peer Review. Wir haben es hier wirklich mit fundamentalen Fragen zu tun, die wissenschaftliche Erkenntnis als solche betreffen.
Wie unterschiedlich gehen Wissenschaftlerinnen und Wissenschaftler mit KI um?
Natürlich gibt es Unterschiede zwischen den Disziplinen, weil sie methodisch unterschiedlich arbeiten. Wissenschaften, die schon immer stark mit technischen Verfahren gearbeitet haben, sind tendenziell affiner für den Einsatz von KI. In anderen Disziplinen ist sie möglicherweise weniger etabliert. Das hat auch mit methodologischen und epistemologischen Voraussetzungen zu tun. Die grundlegenden Fragen, die verhandelt werden, ähneln sich disziplinenübergreifend aber stark: Woher kommen Ideen? Und wie kann ich die Erkenntnisse, die ich produziert habe, weiterhin legitimieren und nachvollziehbar machen?
Warum wird KI überhaupt eingesetzt? Geht es den Wissenschaftlerinnen und Wissenschaftlern darum, bessere Forschung zu machen?
Das ist eine interessante Frage. Wir sehen, dass einerseits viel über neue methodische Möglichkeiten diskutiert wird. Gleichzeitig wird auch viel darüber reflektiert, dass generative KI ein Tool für Expertinnen und Experten ist, das Expertise nicht ersetzt, sondern vielmehr voraussetzt. Darüber hinaus sehen wir aber auch, dass der Einsatz von KI an vielen Stellen des Forschungsprozesses nicht unbedingt aus Gründen erfolgt, die dazu führen sollen, dass bessere Wissenschaft gemacht wird. Häufig spielen hier auch wissenschaftsexterne Gründe eine Rolle: Im Wissenschaftssystem gibt es enormen Druck. Es muss sehr viel publiziert werden, es müssen viele Anträge geschrieben werden, Geschwindigkeit ist ein großes Thema. Generative KI wird deshalb auch dafür eingesetzt, um mit diesem Druck weiter Schritt halten zu können.
Wie viel Orientierung bekommen Wissenschaftlerinnen und Wissenschaftler dabei von ihren Institutionen?
Das ist sehr heterogen. Es gibt Guidelines, und die werden sicherlich auch immer mehr werden. Es ist nur tatsächlich die Frage, inwieweit diese Guidelines greifen, weil oft überhaupt nicht nachweisbar ist, wo und wie KI angewendet wird. Dagegen fehlt an vielen Stellen noch die Selbstverständigung in der wissenschaftlichen Community darüber, was in Zeiten von generativer KI die eigene Wissenschaftlichkeit ausmacht und welche Standards man sich hier selbst setzt.
Und wie sieht es mit der Bereitstellung der entsprechenden Infrastruktur aus?
Uns zeigt sich ein Bild, in dem viele aktuell private Lizenzen nutzen. Aber es ist ebenfalls eine viel diskutierte Frage – schon allein aufgrund von Fragen des Datenschutzes. Alle sind hier auf der Suche nach einem adäquaten Umgang bei der Frage, ob man kommerzielle Produkte zur Verfügung stellt oder tatsächlich versucht, auf Open-Source-Lösungen zu setzen. Das ist aktuell an jeder Institution anders.
Die Aufzeichnung des Oktober-Lunchtalks finden Sie bald an dieser Stelle.