KI (Künstliche Intelligenz) ist derzeit fast täglich ein fester Bestandteil der Nachrichtenwelt. Wir haben Prof. Dr. Alfred Franz und Prof. Dr. Dominik Müller von der Technischen Hochschule Ulm (THU) um eine Einordnung der Chancen und Risiken durch die KI gebeten.
Die Professoren sehen in der künstlichen Intelligenz (KI) das nächste große Kapitel der digitalen Transformation unserer Gesellschaft, vergleichbar mit der Einführung des Internets oder des Smartphones. Franz und Müller sind an der THU mit den Schwerpunkten Medizinische Informatik und angewandte KI tätig und ordnen die aktuelle Lage objektiv ein. Sie wollen berechtigte Sorgen ernst nehmen, gleichzeitig aber aufzeigen, dass KI in erster Linie ein mächtiges Werkzeug ist. Zwar gehören Schreckensszenarien von unkontrollierbarer, sich selbst ermächtigender KI ins Reich der Science-Fiction, dennoch sind Missbrauch und Nachlässigkeit im Umgang mit KI eine reale Gefahr. Diese lässt sich durch geeignete Sicherheitsmaßnahmen beherrschen. Bei der Beantwortung unserer Fragen äußern sich die Professoren dazu, wie dies gelingen kann.
Welche Vorteile bietet KI den privaten Nutzern von PCs etc.?
Spezialisierte KI-Verfahren werden seit vielen Jahren eingesetzt – etwa für Bilderkennung, Prognosen oder die Analyse großer Datenmengen, z. B. auch in Social Media. Während der Begriff KI weit mehr umfasst als nur Sprachmodelle, stehen Systeme wie ChatGPT, Gemini und Co. derzeit im Fokus der Öffentlichkeit. Sie bieten enorme Erleichterungen bei Alltagsaufgaben: von der Zusammenfassung und Umformulierung von Texten über fließende Übersetzungen bis hin zur Recherche und dem Verfassen von E-Mails aus einfachen Stichpunkten.
Im Alltag liegt darin ein großer praktischer Nutzen, auch weil die Bedienung über natürliche Sprache die Einstiegshürde erheblich senkt; per Spracheingabe kann KI zudem Barrieren reduzieren. Besonders interessant ist, dass Nutzer nicht mehr nur einzelne Suchbegriffe eingeben müssen, sondern komplexere Fragen stellen können. Statt beispielsweise lediglich nach Rezepten zu suchen, kann man beschreiben, welche Zutaten vorhanden sind, welche Unverträglichkeiten berücksichtigt werden sollen und wie viel Zeit zur Verfügung steht. KI wird damit zunehmend zu einem persönlichen Werkzeug für Informationsbeschaffung, Organisation und kreativen Austausch.
Sind von der KI signifikante Erleichterungen/Fortschritte bei der Forschung etc. zu erwarten?
Absolut. KI wird bereits seit über zehn Jahren verstärkt in allen Fachbereichen eingesetzt – von den Geisteswissenschaften über die Technik bis hin zur Medizin. Sie beschleunigt Simulationen, unterstützt Vorhersagen und verbessert die Materialforschung. Besonders die beschleunigte Datenanalyse, durch die komplexe Sachverhalte und Muster in großen Datenmengen gefunden werden können, hat bereits zahlreiche Fortschritte ermöglicht. Sowohl in der Forschung als auch in der Industrieanwendung ist KI nicht als „Ersatz für Menschen“ zu verstehen, sondern als Erweiterung des Werkzeugkastens. In einigen Bereichen hat sich die Leistungsfähigkeit der KI-Werkzeuge schon deutlich gezeigt: Beispiele sind die Bildverarbeitung zur Erkennung von Objekten, Übersetzungen von Texten oder die Programmierung. Gerade die neuesten Sprachmodelle können jedoch auch in vielen anderen Bereichen eingesetzt werden, wobei bisher nicht alle davon in der Tiefe untersucht sind. Wir raten daher zu einem vorsichtigen Umgang mit KI-Werkzeugen und zur sorgfältigen Prüfung KI-generierter Inhalte. Der sichere Umgang mit KI wird künftig voraussichtlich eine Grundfähigkeit in der Industrie sein, ähnlich wie heute die Nutzung von Textverarbeitung oder Tabellenkalkulation.
Fortschritte in der Anwendung von KI zeigen sich auch in verschiedenen Forschungsprojekten an der THU, unter anderem im Forschungsschwerpunkt Technik in Gesundheit und Medizin: Wir haben in Kooperation mit der Universität Augsburg und dem dortigen Universitätsklinikum einen KI-Prototypen entwickelt, der anhand von MRT-Bildern den Krankheitsverlauf bei aggressiven Hirntumoren (Glioblastomen) abschätzt und Ärzten bei der Therapieabwägung hilft. In einem weiteren Beispielprojekt wurde in Kooperation mit dem Universitätsklinikum Ulm und dem Bezirkskrankenhaus Günzburg im Rahmen einer Studie eine KI trainiert. Sie unterstützt Ärzte bei der Schlaganfallbehandlung, indem sie Gefäßverschlüsse in Röntgensequenzen erkennt. Aber auch in Bereichen außerhalb der Medizin wird an der THU aktiv geforscht: So treiben wir über das Transferzentrum für Digitalisierung, Analytics & Data Science Ulm (DASU) branchenübergreifende Lösungen wie den „Private GPT“ voran – einen lokal gehosteten KI-Chatbot, der es Unternehmen ermöglicht, große Mengen an internen Firmendaten datenschutzkonform und ohne Cloud-Anbindung auszuwerten. In diesen Beispielen dient die KI rein als Assistenzwerkzeug. Die endgültige Entscheidung verbleibt beim Menschen.
Profitieren Verwaltungen, Gewerbe, Industrie, Dienstleistungen, Gesundheitsbranche etc. von der KI (in welchem Umfang, sofern absehbar)?
Das Potenzial ist in allen genannten Bereichen groß, allerdings jeweils auf unterschiedliche Weise. Im Gesundheitswesen kann KI beispielsweise Diagnostik unterstützen und gleichzeitig bei zeitaufwendiger Dokumentation entlasten. Dabei sind Datenschutz und der Schutz besonders sensibler Gesundheitsdaten zentrale Voraussetzungen.
In der Industrie kann KI Ausfälle durch vorausschauende Wartung vermeiden, Produktionsabläufe optimieren und große Mengen an Prozess- oder Sensordaten auswerten. In der Verwaltung bietet sie Chancen bei der strukturierten Erfassung von Bürgeranliegen, der Dokumentenprüfung und der Vorbereitung standardisierter Abläufe. Im Dienstleistungsbereich können Angebote stärker an individuelle Bedürfnisse angepasst werden.
Auch in der Informatik verändert KI die Arbeit bereits spürbar: Als Programmierassistent kann sie beim Erstellen, Erklären und Prüfen von Code helfen. Das erhöht die Produktivität, verlangt aber zugleich Fachwissen, weil generierter Code fehlerhaft oder unsicher sein kann. Genau hier zeigt sich ein Grundprinzip: KI ist besonders stark, wenn sie Fachleute unterstützt – nicht, wenn ihre Ergebnisse ungeprüft übernommen werden.
Künftig werden voraussichtlich sogenannte KI-Agenten wichtiger. Darunter werden meist KI-Assistenten verstanden, die uns wie digitale Kollegen im Arbeitsalltag zur Seite stehen und mehrstufige Aufgaben selbstständig abarbeiten können. Auch hier gilt: Auf welche Daten, Programme und externen Systeme ein solcher Agent Zugriff hat, sollte von den Nutzern technisch klar begrenzt und kontrolliert werden.
Welche Gefahren gehen angesichts der Schreckensmeldungen, in denen sich die KI selbstständig machte, Phishing-Mails verschickte und andere Systeme hackte, von der KI aus?
KI ist ein starkes Werkzeug, das sowohl sinnvoll als auch missbräuchlich eingesetzt werden kann. Die aktuell realistischste Gefahr besteht weniger darin, dass eine KI „von selbst“ kriminell wird, sondern darin, dass Menschen KI für kriminelle Zwecke einsetzen oder Systeme mit zu weitreichenden Rechten schlecht absichern.
Die größte Herausforderung liegt in der Skalierung der Cyberkriminalität. Es wird immer einfacher, echte Nutzer zu simulieren oder sich KI-Systeme zunutze zu machen, um in gesicherte Netzwerke einzudringen, da die KI das gesammelte Wissen langjähriger IT-Sicherheitsexperten bündelt. Auch die Erstellung von Phishing-E-Mails, die früher oft an ihrem holprigen Sprachgebrauch oder fehlerhaftem Deutsch zu erkennen waren, wird durch KI menschenähnlicher und wirkt auf den ersten Blick täuschend echt. Daneben existieren auch sogenannte „Deepfakes“: KI-generierte Bilder, Stimmen und Videos sind für den Menschen kaum noch von der Realität zu unterscheiden.
Hinzu kommt ein zweites Risiko: KI kann Fehler machen. Sprachmodelle erzeugen Antworten statistisch auf Basis gelernter Muster; sie besitzen kein vollständiges Weltverständnis und können falsche oder erfundene Angaben liefern. Deshalb müssen wichtige Ergebnisse überprüft werden – besonders bei Medizin, Recht, Finanzen, IT-Sicherheit oder anderen folgenreichen Entscheidungen.
Überwiegen die Vorteile der Anwendungen von KI, oder sind die Risiken zu groß oder gar unbeherrschbar?
Die Vorteile sind enorm und durchdringen alle Lebensbereiche – von der Industrie über die Verwaltung und Forschung bis hin zum privaten Alltag. KI ist der nächste logische Schritt der digitalen Transformation unserer Gesellschaft. Jedoch müssen wir uns – ähnlich wie bei der Verbreitung des Internets und von Social Media – intensiv über die ethische und regulierte Nutzung Gedanken machen. Die Politik und Gesetzgebung müssen hierbei schneller und vorausschauender agieren als bei früheren digitalen Umbrüchen, damit wir KI-Anwendungen reguliert, von Behörden zertifiziert und vor allem sicher nutzen können, ohne sinnvolle Innovation unnötig zu verhindern.
Wir befinden uns bei generativer KI noch in einer frühen Phase der breiten Nutzung. Auch Energiebedarf und Kosten spielen dabei eine Rolle. Viele Angebote wurden zunächst sehr günstig oder kostenlos verfügbar gemacht; langfristig wird sich stärker zeigen, welche Anwendungen wirtschaftlich und ökologisch sinnvoll sind.
Gibt es überhaupt Notfallprogramme, die unerwünschte „Ausbrüche“ der KI, wie sie in letzter Zeit erfolgten, verhindern?
Berichte über KI-Systeme, die angeblich „ausbrechen“, klingen dramatischer, als die technische Situation meist ist. Solche Fälle entstehen typischerweise in kontrollierten Testumgebungen, in denen Forschende einem System bewusst Werkzeuge, Internetzugang oder weitreichende Rechte geben, um problematisches Verhalten zu untersuchen. Das ist nicht dasselbe wie ein frei agierendes System mit eigenem Willen. Von ungewollten „Ausbrüchen“ abzugrenzen ist der kriminelle Einsatz von KI-Werkzeugen durch Cyberkriminelle, auf den wir bereits eingegangen sind. Im Folgenden soll es jedoch darum gehen, wie sich ungewollte Effekte verhindern lassen.
Sicherheit entsteht vor allem durch Begrenzung: Ein KI-System, aber auch jede andere Software, sollte nur auf die Daten, Programme und Netzwerke zugreifen können, die es für seine Aufgabe tatsächlich benötigt. Kritische Aktionen können zusätzliche Freigaben erfordern, Systeme können in isolierten Umgebungen betrieben und Zugriffe protokolliert werden. Und auf der elementarsten Ebene bleibt KI an Hardware gebunden: Rechner und Rechenzentren können vom Netz getrennt oder abgeschaltet werden.
Die wichtige Lehre lautet daher nicht, dass KI unkontrollierbar sei, sondern dass leistungsfähige Systeme professionell abgesichert werden müssen. Je mehr Handlungsmöglichkeiten man einem KI-System gibt, desto sorgfältiger müssen Rechte, Prüfmechanismen und menschliche Aufsicht gestaltet sein.
Was sagen Sie besorgten Menschen, die Angst haben, dass die KI die Machtverhältnisse umkehrt und Menschen die Kontrolle über sie komplett verlieren?
Derzeitige KIs bieten beeindruckende Möglichkeiten im Positiven wie auch im Negativen. Aber sie haben keinen eigenen Willen im menschlichen Sinn. Sie sind weiterhin IT-Systeme, die von Menschen bedient, kontrolliert und im Zweifel auch abgeschaltet werden. Die Kontrolle liegt aktuell häufig in der Hand kommerzieller Betreiber. Wer also Zugriff auf und Kontrolle über KI-Werkzeuge hat, ist eine wichtige gesellschaftliche Frage. Klare gesetzliche Rahmenbedingungen können hierbei helfen. Die EU hat mit dem AI-Act ein entsprechendes Regelwerk seit 2024 schrittweise in Kraft gesetzt.
Zur Einordnung künftiger Chancen und Risiken von KI kann ein Vergleich mit der Entwicklung des Internets helfen: Auch dort gab es zu Beginn große Chancen, neue Risiken und viel Unsicherheit. Mit der Zeit entstanden Sicherheitsstandards, Schutzsoftware, Regeln und digitale Kompetenzen. Einen ähnlichen Lernprozess werden wir voraussichtlich bei KI erleben. Ziel sollte nicht sein, aus Angst auf die Technologie zu verzichten, sondern sie so zu gestalten und einzusetzen, dass Menschen von ihr profitieren und die Kontrolle über ihren Einsatz behalten.