KI-Apps im Diabetes-Test Studie in Tuttlingen zeigt Fehler bei Kohlenhydraten

Das Klinikum Landkreis Tuttlingen untersucht KI-Apps zur Schätzung von Kohlenhydraten. Die Studie zeigt deutliche Abweichungen mit Risiken für Menschen mit Diabetes.

Ausgangspunkt für die Untersuchung war eine Entwicklung, die das Team der Diabetologie seit einiger Zeit in der Patientenversorgung beobachtete. Immer mehr Menschen mit Diabetes mellitus nutzen Künstliche Intelligenz, um ihre Diabeteseinstellung zu verbessern. Dazu gehören Smartphone-Apps, die anhand eines Fotos die Kohlenhydratmenge einer Mahlzeit schätzen sollen.

Nicht nur insulinpflichtige Menschen mit Diabetes müssen wissen, wie viele Kohlenhydrate sie zu sich nehmen. Auch Sportler und Menschen, die Gewicht abnehmen möchten, zählen häufig Kalorien. Nachdem ein Patient eine Schulung zum Schätzen von Kohlenhydraten mit der Begründung abgelehnt hatte, er habe dafür eine App, nahm der ärztliche Leiter des Diabeteszentrums, Dr. Michael Bösch, dies zum Anlass für eine eigene Studie.

Fünf Apps müssen sich im Test beweisen

Über den Jahreswechsel 2025/2026 analysierten die Diabetesberaterinnen wochenlang Mahlzeiten aus der Klinikküche mithilfe einer Nährstoff-Analysewaage. Die dabei ermittelten Werte verglichen sie mit den Ergebnissen von fünf Apps, die unter Patienten weit verbreitet sind.

Untersucht wurden sowohl speziell für Menschen mit Diabetes entwickelte Anwendungen als auch große Sprachmodelle wie ChatGPT und Google Gemini. Die statistische Auswertung ergab zunächst, dass alle Apps die tatsächliche Menge an Kohlenhydraten deutlich überschätzten.

Werden solche Schätzungen als Grundlage für die Insulindosierung verwendet, fällt die Insulinmenge zur Mahlzeit entsprechend zu hoch aus. Für Menschen mit Diabetes entsteht dadurch das Risiko einer Unterzuckerung.

Ein weiterer Befund zeigte, dass die Apps zu deutlichen Ausreißern neigten. Während der Fastenzeit stand beispielsweise eine Mahlzeit aus Pfannkuchen mit Spinat und Salzkartoffeln auf dem Speiseplan. Das Team des Diabeteszentrums ermittelte mit der Waage 25 Gramm Kohlenhydrate. Eine der Apps taxierte dieselbe Mahlzeit dagegen auf 225 Gramm Kohlenhydrate.

„Spätestens hier wird deutlich,“, sagt Dr. Michael Bösch, „dass eine gute Schulung Patienten die Lage versetzt, solche Ausreißer zu erkennen und durch eigene Schätzungen richtig einzuordnen. Die Daten zeigten darüber hinaus, dass der Schätzfehler umso größer wurde, je mehr Kohlenhydrate sich auf einem Teller befanden.“

Komplexe Gerichte wurden nicht untersucht

Dabei hatte das Tuttlinger Team für die Untersuchung ausschließlich Gerichte ausgewählt, deren einzelne Komponenten erkennbar waren. Eintöpfe, Suppen oder in Teig gebackene Speisen wurden nicht berücksichtigt, da sich deren Inhaltsstoffe anhand eines einzelnen Fotos nicht ermitteln lassen.

Die Auswertung zeigte außerdem, dass jede App einen anderen Schätzfehler erzeugte. Keine der untersuchten Anwendungen bot demnach eine ausreichende Genauigkeit, um Patienten eine zuverlässige Grundlage für die Dosierung ihres Insulins zu liefern.

Das Team der Diabetologie um Dr. Michael Bösch entwickelte aus den Ergebnissen bereits Ansätze, wie sich solche Anwendungen verbessern ließen. So könnte eine Portion aus einer zweiten Ebene fotografiert werden, damit sich ihre Höhe auf dem Teller besser abschätzen lässt.

Auch dreidimensional aufgenommene Fotos, wie sie viele moderne Smartphones ermöglichen, könnten einen Mehrwert bieten. Viele Apps können solche Aufnahmen bislang jedoch nicht auswerten. Weitere Möglichkeiten wären die Eingabe der Tellergröße oder zusätzliche Angaben darüber, welche Lebensmittel auf dem Teller zu sehen sind, wenn die Anwendung diese falsch erkennt.

Studie auf Diabetes Kongress vorgestellt

Die Ergebnisse der Tuttlinger Studie wurden vor kurzem beim Deutschen Diabetes Kongress 2026 in Berlin präsentiert. Dr. Bösch zeigte sich erstaunt darüber, dass sich bislang vor allem Patienten mit den technischen Neuerungen beschäftigt hätten. Die eigene Studie sei die einzige von klinisch tätigem Fachpersonal erstellte Arbeit gewesen.

Aus Sicht von Krankenhäusern sei es überaus wichtig, die technische Entwicklung im Auge zu behalten und mit den Patienten Schritt zu halten. Menschen mit Diabetes seien schließlich jeden Tag mit dem Management ihrer Erkrankung beschäftigt und nähmen technische Hilfen an, von denen sie sich Erleichterung versprechen.

„Viele Apps versprechen jedoch deutlich mehr, als sie halten können“, lautet Michael Böschs Fazit. „Darüber hinaus sind die Apps sehr intransparent gehalten – keine offenbart einen Blick in Ihren Algorithmus. Man kauft also immer eine Black Box.“

Diese mangelnde Nachvollziehbarkeit sei typisch für Künstliche Intelligenz. Große Hersteller wie OpenAI, Google oder Anthropic kämpften aktuell mit plötzlich auftretenden ungewöhnlichen Fehlern wie unpassenden Kommentaren oder eingeblendeten Comicfiguren, ohne erklären zu können, warum diese Fehler auftreten.

Immer mehr Unternehmen beschäftigen sich deshalb mit sogenannter „explainable AI“. Darunter versteht man den Versuch, die Rechenwege Künstlicher Intelligenz nachvollziehbar zu machen. Für Dr. Bösch ist Transparenz gerade bei medizinischen Anwendungen entscheidend: „Gerade im medizinischen Bereich ist es wichtig, dass Anwendungen mit künstlicher Intelligenz offenlegen, wie sie zu ihren Ergebnissen kommen.“

„Guidance statt Ignoranz“

Die Beschäftigung mit Künstlicher Intelligenz bezeichnet Bösch „auch für medizinisches Fachpersonal als ganz essenziell“, weil die Entwicklung nicht an der Klinikpforte Halt machen werde. Am Klinikum Landkreis Tuttlingen wird Künstliche Intelligenz bereits erfolgreich in der Radiologie und Endoskopie eingesetzt.

Nach Einschätzung des Diabetologen bedroht KI keineswegs die Arbeitsplätze medizinischer Fachkräfte. Ärzte und Pflegekräfte müssten sich jedoch mit den Möglichkeiten und Risiken auseinandersetzen, damit sie ihre Patienten angemessen beraten können. Das Stichwort laute „Guidance statt Ignoranz“.

Zu den größten Herausforderungen in vielen Branchen gehöre derzeit die Frage, an welcher Stelle der Mensch und an welcher Stelle Künstliche Intelligenz am sinnvollsten eingesetzt werden könne. Nach Böschs Überzeugung werde es auch künftig keinen Prozess ohne einen „Human in the Loop“ geben, also ohne einen Menschen, der in den jeweiligen Prozess eingebunden ist.

Das Diabetes-Team am Klinikum Landkreis Tuttlingen ermutigt seine Patienten deshalb weiterhin, Diabetes-Apps auszuprobieren und sich dabei ein eigenes Urteil zu bilden. Im Krankenhaus wurden sie von Diabetesberaterinnen und Ärzten entsprechend geschult.

(Quelle: Klinikum Landkreis Tuttlingen gGmbH)