Der künstliche Intelligenz Podcast

About Der künstliche Intelligenz Podcast

Wie verändert Künstliche Intelligenz unser Leben – heute und morgen? Im künstliche Intelligenz Podcast tauchst du ein in die spannende Welt von KI, maschinellem Lernen, Deep Learning und neuronalen Netzen. Wir zeigen, wie intelligente Systeme Entscheidungen treffen, Unternehmen effizienter machen und unseren Alltag revolutionieren – verständlich, praxisnah und immer aktuell. Von Sprachmodellen wie ChatGPT über Robotik und Smart Factories bis zu KI in Medizin, Forschung, Bildung und kreativen Projekten – jede Folge liefert Einblicke in Trends, Chancen, Risiken und die Technologien der Zukunft. Gleichzeitig beleuchten wir gesellschaftliche, ethische und politische Fragen: Datenschutz, Deepfakes, KI-Regulierung und globale Wettläufe im Bereich künstlicher Intelligenz. Ob Einsteiger oder Profi: Begleite uns auf einer Reise durch die digitale Transformation und entdecke, wie KI unsere Arbeitswelt, Wirtschaft und Gesellschaft nachhaltig verändert. Jede Episode inspiriert, informiert und macht die Welt der künstlichen Intelligenz greifbar.

Publisher

Martin Benes

Category

education · technology

Language

de

Explicit

No

First episode

3 Oct 2025

Latest episode

9 Nov 2026

Latest episodes

26 episodes in the feed.

1. 

   9 Nov 2026

   Generationenvertrag neu denken:

   ---werbung--- 🎙️ Du hörst Podcasts – warum nicht bald deinen eigenen haben? Mit KI geht’s einfacher, als du denkst. Jetzt unverbindlich auf die Founderliste! 🚀 👉 https://podcast-mit-ki.systeme.io/home (https://podcast-mit-ki.systeme.io/home) ---werbung--- Künstliche Intelligenz trifft auf eine der größten strukturellen Herausforderungen moderner Gesellschaften Der klassische Generationenvertrag gerät unter wachsenden Druck. In alternden Gesellschaften müssen immer weniger Menschen im Erwerbsalter die Finanzierung von Pensionen, Gesundheitsleistungen und anderen Teilen des Sozialstaats mittragen, während gleichzeitig die Zahl älterer Menschen steigt. Künstliche Intelligenz könnte diese Entwicklung teilweise abfedern, indem sie Produktivität erhöht, Arbeitsprozesse automatisiert und öffentliche Verwaltungen effizienter macht. Sie kann das demografische Problem jedoch nicht einfach auflösen. Gerade Österreich steht beispielhaft für diese Entwicklung. Nach der Bevölkerungsprognose von Statistik Austria wird die Bevölkerung im Erwerbsalter zwischen 20 und 64 Jahren langfristig zurückgehen, während die Zahl der Menschen ab 65 Jahren weiter zunimmt. Bereits 2024 gehörten rund 20 Prozent der österreichischen Bevölkerung zur Altersgruppe ab 65 Jahren. Im Hauptszenario der Bevölkerungsprognose steigt dieser Anteil bis 2080 weiter deutlich an. Damit verändert sich die wirtschaftliche Grundlage des Sozialstaats. Das Problem besteht nicht allein darin, dass mehr Pensionen finanziert werden müssen. Auch Gesundheitsversorgung, Pflege und andere soziale Leistungen können bei einer alternden Bevölkerung höhere Ausgaben verursachen. Gleichzeitig steht dem Arbeitsmarkt eine kleinere Zahl potenzieller Erwerbspersonen zur Verfügung. Die entscheidende Frage lautet deshalb nicht nur, ob künstliche Intelligenz Arbeitsplätze ersetzt. Viel wichtiger ist, ob KI dazu beitragen kann, mit weniger Arbeitskräften mehr wirtschaftliche Leistung zu erzeugen, öffentliche Leistungen effizienter bereitzustellen und Menschen länger oder unter besseren Bedingungen am Erwerbsleben teilhaben zu lassen. Der Generationenvertrag ist kein einzelner Vertrag Der Begriff Generationenvertrag beschreibt kein juristisches Dokument, sondern ein gesellschaftliches und wirtschaftliches Prinzip. In umlagefinanzierten Pensionssystemen werden die laufenden Beiträge der Erwerbstätigen im Wesentlichen dafür verwendet, die laufenden Pensionen zu finanzieren. Die heutige Erwerbsbevölkerung trägt damit wesentlich zur Absicherung der heutigen Pensionistinnen und Pensionisten bei und erwirbt gleichzeitig Ansprüche für die eigene Zukunft. Dieses Modell funktioniert grundsätzlich auch in einer alternden Gesellschaft. Schwieriger wird es, wenn sich das Verhältnis zwischen Erwerbstätigen und Pensionistinnen und Pensionisten dauerhaft verändert. Für Österreich prognostiziert Statistik Austria sowohl eine wachsende Zahl älterer Menschen als auch einen langfristigen Rückgang der Bevölkerung im Erwerbsalter. Für 2040 werden im Trendszenario rund 5,32 Millionen Menschen im Alter von 20 bis 64 Jahren ausgewiesen, gegenüber rund 5,58 Millionen im Jahr 2024. Die Zahl der Erwerbspersonen wird im selben Szenario für 2040 mit rund 4,74 Millionen angegeben, etwa 40.000 weniger als 2024. Auch die öffentlichen Finanzen stehen dadurch unter Druck. Die OECD bezeichnet die alterungsbedingten Ausgaben für Pensionen, Gesundheit und Langzeitpflege in Österreich als wesentliche langfristige fiskalische Herausforderung. Die OECD weist zugleich darauf hin, dass die Alterung die Zahl der Menschen im Erwerbsalter reduziert und dadurch auch die Steuer- und Beitragsbasis belastet. Der Generationenvertrag steht deshalb nicht unmittelbar vor einem einzigen Bruch. Vielmehr verändert sich seine wirtschaftliche Grundlage schrittweise. Österreichs Pensionssystem zeigt die Dimension der Herausforderung Die österreichischen Pensionsausgaben gehören im internationalen Vergleich zu den höheren innerhalb der OECD. Nach den Daten der OECD lagen die öffentlichen Ausgaben für Alters- und Hinterbliebenenpensionen in Österreich zuletzt bei rund 14 Prozent des Bruttoinlandsprodukts. Die Europäische Kommission erwartet in ihrem Ageing Report 2024 für Österreich zunächst einen weiteren Anstieg der öffentlichen Pensionsausgaben relativ zum Bruttoinlandsprodukt. Für 2040 wurde gegenüber 2022 ein Anstieg um rund einen Prozentpunkt des BIP projiziert; für 2070 liegt der projizierte Anstieg bei rund 0,4 Prozentpunkten. Diese Projektionen beruhen auf den damals geltenden beziehungsweise angenommenen Rahmenbedingungen und sind keine Vorhersagen über einen unveränderlichen Zustand. Hinzu kommt, dass Alterung nicht ausschließlich eine Frage der Pensionsversicherung ist. Eine höhere Zahl älterer Menschen kann auch den Bedarf an medizinischen Leistungen und Langzeitpflege verändern. Die OECD geht für Österreich davon aus, dass die Ausgaben für Pensionen, Gesundheit und Langzeitpflege langfristig erheblichen zusätzlichen Druck auf die öffentlichen Haushalte ausüben. Genau an diesem Punkt wird künstliche Intelligenz für die Diskussion über den Generationenvertrag interessant. Sie verändert zwar nicht die Altersstruktur der Bevölkerung, könnte aber die Produktivität der vorhandenen Arbeitskräfte und die Effizienz bestimmter staatlicher Prozesse erhöhen. KI kann Arbeitsproduktivität erhöhen – aber nicht automatisch Eine der wichtigsten Hoffnungen im Zusammenhang mit KI ist die Steigerung der Produktivität. Wenn eine Arbeitskraft mit Unterstützung von KI bestimmte Aufgaben schneller oder mit geringerem Aufwand erledigen kann, kann dieselbe Arbeitszeit theoretisch mehr wirtschaftliche Leistung erzeugen. Die OECD untersucht seit mehreren Jahren die möglichen gesamtwirtschaftlichen Auswirkungen von KI. Eine 2025 veröffentlichte Analyse für die G7 kam je nach Land, Branche und angenommener Verbreitung der Technologie auf erhebliche mögliche zusätzliche Produktivitätsgewinne. Für Länder mit hoher KI-Exposition und breiterer Einführung wurden zusätzliche jährliche Wachstumsbeiträge zur Arbeitsproduktivität von etwa 0,4 bis 1,3 Prozentpunkten geschätzt. Dabei handelt es sich ausdrücklich um Szenarien und nicht um bereits beobachtete Ergebnisse. Das ist für den Sozialstaat von großer Bedeutung. Wenn eine Volkswirtschaft trotz einer schrumpfenden Erwerbsbevölkerung ihre Wirtschaftsleistung steigern kann, verändert sich auch die finanzielle Ausgangslage für öffentliche Leistungen. Dabei entsteht allerdings kein einfacher Zusammenhang zwischen KI und höheren Einnahmen des Staates. Entscheidend ist, wie Produktivitätsgewinne verteilt werden, welche Tätigkeiten automatisiert werden, wie sich Löhne und Beschäftigung entwickeln und auf welcher wirtschaftlichen Basis Steuern und Sozialbeiträge erhoben werden. Die OECD weist deshalb darauf hin, dass die Auswirkungen von KI auf Beschäftigung und Löhne unsicher sind und dass die Finanzierung des Sozialschutzes in vielen Ländern stark von Arbeitseinkommen und damit von der Entwicklung des Arbeitsmarktes abhängt. Nicht jeder KI-Effekt bedeutet Arbeitsplatzverlust Die Diskussion über künstliche Intelligenz wird häufig auf die Frage reduziert, wie viele Arbeitsplätze verschwinden könnten. Die aktuelle Forschung zeichnet jedoch ein differenzierteres Bild. Die Internationale Arbeitsorganisation ILO kommt in ihrer 2025 aktualisierten Untersuchung zu dem Ergebnis, dass weltweit etwa ein Viertel der Beschäftigten in Berufen tätig ist, die in gewissem Umfang der generativen KI ausgesetzt sind. Gleichzeitig betont die Organisation, dass bei den meisten Berufen eher eine Veränderung von Tätigkeiten als eine vollständige Ersetzung der Arbeitsplätze zu erwarten ist. Der Grund liegt in der Struktur menschlicher Berufe. Ein Beruf besteht normalerweise aus vielen unterschiedlichen Aufgaben. Eine KI kann beispielsweise Textentwürfe erstellen, Informationen zusammenfassen oder bestimmte Daten analysieren, während andere Aufgaben weiterhin menschliche Kommunikation, Verantwortung, physische Präsenz oder komplexe Entscheidungen erfordern. Die ILO unterscheidet deshalb zwischen der technischen Möglichkeit, einzelne Tätigkeiten zu automatisieren, und der tatsächlichen Entwicklung von Beschäftigung. Zwischen beiden liegen unter anderem Kosten, technische Voraussetzungen, rechtliche Rahmenbedingungen, organisatorische Entscheidungen und die Bereitschaft von Unternehmen und Beschäftigten, neue Systeme einzusetzen. Für den Generationenvertrag ist diese Unterscheidung entscheidend. Eine Wirtschaft, in der KI einzelne Tätigkeiten übernimmt, während Menschen produktiver arbeiten, könnte anders auf den demografischen Wandel reagieren als eine Wirtschaft, in der KI tatsächlich große Teile menschlicher Arbeit ersetzt. Die entscheidende Größe könnte Produktivität pro Erwerbsperson werden Wenn die Zahl der Erwerbspersonen sinkt, gibt es grundsätzlich mehrere Möglichkeiten, die wirtschaftliche Leistung aufrechtzuerhalten. Eine davon ist eine höhere Erwerbsbeteiligung. Eine andere besteht in längeren Erwerbsphasen. Eine weitere Möglichkeit ist eine höhere Produktivität pro Arbeitskraft. KI kann vor allem an der dritten Stellschraube ansetzen. Automatisierte Dokumentenverarbeitung, intelligente Suchsysteme, Datenanalyse, Softwareentwicklung, Übersetzung, Kundenkommunikation und administrative Prozesse gehören zu den Bereichen, in denen KI bereits heute eingesetzt wird. Dabei geht es nicht immer um vollständig autonome Systeme. Häufig unterstützt KI Beschäftigte bei einzelnen Arbeitsschritten. Für alternde Volkswirtschaften kann genau diese Unterstützung relevant werden. Wenn beispielsweise Fachkräfte durch KI von bestimmten Routineaufgaben entlastet werden, kann ein größerer Anteil ihrer Arbeitszeit für Aufgaben eingesetzt werden, die menschliche Erfahrung oder persönliche Interaktion erfordern. Das betrifft auch Bereiche, in denen der demografische Wandel selbst einen zusätzlichen Bedarf erzeugt. Pflege, Medizin, Verwaltung und soziale Dienstleistungen benötigen nicht nur Geld, sondern auch Personal. KI kann bestimmte organisatorische und dokumentarische Aufgaben automatisieren, ersetzt aber nicht automatisch die menschliche Betreuung, Pflege oder Verantwortung. KI im Sozialstaat: Verwaltung statt Science-Fiction Ein weniger spektakulärer, aber möglicherweise besonders wichtiger Einsatzbereich von KI liegt direkt in der Verwaltung. Die OECD beschreibt bereits heute mehrere Einsatzmöglichkeiten künstlicher Intelligenz und fortgeschrittener Datenanalyse in sozialen Sicherungssystemen. Dazu gehören unter anderem Unterstützung bei der Kommunikation mit Bürgerinnen und Bürgern, die Automatisierung von Verwaltungsprozessen und die Erkennung von Betrug. Perspektivisch sieht die OECD Potenzial für Prognosemodelle, gezieltere Ansprache und besser auf individuelle Situationen abgestimmte Leistungen. Der Nutzen könnte erheblich sein, weil Sozialverwaltungen mit großen Datenmengen und komplexen Regeln arbeiten. Anträge müssen verarbeitet, Ansprüche geprüft und Leistungen korrekt zugeordnet werden. Eine KI könnte beispielsweise dabei helfen, Informationen schneller zu strukturieren oder Sachbearbeiterinnen und Sachbearbeiter auf relevante Sachverhalte aufmerksam zu machen. Dadurch könnte sich die Bearbeitung bestimmter Vorgänge beschleunigen. Das bedeutet jedoch nicht, dass Entscheidungen über Sozialleistungen einfach an eine KI delegiert werden sollten. Gerade weil solche Entscheidungen unmittelbare Auswirkungen auf die Lebenssituation von Menschen haben können, gelten in Europa besonders strenge Anforderungen. Warum der EU AI Act für den Sozialstaat wichtig ist Die Europäische Union hat mit dem AI Act einen risikobasierten Rechtsrahmen für künstliche Intelligenz geschaffen. Systeme werden dabei abhängig von ihrem möglichen Risiko unterschiedlich reguliert. Besonders relevant für den Sozialstaat sind KI-Systeme, die von Behörden zur Entscheidung über bestimmte wesentliche öffentliche Leistungen und Unterstützungen eingesetzt werden. Die EU-Verordnung zählt unter anderem soziale Sicherungsleistungen und bestimmte Leistungen im Zusammenhang mit Alter, Krankheit, Arbeitslosigkeit oder anderen sozialen Situationen zu den Bereichen, in denen KI-Systeme bei entsprechenden Entscheidungsfunktionen als Hochrisiko-Systeme einzustufen sind. Damit soll verhindert werden, dass automatisierte Entscheidungen über existenzielle Leistungen ohne ausreichende Kontrolle getroffen werden. Die Regulierung macht zugleich deutlich, dass Digitalisierung des Sozialstaats nicht nur eine technische Frage ist. Es geht auch um Transparenz, Datenschutz, Diskriminierungsrisiken, menschliche Aufsicht und die Möglichkeit, Entscheidungen anzufechten. Ein effizienterer Sozialstaat wäre daher nicht automatisch ein stärker automatisierter Sozialstaat. Entscheidend ist vielmehr, an welchen Stellen KI eingesetzt wird und welche Verantwortung beim Menschen verbleibt. Der Sozialstaat könnte selbst zum KI-Anwender werden Die öffentliche Verwaltung verfügt über große Mengen an Informationen. Gleichzeitig sind diese Daten häufig über verschiedene Systeme und Institutionen verteilt. KI könnte helfen, Informationen besser zu verarbeiten und Zusammenhänge zu erkennen. Daraus ergeben sich beispielsweise Möglichkeiten für eine stärker präventive Sozialpolitik. Statt ausschließlich auf bereits eingetretene Probleme zu reagieren, könnten Behörden bestimmte Entwicklungen früher erkennen und betroffenen Menschen schneller passende Informationen oder Unterstützungsangebote anbieten. Die OECD sieht in der prädiktiven Analyse und einer gezielteren Ansprache grundsätzlich Potenzial für eine effektivere soziale Sicherung. Gleichzeitig betont sie die Notwendigkeit von Vertrauen und Transparenz. Gerade bei solchen Anwendungen ist die Grenze zwischen Unterstützung und automatisierter Bewertung entscheidend. Ein statistisches Modell kann eine Wahrscheinlichkeit berechnen. Daraus folgt jedoch nicht automatisch, dass ein bestimmter Mensch eine bestimmte Leistung benötigt oder nicht benötigt. Je stärker KI in individuelle Lebensentscheidungen eingreift, desto wichtiger werden nachvollziehbare Kriterien und menschliche Kontrollmöglichkeiten. Eine neue Produktivitätsdividende könnte entstehen Wenn KI tatsächlich zu dauerhaft höherer Produktivität führt, stellt sich eine grundsätzliche gesellschaftliche Frage: Wem kommen die Produktivitätsgewinne zugute? Historisch wurden technologische Fortschritte nicht automatisch gleichmäßig verteilt. Auch bei KI hängt die Verteilung der wirtschaftlichen Vorteile von Eigentumsstrukturen, Wettbewerb, Lohnentwicklung, Steuern, Sozialbeiträgen und politischen Entscheidungen ab. Für den Generationenvertrag ist das besonders relevant. Wenn ein Teil der Wertschöpfung zunehmend durch kapitalintensive KI-Systeme entsteht, während gleichzeitig die Zahl der klassischen Erwerbspersonen sinkt, könnte sich die Zusammensetzung der Finanzierungsbasis des Sozialstaats verändern. Die OECD untersucht genau diese Entwicklung in ihrem aktuellen Bericht zur Finanzierung des Sozialschutzes. Sie weist darauf hin, dass alternde Bevölkerungen die Ausgaben für Pensionen, Gesundheit und Langzeitpflege erhöhen, während gleichzeitig die traditionelle Finanzierungsbasis über Arbeitseinkommen durch eine schrumpfende Erwerbsbevölkerung und möglicherweise arbeitsersetzende Technologien unter Druck geraten kann. Daraus folgt jedoch nicht automatisch, dass KI-Unternehmen künftig direkt Pensionen finanzieren müssten oder dass eine bestimmte neue Steuer eingeführt werden sollte. Welche Finanzierungsstruktur langfristig sinnvoll ist, ist eine politische und gesellschaftliche Gestaltungsfrage. Fest steht lediglich: Wenn sich die Quelle wirtschaftlicher Wertschöpfung verändert, muss langfristig auch darüber nachgedacht werden, wie öffentliche Leistungen finanziert werden. Weniger Arbeitskräfte könnten durch mehr Automatisierung teilweise kompensiert werden Der demografische Wandel und KI wirken in gewisser Weise in entgegengesetzte Richtungen. Die Alterung reduziert das verfügbare Arbeitskräftepotenzial. KI und Automatisierung können den Arbeitsaufwand bestimmter Tätigkeiten reduzieren. Das bedeutet allerdings nicht, dass die beiden Entwicklungen sich vollständig gegenseitig aufheben. Eine hochautomatisierte Fabrik benötigt weniger Produktionspersonal, aber weiterhin Energie, Kapital, Infrastruktur, Wartung, Software und qualifizierte Beschäftigte. In einem Pflegeheim kann KI die Dokumentation vereinfachen, aber sie kann nicht automatisch den gesamten Bedarf an menschlicher Betreuung ersetzen. Die entscheidende Frage lautet daher nicht, ob KI „die Arbeit“ ersetzt. Entscheidend ist, welche Tätigkeiten automatisierbar sind und wie die frei werdende Arbeitszeit eingesetzt wird. Die aktuelle Forschung der ILO spricht gerade deshalb eher von Transformation als von einer generellen Abschaffung menschlicher Arbeit. KI könnte auch das Arbeiten im höheren Alter verändern Eine alternde Gesellschaft muss nicht zwangsläufig ausschließlich über höhere Geburtenraten oder mehr Zuwanderung auf den demografischen Wandel reagieren. Auch die Gestaltung des Erwerbslebens spielt eine Rolle. In Österreich wird das gesetzliche Frauenpensionsalter schrittweise von 60 auf 65 Jahre angehoben und damit bis 2033 an jenes der Männer angeglichen. Die OECD betrachtet eine längere Erwerbsphase als einen wichtigen Bestandteil der langfristigen Stabilisierung der öffentlichen Pensionsfinanzen. KI könnte längere Erwerbsphasen in bestimmten Berufen erleichtern, wenn sie körperlich oder kognitiv belastende Routineaufgaben reduziert. Ein älterer Beschäftigter könnte beispielsweise von automatisierter Dokumentation, Assistenzsystemen oder intelligenter Informationssuche profitieren. Das ist allerdings keine Garantie für eine höhere Beschäftigungsfähigkeit. Neue Technologien können auch neue Anforderungen schaffen. Wer nicht ausreichend geschult wird, könnte Schwierigkeiten haben, mit den veränderten Arbeitsprozessen Schritt zu halten. Die OECD weist deshalb ausdrücklich darauf hin, dass ältere Beschäftigte bei Weiterbildung, flexiblen Arbeitsformen und beruflicher Entwicklung häufig nicht ausreichend berücksichtigt werden. Die Verteilungsfrage wird wichtiger als die reine Technologiefrage Eine zentrale Herausforderung liegt deshalb weniger in der technischen Leistungsfähigkeit von KI als in ihrer Verteilung. Die Europäische Kommission veröffentlichte Anfang 2026 eine Analyse zu den möglichen Beschäftigungseffekten von KI und anderen digitalen Technologien in Europa. Sie kommt zu dem Ergebnis, dass die Beschäftigung insgesamt steigen könnte, erwartet jedoch ungleich verteilte Effekte. Hochqualifizierte Beschäftigte und bestimmte Gruppen könnten stärker profitieren, während niedrig qualifizierte und junge Arbeitskräfte sowie strukturell schwächere Regionen stärker von negativen Auswirkungen betroffen sein können, wenn keine gezielte Unterstützung erfolgt. Für den Sozialstaat bedeutet dies, dass technologische Modernisierung allein nicht ausreicht. Wenn KI die Produktivität erhöht, aber gleichzeitig Übergänge zwischen Berufen schwieriger werden, muss das System Weiterbildung, Umschulung und soziale Absicherung ermöglichen. Der Sozialstaat wäre dann nicht nur ein Instrument zur Absicherung nach einem Arbeitsplatzverlust, sondern auch ein Bestandteil der Anpassung an technologische Veränderungen. Vom Reparaturmodell zum Anpassungsmodell Der klassische Sozialstaat reagiert häufig auf bereits eingetretene Risiken. Menschen verlieren ihre Arbeit, werden krank, erreichen das Pensionsalter oder benötigen Pflege. Dann greifen entsprechende Leistungen. KI könnte langfristig eine stärker vorausschauende Organisation sozialer Leistungen ermöglichen. Datenanalysen könnten beispielsweise helfen, regionale Arbeitsmarktentwicklungen früher zu erkennen oder Weiterbildungsangebote gezielter auszurichten. Das wäre ein grundlegender Wandel: Der Sozialstaat würde nicht nur Einkommen umverteilen und Risiken absichern, sondern zunehmend auch dabei helfen, Menschen an eine sich verändernde Arbeitswelt anzupassen. Dabei muss jedoch vermieden werden, dass aus Prognosen scheinbar objektive Entscheidungen über einzelne Menschen entstehen. Statistische Modelle arbeiten mit Wahrscheinlichkeiten und können Fehler oder Verzerrungen enthalten. Deshalb bleibt menschliche Verantwortung ein zentraler Bestandteil eines digitalisierten Sozialstaats. Die größte Gefahr wäre eine falsche Gleichung Eine einfache Gleichung wie „weniger Erwerbstätige plus KI gleich gelöstes Pensionsproblem“ greift zu kurz. KI kann Produktivität erhöhen. Sie kann Verwaltungsprozesse effizienter machen. Sie kann Beschäftigte unterstützen und neue wirtschaftliche Tätigkeiten ermöglichen. Gleichzeitig kann sie bestimmte Aufgaben automatisieren, Arbeitsmärkte verändern und die Verteilung von Einkommen und Vermögen beeinflussen. Außerdem ist die technische Entwicklung nicht der einzige Faktor für die langfristige Finanzierung des Sozialstaats. Produktivitätsentwicklung, Beschäftigungsquote, Lohnentwicklung, Migration, Lebenserwartung, Geburtenentwicklung, Steuerpolitik und die konkrete Ausgestaltung der Sozialversicherung wirken zusammen. Auch die Bevölkerungsprognosen selbst sind keine festen Vorhersagen. Statistik Austria rechnet deshalb mit verschiedenen Szenarien, die unterschiedliche Annahmen zu Fertilität, Migration und Lebenserwartung enthalten. In allen Varianten setzt sich die Alterung der österreichischen Bevölkerung jedoch fort. KI ist damit ein möglicher Bestandteil der Antwort auf den demografischen Wandel, aber nicht dessen vollständige Lösung. Ein neuer Generationenvertrag könnte Produktivität stärker berücksichtigen Der klassische Generationenvertrag basiert wesentlich auf der Vorstellung, dass die jeweils aktive Generation die laufenden Leistungen finanziert und gleichzeitig die Grundlage für die eigene spätere Absicherung schafft. In einer zunehmend automatisierten Wirtschaft könnte sich dieses Verhältnis verändern. Wenn ein wachsender Anteil der Wertschöpfung durch Software, Daten, Robotik und KI-Systeme entsteht, wird die Frage wichtiger, wie diese Wertschöpfung in die Finanzierung öffentlicher Leistungen einbezogen wird. Dabei muss zwischen wirtschaftlicher Wertschöpfung und staatlichen Einnahmen unterschieden werden. Ein Unternehmen kann durch KI produktiver werden, ohne dass daraus automatisch proportional höhere Sozialversicherungsbeiträge entstehen. Umgekehrt können höhere Gewinne, Löhne oder Konsumausgaben über unterschiedliche Steuerarten zur Finanzierung des Gemeinwesens beitragen. Welche Mischung langfristig gewählt wird, ist nicht technologisch vorgegeben. Sie hängt von politischen Entscheidungen über Steuern, Sozialversicherungsbeiträge, Ausgaben und Verteilung ab. Die eigentliche Herausforderung besteht daher darin, den Sozialstaat an eine Wirtschaft anzupassen, in der menschliche Arbeitszeit möglicherweise einen geringeren Anteil an der gesamten Wertschöpfung ausmacht. Was sich in den kommenden Jahren abzeichnen könnte In den kommenden Jahren dürfte KI zunächst vor allem dort an Bedeutung gewinnen, wo große Mengen standardisierter Informationen verarbeitet werden. Verwaltung, Finanzwesen, Kundenservice, Softwareentwicklung, Wissensarbeit und Datenanalyse gehören zu den Bereichen, in denen generative KI und andere KI-Systeme bereits eingesetzt werden. Parallel dazu dürfte die Verbindung von KI mit Robotik wichtiger werden. Während generative KI besonders bei digitalen Informationen leistungsfähig ist, können robotische Systeme KI in die physische Welt übertragen. Für eine alternde Gesellschaft könnte diese Entwicklung langfristig beispielsweise in Logistik, Produktion, Landwirtschaft oder unterstützenden Technologien relevant werden. Auch die Rolle des Menschen wird sich verändern. Statt jede Aufgabe selbst auszuführen, könnte der Mensch häufiger KI-Systeme überwachen, Ergebnisse kontrollieren und komplexe Entscheidungen treffen. Wie groß der gesamtwirtschaftliche Effekt tatsächlich ausfällt, lässt sich heute nicht zuverlässig bestimmen. Die OECD betont sowohl das erhebliche Produktivitätspotenzial von KI als auch die großen Unterschiede zwischen Ländern und Branchen. Der Sozialstaat der Zukunft könnte digitaler, aber nicht unbedingt unpersönlicher werden Eine erfolgreiche Digitalisierung sozialer Leistungen muss nicht zwangsläufig bedeuten, dass Menschen nur noch mit Maschinen kommunizieren. Im Gegenteil könnte Automatisierung dazu beitragen, Verwaltungsmitarbeiter von standardisierten Aufgaben zu entlasten und mehr Zeit für komplexe oder besonders sensible Fälle zu schaffen. Eine solche Entwicklung würde allerdings voraussetzen, dass digitale Systeme zuverlässig funktionieren und Bürgerinnen und Bürger weiterhin Zugang zu menschlichen Ansprechpartnern haben. Gerade bei existenziellen Entscheidungen bleibt die Nachvollziehbarkeit entscheidend. Der europäische Rechtsrahmen berücksichtigt diesen Punkt, indem bestimmte KI-Anwendungen im Bereich wesentlicher öffentlicher Leistungen als Hochrisiko-Anwendungen eingestuft werden. Damit entsteht ein Spannungsfeld zwischen Effizienz und individueller Kontrolle. Ein System kann schneller sein und trotzdem nicht besser, wenn Fehler schwer erkennbar oder kaum anfechtbar sind. Der Generationenvertrag wird damit zu einer Produktivitätsfrage Die demografische Entwicklung lässt sich nicht mit KI verändern. Menschen werden älter, Geburtenraten verändern sich und die Zahl der Menschen im Erwerbsalter entwickelt sich anders als die Zahl der älteren Bevölkerung. Was KI verändern kann, ist die wirtschaftliche Leistung, die mit einer bestimmten Zahl von Arbeitskräften erbracht werden kann. Genau darin liegt ihre Bedeutung für den Generationenvertrag. Wenn KI die Produktivität dauerhaft erhöht, könnte eine kleinere Erwerbsbevölkerung möglicherweise einen größeren Teil der wirtschaftlichen Leistung erzeugen. Wenn gleichzeitig öffentliche Verwaltungen effizienter arbeiten und Menschen durch digitale Assistenz länger am Arbeitsleben teilnehmen können, könnte die Technologie mehrere Belastungen des Sozialstaats gleichzeitig reduzieren. Doch diese Entwicklung ist weder garantiert noch automatisch gerecht verteilt. Die ILO und die OECD weisen auf die Notwendigkeit von Weiterbildung, sozialem Dialog, geeigneten Arbeitsmarktinstitutionen und sozialer Absicherung hin. Die entscheidende Aufgabe besteht daher nicht darin, KI möglichst schnell überall einzusetzen. Es geht darum, sie dort einzusetzen, wo sie nachweislich einen gesellschaftlichen Nutzen erzeugen kann, ohne grundlegende Rechte und soziale Sicherheit zu schwächen. Fazit: KI kann den Generationenvertrag verändern, aber nicht ersetzen Der demografische Wandel stellt den Sozialstaat vor eine langfristige strukturelle Herausforderung. Österreich wird älter, die Zahl der Menschen im Erwerbsalter geht langfristig zurück und gleichzeitig steigen die Anforderungen an Pensionen, Gesundheit und Pflege. Künstliche Intelligenz eröffnet in diesem Umfeld eine neue Möglichkeit: Sie kann Arbeitsproduktivität erhöhen, administrative Prozesse automatisieren, Beschäftigte unterstützen und die Verarbeitung komplexer Informationen verbessern. Internationale Organisationen wie OECD und ILO sehen erhebliche Potenziale, weisen aber zugleich auf Unsicherheiten und Verteilungsfragen hin. Ob daraus tatsächlich eine Entlastung des Sozialstaats entsteht, hängt nicht allein von der technischen Entwicklung ab. Entscheidend sind auch die Verbreitung der Technologie, die Entwicklung des Arbeitsmarktes, die Verteilung der Produktivitätsgewinne und die Art und Weise, wie Staaten ihre Sozial- und Steuersysteme anpassen. Der Generationenvertrag der Zukunft könnte deshalb weniger davon abhängen, wie viele Menschen arbeiten, sondern stärker davon, wie viel Wertschöpfung mit ihrer Arbeit und den eingesetzten Technologien entsteht und wie diese Wertschöpfung zur Finanzierung des Gemeinwesens beiträgt. KI ist damit weder Rettungsanker noch Bedrohung des Sozialstaats. Sie ist eine neue wirtschaftliche Infrastruktur, deren Auswirkungen wesentlich davon abhängen, wie Gesellschaft und Politik mit ihr umgehen. Der eigentliche Wandel besteht darin, dass die traditionelle Verbindung zwischen Arbeitszeit, Wertschöpfung und Finanzierung des Sozialstaats durch Automatisierung zunehmend komplexer wird. Die Frage für die kommenden Jahrzehnte lautet deshalb nicht nur, wer für die nächste Generation einzahlt. Sie lautet auch, wie eine zunehmend automatisierte Wirtschaft ihre Produktivität, ihre Gewinne und ihre sozialen Sicherungssysteme miteinander verbindet. FAQ: Die wichtigsten Fragen zum Generationenvertrag und KI Was bedeutet der Generationenvertrag? Der Generationenvertrag bezeichnet kein einzelnes Gesetz oder einen formalen Vertrag. Er beschreibt das gesellschaftliche Prinzip, dass die erwerbstätige Generation wesentlich zur Finanzierung der Leistungen für ältere Menschen beiträgt und im Gegenzug darauf vertraut, im eigenen Alter ebenfalls abgesichert zu werden. In umlagefinanzierten Pensionssystemen werden laufende Beiträge zur Finanzierung laufender Leistungen verwendet. Warum gerät der Generationenvertrag unter Druck? Der wichtigste strukturelle Faktor ist die demografische Alterung. Wenn die Zahl älterer Menschen steigt und gleichzeitig die Bevölkerung im Erwerbsalter zurückgeht, verändert sich das Verhältnis zwischen Beitragszahlern und Leistungsempfängern. Österreich steht vor einer solchen Entwicklung. Kann KI den Fachkräftemangel ausgleichen? KI kann bestimmte Tätigkeiten automatisieren oder Beschäftigte bei ihrer Arbeit unterstützen. Dadurch kann die Produktivität pro Arbeitskraft steigen. Einen vollständigen Ausgleich eines Fachkräftemangels garantiert KI jedoch nicht, weil viele Tätigkeiten weiterhin menschliche Fähigkeiten, körperliche Anwesenheit oder persönliche Interaktion erfordern. Wird KI mehr Arbeitsplätze vernichten als schaffen? Das lässt sich derzeit nicht zuverlässig als allgemeine Zahl beantworten. Die ILO kommt in ihrer aktuellen Analyse zu dem Ergebnis, dass weltweit etwa ein Viertel der Beschäftigten in Berufen mit einem gewissen Grad an GenAI-Exposition arbeitet und dass bei den meisten betroffenen Berufen eher eine Transformation von Tätigkeiten als eine vollständige Ersetzung erwartet wird. Kann KI die Finanzierung von Pensionen sichern? KI kann indirekt dazu beitragen, wenn sie die Produktivität erhöht, wirtschaftliches Wachstum unterstützt oder Verwaltungskosten reduziert. Eine Garantie für die langfristige Finanzierung von Pensionen ergibt sich daraus jedoch nicht. Dafür spielen auch Beschäftigung, Löhne, Steuern, Beiträge, Demografie und die konkrete Ausgestaltung des Pensionssystems eine Rolle. Welche Rolle spielt KI in der öffentlichen Verwaltung? KI kann unter anderem bei der Kommunikation mit Bürgerinnen und Bürgern, bei Verwaltungsprozessen, bei der Analyse großer Datenmengen und bei der Erkennung bestimmter Unregelmäßigkeiten eingesetzt werden. Die OECD sieht darüber hinaus Potenzial für Prognosemodelle und eine gezieltere Gestaltung sozialer Programme. Darf eine KI über Sozialleistungen entscheiden? Bestimmte KI-Systeme, die von Behörden zur Entscheidung über wesentliche öffentliche Leistungen eingesetzt werden, fallen nach dem EU AI Act in den Bereich der Hochrisiko-KI. Dazu gehören unter bestimmten Voraussetzungen Entscheidungen über soziale Sicherungsleistungen und andere wesentliche öffentliche Unterstützungen. Warum ist die Produktivität für den Sozialstaat so wichtig? Wenn die Zahl der Erwerbspersonen sinkt, kann eine steigende Produktivität dazu beitragen, dass mit weniger Arbeitskräften mehr wirtschaftliche Leistung erzeugt wird. Dadurch kann sich die wirtschaftliche Basis für Steuern, Sozialbeiträge und öffentliche Leistungen verändern. Könnte KI ältere Menschen länger im Arbeitsleben halten? Das ist in bestimmten Tätigkeiten denkbar. KI kann beispielsweise administrative Routineaufgaben reduzieren oder Beschäftigte bei Informationsverarbeitung und Dokumentation unterstützen. Ob dies tatsächlich zu längeren Erwerbsphasen führt, hängt jedoch von Arbeitsplatzgestaltung, Qualifikation, Gesundheit, Arbeitsbedingungen und individuellen Entscheidungen ab. Was ist die größte Herausforderung bei KI und Sozialstaat? Eine zentrale Herausforderung besteht darin, Produktivitätsgewinne und mögliche Arbeitsplatzveränderungen so zu gestalten, dass soziale Sicherung, Weiterbildung und faire Teilhabe erhalten bleiben. Gleichzeitig müssen KI-Systeme im Sozialbereich transparent, kontrollierbar und mit den europäischen Grund- und Datenschutzanforderungen vereinbar sein.

2. 

   2 Nov 2026

   Wenn die KI dich lenkt, ohne dass du es merkst

   ---werbung--- 🎙️ Du hörst Podcasts – warum nicht bald deinen eigenen haben? Mit KI geht’s einfacher, als du denkst. Jetzt unverbindlich auf die Founderliste! 🚀 👉 https://podcast-mit-ki.systeme.io/home (https://podcast-mit-ki.systeme.io/home) ---werbung--- Künstliche Intelligenz kann digitale Angebote persönlicher, schneller und komfortabler machen. Dieselben Technologien können jedoch auch dazu eingesetzt werden, Entscheidungen gezielt zu beeinflussen. Wo hilfreiche Personalisierung endet und manipulative Gestaltung beginnt, wird deshalb zu einer der wichtigsten Fragen der digitalen Gesellschaft. KI trifft auf Dark Patterns Dark Patterns sind Gestaltungsmethoden in digitalen Benutzeroberflächen, die Menschen dazu bringen können, Entscheidungen zu treffen, die sie ohne diese Gestaltung möglicherweise nicht getroffen hätten oder die nicht in ihrem eigenen Interesse liegen. Die OECD beschreibt Dark Commercial Patterns als digitale Praktiken, die Entscheidungsprozesse durch die Art und Weise beeinflussen, wie Auswahlmöglichkeiten präsentiert werden. Dazu gehören unter anderem irreführende Gestaltung, Druck, versteckte Informationen oder erschwerte Kündigungsprozesse. Das Grundprinzip ist nicht neu. Bereits lange vor dem Aufkommen generativer KI konnten Webseiten beispielsweise vorausgewählte Optionen verwenden, wichtige Informationen verstecken oder den Weg zu einer Kündigung deutlich komplizierter gestalten als den Abschluss eines Angebots. Mit modernen Machine-Learning-Systemen verändert sich jedoch die mögliche Dimension dieser Methoden. Der entscheidende Unterschied liegt in der Personalisierung. Klassische Dark Patterns können für eine große Zahl von Nutzern identisch gestaltet werden. KI-Systeme können dagegen große Mengen an Daten analysieren und daraus individuelle Muster ableiten. Die OECD weist ausdrücklich darauf hin, dass Fortschritte beim Machine Learning die gezielte Ausrichtung solcher Praktiken auf einzelne Verbraucher erleichtern könnten. Damit entsteht eine neue Schnittstelle zwischen künstlicher Intelligenz, Verhaltensanalyse und Interface-Design. Ein System muss nicht mehr ausschließlich wissen, welche Gestaltung im Durchschnitt funktioniert. Es kann theoretisch analysieren, welche Formulierung, Reihenfolge oder Präsentation bei unterschiedlichen Personengruppen besonders wirksam ist. Was ein Dark Pattern eigentlich ausmacht Nicht jede überzeugende Werbung, jede personalisierte Empfehlung oder jede benutzerfreundliche Oberfläche ist automatisch ein Dark Pattern. Entscheidend ist die Art und Weise, wie die Entscheidung beeinflusst wird. Die Europäische Datenschutzbehörde EDPB beschäftigt sich in ihren Leitlinien zu sogenannten Deceptive Design Patterns insbesondere mit manipulativen Gestaltungsmustern in sozialen Medien. Dabei geht es unter anderem darum, wie Benutzeroberflächen Entscheidungen über Datenschutz und personenbezogene Daten beeinflussen können. Die finale Fassung der entsprechenden Leitlinien wurde 2023 veröffentlicht. Ein typisches Problem entsteht beispielsweise dann, wenn eine digitale Oberfläche eine bestimmte Option besonders prominent darstellt, während eine alternative Entscheidung wesentlich schwerer auffindbar ist. Ähnlich problematisch können irreführende Formulierungen, künstlich erzeugter Zeitdruck oder Prozesse sein, bei denen das Akzeptieren eines Angebots erheblich einfacher ist als dessen Ablehnung. Die US-amerikanische Federal Trade Commission beschrieb in ihrem Bericht „Bringing Dark Patterns to Light“ verschiedene Formen solcher Praktiken. Dazu gehören unter anderem irreführende Werbung, erschwerte Kündigungen, das Verstecken wichtiger Bedingungen und Methoden, die Nutzer zur Preisgabe personenbezogener Daten bewegen. Warum KI die Situation verändern kann Künstliche Intelligenz erweitert die Möglichkeiten digitaler Systeme vor allem durch Mustererkennung und Automatisierung. Ein Machine-Learning-Modell kann beispielsweise große Datenmengen analysieren und Zusammenhänge erkennen, die sich mit klassischen manuellen Verfahren nur schwer untersuchen lassen. Bei einem digitalen Angebot könnten theoretisch unterschiedliche Nutzergruppen unterschiedlich angesprochen werden. Texte, Bilder, Reihenfolgen von Informationen oder Empfehlungen könnten automatisiert angepasst werden. Bei generativer KI kommt hinzu, dass Inhalte nicht nur ausgewählt, sondern in Echtzeit erzeugt oder verändert werden können. Das bedeutet allerdings nicht, dass heutige KI-Systeme automatisch wissen, welche psychologische Methode bei einer bestimmten Person am effektivsten ist. Eine solche Behauptung wäre wissenschaftlich zu weitgehend. Die tatsächlichen Fähigkeiten hängen vom jeweiligen System, den verfügbaren Daten, dem eingesetzten Modell und der konkreten Anwendung ab. Gesichert ist dagegen, dass datengetriebene Personalisierung und automatisierte Optimierung bereits wichtige Bestandteile digitaler Geschäftsmodelle sind. Die regulatorische und wissenschaftliche Diskussion konzentriert sich deshalb zunehmend darauf, welche Grenzen für manipulative Anwendungen gelten sollen. Wenn Personalisierung zur Manipulation wird Personalisierung ist zunächst ein legitimes und häufig nützliches Prinzip. Ein Streamingdienst kann Empfehlungen an den bisherigen Konsum anpassen. Eine Suchmaschine kann Ergebnisse nach Kontext und Suchabsicht priorisieren. Ein Online-Shop kann Produkte anhand bisheriger Interaktionen anzeigen. Problematisch wird Personalisierung dort, wo nicht mehr primär die Bedürfnisse des Nutzers unterstützt werden, sondern seine Entscheidungsfreiheit gezielt beeinträchtigt werden soll. Die Grenze ist dabei nicht immer leicht zu bestimmen. Ein personalisiertes Angebot kann gleichzeitig wirtschaftlich sinnvoll für ein Unternehmen und nützlich für einen Verbraucher sein. Erst wenn die Gestaltung beispielsweise bewusst irreführend wird, relevante Alternativen verschleiert oder die Fähigkeit zu einer informierten Entscheidung erheblich beeinträchtigt, entsteht ein deutlich anderes Problem. Genau diese Differenzierung ist für den Umgang mit KI entscheidend. Nicht jede Optimierung der Conversion Rate ist ein Dark Pattern. Nicht jede Empfehlung ist Manipulation. Und nicht jede automatisierte Entscheidung ist problematisch. Die besondere Rolle generativer KI Generative KI bringt eine zusätzliche Ebene in die Diskussion. Large Language Models können Texte erzeugen, verändern und an unterschiedliche Zielgruppen anpassen. Bild- und Videosysteme können visuelle Inhalte generieren oder verändern. KI-basierte Systeme können dadurch theoretisch eine enorme Anzahl unterschiedlicher Varianten digitaler Kommunikation produzieren. Das kann für seriöse Anwendungen große Vorteile haben. Unternehmen können beispielsweise verständlichere Texte erstellen, Barrieren reduzieren oder Informationen stärker an individuelle Bedürfnisse anpassen. Die gleiche technische Fähigkeit kann jedoch auch missbraucht werden. Ein System könnte Inhalte formulieren, die gezielt emotionalisieren, künstlichen Entscheidungsdruck erzeugen oder bestimmte Informationen weniger auffällig erscheinen lassen. Ob ein konkreter Einsatz tatsächlich manipulativ oder rechtswidrig ist, hängt dabei vom Kontext und von der konkreten Ausgestaltung ab. Gerade deshalb ist die technische Fähigkeit zur Personalisierung nicht mit einer nachgewiesenen manipulativen Wirkung gleichzusetzen. Zwischen automatisierter Anpassung, überzeugender Kommunikation und unzulässiger Beeinflussung bestehen wichtige Unterschiede. Besonders sensibel: Datenschutz und Zustimmung Dark Patterns spielen eine besondere Rolle beim Umgang mit personenbezogenen Daten. Eine Benutzeroberfläche kann beispielsweise so gestaltet sein, dass Nutzer einer umfangreichen Datennutzung leichter zustimmen als sie abzulehnen. Für Datenschutzbehörden ist deshalb nicht nur relevant, welche Informationen in einer Datenschutzerklärung stehen. Ebenso entscheidend kann sein, wie Auswahlmöglichkeiten tatsächlich präsentiert werden. Die EDPB hat sich in ihren Leitlinien ausdrücklich mit solchen manipulativen Gestaltungsmustern in sozialen Medien beschäftigt. Die Perspektive ist dabei besonders relevant, weil soziale Plattformen große Mengen personenbezogener Daten verarbeiten und ihre Benutzeroberflächen einen unmittelbaren Einfluss darauf haben können, wie Nutzer mit Datenschutzentscheidungen umgehen. Mit KI wird diese Frage komplexer, weil automatisierte Systeme die Personalisierung von Inhalten und Benutzererfahrungen weiter verstärken können. Die wirtschaftliche Seite der Manipulation Dark Patterns sind nicht ausschließlich ein Datenschutzproblem. Sie können auch unmittelbar wirtschaftliche Folgen haben. Die OECD nennt unter anderem finanzielle Verluste, Datenschutzverletzungen und psychologische Auswirkungen als mögliche Folgen manipulativer digitaler Gestaltung. Außerdem können solche Praktiken das Vertrauen in digitale Märkte und den fairen Wettbewerb beeinträchtigen. Die wirtschaftliche Attraktivität solcher Methoden liegt in ihrer Skalierbarkeit. Eine klassische Verkaufsmethode muss möglicherweise von Menschen entwickelt und angewendet werden. Eine digitale Gestaltung kann dagegen Millionen von Nutzern gleichzeitig erreichen. KI könnte diesen Skalierungseffekt noch verstärken, wenn Systeme automatisiert Varianten testen und an unterschiedliche Zielgruppen anpassen. Ob und in welchem Umfang dies tatsächlich geschieht, ist von der jeweiligen Anwendung abhängig. Die technische Möglichkeit allein ist kein Beweis dafür, dass ein Unternehmen sie tatsächlich verwendet. A/B-Tests und die Optimierung digitaler Entscheidungen Viele digitale Produkte werden kontinuierlich optimiert. Unternehmen können unterschiedliche Versionen einer Benutzeroberfläche testen und anschließend analysieren, welche Version zu bestimmten Nutzeraktionen führt. Solche Tests sind nicht grundsätzlich problematisch. Sie können dazu beitragen, Webseiten verständlicher oder effizienter zu machen. Ein Problem entsteht, wenn Optimierungsziele ausschließlich auf eine bestimmte Handlung ausgerichtet sind und dabei die Interessen der Nutzer systematisch in den Hintergrund treten. KI kann diese Optimierung automatisieren und beschleunigen. Statt wenige Varianten manuell zu testen, können Systeme wesentlich mehr Kombinationen erzeugen und analysieren. Dadurch wächst die Bedeutung der Frage, welche Zielgröße überhaupt optimiert wird. Ein System, das auf Verständlichkeit, Transparenz und Nutzerkontrolle optimiert wird, kann zu besseren digitalen Produkten beitragen. Ein System, dessen einzige Zielgröße darin besteht, möglichst viele Menschen zu einer bestimmten Handlung zu bewegen, kann dagegen problematische Anreize schaffen. Regulierung: Die Europäische Union zieht Grenzen Die Europäische Union hat mit dem AI Act einen wichtigen regulatorischen Rahmen für künstliche Intelligenz geschaffen. Besonders relevant für das Thema Manipulation ist Artikel 5 der Verordnung. Dort werden bestimmte KI-Praktiken verboten. Dazu gehören unter anderem KI-Systeme, die subliminale Techniken oder absichtlich manipulative oder täuschende Techniken einsetzen, wenn dadurch das Verhalten einer Person oder Gruppe wesentlich verzerrt und ihre Fähigkeit zu einer informierten Entscheidung erheblich beeinträchtigt wird und daraus ein erheblicher Schaden entsteht oder wahrscheinlich entstehen kann. Ebenfalls erfasst sind bestimmte Formen der Ausnutzung von Schwachstellen natürlicher Personen oder bestimmter Gruppen aufgrund ihres Alters, einer Behinderung oder einer besonderen sozialen oder wirtschaftlichen Situation, sofern die gesetzlich genannten Voraussetzungen erfüllt sind. Damit ist nicht jede Form der Überzeugung oder Personalisierung durch KI automatisch verboten. Der europäische Rechtsrahmen knüpft die entsprechenden Verbote an konkrete Voraussetzungen. Gerade bei der Bewertung möglicher Dark Patterns ist deshalb eine juristisch präzise Betrachtung notwendig. Der AI Act zeigt gleichzeitig, dass die Regulierung von KI-Manipulation nicht mehr nur eine theoretische Diskussion ist. Manipulative und ausbeuterische Anwendungen gehören ausdrücklich zu den Bereichen, die der europäische Gesetzgeber berücksichtigt. Dark Patterns und der Digital Services Act Neben dem AI Act spielt auch die Regulierung digitaler Plattformen eine Rolle. Der Digital Services Act der Europäischen Union verfolgt unter anderem das Ziel, bestimmte manipulative Gestaltungsmethoden auf Online-Plattformen einzuschränken. Das ist deshalb relevant, weil Dark Patterns häufig nicht ausschließlich durch ein KI-Modell entstehen. Die eigentliche Manipulation kann aus dem Zusammenspiel von Empfehlungssystem, Nutzerprofil, Interface und Geschäftsmodell entstehen. Ein KI-System kann beispielsweise Inhalte auswählen, während die Benutzeroberfläche bestimmt, welche Handlung besonders prominent angeboten wird. Eine vollständige Bewertung muss deshalb häufig die gesamte digitale Umgebung betrachten und nicht nur das zugrunde liegende Modell. Warum Nutzer Manipulation oft schwer erkennen Dark Patterns funktionieren gerade deshalb, weil sie nicht unbedingt offensichtlich sind. Ein aggressiver Werbeslogan ist leicht als Werbung erkennbar. Eine scheinbar neutrale Benutzeroberfläche kann dagegen wesentlich subtiler wirken. Die FTC beschreibt beispielsweise Fälle, in denen Werbung wie unabhängige Inhalte erscheint oder wichtige Bedingungen so dargestellt werden, dass sie leicht übersehen werden können. Auch künstlich wirkende Countdown-Anzeigen und erschwerte Kündigungsprozesse gehören zu den von der Behörde beschriebenen Methoden. Bei KI-gestützten Systemen kann die Situation noch schwieriger werden, weil verschiedene Menschen möglicherweise unterschiedliche Inhalte oder Formulierungen sehen. Ein manipulativer Mechanismus muss dann nicht mehr für jeden Nutzer identisch aussehen. Das erschwert auch die Kontrolle von außen. Wenn ein System dynamisch Inhalte erzeugt oder auswählt, kann eine einzelne Momentaufnahme einer Webseite möglicherweise nicht vollständig erklären, warum eine bestimmte Person eine bestimmte Darstellung erhalten hat. Welche Warnsignale Verbraucher erkennen können Ein wichtiges Warnsignal ist ein deutliches Ungleichgewicht zwischen verschiedenen Entscheidungen. Wenn eine Zustimmung mit einem einzigen gut sichtbaren Klick möglich ist, während eine Ablehnung über mehrere schwer auffindbare Schritte führt, lohnt sich eine genauere Prüfung. Auch künstlicher Zeitdruck sollte kritisch betrachtet werden. Ein Countdown kann eine legitime zeitlich begrenzte Aktion anzeigen. Er kann aber ebenso eingesetzt werden, um eine Entscheidung zu beschleunigen. Die FTC nennt irreführende Countdown-Timer ausdrücklich als Beispiel für problematische Gestaltung. Ebenso relevant ist die Frage, ob wesentliche Informationen leicht zugänglich sind. Preise, wiederkehrende Kosten, Vertragsbedingungen oder Auswirkungen einer Zustimmung sollten nicht absichtlich hinter schwer zugänglichen Ebenen verborgen werden. Besondere Aufmerksamkeit verdient schließlich die Frage, ob eine Empfehlung tatsächlich im Interesse des Nutzers liegt oder ob sie vor allem ein wirtschaftliches Ziel verfolgt. Bei KI-Systemen ist diese Unterscheidung nicht immer unmittelbar sichtbar. Warum Transparenz allein nicht ausreicht Transparenz wird häufig als zentrale Lösung für algorithmische Systeme genannt. Sie ist wichtig, aber allein nicht ausreichend. Ein Nutzer kann beispielsweise darüber informiert werden, dass eine Empfehlung automatisiert erzeugt wurde. Diese Information beantwortet jedoch noch nicht unbedingt die Frage, warum genau diese Empfehlung angezeigt wird oder welche Interessen hinter ihrer Gestaltung stehen. Eine sinnvolle Transparenz muss deshalb verständlich und praktisch nutzbar sein. Nutzer müssen relevante Informationen nicht nur theoretisch erhalten, sondern auch in einer Form, die ihnen eine informierte Entscheidung ermöglicht. Das ist insbesondere bei komplexen KI-Systemen eine Herausforderung. Selbst technisch vollständige Erklärungen können für die meisten Nutzer schwer verständlich sein. Die Herausforderung für Unternehmen Für Unternehmen entsteht ein Spannungsfeld zwischen Personalisierung, wirtschaftlicher Optimierung und verantwortungsvoller Gestaltung. KI kann dabei helfen, Produkte effizienter zu machen, Kundenbedürfnisse besser zu verstehen und digitale Prozesse zu vereinfachen. Gleichzeitig müssen Unternehmen darauf achten, dass automatisierte Optimierung nicht unkontrolliert in manipulative Gestaltung übergeht. Dafür reicht es nicht aus, lediglich das KI-Modell zu betrachten. Auch Trainingsdaten, Zielgrößen, Benutzeroberflächen, Empfehlungssysteme und Geschäftsprozesse können relevant sein. Eine verantwortungsvolle Entwicklung bedeutet deshalb zunehmend, nicht nur zu fragen, was ein KI-System technisch kann. Entscheidend ist auch, welche Ziele es verfolgt, welche Daten es verwendet und welche Konsequenzen seine Entscheidungen für Nutzer haben. Die Rolle von Datenschutz und Privacy by Design Bei personenbezogenen Daten gewinnt zudem der Grundsatz an Bedeutung, Datenschutz bereits bei der Entwicklung digitaler Systeme mitzudenken. Die EDPB führt Dark Patterns im Zusammenhang mit Datenschutz und „Privacy by Design and by Default“ ausdrücklich als relevantes Themenfeld. Das bedeutet in der Praxis, dass Nutzer nicht erst nachträglich versuchen sollten, sich gegen eine undurchsichtige Datenverarbeitung zu wehren. Datenschutzfreundliche Entscheidungen sollten bereits in die Gestaltung eines Systems einfließen. Bei KI-Anwendungen kann dies besonders wichtig sein, weil personalisierte Systeme häufig auf umfangreiche Datenbestände angewiesen sind. Je stärker ein System auf individuelle Nutzerprofile ausgerichtet wird, desto größer kann die Bedeutung transparenter und kontrollierbarer Datenverarbeitung werden. Können KI-Systeme Dark Patterns automatisch erkennen? Technisch ist es grundsätzlich möglich, Benutzeroberflächen automatisiert auf bestimmte Merkmale zu untersuchen. Ein KI-System kann Texte analysieren, Seitenstrukturen vergleichen und bestimmte Gestaltungsmuster identifizieren. Eine automatische Erkennung ist jedoch nicht gleichbedeutend mit einer zuverlässigen rechtlichen oder ethischen Bewertung. Ob eine Formulierung manipulativ ist, kann vom Kontext, vom Geschäftsmodell und von der konkreten Nutzergruppe abhängen. Ein System könnte beispielsweise erkennen, dass eine Schaltfläche besonders auffällig gestaltet ist. Daraus folgt noch nicht automatisch, dass die Gestaltung unzulässig ist. Für eine belastbare Bewertung können zusätzliche Informationen erforderlich sein. KI kann daher ein Werkzeug zur Erkennung und Prüfung sein, aber nicht ohne Weiteres als alleinige Instanz für die Beurteilung von Manipulation betrachtet werden. Das Wettrennen zwischen Manipulation und Erkennung Eine der interessantesten Entwicklungen der kommenden Jahre könnte ein technologisches Wettrennen zwischen automatisierter Manipulation und automatisierter Erkennung werden. Je besser KI darin wird, digitale Inhalte individuell anzupassen, desto schwieriger kann es werden, standardisierte Warnzeichen zu definieren. Gleichzeitig können KI-Systeme eingesetzt werden, um genau solche Muster zu identifizieren. Auf der einen Seite stehen Systeme, die Sprache, Design und Nutzerinteraktion personalisieren. Auf der anderen Seite können Prüfwerkzeuge stehen, die Webseiten, Anwendungen und digitale Kommunikation auf problematische Muster untersuchen. Wie dieses Verhältnis ausgeht, lässt sich heute nicht zuverlässig vorhersagen. Sicher ist jedoch, dass die Diskussion nicht allein auf einzelne Chatbots oder generative KI-Modelle beschränkt bleiben wird. Sie betrifft zunehmend das gesamte digitale Ökosystem. Was sich in den kommenden Jahren verändern könnte Die Entwicklung wird voraussichtlich von drei Faktoren geprägt werden: technologische Möglichkeiten, Regulierung und gesellschaftliche Erwartungen. Technologisch dürfte KI immer stärker in digitale Produkte integriert werden. Dadurch können Personalisierung, Empfehlungssysteme und automatisierte Kommunikation weiter zunehmen. Regulatorisch wird entscheidend sein, wie bestehende Regeln auf neue technische Anwendungen angewendet und durchgesetzt werden. Der europäische AI Act bildet dabei einen wichtigen Rahmen für bestimmte manipulative KI-Praktiken. Gesellschaftlich dürfte die Frage nach digitaler Selbstbestimmung an Bedeutung gewinnen. Nutzer wollen nicht nur effiziente digitale Produkte, sondern zunehmend auch nachvollziehen können, warum ihnen bestimmte Inhalte angezeigt oder bestimmte Entscheidungen nahegelegt werden. Eine neue Definition von digitaler Selbstbestimmung Die klassische Vorstellung von Datenschutz konzentriert sich häufig darauf, welche Daten gesammelt und verarbeitet werden. Im Zeitalter personalisierter KI kommt eine weitere Dimension hinzu: Wie werden Menschen auf Grundlage dieser Daten beeinflusst? Diese Frage geht über Datenschutz hinaus. Sie betrifft die Autonomie des Einzelnen und damit eine grundlegende Voraussetzung für selbstbestimmte Entscheidungen. Wenn ein System lediglich Informationen bereitstellt, bleibt die Entscheidung beim Nutzer. Wenn es dagegen systematisch versucht, die Entscheidungsbedingungen so zu verändern, dass bestimmte Verhaltensweisen wahrscheinlicher werden, verschiebt sich das Verhältnis zwischen Mensch und Technologie. Die Herausforderung besteht darin, zwischen legitimer Unterstützung und unzulässiger oder schädlicher Einflussnahme zu unterscheiden. Fazit: Die eigentliche Gefahr liegt nicht in der KI allein KI und Dark Patterns sind keine zwangsläufige Kombination. Künstliche Intelligenz kann digitale Angebote verständlicher, zugänglicher und persönlicher machen. Sie kann ebenso dazu eingesetzt werden, problematische Gestaltungsmuster schneller zu entwickeln, zu skalieren und stärker auf einzelne Nutzer zuzuschneiden. Das zentrale Risiko liegt deshalb weniger in der Technologie selbst als in ihren Zielsetzungen und ihrer Einbettung in digitale Geschäftsmodelle. Die bestehenden Arbeiten von OECD, EDPB und FTC zeigen, dass manipulative digitale Gestaltung bereits vor dem Durchbruch generativer KI ein relevantes Problem war. KI kann diese Entwicklung jedoch durch Personalisierung und Automatisierung auf eine neue technische Ebene bringen. Für Nutzer bedeutet das, digitale Entscheidungen bewusster zu hinterfragen. Für Unternehmen bedeutet es, bei der Entwicklung KI-gestützter Produkte nicht nur Effizienz und Conversion zu betrachten, sondern auch Transparenz, Nutzerautonomie und rechtliche Grenzen. Für Gesetzgeber und Aufsichtsbehörden besteht die Herausforderung darin, Regeln so anzuwenden und weiterzuentwickeln, dass sie mit der technischen Entwicklung Schritt halten. Die entscheidende Frage der kommenden Jahre wird daher nicht nur lauten, was künstliche Intelligenz kann. Sie wird zunehmend lauten, wie weit ein digitales System gehen darf, um Menschen zu einer bestimmten Entscheidung zu bewegen. FAQ: KI und Dark Patterns Was sind Dark Patterns? Dark Patterns sind digitale Gestaltungsmethoden, die Nutzer durch die Art der Darstellung von Auswahlmöglichkeiten zu Entscheidungen lenken, die möglicherweise nicht ihren eigenen Interessen entsprechen. Die OECD beschreibt sie als Praktiken, die Entscheidungen unter anderem durch Steuern, Täuschen oder Druck beeinflussen können. Was hat künstliche Intelligenz mit Dark Patterns zu tun? KI kann Daten analysieren, Inhalte personalisieren und digitale Prozesse automatisieren. Dadurch kann sie theoretisch auch dazu eingesetzt werden, manipulative Gestaltung stärker auf einzelne Nutzer oder Nutzergruppen zuzuschneiden. Die OECD nennt insbesondere Fortschritte im Machine Learning als Faktor, der eine individuellere Ausrichtung solcher Praktiken ermöglichen kann. Ist jede Personalisierung ein Dark Pattern? Nein. Personalisierung ist zunächst eine normale Funktion digitaler Systeme und kann für Nutzer sehr hilfreich sein. Problematisch wird sie insbesondere dann, wenn die Gestaltung gezielt darauf ausgerichtet ist, informierte Entscheidungen zu beeinträchtigen oder Nutzer zu Handlungen zu bewegen, die nicht in ihrem Interesse liegen. Sind Dark Patterns illegal? Nicht jedes Dark Pattern ist automatisch nach demselben Gesetz oder in jeder Rechtsordnung illegal. Bestimmte manipulative Praktiken können jedoch gegen Verbraucher-, Datenschutz- oder Plattformrecht verstoßen. Der EU AI Act verbietet unter bestimmten Voraussetzungen bestimmte manipulative oder täuschende KI-Praktiken. Was verbietet der EU AI Act bei Manipulation durch KI? Artikel 5 des AI Act verbietet unter anderem bestimmte KI-Systeme, die subliminale oder absichtlich manipulative beziehungsweise täuschende Techniken einsetzen, wenn die gesetzlich festgelegten Voraussetzungen hinsichtlich erheblicher Verhaltensbeeinflussung und Schadens erfüllt sind. Ebenfalls verboten sind bestimmte Formen der Ausnutzung von Schwachstellen bestimmter Personen oder Gruppen unter den dort genannten Voraussetzungen. Können Large Language Models Dark Patterns erzeugen? Large Language Models können Texte und andere Inhalte generieren, die theoretisch für unterschiedliche Kommunikationsziele eingesetzt werden können. Ob ein konkreter Einsatz ein Dark Pattern darstellt, hängt jedoch von Inhalt, Kontext, Zielsetzung und Wirkung ab. Aus der Fähigkeit eines Modells zur Textgenerierung folgt nicht automatisch eine manipulative Anwendung. Können KI-Systeme Dark Patterns erkennen? Ja, KI kann zur Analyse digitaler Benutzeroberflächen und Inhalte eingesetzt werden und bestimmte potenziell problematische Muster erkennen. Eine automatisierte Erkennung ersetzt jedoch nicht zwangsläufig eine kontextbezogene rechtliche oder ethische Bewertung. Warum sind Dark Patterns für den Datenschutz relevant? Dark Patterns können Nutzer dazu bringen, mehr personenbezogene Daten preiszugeben oder einer Datenverarbeitung zuzustimmen, ohne die Konsequenzen vollständig zu überblicken. Die EDPB behandelt manipulative Gestaltungsmuster deshalb ausdrücklich im Zusammenhang mit Datenschutz und sozialen Medien. Welche Rolle spielt generative KI künftig? Generative KI könnte die automatische Erstellung und Personalisierung digitaler Inhalte weiter ausbauen. Dadurch können sowohl nutzerfreundliche Anwendungen als auch potenziell problematische Formen der Beeinflussung entstehen. Welche Entwicklung überwiegt, hängt von technischen, wirtschaftlichen, regulatorischen und gesellschaftlichen Faktoren ab. Was können Nutzer gegen Dark Patterns tun? Nutzer können besonders auf asymmetrische Auswahlmöglichkeiten, versteckte Informationen, künstlichen Zeitdruck, schwer auffindbare Kündigungsoptionen und ungewöhnlich aufdringliche Zustimmungselemente achten. Die von der FTC beschriebenen Beispiele zeigen, dass solche Muster häufig gerade darauf abzielen, Entscheidungen weniger transparent zu machen. Warum sind KI-gestützte Dark Patterns schwerer zu erkennen? Wenn digitale Systeme Inhalte und Gestaltung dynamisch an unterschiedliche Nutzer anpassen, kann eine manipulative Methode bei verschiedenen Personen unterschiedlich aussehen. Dadurch kann es schwieriger werden, ein einheitliches Muster zu erkennen. Daraus folgt jedoch nicht, dass jedes personalisierte System automatisch manipulativ ist. Was ist die wichtigste langfristige Herausforderung? Die zentrale Herausforderung besteht darin, die Vorteile von Personalisierung und Automatisierung zu erhalten, ohne die Entscheidungsfreiheit der Nutzer zu untergraben. Dafür werden technische Schutzmechanismen, verantwortungsvolle Produktentwicklung, wirksame Regulierung und ein hohes Maß an digitaler Kompetenz gleichermaßen relevant sein.

3. 

   26 Oct 2026

   Datenqualität in der Medizin: Segen für die KI – oder der größte Risikofaktor?

   ---werbung--- 🎙️ Du hörst Podcasts – warum nicht bald deinen eigenen haben? Mit KI geht’s einfacher, als du denkst. Jetzt unverbindlich auf die Founderliste! 🚀 👉 https://podcast-mit-ki.systeme.io/home (https://podcast-mit-ki.systeme.io/home) ---werbung--- Wenn medizinische Daten zur Grundlage intelligenter Systeme werden Künstliche Intelligenz verändert die Medizin. Systeme auf Basis von Machine Learning und Deep Learning unterstützen bereits heute Anwendungen in der Bildgebung, bei der Analyse medizinischer Daten und bei bestimmten diagnostischen oder klinischen Entscheidungsprozessen. Gleichzeitig wächst die Bedeutung elektronischer Patientenakten, Laborwerte, medizinischer Bilder, genetischer Informationen, Daten aus Wearables und anderer digitaler Gesundheitsdaten. Damit entsteht eine wichtige Voraussetzung für datengetriebene Medizin: Es stehen immer größere Datenmengen zur Verfügung. Doch Größe allein entscheidet nicht über den Wert dieser Daten. Für ein KI-System ist entscheidend, ob die verwendeten Informationen korrekt, vollständig, konsistent, relevant, aktuell und für den jeweiligen Anwendungsfall geeignet sind. Das US-amerikanische National Institute of Standards and Technology (NIST) beschreibt Datenqualität im Gesundheitsbereich genau in diesem Zusammenhang: Die Qualität der Daten beeinflusst unmittelbar die Qualität der daraus erzeugten KI-Ergebnisse. Damit wird Datenqualität zu einer der zentralen Voraussetzungen für die Zukunft der digitalen Medizin. Sie kann Forschung beschleunigen, Diagnostik unterstützen und neue Formen der personalisierten Medizin ermöglichen. Gleichzeitig können fehlerhafte, unvollständige oder nicht repräsentative Daten Fehler in KI-Systemen verstärken und dadurch medizinische Risiken schaffen. Die entscheidende Frage lautet deshalb nicht nur, wie viel medizinische Information gesammelt wird. Entscheidend ist, ob diese Information tatsächlich geeignet ist, verlässlich für medizinische Entscheidungen genutzt zu werden. Was bedeutet Datenqualität in der Medizin? Datenqualität ist kein einzelner Messwert. Sie umfasst verschiedene Eigenschaften eines Datensatzes. Korrekte Daten müssen beispielsweise sachlich richtig sein. Vollständigkeit bedeutet, dass relevante Informationen nicht systematisch fehlen. Konsistenz beschreibt, dass Daten einheitlich erfasst und interpretiert werden können. Aktualität spielt ebenfalls eine Rolle, weil medizinische Informationen ihren Wert verändern können, wenn sie veraltet sind. Hinzu kommt die Frage der Relevanz: Ein Datensatz kann technisch sehr umfangreich sein und trotzdem für eine konkrete medizinische Fragestellung ungeeignet sein. Diese Unterscheidung ist für KI besonders wichtig. Ein Algorithmus kann statistische Muster in sehr großen Datenmengen erkennen, aber er kann nicht automatisch feststellen, ob ein vorhandenes Muster medizinisch sinnvoll oder lediglich eine Folge von Fehlern in der Datenerfassung ist. NIST nennt deshalb Genauigkeit, Vollständigkeit, Konsistenz, Relevanz und Aktualität als wesentliche Aspekte hochwertiger Gesundheitsdaten. Die Weltgesundheitsorganisation weist ebenfalls darauf hin, dass belastbare Entscheidungen im Gesundheitswesen auf verlässlichen Daten beruhen und dass die Qualität von Routinedaten dauerhaft überprüft und verbessert werden muss. Das Problem beginnt häufig vor der KI Wenn über KI in der Medizin gesprochen wird, richtet sich die Aufmerksamkeit häufig auf das Modell. Welche Architektur wird verwendet? Wie leistungsfähig ist der Algorithmus? Wie groß ist das neuronale Netz? Wie gut schneidet das System bei einem Benchmark ab? In der Praxis beginnt die Qualität eines KI-Systems jedoch bereits wesentlich früher. Daten müssen zunächst erhoben, gespeichert, übertragen, standardisiert, annotiert und aufbereitet werden. Bei medizinischen Bildern muss beispielsweise festgelegt werden, welche Befunde als relevante Merkmale gelten. Bei klinischen Daten muss klar sein, welche Variable tatsächlich gemessen wurde und unter welchen Bedingungen die Messung erfolgte. Auch die Herkunft der Daten ist entscheidend. Daten aus einem spezialisierten Universitätsklinikum können andere Patientengruppen abbilden als Daten aus einer regionalen Versorgungseinrichtung. Unterschiede können unter anderem bei Alter, Erkrankungen, Behandlungsmethoden, medizinischer Infrastruktur oder der Häufigkeit bestimmter Diagnosen auftreten. Ein KI-System, das ausschließlich aus einer bestimmten Population gelernt hat, kann deshalb außerhalb dieser Population schlechter funktionieren. Das bedeutet nicht zwangsläufig, dass das Modell technisch schlecht entwickelt wurde. Vielmehr kann der Datensatz die Realität, in der das System später eingesetzt wird, nicht ausreichend abbilden. Die WHO betont deshalb bei KI im Gesundheitswesen die Bedeutung repräsentativer, ethisch gewonnener und möglichst bias-armer Datensätze. Ziel ist nicht lediglich eine hohe technische Leistungsfähigkeit, sondern ein sicherer und gerechter Einsatz der Technologie. Wenn schlechte Daten zu guten Ergebnissen führen – und trotzdem gefährlich sind Eine besondere Herausforderung besteht darin, dass ein KI-System mit problematischen Daten durchaus überzeugende Testergebnisse erzielen kann. Ein Algorithmus kann beispielsweise statistische Zusammenhänge erkennen, die innerhalb seines Trainingsdatensatzes sehr zuverlässig erscheinen. Wenn diese Zusammenhänge jedoch nicht die eigentliche medizinische Ursache abbilden, sondern lediglich mit bestimmten Aufnahmebedingungen, Untersuchungsgeräten, Kliniken oder Dokumentationsmustern verbunden sind, kann das System außerhalb des Trainingsumfelds versagen. Dieses Problem ist eine Variante dessen, was in der KI-Forschung häufig als Distribution Shift bezeichnet wird. Die Daten, mit denen ein System später konfrontiert wird, unterscheiden sich von den Daten, mit denen es entwickelt oder getestet wurde. Deshalb reicht es nicht aus, ein Modell einmal mit einem großen Datensatz zu trainieren. Entscheidend ist auch die externe Validierung. Ein System sollte unter Bedingungen geprüft werden, die möglichst realistisch für den späteren Einsatz sind. Die WHO hebt die externe Validierung von Daten und die klare Definition des vorgesehenen Anwendungsbereichs ausdrücklich als wichtige Elemente für die Sicherheit medizinischer KI hervor. Der Bias in medizinischen Datensätzen Eine der größten Herausforderungen der Datenqualität ist Verzerrung, häufig als Bias bezeichnet. Bias kann entstehen, wenn bestimmte Bevölkerungsgruppen in einem Datensatz überrepräsentiert sind, während andere nur unzureichend vorkommen. Das Problem ist nicht auf KI beschränkt. Medizinische Forschung und Versorgung müssen grundsätzlich mit unterschiedlichen Patientengruppen umgehen. Bei KI kann eine bestehende Verzerrung jedoch systematisch in ein Modell übertragen werden. Wenn ein Modell bestimmte Krankheitsbilder überwiegend anhand von Daten einer bestimmten Patientengruppe gelernt hat, ist nicht automatisch gewährleistet, dass es bei anderen Gruppen gleich zuverlässig arbeitet. Deshalb ist die Repräsentativität der Daten nicht nur eine statistische Frage, sondern auch eine Frage der Patientensicherheit und der gesundheitlichen Chancengleichheit. Die europäische KI-Regulierung greift diesen Punkt ausdrücklich auf. Artikel 10 des EU AI Act sieht für bestimmte Hochrisiko-KI-Systeme Anforderungen an Training-, Validierungs- und Testdaten sowie an deren Daten-Governance vor. Dazu gehören unter anderem die Prüfung von Herkunft und Aufbereitung der Daten sowie die Untersuchung möglicher Verzerrungen und geeignete Maßnahmen zu deren Vermeidung oder Verringerung. Elektronische Gesundheitsdaten werden zum strategischen Rohstoff Die Bedeutung hochwertiger Daten wächst auch deshalb, weil immer mehr medizinische Informationen digital verfügbar werden. Elektronische Gesundheitsakten, Laborwerte, medizinische Bildgebung, Register, klinische Studien und Daten medizinischer Geräte können unterschiedliche Perspektiven auf den Gesundheitszustand eines Menschen liefern. In der Europäischen Union soll der European Health Data Space, kurz EHDS, dafür einen gemeinsamen Rahmen schaffen. Die entsprechende Verordnung trat am 26. März 2025 in Kraft. Sie verfolgt unter anderem das Ziel, Patientinnen und Patienten einen besseren Zugang zu ihren elektronischen Gesundheitsdaten zu ermöglichen und deren sichere Weiterverwendung für Forschung, Innovation, Gesundheitspolitik und regulatorische Zwecke zu erleichtern. Dabei unterscheidet der EHDS zwischen der primären Nutzung von Gesundheitsdaten für die Versorgung und der sekundären Nutzung beispielsweise für Forschung oder Innovation. Für die sekundäre Nutzung gelten festgelegte Bedingungen und Schutzmechanismen. Die Umsetzung erfolgt schrittweise; wichtige Teile der Regelung zur grenzüberschreitenden Nutzung sollen ab 2029 beziehungsweise 2031 Anwendung finden. Damit entsteht ein Spannungsfeld: Je besser Gesundheitsdaten zugänglich und miteinander nutzbar sind, desto größer kann ihr wissenschaftlicher und technologischer Wert werden. Gleichzeitig steigt die Bedeutung von Datenschutz, Datensicherheit, Zugriffsregeln und einer verantwortungsvollen Daten-Governance. Mehr Daten sind nicht automatisch bessere Daten Die Digitalisierung erzeugt große Mengen an Gesundheitsinformationen. Das bedeutet jedoch nicht automatisch, dass diese Informationen für KI-Systeme geeignet sind. Ein umfangreicher Datensatz kann beispielsweise viele fehlende Werte enthalten. Unterschiedliche Einrichtungen können dieselben medizinischen Sachverhalte unterschiedlich dokumentieren. Laborwerte können mit unterschiedlichen Einheiten oder Referenzbereichen gespeichert werden. Diagnosen können sich im Laufe der Zeit verändern oder unterschiedlich kodiert sein. Auch die zeitliche Dimension ist relevant. Eine medizinische Behandlung verändert möglicherweise den Zustand eines Patienten. Werden Daten aus unterschiedlichen Zeitpunkten miteinander kombiniert, muss klar sein, in welcher Reihenfolge Ereignisse stattgefunden haben. Für KI-Systeme kann eine solche Datenqualität entscheidend sein. Ein Modell erkennt keine medizinische Wahrheit, sondern mathematische Zusammenhänge in den Daten, mit denen es entwickelt wurde. Sind diese Daten unvollständig oder systematisch verzerrt, kann auch das gelernte Modell entsprechende Fehler übernehmen. Der Grundsatz „Garbage in, garbage out“ ist deshalb gerade im Gesundheitswesen relevant: Die Leistungsfähigkeit eines KI-Systems ist nicht unabhängig von der Qualität seiner Datengrundlage. NIST bezeichnet Datenqualität ausdrücklich als einen Schlüssel für zuverlässige KI-Anwendungen im Gesundheitswesen. Die Chancen hochwertiger Gesundheitsdaten Hochwertige medizinische Daten können einen erheblichen Nutzen für Forschung und Versorgung ermöglichen. Werden Informationen aus verschiedenen Quellen strukturiert und unter geeigneten Bedingungen zusammengeführt, können Forschende größere Patientengruppen untersuchen und Zusammenhänge erkennen, die in einzelnen Einrichtungen schwer sichtbar wären. Die Europäische Kommission sieht in der sekundären Nutzung von Gesundheitsdaten unter anderem Potenzial für medizinische Forschung, neue Behandlungsmethoden, bessere Gesundheitsversorgung und evidenzbasierte Gesundheitspolitik. Auch die Erforschung seltener Erkrankungen kann von größeren und besser zugänglichen Datensätzen profitieren. Für KI bedeutet dies eine wichtige Grundlage. Machine-Learning-Systeme benötigen Daten, um Muster zu lernen. Deep-Learning-Modelle können besonders komplexe Zusammenhänge aus großen Datensätzen ableiten. Bei multimodalen Systemen können unterschiedliche Datentypen wie Text, Bilder oder andere Informationen gemeinsam verarbeitet werden. Die WHO sieht deshalb großes Potenzial in KI für das Gesundheitswesen, verbindet diese Chancen aber ausdrücklich mit Anforderungen an Sicherheit, Ethik, Governance und Regulierung. Medizinische KI ist bereits Realität Die Entwicklung ist längst über die reine Forschung hinausgegangen. In den USA führt die Food and Drug Administration eine öffentlich zugängliche Liste KI-gestützter Medizinprodukte. Die Liste umfasst inzwischen eine große und weiter wachsende Zahl zugelassener beziehungsweise autorisierter Systeme. Zu den dokumentierten Anwendungen gehören unter anderem Systeme aus der Radiologie, Neurologie und anderen medizinischen Bereichen. Der FDA-Jahresbericht für 2025 nennt mehr als 1.300 bis dahin autorisierte KI-gestützte Medizinprodukte. Das verdeutlicht, dass KI nicht mehr ausschließlich ein Forschungsgebiet ist, sondern zunehmend Bestandteil realer medizinischer Produkte und Arbeitsabläufe wird. Besonders stark ist die Entwicklung in Bereichen, in denen medizinische Daten bereits digital und strukturiert vorliegen. Dazu zählt beispielsweise die medizinische Bildgebung. KI kann dort bei der Analyse von Aufnahmen unterstützen und bestimmte Muster automatisiert erkennen. Dabei bedeutet eine Zulassung allerdings nicht, dass eine KI selbstständig jede medizinische Entscheidung treffen kann. Die jeweilige Zulassung bezieht sich auf den konkreten vorgesehenen Verwendungszweck und die entsprechenden regulatorischen Anforderungen. Von der Diagnosehilfe zur datengetriebenen Medizin Die langfristige Bedeutung hochwertiger Gesundheitsdaten geht über einzelne Diagnosewerkzeuge hinaus. Wenn Daten aus elektronischen Gesundheitsakten, Laboruntersuchungen, medizinischen Bildern, Geräten und anderen Quellen miteinander verbunden werden können, entsteht die Möglichkeit einer stärker integrierten datengetriebenen Medizin. Dabei könnte KI nicht nur einzelne Bilder analysieren, sondern verschiedene Informationsquellen gemeinsam berücksichtigen. Die WHO beschäftigt sich bereits mit sogenannten Large Multimodal Models, die unterschiedliche Datentypen verarbeiten können und perspektivisch in Gesundheitsversorgung, Forschung und Arzneimittelentwicklung eingesetzt werden könnten. Gleichzeitig weist die WHO darauf hin, dass die tatsächlichen Fähigkeiten und Grenzen solcher Systeme weiterhin sorgfältig bewertet werden müssen. Damit verschiebt sich die Diskussion über Datenqualität. Es reicht künftig möglicherweise nicht mehr aus, einzelne Datenfelder korrekt zu speichern. Entscheidend wird sein, ob Daten aus verschiedenen Quellen interoperabel zusammengeführt und in ihrem jeweiligen Kontext korrekt interpretiert werden können. Datenschutz bleibt die zentrale Gegenfrage Gesundheitsdaten gehören zu den besonders sensiblen personenbezogenen Informationen. Eine stärkere Nutzung für KI und Forschung kann deshalb nicht losgelöst vom Datenschutz betrachtet werden. Die Herausforderung besteht darin, einen sinnvollen Zugang zu Daten zu ermöglichen und gleichzeitig die Privatsphäre der betroffenen Menschen zu schützen. Der EHDS sieht für die sekundäre Nutzung unter anderem Genehmigungsverfahren, sichere Verarbeitungsumgebungen, Anforderungen an Anonymisierung beziehungsweise Pseudonymisierung und weitere Schutzmaßnahmen vor. Unter bestimmten Bedingungen ist auch ein Opt-out von der sekundären Nutzung vorgesehen. Damit wird deutlich, dass Datenqualität und Datenschutz keine Gegensätze sein müssen. Eine hochwertige Dateninfrastruktur benötigt beides. Daten müssen für einen definierten Zweck ausreichend zugänglich, strukturiert und verlässlich sein, gleichzeitig aber kontrolliert und sicher verarbeitet werden. Der EU AI Act verändert die Anforderungen Auch die Regulierung von Künstlicher Intelligenz verändert den Umgang mit medizinischen Daten. Der EU AI Act verfolgt einen risikobasierten Ansatz und stellt an bestimmte Hochrisiko-Systeme besonders hohe Anforderungen. Für entsprechende Systeme verlangt Artikel 10 unter anderem geeignete Verfahren für Daten-Governance und Datenmanagement. Dazu gehören die Berücksichtigung der Datenerhebung und ihrer Herkunft, der Aufbereitung, Kennzeichnung, Bereinigung und Aktualisierung sowie die Bewertung der Eignung und möglicher Verzerrungen der Datensätze. Der aktuelle Zeitplan sieht für verschiedene Kategorien von Hochrisiko-Systemen unterschiedliche Anwendungsdaten vor. Für Hochrisiko-KI, die in regulierte Produkte wie bestimmte Medizinprodukte eingebettet ist, ist eine längere Übergangsfrist vorgesehen. Die entsprechenden Regeln sollen nach dem derzeit veröffentlichten EU-Zeitplan ab August 2028 gelten; bei anderen Hochrisiko-Anwendungen ist Dezember 2027 als zentraler Anwendungstermin vorgesehen. Damit wird Datenqualität zunehmend von einer rein technischen Angelegenheit zu einer regulatorischen Anforderung. Regulierung allein garantiert keine gute Datenqualität Trotz dieser Fortschritte kann Regulierung nicht jedes Datenproblem lösen. Die Qualität eines Datensatzes hängt auch von den Prozessen in Krankenhäusern, Arztpraxen, Laboren, Forschungseinrichtungen und bei Technologieanbietern ab. Wenn Daten bereits bei der Erfassung fehlerhaft sind, kann ein späterer Algorithmus diese Fehler nicht automatisch beseitigen. Ebenso wenig kann ein KI-System allein entscheiden, ob eine bestimmte Information unter einem bestimmten medizinischen Kontext korrekt interpretiert wurde. Deshalb wird menschliche Kontrolle weiterhin eine wichtige Rolle spielen. Die FDA betont bei KI-gestützten Medizinprodukten einen Ansatz über den gesamten Produktlebenszyklus hinweg. Entwicklung, Validierung, Dokumentation, Überwachung nach der Markteinführung und der Umgang mit Änderungen gehören zusammen. Diese Entwicklung ist besonders relevant, weil KI-Systeme nicht immer statisch bleiben. Änderungen an Daten, Software oder Modellen können die Leistungsfähigkeit eines Systems beeinflussen. Die Überwachung nach der Einführung in die Praxis gewinnt deshalb an Bedeutung. Die nächste Herausforderung: Datenqualität im laufenden Betrieb Die klassische Vorstellung von Datenqualität betrachtet häufig einen Datensatz zu einem bestimmten Zeitpunkt. In einer zunehmend digitalen Medizin reicht das möglicherweise nicht mehr aus. Gesundheitsdaten werden laufend aktualisiert. Neue Laborwerte kommen hinzu, Diagnosen verändern sich, Behandlungen werden begonnen oder beendet und medizinische Geräte erzeugen kontinuierlich neue Informationen. Gleichzeitig können sich klinische Standards und Patientengruppen verändern. Damit entsteht die Notwendigkeit einer kontinuierlichen Qualitätssicherung. Die WHO stellt bei ihren Instrumenten zur Datenqualität ebenfalls nicht nur die einmalige Prüfung, sondern die Verbesserung und Nachverfolgung von Datenqualität in den Mittelpunkt. Für KI-Systeme bedeutet das, dass die Frage nicht nur lautet, ob ein Modell bei seiner Entwicklung funktioniert hat. Entscheidend ist auch, ob es unter veränderten Bedingungen weiterhin zuverlässig arbeitet. Interoperabilität wird zum Schlüsselfaktor Eine weitere Herausforderung liegt in der Fähigkeit unterschiedlicher Systeme, medizinische Informationen miteinander auszutauschen. Daten können vorhanden sein, aber trotzdem nur eingeschränkt nutzbar sein, wenn Systeme unterschiedliche Formate, Standards oder Bedeutungen verwenden. Interoperabilität ist deshalb ein wichtiger Bestandteil einer leistungsfähigen digitalen Gesundheitsinfrastruktur. Die WHO nennt die Förderung von Interoperabilität und Datenaustausch ausdrücklich als Bestandteil einer verantwortungsvollen Governance für Gesundheitsdaten. Der EHDS soll ebenfalls dazu beitragen, den Austausch elektronischer Gesundheitsdaten innerhalb der Europäischen Union zu verbessern und einen gemeinsamen Rahmen für elektronische Gesundheitsakten zu schaffen. Je besser Daten technisch und semantisch miteinander kompatibel sind, desto größer wird grundsätzlich ihr Potenzial für Forschung und KI. Gleichzeitig steigt damit die Bedeutung gemeinsamer Standards und klarer Verantwortlichkeiten. Was sich in den kommenden Jahren verändern könnte Die Entwicklung deutet auf eine Medizin hin, in der Daten zunehmend über die gesamte Versorgungskette hinweg genutzt werden. Elektronische Gesundheitsakten, medizinische Geräte, Bildgebung, Laboranalysen und Forschungsdaten könnten stärker miteinander verbunden werden. Der EHDS schafft dafür in Europa einen regulatorischen und infrastrukturellen Rahmen, dessen Umsetzung über mehrere Jahre erfolgen wird. Die Europäische Kommission sieht insbesondere in der sekundären Nutzung Möglichkeiten für Forschung, Innovation und datengetriebene Gesundheitsanwendungen. Parallel entwickelt sich die KI weiter. Multimodale Modelle können unterschiedliche Datenarten verarbeiten, während spezialisierte Machine-Learning-Systeme weiterhin für konkrete medizinische Aufgaben eingesetzt werden. Ob allgemeine KI-Systeme langfristig zuverlässig genug für komplexe medizinische Entscheidungen werden, ist derzeit keine abschließend beantwortete Frage. Wahrscheinlicher ist zunächst eine zunehmende Kombination aus spezialisierten KI-Systemen, medizinischer Software, elektronischen Gesundheitsdaten und menschlicher Expertise. Dabei wird nicht allein die Leistungsfähigkeit des Algorithmus über den Erfolg entscheiden, sondern die gesamte technische und organisatorische Umgebung, in der er eingesetzt wird. Datenqualität wird zum Qualitätsmerkmal der Medizin selbst Die Diskussion über Datenqualität führt damit zu einer grundlegenderen Erkenntnis. Daten sind in der Medizin nicht einfach ein Nebenprodukt der Behandlung. Sie werden zunehmend zu einer Infrastruktur, auf der Forschung, Versorgung, Qualitätsmanagement und KI-Anwendungen aufbauen. Wenn diese Infrastruktur zuverlässig funktioniert, können Daten einen erheblichen Mehrwert erzeugen. Krankheiten lassen sich möglicherweise früher erkennen, Forschung kann effizienter werden und medizinische Entscheidungen können durch zusätzliche Informationen unterstützt werden. Wenn die Datengrundlage dagegen unvollständig, verzerrt oder falsch interpretiert ist, kann Digitalisierung bestehende Probleme nicht automatisch lösen. Im ungünstigsten Fall kann ein automatisiertes System Fehler sogar schneller und systematischer reproduzieren. Die eigentliche Herausforderung besteht deshalb nicht darin, möglichst viele Daten zu sammeln. Entscheidend ist, die richtigen Daten in einer nachvollziehbaren Qualität, im richtigen Kontext und unter angemessenen Schutzbedingungen verfügbar zu machen. Fluch oder Segen? Datenqualität in der Medizin ist weder grundsätzlich Fluch noch automatisch Segen. Sie ist eine Voraussetzung dafür, dass datengetriebene Technologien ihren Nutzen tatsächlich entfalten können. Hochwertige Daten schaffen die Grundlage für zuverlässigere Analysen, wissenschaftliche Erkenntnisse und medizinische KI-Anwendungen. Schlechte Daten können dagegen falsche Zusammenhänge verstärken, Verzerrungen reproduzieren und die Aussagekraft automatisierter Systeme einschränken. Die zunehmende Regulierung zeigt, dass diese Erkenntnis auch auf politischer Ebene angekommen ist. Der EU AI Act verankert Anforderungen an Daten-Governance bei bestimmten Hochrisiko-Systemen, während Gesundheitsdatenregulierungen wie der EHDS gleichzeitig versuchen, den kontrollierten Zugang und die Weiterverwendung medizinischer Daten zu ermöglichen. Die entscheidende Entwicklung der kommenden Jahre dürfte deshalb weniger darin bestehen, einfach immer größere Datenmengen zu erzeugen. Viel wichtiger wird die Fähigkeit sein, Daten zuverlässig zu erfassen, ihre Herkunft und Qualität nachvollziehbar zu dokumentieren, Verzerrungen zu erkennen, Systeme kontinuierlich zu überwachen und unterschiedliche Datenquellen sinnvoll miteinander zu verbinden. Für die Medizin bedeutet das eine klare Konsequenz: Künstliche Intelligenz kann nur so verlässlich sein, wie die gesamte Kette hinter ihr. Datenqualität ist damit kein technisches Detail im Hintergrund, sondern eine der zentralen Voraussetzungen dafür, dass die Digitalisierung des Gesundheitswesens tatsächlich zu besseren Entscheidungen und besseren Versorgungsergebnissen beitragen kann.

Reach and audience

Public platform figures. Ratings count people who left a rating, not total listeners.

Spotify

5.0 / 5

2 ratings

Contact Der künstliche Intelligenz Podcast

Guest appearances

Does not typically book guests

Based on episode analysis; this does not confirm that the show is currently accepting guests.

Shows with a similar audience

• 

  KI-Update – ein Heise-Podcast

• 

  KI verstehen

• 

  Doppelgänger Tech Talk

• 

  LANZ & PRECHT

• 

  Acht Milliarden

• 

  programmier.bar – der Podcast für App- und Webentwicklung