Kinder im KI-Zeitalter: Warum digitale Täuschungen zur echten Gefahr werden

Kinder und Jugendliche sind im Umgang mit Künstlicher Intelligenz besonders vulnerabel. Aufgrund ihres kognitiven und emotionalen Entwicklungsstands fällt es ihnen häufig schwerer als Erwachsenen, Künstlich-Intelligenz-generierte Inhalte kritisch zu hinterfragen. Gleichzeitig werden generative Künstlich-Intelligenz-Systeme immer leistungsfähiger: Sie erzeugen täuschend echte Texte, Bilder oder Stimmen und können Desinformation, manipulative Inhalte oder stereotype Rollenbilder verstärken.

Besonders problematisch sind sogenannte Deepfakes, bei denen die Grenze zwischen Realität und Fiktion zunehmend verschwimmt. Dadurch können Risiken wie Cybermobbing, Radikalisierung, extremistische Inhalte oder sexualisierte Gewalt im digitalen Raum weiter zunehmen. Hinzu kommt, dass digitale Plattformen das Verhalten junger Nutzerinnen und Nutzer kontinuierlich analysieren, um Inhalte zu personalisieren und Aufmerksamkeit gezielt zu steuern. Dies wirft grundlegende Fragen nach Datenschutz, Privatsphäre und Einflussnahme auf.

Auch die sozialen Folgen von Künstlicher Intelligenz rücken stärker in den Fokus. Künstlich-Intelligenz-basierte Chatbots und virtuelle Begleiter treten zunehmend als scheinbar soziale Interaktionspartner auf. Gerade Kinder und Jugendliche neigen dazu, solchen Systemen menschliche Eigenschaften zuzuschreiben und ihnen besonderes Vertrauen entgegenzubringen. Daraus ergeben sich pädagogische und gesellschaftliche Herausforderungen.

Kindgerechte Gestaltung und Medienkompetenz sicherstellen

„Kinder und Jugendliche benötigen im Umgang mit Künstlicher Intelligenz Unterstützung und besonderen Schutz. Gleichzeitig sollten sie befähigt werden, Künstlich-Intelligenz-Systeme kritisch und selbstbestimmt zu nutzen“, erklärt Prof. Dr. Jessica Heesen, Eberhard Karls Universität Tübingen. „Deshalb braucht es nicht nur Regulierung, sondern auch eine kindgerechte Gestaltung von Künstlich-Intelligenz-Systemen und den Ausbau von Medien- und Künstlich-Intelligenz-Kompetenzen.“

Für einen verantwortungsvollen Einsatz von Künstlicher Intelligenz nennt das Whitepaper zentrale Anforderungen: Künstlich-Intelligenz-Systeme sollen transparent, verständlich und altersgerecht gestaltet sein. Kinder müssen erkennen können, wann sie mit einem Künstlich-Intelligenz-System interagieren und wie Inhalte entstehen. Gleichzeitig sollen Schutzmechanismen wie klare Altersgrenzen, datenschutzfreundliche Voreinstellungen und nachvollziehbare Kennzeichnungen Künstlich-Intelligenz-generierter Inhalte etabliert werden. Ebenso wichtig ist die Förderung von Medien- und Künstlich-Intelligenz-Kompetenz in Schulen und außerschulischen Bildungsangeboten, damit Kinder und Jugendliche lernen, Künstlich-Intelligenz-Systeme kritisch zu hinterfragen und verantwortungsvoll zu nutzen.

Das Whitepaper betont zugleich die Potenziale von Künstlicher Intelligenz für Bildung und Inklusion. Richtig eingesetzt können Künstlich-Intelligenz-Systeme individuelle Lernwege unterstützen, Barrieren abbauen und den Zugang zu Wissen erleichtern. „Entscheidend ist, dass technologische Innovationen nicht isoliert betrachtet werden“, so Bernhard Hüngsberg, Deutsche Telekom AG. „Damit Kinder von den Potenzialen Künstlicher Intelligenz profitieren können, müssen technologische Entwicklung, pädagogische Konzepte und regulatorische Rahmenbedingungen gemeinsam gedacht werden.“