Kallekademie
09. Oktober 2026

Ein KI-Freund widerspricht nie. Genau das ist das Problem.

Was gerade passiert

Am 17. September hat die EU-Kommission den Entwurf für den EU KIDS Act vorgelegt. Die meisten Schlagzeilen drehten sich um die Altersgrenze für soziale Medien. Weniger beachtet wurde Artikel 14. Er regelt sogenannte KI-Begleiter, also Systeme, die dauerhaft und persönlich mit einem Menschen sprechen. Die Definition ist so breit, dass laut einer Analyse in der Legal Tribune Online nicht nur Freundschafts-Apps wie Replika darunterfallen, sondern auch ChatGPT, Gemini oder Claude.

Laut Kommission sollen KI-Begleiter und Chatbots für Minderjährige standardmäßig ausgeschaltet sein. Sie dürfen menschliche Beziehungen nicht so simulieren, dass emotionale Abhängigkeit entsteht. Juristische Analysen des Entwurfs nennen weitere Details: Zeitlimits und Pausen, ein standardmäßig deaktiviertes Langzeitgedächtnis und für Kinder unter 13 Jahren einen Zugang nur über Werkzeuge, die Eltern steuern.

Seit dem 2. Oktober sammelt die Kommission Rückmeldungen zu dem Entwurf, ausdrücklich auch von Eltern. Die Frist läuft bis Ende November. In Kraft treten dürfte das Gesetz frühestens Ende 2027, denn Parlament und Rat verhandeln noch.

Warum das Familien betrifft

Das Thema ist längst kein Randphänomen. In der Längsschnittstudie von DAK-Gesundheit und dem Universitätsklinikum Hamburg-Eppendorf gaben fast 8 Prozent der 10- bis 17-Jährigen an, KI gegen Einsamkeit zu nutzen. Mehr als zwei Drittel vertrauen den Aussagen eines Chatbots zumindest manchmal. In Österreich hält laut einer Studie von Saferinternet.at fast jeder dritte Jugendliche zwischen 11 und 17 eine KI für einen möglichen Freund. Ein Viertel findet es leichter, Persönliches mit einem Chatbot zu besprechen als mit einem Menschen.

Das überrascht mich nicht. Ein Chatbot ist um drei Uhr nachts wach, er hat nie schlechte Laune und er lacht niemanden aus. Für ein Kind, das sich gerade unverstanden fühlt, ist das ein verlockendes Angebot.

Meine Einordnung

Ich finde den Vorstoß der Kommission richtig. Produkte, die mit der Einsamkeit von Kindern Geld verdienen, brauchen Grenzen. Ein ausgeschaltetes Gedächtnis und Pflichtpausen nehmen dem Geschäftsmodell genau das, was Bindung erzeugt.

Man sollte von dem Gesetz allerdings nicht zu viel erwarten. Chris Köver argumentiert auf netzpolitik.org, dass der KIDS Act Eltern nicht entlastet, sondern ihnen zusätzliche Pflichten auflädt, etwa bei Altersnachweisen. Die eigentlichen Gespräche über Risiken im Netz bleiben nach Kövers Einschätzung ohnehin Aufgabe der Familie. In diesem Punkt stimme ich zu, auch wenn ich die Regulierung insgesamt positiver sehe.

Der Kern des Problems steckt nämlich nicht in einer Funktion, die man abschalten kann. Die LTO-Analyse weist darauf hin, dass Sprachmodelle durch ihr Training zu zustimmenden, gefälligen Antworten neigen. Das lässt sich kaum herausfiltern. Ein Chatbot bestätigt also fast immer. Er findet die Idee gut, den Ärger berechtigt, die Freundin gemein.

Ein echter Freund macht das nicht. Er sagt irgendwann: Ich glaube, du warst da auch unfair. Er ist beleidigt, wenn man ihn vergisst. Er hatte selbst einen Tag, von dem er erzählen will. Genau an dieser Reibung lernt ein Kind Empathie. Ein Chatbot, der immer zustimmt, ist wie ein Tennispartner, der jeden Ball genau auf die Vorhand zurückspielt: Es fühlt sich gut an, aber besser wird man dabei nicht.

Ich will damit niemandem Angst machen. Ein Kind, das abends mit einem Chatbot über einen Streit spricht, ist nicht gefährdet. Schwierig wird es erst, wenn die Maschine zum einzigen Gegenüber wird, weil echte Menschen anstrengender sind.

Was Eltern daraus mitnehmen können

Verbote helfen hier wenig, denn Chatbots stecken bald in jeder App und jedem Lernprogramm. Wirksamer ist, den Unterschied sichtbar zu machen. Dafür eignet sich die Perspektivwechsel-Methode, mit der wir in der Kallekademie die Kompetenz Empathie trainieren.

Das kann ganz alltäglich aussehen. Ihr Kind erzählt von einem Streit auf dem Schulhof und hat vielleicht schon einen Chatbot dazu befragt. Fragen Sie dann nicht, ob die KI recht hatte. Fragen Sie lieber, wie es dem anderen Kind gerade gehen könnte und was die beste Freundin wohl geantwortet hätte. Wenn Ihr Kind merkt, dass die Freundin vermutlich widersprochen hätte, hat es etwas Wichtiges verstanden: Zustimmung ist nicht dasselbe wie Verständnis.

Sie können das sogar gemeinsam mit dem Chatbot ausprobieren. Bitten Sie ihn, die Geschichte aus Sicht des anderen Kindes zu erzählen. Dann ist die KI nicht mehr der verständnisvolle Freund, sondern ein Werkzeug für den Perspektivwechsel. Sie bleibt Co-Pilot, Ihr Kind bleibt Captain.

Und wer selbst etwas zum KIDS Act sagen möchte: Die Kommission fragt Eltern gerade ausdrücklich nach ihrer Meinung.

Wenn Sie solche Methoden für alle sechs Zukunftskompetenzen kennenlernen möchten: In der Lernreise der Kallekademie zeigen wir Ihnen in sechs Live-Online-Sessions, wie Sie Ihrem Kind im Alltag mitgeben, was keine KI ersetzt.

Quellen

← Alle Beiträge