ChatGPT & Co. in der Kinder- und Jugendhilfe: Was ist erlaubt, was muss geregelt werden?

Programm:

Ihre Mitarbeitenden nutzen ChatGPT, Copilot, Gemini oder andere KI Anwendungen? Dann muss Ihre Organisation klären, was erlaubt ist, welche Anwendungen ausgeschlossen werden müssen und wie die erforderliche KI Kompetenz der Beschäftigten sichergestellt wird.

Der EU-AI-Act ist die erste umfassende Verordnung zur Regulierung Künstlicher Intelligenz im europäischen Rechtsraum. Er verfolgt einen risikobasierten Ansatz und ordnet KI-Systeme je nach Gefährdungspotenzial in verschiedene Klassen ein, von verbotenen Praktiken über Hochrisiko-Systeme bis hin zu Anwendungen mit geringem Risiko. Die Vorgaben gelten stufenweise, wobei die Verbote bestimmter KI-Praktiken sowie die Anforderungen an die KI-Kompetenz der Beschäftigten bereits seit Anfang 2025 wirksam sind und weitere Pflichten in den kommenden Jahren hinzukommen.

Für Einrichtungen und Dienste der Kinder- und Jugendhilfe ist das hochrelevant, weil KI-gestützte Anwendungen zunehmend in Dokumentation, Fallbearbeitung, Diensteplanung, Kommunikation und Verwaltung eingesetzt werden. Kinder und Jugendliche gelten als besonders schutzbedürftige Personengruppe, und Systeme, die Entscheidungen über den Zugang zu Leistungen oder über pädagogische Belange beeinflussen, können als Hochrisiko-Anwendungen eingestuft werden. Damit treffen datenschutzrechtliche Anforderungen und die neuen KI-spezifischen Pflichten unmittelbar aufeinander.

Ein besonderer Schwerpunkt liegt auf dem Zusammenhang mit der Konzeption nach § 45 SGB VIII. Die Betriebserlaubnis setzt eine tragfähige Konzeption voraus, die das Wohl der jungen Menschen, ihre Rechte und ihre Beteiligung sichert. Wenn KI-Systeme in Dokumentation, Fallverstehen oder Kommunikation Einzug halten, muss sich dies in der Konzeption widerspiegeln, damit der Schutzauftrag, die Beteiligungsrechte und der Datenschutz auch beim KI-Einsatz gewährleistet bleiben und gegenüber der Aufsicht nachvollziehbar sind.

Zugleich bestehen erhebliche Unsicherheiten. Viele Leistungserbringer wissen nicht, ob sie im Sinne der Verordnung als Anbieter oder als Betreiber gelten, welche Systeme überhaupt unter die Regelungen fallen und wie die geforderte KI-Kompetenz nachzuweisen ist. Verstöße gegen die Verordnung können mit empfindlichen Bußgeldern geahndet werden, sodass ein strukturierter Umgang mit dem Thema zur Vermeidung finanzieller und haftungsrechtlicher Folgen dringend geboten ist.

In diesem Live-Webinar erhalten Sie einen praxisnahen Überblick über die Pflichten aus dem EU-AI-Act und erfahren, wie Sie diese in Ihrer Einrichtung sicher umsetzen. Sie lernen, KI-Anwendungen in die richtigen Risikoklassen einzuordnen, die Schulungspflicht zu erfüllen, Kennzeichnungspflichten einzuhalten und eine tragfähige KI-Richtlinie zu entwickeln.

Diese Fragen klären wir im Webinar:

• Dürfen Mitarbeitende ChatGPT, Gemini, Claude oder andere KI Systeme dienstlich nutzen?
• Müssen Mitarbeitende bereits jetzt zur KI Nutzung geschult werden?
• Braucht meine Einrichtung eine verbindliche KI Richtlinie?
• Welche KI Anwendungen sind in der Kinder und Jugendhilfe problematisch oder sogar verboten?
• Was muss ich gegenüber jungen Menschen und Familien kennzeichnen?
• Welche Auswirkungen hat KI auf Datenschutz und Konzeption nach § 45 SGB VIII?
• Was muss ich dokumentieren, um die Umsetzung nachweisen zu können?
• Welche Bußgeld und Haftungsrisiken bestehen?

Referent*innen:

Die Referent*innen nehmen sich Zeit für Ihre individuellen Fragestellungen und gehen gezielt auf die Besonderheiten Ihrer Einrichtung ein. Gern können Sie Ihre Fragen bereits vorab schriftlich einreichen, damit diese im Webinar aufgegriffen und praxisnah beantwortet werden können.

Methoden:

Das Live-Webinar verbindet fachlich fundierte Vorträge mit moderierten Diskussionen und zahlreichen Praxis- und Fallbeispielen aus der Kinder- und Jugendhilfe. Rechtliche Grundlagen werden verständlich aufbereitet und unmittelbar auf typische Anwendungssituationen übertragen. Der Austausch untereinander und die Bearbeitung konkreter Fragestellungen aus Ihrem Arbeitsalltag stehen dabei im Vordergrund.

Zielgruppe:

Angesprochen sind Leitungs- und Führungskräfte, Fachkräfte, Qualitäts- und Datenschutzbeauftragte sowie Verwaltungsverantwortliche bei Leistungserbringern in Einrichtungen und Diensten der Kinder- und Jugendhilfe und der Eingliederungshilfe. Ebenso profitieren Mitarbeiter*innen der Träger der öffentlichen Jugendhilfe sowie Gründer*innen, die neue Angebote aufbauen und den Einsatz von KI von Anfang an sicher gestalten möchten. Für die Teilnahme sind keine technischen Vorkenntnisse erforderlich, ein internetfähiges Endgerät genügt.