Buchen Sie Ihre Veranstaltung

Programm:

Künstliche Intelligenz hält Einzug in die Kinder- und Jugendhilfe, und mit dem EU-AI-Act entstehen für Leistungserbringer erstmals verbindliche Pflichten mit spürbaren Bußgeldrisiken.

Der EU-AI-Act ist die erste umfassende Verordnung zur Regulierung Künstlicher Intelligenz im europäischen Rechtsraum. Er verfolgt einen risikobasierten Ansatz und ordnet KI-Systeme je nach Gefährdungspotenzial in verschiedene Klassen ein, von verbotenen Praktiken über Hochrisiko-Systeme bis hin zu Anwendungen mit geringem Risiko. Die Vorgaben gelten stufenweise, wobei die Verbote bestimmter KI-Praktiken sowie die Anforderungen an die KI-Kompetenz der Beschäftigten bereits seit Anfang 2025 wirksam sind und weitere Pflichten in den kommenden Jahren hinzukommen.

Für Einrichtungen und Dienste der Kinder- und Jugendhilfe ist das hochrelevant, weil KI-gestützte Anwendungen zunehmend in Dokumentation, Fallbearbeitung, Diensteplanung, Kommunikation und Verwaltung eingesetzt werden. Kinder und Jugendliche gelten als besonders schutzbedürftige Personengruppe, und Systeme, die Entscheidungen über den Zugang zu Leistungen oder über pädagogische Belange beeinflussen, können als Hochrisiko-Anwendungen eingestuft werden. Damit treffen datenschutzrechtliche Anforderungen und die neuen KI-spezifischen Pflichten unmittelbar aufeinander.

Ein besonderer Schwerpunkt liegt auf dem Zusammenhang mit der Konzeption nach § 45 SGB VIII. Die Betriebserlaubnis setzt eine tragfähige Konzeption voraus, die das Wohl der jungen Menschen, ihre Rechte und ihre Beteiligung sichert. Wenn KI-Systeme in Dokumentation, Fallverstehen oder Kommunikation Einzug halten, muss sich dies in der Konzeption widerspiegeln, damit der Schutzauftrag, die Beteiligungsrechte und der Datenschutz auch beim KI-Einsatz gewährleistet bleiben und gegenüber der Aufsicht nachvollziehbar sind.

Zugleich bestehen erhebliche Unsicherheiten. Viele Leistungserbringer wissen nicht, ob sie im Sinne der Verordnung als Anbieter oder als Betreiber gelten, welche Systeme überhaupt unter die Regelungen fallen und wie die geforderte KI-Kompetenz nachzuweisen ist. Verstöße gegen die Verordnung können mit empfindlichen Bußgeldern geahndet werden, sodass ein strukturierter Umgang mit dem Thema zur Vermeidung finanzieller und haftungsrechtlicher Folgen dringend geboten ist.

In diesem Live-Webinar erhalten Sie einen praxisnahen Überblick über die Pflichten aus dem EU-AI-Act und erfahren, wie Sie diese in Ihrer Einrichtung rechtssicher umsetzen. Sie lernen, KI-Anwendungen in die richtigen Risikoklassen einzuordnen, die Schulungspflicht zu erfüllen, Kennzeichnungspflichten einzuhalten und eine tragfähige KI-Richtlinie zu entwickeln.

Sie nehmen konkrete Instrumente mit, mit denen Sie Ihre Beschäftigten schulen, Verantwortlichkeiten klären und Bußgeldrisiken senken können. Die folgenden Themen stehen im Mittelpunkt.

• Der EU-AI-Act im Überblick mit seinem risikobasierten Ansatz und dem stufenweisen Zeitplan der Geltung
• Abgrenzung der Rollen als Anbieter oder Betreiber von KI-Systemen in Einrichtungen und Diensten der Kinder- und Jugendhilfe
• Welche KI-Anwendungen in Ihrer Einrichtung fallen unter die Verordnung und wie ordnen Sie diese ein
• Verbotene KI-Praktiken und ihre Bedeutung für den Umgang mit schutzbedürftigen jungen Menschen
• Einordnung von Hochrisiko-Systemen und die daraus folgenden Dokumentations- und Aufsichtspflichten
• Die Schulungspflicht verstehen und ein nachweisbares Schulungskonzept für die geforderte KI-Kompetenz aufbauen
• Welche Auszeichnungs- und Transparenzpflichten gelten beim Einsatz von Chatbots und automatisiert erzeugten Inhalten
• Wie kennzeichnen Sie KI-generierte Texte, Bilder und Interaktionen rechtssicher gegenüber jungen Menschen und Familien
• Wie gestalten Sie eine praxistaugliche KI-Richtlinie für Ihre Einrichtung und binden diese in bestehende Regelwerke ein
• Wie verankern Sie den KI-Einsatz in der Konzeption nach § 45 SGB VIII gegenüber der Aufsichtsbehörde
• Welche Vorgaben ergeben sich aus dem Zusammenspiel von KI-Regulierung und Datenschutz
• Wie dokumentieren Sie den Einsatz von KI-Systemen prüffest gegenüber Aufsichtsbehörden
• Welche Bußgeldrisiken bestehen und mit welchen Maßnahmen begegnen Sie ihnen wirksam
• Wie lassen sich die aus dem EU-AI-Act resultierenden Kosten für Schulung, Dokumentation und Steuerung refinanzieren
• Wie bringen Sie diese Aufwände in Leistungs- und Entgeltvereinbarungen mit den Leistungsträgern ein

Das Webinar verfolgt konkrete Lernziele.

• Sie ordnen die für Ihre Einrichtung relevanten KI-Systeme rechtssicher in die Risikoklassen ein
• Sie leiten aus dem EU-AI-Act die konkreten Pflichten für Ihre Rolle ab und erfüllen Schulungs- und Auszeichnungspflichten
• Sie entwickeln eine KI-Richtlinie und verzahnen sie mit Ihrer Konzeption nach § 45 SGB VIII
• Sie erkennen Bußgeldrisiken frühzeitig und klären, wie die entstehenden Kosten finanziert werden können

Referent*innen:

Die Referent*innen nehmen sich Zeit für Ihre individuellen Fragestellungen und gehen gezielt auf die Besonderheiten Ihrer Einrichtung ein. Gern können Sie Ihre Fragen bereits vorab schriftlich einreichen, damit diese im Webinar aufgegriffen und praxisnah beantwortet werden können.

Methoden:

Das Live-Webinar verbindet fachlich fundierte Vorträge mit moderierten Diskussionen und zahlreichen Praxis- und Fallbeispielen aus der Kinder- und Jugendhilfe. Rechtliche Grundlagen werden verständlich aufbereitet und unmittelbar auf typische Anwendungssituationen übertragen. Der Austausch untereinander und die Bearbeitung konkreter Fragestellungen aus Ihrem Arbeitsalltag stehen dabei im Vordergrund.

Zielgruppe:

Angesprochen sind Leitungs- und Führungskräfte, Fachkräfte, Qualitäts- und Datenschutzbeauftragte sowie Verwaltungsverantwortliche bei Leistungserbringern in Einrichtungen und Diensten der Kinder- und Jugendhilfe und der Eingliederungshilfe. Ebenso profitieren Mitarbeiter*innen der Träger der öffentlichen Jugendhilfe sowie Gründer*innen, die neue Angebote aufbauen und den Einsatz von KI von Anfang an rechtssicher gestalten möchten. Für die Teilnahme sind keine technischen Vorkenntnisse erforderlich, ein internetfähiges Endgerät genügt.