Datenschutz stoppt KI-Überwachung in Bremer Schwimmbad

Die Einführung eines KI-Überwachungssystems in Bremer Schwimmbädern wurde vorerst gestoppt. Das teilte die Bremer Bäder GmbH dem Landesbeauftragten Bremens mit. Das bereits deutschlandweit eingesetzte System soll erkennen, wenn Badegäste zu ertrinken drohen, und Personal warnen. Allerdings liegt dem Landesdatenschutz bislang keine notwendige Datenschutz-Folgenabschätzung vor.

Der Neubau des Westbads im Bremer Stadtteil Walle wurde nach dreijähriger Bauzeit im Sommer neu eröffnet. Zur technischen Ausstattung gehören 19 Kameras, die auf den Schwimmbereich gerichtet sind. Das KI-System der israelischen Firma Lynxight wertet die Bilder aus und soll Ertrinkende erkennen.

Die Datenschutz-Grundverordnung (DSGVO) schreibt eine Datenschutz-Folgenabschätzung (DSFA) bei der Einführung von Systemen vor, die etwa eine „systematische umfangreiche Überwachung öffentlich zugänglicher Bereiche“ ermöglichen. Um so eine DSFA hätte sich die Bremer Bäder GmbH kümmern müssen. „Den Aufschub der Inbetriebnahme begrüße ich sehr“, sagte Timo Utermark, der Landesbeauftragte für Datenschutz, eine DSFA „muss nämlich vor der Inbetriebnahme erstellt worden sein.“

Das System der Firma Lynxight wird bereits in schätzungsweise 200 Bädern in Deutschland eingesetzt, etwa dem Nettebad in Osnabrück oder im Billebad in Hamburg. Dort geschieht die Einführung in „enger Zusammenarbeit“ und mit „fortlaufender Beratung“ durch den Hamburgischen Beauftragten für Datenschutz und Informationsfreiheit (HmbBfDI), wie aus dessen Tätigkeitsbericht hervorgeht.

Bremen hat bereits KI-Überwachung im ÖPNV

KI-Überwachung ist für Bremen kein Neuland. Der Verkehrsbetrieb BSAG führte in diesem Jahr ein System ein, das aggressives Verhalten in Straßenbahnen erkennen soll. Für die Entwicklung des Systems namens „AI-Watch“ ist das in Bremen ansässige Unternehmen JAAI verantwortlich. heise online hat ausführlich über die technischen Hintergründe berichtet.

Auch hier zeigte sich der Bremer Landesdatenschutzbeauftragte skeptisch ob der Wirksamkeit des KI-Einsatzes. „Entscheidend wird es auch darauf ankommen, wie viele Delikte aufgrund von AI-Watch erkannt werden konnten und ob hierauf erfolgreiche Strafverfolgungsmaßnahmen ergriffen werden konnten oder Gefährdungen abgewendet werden konnten“, sagte Utermark heise online. Hier ist eine Evaluation zum Ende der Pilotphase vorgesehen.