Die EU will verstärkt gegen Missbrauchsbildern von Kindern und Jugendlichen vorgehen. Private Chats von hunderten Millionen Menschen sollen mittels KI auf möglichen Missbrauch hin kontrolliert und gescannt werden. Netzer spricht sich dagegen aus und nennt auch ein Beispiel für seine Ablehnung.
Foto eines badenden Kindes
Wenn etwas ein Familienvater ein Foto seines badenden Kindes speichert, könnte die Polizei kommen, so Netzer. Das könnte dann weitreichende Folgen für die Familie haben. Er ist skeptisch, dass KI zuverlässig erkennen kann, ob ein Erwachsener versucht, ein Kind zu missbrauchen, oder sich Jugendliche freiwillig untereinander Nacktbilder zuschicken.
Nach Ansicht von Netzer ist mit so einer Chat-Überwachung niemanden gedient. Die Polizei hätte höchstens noch mehr Verdachtsfälle zu bearbeiten. Stattdessen fordert der Kinder- und Jugendanwalt mehr Personal für die Ermittlungen in diesem Bereich, damit echte Fälle auch erkannt werden könnten.
Der Chatbot ChatGPT hat künstliche Intelligenz (KI) und ihre Risiken in den Fokus der Öffentlichkeit gerückt. Dabei wird KI längst in vielen Bereichen eingesetzt. Brüssel will der Technologie deshalb Grenzen aufzeigen. Doch die Debatten über ein geplantes Gesetz zur Regulierung der KI wollen nicht abreißen. Während die einen ein Zuviel an Regulierung fürchten, warnen die anderen vor einer zu löchrigen Gesetzgebung – EU will KI die Grenzen aufzeigen.