Großbritannien geht gegen KI-Chatbots vor, um Kinder online zu schützen

Die britische Regierung plant, die Vorschriften für den Einsatz von Chatbots mit künstlicher Intelligenz zu verschärfen, um Kinder besser vor schädlichen und illegalen Inhalten zu schützen. 

Premierminister Keir Starmer hat vorgestellt , das eine Gesetzeslücke schließen soll, die es Chatbot-Anbietern ermöglichte, außerhalb der geltenden Online-Sicherheitsgesetze zu agieren. Es wird Unternehmen, die KI-Chatbots entwickeln und betreiben, dazu verpflichten, aktiv gegen illegale Inhalte vorzugehen und die Sicherheit ihrer Plattformen für jüngere Nutzer zu gewährleisten.

Die Regierung kündigt nun an, die Durchsetzung des Online-Sicherheitsgesetzes und die gesetzlichen Bestimmungen für Chatbots zu präzisieren. Die Regelung wurde zwar bereits früher entworfen, aber hauptsächlich an die Bedürfnisse von Social-Media-Plattformen und öffentlichen Foren angepasst, in denen Nutzer Inhalte veröffentlichen können. Weder Betreiber privater KI-Chatbots noch deren Nutzer wurden gleichberechtigt berücksichtigt, und ihre Verantwortlichkeiten sind weiterhin unklar. Starmer versprach, diese Gesetzeslücke bald zu schließen.

Chatbot-Anbieter müssen dieselben rechtlichen Verpflichtungen wie andere Online-Unternehmen einhalten, warnte er, andernfalls drohen ihnen Strafen. Die Regierung betont, dass diese Änderung sicherstellen müsse, dass Chatbot-Anbieter ihre Systeme aktiv überwachen und illegale Inhalte blockieren. Im Vorfeld seiner Ankündigung erklärte Starmer, dass kein Technologieunternehmen von dem Gesetz ausgenommen sein werde.

Die Regierung befürchtet zudem, dass eine unterschiedliche Behandlung von KI-Chatbots im Vergleich zu Social-Media-Plattformen Kinder schädlichen oder unangemessenen Inhalten aussetzen könnte. Offizielle Stellen sind der Ansicht, dass strengere Schutzmaßnahmen erforderlich sind, damit KI-Chatbots ihre Zielgruppe, insbesondere Teenager und junge Erwachsene, erreichen können.

Neue Befugnisse zur Bewältigung des rasanten technologischen Wandels

Neben der Schließung rechtlicher Lücken wird die Regierung neue Befugnisse schaffen, die ein schnelleres Eingreifen bei auftretenden Risiken ermöglichen. Anstatt auf die Verabschiedung völlig neuer Gesetze durch das Parlament zu warten, werden die Regulierungsbehörden künftig schneller auf technologische Entwicklungen reagieren.

So wird sichergestellt, dass die Schutzmaßnahmen mit den rasanten Fortschritten im Bereich der künstlichen Intelligenz Schritt halten. KI-Tools verbessern sich schnell und dringen in neue Anwendungsgebiete vor. Dadurch können Risiken plötzlich auftreten, und die Regulierungsbehörden benötigen Flexibilität, um darauf reagieren zu können. 

Starmer wies kürzlich auf die Risiken schädlicher, KI-generierter Inhalte hin, beispielsweise in Fällen, in denen die Technologie dazu missbraucht wird, sexualisierte Bilder von Menschen ohne deren Zustimmung zu erstellen. 

Er bezeichnete solche Nutzungen als inakzeptabel und forderte die Durchsetzung bestehender Gesetze. Die Regierung erklärte, eine strengere Durchsetzung würde Unternehmen dazu zwingen, von vornherein sicherere Systeme zu entwickeln. 

Dies könnte beispielsweise in Chatbot-Software integrierte Schutzmechanismen umfassen, die illegale Inhaltedentund verhindern, bevor Nutzer sie sehen. Technologieunternehmen sollen zudem die Verantwortung für das Verhalten ihrer KI-Systeme übernehmen. 

Das bedeutet, dass sie die Ergebnisse überwachen, die Sicherheitsmerkmale verbessern müssen, um die Systeme sicherer zu machen, und schnell reagieren müssen, wenn Fehler erkannt werden.

Die Regierung ergreift Maßnahmen zum Schutz von Kindern vor Gefahren

Das Vorgehen gegen KI-Chatbots ist Teil der umfassenderen Herausforderung, die Sicherheit von Kindern auf nahezu allen digitalen Plattformen zu gewährleisten. Die Regierung erwägt neue Maßnahmen, die das Risiko weiter verringern könnten. 

Ein diskutierter Vorschlag sieht eine Altersgrenze für den Zugang zu sozialen Medien vor. Behörden prüfen außerdem, inwiefern die Einschränkung von Funktionen wie dem unendlichen Scrollen übermäßige Bildschirmzeit begünstigen und es jungen Menschen erschweren kann, sich von schädlichen oder süchtig machenden Inhalten .

Diese Änderungen könnten nach öffentlichen Konsultationen zum Thema Kinderwohlbefinden im Internet erfolgen. Eltern, Pädagogen und Sicherheitsexperten sind besorgt über die Auswirkungen digitaler Plattformen auf die psychische Gesundheit junger Menschen und das Ausmaß, in dem sie unangemessenen Inhalten ausgesetzt sind. 

Das übergeordnete Ziel der Regierung ist die Schaffung einer sichereren Online-Umgebung, in der Kinder von Technologie profitieren können, ohne ernsthaften Gefahren ausgesetzt zu sein. 

Wenn Sie das hier lesen, sind Sie schon einen Schritt voraus. Bleiben Sie mit unserem Newsletter auf dem Laufenden .