DER SCHUTZ FÜR KINDER

UND DIGITAL WELLBEING

wenn Sie nicht an
ihrer Seite sind.

Wie SafeToNet funktioniert

Es hat Tausende von Manntagen erfordert, die Software von SafeToNet und insbesondere die Art und Weise, wie ihre Algorithmen der künstlichen Intelligenz automatisierte Entscheidungen zum Schutz für Kinder treffen, zu entwickeln. Dies ist eine nie endende Aufgabe, die sich parallel zum schnellen Wandel von kulturellen und ethischen Glaubenssätze ebenfalls kontinuierlich verändert. Die Software wird so geschult, dass sie Sprache mit Verhaltensmustern in Beziehung setzt und so in Echtzeit entscheidet, wann sie eingreift und Ihr Kind davor bewahrt, Etwas zu sagen, womit es sich selbst oder Andere verletzten könnte.

Die Software befindet sich kontinuierlich im Lernmodus und verbessert sich an jedem einzelnen Tag, an dem sie von einem Kind beansprucht wird.

Natürlich gibt es immer Verbesserungspotenzial, insbesondere da sich soziale Normen stetig verändern und neue Gefahren für unsere Kinder entstehen. Nichtsdestotrotz wurde unsere Software so konzipiert, dass sie sich in Echtzeit weiterentwickelt und sicherheitsgefährdende Anzeichen und Muster voraussagen und feststellen kann.

stn-thescience-1

Es findet ausschließlich Gefährliches

Unsere Software sucht ausschließlich nach Anzeichen, die für ein Kind gefährdend sein könnten. Sie erfährt und versteht dabei nicht, ob sich die vergangene Unterhaltung um das Spiel der letzten Nacht oder das neueste Modeaccessoire dreht. Sie analysiert vielmehr die Wörter, die ein Kind benutzt und untersucht seine Verhaltensmuster. Wenn sich das Muster einer Unterhaltung beispielsweise ändert, indem kürzere Wörter ausgetauscht und Nachrichten schneller versendet werden, kann sie – jedoch nicht immer – auf einen Streit oder gegebenenfalls eine Diskussion mit sexuellem Unterton hinweisen. Die Software analysiert ausschließlich Nachrichten, die vom Kindgerät aus geschrieben und versendet werden.

Aus rechtlichen Gründen analysiert SafeToNet eingehende Nachrichten nur dann, wenn das Kind sie bereits gelesen hat..

Wie die Software programmiert wird

Wir beschäftigen eine Vielzahl an Doktoren, Dateningenieuren und Wissenschaftlern. Wir arbeiten darüber hinaus mit Gegenstandsexperten zusammen, von denen eine hohe Anzahl ebenfalls Doktoren ihres jeweiligen Feldes sind. Wir arbeiten mit Universitäten, Forschungsgruppen, Linguisten, Cyberpsychologen, Cyberkriminologen, Jugendräten und vielen anderen. Wir teilen Recherchen und Ergebnisse und erlauben anderen Parteien von Zeit zu Zeit, unsere Software zu benutzen, um Kindern online Schutz zu bieten.

Wir haben schier unzählige wissenschaftliche Beiträge studiert und eigene Studien verfasst. Wir halten Vorträge auf Konferenzen und Seminaren, auf denen wir gleichzeitig immer weiter zuhören und lernen. Wir tauschen uns mit Kindern, Eltern, Lehrern und Betreuern aus. Wir beschäftigen unser eigenes Kinderschutz-Team, welches von Spezialisten des Feldes geleitet wird, die die Probleme, denen Kinder on- und offline ausgesetzt sind, aus erster Hand kennen.

Aus dem Wissen all' dieser Quellen programmieren wir kontinuierlich unsere Algorithmen weiter, um Muster zu erkennen, die Bedrohungen und Risiken für Kinder darstellen könnten. Dies beinhaltet die komplexen Bereiche von Stimmungsanalyse, Predictive Analytics sowie statistischen und korrelativen Analytics.

KOMMEN WIR ZUM THEMA DATEN

Im Laufe der Zeit haben wir sogenannte Training-Apps kreiert, die Eltern, Kinder und Jugendliche regelmäßig um Erlaubnis bitten, auf ihre Daten zuzugreifen. So können wir unsere Geräte/Algorithmen programmieren.

Wir stellen diese Training-Apps über einen gewissen Zeitraum online, sammeln daraufhin die Daten und heben die Aktivierung der Apps dann wieder auf. Dies ist ein laufender Prozess, damit wir sicherstellen können, dass wir hinsichtlich aktueller Trends auf dem neuesten Stand bleiben, neue Gefahren feststellen und von vornherein mehr Kindern Online-Schutz bieten können. Es ist wichtig zu beachten, dass die SafeToNet Software keine Training-App ist und erlaubtsomit nicht, dass die Daten des Kindes das Gerät verlassen, ohne dass es seine Zustimmung gegeben hat.

"On-Device"-Lernen und -Trainieren

Dies ist eine äußerst komplexe Angelegenheit, ganz besonders aus dem Grund, weil unsere Software lediglich auf dem Kindgerät arbeitet. Dies ist nicht nur für die Art und Weise wie unsere Software arbeitet fundamental, sondern auch für unsere grundlegende Mission, Kinder und Jugendliche online Sicherheit zu gewährleisten und dabei gleichzeitig ihr Recht auf Privatsphäre zu achten. Wenn Sie dies testen möchten, stellen Sie das Gerät Ihres Kindes einfach auf Flugmodus und Sie werden sehen, dass die SafeToNet Software weiterhin funktioniert. Daten verlassen das Gerät nicht.

SafeToNets Forschungs-&und Entwicklungsteam hat ein geschütztes Verfahren in dem komplexen Bereich des Federated Learning (FL) entwickelt. Federal Learning erlaubt uns, unsere Algorithmen – auch bekannt als Modelle – so zu entwickeln, dass sie über Millionen von Mobilgeräten verteilt werden können, ohne dabei die Privatsphäre einzuschränken. Es hilft uns dabei, diese Modelle für jeden individuellen Nutzer zu personalisieren – was gerade in dem Bereich des Schutzes für Kinder und Jugendliche hinsichtlich Differenzen im Alter, Geschlecht, Nationalität, Werte, Erziehung etc. enorm wichtig ist.

FL bietet uns die Chance, die Modelle auf einem Kindgerät zunächst lokal zu schulen, um das Training dann auf allen anderen Geräten zu teilen, ohne das die Daten des Kindes sein Gerät verlassen.

WEITERE
FORSCHUNG

SafeToNet fördert darüber hinaus die SafeToNet Foundation, einer im Vereinigten Königreich registrierten Wohltätigkeitsorganisation, die Projekte und andere Initiativen sucht und unterstützt, die sich auf den Schutz für Kinder und Jugendliche vor Online-Risiken wie Cybermobbing, Sexting, Online-Grooming und schädlichen Inhalten auf Webseiten und Social Media konzentrieren.

Schauen Sie mal rein und sehen Sie sich die Arbeit der Organisation an. Vergessen Sie nicht, auch in die umfangreiche Sammlung von Interviews (Podcasts) mit Fachexperten aus aller Welt reinzuhören.

STN_Website_Features01

INTELLIGENT VORBEUGEN

Wir können menschliches Verhalten nicht ändern, um zu verhindern, dass Mobber mobben oder Kinder mit gezielten Missbrauchsabsichten im Internet kontaktiert werden. Aber wir können Kinder dabei unterstützen, potenzielle Risiken im Internet besser einzuschätzen und abzuwenden.

Wir setzen auf intelligente Prävention in der digitalen Welt. Wir vermitteln Verhaltensweisen und informieren über geeignete Maßnahmen, mit denen Kinder möglichst sicher in der digitalen Welt interagieren können.

Die SafeToNet-Technologie agiert in Echtzeit und greift sofort ein, wenn ein Risiko erkannt wird.

Was bedeutet MACHINE LEARNING?

Die SafeToNet-Software wurde von Anfang an mit Blick auf den Datenschutz entwickelt. Sie verwendet künstliche Intelligenz – KI – um Risiken automatisch zu erkennen und zu filtern.

Die SafeToNet-Technologie wurde von Anfang an unter Berücksichtigung von Datenschutzrichtlinien entwickelt. Sie nutzt eine künstliche Intelligenz – KI – um Risiken automatisch zu erkennen und zu filtern. Da alles ohne menschliches Zutun abgewickelt wird, kann die Software – wie der Mensch – manchmal falsch liegen.
Leider kann sie nicht perfekt sein, aber sie funktioniert, indem sie Ihr Kind über einen längeren Zeitraum kennen lernt. Wir nennen das Machine Learning.

Während der Phase des maschinellen Lernens
wird die Software einige Fehler machen, aber ertragen – wie die meisten von uns verbessert sie sich mit dem Alter!

Im Laufe der Zeit wird die Software immer genauer und schützt Ihr Kind besser.

SICHERHEIT
IST MESSBAR

Der SafeToNet Safety Indicator wird von zahlreichen Faktoren beeinflusst. Dazu gehören: Das Risikolevel der verfassten Nachrichten, die Anzahl der Nachrichten über einen bestimmten Zeitraum hinweg (z. B. wenn gehäuft Nachrichten mit Anzeichen von aggressiver Sprache in kurzer Zeit verfasst wurden), die Tageszeit, zu der Nachrichten verfasst werden, Anomalien im Schreibverhalten, die auf Risiken hindeuten und vieles mehr.

STN_Website_Features06-2
STN_Website_Features15-2

Ihr Kind sieht, was sie sehen

Der SafeToNet Safety Indicator wird sowohl auf dem Gerät der Eltern als auch auf dem des Kindes angezeigt. Dadurch lernt auch das Kind sein Verhalten besser einzuschätzen und zu verstehen, wann und wodurch sich das Risikolevel im Laufe des Tages ändert.

Scroll to Top

UNITED KINGDOM

Customer Support

Monday – Friday

9am – 5pm GMT/BST

General Inquiries

*please note that this number
may incur charges