Dans une initiative novatrice pour améliorer la sécurité en ligne des enfants, des géants de la technologie s’unissent. Roblox, Discord, OpenAI et Google ont formé un groupe inédit visant à protéger les plus jeunes utilisateurs du web. Cette alliance, baptisée ROOST (Robust Open Online Safety Tools), marque un tournant dans la lutte contre l’exploitation des mineurs sur internet.
Une coalition technologique pour un web plus sûr
Le 10 février 2025 à 18h13, ROOST a été officiellement lancé avec pour mission de rendre les technologies de sécurité plus accessibles. Cette organisation à but non lucratif ambitionne de fournir gratuitement des outils d’intelligence artificielle open-source pour identifier, examiner et signaler les contenus d’abus sexuels sur mineurs (CSAM).
Eric Schmidt, ancien PDG de Google et partenaire fondateur de ROOST, souligne l’urgence d’innover dans ce domaine : « Les avancées en IA générative ont profondément modifié l’environnement en ligne, créant un besoin critique d’accélérer l’innovation en matière de sécurité des enfants sur internet. »
L’initiative ROOST s’inscrit dans un contexte de pression réglementaire croissante sur les plateformes en ligne. Les entreprises cherchent à montrer leur capacité d’autorégulation face aux inquiétudes des législateurs concernant la protection des mineurs sur les réseaux sociaux et autres espaces numériques.
Des outils innovants pour contrer l’exploitation en ligne
ROOST propose une approche collaborative et open-source pour développer des infrastructures essentielles à la sécurité en ligne. Parmi les innovations annoncées :
- Des modèles d’IA de langage avancés pour la détection de contenus inappropriés
- Une plateforme unifiée intégrant les technologies existantes des membres fondateurs
- Des datasets d’entraînement validés pour les modèles d’IA de sécurité
- Des API facilitant l’intégration des systèmes de modération pour les entreprises
Naren Koneru, vice-président ingénierie, confiance et sécurité chez Roblox, révèle que ROOST pourrait héberger des systèmes de modération IA accessibles via API. Cette approche permettrait aux entreprises d’intégrer facilement ces outils à leurs plateformes.
Discord, de son côté, apporte son expertise du projet Lantern, une initiative de partage d’informations inter-plateformes lancée en 2023 avec Meta et Google. La plateforme a également introduit une nouvelle fonctionnalité « Ignore » permettant aux utilisateurs de masquer discrètement les messages indésirables.
| Entreprise | Contribution principale |
|---|---|
| Roblox | Modèle IA de détection de contenu inapproprié |
| Discord | Expertise du projet Lantern |
| OpenAI | Modèles de langage avancés |
| Infrastructure et financement |
Avec un financement initial de plus de 27 millions de dollars pour ses quatre premières années d’opération, ROOST bénéficie du soutien de fondations philanthropiques renommées. Cette initiative prometteuse pourrait métamorphos er la protection des enfants en ligne, notamment sur des plateformes populaires comme Roblox, où plus de la moitié des enfants américains étaient actifs en 2020.
