ChatGPT et Roblox bientôt classés “très grandes plateformes” par l’Union européenne

OpenAI va devoir faire preuve de plus de transparence quant à l’utilisation qui est faite de ChatGPT, si l’UE décide bien de catégoriser ChatGPT comme étant une “très grande plateforme en ligne”. Roblox, plateforme de jeu en ligne très prisée des plus jeunes, est également concerné.

L’Union européenne s’apprête à classer ChatGPT et Roblox comme “très grandes plateformes en ligne” suivant les règles édictées par le Digital Services Act (DSA), rapporte Bloomberg.

Ils rejoindraient ce faisant des organisations comme AliExpress, Amazon, Apple App Store, Booking.com, Google Play Store, Facebook, LinkedIn, Instagram, Snapchat, TikTok, WhatsApp, X, YouTube ou encore Zalando et Wikipedia. Le critère principal est d’avoir plus de 45 millions d’utilisateurs actifs par mois, et signifie que ces services ont certaines obligations supplémentaires.

L’obligation de fournir des données pour la recherche

Ces “très grandes plateformes” (Very Large Online Platforms) font face à des exigences plus strictes concernant leurs pratiques publicitaires, leur système de recommendation de contenu ou encore la modération de leur plateforme. Elles doivent aussi garantir leurs efforts pour détecter et supprimer les contenus illégaux ou discriminants, ainsi que les tentatives d’ingérence étrangère dans les élections.

Enfin, elles sont tenues de partager leurs données à des chercheurs indépendants pour aider “à la détection, au recensement et à la compréhension des risques systémiques dans l’Union”. Elles ne peuvent s’y opposer que si cet accès provoquerait “d’importantes vulnérabilités pour la sécurité de leur service ou la protection d’informations confidentielles”.

Roblox a déjà fait une partie du travail

Roblox, qui a été pointé du doigt par le passé car des prédateurs sexuels étaient présents sur sa plateforme, a mis en place au mois de mai plusieurs nouvelles fonctionnalités pour sécuriser au maximum ses jeunes utilisateurs, avec trois expériences isolées en fonction de leur âge (très jeunes, ados et adultes), un contrôle parental renforcé et des systèmes de détection automatique de conversations suspectes.

Cela devrait en théorie simplifier sa mise en conformité, mais il vient aussi d’annoncer qu’il compte intégré des fonctionnalités de chat audio et vidéo (pour contrer l’usage de services externes comme Discord), ce qui pourrait compliquer les choses.

De son côté, OpenAI a connu plusieurs controverses suite à l’utilisation de ChatGPT par des personnes suicidaires et/ou ayant commis des attentats. Elle n’avait notamment pas communiqué aux autorités le fait d’avoir banni un utilisateur car il planifiait un attentat qu’il a malheureusement fini par commettre. L’entreprise a depuis renforcé ses pratiques de sécurité, mais plus de transparence ne lui fera sans doute pas de mal.

Source : usine-digitale.fr