Suite à une plainte de l’autorité américaine de la concurrence et de la protection des consommateurs (FTC), WW International, anciennement Weight Watchers, et sa filiale Kurbo doivent supprimer les données collectées illégalement et les algorithmes qui en découlent. Les entreprises avaient mis sur le marché une application de contrôle du poids pour les enfants de moins de 13 ans, qui avait parfois recueilli des données personnelles et de santé des enfants sans le consentement des parents.

Outre une amende de 1,5 million de dollars, il a été ordonné aux entreprises de supprimer les données collectées illégalement ainsi que tous les modèles et algorithmes développés sur la base de ces données. La décision n’est pas plus détaillée à ce stade, mais il semble que l’ordre vise surtout les modèles d’IA qui ont été entraînés avec les données de l’application et qui contiennent donc les connaissances issues de ces données.

Voix critiques

Pour la FTC, la suppression des algorithmes est un outil important pour empêcher les entreprises de continuer à profiter de données collectées illégalement, même si elles doivent les détruire. La présidente de la Federal Trade Commission (FTC), Rebecca Kelly Slaughter, souhaite ainsi envoyer un signal aux entreprises pour leur dire qu’il ne vaut pas la peine d’entraîner des modèles d’IA avec des données collectées illégalement, comme elle l’a fait l’année dernière dans un article pour le Yale Journal of Law and Technology a écrit.

Les critiques portent surtout sur la formulation vague de ce qui doit être exactement supprimé. En outre, il n’est pas clair comment la FTC peut vérifier si tous les algorithmes dans lesquels des données collectées illégalement ont été intégrées ont vraiment été détruits.