TikTok a-t-il du souci à se faire ? Déjà sous la menace d’Instagram, la plateforme chinoise voit arriver un nouveau concurrent. Ce mercredi 1^er octobre, OpenAI a dévoilé une application mobile : Sora. Elle se présente comme un réseau social et n’est, pour l’heure, accessible qu’à un nombre restreint d’utilisateurs aux États-Unis et au Canada. Et son fonctionnement risque de faire parler et de susciter, sans nul doute, de grandes craintes.

OpenAI a déjà lancé sa deuxième version de Sora. Sur son site, la firme créée par Sam Altman met en avant les capacités de génération de vidéos par intelligence artificielle. Parmi les exemples : une patineuse artistique qui réalise un triple axel, un homme qui effectue un salto arrière sur une planche de paddle ou un chien cosmonaute. « Sora 2 est capable de réaliser des choses exceptionnellement difficiles, voire impossibles dans certains cas », se félicite l’entreprise.

« Bien qu’encore imparfait, il obéit mieux aux lois de la physique que les systèmes précédents », affirme-t-elle, y voyant «  une avancée majeure en termes de maniabilité, capable de suivre des instructions complexes sur plusieurs plans tout en conservant fidèlement l’état du monde. Il excelle dans les styles réaliste, cinématographique et animé ».

Le « cameo », une fonctionnalité polémique

L’intelligence artificielle semble être le cœur de l’application. OpenAI promet de pouvoir générer des vidéos, remixer les vidéos générées par les autres utilisateurs, en découvrir de nouvelles grâce au fil d’actualité… Une fonctionnalité va pour le moins susciter la polémique : le « cameo ». Après vérification d’identité grâce à un enregistrement vidéo, elle permet aux utilisateurs de s’insérer dans n’importe quelle scène générée par Sora.

Il sera également possible de permettre à ses amis de reprendre son apparence afin qu’elle soit insérée dans leurs propres vidéos. Même la voix est imitée. Ni plus ni moins, donc, qu’un immense générateur de deepfakes réalistes. OpenAI promet que Sora va s’appuyer sur des modèles qui rendront « vraiment difficile » de créer du contenu nocif sur l’application (le contenu pornographique est interdit).

À LIRE AUSSI L’intelligence artificielle de plus en plus autonomeDeux constats : difficile ne veut pas dire impossible. Et où l’entreprise place-t-elle le curseur concernant cette nocivité ? Les personnalités publiques ne pourront pas faire l’objet de vidéos « Cameo », sauf si elles téléchargent d’elles-mêmes leur apparence et autorisent son usage. OpenAI jure que ses utilisateurs auront le « contrôle » de leur image « de bout en bout ».

Pas disponible en France

« Vous êtes les seuls à pouvoir décider qui peut utiliser votre cameo et vous pouvez révoquer l’accès ou supprimer toute vidéo à n’importe quel moment. Les vidéos contenant des cameos de vous, y compris des brouillons créés par d’autres, sont toujours visibles par vous », explique l’entreprise dans un communiqué.

Sora 2 arrive à la suite du lancement de plusieurs autres services équivalents, comme Vibes dans Meta AI ou l’intégration de Veo 3, l’outil de génération de vidéos de Google, dans YouTube. Des nouveaux qui ont soulevé des inquiétudes, comme le « slop » (terme désignant des contenus idiots, bas de gamme, souvent générés par IA, qui pullulent sur Internet) ou les phénomènes d’addiction ou d’isolement.

À LIRE AUSSI L’incroyable ascension de Mistral, la start-up française qui défie OpenAI
À Découvrir

Le Kangourou du jour

Répondre

L’entreprise de Sam Altman, consciente de ces critiques, a pris les devants. Elle assure que les utilisateurs pourront personnaliser les recommandations qui leur seront faites. « Nous avons clairement conçu l’app pour maximiser la création, pas la consommation », peut-on lire dans le communiqué. OpenAI permet également de limiter le nombre de vidéos consultables chaque jour par les adolescents, sans préciser le nombre, et en encadrant leurs apparitions dans des cameos.

La firme promet également que l’origine artificielle sera clairement visible. « Dès la création, des garde-fous bloquent les contenus dangereux avant leur diffusion », est-il expliqué, là encore sans plus de précisions. L’outil, accessible uniquement sur invitation, n’est, pour le moment, pas disponible en France. À l’heure où TikTok est largement critiqué dans l’Hexagone, l’arrivée d’un réseau social entièrement basé sur l’intelligence artificielle pourrait également faire grand bruit…