L’intelligence artificielle est désormais largement utilisée par les entreprises pour produire des textes, des images, des sons, des vidéos, gérer leur relation client ou leur communication.
Pourtant, lorsqu’un logiciel produit du contenu généré par IA, la question juridique dépasse la simple apposition d’une mention « généré par IA ». Le Règlement européen 2024/1689 sur l’intelligence artificielle, l’« AI Act », organise une réponse beaucoup plus précise : les obligations juridiques varient selon le champ d’application du texte, le rôle exact de votre société et la nature même du contenu généré.
À l’aube de l’entrée en application de l’article 50 du règlement, fixée au 2 août 2026, Conditionsgenerales.fr revient sur les obligations de transparence imposées par le texte.
1. Votre logiciel relève-t-il du champ d’application de l’AI Act ?
L’article 2 de l’AI Act retient une combinaison de critères techniques et géographiques.
Pour être soumis au règlement, votre logiciel doit d’abord être considéré comme un système d’IA si celui-ci est fondé sur une machine, conçu pour fonctionner avec différents niveaux d’autonomie, qui peut générer des sorties telles que des prédictions, contenus, recommandations ou décisions susceptibles d’influencer des environnements physiques ou virtuels.
2. Identifiez le rôle de votre société dans l’utilisation de l’IA
L’AI Act suppose ensuite de déterminer le rôle que joue votre société. Les obligations ne sont pas les mêmes selon que vous développez ou commercialisez le logiciel, que vous l’utilisez simplement dans votre activité, ou que vous fournissez le modèle d’IA sur lequel il repose.
Vous êtes fournisseur lorsque vous développez, ou faites développer, un système d’IA ou un modèle d’IA à usage général, puis le mettez sur le marché ou le mettez en service sous votre propre nom ou votre propre marque, que ce soit gratuitement ou contre rémunération.
En pratique, si vous commercialisez votre propre logiciel d’IA générative, par exemple un outil SaaS permettant à vos clients de générer automatiquement des textes, images, vidéos ou réponses clients, vous êtes donc susceptible d’être qualifié de fournisseur. L’enjeu est de savoir qui met le système à disposition sous son nom ou sa marque.
Vous pouvez également être fournisseur en aval lorsque vous utilisez un modèle d’IA fourni par un tiers pour créer votre propre système d’IA. C’est le cas, par exemple, si vous intégrez un modèle généraliste dans une application que vous commercialisez ensuite sous votre nom ou votre marque. Dans cette hypothèse, vous n’êtes pas nécessairement fournisseur du modèle d’IA à usage général, mais vous pouvez être fournisseur du système final mis à disposition de vos clients. L’article 50 ne prévoit pas d’obligation spécifique propre au fournisseur en aval, il faut alors appliquer les obligations prévues pour les fournisseurs.
Vous êtes déployeur lorsque vous utilisez un système d’IA sous votre propre autorité dans un cadre professionnel.
C’est, par exemple, le cas si vous utilisez un logiciel d’IA générative déjà existant pour rédiger des contenus, créer des visuels, générer des réponses clients ou produire des supports commerciaux pour votre propre activité ou pour vos clients. Dans cette hypothèse, vous n’êtes pas nécessairement celui qui a conçu ou commercialisé le système : vous êtes celui qui l’utilise.
Enfin, vous pouvez être concerné comme fournisseur d’un modèle d’IA à usage général si vous mettez à disposition un modèle capable d’accomplir un large éventail de tâches et pouvant être intégré dans différents logiciels ou applications, par exemple si vous développez et mettez à disposition un grand modèle de langage capable de rédiger, résumer, traduire, générer du code ou répondre à des questions ou encore si vous fournissez un modèle capable de générer ou analyser du texte, des images, du son ou de la vidéo ou si vous mettez sur le marché un modèle généraliste que d’autres entreprises peuvent intégrer dans leurs propres logiciels. Cette hypothèse vise le modèle lui-même, c’est-à-dire la technologie sur laquelle peuvent ensuite reposer plusieurs services ou outils.
3. Adaptez vos obligations de transparence à la nature du contenu généré par IA
Une fois votre rôle défini, c’est le type de contenu produit par l’IA qui dicte vos obligations concrètes.
Si vous êtes fournisseur, en tant que concepteur de la solution, la loi vous impose d’intégrer la transparence dès la conception à travers deux obligations, celle d’information et celle de marquage:
- Pour les outils d’interaction (chatbots, agents vocaux, assistants clients), vous êtes soumis à une obligation d’information. En effet, vous devez concevoir votre système pour que l’utilisateur soit immédiatement informé qu’il interagit avec une IA. En revanche, cette obligation s’efface si la situation est d’une évidence flagrante pour une personne normalement informée, ou si l’outil est autorisé par la loi pour la détection d’infractions pénales (sauf si le système est mis à la disposition du public).
- Pour les générateurs de contenus de synthèse (textes, images, audios, vidéos), vous devez veiller à ce que les fichiers sortants intègrent un marquage numérique identifiable et lisible par machine. Pour autant, il s’agit d’une obligation de moyens, ainsi vous devez mettre en œuvre les solutions techniques les plus fiables possibles, en équilibrant les coûts, de l’état de la technique généralement reconnu et le type de contenu. L’obligation ne s’applique pas si votre outil effectue une simple mise en forme standard sans modifier substantiellement le sens des données d’entrée, ni si celui-ci est autorisé à des fins pénales.
Si vous êtes fournisseur de modèles d’IA à usage général, votre seule obligation est celle de marquage. Votre situation est différente de celle du fournisseur de système : vous ne gérez pas l’application finale ni l’interaction directe avec l’utilisateur (le chatbot). Par conséquent, la première obligation ne vous concerne pas.
En revanche, si votre modèle à usage général est capable de produire des contenus de synthèse (textes, images, vidéos, sons), la loi vous impose l’obligation de marquage. Vous devez alors fournir un modèle qui permet de marquer les contenus de manière technique et lisible par machine, selon la même obligation de moyens (prise en compte des coûts et de l’état de la technique). Ce marquage peut passer par des métadonnées, un filigrane numérique, un système de provenance ou tout autre dispositif technique permettant d’identifier le contenu comme généré ou manipulé par IA.
Si vous êtes déployeur et donc utilisez et intégrez ces IA dans votre activité professionnelle, la responsabilité de l’information du public repose sur vos épaules.
- Si vous déployez des systèmes de catégorisation biométrique ou de reconnaissance des émotions par exemple, un outil analysant le visage ou la voix d’un utilisateur pour déterminer s’il paraît stressé, satisfait, en colère ou attentif, vous devez alors obligatoirement en informer les personnes qui y sont exposées. Attention, cette règle s’articule étroitement avec vos obligations préexistantes liées au RGPD et aux autres obligations européennes.
- Les hypertrucages sont aussi concernés. Ainsi, si votre logiciel manipule des images, des sons ou des vidéos qui ressemblent à des personnes, des objets ou des lieux réels, au point de tromper le public, il est impératif que vous affichiez de manière transparente que le contenu est artificiel. Par exemple, peut être concernée une vidéo générée par IA faisant apparaître une personne réelle en train de tenir des propos qu’elle n’a jamais tenus, une voix clonée imitant une personne identifiable, ou encore une image réaliste représentant un événement qui n’a jamais eu lieu. Pour autant, les œuvres artistiques, satiriques ou de fiction, ne sont concernées par cette obligation que de manière allégée. En effet, vous devez mentionner l’usage de l’IA, mais cela d’une manière subtile qui n’entrave pas la jouissance ou l’affichage de l’œuvre.
- Les textes d’information publique : Si vous diffusez des textes générés par IA destinés à informer le public sur des questions d’intérêt public (actualités, réformes, santé), la transparence est requise. En revanche, l’obligation de mentionner l’IA disparaît si le texte a fait l’objet d’un examen humain ou d’un contrôle éditorial, et qu’une personne (physique ou morale) en assume la responsabilité éditoriale.
Le cabinet Altata.Legal vous accompagne dans l’identification de vos obligations au titre de l’AI Act, la qualification de votre rôle dans la chaîne de l’IA, ainsi que la mise à jour de vos documents contractuels, notamment vos conditions générales, afin de sécuriser le développement et l’utilisation de vos outils d’IA générative.
