European flag

Jornal Oficial
da União Europeia

PT

Série C


C/2026/6005

12.11.2026

COMUNICAÇÃO DA COMISSÃO

Orientações sobre a aplicação das obrigações de transparência para determinados sistemas de IA ao abrigo do artigo 50.o do Regulamento (UE) 2024/1689 (Regulamento IA)

(C/2026/6005)

Índice

1.

CONTEXTO E OBJETIVOS 3

2.

PANORÂMICA DAS OBRIGAÇÕES DE TRANSPARÊNCIA E DOS TEMAS HORIZONTAIS 3

2.1.

Panorâmica das obrigações de transparência no artigo 50.o do Regulamento IA 3

2.2.

Justificação e objetivos 4

2.3.

Intervenientes responsáveis nos termos do artigo 50.o do Regulamento IA 5

2.4.

Exclusões do âmbito de aplicação do Regulamento IA 7

2.4.1.

Responsáveis pela implantação que atuam no contexto de uma atividade puramente pessoal de caráter não profissional 7

2.4.2.

Investigação e desenvolvimento 8

2.4.3.

IA lançada ao abrigo de licenças gratuitas e de código aberto 8

2.5.

Interação com as práticas proibidas, os requisitos aplicáveis aos sistemas de IA de risco elevado e a literacia no domínio da IA 9

2.6.

Interação com as regras aplicáveis aos modelos e/ou sistemas de IA de finalidade geral 9

3.

ARTIGO 50.o, N.o 1, DO REGULAMENTO IA: TRANSPARÊNCIA DOS SISTEMAS DE IA INTERATIVA 9

3.1.

Principais componentes e conceitos, e obrigações de transparência conexas 10

3.1.1.

Sistemas de IA destinados a interagir diretamente com pessoas singulares 10

3.1.2.

Obrigação de informação nos termos do artigo 50.o, n.o 1, do Regulamento IA 12

3.2.

Exceções à obrigação de informação nos termos do artigo 50.o, n.o 1, do Regulamento IA 14

3.2.1.

Exceção para uma interação óbvia com um sistema de IA 14

3.2.2.

Exceção para sistemas de IA legalmente autorizados para efeitos de aplicação da lei 16

3.3.

Interação com outros atos jurídicos da União 17

4.

ARTIGO 50.o, N.o 2, DO REGULAMENTO IA: MARCAÇÃO E DETEÇÃO DE CONTEÚDOS GERADOS OU MANIPULADOS POR IA 18

4.1.

Principais componentes e conceitos constantes do artigo 50.o, n.o 2, do Regulamento IA 18

4.1.1.

Sistemas de IA que geram ou manipulam conteúdos sintéticos 18

4.1.2.

Modalidades de conteúdos sintéticos abrangidas pelo âmbito de aplicação 19

4.1.3.

Conteúdos não abrangidos pelo âmbito de aplicação do artigo 50.o, n.o 2, do Regulamento IA 20

4.2.

Obrigação de marcação e deteção prevista no artigo 50.o, n.o 2, do Regulamento IA 21

4.2.1.

Obrigação de marcação 21

4.2.2.

Obrigação de deteção 22

4.2.3.

Conformidade com os requisitos aplicáveis às soluções técnicas: eficazes, interoperáveis, sólidas e fiáveis 22

4.3.

Exceções às obrigações previstas no artigo 50.o, n.o 2, do Regulamento IA 24

4.4.

Interação com outros atos jurídicos da União 25

5.

ARTIGO 50.o, N.o 3, DO REGULAMENTO IA: SISTEMAS DE RECONHECIMENTO DE EMOÇÕES E SISTEMAS DE CATEGORIZAÇÃO BIOMÉTRICA 26

5.1.

Principais componentes e conceitos, e obrigações de transparência conexas nos termos do artigo 50.o, n.o 3, do Regulamento IA 27

5.1.1.

Conceito de «sistema de reconhecimento de emoções» 27

5.1.2.

Conceito de «sistema de categorização biométrica» 27

5.1.3.

Obrigação de informação nos termos do artigo 50.o, n.o 3, do Regulamento IA 27

5.2.

Exceção para efeitos de aplicação da lei 28

5.3.

Interação com outros atos jurídicos da União 28

6.

RTIGO 50.o, N.o 4: ROTULAGEM DE FALSIFICAÇÕES PROFUNDAS E DE DETERMINADAS PUBLICAÇÕES DE TEXTO 28

6.1.

Principais componentes e conceitos, e obrigações de transparência conexas aplicáveis a falsificações profundas nos termos do artigo 50.o, n.o 4, do Regulamento IA 28

6.1.1.

Conceito de «falsificação profunda» 29

6.1.2.

Obrigação de divulgação nos termos do artigo 50.o, n.o 4, primeiro parágrafo, do Regulamento IA 31

6.1.3.

Transparência dos conteúdos de falsificação profunda artísticos, criativos, satíricos, ficcionais ou análogos 32

6.1.4.

Exceção para aplicação da lei 34

6.1.5.

Interação com outros atos jurídicos da União 34

6.2.

Principais componentes e conceitos, e obrigações de transparência conexas aplicáveis a texto gerado ou manipulado por IA nos termos do artigo 50.o, n.o 4, do Regulamento IA 35

6.2.1.

Texto publicado com o objetivo de informar o público sobre questões de interesse público 36

6.2.2.

Obrigação de divulgação nos termos do artigo 50.o, n.o 4, segundo parágrafo, do Regulamento IA 37

6.2.3.

Exceção à obrigação de transparência para texto objeto de análise humana ou controlo editorial e responsabilidade editorial 37

6.2.4.

Exceção para aplicação da lei 38

6.2.5.

Interação com outros atos jurídicos da União 39

7.

REQUISITOS HORIZONTAIS APLICÁVEIS ÀS INFORMAÇÕES PRESTADAS NOS TERMOS DO ARTIGO 50.o, N.o 5, DO REGULAMENTO IA 39

7.1.

Prestação de informações de forma clara e percetível 39

7.2.

Primeira interação ou exposição 40

7.3.

Conformidade com os requisitos de acessibilidade aplicáveis 40

8.

APLICAÇÃO DO ARTIGO 50.o DO REGULAMENTO IA 40

8.1.

Efeitos da adesão a um código de práticas considerado adequado 41

8.2.

Autoridades de fiscalização do mercado 42

8.3.

Sanções 42

8.4.

Entrada em aplicação 42

9.

REVISÃO E ATUALIZAÇÃO DAS ORIENTAÇÕES 43

1.   CONTEXTO E OBJETIVOS

(1)

O Regulamento (UE) 2024/1689 do Parlamento Europeu e do Conselho, de 13 de junho de 2024, que cria regras harmonizadas em matéria de inteligência artificial e que altera determinados regulamentos (a seguir designado por «Regulamento IA»), entrou em vigor em 1 de agosto de 2024 (1). O Regulamento IA estabelece regras harmonizadas para a colocação no mercado, a colocação em serviço e a utilização da inteligência artificial (IA) na União (2). O seu objetivo é promover a inovação e a adoção da IA de confiança, assegurando simultaneamente um elevado nível de proteção da saúde, da segurança e dos direitos fundamentais na União, nomeadamente a democracia e o Estado de direito.

(2)

O Regulamento IA segue uma abordagem baseada no risco, classificando os sistemas de IA em quatro categorias de risco diferentes, uma das quais são os sistemas de IA que representam riscos de transparência sujeitos às obrigações estabelecidas no artigo 50.o do Regulamento IA. Essas obrigações de transparência são aplicáveis dois anos após a entrada em vigor do Regulamento IA, ou seja, a partir de 2 de agosto de 2026.

(3)

Nos termos do artigo 96.o, n.o 1, alínea d), do Regulamento IA, as presentes orientações da Comissão são emitidas com o objetivo de servir de orientação prática para ajudar as autoridades competentes, bem como os fornecedores e os responsáveis pela implantação de sistemas de IA, a assegurar o cumprimento das obrigações de transparência previstas no artigo 50.o do Regulamento IA de forma coerente, eficaz, proporcionada e uniforme.

(4)

A elaboração das presentes orientações baseou-se nos contributos de diversas partes interessadas recolhidos durante uma ampla consulta organizada pela Comissão e nos contributos dos Estados-Membros no Comité para a Inteligência Artificial, bem como nos contributos das partes interessadas sobre o projeto de orientações que foram publicados para consulta.

(5)

As presentes orientações não são vinculativas. Em última análise, só o Tribunal de Justiça da União Europeia (TJUE) poderá apresentar uma interpretação vinculativa do Regulamento da Inteligência Artificial.

2.   PANORÂMICA DAS OBRIGAÇÕES DE TRANSPARÊNCIA E DOS TEMAS HORIZONTAIS

2.1.   Panorâmica das obrigações de transparência no artigo 50.o do Regulamento IA

(6)

O artigo 50.o do Regulamento IA inclui quatro obrigações de transparência, cada uma aplicável a diferentes tipos de sistemas de IA ou aos seus resultados.

Disposição

Tipo de sistema de IA/resultado

Obrigação de transparência

Exceções ou regimes especiais

Art. 50.o, n.o 1

Sistemas de IA que interagem diretamente com pessoas singulares

Os fornecedores devem conceber e desenvolver o sistema de IA de modo que as pessoas singulares em causa sejam informadas de que estão a interagir com um sistema de IA.

Aplicam-se exceções 1) se a origem artificial da interação for óbvia ou 2) se o sistema estiver legalmente autorizado para detetar, prevenir, investigar ou reprimir infrações penais, salvo se o sistema estiver disponível ao público para denunciar uma infração penal.

Art. 50.o, n.o 2

Sistemas de IA que geram ou manipulam conteúdos sintéticos de imagem, vídeo, áudio ou texto

Os fornecedores devem assegurar que os resultados do sistema de IA sejam marcados num formato legível por máquina e detetáveis como tendo sido artificialmente gerados ou manipulados com soluções técnicas eficazes, interoperáveis, sólidas e fiáveis.

Aplicam-se exceções 1) se o sistema de IA desempenhar uma função de apoio à edição normalizada ou não alterar substancialmente os dados de entrada u a semântica dos mesmos, ou 2) se o sistema de IA estiver autorizado por lei a detetar, prevenir, investigar ou reprimir infrações penais.

Art. 50.o, n.o 3

Sistema de IA de reconhecimento de emoções ou de categorização biométrica

Os responsáveis pela implantação devem informar as pessoas singulares expostas ao funcionamento do sistema de IA.

Aplica-se uma exceção se o sistema de IA estiver legalmente autorizado a detetar, prevenir ou investigar infrações penais.

Art. 50.o, n.o 4

Sistemas de IA que geram ou manipulam falsificações profundas ou texto publicado com o objetivo de informar o público sobre questões de interesse público

Os responsáveis pela implantação devem revelar que os conteúdos foram artificialmente gerados ou manipulados.

Aplicam-se exceções se 1) o sistema de IA estiver legalmente autorizado para detetar, prevenir, investigar ou reprimir infrações penais, ou se 2) a publicação de texto tiver sido submetida a análise humana ou controlo editorial e estiver sujeita a responsabilidade editorial.

Aplica-se um regime especial de divulgação a falsificações profundas que façam parte de obras ou programas de natureza artística, criativa, ficcional, satírica ou análoga.

(7)

Nas secções 3 a 6 das presentes orientações analisa-se cada uma destas quatro obrigações. Além disso, o artigo 50.o, n.o 5, do Regulamento IA exige que as informações a que se referem os seus n.os 1 a 4 sejam prestadas às pessoas singulares em causa de forma clara e percetível o mais tardar aquando da primeira interação ou exposição, e estejam em conformidade com os requisitos de acessibilidade aplicáveis. A secção 7 clarifica estes requisitos.

(8)

As várias obrigações de transparência estabelecidas no artigo 50.o do Regulamento IA podem aplicar-se cumulativamente a um único sistema de IA (e aos seus resultados), envolvendo eventualmente a responsabilidade de diferentes intervenientes (fornecedores ou responsáveis pela implantação). Por exemplo, se um sistema de IA gerar imagens no âmbito de uma interação direta com uma pessoa singular, o fornecedor do sistema pode ter de cumprir o artigo 50.o, n.os 1 e 2, do Regulamento IA. Se esse sistema também for capaz de gerar imagens que constituam falsificações profundas ou textos publicados sobre questões de interesse público, o responsável pela implantação pode, além disso, ter de cumprir o disposto no artigo 50.o, n.o 4, do Regulamento IA.

2.2.   Justificação e objetivos

(9)

Conforme explicado nos considerandos 132 a 136 do Regulamento IA, o objetivo das obrigações de transparência consiste em reduzir os riscos de usurpação de identidade, dissimulação, desinformação, manipulação em grande escala e fraude, bem como atenuar os potenciais impactos negativos nos processos democráticos e na confiança da sociedade causados por conteúdos ou interações gerados ou manipulados por IA. Informar as pessoas sobre a origem artificial da interação e dos conteúdos ajudá-las-á a tomar decisões informadas, contribuindo simultaneamente para salvaguardar a confiança no ecossistema da informação e a integridade do mesmo. A transparência não é apenas um requisito de conformidade técnica, mas também uma condição prévia para permitir que as pessoas singulares reconheçam interações e conteúdos mediados por IA ou a utilização de sistemas de reconhecimento de emoções ou de categorização biométrica. A garantia de uma utilização transparente e fiável dos sistemas de IA interativa e generativa permitirá igualmente defender a autonomia pessoal e os valores europeus, a dignidade humana e outros direitos fundamentais (por exemplo, a liberdade de pensamento, a privacidade, a igualdade e a não discriminação, a defesa do consumidor, a propriedade intelectual, etc.), preservando simultaneamente a liberdade de expressão e a credibilidade dos conteúdos dos meios de comunicação social.

2.3.   Intervenientes responsáveis nos termos do artigo 50.o do Regulamento IA

(10)

Nos termos do artigo 3.o, ponto 3, do Regulamento IA, os fornecedores são pessoas singulares ou coletivas, autoridades públicas, agências ou outros organismos que desenvolvam, ou mandem desenvolver, sistemas de IA e os coloquem no mercado da União, ou coloquem os sistemas de IA em serviço sob o seu próprio nome ou a sua própria marca, a título oneroso ou gratuito. Os fornecedores devem cumprir as obrigações de transparência pertinentes previstas no artigo 50.o, n.os 1 e 2, do Regulamento IA que lhes são aplicáveis, independentemente de estarem estabelecidos ou localizados na União ou num país terceiro (3). Os fornecedores estabelecidos ou localizados fora da União também estão sujeitos ao Regulamento IA se os resultados do seu sistema de IA forem utilizados na União (4). Todavia, a utilização acessória, imprevisível ou não autorizada a jusante não deve, por si só, desencadear a aplicação das obrigações a fornecedores de sistemas de IA interativa ou generativa de países terceiros que não sejam colocados no mercado ou colocados em serviço na União, sem prejuízo dos poderes das autoridades de fiscalização do mercado competentes para considerarem os seus resultados não conformes com o Regulamento IA.

(11)

Os fornecedores devem assegurar que os seus sistemas de IA interativa ou generativa possuem transparência incorporada na conceção e no funcionamento do sistema, bem como que todas as obrigações de transparência pertinentes previstas no artigo 50.o, n.os 1, 2 e 5, do Regulamento IA são cumpridas, o mais tardar, quando esses sistemas são colocados no mercado ou em serviço. Todas as pessoas singulares que interagem com o sistema de IA ou são expostas aos seus resultados abrangidos devem ser informadas de forma eficaz e coerente ao longo de todo o ciclo de vida do sistema de IA, tal como colocado no mercado ou em serviço por esse fornecedor (independentemente de quem sejam os responsáveis pela implantação ou outros utilizadores do sistema).

Por exemplo, uma empresa disponibiliza uma aplicação de IA generativa ou interativa (como um robô de conversação, um gerador de imagens ou um agente de IA) no mercado da União sob o seu próprio nome ou a sua própria marca a consumidores, utilizadores profissionais ou outras entidades jurídicas que podem utilizar diretamente o sistema de IA para interação ou geração de conteúdos (nomeadamente ao integrar o sistema nos seus processos existentes e utilizando-o em conformidade, sem necessidade de modificações ou componentes adicionais). A empresa é um fornecedor responsável pelo cumprimento das obrigações de transparência previstas no artigo 50.o, n.os 1 e/ou 2, do Regulamento IA, independentemente de o sistema de IA ser disponibilizado a título gratuito ou oneroso e de o fornecedor estar estabelecido ou localizado na União ou num país terceiro.

Outro exemplo de um fornecedor é uma empresa ou outra organização (por exemplo, uma autoridade pública) que desenvolveu internamente um sistema de IA interativa (como um robô de conversação) e o coloca em serviço na União para utilização própria sob o seu nome ou sob a sua marca.

Se uma empresa adotar um sistema de IA generativa já existente colocado no mercado por outro fornecedor e modificar esse sistema (por exemplo, com novos dados de treino), que posteriormente coloca em serviço sob o seu próprio nome ou a sua própria marca, essa empresa torna-se fornecedor do novo sistema, sem prejuízo da responsabilidade do fornecedor do sistema de IA inicial por este último.

(12)

Os responsáveis pela implantação são pessoas singulares ou coletivas, autoridades públicas, agências ou outros organismos que utilizem um sistema de IA sob a sua própria autoridade, salvo se o sistema de IA for utilizado no âmbito de uma atividade pessoal de caráter não profissional (5). A «autoridade» sobre um sistema de IA deve ser entendida como a assunção da responsabilidade pela decisão de implantar o sistema e pela forma como o sistema é efetivamente utilizado (incluindo os seus resultados). Não exige necessariamente controlo técnico sobre o funcionamento do sistema de IA, desde que o responsável pela implantação tome a decisão quanto às finalidades para as quais o sistema de IA será utilizado e como se realizará essa utilização (incluindo em fluxos de trabalho descentralizados e estruturas empresariais de grupo). Os responsáveis pela implantação envolvidos em cadeias de valor complexas de produção e distribuição de conteúdos devem tomar medidas proporcionadas para assegurar que a rotulagem dos conteúdos que implementaram nos termos do artigo 50.o, n.o 4, do Regulamento IA é apresentada de forma clara e percetível ao público visado e previsível no ponto da primeira exposição, em conformidade com o artigo 50.o, n.o 5, do Regulamento IA [por exemplo, através de condições contratuais com parceiros de distribuição, definições da experiência do utilizador (UX) e interfaces a apresentar].

(13)

Os responsáveis pela implantação são abrangidos pelo âmbito de aplicação das obrigações de transparência constantes do artigo 50.o, n.os 3 e 4, do Regulamento IA, se o seu local de estabelecimento ou localização se situar na União ou, se estiverem estabelecidos ou localizados num país terceiro, caso o resultado do sistema de IA seja utilizado na União (6). Neste último caso, as obrigações de transparência aplicam-se a entidades localizadas ou estabelecidas fora da União, em que o próprio responsável pela implantação preveja a divulgação e utilização dos resultados da IA na União (ou seja, dirigindo ou autorizando a distribuição na União, nomeadamente através da publicação de falsificações profundas na Internet acessível a nível mundial). Todavia, os responsáveis pela implantação de países terceiros não estão vinculados pelas obrigações de transparência caso os conteúdos do sistema de IA cheguem ao público na União através de canais imprevisíveis e fora do seu controlo.

(14)

Caso o responsável pela implantação de um sistema de IA seja uma pessoa coletiva sob cuja autoridade o sistema é utilizado (por exemplo, uma empresa de publicidade), os trabalhadores individuais que atuam sob as instruções e o controlo dessa pessoa coletiva (por exemplo, animadores digitais, criadores Web, criadores de conteúdos, jornalistas) não devem ser considerados responsáveis pela implantação separados no que se refere a esse sistema. Uma pessoa coletiva continua a ser responsável pela implantação se envolver terceiros (por exemplo, contratantes, trabalhadores independentes) no funcionamento do sistema em seu nome e sob a sua responsabilidade e controlo.

Por exemplo, um meio de comunicação social estabelecido na União, cujos editores utilizam um sistema de IA para apoiar a sua cobertura escrita de eventos da atualidade com publicações de texto geradas por IA em relação a questões de interesse público publicadas num sítio Web acessível a nível mundial, é um responsável pela implantação abrangido pelo âmbito de aplicação do Regulamento IA. Do mesmo modo, uma empresa estabelecida num país terceiro que utilize um sistema de IA para gerar uma falsificação profunda de uma celebridade apresentada num anúncio exibido na União é também um responsável pela implantação abrangido pelo âmbito de aplicação do Regulamento IA.

Em contrapartida, uma empresa que se limita a contratar uma agência de publicidade para produzir um anúncio, sem tomar decisões e exercer controlo sobre se, e de que forma, a agência de publicidade utiliza a IA no processo de produção, não é um responsável pela implantação.

(15)

Os operadores (por exemplo, fornecedores e responsáveis pela implantação) podem desempenhar mais do que uma função em paralelo em relação a um sistema de IA. Por exemplo, uma empresa pode desenvolver internamente um sistema de IA generativa e utilizá-lo para produzir falsificações profundas. Nesse caso, será considerada fornecedor e responsável pela implantação, pelo que deve assegurar o cumprimento das obrigações de marcação legível por máquina nos termos do artigo 50.o, n.o 2, e dos requisitos para uma rotulagem clara e percetível das falsificações profundas nos termos do artigo 50.o, n.o 4, do Regulamento IA.

(16)

Em contrapartida, outros intervenientes (como prestadores de serviços de alojamento virtual, incluindo plataformas em linha, ou organismos de radiodifusão) cujo papel se limite à divulgação ou transmissão de conteúdos gerados ou manipulados por IA criados por terceiros, ou que recebam ou estejam expostos a conteúdos gerados ou manipulados por IA sem terem autoridade sobre a utilização do sistema de IA para efeitos de geração ou manipulação de conteúdos de IA, não são responsáveis pela implantação na aceção do Regulamento IA. Mesmo não sendo responsáveis nem responsabilizáveis ao abrigo do Regulamento IA, esses intervenientes podem desempenhar um papel importante na cadeia de valor no que se refere à preservação da confiança no ecossistema da informação e da integridade do mesmo. Por conseguinte, são fortemente incentivados a preservar a marcação e a rotulagem aplicadas nos termos do artigo 50.o do Regulamento IA e a aplicar medidas proporcionadas e tecnicamente viáveis para permitir que as pessoas singulares detetem os conteúdos gerados ou manipulados por IA, sem prejuízo da responsabilidade dos fornecedores e responsáveis pela implantação de sistemas de IA generativa ou de quaisquer obrigações ou responsabilidades nos termos do Regulamento (UE) 2022/2065 (Regulamento dos Serviços Digitais ou «RSD») (7) ou de outro direito da União ou nacional aplicável.

(17)

Outros intervenientes que atuem a título profissional e divulguem conteúdos (mesmo que não estejam diretamente envolvidos nos termos do artigo 50.o do Regulamento IA) também são incentivados a tomar medidas proporcionadas e adequadas, para que as pessoas singulares expostas em última instância aos conteúdos sejam efetivamente informadas e capazes de detetar a sua origem artificialmente gerada ou manipulada. Além disso, estas partes podem ser obrigadas a rotular as respetivas falsificações profundas ou publicações de texto sobre questões de interesse público ao abrigo de outras regras jurídicas ou deontológicas aplicáveis (por exemplo, um organismo de radiodifusão que rotule e mostre, no âmbito de um programa de televisão, uma falsificação profunda criada por uma pessoa singular). Todavia, o simples facto de um interveniente rotular conteúdos ou utilizar conteúdos rotulados não significa que este seja considerado «responsável pela implantação» na aceção do Regulamento IA. O regulamento em causa não alarga nem afeta a responsabilidade jurídica desses intervenientes ao abrigo dos quadros jurídicos aplicáveis, se não se qualificarem simultaneamente como fornecedores ou responsáveis pela implantação de sistemas de IA.

2.4.   Exclusões do âmbito de aplicação do Regulamento IA

(18)

O artigo 2.o do Regulamento IA prevê uma série de exclusões gerais do âmbito de aplicação do referido regulamento que já foram clarificadas nas Orientações da Comissão sobre as práticas de inteligência artificial proibidas (8). Por conseguinte, a presente secção abordará apenas os aspetos pertinentes para as obrigações de transparência previstas no artigo 50.o do Regulamento IA.

2.4.1.   Responsáveis pela implantação que atuam no contexto de uma atividade puramente pessoal de caráter não profissional

(19)

Nos termos do artigo 2.o, n.o 10, do Regulamento IA, o regulamento «não se aplica às obrigações dos responsáveis pela implantação que sejam pessoas singulares que utilizam os sistemas de IA no âmbito de uma atividade puramente pessoal de caráter não profissional» (9). Qualquer atividade através da qual as pessoas singulares obtenham regularmente benefícios económicos ou estejam de outra forma envolvidas numa atividade profissional, empresarial, comercial, ocupacional ou independente deve ser considerada uma atividade «profissional». A especificação de «puramente pessoal» é um qualificador de não profissional, o que significa que, para ser abrangida pelo âmbito de aplicação da exceção, a pessoa deve agir tanto a título pessoal como não profissional. Qualquer utilização por pessoas singulares que atuem em nome ou sob a autoridade de um responsável pela implantação que atue a título profissional será abrangida pelo âmbito de aplicação das obrigações de transparência que cabem ao profissional responsável pela implantação estabelecidas no artigo 50.o, n.os 3 e 4, do Regulamento IA.

Exemplos de utilização pessoal de caráter não profissional de sistemas de IA excluídos do âmbito de aplicação:

—

pessoas que utilizam um sistema de IA para gerar falsificações profundas dos membros do seu agregado familiar,

—

pessoas que utilizam um sistema de IA a título pessoal para gerar texto sobre vários temas (por exemplo, alunos que utilizam a IA para redigir os seus trabalhos de casa),

—

pessoas que utilizam um sistema de IA a título pessoal para gerar falsificações profundas divulgadas nas redes sociais.

(20)

A exclusão prevista no artigo 2.o, n.o 10, do Regulamento IA aplica-se apenas no que diz respeito às obrigações dos responsáveis pela implantação quando utilizam o sistema para atividades puramente pessoais de caráter não profissional. O sistema, enquanto tal, continua a ser abrangido pelo âmbito de aplicação do Regulamento IA no que diz respeito às obrigações dos fornecedores que colocam o sistema no mercado ou em serviço e dos responsáveis pela implantação que utilizam o sistema para fins profissionais. A exceção também não prejudica a aplicação de outro direito nacional e direito da União aplicáveis.

Por exemplo, o fornecedor do sistema de IA utilizado para gerar falsificações profundas a incluir num cartão pessoal de Natal deve marcar essas falsificações profundas de forma legível por máquina, em conformidade com a obrigação de transparência estabelecida no artigo 50.o, n.o 2, do Regulamento IA. Ao mesmo tempo, a obrigação do responsável pela implantação estabelecida no artigo 50.o, n.o 4, do Regulamento IA não abrangerá a utilização do sistema por pessoas singulares para atividades puramente pessoais de caráter não profissional.

2.4.2.   Investigação e desenvolvimento

(21)

O artigo 2.o, n.o 6, do Regulamento IA prevê uma exclusão para sistemas de IA ou modelos de IA, incluindo os respetivos resultados, especificamente desenvolvidos e colocados em serviço exclusivamente para fins de investigação e desenvolvimento científicos. Essa exclusão não prejudica os princípios éticos de investigação aplicáveis, nem a legislação da UE em matéria de proteção de dados e outra legislação. No contexto do artigo 50.o do Regulamento IA, esta exclusão abrange não só os sistemas de IA interativa, mas também os resultados dos sistemas de IA generativa (incluindo conteúdos de falsificação profunda) utilizados no contexto da investigação científica. No entanto, se esses sistemas forem colocados em serviço ou os seus resultados forem utilizados para outros fins que não exclusivamente a investigação e o desenvolvimento científicos, as obrigações de transparência pertinentes previstas no artigo 50.o do Regulamento IA continuarão a ter de ser cumpridas.

Por exemplo, se os investigadores desenvolverem e colocarem no mercado ou em serviço um sistema de IA interativo e pretenderem investigar se as pessoas singulares são capazes de distinguir entre sistemas de IA e seres humanos quando interagem oralmente com esse sistema de IA, não têm de cumprir as respetivas obrigações de transparência nos termos do artigo 50.o, n.os 1 e 2, do Regulamento IA. No entanto, se o mesmo sistema de IA interativo for igualmente colocado em serviço para outros fins que não a investigação e o desenvolvimento, as obrigações de transparência pertinentes previstas no artigo 50.o do Regulamento IA terão de ser cumpridas.

(22)

Além disso, o artigo 2.o, n.o 8, do Regulamento IA exclui atividades de investigação, testagem ou desenvolvimento relativas a sistemas de IA ou modelos de IA antes da sua colocação no mercado ou colocação em serviço. Essa exclusão não abrange a testagem em condições reais (dentro ou fora dos ambientes de testagem da regulamentação da IA). Além disso, depois de um sistema de IA ser colocado no mercado ou em serviço em resultado dessas atividades de investigação e testagem, deve, no entanto, cumprir as obrigações de transparência pertinentes previstas no artigo 50.o do Regulamento IA (10).

2.4.3.   IA lançada ao abrigo de licenças gratuitas e de código aberto

(23)

Nos termos do artigo 2.o, n.o 12, do Regulamento IA, os sistemas de IA lançados ao abrigo de licenças gratuitas e de código aberto estão fora do âmbito de aplicação do referido regulamento, desde que não sejam abrangidos pelas proibições previstas no artigo 5.o desse regulamento ou pelas obrigações de transparência previstas no artigo 50.o do mesmo, ou que não sejam classificados como sendo de risco elevado (11). Tal significa que os fornecedores e responsáveis pela implantação de sistemas de IA de código aberto abrangidos pelo âmbito de aplicação do artigo 50.o do Regulamento IA continuam a ter de assegurar o cumprimento das respetivas obrigações de transparência.

(24)

Em contrapartida, os fornecedores de componentes de IA gratuitos e de fonte aberta que abranjam software, dados, modelos, ferramentas, serviços ou processos de personalização e integração num sistema de IA e que não constituam em si mesmos (parcial ou totalmente) um sistema de IA não estão sujeitos às obrigações de transparência previstas no artigo 50.o do Regulamento IA. Não obstante, os fornecedores desses sistemas são incentivados a conceber esses modelos, componentes e serviços da forma descrita no n.o 27 infra, na medida em que tal seja proporcionado e viável.

2.5.   Interação com as práticas proibidas, os requisitos aplicáveis aos sistemas de IA de risco elevado e a literacia no domínio da IA

(25)

O considerando 137 do Regulamento IA esclarece que o cumprimento das obrigações de transparência previstas no artigo 50.o do mesmo regulamento para um determinado sistema de IA não pode ser interpretado como indicando que a utilização desse sistema de IA ou dos seus resultados é lícita ao abrigo do referido regulamento. Em especial, os sistemas de IA sujeitos às obrigações previstas no artigo 50.o do Regulamento IA podem ser abrangidos pelo artigo 5.o do mesmo regulamento e, por conseguinte, ser proibidos (por exemplo, a utilização de sistemas de reconhecimento de emoções no domínio do local de trabalho ou de instituições de ensino) (12). Além disso, os sistemas de IA abrangidos pelo âmbito de aplicação do artigo 50.o do Regulamento IA também podem ser classificados como de risco elevado (13) e estar sujeitos aos requisitos e obrigações aplicáveis a esses sistemas. Por conseguinte, o cumprimento do artigo 50.o do Regulamento IA não substitui, limita ou afeta as obrigações decorrentes de outras disposições desse regulamento (14). Ao mesmo tempo, os sistemas de IA também podem ser abrangidos pelo âmbito de aplicação do artigo 50.o do Regulamento IA sem serem classificados como de risco elevado nos termos do artigo 6.o do referido regulamento. Os requisitos de literacia previstos no artigo 4.o do Regulamento IA também se aplicam tanto aos fornecedores como aos responsáveis pela implantação de sistemas de IA abrangidos pelo âmbito de aplicação do artigo 50.o desse regulamento.

2.6.   Interação com as regras aplicáveis aos modelos e/ou sistemas de IA de finalidade geral

(26)

O artigo 50.o do Regulamento IA aplica-se a determinados sistemas de IA, que incluem sistemas de IA de finalidade geral (15), como robôs de conversação que apoiam a interação direta com pessoas singulares ou sistemas de IA capazes de gerar ou manipular conteúdos sintéticos (incluindo falsificações profundas) (16).

(27)

O artigo 50.o do Regulamento IA não se aplica explicitamente aos modelos de IA de finalidade geral. No entanto, se um sistema de IA interativa ou generativa abrangido pelo âmbito de aplicação do artigo 50.o, n.os 1 ou 2, do Regulamento IA se basear num modelo de IA de finalidade geral disponibilizado pelo mesmo fornecedor, as medidas de transparência estabelecidas nas presentes orientações também podem ser aplicadas ao nível do modelo (ver também a secção 4 infra). Além disso, embora não sejam abrangidos pelo âmbito de aplicação do artigo 50.o do Regulamento IA, os fornecedores de outros modelos de IA de finalidade geral e de outros modelos de IA generativa também são incentivados a aplicar medidas de transparência adequadas ao nível do modelo, para a identificação de sistemas de IA interativa e a marcação de conteúdos gerados e manipulados por IA. Tal é especialmente benéfico para facilitar o cumprimento, por parte dos fornecedores de sistemas de IA a jusante, das obrigações que lhes incumbem por força do artigo 50.o, n.os 1 e 2, do Regulamento IA (17), bem como para contribuir para preservar a confiança no ecossistema da informação e a integridade do mesmo. No caso de modelos de IA de finalidade geral que apresentam risco sistémico, as medidas de segurança a nível do modelo para a identificação das interações com IA e a marcação de conteúdos gerados ou manipulados por IA podem, se for caso disso, fazer parte de um conjunto mais vasto de medidas de atenuação que os fornecedores podem tomar no âmbito da sua obrigação de atenuar os riscos sistémicos nos termos do artigo 55.o, n.o 1, alínea b), do Regulamento IA.

3.   ARTIGO 50.o, N.o 1, DO REGULAMENTO IA: TRANSPARÊNCIA DOS SISTEMAS DE IA INTERATIVA

(28)

O artigo 50.o, n.o 1, do Regulamento IA dirige-se aos fornecedores de sistemas de IA que interagem diretamente com pessoas singulares, que devem conceber e desenvolver os seus sistemas de modo que as pessoas singulares em causa sejam informadas de que estão a interagir com um sistema de IA. Conforme explicado no considerando 132 do Regulamento IA, o objetivo desta obrigação de informação consiste em permitir que essas pessoas singulares tomem decisões informadas sobre os resultados do sistema, evitar uma dependência excessiva em relação a esses sistemas, bem como permitir que essas pessoas singulares calibrem a sua confiança nos conteúdos e nas interações em conformidade.

3.1.   Principais componentes e conceitos, e obrigações de transparência conexas

(29)

A obrigação de transparência prevista no artigo 50.o, n.o 1, do Regulamento IA aplica-se aos fornecedores de sistemas de IA caso o sistema se destine a interagir diretamente com pessoas singulares e essa interação não seja abrangida por nenhuma das seguintes exceções: 1) for óbvio do ponto de vista de uma pessoa singular razoavelmente informada, atenta e advertida, ou 2) o sistema estiver legalmente autorizado para detetar, prevenir, investigar ou reprimir infrações penais, salvo se o sistema estiver disponível ao público para denunciar uma infração penal.

3.1.1.   Sistemas de IA destinados a interagir diretamente com pessoas singulares

(30)

Para que um sistema seja abrangido pelo âmbito de aplicação do artigo 50.o, n.o 1, do Regulamento IA, devem estar presentes quatro elementos: i) o sistema deve ser um sistema de IA, ii) destinado a interagir, iii) diretamente, iv) com pessoas singulares.

i)

Um sistema de IA: o sistema deve preencher os elementos da definição de sistema de IA (18), que exclui mecanismos simples de resposta automatizada não baseados na IA (por exemplo, mensagens de correio eletrónico tradicionais a informar sobre ausências, respostas rápidas a mensagens baseadas em regras).

ii)

Destinado a interagir: o sistema de IA deve destinar-se a interagir com pessoas singulares. A interação implica a capacidade de um intercâmbio bidirecional de informações ou ações entre pessoas singulares e o sistema de IA com um verdadeiro caráter conversacional ou reativo. Pode ocorrer sob várias formas (por exemplo, auditiva, visual e física). As pessoas singulares devem poder facultar dados (por exemplo, texto escrito ou outras formas de conteúdos, voz ou ações físicas) ao sistema de IA (por exemplo, através de meios de comunicação técnica, incluindo interfaces em linha, telefone ou correio eletrónico, ou diretamente), ao passo que o sistema de IA deve ser capaz de responder com resultados contextuais (incluindo qualquer tipo de conteúdos ou ações) e vice-versa. A interação pode abranger qualquer tipo de resultado ou formato suscetível de ser percecionado e compreendido por seres humanos. Não tem de ser iniciada por um ser humano; também pode abranger conteúdos ou ações de IA que suscitem uma resposta humana. A interação pode consistir num intercâmbio único (por exemplo, uma única instrução seguida de uma única resposta) ou ocorrer durante um determinado período (várias etapas). Não se considera que os sistemas que apenas recolhem dados de forma passiva e não são capazes de proceder a um intercâmbio com pessoas singulares (por exemplo, controlos automatizados de acesso por reconhecimento facial) ou que apenas recolhem reações pontuais (por exemplo, filtros de correio eletrónico não solicitado) interagem com pessoas singulares.

iii)

Interação direta: a interação entre o sistema de IA e as pessoas singulares deve ser direta, o que normalmente implica uma interação em tempo real ou quase real (nomeadamente através das capacidades do sistema para escrever e enviar mensagens a pessoas singulares ou interagir de outra forma com o ambiente físico ou virtual suscetível de ser percecionado por pessoas singulares). A interação direta exclui a interação humana indireta ou mediada quando uma pessoa singular é exposta a resultados da IA sem interagir diretamente com o sistema (por exemplo, se os representantes dos serviços ao cliente utilizarem ferramentas de assistência baseadas na IA para os ajudar a comunicar com pessoas singulares ou se o resultado da IA não for disponibilizado à pessoa pelo próprio sistema de IA, mas por outra pessoa que divulgue o conteúdo). No entanto, a mera possibilidade de os seres humanos intervirem ou reverem os resultados do sistema de IA não deve ser utilizada para contornar a aplicação do requisito de divulgação previsto no artigo 50.o, n.o 1, do Regulamento IA. Os casos de produtos e serviços que combinam respostas geradas por IA com conteúdos curados por seres humanos são abrangidos pelo âmbito de aplicação do artigo 50.o, n.o 1, do Regulamento IA e exigem a divulgação dos resultados específicos da interação gerados por IA, a menos que esses resultados tenham sido devidamente revistos e enviados por seres humanos enquanto principais interlocutores com as pessoas singulares.

iv)

Com pessoas singulares: o artigo 50.o, n.o 1, do Regulamento IA exige que o sistema de IA interaja com pessoas singulares. Essas pessoas podem ser responsáveis pela implantação profissionais, outros utilizadores (que também utilizam o sistema para atividades puramente pessoais) ou outras pessoas que utilizam o sistema em seu nome. Os sistemas de IA que operam num ambiente físico fechado (como parte de uma configuração de máquina industrial), as chamadas de retaguarda máquina-máquina entre sistemas de IA (incluindo agentes de IA) cujos resultados não se destinam a chegar a pessoas singulares ou os ambientes virtuais sem qualquer contacto direto com pessoas singulares estão excluídos do âmbito de aplicação da obrigação.

(31)

Os agentes de IA são abrangidos pelo artigo 50.o, n.o 1, do Regulamento IA se forem capazes de interagir com as pessoas que lhes dão instruções ou com outras pessoas singulares na execução das tarefas (por exemplo, fazer reservas, gerir a correspondência, negociar ou celebrar contratos, executar aquisições, etc.). Os agentes de IA devem ser concebidos e desenvolvidos de modo a divulgarem tanto a sua natureza artificial como a pessoa em nome da qual atuam, tendo em conta a necessidade de transparência da origem e da delegação de autoridade e de responsabilização pelas consequências das suas ações. Incluem-se casos em que os agentes de IA são capazes de interagir em arquiteturas complexas multiagentes com outros agentes de IA que interagem diretamente com as pessoas singulares na execução da tarefa. Todavia, pode nem sempre ser possível ao fornecedor do agente de IA identificar antecipadamente casos individuais de interação direta de um agente de IA com outras pessoas singulares quando esse agente é implantado em diferentes contextos. Se o fornecedor não puder determinar de forma fiável se o agente de IA interagirá diretamente com uma pessoa singular antes de o colocar no mercado ou em serviço, o agente deve ser concebido ao nível da arquitetura e receber instruções para se divulgar como tal em todas as situações em que seja razoavelmente provável que possa interagir com uma pessoa singular (incluindo caso uma pessoa singular possa representar uma entidade jurídica, ou agir em nome da mesma). Além disso, os agentes de IA também devem divulgar-se às pessoas que lhes dão instruções em etapas fundamentais (por exemplo, no momento da autorização, da comunicação de informações, da validação, etc., incluindo quando o agente de IA implantado recebe, processa ou recorre a resultados gerados por outros sistemas de IA e não diretamente por uma pessoa singular) e em cada nova interação.

Exemplos de sistemas de IA destinados a interagir diretamente com pessoas singulares abrangidos pelo âmbito de aplicação do artigo 50.o, n.o 1, do Regulamento IA:

—

assistentes de voz, robôs de conversação/agentes de conversação baseados em IA em vários contextos (por exemplo, serviço público, apoio ao cliente, gestão de reclamações, comércio eletrónico, finanças, cuidados de saúde, educação, etc.),

—

linha direta de IA para incidentes, fraudes ou outras formas de comunicação, robôs/cobots (humanoides), IA de companhia; animais de companhia robóticos; avatares de IA (por exemplo, em ambientes de realidade virtual),

—

robôs digitais de IA em redes sociais e meios de comunicação social, agentes de codificação e outros agentes de IA capazes de interagir diretamente com pessoas singulares (incluindo em arquiteturas complexas multiagentes).

3.2.1.

Exemplos de sistemas de IA que não interagem diretamente com pessoas singulares não abrangidos pelo âmbito de aplicação do artigo 50.o, n.o 1, do Regulamento IA:

—

robôs industriais tradicionais baseados em IA que operam num ambiente industrial fechado e não se destinam a interagir com seres humanos (por exemplo, robôs de montagem eletrónica),

—

sistemas de recomendação, filtros de correio eletrónico não solicitado, ferramentas de tradução ou de transcrição automáticas baseados em IA,

—

pesquisa e recuperação de informações baseadas em IA sem gerar ou modificar conteúdos,

—

técnicas de preenchimento automático de texto e de código baseadas em IA, sistemas de autenticação/reconhecimento biométrico, sistemas de retaguarda de apoio à tomada de decisões em que o utilizador apenas vê o resultado da IA sem possibilidade de interação direta com o sistema,

—

sistemas de manutenção preditiva e otimização baseados em IA em fábricas e aplicações industriais, visualização de produtos com assistência de IA (por exemplo, provador virtual, encenação de divisões, transformação de produtos), ferramentas de planeamento de rotas numa única interação baseadas em IA, transcrição de chamadas de clientes tratadas para análise comportamental, etc.

3.1.2.   Obrigação de informação nos termos do artigo 50.o, n.o 1, do Regulamento IA

(32)

O artigo 50.o, n.o 1, do Regulamento IA obriga os fornecedores de sistemas de IA que interagem diretamente com pessoas singulares a assegurarem que os seus sistemas de IA (incluindo agentes de IA e sistemas de IA de finalidade geral) são concebidos e desenvolvidos de modo que as pessoas singulares em causa sejam informadas de que estão a interagir com um sistema de IA.

(33)

Embora o mecanismo de informação deva ser integrado na conceção e no desenvolvimento do sistema, bem como na forma como o sistema interage com as pessoas singulares, a notificação deve ser prestada durante o funcionamento do sistema de IA, o mais tardar aquando da primeira interação com a pessoa singular (conforme exigido no artigo 50.o, n.o 5, do Regulamento IA, ver a secção 7 infra). Os fornecedores são responsáveis por assegurar que, após a colocação do sistema de IA no mercado ou em serviço, as pessoas singulares que interagem com esse sistema são informadas de forma eficaz e coerente ao longo de todo o ciclo de vida do sistema de IA, tal como colocado no mercado ou em serviço por esse fornecedor.2.2

(34)

Formato da divulgação: o artigo 50.o, n.o 1, do Regulamento IA não indica nenhuma técnica de divulgação específica. Por conseguinte, os fornecedores podem escolher qualquer técnica adequada, desde que sejam cumpridos dois requisitos: i) os requisitos estabelecidos no artigo 50.o, n.o 5, do Regulamento IA são cumpridos no que diz respeito à prestação de informações claras e percetíveis, o mais tardar aquando da primeira interação (ver a secção 7 infra), e ii) as características das pessoas singulares pertencentes a grupos vulneráveis devido à sua idade (por exemplo, crianças ou idosos) ou deficiência são tidas em conta na medida em que o sistema de IA se destine a interagir, ou seja razoavelmente suscetível de interagir, com pessoas singulares pertencentes a esses grupos (por exemplo, incluindo quando o sistema de IA é razoavelmente suscetível de interagir com o público em geral) (19). As informações também devem ser prestadas num formato acessível às pessoas singulares com deficiência, conforme especificado no artigo 50.o, n.o 5, e no considerando 132 do Regulamento IA (ver a secção 7). Caso o sistema possa interagir com crianças, essas notificações devem ser adaptadas às crianças, adequadas à idade, fáceis de compreender e facilmente acessíveis a todas as crianças, incluindo as portadoras de deficiência ou com necessidades de acessibilidade adicionais. Sempre que disponíveis e adequados, recomenda-se aos fornecedores que utilizem práticas de divulgação e rótulos normalizados, a fim de assegurar a eficácia e a coerência das notificações, bem como uma maior sensibilização dos utilizadores.

(35)

Teor da notificação: o artigo 50.o, n.o 1, do Regulamento IA exige que os fornecedores de sistemas de IA interativa os concebam e desenvolvam de forma que todas as pessoas singulares que interagem com esses sistemas sejam explicitamente informadas da natureza artificial e não humana da contraparte que interage. Se for razoavelmente previsível, para o fornecedor, que o sistema de IA pode interagir com pessoas singulares pertencentes aos grupos vulneráveis referidos supra, as informações devem ser adaptadas em conformidade e prestadas num formato acessível, conforme exigido pelo direito da União aplicável, a fim de assegurar também a plena compreensão por parte dessas pessoas singulares (20).

(36)

As notificações devem fornecer informações sobre a origem artificial da interação de formas adequadas ao contexto em que a interação ocorre. Tal deverá ser feito de forma a assegurar que as pessoas em causa sejam devida e eficazmente informadas, evitando quaisquer riscos de engano ou manipulação antes e durante a interação, assegurando simultaneamente divulgações viáveis e proporcionadas. Os exemplos de prestação de informações incluem notificações por escrito (por exemplo, um robô de conversação que inicia uma conversa ao mencionar que se baseia em tecnologia de IA), meios visuais (por exemplo, uma mensagem de correio eletrónico gerada por um agente de IA enviada a uma pessoa singular que ostenta um rótulo de IA na parte superior), meios auditivos (por exemplo, um assistente de voz que diz, no início de uma sessão, que é alimentado por IA), divulgação de identificadores de IA e credenciais (por exemplo, agentes de IA que divulgam a sua identidade de IA, na medida do possível, de forma verificável) (21).

(37)

Formato das notificações: como melhor prática, recomenda-se a conceção do sistema de IA com abordagens de divulgação multimodais e acessíveis. Essas notificações podem combinar diferentes técnicas para reforçar a compreensão por parte dos utilizadores, se for caso disso e em função do contexto e dos públicos-alvo e previsíveis, bem como dos recursos disponíveis dos fornecedores, em especial das pequenas e médias empresas (PME). Exemplos de técnicas adequadas podem incluir:

—

divulgação textual [baseada na interface de utilizador (IU)]: rótulos ou faixas destacadas em linguagem simples (por exemplo, «Está a interagir com um sistema de IA») e saudações apresentadas logo no início da interação em robôs de conversação que podem ser combinadas, se for caso disso, com distintivos ou rótulos persistentes visíveis ao longo de toda a interação, de forma proporcionada ao contexto e aos riscos específicos. Além disso, recomenda-se a colocação das divulgações de acompanhamento junto à interface de interação (por exemplo, perto do campo de entrada/saída) e a utilização de uma redação simplificada, em especial para os utilizadores com menor literacia digital e as crianças,

—

divulgação auditiva: em contextos vocais ou telefónicos, declarações faladas explícitas no início da interação (por exemplo, «Trata-se de um assistente equipado com IA»), combinadas, se for caso disso, com lembretes periódicos em interações mais longas, em especial no caso de interrupções ou de alteração do papel do sistema de IA durante o percurso de um utilizador. Indicações sonoras distintas (por exemplo, sons ou ícones sonoros) podem apoiar o reconhecimento, sobretudo para utilizadores com deficiência visual, mas não são considerados suficientes, por si só,

—

indicações visuais/gráficas: conceção do sistema de IA com ícones persistentes, marcas de água, molduras coloridas ou símbolos «IA» reconhecíveis para complementar as divulgações textuais. Recomenda-se a utilização de indicadores visuais normalizados, incluindo em todos os serviços de um fornecedor, pois esses indicadores podem reduzir significativamente os encargos cognitivos e aumentar o reconhecimento,

—

combinações multimodais: combinar indicações de texto, áudio e visuais (por exemplo, um robô de conversação que exiba um rótulo, apresentando simultaneamente uma divulgação textual logo no início da interação), a fim de assegurar a acessibilidade e reforçar a clareza entre os diferentes grupos de utilizadores.

(38)

Determinadas técnicas não são necessárias e, quando utilizadas isoladamente, são insuficientes para cumprir eficazmente a obrigação de transparência prevista no artigo 50.o, n.os 1 e 5, do Regulamento IA, nomeadamente:

—

divulgações contidas apenas em termos e condições, URL ou documentação (essas divulgações podem complementar, embora não substituam, a divulgação no contexto),

—

marcações legíveis por máquina (por exemplo, metadados ou marcas de água) que não são percetíveis pelos utilizadores no ponto de interação. Tal não afeta a adequação dessas marcas em relação ao cumprimento do disposto no artigo 50.o, n.o 2, do Regulamento IA (ver a secção 4),

—

sinais pouco claros ou ambíguos (por exemplo, referências genéricas a «assistente») ou representações de tipo humano que possam induzir os utilizadores em erro,

—

divulgações generalizadas que não são suficientemente específicas dos resultados e interações do sistema de IA (por exemplo, numa plataforma que presta uma variedade de serviços ou dados de entrada individuais, uma divulgação geral como «Os serviços neste sítio Web utilizam IA» é insuficiente),

—

descrições técnicas ou baseadas nas capacidades: declarações que se refiram apenas às tecnologias subjacentes (por exemplo, «Este sistema utiliza modelos de linguagem de grande escala»), sem explicar a função ou as implicações do sistema para o utilizador e a sua origem artificial.

(39)

As divulgações devem ser proporcionadas e calibradas em função dos diferentes contextos e públicos-alvo do sistema de IA, a fim de continuarem a ser eficazes e de fácil utilização, bem como evitarem, na medida do possível, eventuais perturbações da experiência do utilizador ou efeitos de habituação (a chamada «cegueira em relação às faixas»).

(40)

É provável que uma notificação única e proeminente antes da primeira interação do sistema de IA com uma determinada pessoa singular seja suficiente, na maioria dos casos, para cumprir a obrigação prevista no artigo 50.o, n.o 1, do Regulamento IA. Todavia, em determinados contextos de maior risco, é provável que sejam necessários lembretes periódicos e divulgações sensíveis ao contexto para assegurar a sensibilização contínua dos utilizadores. É o caso, em especial, dos sistemas de IA que interagem com pessoas vulneráveis (por exemplo, crianças, idosos, pessoas com deficiência e pessoas com níveis de literacia mais baixos), das interações sustentadas e em evolução em contextos sensíveis ou imersivos (por exemplo, em que os utilizadores podem expressar ou sentir angústia emocional ou vulnerabilidade, ou ficar em risco de comportamentos semelhantes aos de dependência), das situações em que existe um risco acrescido de os utilizadores serem induzidos em erro (por exemplo, aconselhamento financeiro, seguros, assistência jurídica, aconselhamento em matéria de saúde e tratamento de reclamações), ou de criarem ligações emocionais ou dependências (por exemplo, IA de companhia), bem como das situações em que é necessário assegurar a sensibilização e o controlo sobre as ações dos agentes de IA. Os fornecedores devem também conceber e desenvolver o sistema de IA para assegurar a divulgação em todas as situações em que sejam feitas perguntas ao sistema de IA relacionadas com a sua natureza ou com a origem da interação, ou em que se possa razoavelmente presumir, com base nos intercâmbios com a pessoa singular, que essa pessoa é suscetível de ser induzida em erro ou ficar confusa quanto à origem artificial da interação.

3.2.   Exceções à obrigação de informação nos termos do artigo 50.o, n.o 1, do Regulamento IA

(41)

O artigo 50.o, n.o 1, do Regulamento IA prevê duas exceções à obrigação de informação relativa aos sistemas de IA interativa analisados infra.

3.2.1.   Exceção para uma interação óbvia com um sistema de IA

(42)

Para poderem invocar a primeira exceção, os fornecedores terão de avaliar e demonstrar: i) o caráter artificial óbvio da interação com ii) uma pessoa singular que deve ser razoavelmente informada, atenta e advertida, tendo em conta as circunstâncias e o contexto de utilização.

(43)

Esta norma baseia-se na legislação estabelecida da UE em matéria de defesa do consumidor no que diz respeito ao conceito de «consumidor médio» e deve ser interpretada de forma coerente, tendo simultaneamente em conta os contextos e as utilizações específicas e variadas dos sistemas de IA que interagem diretamente com pessoas singulares, bem como os objetivos prosseguidos nos termos do artigo 50.o, n.o 1, do Regulamento IA.

(44)

A conceção de tal pessoa singular «média» compreende duas etapas. Em primeiro lugar, os fornecedores devem ter em conta o público com o qual o sistema de IA se destina a interagir e com o qual é razoavelmente provável que interaja. Em segundo lugar, o fornecedor deve examinar em que medida um membro médio desse público é razoavelmente informado, atento e advertido, tendo em conta as circunstâncias e o contexto de utilização. Ao realizar esta avaliação, devem ser tidos em conta vários fatores:

—

os fornecedores devem ter em conta o público-alvo do sistema de IA, bem como um potencial público mais vasto que seja razoavelmente previsível. Tal será especialmente o caso se o público em geral puder aceder facilmente ao sistema de IA ou se o sistema funcionar em espaços públicos, virtuais ou físicos, e for capaz de interagir com pessoas singulares presentes nesses espaços. O público que pode ser exposto a um sistema de IA nem sempre é o mesmo que o público-alvo,

—

os fornecedores devem ter em conta a potencial composição diversificada do público-alvo e do público razoavelmente previsível, em conformidade com o considerando 132 do Regulamento IA. Caso pessoas com deficiência, idosos ou menores sejam suscetíveis de fazer parte desse público, os níveis esperados de informação, atenção e advertência de um membro médio desse público serão inferiores em comparação com um membro médio de um público que não inclua essas categorias de pessoas. Em contrapartida, se o sistema de IA interativa estiver disponível apenas para um público-alvo profissional ou especializado, tal poderá ter um impacto positivo nos níveis esperados de conhecimento, atenção e advertência, podendo considerar-se que um membro médio desse público está mais bem informado e é mais atento e advertido,

—

no âmbito das circunstâncias e do contexto de utilização mais vastos, os fornecedores devem ter em conta o nível de literacia digital e no domínio da IA do público-alvo e do público razoavelmente previsível, bem como os fatores sociais, culturais e linguísticos pertinentes.

(45)

Obviedade: ao determinarem a pessoa singular hipotética razoavelmente informada, atenta e advertida, os fornecedores devem avaliar se será óbvio para essa pessoa que está a interagir diretamente com um sistema de IA. A exceção deve ser interpretada de forma restritiva, pois priva as pessoas singulares da proteção e do direito a serem informadas, por meio de divulgações claras e percetíveis, de que estão a interagir com sistemas de IA. A sensibilização geral dos consumidores e de outras pessoas singulares para a existência de sistemas de IA (incluindo robôs de conversação e agentes) não implica que os reconheçam em interações. Vários fatores podem ser pertinentes e tidos em conta no âmbito da avaliação para determinar se a interação é óbvia:

—

a natureza prevista da interação: nos casos em que o sistema de IA interaja fisicamente com pessoas singulares, os elementos pertinentes podem incluir a visibilidade de componentes mecânicos (o que aumentaria a obviedade) ou o grau em que o sistema de IA replica de forma autêntica o seu equivalente não artificial (o que diminuiria a obviedade). No caso de interações de natureza visual ou auditiva, elementos como a escrita ou os padrões de fala, o tom vocal (voz robótica ou uma voz que soa genuinamente humana), a conceção da interface do utilizador (por exemplo, uma imagem de perfil relacionada com um robô de conversação que exiba um ser humano) e a capacidade de interação personalizada avançada podem afetar esta avaliação,

—

a composição do público-alvo e do público previsível: se o sistema de IA interativa estiver disponível apenas para um público profissional ou especializado, sem potencial exposição a grupos vulneráveis, tal poderá aumentar a possível obviedade da natureza artificial da interação no que diz respeito a um membro médio do respetivo público. Em contrapartida, se o público em geral ou consumidores que incluam também pessoas vulneráveis (por exemplo, crianças, idosos, pessoas com deficiências cognitivas, físicas ou mentais ou pessoas com menor literacia no domínio da IA), para as quais a interação seja menos óbvia, puderem aceder ao sistema de IA, a exceção não pode ser invocada, de modo a proteger esses utilizadores vulneráveis de forma eficiente,

—

também deve ser tido em conta o facto de ser cada vez mais difícil para as pessoas singulares saberem se está a ocorrer uma interação com um sistema de IA ou com um ser humano real. Devido à utilização de avatares e agentes, ao anonimato geral das interações em linha e às capacidades dos sistemas de IA para escrever e interagir de forma semelhante à do ser humano, a exceção de «obviedade» deve limitar-se a casos em que quase não haja dúvidas quanto à natureza da interação para uma pessoa média do público-alvo e razoavelmente previsível.

Exemplos de obviedade aos quais não se aplica a obrigação de transparência prevista no artigo 50.o, n.o 1, do Regulamento IA:

—

robôs de conversação equipados com IA para assistência e revisão de códigos disponíveis apenas para criadores profissionais que, em virtude dos seus conhecimentos especializados e do contexto de utilização, não têm qualquer expectativa razoável de interagir com um ser humano e podem facilmente reconhecer que as sugestões são geradas por um sistema de IA,

—

um assistente interno orientado para os trabalhadores, destinado a pessoal com a devida formação, com literacia no domínio da IA e ciente de que está a utilizar sistemas de IA para fins organizativos internos (por exemplo, RH, departamento jurídico, contratação pública, conformidade ou apoio informático),

—

sistemas de IA interativa concebidos apenas para serem utilizados por profissionais de saúde com a devida formação, a fim de apoiar o diagnóstico médico e sugerir tratamentos conexos,

—

IA ambiente incorporada em aparelhos domésticos com funcionalidades limitadas à assistência e ao funcionamento do aparelho doméstico,

—

interações com personagens não jogáveis (NPC, Non-Playable Characters) baseadas em IA num jogo de vídeo com um único jogador, caso a natureza do jogo de vídeo deixe claro que nenhuma outra pessoa singular pode participar e interagir com o utilizador e a natureza da interação baseada em IA também seja óbvia para todos os utilizadores (incluindo pessoas vulneráveis).

Exemplos que não cumprem a exceção relativa à obviedade e aos quais se aplica a obrigação de transparência prevista no artigo 50.o, n.o 1, do Regulamento IA:

—

um animal de companhia robótico equipado com IA, com um aspeto altamente semelhante ao seu equivalente natural e concebido para imitar a interação típica entre seres humanos e animais de companhia, criando ambiguidade quanto ao facto de a interação ser ou não com um sistema de IA,

—

sistemas de IA incorporados em ambientes imersivos (por exemplo, realidade virtual ou aumentada) utilizando avatares ou vozes realistas que se assemelham aos seres humanos, em que os utilizadores e, em especial, as crianças, os idosos ou as pessoas com deficiência podem não ser capazes de distinguir facilmente entre interação humana e interação com a IA,

—

robôs de conversação de IA incorporados em plataformas em linha ou ferramentas de apoio e assistência (serviços de assistência) através dos quais os utilizadores interagem diretamente e recebem resultados de IA (por exemplo, respostas a consultas ou outros conteúdos gerados por IA) que podem considerar serem gerados por seres humanos.

3.2.2.   Exceção para sistemas de IA legalmente autorizados para efeitos de aplicação da lei

(46)

Os fornecedores de sistemas de IA interativa estão isentos da obrigação de transparência nos termos do artigo 50.o, n.o 1, do Regulamento IA se estiverem legalmente autorizados para detetar, prevenir, investigar ou reprimir infrações penais, sob reserva de garantias adequadas dos direitos e liberdades de terceiros.

(47)

Por «legalmente autorizados» entende-se o direito da União, bem como o direito nacional dos Estados-Membros adotado em conformidade com o direito da União. A legislação que autoriza a utilização do sistema de IA deve especificar claramente as finalidades e as circunstâncias da utilização permitida, bem como prever garantias adequadas para proteger os direitos e liberdades de terceiros. Tendo em conta a abordagem tecnologicamente neutra do Regulamento IA, não é necessário identificar ou autorizar legalmente sistemas de IA específicos nos casos em que a utilização do sistema de IA esteja geralmente prevista no âmbito da atividade legalmente autorizada e cumpra o quadro jurídico aplicável.

(48)

Para que o sistema de IA seja abrangido por esta exceção, a sua finalidade deve consistir em detetar, prevenir, investigar ou reprimir infrações penais (por exemplo, agente infiltrado de IA, sistemas de IA utilizados sob o controlo humano de investigadores para investigações em linha ou comunicação com pessoas que possam estar envolvidas em atividades criminosas). A exceção não se limita à utilização desses sistemas de IA apenas por autoridades responsáveis pela aplicação da lei, na aceção do artigo 3.o, ponto 48, do Regulamento IA, podendo também abranger sistemas de IA interativa (ou generativa) utilizados por outras autoridades públicas da União ou nacionais, desde que a sua utilização seja legalmente autorizada para detetar, prevenir, investigar ou reprimir infrações penais, e sob reserva de garantias adequadas para proteger os direitos e liberdades de terceiros. A isenção não exige que o sistema de IA seja capaz de realizar as investigações de forma independente. Se o respetivo sistema puder ser utilizado tanto para efeitos de aplicação da lei como para outras finalidades regulares, a aplicabilidade da isenção deve ser avaliada à luz da implantação específica. As obrigações de transparência continuam a aplicar-se quando o mesmo sistema de IA é implantado para outros fins que não a deteção, prevenção, investigação ou repressão legalmente autorizadas de infrações penais. Continua a ser necessário garantir a transparência às pessoas singulares quando interagem com o sistema no contexto dos seus objetivos habituais.

(49)

A exceção não se aplica se i) o sistema de IA estiver disponível ao público e se ii) o sistema disponibilizar uma funcionalidade às pessoas para denunciarem infrações penais. Esses sistemas podem ser utilizados, mas continuam sujeitos à obrigação de transparência nos termos do artigo 50.o, n.o 1, do Regulamento IA, pelo que as pessoas singulares têm de ser informadas de que estão a interagir com esses sistemas.

Para maior clareza, esta exceção diz apenas respeito à obrigação prevista no artigo 50.o, n.o 1, de informar as pessoas singulares de que estão a interagir com um sistema de IA (22). Não prejudica o direito da União e o direito nacional aplicáveis, incluindo as regras processuais relativas à documentação, à divulgação, à admissibilidade e à avaliação de provas.

Exemplos de sistemas de IA disponibilizados ao público para denunciar infrações penais que não estão isentos e são abrangidos pelo âmbito de aplicação do artigo 50.o, n.o 1, do Regulamento IA:

—

robôs de conversação policiais baseados em IA implantados em sítios Web ou aplicações móveis oficiais da polícia que permitem às pessoas denunciar infrações penais ou apresentar queixas. Estes sistemas orientam os utilizadores através de perguntas estruturadas, recolhem informações pertinentes e procedem à triagem de denúncias antes de as transmitirem a agentes humanos para avaliação,

—

linhas telefónicas de apoio equipadas com IA operadas pela polícia ou por outras autoridades responsáveis pela aplicação da lei para consultas do público em geral,

—

linhas de apoio ou portais digitais com assistência de IA para a denúncia de fraudes operados por instituições financeiras ou autoridades públicas, em que os utilizadores podem comunicar suspeitas de crimes financeiros. O sistema de IA interage com o utilizador para recolher dados, categorizar a denúncia e atribuir prioridade aos casos, enquanto os investigadores humanos validam as informações antes de serem tomadas quaisquer medidas,

—

assistentes virtuais utilizados para a recolha de depoimentos de testemunhas, em que as vítimas ou testemunhas podem apresentar informações através de uma interface baseada em IA. Esses sistemas de IA podem ser compatíveis com a introdução de dados em várias línguas, funcionalidades de acessibilidade e a apresentação estruturada de elementos de prova, mas a avaliação final e as etapas de investigação continuam a ser da responsabilidade das autoridades humanas.

3.3.   Interação com outros atos jurídicos da União

(50)

A obrigação de transparência prevista no artigo 50.o, n.o 1, do Regulamento IA é aplicável sem prejuízo da legislação da União em vigor em matéria de defesa do consumidor, proteção de dados, digital ou não discriminação, que possa exigir outras divulgações de informações não específicas da origem artificial da interação. Em especial, nos termos da Diretiva 2005/29/CE (Diretiva Práticas Comerciais Desleais ou «DPCD») (23), são proibidas ações ou omissões enganosas no que diz respeito às características principais de um produto ou serviço. Além disso, a Diretiva 2011/83/CE («Diretiva Direitos dos Consumidores») (24) exige que os profissionais prestem informações pré-contratuais claras e compreensíveis sobre as principais características dos bens ou serviços. Caso um serviço seja baseado em IA (como um robô de conversação baseado em assinaturas, uma aplicação de IA de companhia ou um serviço de orientação virtual), a funcionalidade de IA pode qualificar-se como uma característica essencial que tem de ser divulgada antes de o consumidor ficar vinculado por um contrato. As obrigações de informação ao abrigo do direito da União em matéria de defesa do consumidor aplicam-se independentemente de a interação ser considerada «óbvia» nos termos do artigo 50.o, n.o 1, do Regulamento IA. Essas obrigações são também complementares das obrigações gerais de informação em matéria de defesa do consumidor, ao passo que a obrigação de notificação ao abrigo do Regulamento IA é mais contextual e visa assegurar a sensibilização contínua de todas as pessoas singulares para uma interação direta com um sistema de IA, pelo menos antes do seu início e ao longo de toda a interação.

(51)

O RSD inclui igualmente requisitos de transparência para os sistemas de recomendação das plataformas em linha, incluindo a obrigação de explicar os principais parâmetros de classificação. Estas obrigações complementam as obrigações de transparência estabelecidas no artigo 50.o, n.o 1, do Regulamento IA, pois têm um âmbito e uma finalidade diferentes, e dizem respeito a sistemas que, em princípio, não interagem diretamente com os utilizadores na aceção da referida disposição.

(52)

No que diz respeito às obrigações de informação para com os titulares dos dados ao abrigo do direito da União em matéria de proteção de dados, a obrigação prevista no artigo 50.o, n.o 1, do Regulamento IA cumpre um objetivo diferente dessas obrigações e, como tal, não afeta essas obrigações de informação.

(53)

Do mesmo modo, a obrigação de transparência prevista no artigo 50.o, n.o 1, do Regulamento IA aplica-se sem prejuízo do direito da União e do direito nacional relativo à prestação de informações a pessoas no contexto de processos penais [por exemplo, a Diretiva 2012/13/UE ou a Diretiva 2012/29/UE, com a redação que lhe foi dada pela Diretiva (UE) 2026/1472] (25).

4.   ARTIGO 50.o, N.o 2, DO REGULAMENTO IA: MARCAÇÃO E DETEÇÃO DE CONTEÚDOS GERADOS OU MANIPULADOS POR IA

(54)

O artigo 50.o, n.o 2, do Regulamento IA exige que os fornecedores de sistemas de IA que geram conteúdos sintéticos apliquem soluções técnicas que cumpram determinados requisitos de qualidade para a marcação legível por máquina e a deteção dos resultados dos seus sistemas de IA. O objetivo consiste em permitir que as pessoas singulares distingam os conteúdos gerados ou manipulados por IA de outros conteúdos (por exemplo, conteúdos criados por seres humanos) e verifiquem a sua origem, contribuindo assim também para uma maior integridade do ecossistema da informação e confiança no mesmo.

(55)

Por conseguinte, os beneficiários desta obrigação de transparência são todas as pessoas singulares suscetíveis de serem expostas aos conteúdos gerados ou manipulados por IA, bem como os principais intervenientes que desempenham um papel importante para a confiança no ecossistema da informação e a integridade do mesmo, como as autoridades de fiscalização do mercado competentes e outras autoridades competentes, investigadores independentes, organizações da sociedade civil, meios de comunicação social, sinalizadores de confiança, defensores dos direitos fundamentais, fornecedores de plataformas em linha e motores de pesquisa em linha, titulares de direitos e outros criadores e distribuidores de conteúdos, etc.

4.1.   Principais componentes e conceitos constantes do artigo 50.o, n.o 2, do Regulamento IA

(56)

O artigo 50.o, n.o 2, do Regulamento IA é aplicável se estiverem preenchidas várias condições cumulativas:

i)

o sistema deve qualificar-se como um sistema de IA,

ii)

o sistema de IA deve ser capaz de gerar ou manipular conteúdos sintéticos,

iii)

os conteúdos devem ser de uma ou várias das seguintes modalidades: áudio, imagem, vídeo ou texto,

iv)

o sistema de IA não pode ser abrangido por nenhuma das seguintes exceções: 1) o sistema de IA desempenha uma função de apoio à edição normalizada; 2) o sistema de IA não altera substancialmente os dados de entrada apresentados pelo responsável pela implantação nem a semântica dos mesmos; ou 3) o sistema de IA está legalmente autorizado para detetar, prevenir, investigar ou reprimir infrações penais.

4.1.1.   Sistemas de IA que geram ou manipulam conteúdos sintéticos

(57)

O artigo 50.o, n.o 2, do Regulamento IA aplica-se aos sistemas de IA (26), incluindo os sistemas de IA de finalidade geral, que geram conteúdos sintéticos de áudio, imagem, vídeo ou texto. O artigo 50.o, n.o 2, do Regulamento IA abrange um subconjunto de sistemas que correspondem à definição de «sistema de IA» constante do artigo 3.o, ponto 1, do mesmo regulamento e que geram esses resultados. O artigo 50.o, n.o 2, do Regulamento IA abrange igualmente os sistemas de IA utilizados para manipular conteúdos.

(58)

A geração de conteúdos refere-se à geração de material sintético pelo sistema de IA (por exemplo, com base numa instrução humana), como a geração de uma imagem ou canção sintéticas. Na prática, tal significa que o artigo 50.o, n.o 2, do Regulamento IA pode aplicar-se a sistemas de IA generativa concebidos com uma finalidade prevista restrita para produzir resultados específicos. Ao mesmo tempo, o artigo 50.o, n.o 2, do Regulamento IA também se aplica aos sistemas de IA que podem servir várias finalidades, incluindo sistemas de IA de finalidade geral, e que podem produzir uma variedade de tipos de conteúdos, bem como sistemas de IA agêntica, desde que gerem conteúdos sintéticos de áudio, imagem, vídeo ou texto.

(59)

Em contrapartida, a manipulação de conteúdos refere-se a conteúdos já existentes (sintéticos ou não) que são alterados por um sistema de IA (por exemplo, uma imagem existente ou uma gravação de voz manipulada por um sistema de IA de acordo com instruções humanas). Para que os conteúdos sejam abrangidos pelo artigo 50.o, n.o 2, do Regulamento IA, basta que sejam gerados ou manipulados por IA para além da edição normalizada, ao abrigo das exceções previstas no artigo 50.o, n.o 2, do referido regulamento (ver a secção 4.3). Além disso, o artigo 50.o, n.o 2, do Regulamento IA não exige que os conteúdos sejam exclusivamente gerados ou manipulados por IA. Os conteúdos combinados com materiais criados por seres humanos também são considerados conteúdos sintéticos se forem manipulados ou gerados numa das modalidades a que se refere o artigo 50.o, n.o 2, do Regulamento IA.

4.1.2.   Modalidades de conteúdos sintéticos abrangidas pelo âmbito de aplicação

(60)

O artigo 50.o, n.o 2, do Regulamento IA estabelece uma lista exaustiva das modalidades de conteúdos sintéticos abrangidos pela obrigação de transparência: áudio, imagem, vídeo ou texto. Tal inclui também conteúdos multimodais, ou seja, conteúdos constituídos por uma combinação destas modalidades. Para efeitos do artigo 50.o, n.o 2, do Regulamento IA, as diferentes modalidades devem ser interpretadas em consonância com a possível evolução prática e tecnológica ao longo do tempo. Por enquanto, devem ser entendidas do seguinte modo:

—

«texto» refere-se a conteúdos simbólicos discretos compostos por carateres, ou números dispostos numa determinada sequência, que podem ser lidos e interpretados semanticamente por seres humanos,

—

«imagem» refere-se a representações espaciais estáticas que codificam informações visuais que podem ser vistas por seres humanos,

—

«áudio» refere-se a um sinal variável no tempo que codifica um som suscetível de ser percecionado pela audição humana, podendo abranger voz, música instrumental ou outros sinais áudio,

—

«vídeo» refere-se a uma sequência temporal de imagens, que pode ser sincronizada com áudio, capaz de ser vista por seres humanos. Nesse caso, tanto os conteúdos de vídeo como os de áudio devem ser marcados e a detetabilidade deve ser assegurada, como se indica infra.

(61)

O âmbito de aplicação do artigo 50.o, n.o 2, do Regulamento IA abrange os sistemas de IA que geram ou manipulam imagens 3D, vídeos 3D e áudio 3D, bem como realidade virtual, aumentada ou mista. O conceito de «realidade virtual» abrange as tecnologias de IA que permitem aos utilizadores experienciar um ambiente gerado por computador, bem como interagir com o mesmo, simulando a presença física, e que permitem a interação dos utilizadores em tempo real com esse ambiente. Como a realidade virtual e aumentada é constituída por uma sequência temporal de imagens, opcionalmente sincronizada com áudio, que representa uma mudança visual ao longo do tempo, pode ser considerada como sendo conteúdos de «vídeo». O «resultado» pertinente a assinalar é a forma final do ativo individual gerado por IA, com exceções especiais para as sessões interativas efémeras em tempo real referidas no n.o 88 infra. Os artefactos digitais utilizados para gerar conteúdos de imagens 3D, vídeos 3D e áudio 3D, como uma nuvem de pontos ou uma malha 3D, não têm de ser marcados.

(62)

O âmbito de aplicação do artigo 50.o, n.o 2, do Regulamento IA também abrange gémeos digitais que proporcionam uma réplica virtual de pessoas, objetos físicos ou sistemas, integrando vários tipos de dados, se forem gerados ou manipulados por IA e assumirem a forma de áudio, imagem, vídeo ou texto, a menos que sejam abrangidos pelas exceções e se qualifiquem como «aplicações industriais» ou «aplicações empresa a empresa» nos termos do n.o 87 infra, ou como conteúdos efémeros em tempo real nos termos do n.o 88 infra.

(63)

O artigo 50.o, n.o 2, do Regulamento IA também pode aplicar-se a agentes de IA, se o resultado de uma ação do agente de IA consistir em conteúdos gerados ou manipulados por IA, percetíveis por pessoas singulares sob a forma de áudio, imagem, vídeo ou texto. Por conseguinte, esses resultados devem ser marcados e detetáveis conforme descrito infra. Em contrapartida, as ações de um agente de IA que não incluam conteúdos gerados ou manipulados por IA (por exemplo, etapas intermédias de tratamento, como o raciocínio e a cadeia de pensamento), ou ações geradas por IA que não se destinem a ser diretamente percecionadas por pessoas singulares (por exemplo, um pedido na Web ou uma ação do navegador), não são consideradas conteúdos sintéticos abrangidos pelo âmbito de aplicação do artigo 50.o, n.o 2, do Regulamento IA e não têm de cumprir as obrigações de marcação e deteção.

4.1.3.   Conteúdos não abrangidos pelo âmbito de aplicação do artigo 50.o, n.o 2, do Regulamento IA

(64)

O âmbito de aplicação do artigo 50.o, n.o 2, do Regulamento IA não abrange conteúdos gerados por um sistema de IA baseado num simples tratamento de dados, que não sejam especificamente gerados ou manipulados por IA, por exemplo, um quadro renderizado.

(65)

Além disso, o artigo 50.o, n.o 2, do Regulamento IA não abrange resultados de um sistema de IA que se limitem a reproduzir conteúdos existentes, ou permitam a apresentação ou a disposição de conteúdos já existentes. Pode ser o caso, por exemplo, de listas de reprodução de música ou de outros sistemas de recomendação que apenas selecionam ou ordenam conteúdos existentes com base nas preferências ou na atividade do utilizador, sem criar algo novo ou manipular os próprios conteúdos. O mesmo se aplica a sistemas de IA utilizados em processos analíticos internos que extraem e estruturam dados, mas que não os resumem.

(66)

O mesmo também é aplicável a dados de entrada e de saída de um sistema de IA que constituam meras observações e gravações de dados provenientes de ambientes físicos ou virtuais, que não sejam gerados ou manipulados por IA (por exemplo, por robôs ou outros sensores baseados em IA), ou transmissões de dados por sistemas de IA sem qualquer alteração. Tal abrange uma variedade de dados de entrada e saída de sistemas de IA, em especial em contextos industriais, como dados de fabrico para robôs que recolhem dados; dados de consumo registados por contadores inteligentes baseados em IA, medições da frequência e da tensão da rede; e registos de dados de localização GPS de veículos, etc.

(67)

Além disso, como o objetivo da obrigação de transparência prevista no artigo 50.o, n.o 2, do Regulamento IA consiste em permitir que os seres humanos distingam conteúdos gerados ou manipulados por IA, a fim de fazer face aos riscos de dissimulação e manipulação, bem como para assegurar a integridade do ecossistema da informação e a confiança no mesmo, esta disposição não visa conteúdos que não estejam relacionados com esse objetivo e que não sejam percetíveis ou não se destinem a ser interpretados, verificados ou utilizados por parte de pessoas singulares.

(68)

Em especial, deve considerar-se que o âmbito de aplicação do artigo 50.o, n.o 2, do Regulamento IA não abrange os seguintes conteúdos:

—

resultados gerados sob a forma de uma curta sequência de números, símbolos ou letras (por exemplo, palavras simples, legendas de imagens, texto alternativo, rótulos de IU e elementos gráficos à escala de ícones, legendas de imagens e outros rótulos de dados),

—

código-fonte entendido como conteúdos escritos numa linguagem de programação, codificação, marcação, pesquisa ou configuração que se destina a ser interpretado, compilado ou executado por um sistema informático, independentemente de ser composto por carateres de texto. Tal pode também incluir comentários em linguagem natural e informações contextuais que fazem parte integrante do código-fonte. Do mesmo modo, excluem-se conjuntos de desenvolvimento de software (SDK), linguagem de consulta estruturada (SQL), infraestrutura como código e «YAML Ain’t Markup Language» (YAML), configuração de notação de objetos JavaScript (JSON), esquemas, scripts, especificações legíveis por máquina, interfaces de programação de aplicações (IPA e bibliotecas de software),

—

resultados de um sistema de IA destinados a serem exclusivamente comunicados de máquina a máquina e tratados automaticamente sem qualquer exposição a seres humanos, por exemplo, comunicação entre agentes e sinais contra correio eletrónico não solicitado, desde que não sejam percecionados por pessoas singulares,

—

resultados que só são utilizados em ambientes de circuito fechado em fluxos de trabalho industriais e de desenvolvimento de produtos (por exemplo, para produção de filmes, animações, jogos ou publicidade), a menos que sejam o resultado final do sistema de IA sob a forma de conteúdos de texto, áudio, imagem ou vídeo gerados ou manipulados por IA. Nesses casos, apenas o resultado final das fases do fluxo de trabalho tem de ser marcado e detetável.

4.2.   Obrigação de marcação e deteção prevista no artigo 50.o, n.o 2, do Regulamento IA

(69)

O artigo 50.o, n.o 2, do Regulamento IA estabelece uma obrigação de transparência para os fornecedores de sistemas de IA generativa abrangidos pelo âmbito de aplicação dessa disposição, que inclui dois elementos distintos, mas intrinsecamente interligados. Em primeiro lugar, os fornecedores devem assegurar que os resultados do sistema de IA são marcados num formato legível por máquina. Em segundo lugar, os fornecedores devem assegurar que os resultados são detetáveis como conteúdos artificialmente gerados ou manipulados. Para cada solução de marcação implantada, os fornecedores devem assegurar a disponibilidade de meios de deteção correspondentes (conforme descrito infra), a fim de permitir que as pessoas singulares expostas aos conteúdos e outros intervenientes pertinentes identifiquem e distingam os conteúdos gerados artificialmente pelo sistema de IA de outros conteúdos. Deve entender-se por «solução técnica» uma combinação de técnicas de marcação e meios de deteção que o fornecedor tenha aplicado a fim de cumprir a obrigação de transparência prevista no artigo 50.o, n.o 2, do Regulamento IA.

(70)

Ambos os elementos referidos supra devem ser cumpridos para alcançar eficazmente os objetivos das obrigações de transparência previstas no artigo 50.o, n.o 2, do Regulamento IA. Cumprir apenas um elemento (por exemplo, para a marcação legível por máquina dos resultados sem que estejam disponíveis meios para a sua deteção) não será suficiente para efeitos de conformidade com essa disposição (27).

4.2.1.   Obrigação de marcação

(71)

O âmbito de aplicação da obrigação de marcação limita-se à aplicação de marcas num formato legível por máquina. Por «formato legível por máquina» entende-se marcas que são estruturadas de modo a permitir que as aplicações informáticas as identifiquem, reconheçam e extraiam facilmente sem intervenção humana. As marcas e os rótulos percetíveis não são excluídos como medida complementar, se for caso disso, com vista a facilitar o cumprimento, pelos responsáveis pela implantação, da sua obrigação de rotular falsificações profundas por força do artigo 50.o, n.o 4, do Regulamento IA.

(72)

A fim de cumprir a obrigação de marcação, os fornecedores podem recorrer a uma única técnica de marcação ou a uma combinação de técnicas, desde que a sua solução técnica global seja legível por máquina e cumpra os requisitos de eficácia, interoperabilidade, solidez e fiabilidade com o grau legalmente exigido, conforme previsto no artigo 50.o, n.o 2, segunda frase, do Regulamento IA (ver a secção 4.2.3 infra).

(73)

O considerando 133 do Regulamento IA apresenta exemplos dessas técnicas, que incluem marcas de água, identificações de metadados, métodos criptográficos para comprovar a proveniência e autenticidade do conteúdo, métodos de registo, impressões digitais ou outras técnicas, bem como uma combinação dessas técnicas. Embora os métodos para comprovar a proveniência e autenticidade sejam mencionados no considerando 133 do Regulamento IA, os fornecedores não são obrigados a registar ou manter uma cadeia de proveniência completa que inclua informações sobre a origem e as modificações dos conteúdos ou qualquer outra afirmação pertinente relativa ao historial dos conteúdos. Todavia, esses métodos de proveniência também podem ser utilizados para cumprir o disposto no artigo 50.o, n.o 2, do Regulamento IA e permitir que as pessoas singulares distingam conteúdos gerados ou manipulados por IA de conteúdos autênticos.

(74)

Os fornecedores podem aplicar a solução de marcação para os resultados em diferentes fases da cadeia de valor (por exemplo, post hoc, após a geração de conteúdos ao nível do sistema de IA, ao nível do modelo de IA subjacente ou integrado no processo de inferência do sistema de IA). Podem recorrer à solução de marcação aplicada por um fornecedor de modelos a montante ou por um terceiro que disponibilize a solução (por exemplo, como uma norma aberta ou um serviço especializado), na medida em que a solução de marcação esteja em conformidade com o artigo 50.o, n.o 2, do Regulamento IA. Esse recurso não prejudica a responsabilidade do fornecedor do sistema de IA de demonstrar a conformidade com o artigo 50.o, n.o 2, do Regulamento IA.

4.2.2.   Obrigação de deteção

(75)

Os fornecedores de sistemas de IA abrangidos pelo âmbito de aplicação do artigo 50.o, n.o 2, do Regulamento IA devem assegurar que os resultados dos seus sistemas são detetáveis como conteúdos gerados ou manipulados por IA, o que significa que o fornecedor é obrigado a assegurar que as pessoas potencialmente expostas aos conteúdos têm meios de deteção à sua disposição. Além disso, nos termos do artigo 50.o, n.o 5, do Regulamento IA, essas soluções de deteção devem poder produzir resultados legíveis por seres humanos que indiquem se os conteúdos foram gerados ou manipulados por IA.

(76)

Uma ferramenta de deteção é um mecanismo que deteta se os conteúdos foram gerados ou manipulados por IA, normalmente identificando marcadores técnicos ou assinaturas que verificam a sua origem. A fim de assegurar a plena interoperabilidade, os fornecedores devem recorrer a soluções de deteção normalizadas do setor acessíveis ao público que permitam a terceiros implementar uma deteção que, idealmente, seja executável localmente no dispositivo digital e permita a integração sem descontinuidades em redes autónomas e isoladas. Caso essas normas não estejam disponíveis, em especial na fase inicial de aplicação do artigo 50.o, n.o 2, do Regulamento IA no que se refere a tecnologias de marca de água, o fornecedor pode recorrer à sua própria solução de deteção, ou a um terceiro, ou a uma solução de deteção partilhada, desde que essas soluções assegurem a interoperabilidade com as soluções de deteção que outros fornecedores utilizam (ver a secção 4.2.3). Essa possibilidade deve ser limitada no tempo até surgirem normas harmonizadas e uma solução de deteção interoperável normalizada que não seja dependente de um fornecedor, que seja segura, respeite a privacidade e possa ser executada localmente.

(77)

O artigo 50.o, n.o 5, do Regulamento IA especifica ainda que as informações a que se refere o artigo 50.o, n.o 2, do mesmo regulamento devem ser prestadas às pessoas singulares expostas aos conteúdos de forma clara e percetível o mais tardar aquando da primeira interação ou exposição. Estas informações são, nomeadamente, o resultado da deteção, que indica se os conteúdos são gerados ou manipulados por IA, e não os próprios conteúdos gerados ou manipulados por IA. Deve entender-se por «aquando da primeira exposição» o momento em que as pessoas singulares estão dispostas a verificar a origem de um conteúdo específico e a aceder à solução de deteção para obter os resultados da deteção.

(78)

Se o fornecedor do sistema de IA depender de outro interveniente para a disponibilização de uma solução de deteção, ou para o acesso à mesma, deve assegurar que a solução de deteção cumpre o disposto no artigo 50.o, n.os 2 e 5, do Regulamento IA e que esses intervenientes exibam os resultados da deteção em conformidade com o artigo 50.o, n.o 5, do mesmo regulamento (ver a secção 7).

4.2.3.   Conformidade com os requisitos aplicáveis às soluções técnicas: eficazes, interoperáveis, sólidas e fiáveis

(79)

O artigo 50.o, n.o 2, segunda frase, do Regulamento IA prevê que as soluções técnicas de marcação e deteção devem ser eficazes, interoperáveis, sólidas e fiáveis. Deve entender-se estes requisitos do seguinte modo:

—

a eficácia refere-se à capacidade da solução técnica aplicada pelos fornecedores para detetar as suas marcas e permitir que as pessoas singulares distingam conteúdos gerados ou manipulados artificialmente produzidos pelo seu sistema de IA, contribuindo assim para a confiança no ecossistema da informação e a integridade do mesmo,

—

a fiabilidade refere-se à capacidade da solução técnica para identificar e distinguir com precisão conteúdos gerados ou manipulados por IA de outros conteúdos em condições nominais entre toda a variedade de conteúdos gerados ou manipulados pelo sistema de IA do fornecedor,

—

a solidez refere-se à capacidade da solução técnica para identificar e distinguir com precisão conteúdos gerados ou manipulados por IA produzidos pelo sistema de IA do fornecedor de outros conteúdos em condições variáveis, abrangendo tanto alterações comuns como ataques antagónicos,

—

a interoperabilidade refere-se à capacidade das diferentes soluções técnicas de marcação e deteção para funcionarem sem descontinuidades em vários sistemas, intervenientes, contextos e aplicações técnicas, a fim de permitir a deteção de conteúdos gerados ou manipulados por IA, independentemente da ou das técnicas de marcação utilizadas por fornecedores de diferentes sistemas de IA.

(80)

Os fornecedores devem assegurar que a combinação das soluções técnicas de marcação e deteção cumpre, de forma holística, todos os requisitos referidos supra ao nível legalmente exigido, tendo em conta as limitações e as complementaridades das várias soluções utilizadas. As soluções técnicas têm de cumprir todos os requisitos, na medida em que tal seja tecnicamente viável, tendo em conta as especificidades e limitações dos vários tipos de conteúdos, os custos de aplicação e o estado da arte geralmente reconhecido, tal como estiver refletido em normas técnicas pertinentes.

(81)

As soluções «tecnicamente viáveis», na aceção do artigo 50.o, n.o 2, do Regulamento IA, são soluções que podem ser aplicadas às modalidades abrangidas pelo âmbito de aplicação da disposição, utilizando tecnologia, métodos e práticas de engenharia atualmente disponíveis, no âmbito da arquitetura técnica específica e do ambiente operacional em causa. O fornecedor não é obrigado a utilizar uma solução técnica que ainda não esteja desenvolvida ou disponível no mercado, ou cuja aplicação seja tecnicamente inviável. A viabilidade técnica é um conceito objetivo que não depende dos recursos e capacidades específicos de cada fornecedor.

(82)

O artigo 50.o, n.o 2, do Regulamento IA exige que os fornecedores apliquem uma ou várias soluções tecnicamente viáveis que estejam em consonância com o estado da arte geralmente reconhecido, a fim de cumprir os quatro requisitos de qualidade, isto é, eficácia, solidez, fiabilidade e interoperabilidade.

(83)

Deve entender-se por «estado da arte» uma fase de desenvolvimento da capacidade técnica num dado momento no que diz respeito a produtos, processos e serviços, com base em dados consolidados relevantes da ciência, da tecnologia e da experiência, e que é aceite como boa prática tecnológica (28). O estado da arte não implica necessariamente a investigação científica mais recente ainda em fase experimental ou com um nível insuficiente de maturidade tecnológica. Os fornecedores devem adaptar continuamente as suas soluções de marcação e deteção de forma atempada e proporcionada, à medida que a tecnologia e o estado da arte evoluem.

(84)

À luz do artigo 50.o, n.o 7, do Regulamento IA, os fornecedores podem recorrer a um código de práticas, avaliado como sendo adequado nos termos dessa disposição para demonstrar o cumprimento das obrigações de marcação e deteção previstas no artigo 50.o, n.os 2 e 5, do Regulamento IA, que esteja alinhado com o estado da arte. Para mais informações sobre os efeitos da adesão a esse código e a supervisão de outros fornecedores que não aderem a um código, ver a secção 8.1 infra.

(85)

Também podem ser tidos em conta os custos de aplicação de determinadas soluções técnicas de marcação e deteção. Em determinados casos, conforme descrito nos números seguintes, os custos podem ser desproporcionados em relação aos ganhos marginais, com valor mais limitado para permitir aos seres humanos distinguir os conteúdos gerados ou manipulados por IA e garantir a integridade do ecossistema da informação e a confiança no mesmo.

(86)

Por conseguinte, podem existir casos estritamente definidos em que uma solução técnica baseada em marcações de metadados menos sólidas seja suficiente para efeitos de cumprimento do artigo 50.o, n.o 2, do Regulamento IA, tendo em conta as especificidades dos resultados do sistema de IA, se estes representarem riscos intrinsecamente inferiores de dissimulação e manipulação, ou efeitos negativos para o ecossistema da informação. É o que acontece especificamente quando um sistema de IA generativa está incorporado em produtos físicos que geram resultados num ambiente tecnicamente controlado e fechado que é sobretudo de natureza instrutiva (por exemplo, um sistema de IA incorporado em sistemas de navegação em veículos), na medida em que sejam incorporadas no produto medidas técnicas eficazes para evitar que o resultado saia do ambiente do produto, por exemplo, ao ser capturado ou exportado e divulgado externamente.

(87)

Podem também existir casos limitados de «aplicações de IA industriais» ou de «aplicações empresa a empresa» (excluindo sistemas de IA públicos e orientados para os consumidores) em que o princípio da proporcionalidade e os benefícios limitados para os objetivos de transparência significam que não é necessária qualquer marcação e deteção de resultados gerados ou manipulados por IA. Tal só se aplica se forem cumpridos cumulativamente os seguintes requisitos:

i)

os resultados gerados pelo sistema de IA são de natureza estritamente técnica, por exemplo, projetos de engenharia, fluxos de trabalho de produção industrial, instruções técnicas, resultados gerados a partir de processos de manutenção preditiva do sistema em contextos industriais, processos de documentação interna ou fases e fluxos de trabalho de produção antes de os resultados serem finalizados e disponibilizados a outras pessoas externas ou ao público,

ii)

os resultados gerados pelo sistema de IA destinam-se apenas a ser percecionados e tratados por um número limitado e predefinido de pessoas singulares que atuam a título profissional na organização do fornecedor e do responsável pela implantação,

iii)

os resultados gerados pelo sistema de IA não devem destinar-se a ser partilhados fora da empresa ou a poderem ser utilizados por pessoas externas, com garantias adequadas para evitar uma utilização indevida razoavelmente previsível (por exemplo, isolamento em nuvem, controlos baseados em funções).

(88)

A geração de conteúdos em tempo real efémeros e consumidos imediatamente, sem serem registados, armazenados ou divulgados em maior escala (por exemplo, em jogos de vídeo, aplicações de realidade virtual), também pode ficar isenta se a marcação não for tecnicamente viável e as pessoas expostas aos conteúdos forem informadas de que os conteúdos são gerados ou manipulados por IA (por exemplo, divulgação na experiência, notificações ao nível das sessões).

4.3.   Exceções às obrigações previstas no artigo 50.o, n.o 2, do Regulamento IA

(89)

O artigo 50.o, n.o 2, do Regulamento IA prevê três exceções explícitas às obrigações de transparência estabelecidas nessa disposição.

(90)

A primeira exceção diz respeito aos sistemas de IA na medida em que desempenhem uma função de apoio à edição normalizada. Deve entender-se por «edição normalizada» o processo de preparação de conteúdos existentes para publicação ou distribuição (por exemplo, pequenas alterações para melhorar a legibilidade e a gramática, a qualidade e o formato), não implicando a geração de novos conteúdos. A edição normalizada visa assegurar que os conteúdos estão, nomeadamente, isentos de erros linguísticos técnicos ou gramaticais óbvios, estão alinhados com os requisitos aplicáveis em matéria de configuração, apresentação, formatação ou acessibilidade, ou em conformidade com as práticas setoriais. A edição vai além da edição normalizada se os conteúdos forem alterados de uma forma material (modificações substanciais, alterações estruturais, etc.) que afete o seu significado, estilo ou intenção.

(91)

A segunda exceção aplica-se quando um sistema de IA não altera substancialmente os dados de entrada apresentados pelo responsável pela implantação nem a semântica dos mesmos. Deve considerar-se que uma alteração é substancial se os dados de entrada ou a sua semântica tiverem sido significativamente manipulados pelo sistema de IA durante o seu processo de geração de resultados, o que deve basear-se numa avaliação de fatores pertinentes, como o formato, o tipo dos conteúdos multimédia, o estilo e as alterações dos conteúdos que afetam o seu significado, estilo ou intenção. Para saber se é esse o caso, é necessária uma apreciação específica de cada situação.

(92)

Se for possível utilizar um sistema de IA tanto para a geração ou manipulação de conteúdos como para alterações menores não substanciais de dados de entrada, a obrigação de transparência prevista no artigo 50.o, n.o 2, do Regulamento IA não se aplicará aos conteúdos alterados de forma menor e não substancial.

Exemplos de edição normalizada e alterações menores que beneficiam da exceção prevista no artigo 50.o, n.o 2, do Regulamento IA:

—

correção gramatical e verificação ortográfica, melhorias linguísticas e estilísticas menores que não alterem a substância, o significado, o estilo ou a mensagem do texto, traduções do texto geradas por IA,

—

formatação, conversão de formatos, compressão técnica, redução ou remoção de ruído para maior clareza, sem alterar o significado ou a substância do conteúdo,

—

pequenos recortes, pequenos ajustamentos ou correções de cor, clareamento ou escurecimento, ajuste de nitidez para maior clareza ou outras correções técnicas e de edição normalizada,

—

remoção de pontos de poeira provocados por uma lente ou um sensor sujos, remoção de olhos vermelhos provocados pelo flash; supressão e obscurecimento de fundos visíveis no ficheiro original, pixelização ou esbatimento de rostos,

—

redimensionamento de um videoclipe, compressão e equalização dinâmicas do alcance; estabilização limitada de vídeo,

—

ajustamentos normalizados da cor e do contraste, pequenos ajustamentos da velocidade de reprodução, pequenas correções para nivelar o horizonte numa imagem, aplicação de filtros de píxeis para amplificar determinadas partes de uma imagem, ou aplicação de mapas a cores a imagens em escala de cinzentos, preenchimento de margens de imagens, conversão de uma imagem ou de um vídeo a preto e branco numa imagem ou num vídeo a cores e vice-versa,

—

preenchimento de píxeis para adaptação da proporção ou melhoria da nitidez, clipes de transição automáticos, outras edições não significativas para fins cosméticos e técnicos,

—

reconstrução ou tratamento técnico de imagens médicas em dispositivos médicos (por exemplo, anotações, caixas, contornos, círculos, mapas térmicos),

—

transcrições de conversas; conteúdos gerados por IA que apenas transformam dados de entrada genuinamente de origem humana através de tecnologias de apoio que permitem às pessoas com deficiência comunicar [por exemplo, comunicação aumentativa/alternativa (CAA) ou vozes neurais personalizadas (CNV)], uma vez que não alteram semanticamente o significado do conteúdo.

Exemplos de alterações semânticas que exigem marcação por força do artigo 50.o, n.o 2, do Regulamento IA:

—

resumos de texto gerados por IA; paráfrase ou reescrita de texto que altera o estilo, a estrutura e o significado para além de uma mera correção gramatical e estilística menor,

—

remoção, substituição ou inserção de objetos ou pessoas em imagens e vídeos existentes que alterem o significado e a substância do conteúdo; substituição facial ou modificação facial substancial,

—

síntese de um discurso realista na voz de uma pessoa específica ou geração de um vídeo realista que represente eventos que não ocorreram; alteração da forma corporal ou da cor da pele de uma pessoa; alterações extremas de clareamento, escurecimento, cor e contraste que alteram o significado, a intenção e a mensagem do conteúdo,

—

criação de imagens ou vídeos compostos que modificam a representação de pessoas, objetos, acontecimentos ou factos, bem como qualquer outra alteração substancial do conteúdo.

(93)

A terceira exceção aplica-se a sistemas de IA generativa legalmente autorizados a gerar ou manipular conteúdos sintéticos para detetar, prevenir, investigar ou reprimir infrações penais. Os esclarecimentos apresentados nos n.os 46 a 48 supra para esta exceção são igualmente pertinentes neste caso.

4.4.   Interação com outros atos jurídicos da União

(94)

As obrigações de marcação e deteção previstas no artigo 50.o, n.o 2, do Regulamento IA centram-se na forma como os conteúdos foram criados e na sua origem artificial, e não em quem os criou. Por conseguinte, quaisquer soluções de marcação e deteção utilizadas por fornecedores de sistemas de IA devem estar em conformidade com o direito da União aplicável em matéria de proteção de dados, incluindo os princípios e obrigações no domínio da proteção de dados, como a obrigação de proteção de dados desde a conceção e por defeito, a minimização de dados e os princípios de segurança e confidencialidade. Por exemplo, para efeitos de marcação e deteção, as informações relacionadas com o criador dos conteúdos não devem ser tratadas e quaisquer outros dados pessoais tratados devem ser apagados assim que a finalidade da deteção for cumprida, a segurança e a confidencialidade devem ser garantidas, etc.

(95)

O considerando 136 do Regulamento IA salienta ainda a especial pertinência das obrigações de transparência previstas no artigo 50.o, n.os 1, 2 e 4, do mesmo regulamento para facilitar a aplicação efetiva do RSD. Tal aplica-se, em especial, às obrigações dos fornecedores de plataformas em linha de muito grande dimensão ou de motores de pesquisa em linha de muito grande dimensão que consistem em identificar, analisar, avaliar e atenuar diligentemente os riscos sistémicos que possam resultar da divulgação de conteúdos artificialmente gerados ou manipulados, em especial o risco de efeitos negativos reais ou previsíveis nos processos democráticos, no debate público e nos processos eleitorais, nomeadamente através da desinformação (artigos 34.o e 35.o do RSD). As marcas legíveis por máquina podem permitir a esses fornecedores detetar conteúdos gerados ou manipulados por IA e disponibilizar rótulos e divulgações adequados, reduzindo assim o risco de desinformação gerada por IA nos seus serviços.

(96)

As obrigações de marcação e rotulagem de conteúdos gerados ou manipulados por sistemas de IA previstas no artigo 50.o, n.os 2 e 4, do Regulamento IA não prejudicam a obrigação prevista no artigo 16.o, n.o 6, do RSD de os prestadores de serviços de alojamento virtual procederem ao tratamento de notificações sobre conteúdos ilegais recebidas nos termos do artigo 16.o, n.o 1, do RSD (29). Em especial, a marcação ou rotulagem aplicada a conteúdos gerados ou manipulados por IA não deve influenciar a avaliação e a decisão sobre a ilegalidade dos conteúdos específicos ao abrigo de outros quadros regulamentares. Essa avaliação deverá ser efetuada exclusivamente com referência às regras que regem a legalidade dos conteúdos em conformidade com esses quadros (30). Por exemplo, se uma imagem rotulada como falsificação profunda for assinalada como sendo potencialmente material com imagens de abusos sexuais de crianças ou violar a legislação em matéria de marcas ou direitos de autor, a aplicação de um rótulo não afeta a potencial ilegalidade dos conteúdos ao abrigo desses quadros regulamentares. Essa avaliação deve ser realizada exclusivamente com base na respetiva legislação aplicável (por exemplo, o direito penal, as regras em matéria de marcas ou de direitos de autor).

(97)

Em contrapartida, a marcação legível por máquina incorporada nos conteúdos nos termos do artigo 50.o, n.o 2, do Regulamento IA pode ajudar os fornecedores de plataformas em linha de muito grande dimensão e de motores de pesquisa em linha de muito grande dimensão a cumprirem as obrigações que lhes incumbem por força dos artigos 34.o e 35.o do RSD que consistem em identificar, analisar e avaliar os riscos sistémicos que possam resultar da divulgação de conteúdos artificialmente gerados ou manipulados, em especial o risco de efeitos negativos reais ou previsíveis nos processos democráticos, no debate público e nos processos eleitorais, nomeadamente através da desinformação (31), e em adotar medidas razoáveis, proporcionadas e eficazes para atenuar esses riscos, adaptadas aos riscos sistémicos específicos identificados. Os fornecedores de plataformas em linha de muito grande dimensão e de motores de pesquisa em linha de muito grande dimensão também podem ser considerados fornecedores de sistemas de IA se cumprirem as condições pertinentes previstas no Regulamento IA, caso integrem sistemas de IA nos seus serviços (ver também a secção 6.1.5).

(98)

Os fornecedores de plataformas em linha, motores de pesquisa em linha e outros intervenientes pertinentes que distribuem conteúdos ao longo da cadeia de valor são especialmente incentivados a preservar e permitir a identificação das marcas aplicadas pelos fornecedores nos termos do artigo 50.o, n.o 2, do Regulamento IA, de modo que as pessoas singulares expostas aos conteúdos possam ser informadas sobre a sua origem.

5.   ARTIGO 50.o, N.o 3, DO REGULAMENTO IA: SISTEMAS DE RECONHECIMENTO DE EMOÇÕES E SISTEMAS DE CATEGORIZAÇÃO BIOMÉTRICA

(99)

O artigo 50.o, n.o 3, do Regulamento IA impõe aos responsáveis pela implantação de sistemas de reconhecimento de emoções e de sistemas de categorização biométrica a obrigação de informarem as pessoas singulares expostas a esses sistemas sobre o funcionamento dos mesmos.

(100)

O considerando 132 do Regulamento IA explica que a finalidade dessa obrigação consiste em assegurar que as pessoas singulares (incluindo as pessoas com deficiência) estejam cientes de que estão expostas a sistemas de reconhecimento de emoções e de categorização biométrica que podem ser intrusivos para a sua privacidade. Por conseguinte, a obrigação aplica-se independentemente de as pessoas estarem expostas a esses sistemas em tempo real ou de esses sistemas serem operados ex post.

5.1.   Principais componentes e conceitos, e obrigações de transparência conexas nos termos do artigo 50.o, n.o 3, do Regulamento IA

5.1.1.   Conceito de «sistema de reconhecimento de emoções»

(101)

O artigo 3.o, ponto 39, do Regulamento IA define «sistema de reconhecimento de emoções» como «um sistema de IA concebido para identificar ou inferir emoções ou intenções de pessoas singulares com base nos seus dados biométricos». A explicação pormenorizada deste conceito apresentada nas orientações da Comissão sobre a classificação dos sistemas de IA de risco elevado, incluindo os exemplos práticos constantes das mesmas, é igualmente pertinente no contexto do artigo 50.o, n.o 3, do Regulamento IA.

(102)

Uma vez que todos os sistemas de reconhecimento de emoções também são classificados como sendo de risco elevado, a menos que sejam proibidos nos termos do artigo 5.o, n.o 1, alínea f), do Regulamento IA no local de trabalho e nas instituições de ensino, a obrigação de transparência prevista no artigo 50.o, n.o 3, do mesmo regulamento deve aplicar-se em conjugação com as outras garantias e requisitos aplicáveis aos sistemas de IA de risco elevado.

5.1.2.   Conceito de «sistema de categorização biométrica»

(103)

O artigo 3.o, ponto 40, do Regulamento IA define um «sistema de categorização biométrica» como «um sistema de IA destinado a afetar pessoas singulares a categorias específicas com base nos seus dados biométricos, a menos que seja acessório a outro serviço comercial e estritamente necessário por razões técnicas objetivas». A explicação pormenorizada deste conceito apresentada nas orientações da Comissão sobre a classificação dos sistemas de IA de risco elevado, incluindo os respetivos elementos específicos e os exemplos práticos constantes das mesmas, é igualmente pertinente no contexto do artigo 50.o, n.o 3, do Regulamento IA.

(104)

Mais importante ainda, a menos que seja proibido nos termos do artigo 5.o, n.o 1, alínea g), do Regulamento IA, o artigo 50.o, n.o 3, desse regulamento é aplicável a todos os sistemas de categorização biométrica (por exemplo, classificação etária ou de género baseada em dados biométricos), independentemente de serem ou não abrangidos pelo âmbito de aplicação do conceito de «sistemas de IA de risco elevado» ao abrigo do Regulamento IA.

5.1.3.   Obrigação de informação nos termos do artigo 50.o, n.o 3, do Regulamento IA

(105)

Âmbito das informações a prestar: os responsáveis pela implantação são obrigados a informar as pessoas singulares em causa de que estão expostas a um sistema de reconhecimento de emoções ou a um sistema de categorização biométrica em funcionamento. O Regulamento IA não exige que sejam incluídas informações sobre os motivos para o funcionamento do sistema, ou sobre se o sistema também trata informações para outros fins que não o reconhecimento de emoções ou a categorização biométrica, que devem ser divulgadas ao abrigo do direito da União em matéria de proteção de dados (ver a secção 5.3).

(106)

Destinatários das informações: o artigo 50.o, n.o 3, do Regulamento IA exige que os responsáveis pela implantação informem todas as pessoas singulares expostas ao funcionamento do sistema de IA, incluindo as crianças.

(107)

Meios de prestação de informações: o regulamento IA não prescreve um meio específico para prestar as informações, com a exceção do facto de o artigo 50.o, n.o 5, do referido regulamento exigir que as informações sejam prestadas de forma clara e percetível, e em conformidade com os requisitos de acessibilidade aplicáveis (respondendo às necessidades das pessoas singulares com deficiência). A forma como as pessoas singulares expostas ao sistema devem ser informadas pode depender do local de implantação (por exemplo, plataforma de jogo virtual, loja física, estação ferroviária), dos possíveis destinatários (por exemplo, crianças, idosos, pessoas com deficiência, clientes), da duração e do tipo de exposição (por exemplo, a longo prazo, pontual, contínua, intermitente) e da eventual existência de uma relação entre o responsável pela implantação e as pessoas expostas (por exemplo, se existir um canal de comunicação com a pessoa singular). Consoante o caso de utilização, as informações podem ser prestadas por escrito, através de ícones normalizados (também quando apresentadas por via eletrónica), oralmente ou com recurso a combinações dessas formas.

Exemplos de informação a pessoas singulares:

—

uma janela instantânea situada no centro com uma mensagem de boas-vindas antes da abertura de um jogo de computador que indica que o rosto do jogador é gravado, captando as suas emoções,

—

um aviso visível em cada entrada existente numa sala de exposições, com a informação de que as imagens faciais dos visitantes são captadas quando entram na sala, a fim de as atribuir a uma classe etária específica.

(108)

Calendário para a prestação das informações: as informações devem ser prestadas, o mais tardar, no momento da primeira interação com o sistema de IA ou exposição ao mesmo, em conformidade com o artigo 50.o, n.o 5, do Regulamento IA. Se for caso disso, não está excluída a prestação prévia das informações exigidas.

5.2.   Exceção para efeitos de aplicação da lei

(109)

A obrigação de informação não se aplica a sistemas de reconhecimento de emoções nem a sistemas de categorização biométrica legalmente autorizados para detetar, prevenir ou investigar infrações penais, sob reserva de garantias adequadas dos direitos e liberdades de terceiros, e nos termos do direito da União. Os esclarecimentos prestados relativamente a esta exceção nos n.os 46 a 48 supra são igualmente relevantes neste caso, com uma diferença. Embora as outras exceções previstas no artigo 50.o do Regulamento IA exijam que uma lei explícita autorize a utilização não transparente dos sistemas de IA, o artigo 50.o, n.o 3, do referido regulamento possibilita essa utilização, quando permitida ao abrigo das regras jurídicas que regem os poderes das autoridades responsáveis pela aplicação da lei para recorrer a sistemas de reconhecimento de emoções e de categorização biométrica, a fim de detetar, prevenir ou investigar infrações penais sem informar as pessoas em causa, sob reserva de garantias adequadas.

5.3.   Interação com outros atos jurídicos da União

(110)

A obrigação de informação prevista no artigo 50.o, n.o 3, do Regulamento IA não torna, por si só, lícita a utilização de um sistema de reconhecimento de emoções e de categorização biométrica. Também não legitima utilizações intrusivas ou discriminatórias que possam ser ilegais e proibidas nos termos do artigo 5.o do Regulamento IA ou de outros atos legislativos da União. Os responsáveis pela implantação têm de cumprir a obrigação de informação prevista no artigo 50.o, n.o 3, do Regulamento IA, para além de quaisquer requisitos de informação aplicáveis ao abrigo do direito da União em matéria de proteção de dados. Em determinados casos, os responsáveis pela implantação podem ponderar acrescentar notificações nos termos do artigo 50.o, n.o 3, do Regulamento IA às informações prestadas aos titulares dos dados ao abrigo do direito da União em matéria de proteção de dados.

6.   ARTIGO 50.o, N.o 4: ROTULAGEM DE FALSIFICAÇÕES PROFUNDAS E DE DETERMINADAS PUBLICAÇÕES DE TEXTO

(111)

O artigo 50.o, n.o 4, do Regulamento IA estabelece duas obrigações distintas dirigidas aos responsáveis pela implantação de sistemas de IA generativa que exigem divulgações claras e percetíveis de i) falsificações profundas e ii) textos gerados ou manipulados por IA publicados com o objetivo de informar o público sobre questões de interesse público, exceto em casos definidos. Estas obrigações de rotulagem aplicam-se em complemento e sem prejuízo das obrigações de marcação legível por máquina e deteção nos termos do artigo 50.o, n.o 2, do Regulamento IA aplicáveis aos fornecedores de sistemas de IA que geram ou manipulam conteúdos sintéticos de imagem, vídeo, áudio ou texto.

6.1.   Principais componentes e conceitos, e obrigações de transparência conexas aplicáveis a falsificações profundas nos termos do artigo 50.o, n.o 4, do Regulamento IA

(112)

O artigo 50.o, n.o 4, primeiro parágrafo, do Regulamento IA é aplicável se estiverem preenchidas várias condições:

i)

o sistema deve ser um sistema de IA,

ii)

utilizado pelos responsáveis pela implantação para fins profissionais (ver as secções 2.3 e 2.4.1),

iii)

para gerar ou manipular conteúdos de imagem, áudio ou vídeo que constituam falsificações profundas,

iv)

o sistema de IA não pode ser abrangido pela exceção relativa à utilização legalmente autorizada para detetar, prevenir, investigar ou reprimir infrações penais.

6.1.1.   Conceito de «falsificação profunda»

(113)

O artigo 3.o, ponto 60, do Regulamento IA define «falsificações profundas» como «conteúdos de imagem, áudio ou vídeo gerados ou manipulados por IA, que sejam semelhantes a pessoas, objetos, locais, entidades ou acontecimentos reais, e que possam levar uma pessoa a crer, erroneamente, que são autênticos ou verdadeiros». A diferença entre «manipulação» e «geração» foi clarificada na secção 4.1 supra. A fim de clarificar o conceito de «falsificações profundas», são examinados infra quatro critérios cumulativos decorrentes dessa definição: i) semelhança a ii) pessoas, objetos, locais, entidades ou acontecimentos iii) reais iv) que possam levar uma pessoa a crer, erroneamente, que são autênticos ou verdadeiros.

i)

Semelhança: o artigo 3.o, ponto 60, do Regulamento IA especifica que, para constituírem uma falsificação profunda, os conteúdos de imagem, áudio ou vídeo gerados ou manipulados por IA devem ser «semelhantes» a elementos reais. O considerando 134 do Regulamento IA acrescenta que essa semelhança deve ser «considerável». Os conteúdos de imagem, áudio ou vídeo gerados ou manipulados por IA são consideravelmente semelhantes a um elemento se existir um elevado nível de semelhança entre os conteúdos de falsificação profunda e o elemento (incluindo qualquer um dos seus componentes reconhecíveis) que a falsificação profunda simula. Os conteúdos não têm de ser idênticos ao elemento. A questão de saber se o nível de semelhança é considerável consiste numa avaliação casuística que o responsável pela implantação deve efetuar recorrendo a uma comparação objetiva entre o elemento simulado e os conteúdos de falsificação profunda, com base, nomeadamente, na medida em que as características ou traços distintivos são representados pela falsificação profunda.

ii)

Existência: o artigo 3.o, ponto 60, do Regulamento IA especifica que, para constituírem uma falsificação profunda, os conteúdos de imagem, áudio ou vídeo gerados ou manipulados por IA devem ser semelhantes a elementos «reais» (existentes). Para cumprir eficazmente a finalidade do artigo 50.o, n.o 4, do Regulamento IA de reduzir os riscos de usurpação de identidade, dissimulação, desinformação, manipulação e fraude, a característica de existência implica que os conteúdos de imagem, áudio ou vídeo gerados ou manipulados por IA devem ser semelhantes a elementos realistas (por exemplo, pessoas, objetos, locais). Por conseguinte, é suficiente que, para serem considerados falsificações profundas, as pessoas, objetos, locais, entidades ou acontecimentos simulados sejam semelhantes a alguém ou a algo que exista, possa existir de forma plausível ou possa ter existido de forma plausível, pois esses conteúdos podem ser uma importante fonte de dissimulação, manipulação e desinformação. Em contrapartida, as pessoas, objetos, locais, entidades ou acontecimentos simulados que, por exemplo, desafiam as leis da natureza ou da física, ou que representam formas de vida que não são habitualmente aceites em biologia (como, por exemplo, seres humanos que voam sem apoios mecânicos, dragões ou elefantes a conduzir automóveis) e não têm potencial para induzir em erro são considerados irrealistas e, por conseguinte, não são abrangidos pelo âmbito de aplicação da obrigação de transparência.

iii)

Pessoas, objetos, locais, entidades ou acontecimentos: o artigo 3.o, ponto 60, do Regulamento IA especifica que, para constituírem uma falsificação profunda, os conteúdos de imagem, áudio ou vídeo gerados ou manipulados por IA devem ser semelhantes a «pessoas, objetos, locais, entidades ou acontecimentos» reais. Deve entender-se «pessoas» como seres humanos realistas (incluindo réplicas digitais de pessoas reais, avatares ou personagens humanos realistas gerados por IA e características ou expressões pessoais, como imagem, voz, comportamento, atuações, etc.). Deve entender-se «objetos» como artigos materiais realistas e inanimados, incluindo edifícios, obras de arte, máquinas, bens de consumo, etc. Deve entender-se «locais» como localizações realistas. Deve entender-se «entidades» como seres realistas, não humanos, mas animados, incluindo animais ou outras formas de vida biológica. Deve entender-se «acontecimentos» como cenas ou situações realistas que podem envolver pessoas, objetos, locais e entidades (por exemplo, evocação de acontecimentos históricos ou representação de serviços profissionais ou de consumo).

iv)

Levar uma pessoa a crer, erroneamente, que são autênticos ou verdadeiros: em quarto lugar, o artigo 3.o, ponto 60, do Regulamento IA especifica que os conteúdos de imagem, áudio ou vídeo gerados ou manipulados por IA, que sejam semelhantes a pessoas, objetos, locais, entidades ou acontecimentos reais, podem «levar uma pessoa a crer, erroneamente, que são autênticos ou verdadeiros». Este critério diz respeito à característica essencial dos conteúdos de falsificação profunda e à sua capacidade para enganar ou induzir em erro uma pessoa quanto à autenticidade ou veracidade dos conteúdos (32). A autenticidade dos conteúdos refere-se à questão de saber se estes são realmente o que representam em termos da sua origem ou do seu processo de criação (incluindo, por exemplo, o envolvimento de seres humanos ou animais reais e o respetivo comportamento ou ações reais, o aspeto real ou a utilização efetiva de objetos, ou a prestação de serviços, o desenrolar ou decurso exatos de um acontecimento). A veracidade refere-se aos conteúdos (por exemplo, exatidão factual das representações na falsificação profunda).

(114)

A questão de saber se os conteúdos levam «uma pessoa a crer, erroneamente, que são autênticos ou verdadeiros» deve ser avaliada como um todo, tendo em conta o nível de semelhança, a potencial mensagem substantiva dos conteúdos, os contextos de implantação previstos e previsíveis, o ambiente em que os conteúdos são apresentados e a composição do público prevista e razoavelmente previsível, bem como as suas expectativas. Todavia, esta avaliação é objetiva e, para que os conteúdos constituam uma falsificação profunda, não exige que o responsável pela implantação tenha a intenção de enganar ou induzir em erro as pessoas singulares expostas aos mesmos. No que diz respeito ao contexto de implantação e às expectativas do público, tal significa que, se os conteúdos forem utilizados em contextos de implantação específicos nos quais o público previsto e razoavelmente previsível não espera que sejam autênticos ou verdadeiros, esses conteúdos gerados ou manipulados por IA podem não levar uma pessoa a crer, erroneamente, que são autênticos ou verdadeiros, mesmo que, de facto, não sejam autênticos ou verdadeiros. Nesses casos, o quarto critério da definição de falsificação profunda não estará preenchido. Por exemplo, a geração ou a manipulação realizadas por IA de cenas de fundo, efeitos especiais ou pré-tratamento e pós-tratamento técnico no âmbito de processos normalizados de produção de filmes não são suscetíveis de levar o público a crer, erroneamente, que os conteúdos são autênticos ou verdadeiros. Em contrapartida, é provável que a utilização da IA para gerar ou manipular elementos essenciais que afetam a perceção do público o faça (como atores inteiramente gerados por IA, réplicas digitais de atores vivos ou falecidos, rejuvenescimento, atuações simuladas, incluindo partes das mesmas, ou representação não autêntica ou não verdadeira de pessoas, objetos, locais ou acontecimentos em documentários). No que diz respeito a conteúdos de imagem e vídeo, reconhece-se que um elevado grau de fotorrealismo aumenta a probabilidade de esses conteúdos serem considerados falsificações profundas (uma vez que, provavelmente, são semelhantes a elementos reais), mas o fotorrealismo, por si só, não é determinante para a avaliação. O que deve ainda ser avaliado é se esses conteúdos são suscetíveis de enganar ou induzir uma pessoa em erro quanto à autenticidade ou veracidade dos conteúdos, tendo simultaneamente em conta, entre outros aspetos, o contexto previsto e previsível de implantação.

(115)

Ao contrário do artigo 50.o, n.o 1, do Regulamento IA, a avaliação do facto de os conteúdos levarem uma pessoa a crer, erroneamente, que são autênticos ou verdadeiros não deve basear-se numa pessoa «média» hipotética que se prevê estar exposta aos conteúdos (ver a secção 3.2.1), mas deve ter devidamente em conta a possível composição diversificada do público razoavelmente previsível que pode estar exposto aos conteúdos de falsificação profunda. A devida consideração da composição do público é especialmente importante se for razoavelmente previsível que os conteúdos de falsificação profunda possam, em algum momento, ser percecionados por crianças, idosos ou outros grupos de pessoas com níveis mais baixos de literacia digital e no domínio da IA ou de conhecimento geral, uma vez que podem ser mais facilmente enganados ou induzidos em erro quanto à autenticidade ou veracidade dos conteúdos. Nesses casos, o facto de os conteúdos levarem essa parte do público previsível a crer, erroneamente, que são autênticos ou verdadeiros pode ser suficiente para os qualificar como falsificação profunda. Todavia, não se espera que os responsáveis pela implantação ponderem uma maior divulgação dos conteúdos de falsificação profunda por terceiros para além do público que seja razoavelmente previsível para esse responsável pela implantação, tendo em conta os canais de distribuição previstos (por exemplo, se os conteúdos de falsificação profunda forem apresentados exclusivamente numa parte de um sítio Web reservada aos assinantes ou como parte de um boletim informativo institucional, tal não implica que o responsável pela implantação deva ponderar uma ampla acessibilidade pública por defeito).

(116)

Na mesma ordem de ideias, a manipulação apoiada por IA de aspetos substantivos ou técnicos insignificantes de conteúdos preexistentes pode ser de menor importância para a avaliação que alguém efetue à autenticidade ou veracidade dos conteúdos, não tornando os conteúdos resultantes numa falsificação profunda. Tal pode incluir, por exemplo, edição de pormenores do fundo (por exemplo, a remoção de um transeunte), ajustamentos da iluminação, adaptação de parâmetros de áudio, correção da cor, redução ou remoção do ruído, melhoria da acessibilidade ou compressão de ficheiros, ajustamentos e melhorias a nível estético. A questão de saber se esta categoria abrangerá a manipulação depende do contexto e do impacto na perceção que as pessoas têm da autenticidade ou veracidade dos conteúdos no caso específico. Por exemplo, a correção de cores baseada na IA, as extensões de fundo de conteúdos existentes, os ajustamentos ou substituições de fundos para fins claramente estéticos, as composições e disposições de produtos existentes ou o redimensionamento de imagens aplicadas em publicidade ou embalagem de produtos são suscetíveis de ter um impacto menor na perceção de uma pessoa sobre a autenticidade e veracidade da publicidade e do produto. Em contrapartida, a edição substancial, baseada na IA, de pormenores do fundo de imagens jornalísticas para além das práticas técnicas e editoriais normais pode afetar negativamente a perceção de uma pessoa sobre a autenticidade e a veracidade dos conteúdos.

Exemplos de falsificações profundas nos termos do artigo 3.o, ponto 60, do Regulamento IA:

—

imagem manipulada por IA de uma cena que envolve dois futebolistas profissionais verdadeiros em frente a um edifício semelhante a um estádio de futebol,

—

áudio gerado por IA que envolve a clonagem da voz de apresentadores regulares de um podcast de um jornal e um interlocutor convidado a debater alguns acontecimentos noticiosos,

—

vídeo gerado por IA de uma pessoa que se assemelha a um político a proferir um discurso perante um público,

—

vídeo gerado por IA com uma representação gerada por IA de um influenciador conhecido num contexto publicitário ou promocional,

—

vídeo gerado por IA com um avatar sintético realista do diretor executivo de uma empresa a felicitar os trabalhadores pelo seu trabalho e pelos resultados empresariais do ano anterior,

—

uma imagem gerada por IA de um produto em publicidade ou embalagem que pode afetar a perceção do público e induzir em erro quanto ao aspeto, às características ou à utilização reais do produto (por exemplo, fazer com que o produto não pareça idêntico ao produto real, mas mais apelativo ou com melhor qualidade do que na realidade).

Exemplos que não constituem falsificações profundas nos termos do artigo 3.o, ponto 60, do Regulamento IA:

—

imagem gerada por IA de uma cena que envolve uma esfinge a sobrevoar a torre Eiffel,

—

vídeo gerado por IA com ratos a discutir em linguagem humana sobre o melhor tipo de queijo, no âmbito de uma campanha publicitária de um fabricante de queijo,

—

replicação de voz por IA para personagens fictícias (por exemplo, para audiolivros, jogos ou animação) sem dissimulação quanto à identidade dos narradores,

—

radiodifusão manipulada por IA com ajustes dos parâmetros técnicos de som (por exemplo, normalização dos níveis de volume, redução do ruído, compressão áudio) sem alterar as palavras efetivamente ditas pelos oradores ou a sua forma de falar,

—

desenho animado gerado por IA de uma imagem preexistente que representa um acontecimento histórico,

—

vídeo de um apresentador de um programa científico de televisão a percorrer uma região montanhosa enquanto fala sobre o recuo dos glaciares, ilustrado por uma animação de fundo manipulada por IA que mostra como os glaciares recuaram dos seus níveis históricos para os níveis atuais,

—

ambientes fictícios gerados por IA (por exemplo, florestas e castelos fictícios) em jogos de vídeo,

—

filmes em que atores reais vivos (não manipulados por IA) atuam contra um fundo gerado por IA (por exemplo, representando um troço fictício de uma pradaria, edifícios históricos de cidades antigas, etc.),

—

um produto real (por exemplo, um automóvel) exibido num anúncio publicitário sobre um fundo gerado por IA e o ambiente circundante, desde que o anúncio não seja suscetível de induzir o público em erro sobre a representação real do produto e as suas características e utilização.

6.1.2.   Obrigação de divulgação nos termos do artigo 50.o, n.o 4, primeiro parágrafo, do Regulamento IA

(117)

O artigo 50.o, n.o 4, primeiro parágrafo, do Regulamento IA obriga os responsáveis pela implantação de sistemas de IA que geram ou manipulam conteúdos de imagem, áudio ou vídeo que constituam uma falsificação profunda a «revelar que os conteúdos foram artificialmente gerados ou manipulados». O considerando 134 do Regulamento IA esclarece que os responsáveis pela implantação que utilizam sistemas de IA para gerar ou manipular conteúdos de falsificação profunda devem revelar de forma clara e percetível que esses conteúdos foram artificialmente criados ou manipulados, identificando os resultados da IA como tal e divulgando a sua origem artificial. Os métodos de rotulagem ou divulgação aplicados em conformidade com o artigo 50.o, n.o 4, primeiro parágrafo, do Regulamento IA devem ser compreensíveis e percetíveis para as pessoas singulares (por exemplo, com rótulos visíveis ou audíveis), sem que tenham de recorrer a quaisquer ferramentas técnicas específicas ou realizar ações próprias. Por conseguinte, os responsáveis pela implantação não podem recorrer à marcação legível por máquina que o fornecedor incorporou nos conteúdos nos termos do artigo 50.o, n.o 2, do Regulamento IA, pois essas marcações não são imediatamente claras e percetíveis para as pessoas singulares expostas aos conteúdos de falsificação profunda.

(118)

À luz do artigo 50.o, n.o 7, do Regulamento IA, os responsáveis pela implantação podem aderir a um código de práticas considerado adequado nos termos do artigo 50.o, n.o 7, do referido regulamento para demonstrar o cumprimento desta obrigação de divulgação. Para mais informações sobre os efeitos da adesão a esse código e a supervisão de outros responsáveis pela implantação que não aderem a um código, ver a secção 8.1 infra.

6.1.3.   Transparência dos conteúdos de falsificação profunda artísticos, criativos, satíricos, ficcionais ou análogos

(119)

O artigo 50.o, n.o 4, primeiro parágrafo, do Regulamento IA prevê uma obrigação de transparência atenuada no caso de falsificações profundas que façam parte de obras ou programas de natureza manifestamente artística, criativa, satírica, ficcional ou análoga. Para esses conteúdos, a obrigação de transparência limita-se à divulgação da falsificação profunda de uma forma adequada que não prejudique a exibição ou a fruição da obra.

(120)

Categorias de conteúdos pertinentes: para beneficiar da divulgação atenuada em matéria de transparência, a falsificação profunda (imagem, áudio ou vídeo) deve fazer parte de, pelo menos, uma das seguintes categorias de conteúdos: obras ou programas de natureza artística, criativa, satírica, ficcional ou análoga. A questão de saber se uma falsificação profunda se enquadra numa ou em várias destas categorias exige que o responsável pela implantação realize uma avaliação casuística. Para efeitos do artigo 50.o, n.o 4, do Regulamento IA, essas categorias são entendidas do seguinte modo:

—

entende-se por «obras artísticas» as obras criadas para fins artísticos, incluindo música, obras cinematográficas e artes visuais,

—

entende-se por «obras criativas» as obras que implicam escolhas criativas. As obras motivadas principalmente por considerações funcionais ou técnicas não podem ser consideradas criativas,

—

entende-se por «obras satíricas» as obras destinadas a criticar a sociedade, políticas, empresas ou figuras públicas através da utilização de técnicas humorísticas (incluindo ironia, sarcasmo, escárnio, pastiche, etc.),

—

entende-se por «obras ficcionais» as obras culturais que envolvem pessoas, objetos, locais, entidades ou acontecimentos, num ambiente imaginário, mas verosímil,

—

entende-se por «obras análogas» as obras que partilham traços essenciais ou características expressivas ou funcionais semelhantes com as categorias referidas supra, mas que não se enquadram perfeitamente numa delas.

(121)

As categorias de conteúdos referidas supra também podem ser aplicáveis a programas, os quais se entendem como um elemento individual de uma grelha de programas ou catálogo, estabelecido por um prestador de serviços de comunicação social, que seja comparável, em termos de forma e de conteúdos, à radiodifusão televisiva (33). A referência a «obras» no contexto do artigo 50.o, n.o 4, do Regulamento IA não tem qualquer incidência sobre a questão de saber se os conteúdos são elegíveis para proteção ao abrigo do direito da União em matéria de direitos de autor e direitos conexos.

(122)

Manifestamente: o facto de uma falsificação profunda se enquadrar numa (ou em várias) das categorias de conteúdos referidas supra deve ser manifestamente evidente para as pessoas singulares a ela expostas. Tal implica que as categorias devem ser interpretadas de forma estrita, justificada pelo facto de se aplicar um regime de divulgação menos rigoroso devido ao potencial impacto na liberdade de expressão e na liberdade das artes e das ciências, ao passo que os riscos de desinformação, manipulação e dissimulação continuam a ter de ser abordados de forma adequada. Por conseguinte, os conteúdos cuja natureza seja potencialmente pouco clara ou ambígua para o público são excluídos do âmbito de aplicação deste regime de transparência menos rigoroso. Os fatores pertinentes para avaliar a natureza manifestamente artística, criativa, satírica ou ficcional dos conteúdos incluem: i) se os conteúdos exibem formatos ou estilos característicos das categorias de conteúdos (por exemplo, ironia ou exagero, no caso de obras satíricas, determinados estilos artísticos, apresentando temas, técnicas ou estética distintivos, etc.), ii) o contexto em que os conteúdos são apresentados (por exemplo, se a plataforma, o meio ou o local onde os conteúdos são apresentados, disponibilizados ou distribuídos está associado a uma utilização artística, criativa, satírica ou ficcional) e iii) as expectativas do público (por exemplo, um filme, um ambiente de jogo ou um cenário de realidade virtual). Além disso, a condição de que os conteúdos sejam «manifestamente» abrangidos por uma das categorias de conteúdos referidas supra exclui-os do âmbito de aplicação dessas categorias de conteúdos se a sua natureza for exclusivamente informativa ou comercial e for reconhecível como tal (por exemplo, reportagens). A este respeito, pode considerar-se que alguns tipos de conteúdos (por exemplo, anúncios publicitários ou documentários) que contêm falsificações profundas são obras de natureza manifestamente criativa ou ficcional em determinadas situações específicas, mas não noutras, uma vez que a avaliação é específica de cada caso. Caso a falsificação profunda combine vários carateres (por exemplo, informativos e criativos), o caráter informativo deve prevalecer sempre e exigir o cumprimento dos requisitos normalizados de rotulagem.

(123)

Divulgação adequada que não prejudique a exibição ou a fruição da obra: as falsificações profundas que fazem parte de obras ou programas de natureza manifestamente artística, criativa, satírica ou ficcional não estão excluídas da obrigação de transparência prevista no artigo 50.o, n.o 4, primeiro parágrafo, do Regulamento IA. Os responsáveis pela implantação continuam a ter de divulgar que os conteúdos tiveram origem na IA ou foram manipulados pela mesma, mas podem fazê-lo de forma adequada, sem prejudicar a exibição ou a fruição da obra. O considerando 134 do Regulamento IA esclarece que essa divulgação adequada não deve prejudicar a exploração e utilização normais, permitindo simultaneamente manter a utilidade e a qualidade da obra. A determinação das medidas de divulgação que devem ser consideradas adequadas consiste numa avaliação casuística, na qual os responsáveis pela implantação podem ter em conta todos os fatores pertinentes (incluindo a natureza da obra, o público, o contexto, etc.). Em qualquer caso, os responsáveis pela implantação têm de cumprir o artigo 50.o, n.o 5, do Regulamento IA (ver a secção 7). À luz do artigo 50.o, n.o 7, do Regulamento IA, os responsáveis pela implantação podem aderir a um código de práticas considerado adequado nos termos dessa disposição, para demonstrar o cumprimento desta obrigação de divulgação. Para mais informações sobre os efeitos da adesão a esse código e a supervisão de outros responsáveis pela implantação que não aderem a um código, ver a secção 8.1 infra.

(124)

Garantias adequadas para os direitos e liberdades de terceiros: o considerando 134 do Regulamento IA esclarece que o cumprimento da obrigação de transparência atenuada e a utilização de falsificações profundas de natureza artística, criativa, satírica ou ficcional devem estar sujeitos a «garantias adequadas dos direitos e liberdades de terceiros». Por conseguinte, os responsáveis pela implantação devem assegurar que os direitos e liberdades de terceiros (incluindo, por exemplo, o seu direito à proteção dos dados pessoais ou os direitos de propriedade intelectual) são devidamente salvaguardados e respeitados aquando da criação ou publicação de falsificações profundas, mesmo que a falsificação profunda deva ser considerada de natureza artística, criativa, satírica ou ficcional. O recurso à obrigação de transparência atenuada não pode constituir uma justificação para o incumprimento dos direitos fundamentais das pessoas singulares ou dos titulares de direitos ao abrigo do direito da União em matéria de propriedade intelectual ou do direito da União em matéria de proteção de dados (34).

Exemplos de falsificações profundas que são obras de natureza criativa, satírica, ficcional ou análoga:

—

obra artística/ficcional: filmes (ou trailers de filmes) com falsificações profundas geradas ou manipuladas por IA de atores vivos rejuvenescidos ou réplicas digitais de atores falecidos ou outras pessoas, disponíveis num cinema ou numa plataforma de transmissão em contínuo,

—

obra artística/criativa: música gerada por IA de qualquer género semelhante ao estilo individual de artistas vivos,

—

obra satírica/ficcional: imagem manipulada por IA de um político vivo que o coloca numa cena claramente destinada a criticar, de forma humorística, determinadas decisões políticas que essa pessoa tomou ou apoiou,

—

obra criativa/ficcional análoga: imagens de jogos geradas por IA que envolvem simulações de falsificação profunda de pessoas reais e vivas.

Exemplos de falsificações profundas que não constituem obras de natureza artística, criativa, satírica, ficcional ou análoga:

—

vídeo manipulado por IA ao estilo de um canal de televendas que envolve uma simulação de falsificação profunda de seres humanos a publicitar um produto numa cena gerada por IA que representa a utilização funcional do produto pelos consumidores simulados, com o objetivo de persuadir os telespetadores a comprar o produto,

—

imagem gerada por IA de celebridades que sugere a sua participação em atividades que nunca ocorreram, sem qualquer finalidade ficcional, satírica ou análoga,

—

vídeo manipulado por IA de um influenciador sintético realista a testar um produto real patrocinado, centrado exclusivamente na visualização das funcionalidades do produto,

—

vídeo gerado por IA que representa cenas realistas do Holocausto partilhadas em plataformas de redes sociais acessíveis ao público.

6.1.4.   Exceção para aplicação da lei

(125)

Se a utilização de uma falsificação profunda (por exemplo, um vídeo gerado por IA que simule acontecimentos que nunca ocorreram) for legalmente autorizada para detetar, prevenir, investigar ou reprimir infrações penais, os responsáveis pela implantação estão isentos da obrigação de transparência nos termos do artigo 50.o, n.o 4, primeiro parágrafo, do Regulamento IA. Os esclarecimentos apresentados nos n.os 46 a 48 supra relativamente a uma exceção semelhante no artigo 50.o, n.o 1, do Regulamento IA são igualmente pertinentes para esta disposição.

6.1.5.   Interação com outros atos jurídicos da União

(126)

A obrigação de transparência prevista no artigo 50.o, n.o 4, primeiro parágrafo, do Regulamento IA interagirá com as obrigações dos fornecedores de plataformas em linha de muito grande dimensão e de motores de pesquisa em linha de muito grande dimensão de identificarem e atenuarem os riscos sistémicos nos termos dos artigos 34.o e 35.o do RSD, em especial do artigo 35.o, n.o 1, alínea k), desse regulamento (35). Esta última disposição enumera, entre as possíveis medidas de atenuação dos riscos que os fornecedores de plataformas em linha de muito grande dimensão e de motores de pesquisa em linha de muito grande dimensão podem adotar, medidas que assegurem que «um elemento de informação, quer se trate de uma imagem, de áudio ou de um vídeo gerados ou manipulados que se assemelham sensivelmente a pessoas, objetos, lugares ou a outras entidades ou acontecimentos existentes e que pareçam falsamente a uma pessoa serem autênticos ou verdadeiros, seja distinguível através de marcações visíveis quando é apresentado nas suas interfaces em linha». Além disso, os fornecedores de plataformas em linha de muito grande dimensão e de motores de pesquisa em linha de muito grande dimensão também podem disponibilizar uma funcionalidade de fácil utilização que permita aos destinatários do serviço assinalar tal informação. Embora esta disposição do RSD se afigure semelhante ao artigo 50.o, n.o 4, do Regulamento IA, é complementar e contém duas distinções importantes:

—

âmbito de aplicação material diferente: em comparação com o artigo 50.o, n.o 4, do Regulamento IA, o artigo 35.o, n.o 1, alínea k), do RSD abrange um leque mais vasto de conteúdos que podem parecer falsamente autênticos ou verdadeiros, independentemente das tecnologias utilizadas para os criar (ou seja, abrange conteúdos que foram gerados ou manipulados através da utilização de sistemas de IA ou de qualquer outra ferramenta),

—

âmbito de aplicação pessoal diferente: o artigo 50.o, n.o 4, do Regulamento IA obriga os responsáveis pela implantação de sistemas de IA que geram ou manipulam falsificações profundas a rotular esses conteúdos, ao passo que o artigo 35.o, n.o 1, alínea k), do RSD se aplica aos fornecedores de plataformas em linha de muito grande dimensão e de motores de pesquisa em linha de muito grande dimensão que divulgam os conteúdos ou os tornam detetáveis através de pesquisa. Por exemplo, os responsáveis pela implantação de sistemas de IA integrados numa plataforma em linha de muito grande dimensão ao abrigo do Regulamento IA podem ser considerados «destinatários do serviço» nos termos do artigo 3.o, alínea b), do RSD (36) se utilizarem a plataforma em linha de muito grande dimensão para divulgar conteúdos gerados com o respetivo sistema de IA, ao passo que a plataforma em linha de muito grande dimensão pode ser considerada o fornecedor do sistema de IA se estiverem preenchidas as condições constantes do artigo 3.o, ponto 3, do Regulamento IA. Caso os fornecedores de plataformas em linha de muito grande dimensão ou de motores de pesquisa em linha de muito grande dimensão disponibilizem ferramentas de rotulagem a esses responsáveis pela implantação que lhes permitam rotular os seus conteúdos de falsificação profunda em conformidade com o artigo 50.o, n.o 4, do Regulamento IA (ou seja, uma divulgação clara e percetível da origem na IA), esses responsáveis pela implantação podem recorrer a essas ferramentas para cumprir a sua obrigação de transparência nos termos da referida disposição no contexto da plataforma em linha de muito grande dimensão ou do motor de pesquisa em linha de muito grande dimensão utilizado. A disponibilização dessa funcionalidade não prejudica a responsabilidade dos responsáveis pela implantação, nos termos do Regulamento IA, de cumprirem as suas obrigações de rotulagem nos termos do artigo 50.o, n.o 4, do referido regulamento. Além disso, os fornecedores de plataformas em linha de muito grande dimensão e de motores de pesquisa em linha de muito grande dimensão também serão considerados responsáveis pela implantação de um sistema de IA ao abrigo do Regulamento IA se utilizarem um sistema de IA sob a sua autoridade para os seus próprios fins profissionais (por exemplo, criando elementos visuais a utilizar como parte de material comercial).

(127)

Se a falsificação profunda incluir informações relativas a uma pessoa singular direta ou indiretamente identificável (que esteja viva), os responsáveis pela implantação, enquanto responsáveis pelo tratamento ao abrigo do direito da União em matéria de proteção de dados, terão também de cumprir as respetivas obrigações ao abrigo do direito da União em matéria de proteção de dados (37). Tal inclui, por exemplo, o recurso a uma base jurídica adequada para o tratamento de dados pessoais, informações relativas ao tratamento de dados relacionados com os titulares dos dados representados, etc.

(128)

Além disso, os responsáveis pela implantação de sistemas de IA que geram falsificações profundas terão de assegurar que cumprem a legislação aplicável da União em matéria de propriedade intelectual (como o direito da União relativo às marcas e o direito da União em matéria de direitos de autor ou direitos conexos) se a sua falsificação profunda incorporar material protegido ao abrigo dessa legislação. A aplicação de um rótulo ou ícone a uma falsificação profunda não tem, enquanto tal, qualquer impacto na sua elegibilidade para a proteção dos direitos de autor, que deve ser avaliada em conformidade com o direito da União aplicável em matéria de direitos de autor.

(129)

Sempre que sejam representadas pessoas reais em falsificações profundas, os responsáveis pela implantação também terão de cumprir os regimes jurídicos pertinentes que protegem os direitos de personalidade sobre imagens ou vozes pessoais. A obrigação de transparência prevista no artigo 50.o, n.o 4, primeiro parágrafo, do Regulamento IA não implica que possam ser geradas e divulgadas falsificações profundas geradas ou manipuladas por IA que sejam prejudiciais e ilegais nos termos do direito da União ou nacional aplicável (por exemplo, publicidade enganosa ou direito penal, como material com imagens de abusos sexuais de crianças e imagens íntimas não consensuais) (ver também a secção 4.4).

6.2.   Principais componentes e conceitos, e obrigações de transparência conexas aplicáveis a texto gerado ou manipulado por IA nos termos do artigo 50.o, n.o 4, do Regulamento IA

(130)

O artigo 50.o, n.o 4, segundo parágrafo, do Regulamento IA é aplicável se estiverem preenchidas várias condições:

i)

o sistema deve ser um sistema de IA,

ii)

utilizado para gerar ou manipular texto (ver a secção 4.2.1) publicado com o objetivo de informar o público sobre questões de interesse público,

iii)

a utilização do sistema de IA não é abrangida por nenhuma das exceções se 1) os conteúdos gerados por IA tiverem sido objeto de um processo de análise humana ou controlo editorial e se uma pessoa singular ou coletiva tiver a responsabilidade editorial pela publicação dos conteúdos, ou se 2) a utilização for legalmente autorizada para detetar, prevenir, investigar ou reprimir infrações penais.

6.2.1.   Texto publicado com o objetivo de informar o público sobre questões de interesse público

(131)

A fim de clarificar o âmbito de aplicação do artigo 50.o, n.o 4, segundo parágrafo, do Regulamento IA, examina-se infra três elementos: i) texto publicado ii) com o objetivo de informar o público iii) sobre questões de interesse público.

i)

Texto publicado: o texto gerado ou manipulado por IA deve ser publicado. Tal significa que o texto deve estar acessível a um número indeterminado e bastante elevado de leitores potenciais não relacionados, simultânea e/ou sucessivamente, mediante pagamento ou não (por exemplo, assinaturas) (38). Em contrapartida, o texto não é considerado publicado se o acesso for limitado a pessoas específicas pertencentes a um grupo fechado e privado (por exemplo, um pequeno grupo fechado numa aplicação de mensagens instantâneas, ou se o grupo for demasiado pequeno ou insignificante). Entre os exemplos de textos não considerados publicados contam-se, por exemplo, correspondência privada e interpessoal (para fins profissionais) ou textos ou comunicações internas da organização (por exemplo, publicações em redes empresariais internas).

ii)

Informar o público: o texto gerado ou manipulado por IA publicado deve ter por objetivo informar o público, o que implica que o texto deve ter a intenção de comunicar conhecimentos, opiniões ou factos. Em contrapartida, não é possível considerar que textos curtos que não comunicam materialmente conhecimentos, opiniões ou factos informem o público.

iii)

Sobre questões de interesse público: o texto deve informar o público «sobre questões de interesse público». Em geral, deve entender-se que essas questões abrangem as que são pertinentes para a sociedade em geral, quer a nível local, nacional, da União ou internacional, e que merecem debate ou escrutínio público. A este respeito, deve considerar-se que os textos abordam questões de interesse público se abrangerem temas relacionados com políticas e processos democráticos, a administração e os serviços públicos, a administração da justiça e a aplicação da lei, a proteção dos direitos fundamentais, a segurança pública, a saúde pública, a proteção do ambiente, a segurança dos consumidores e qualquer desenvolvimento económico, financeiro, político, científico ou cultural que possa ser objeto de debate público. As questões que podem ser consideradas de interesse público podem evoluir ao longo do tempo e entre contextos.

Exemplos de textos publicados com o objetivo de informar o público sobre questões de interesse público nos termos do artigo 50.o, n.o 4, do Regulamento IA, que devem ser rotulados como gerados ou manipulados artificialmente, a menos que sejam objeto de análise humana/controlo editorial (ver a secção 6.2.3):

—

resumo gerado por IA de um artigo de autoria humana no sítio Web de um jornal que aborda uma decisão recente tomada por uma câmara municipal,

—

excertos manipulados por IA de um artigo de um sítio Web dedicado a temas de estilo de vida que compara os efeitos de vários regimes alimentares em relação a uma determinada doença em mulheres de meia-idade,

—

relatórios empresariais manipulados por IA publicados no sítio Web de uma empresa cotada que contenham informações destinadas aos investidores,

—

mensagem gerada por IA no perfil de um instituto meteorológico nas redes sociais, alertando os cidadãos para uma tempestade e as medidas de precaução conexas.

Exemplos de textos que não são publicados com o objetivo de informar o público sobre questões de interesse público não abrangidos pelo âmbito de aplicação do artigo 50.o, n.o 4, do Regulamento IA:

—

romances ficcionais gerados por IA,

—

texto manipulado por IA que faz parte da publicidade ou das descrições de produtos de uma empresa (não incluindo quaisquer alegações relacionadas, por exemplo, com saúde, segurança dos consumidores ou sustentabilidade),

—

resumo de notícias gerado por um robô de conversação que só está disponível para o utilizador que lhe deu a instrução,

—

texto editado com recurso a IA por um consultor para aconselhamento de clientes sobre as medidas a tomar para o cumprimento regulamentar da legislação aplicável.

6.2.2.   Obrigação de divulgação nos termos do artigo 50.o, n.o 4, segundo parágrafo, do Regulamento IA

(132)

O artigo 50.o, n.o 4, segundo parágrafo, do Regulamento IA obriga os responsáveis pela implantação de sistemas de IA que geram ou manipulam texto publicado com o objetivo de informar o público sobre questões de interesse público a divulgar que esse texto foi artificialmente gerado ou manipulado. O considerando 134 do Regulamento IA esclarece que, do mesmo modo que para as falsificações profundas, os responsáveis pela implantação de publicações de texto abrangidas pelo âmbito de aplicação da disposição devem revelar de forma clara e percetível que esses conteúdos foram artificialmente criados ou manipulados, identificando os resultados da IA como tal e divulgando a sua origem artificial. Conforme exigido para as falsificações profundas, os métodos de rotulagem ou divulgação (incluindo as declarações de exoneração de responsabilidade) aplicados em conformidade com o artigo 50.o, n.o 4, segundo parágrafo, do Regulamento IA devem também ser claros e percetíveis para as pessoas singulares (por exemplo, medidas visíveis ou audíveis), sem que tenham de recorrer a quaisquer ferramentas técnicas específicas ou realizar ações próprias. À luz do artigo 50.o, n.o 7, do Regulamento IA, os responsáveis pela implantação podem aderir a um código de práticas considerado adequado nos termos dessa disposição, para demonstrar o cumprimento desta obrigação de divulgação. Para mais informações sobre os efeitos da adesão a esse código e a supervisão dos responsáveis pela implantação que não aderem a esse código, ver a secção 8.1 infra.

6.2.3.   Exceção à obrigação de transparência para texto objeto de análise humana ou controlo editorial e responsabilidade editorial

(133)

O artigo 50.o, n.o 4, segundo parágrafo, do Regulamento IA prevê uma exceção à obrigação de transparência estabelecida nessa disposição se estiverem preenchidas duas condições cumulativas: i) o texto gerado ou manipulado por IA deve ter sido objeto de análise humana ou controlo editorial e ii) uma pessoa singular ou coletiva deve ser responsável editorial pela publicação. Se for caso disso, os responsáveis pela implantação podem recorrer a normas profissionais ou deontológicas aplicáveis pertinentes para demonstrar a conformidade com esses requisitos, conforme descrito infra.

i.   Texto objeto de análise humana ou controlo editorial

(134)

A primeira condição para que seja aplicável a exceção prevista no artigo 50.o, n.o 4, segundo parágrafo, do Regulamento IA exige que o texto gerado ou manipulado por IA tenha sido objeto de análise humana ou controlo editorial. A análise humana refere-se ao exame deliberado da substância dos conteúdos por uma ou várias pessoas singulares que possuam conhecimentos e discernimento profissional pertinentes relacionados com a matéria escrutinada (por exemplo, análise académica por pares ou cadeias de validação profissional). A verificação dos factos quanto à exatidão dos conteúdos é um requisito mínimo que deve fazer parte dessa análise. O controlo editorial refere-se ao controlo exercido na prática por uma entidade editorial responsável (por exemplo, um chefe de redação) sobre os conteúdos, que dispõe de autoridade para aprovar, alterar ou rejeitar a substância do texto com base em motivos substantivos (incluindo a verificação dos factos das informações e a garantia da fiabilidade das fontes). Tal não prejudica a análise e os procedimentos editoriais existentes, nem as normas profissionais aplicáveis aos prestadores de serviços de comunicação social.

(135)

As verificações superficiais, exclusivamente formais ou processuais (por exemplo, verificação ortográfica ou correção gramatical), e a mera existência de uma política editorial, de processos de análise automatizados ou de aprovação editorial sumária sem um envolvimento significativo do revisor humano ou da entidade editorial não podem preencher as condições para a análise humana ou o controlo editorial para efeitos desta exceção.

(136)

Caso sejam utilizados sistemas de IA para modificar, complementar ou reformular conteúdos após a aprovação editorial, os conteúdos resultantes devem ser tratados como gerados ou manipulados por IA para efeitos do artigo 50.o, n.o 4, do Regulamento IA. Por conseguinte, qualquer intervenção substantiva de IA que ocorra após a realização do processo de análise humana ou de controlo editorial anulará a exceção.

(137)

À luz do artigo 50.o, n.o 7, do Regulamento IA, os responsáveis pela implantação podem aderir a um código de práticas considerado adequado nos termos dessa disposição, para demonstrar o cumprimento da condição de análise humana ou de controlo editorial (especialmente por responsáveis pela implantação que não sejam prestadores de serviços de comunicação social sujeitos a normas editoriais profissionais ou deontológicas existentes) estabelecida nessa disposição. Para mais informações sobre os efeitos da adesão a esse código e a supervisão dos responsáveis pela implantação que não aderem a esse código, ver a secção 8.1.

ii.

Responsabilidade editorial

(138)

A segunda condição para que seja aplicável a exceção prevista no artigo 50.o, n.o 4, segundo parágrafo, do Regulamento IA exige que uma pessoa singular ou coletiva seja responsável editorial pela publicação do conteúdo. Tal implica que essa pessoa seja o responsável jurídico final pela publicação do conteúdo, incluindo a análise humana ou o controlo editorial (por exemplo, uma pessoa, um conselho editorial ou a editora). A fim de assegurar a responsabilização e a confiança públicas, e em consonância com as normas profissionais dos meios de comunicação social em vigor, a identidade e os dados de contacto da pessoa coletiva, da pessoa singular ou do cargo que exerce a responsabilidade editorial devem ser disponibilizados ao público num local facilmente localizável (se ainda não estiverem disponíveis). Tal pode ser em linha, por exemplo, através dos termos e condições de um sítio Web ou de outras informações jurídicas destinadas aos utilizadores. Fora de linha, essas informações podem ser incluídas no colofão ou no anúncio de edição de uma publicação.

Exemplos de textos objeto de análise humana ou controlo editorial por uma pessoa singular ou coletiva com responsabilidade editorial:

—

um artigo manipulado por IA num jornal ou um resumo gerado por IA de um artigo que tenha sido objeto de controlo editorial pelo respetivo chefe de redação, sendo o responsável editorial a pessoa coletiva que publica o jornal,

—

um blogue académico manipulado por IA que foi objeto de uma análise interna por pares e em que o respetivo centro de investigação que gere o blogue é o responsável editorial,

—

alertas de segurança pública gerados por IA aprovados por um funcionário público antes de serem emitidos aos cidadãos, sob a responsabilidade da agência pública competente em matéria de proteção civil,

—

relatórios de sustentabilidade gerados por IA publicados no sítio Web de uma empresa cotada que tenham sido objeto de análise humana por profissionais com cargos pertinentes (por exemplo, conformidade),

—

tradução apoiada por IA de um artigo escrito por um ser humano, em que a tradução foi objeto de análise humana.

Exemplos de textos que não satisfazem a condição de análise humana ou de controlo editorial necessária para beneficiar da exceção:

—

um sítio Web onde são publicados artigos gerados por IA sobre políticas da União sem qualquer análise humana ou controlo editorial deliberados,

—

artigos gerados por IA que são revistos e editados por outro sistema de IA e em que um editor humano efetua uma mera verificação gramatical superficial antes da publicação,

—

um livro gerado por IA e autopublicado sobre as alterações climáticas, disponibilizado numa plataforma de comércio eletrónico, que não foi objeto de qualquer análise por uma pessoa singular ou coletiva competente (nem pela plataforma).

6.2.4.   Exceção para aplicação da lei

(139)

Se a utilização de sistemas de IA para a geração de texto publicado com o objetivo de informar o público sobre questões de interesse público sem análise humana (por exemplo, um alerta policial gerado por IA relativo a uma ameaça terrorista publicado nas redes sociais) for legalmente autorizada para detetar, prevenir, investigar ou reprimir infrações penais, os responsáveis pela implantação estão isentos da obrigação de transparência nos termos do artigo 50.o, n.o 4, do Regulamento IA. Os esclarecimentos apresentados nos n.os 46 a 48 supra relativamente a uma exceção semelhante no artigo 50.o, n.o 1, do Regulamento IA são igualmente pertinentes para esta disposição.

6.2.5.   Interação com outros atos jurídicos da União

(140)

No que diz respeito ao direito da União em matéria de comunicação social, a responsabilidade editorial é um conceito crucial definido no artigo 2.o, ponto 8, do Regulamento (UE) 2024/1083 (Regulamento Europeu relativo à Liberdade dos Meios de Comunicação Social) (39). Nesse contexto, entende-se por «responsabilidade editorial» «o exercício de um controlo efetivo tanto sobre a seleção de programas ou de publicações de imprensa como sobre a sua organização, para efeitos da prestação de um serviço de comunicação social, independentemente de, nos termos do direito nacional, haver uma responsabilidade legal pelo serviço prestado». Em determinadas situações, esta definição pode sobrepor-se ao conceito de «responsável editorial» utilizado no artigo 50.o, n.o 4, segundo parágrafo, do Regulamento IA, em especial se os responsáveis pela implantação do sistema de IA também forem considerados prestadores de serviços de comunicação social nos termos do Regulamento Europeu relativo à Liberdade dos Meios de Comunicação Social. Por conseguinte, deve interpretar-se a responsabilidade editorial na aceção do artigo 50.o, n.o 4, do Regulamento IA em consonância com o acervo em vigor em matéria de meios de comunicação social, não obstante o facto de continuar a ser um conceito distinto que também pode aplicar-se em contextos mais vastos e a outros responsáveis pela implantação, desde que assumam a responsabilidade editorial pela publicação do texto. Os prestadores de serviços de comunicação social podem recorrer aos seus processos e normas editoriais existentes para beneficiar da exceção prevista no artigo 50.o, n.o 4, segundo parágrafo, do Regulamento IA.

7.   REQUISITOS HORIZONTAIS APLICÁVEIS ÀS INFORMAÇÕES PRESTADAS NOS TERMOS DO ARTIGO 50.o, N.o 5, DO REGULAMENTO IA

(141)

Nos termos do artigo 50.o, n.o 5, do Regulamento IA, as informações a prestar em conformidade com o artigo 50.o, n.os 1 a 4, do mesmo regulamento devem ser prestadas às pessoas singulares em causa de forma clara e percetível o mais tardar aquando da primeira interação ou exposição. As informações devem igualmente estar em conformidade com os requisitos de acessibilidade aplicáveis. As pessoas singulares em causa neste contexto incluem as pessoas que interagem diretamente com o sistema de IA (artigo 50.o, n.o 1, do Regulamento IA), os utilizadores ativos ou passivos e outras pessoas expostas aos conteúdos sintéticos gerados ou manipulados por IA [com ou sem interação direta com o sistema de IA (artigo 50.o, n.os 2 e 4, do Regulamento IA)], bem como as pessoas sujeitas à utilização de sistemas de reconhecimento de emoções ou de categorização biométrica (artigo 50.o, n.o 3, do Regulamento IA).

7.1.   Prestação de informações de forma clara e percetível

(142)

Considerar-se-á que as informações são prestadas de forma clara caso sejam visíveis, fáceis de compreender e acessíveis à pessoa singular em causa (incluindo as pessoas com deficiência). Considerar-se-á que as informações são prestadas de forma percetível caso seja fácil identificá-las como distintas de outras informações e do ambiente em que o conteúdo é apresentado. Também devem ser facilmente compreendidas pelo público, incluindo por grupos específicos, como as crianças ou as pessoas com deficiência, caso façam parte do público previsivelmente exposto aos conteúdos ou que interage com o sistema (40). Para prestar informações de forma clara e percetível, as informações pertinentes podem, nomeadamente, ser apresentadas como parte da interação (nos termos do artigo 50.o, n.o 1, do Regulamento IA) ou dos conteúdos pertinentes (nos termos do artigo 50.o, n.os 2 e 4, do Regulamento IA). Considerar-se-á que as informações não são prestadas de forma clara e percetível caso possam ser facilmente ignoradas ou não detetadas por pessoas singulares em condições normais de exposição ou interação (por exemplo, apenas incluídas como parte de um manual ou ocultadas em camadas de opções de menu numa interface em linha, ou como parte das condições de utilização que muitas vezes os utilizadores não leem).

7.2.   Primeira interação ou exposição

(143)

O artigo 50.o, n.o 5, do Regulamento IA exige que as informações sejam prestadas às pessoas singulares em causa o mais tardar aquando da primeira interação ou exposição. A expressão «primeira interação ou exposição» refere-se não só à primeira pessoa singular a interagir com um sistema de IA ou a estar exposta ao (resultado do) sistema de IA, mas também a qualquer primeira interação ou exposição subsequente ao (resultado do) sistema de IA por qualquer outra pessoa singular. No que diz respeito à primeira interação com um sistema de IA, as informações devem, pelo menos, ser prestadas uma vez no início de uma sessão interativa, tendo simultaneamente em conta os contextos específicos mencionados nos pontos 36 e 40 supra. No que diz respeito aos conteúdos gerados ou manipulados por IA abrangidos pelo âmbito de aplicação do artigo 50.o, n.os 2 e 4, do Regulamento IA, a obrigação de informação aplica-se a cada resultado de um sistema de IA no que diz respeito a qualquer pessoa singular exposta aos conteúdos. Deve entender-se como referindo-se a qualquer momento em que uma pessoa singular seja razoavelmente suscetível de estar exposta ao resultado do sistema de IA e percecione a divulgação, tendo em conta as especificidades da divulgação no caso de obras manifestamente criativas, artísticas e outras (ver a secção 6.1.3). Além disso, os responsáveis pela implantação estão autorizados a informar as pessoas singulares antes da primeira interação ou exposição efetiva (por exemplo, no início de conteúdos que incluem falsificações profundas). Todavia, se for razoavelmente previsível que as pessoas possam não percecionar os conteúdos desde o seu início, nesse caso, apenas a divulgação no início dos conteúdos não informa adequadamente essas pessoas e deve ser complementada com a divulgação em momentos posteriores, sempre que possível. Tal pode ser aplicado conforme adequado, tendo em conta o objetivo das obrigações de transparência de assegurar uma prestação eficaz das informações e uma sensibilização significativa dos utilizadores em ambientes de IA cada vez mais imersivos e realistas, em que os utilizadores têm cada vez mais dificuldades em distinguir a origem e a veracidade dos conteúdos e da interação.

Exemplos de prestação de informações aquando da primeira interação ou exposição nos termos do artigo 50.o, n.o 5, do Regulamento IA:

—

primeira interação: ao iniciar uma conversa com um robô de conversação ou uma interação física com um sistema de IA,

—

primeira exposição: no início de um vídeo que inclui uma falsificação profunda, no início de uma publicação de texto gerada ou manipulada por IA sobre questões de interesse público ou perante falsificações profundas manipuladas por IA ao navegar nas redes sociais.

7.3.   Conformidade com os requisitos de acessibilidade aplicáveis

(144)

Os fornecedores e responsáveis pela implantação de sistemas de IA abrangidos pelas várias obrigações de transparência enumeradas no artigo 50.o, n.os 1 a 4, do Regulamento IA devem estar cientes dos requisitos de acessibilidade aplicáveis [por exemplo, nos termos da Diretiva (UE) 2016/2102 (41) e da Diretiva (UE) 2019/882 (42)] e avaliar se o seu produto, serviço ou conteúdo tem de cumprir essas regras. Nesse caso, devem assegurar a acessibilidade das informações transmitidas em consonância com o artigo 50.o do Regulamento IA, em conformidade com os requisitos de acessibilidade aplicáveis. O artigo 50.o do Regulamento IA não impõe requisitos de acessibilidade distintos ou adicionais.

8.   APLICAÇÃO DO ARTIGO 50.o DO REGULAMENTO IA

(145)

A presente secção visa clarificar: i) os efeitos da adesão a um código de práticas no que diz respeito ao cumprimento das obrigações de transparência aplicáveis aos conteúdos gerados por IA, ii) o papel das autoridades de controlo competentes na aplicação do artigo 50.o do Regulamento IA, iii) as sanções aplicáveis em caso de infrações a essas obrigações e iv) o momento em que as obrigações previstas no artigo 50.o do Regulamento IA entram em aplicação.

8.1.   Efeitos da adesão a um código de práticas considerado adequado

(146)

Os fornecedores e responsáveis pela implantação de sistemas de IA abrangidos pelo âmbito de aplicação do artigo 50.o, n.os 2 e 4, do Regulamento IA podem demonstrar o cumprimento das respetivas obrigações de transparência aplicáveis aos conteúdos gerados por IA nos termos dessas disposições ao aderir a um código de práticas considerado adequado nos termos do artigo 50.o, n.o 7, do Regulamento IA (43). Esse código não substitui o Regulamento IA nem as presentes orientações. Complementa-os ao proporcionar o único quadro prático reconhecido à escala da União para que os fornecedores e responsáveis pela implantação de sistemas de IA generativa demonstrem o cumprimento dessas obrigações, independentemente do seu local de estabelecimento, do seu funcionamento e das autoridades de fiscalização do mercado competentes.

(147)

Embora os fornecedores e os responsáveis pela implantação também possam demonstrar o cumprimento dessas obrigações por meios alternativos adequados, a adesão a um código de práticas considerado adequado é uma forma simples, previsível e juridicamente segura de demonstrar o cumprimento. No caso dos signatários de um código de práticas considerado adequado nos termos do artigo 50.o, n.o 7, do Regulamento IA (44), a Comissão e as autoridades de fiscalização do mercado competentes centrarão as suas atividades de supervisão na avaliação do cumprimento do código de práticas por parte desses signatários e da aplicação das medidas nele previstas. Uma vez que os fornecedores e os responsáveis pela implantação aderentes serão transparentes quanto às medidas que aplicam para cumprir o disposto no artigo 50.o, n.os 2, 4 e 5, do Regulamento IA, beneficiarão de uma maior confiança por parte da Comissão, das outras autoridades de fiscalização do mercado competentes e de outras partes interessadas (incluindo o público em geral). Se os signatários de um código de práticas considerado adequado se autoexcluírem de determinadas secções, perderão o benefício de facilitar a demonstração do cumprimento a esse respeito.

(148)

Os prestadores e responsáveis pela implantação que não sejam signatários de um código de práticas considerado adequado nos termos do artigo 50.o, n.o 7, do Regulamento IA deverão demonstrar de que forma cumpriram as obrigações que lhes incumbem por força do artigo 50.o, n.os 2, 4 e 5, do Regulamento IA por outros meios adequados. Além disso, espera-se que esses fornecedores e responsáveis pela implantação expliquem de que forma as medidas que aplicam asseguram o cumprimento das obrigações que lhes incumbem por força do Regulamento IA. Por exemplo, devem realizar uma análise de lacunas que compare as medidas que aplicaram com as medidas estabelecidas por um código de práticas considerado adequado. Uma vez que as autoridades competentes (incluindo o Serviço para a IA) terão uma compreensão menor da forma como os fornecedores e os responsáveis pela implantação que não são signatários de um código de práticas asseguram o cumprimento das obrigações que lhes incumbem por força do artigo 50.o, n.os 2, 4 e 5, do Regulamento IA, provavelmente carecerão de informações mais pormenorizadas aquando do controlo do cumprimento. Por exemplo, os fornecedores que não adiram a um código de práticas também podem estar sujeitos a um maior número de pedidos de informação e de acesso para avaliar a eficácia, a interoperabilidade, a solidez e a fiabilidade das soluções técnicas aplicadas para cumprir o disposto no artigo 50.o, n.o 2, do Regulamento IA. Os responsáveis pela implantação também podem receber esses pedidos no que diz respeito às suas práticas de rotulagem nos termos do artigo 50.o, n.o 4, do Regulamento IA.

(149)

As autoridades competentes podem ter em conta os compromissos assumidos em consonância com um código de práticas considerado adequado como fator atenuante ao fixar o montante das coimas, em função das circunstâncias específicas (45).

(150)

Se um código de práticas não for considerado adequado nos termos do artigo 50.o, n.o 7, do Regulamento IA, a Comissão pode adotar um ato de execução que especifique regras comuns para o cumprimento das obrigações previstas no artigo 50.o, n.os 2, 4 e 5, do Regulamento IA, que seriam aplicáveis a todos os fornecedores e responsáveis pela implantação de sistemas de IA abrangidos pelo âmbito de aplicação dessas disposições (46).

8.2.   Autoridades de fiscalização do mercado

(151)

As autoridades de fiscalização do mercado designadas pelos Estados-Membros, o Serviço para a IA (47) e a Autoridade Europeia para a Proteção de Dados (48) são responsáveis pela supervisão e execução das regras aplicáveis aos sistemas de IA que são da sua competência, incluindo as obrigações de transparência estabelecidas no artigo 50.o do Regulamento IA. Essa execução ocorre no âmbito do sistema de fiscalização do mercado e de conformidade dos produtos estabelecido pelo Regulamento (UE) 2019/1020 e pelo Regulamento IA. Os poderes de execução das autoridades de fiscalização do mercado em relação aos sistemas de IA estão estabelecidos nesses regulamentos. Essas autoridades podem tomar medidas coercivas em relação às obrigações enumeradas no artigo 50.o do Regulamento IA, por sua própria iniciativa ou na sequência de uma queixa, que qualquer pessoa afetada ou qualquer outra pessoa singular ou coletiva que tenha motivos para considerar que ocorreram tais violações tem o direito de apresentar (49). As responsabilidades das autoridades de fiscalização do mercado ao abrigo do Regulamento IA não afetam os poderes e as funções de outras autoridades de controlo ou autoridades responsáveis pelos direitos fundamentais ao abrigo do seu próprio quadro jurídico em situações em que tanto o artigo 50.o do Regulamento IA como esse quadro se aplicam (por exemplo, proteção de dados, defesa do consumidor).

8.3.   Sanções

(152)

Os fornecedores e responsáveis pela implantação que não cumpram as obrigações de transparência aplicáveis estabelecidas no artigo 50.o do Regulamento IA podem ficar sujeitos a coimas num montante que pode ir até 15 000 000 EUR ou, se o infrator for uma empresa, até 3 % do seu volume de negócios anual a nível mundial no exercício anterior, consoante o que for mais elevado. As instituições, órgãos e organismos da UE que violem as obrigações de transparência podem ficar sujeitos a coimas num montante que pode ascender a 750 000 EUR. No caso das pequenas e médias empresas (PME), incluindo empresas em fase de arranque, cada coima não pode exceder as percentagens ou o montante referidos supra, consoante o que for mais baixo. As coimas devem ser efetivas, proporcionadas e dissuasivas, bem como ter em conta os interesses das PME e das pequenas empresas de média capitalização, incluindo empresas em fase de arranque, além da sua viabilidade económica. Ao decidir da aplicação de uma coima e sobre o montante da coima em cada caso individual, as autoridades competentes devem avaliar todas as circunstâncias pertinentes da situação específica e, se for caso disso, uma série de fatores que afetem a gravidade da infração (por exemplo, a natureza, a gravidade e a duração da infração e das suas consequências, o caráter negligente ou intencional, outras circunstâncias agravantes ou atenuantes, o grau de cooperação com as autoridades de fiscalização do mercado, etc.).

8.4.   Entrada em aplicação

(153)

Nos termos do artigo 113.o do Regulamento IA, o artigo 50.o desse regulamento é aplicável a partir de 2 de agosto de 2026, o que exige que todos os sistemas de IA abrangidos pelo âmbito de aplicação colocados no mercado ou em serviço na União estejam em conformidade com essa disposição nessa data, independentemente da sua data de colocação no mercado ou em serviço (50). O regulamento que altera o Regulamento IA (Regulamento Omnibus Digital em matéria de IA), que o legislador da União adotou recentemente, prevê uma regra específica em matéria de salvaguarda de direitos adquiridos apenas no que diz respeito às obrigações de marcação e deteção previstas no artigo 50.o, n.o 2, do Regulamento IA para os sistemas de IA generativa colocados no mercado ou em serviço antes de 2 de agosto de 2026. Concede aos fornecedores dos sistemas existentes um período transitório para tornarem os seus sistemas conformes até 2 de dezembro de 2026. Os sistemas parcialmente interativos e parcialmente generativos podem beneficiar deste período transitório apenas no que diz respeito à obrigação de marcação nos termos do artigo 50.o, n.o 2, do Regulamento IA, ao passo que o cumprimento da obrigação de divulgação para os sistemas de IA que interagem diretamente com pessoas singulares deve ser assegurado a partir de 2 de agosto de 2026.

(154)

Os resultados gerados ou manipulados por IA abrangidos pelo âmbito de aplicação do artigo 50.o, n.o 2, do Regulamento IA e as falsificações profundas abrangidas pelo âmbito de aplicação do artigo 50.o, n.o 4, primeiro parágrafo, do mesmo regulamento que tenham sido gerados ou manipulados antes de 2 de agosto de 2026 não têm de ser marcados ou rotulados retroativamente. O mesmo se aplica aos textos sobre questões de interesse público abrangidos pelo âmbito de aplicação do artigo 50.o, n.o 4, segundo parágrafo, do Regulamento IA que tenham sido gerados ou manipulados por IA e publicados antes de 2 de agosto de 2026. Inversamente, se os textos gerados ou manipulados antes de 2 de agosto de 2026 forem publicados nessa data ou após a mesma, têm de ser rotulados. Tendo em conta o objetivo visado pelo Regulamento IA de transparência, bem como de maior confiança no ecossistema da informação e integridade do mesmo, os responsáveis pela implantação de sistemas de IA e outros intervenientes que estejam na posse de falsificações profundas preexistentes não rotuladas ou que as divulguem são, não obstante, incentivados a fazê-lo sem se esperar que envidem esforços desproporcionados para o efeito (como a auditoria de bases de dados de conteúdos preexistentes ou a modificação de embalagens de produtos já impressas).

9.   REVISÃO E ATUALIZAÇÃO DAS ORIENTAÇÕES

(155)

As presentes orientações constituem uma primeira interpretação com exemplos práticos das obrigações de transparência estabelecidas no artigo 50.o do Regulamento IA. A Comissão procederá à revisão das presentes orientações logo que tal seja necessário, tendo em conta a experiência prática adquirida com a aplicação das obrigações de transparência e o ritmo da evolução tecnológica, social e regulamentar neste domínio. Tal inclui igualmente qualquer experiência pertinente adquirida com as medidas de execução da fiscalização do mercado e as interpretações do TJUE sobre o artigo 50.o do Regulamento IA. Durante essa revisão, a Comissão pode decidir retirar ou alterar as presentes orientações. A Comissão incentiva os fornecedores e os responsáveis pela implantação de sistemas de IA, as autoridades nacionais de fiscalização do mercado através do Comité para a Inteligência Artificial, o Fórum Consultivo para a Inteligência Artificial, a comunidade de investigação e as organizações da sociedade civil a contribuírem para este processo respondendo a futuros convites à consulta pública.

(1)  Regulamento (UE) 2024/1689 do Parlamento Europeu e do Conselho, de 13 de junho de 2024, que cria regras harmonizadas em matéria de inteligência artificial (Regulamento da Inteligência Artificial) (JO L, 2024/1689, 12.7.2024, ELI: http://data.europa.eu/eli/reg/2024/1689/oj).

(2)  Artigo 1.o do Regulamento da Inteligência Artificial.

(3)  Artigo 2.o, n.o 1, alínea a), e artigo 3.o, pontos 3, 9 e 11, do Regulamento IA. Para mais orientações sobre os conceitos de «colocação no mercado», «colocação em serviço» e «utilização», ver as Orientações da Comissão sobre as práticas de inteligência artificial proibidas, C(2025) 5052, e a Comunicação da Comissão intitulada «Guia Azul de 2022 sobre a aplicação das regras da UE em matéria de produtos», secção 2 (JO C 247 de 29.6.2022, p. 1).

(4)  Artigo 2.o, n.o 1, alínea c), e considerando 22 do Regulamento IA.

(5)  Artigo 3.o, ponto 4, do Regulamento IA.

(6)  Artigo 2.o, n.o 1, alíneas b) e c), do Regulamento IA.

(7)  Regulamento (UE) 2022/2065 do Parlamento Europeu e do Conselho, de 19 de outubro de 2022, relativo a um mercado único para os serviços digitais (JO L 277 de 27.10.2022, p. 1).

(8)  Ver a secção 2.5 das Orientações da Comissão sobre as práticas de inteligência artificial proibidas estabelecidas pelo Regulamento (UE) 2024/1689 (Regulamento da Inteligência Artificial), Bruxelas, 29.7.2025, C(2025) 5052 final.

(9)  A definição de responsável pela implantação exclui também os utilizadores envolvidos nessas atividades (ver a secção 2.3 supra).

(10)  Considerando 25 do Regulamento IA.

(11)  O considerando 102 do Regulamento IA explica que o lançamento de software e dados ao abrigo de uma licença gratuita e de fonte aberta «lhes permit[e] serem partilhados abertamente e [permite] aos utilizadores aceder-lhes livremente, utilizá-los, modificá-los e redistribuí-los, ou a versões modificadas dos mesmos».

(12)  Para mais informações sobre o artigo 5.o do Regulamento IA, ver as Orientações da Comissão sobre as práticas de inteligência artificial proibidas estabelecidas pelo Regulamento (UE) 2024/1689 (Regulamento da Inteligência Artificial), C(2025) 5052 final.

(13)  Ver o artigo 6.o do Regulamento IA.

(14)  Em especial, o artigo 26.o, n.o 11, do Regulamento IA impõe uma obrigação de transparência aos responsáveis pela implantação de sistemas de IA de risco elevado que tomem decisões ou ajudem a tomar decisões relacionadas com a informação de pessoas singulares de que estão sujeitas à utilização do sistema de IA de risco elevado. Estas obrigações de transparência são complementares das previstas no artigo 50.o do Regulamento IA, pois dizem respeito a diferentes informações que devem ser prestadas às pessoas singulares, mas que podem ser combinadas em notificações únicas.

(15)  O artigo 3.o, ponto 66, do Regulamento IA define um sistema de IA de finalidade geral como um sistema de IA baseado num modelo de IA de finalidade geral, e com a capacidade de servir para diversas finalidades, tanto para utilização direta como para integração noutros sistemas de IA.

(16)  O artigo 50.o, n.o 2, do Regulamento IA contém uma referência explícita aos sistemas de IA de finalidade geral.

(17)  Considerando 133 do Regulamento IA.

(18)  Ver o artigo 3.o, ponto 1, do Regulamento IA. Para mais orientações sobre o conceito de sistema de IA, ver as Orientações da Comissão sobre a definição de sistema de IA, 29.7.2025, C(2025) 5053 final.

(19)  Ver o considerando 132 do Regulamento IA. Tal não exige que o sistema seja orientado para esses grupos vulneráveis. Se um sistema se destinar a interagir com qualquer elemento do público, os membros de grupos vulneráveis também são incluídos e os fornecedores devem tê-los em conta aquando da aplicação das medidas de notificação.

(20)  Ver a secção 7.3 para consultar os requisitos de acessibilidade aplicáveis.

(21)  Por exemplo, os certificados eletrónicos de atributos estabelecidos ao abrigo do Regulamento (UE) n.o 910/2014 e disponibilizados nas carteiras europeias de identidade digital criadas ao abrigo do mesmo regulamento, bem como as carteiras empresariais europeias propostas, podem proporcionar meios seguros e eficientes de identificação de agentes de IA. As carteiras podem armazenar e gerir certificados eletrónicos que verificam a identidade, os atributos e as autorizações do agente de IA, permitindo assim a divulgação contínua e fiável a pessoas singulares.

(22)  O mesmo se aplica às exceções semelhantes em benefício das atividades de aplicação da lei previstas no artigo 50.o, n.os 2 a 4, do Regulamento IA.

(23)  Diretiva 2005/29/CE do Parlamento Europeu e do Conselho, de 11 de maio de 2005, relativa às práticas comerciais desleais das empresas face aos consumidores no mercado interno (JO L 149 de 11.6.2005, p. 2).

(24)  Diretiva 2011/83/UE do Parlamento Europeu e do Conselho, de 25 de outubro de 2011, relativa aos direitos dos consumidores (JO L 304 de 22.11.2011, p. 64).

(25)  Diretiva 2012/13/UE do Parlamento Europeu e do Conselho, de 22 de maio de 2012, relativa ao direito à informação em processo penal (JO L 142 de 1.6.2012, p. 1); Diretiva 2012/29/UE do Parlamento Europeu e do Conselho, de 25 de outubro de 2012, que estabelece normas mínimas relativas aos direitos, ao apoio e à proteção das vítimas da criminalidade (JO L 315 de 14.11.2012, p. 57).

(26)  Na aceção do artigo 3.o, ponto 1, do Regulamento IA.

(27)  O considerando 133 do Regulamento IA esclarece que é adequado exigir que os fornecedores desses sistemas incorporem soluções técnicas que permitam a marcação num formato legível por máquina e a deteção de que o resultado foi gerado ou manipulado por um sistema de IA e não por um ser humano. O considerando 135 do Regulamento IA refere-se à obrigação de deteção.

(28)  Ver o anexo II do documento Commission Implementing Decision on a standardisation request to the European Committee for Standardisation and the European Committee for Electrotechnical Standardisation as regards high-risk AI-systems in support of Regulation (EU) 2024/1689 of the European Parliament and of the Council and repealing Implementing Decision C(2023)3215 [não traduzido para português], C(2025) 3871 final.

(29)  Ver também o considerando 11 do Regulamento IA.

(30)  Ver também o considerando 137 do Regulamento IA.

(31)  Considerando 136 do Regulamento IA.

(32)  Por conseguinte, deve entender-se este critério de forma independente e distinta do conceito de dissimulação mencionado na Diretiva 2005/29/CE relativa às práticas comerciais desleais das empresas face aos consumidores no mercado interno (Diretiva Práticas Comerciais Desleais), https://eur-lex.europa.eu/eli/dir/2005/29/oj/por.

(33)  Ver, no mesmo sentido, o artigo 1.o, alínea b), da Diretiva Serviços de Comunicação Social Audiovisual.

(34)  O mesmo se aplica a textos publicados que informem o público sobre questões de interesse público.

(35)  Para mais informações sobre a interação entre o artigo 50.o do Regulamento IA e o RSD, ver também a secção 4.4.

(36)  Considerando 2 do RSD.

(37)  Para uma clarificação mais pormenorizada, ver as orientações conjuntas da Comissão e do CEPD sobre a interação entre o Regulamento IA e a legislação da UE em matéria de proteção de dados (em elaboração).

(38)  Ver, por analogia, os processos C-89/04, Mediakabel, EU:C:2005:348, n.o 33; C-192/04, Lagardère, EU:C:2005:475, n.o 31; C-306/05, SGAE, EU:C:2006:764, n.os 37 a 40; C-527/15, Stichting Brein, EU:C:2017:300, n.os 43 e 44 e jurisprudência citada; C-135/23, GEMA, EU:C:2024:526, n.o 38 e jurisprudência citada.

(39)  Regulamento (UE) 2024/1083 do Parlamento Europeu e do Conselho, de 11 de abril de 2024, que cria um regime comum para os serviços de comunicação social no mercado interno e que altera a Diretiva 2010/13/UE (Regulamento Europeu relativo à Liberdade dos Meios de Comunicação Social) (JO L, 2024/1083, 17.4.2024, ELI: http://data.europa.eu/eli/reg/2024/1083/oj).

(40)  Quando as crianças fazem parte do público-alvo dos conteúdos, essas notificações devem ser: i) adaptadas às crianças, adequadas à idade, fáceis de compreender e facilmente acessíveis a todas as crianças, incluindo as portadoras de deficiência e/ou com necessidades de acessibilidade adicionais, ii) apresentadas de forma clara, facilmente compreensível e tão simples e sucinta quanto possível, iii) apresentadas de forma fácil de analisar e que proporcionem um acesso imediato e intuitivo, nos momentos em que se tornem pertinentes, iv) apresentadas na(s) língua(s) oficial(is) do Estado-Membro em que o serviço seja prestado, v) apelativas para as crianças (tal poderá também incluir o recurso a imagens, vídeos e/ou personagens ou outras técnicas), vi) apresentadas às crianças de forma gradual e ao longo do tempo, a fim de maximizar a conservação pelo utilizador.

(41)  Diretiva (UE) 2016/2102 do Parlamento Europeu e do Conselho, de 26 de outubro de 2016, relativa à acessibilidade dos sítios web e das aplicações móveis de organismos do setor público (Texto relevante para efeitos do EEE) (JO L 327 de 2.12.2016, p. 1).

(42)  Diretiva (UE) 2019/882 do Parlamento Europeu e do Conselho, de 17 de abril de 2019, relativa aos requisitos de acessibilidade dos produtos e serviços (Texto relevante para efeitos do EEE), PE/81/2018/REV/1, (JO L 151 de 7.6.2019, p. 70).

(43)  Ver as informações pertinentes sobre o Código de Práticas sobre a Transparência dos Conteúdos Gerados por IA | Construir o futuro digital da Europa, publicado em 10 de junho de 2026.

(44)  Ver o Parecer da Comissão sobre a avaliação do Código de Práticas sobre a Transparência dos Conteúdos Gerados por IA | Construir o futuro digital da Europa.

(45)  Artigo 99.o, n.o 7, alínea e), do Regulamento IA.

(46)  Artigo 50.o, n.o 7, do Regulamento IA.

(47)  Enquanto a autoridade de fiscalização do mercado para os sistemas de IA baseados em modelos de IA de finalidade geral disponibilizados pelo mesmo fornecedor (artigo 75.o, n.o 1, do Regulamento IA). Tal abrange a obrigação aplicável aos fornecedores nos termos do artigo 50.o, n.os 1 e 2, do Regulamento IA. No que diz respeito ao artigo 50.o, n.os 3 e 4, do mesmo regulamento, o Serviço para a IA só será competente se o respetivo modelo de IA de finalidade geral e fornecedor do sistema for também um responsável pela implantação do sistema.

(48)  Enquanto a autoridade de fiscalização do mercado para as instituições, órgãos e organismos da UE.

(49)  Artigo 85.o do Regulamento IA.

(50)  A regra especial em matéria de salvaguarda de direitos adquiridos prevista no artigo 111.o, n.o 2, do Regulamento IA aplica-se aos sistemas de IA de risco elevado colocados no mercado antes da data de aplicação das regras relativas ao risco elevado apenas no que diz respeito à conformidade desses sistemas com os requisitos e obrigações aplicáveis aos sistemas de IA de risco elevado. Se o sistema de IA de risco elevado também estiver sujeito a uma ou mais obrigações de transparência nos termos do artigo 50.o do Regulamento IA, esta regra especial de salvaguarda de direitos adquiridos não é aplicável, pois a aplicação das diferentes obrigações em matéria de risco elevado e de transparência previstas no artigo 50.o é cumulativa e a salvaguarda de direitos adquiridos é justificada e limitada apenas no que diz respeito ao cumprimento das disposições relativas ao risco elevado.


ELI: http://data.europa.eu/eli/C/2026/6005/oj

ISSN 1977-1010 (electronic edition)