|
Jornal Oficial |
PT Série C |
|
C/2026/6005 |
12.11.2026 |
COMUNICAÇÃO DA COMISSÃO
Orientações sobre a aplicação das obrigações de transparência para determinados sistemas de IA ao abrigo do artigo 50.o do Regulamento (UE) 2024/1689 (Regulamento IA)
(C/2026/6005)
Índice
|
1. |
CONTEXTO E OBJETIVOS | 3 |
|
2. |
PANORÂMICA DAS OBRIGAÇÕES DE TRANSPARÊNCIA E DOS TEMAS HORIZONTAIS | 3 |
|
2.1. |
Panorâmica das obrigações de transparência no artigo 50.o do Regulamento IA | 3 |
|
2.2. |
Justificação e objetivos | 4 |
|
2.3. |
Intervenientes responsáveis nos termos do artigo 50.o do Regulamento IA | 5 |
|
2.4. |
Exclusões do âmbito de aplicação do Regulamento IA | 7 |
|
2.4.1. |
Responsáveis pela implantação que atuam no contexto de uma atividade puramente pessoal de caráter não profissional | 7 |
|
2.4.2. |
Investigação e desenvolvimento | 8 |
|
2.4.3. |
IA lançada ao abrigo de licenças gratuitas e de código aberto | 8 |
|
2.5. |
Interação com as práticas proibidas, os requisitos aplicáveis aos sistemas de IA de risco elevado e a literacia no domínio da IA | 9 |
|
2.6. |
Interação com as regras aplicáveis aos modelos e/ou sistemas de IA de finalidade geral | 9 |
|
3. |
ARTIGO 50.o, N.o 1, DO REGULAMENTO IA: TRANSPARÊNCIA DOS SISTEMAS DE IA INTERATIVA | 9 |
|
3.1. |
Principais componentes e conceitos, e obrigações de transparência conexas | 10 |
|
3.1.1. |
Sistemas de IA destinados a interagir diretamente com pessoas singulares | 10 |
|
3.1.2. |
Obrigação de informação nos termos do artigo 50.o, n.o 1, do Regulamento IA | 12 |
|
3.2. |
Exceções à obrigação de informação nos termos do artigo 50.o, n.o 1, do Regulamento IA | 14 |
|
3.2.1. |
Exceção para uma interação óbvia com um sistema de IA | 14 |
|
3.2.2. |
Exceção para sistemas de IA legalmente autorizados para efeitos de aplicação da lei | 16 |
|
3.3. |
Interação com outros atos jurídicos da União | 17 |
|
4. |
ARTIGO 50.o, N.o 2, DO REGULAMENTO IA: MARCAÇÃO E DETEÇÃO DE CONTEÚDOS GERADOS OU MANIPULADOS POR IA | 18 |
|
4.1. |
Principais componentes e conceitos constantes do artigo 50.o, n.o 2, do Regulamento IA | 18 |
|
4.1.1. |
Sistemas de IA que geram ou manipulam conteúdos sintéticos | 18 |
|
4.1.2. |
Modalidades de conteúdos sintéticos abrangidas pelo âmbito de aplicação | 19 |
|
4.1.3. |
Conteúdos não abrangidos pelo âmbito de aplicação do artigo 50.o, n.o 2, do Regulamento IA | 20 |
|
4.2. |
Obrigação de marcação e deteção prevista no artigo 50.o, n.o 2, do Regulamento IA | 21 |
|
4.2.1. |
Obrigação de marcação | 21 |
|
4.2.2. |
Obrigação de deteção | 22 |
|
4.2.3. |
Conformidade com os requisitos aplicáveis às soluções técnicas: eficazes, interoperáveis, sólidas e fiáveis | 22 |
|
4.3. |
Exceções às obrigações previstas no artigo 50.o, n.o 2, do Regulamento IA | 24 |
|
4.4. |
Interação com outros atos jurídicos da União | 25 |
|
5. |
ARTIGO 50.o, N.o 3, DO REGULAMENTO IA: SISTEMAS DE RECONHECIMENTO DE EMOÇÕES E SISTEMAS DE CATEGORIZAÇÃO BIOMÉTRICA | 26 |
|
5.1. |
Principais componentes e conceitos, e obrigações de transparência conexas nos termos do artigo 50.o, n.o 3, do Regulamento IA | 27 |
|
5.1.1. |
Conceito de «sistema de reconhecimento de emoções» | 27 |
|
5.1.2. |
Conceito de «sistema de categorização biométrica» | 27 |
|
5.1.3. |
Obrigação de informação nos termos do artigo 50.o, n.o 3, do Regulamento IA | 27 |
|
5.2. |
Exceção para efeitos de aplicação da lei | 28 |
|
5.3. |
Interação com outros atos jurídicos da União | 28 |
|
6. |
RTIGO 50.o, N.o 4: ROTULAGEM DE FALSIFICAÇÕES PROFUNDAS E DE DETERMINADAS PUBLICAÇÕES DE TEXTO | 28 |
|
6.1. |
Principais componentes e conceitos, e obrigações de transparência conexas aplicáveis a falsificações profundas nos termos do artigo 50.o, n.o 4, do Regulamento IA | 28 |
|
6.1.1. |
Conceito de «falsificação profunda» | 29 |
|
6.1.2. |
Obrigação de divulgação nos termos do artigo 50.o, n.o 4, primeiro parágrafo, do Regulamento IA | 31 |
|
6.1.3. |
Transparência dos conteúdos de falsificação profunda artísticos, criativos, satíricos, ficcionais ou análogos | 32 |
|
6.1.4. |
Exceção para aplicação da lei | 34 |
|
6.1.5. |
Interação com outros atos jurídicos da União | 34 |
|
6.2. |
Principais componentes e conceitos, e obrigações de transparência conexas aplicáveis a texto gerado ou manipulado por IA nos termos do artigo 50.o, n.o 4, do Regulamento IA | 35 |
|
6.2.1. |
Texto publicado com o objetivo de informar o público sobre questões de interesse público | 36 |
|
6.2.2. |
Obrigação de divulgação nos termos do artigo 50.o, n.o 4, segundo parágrafo, do Regulamento IA | 37 |
|
6.2.3. |
Exceção à obrigação de transparência para texto objeto de análise humana ou controlo editorial e responsabilidade editorial | 37 |
|
6.2.4. |
Exceção para aplicação da lei | 38 |
|
6.2.5. |
Interação com outros atos jurídicos da União | 39 |
|
7. |
REQUISITOS HORIZONTAIS APLICÁVEIS ÀS INFORMAÇÕES PRESTADAS NOS TERMOS DO ARTIGO 50.o, N.o 5, DO REGULAMENTO IA | 39 |
|
7.1. |
Prestação de informações de forma clara e percetível | 39 |
|
7.2. |
Primeira interação ou exposição | 40 |
|
7.3. |
Conformidade com os requisitos de acessibilidade aplicáveis | 40 |
|
8. |
APLICAÇÃO DO ARTIGO 50.o DO REGULAMENTO IA | 40 |
|
8.1. |
Efeitos da adesão a um código de práticas considerado adequado | 41 |
|
8.2. |
Autoridades de fiscalização do mercado | 42 |
|
8.3. |
Sanções | 42 |
|
8.4. |
Entrada em aplicação | 42 |
|
9. |
REVISÃO E ATUALIZAÇÃO DAS ORIENTAÇÕES | 43 |
1. CONTEXTO E OBJETIVOS
|
(1) |
O Regulamento (UE) 2024/1689 do Parlamento Europeu e do Conselho, de 13 de junho de 2024, que cria regras harmonizadas em matéria de inteligência artificial e que altera determinados regulamentos (a seguir designado por «Regulamento IA»), entrou em vigor em 1 de agosto de 2024 (1). O Regulamento IA estabelece regras harmonizadas para a colocação no mercado, a colocação em serviço e a utilização da inteligência artificial (IA) na União (2). O seu objetivo é promover a inovação e a adoção da IA de confiança, assegurando simultaneamente um elevado nível de proteção da saúde, da segurança e dos direitos fundamentais na União, nomeadamente a democracia e o Estado de direito. |
|
(2) |
O Regulamento IA segue uma abordagem baseada no risco, classificando os sistemas de IA em quatro categorias de risco diferentes, uma das quais são os sistemas de IA que representam riscos de transparência sujeitos às obrigações estabelecidas no artigo 50.o do Regulamento IA. Essas obrigações de transparência são aplicáveis dois anos após a entrada em vigor do Regulamento IA, ou seja, a partir de 2 de agosto de 2026. |
|
(3) |
Nos termos do artigo 96.o, n.o 1, alínea d), do Regulamento IA, as presentes orientações da Comissão são emitidas com o objetivo de servir de orientação prática para ajudar as autoridades competentes, bem como os fornecedores e os responsáveis pela implantação de sistemas de IA, a assegurar o cumprimento das obrigações de transparência previstas no artigo 50.o do Regulamento IA de forma coerente, eficaz, proporcionada e uniforme. |
|
(4) |
A elaboração das presentes orientações baseou-se nos contributos de diversas partes interessadas recolhidos durante uma ampla consulta organizada pela Comissão e nos contributos dos Estados-Membros no Comité para a Inteligência Artificial, bem como nos contributos das partes interessadas sobre o projeto de orientações que foram publicados para consulta. |
|
(5) |
As presentes orientações não são vinculativas. Em última análise, só o Tribunal de Justiça da União Europeia (TJUE) poderá apresentar uma interpretação vinculativa do Regulamento da Inteligência Artificial. |
2. PANORÂMICA DAS OBRIGAÇÕES DE TRANSPARÊNCIA E DOS TEMAS HORIZONTAIS
2.1. Panorâmica das obrigações de transparência no artigo 50.o do Regulamento IA
|
(6) |
O artigo 50.o do Regulamento IA inclui quatro obrigações de transparência, cada uma aplicável a diferentes tipos de sistemas de IA ou aos seus resultados.
|
|
(7) |
Nas secções 3 a 6 das presentes orientações analisa-se cada uma destas quatro obrigações. Além disso, o artigo 50.o, n.o 5, do Regulamento IA exige que as informações a que se referem os seus n.os 1 a 4 sejam prestadas às pessoas singulares em causa de forma clara e percetível o mais tardar aquando da primeira interação ou exposição, e estejam em conformidade com os requisitos de acessibilidade aplicáveis. A secção 7 clarifica estes requisitos. |
|
(8) |
As várias obrigações de transparência estabelecidas no artigo 50.o do Regulamento IA podem aplicar-se cumulativamente a um único sistema de IA (e aos seus resultados), envolvendo eventualmente a responsabilidade de diferentes intervenientes (fornecedores ou responsáveis pela implantação). Por exemplo, se um sistema de IA gerar imagens no âmbito de uma interação direta com uma pessoa singular, o fornecedor do sistema pode ter de cumprir o artigo 50.o, n.os 1 e 2, do Regulamento IA. Se esse sistema também for capaz de gerar imagens que constituam falsificações profundas ou textos publicados sobre questões de interesse público, o responsável pela implantação pode, além disso, ter de cumprir o disposto no artigo 50.o, n.o 4, do Regulamento IA. |
2.2. Justificação e objetivos
|
(9) |
Conforme explicado nos considerandos 132 a 136 do Regulamento IA, o objetivo das obrigações de transparência consiste em reduzir os riscos de usurpação de identidade, dissimulação, desinformação, manipulação em grande escala e fraude, bem como atenuar os potenciais impactos negativos nos processos democráticos e na confiança da sociedade causados por conteúdos ou interações gerados ou manipulados por IA. Informar as pessoas sobre a origem artificial da interação e dos conteúdos ajudá-las-á a tomar decisões informadas, contribuindo simultaneamente para salvaguardar a confiança no ecossistema da informação e a integridade do mesmo. A transparência não é apenas um requisito de conformidade técnica, mas também uma condição prévia para permitir que as pessoas singulares reconheçam interações e conteúdos mediados por IA ou a utilização de sistemas de reconhecimento de emoções ou de categorização biométrica. A garantia de uma utilização transparente e fiável dos sistemas de IA interativa e generativa permitirá igualmente defender a autonomia pessoal e os valores europeus, a dignidade humana e outros direitos fundamentais (por exemplo, a liberdade de pensamento, a privacidade, a igualdade e a não discriminação, a defesa do consumidor, a propriedade intelectual, etc.), preservando simultaneamente a liberdade de expressão e a credibilidade dos conteúdos dos meios de comunicação social. |
2.3. Intervenientes responsáveis nos termos do artigo 50.o do Regulamento IA
|
(10) |
Nos termos do artigo 3.o, ponto 3, do Regulamento IA, os fornecedores são pessoas singulares ou coletivas, autoridades públicas, agências ou outros organismos que desenvolvam, ou mandem desenvolver, sistemas de IA e os coloquem no mercado da União, ou coloquem os sistemas de IA em serviço sob o seu próprio nome ou a sua própria marca, a título oneroso ou gratuito. Os fornecedores devem cumprir as obrigações de transparência pertinentes previstas no artigo 50.o, n.os 1 e 2, do Regulamento IA que lhes são aplicáveis, independentemente de estarem estabelecidos ou localizados na União ou num país terceiro (3). Os fornecedores estabelecidos ou localizados fora da União também estão sujeitos ao Regulamento IA se os resultados do seu sistema de IA forem utilizados na União (4). Todavia, a utilização acessória, imprevisível ou não autorizada a jusante não deve, por si só, desencadear a aplicação das obrigações a fornecedores de sistemas de IA interativa ou generativa de países terceiros que não sejam colocados no mercado ou colocados em serviço na União, sem prejuízo dos poderes das autoridades de fiscalização do mercado competentes para considerarem os seus resultados não conformes com o Regulamento IA. |
|
(11) |
Os fornecedores devem assegurar que os seus sistemas de IA interativa ou generativa possuem transparência incorporada na conceção e no funcionamento do sistema, bem como que todas as obrigações de transparência pertinentes previstas no artigo 50.o, n.os 1, 2 e 5, do Regulamento IA são cumpridas, o mais tardar, quando esses sistemas são colocados no mercado ou em serviço. Todas as pessoas singulares que interagem com o sistema de IA ou são expostas aos seus resultados abrangidos devem ser informadas de forma eficaz e coerente ao longo de todo o ciclo de vida do sistema de IA, tal como colocado no mercado ou em serviço por esse fornecedor (independentemente de quem sejam os responsáveis pela implantação ou outros utilizadores do sistema).
|
|
(12) |
Os responsáveis pela implantação são pessoas singulares ou coletivas, autoridades públicas, agências ou outros organismos que utilizem um sistema de IA sob a sua própria autoridade, salvo se o sistema de IA for utilizado no âmbito de uma atividade pessoal de caráter não profissional (5). A «autoridade» sobre um sistema de IA deve ser entendida como a assunção da responsabilidade pela decisão de implantar o sistema e pela forma como o sistema é efetivamente utilizado (incluindo os seus resultados). Não exige necessariamente controlo técnico sobre o funcionamento do sistema de IA, desde que o responsável pela implantação tome a decisão quanto às finalidades para as quais o sistema de IA será utilizado e como se realizará essa utilização (incluindo em fluxos de trabalho descentralizados e estruturas empresariais de grupo). Os responsáveis pela implantação envolvidos em cadeias de valor complexas de produção e distribuição de conteúdos devem tomar medidas proporcionadas para assegurar que a rotulagem dos conteúdos que implementaram nos termos do artigo 50.o, n.o 4, do Regulamento IA é apresentada de forma clara e percetível ao público visado e previsível no ponto da primeira exposição, em conformidade com o artigo 50.o, n.o 5, do Regulamento IA [por exemplo, através de condições contratuais com parceiros de distribuição, definições da experiência do utilizador (UX) e interfaces a apresentar]. |
|
(13) |
Os responsáveis pela implantação são abrangidos pelo âmbito de aplicação das obrigações de transparência constantes do artigo 50.o, n.os 3 e 4, do Regulamento IA, se o seu local de estabelecimento ou localização se situar na União ou, se estiverem estabelecidos ou localizados num país terceiro, caso o resultado do sistema de IA seja utilizado na União (6). Neste último caso, as obrigações de transparência aplicam-se a entidades localizadas ou estabelecidas fora da União, em que o próprio responsável pela implantação preveja a divulgação e utilização dos resultados da IA na União (ou seja, dirigindo ou autorizando a distribuição na União, nomeadamente através da publicação de falsificações profundas na Internet acessível a nível mundial). Todavia, os responsáveis pela implantação de países terceiros não estão vinculados pelas obrigações de transparência caso os conteúdos do sistema de IA cheguem ao público na União através de canais imprevisíveis e fora do seu controlo. |
|
(14) |
Caso o responsável pela implantação de um sistema de IA seja uma pessoa coletiva sob cuja autoridade o sistema é utilizado (por exemplo, uma empresa de publicidade), os trabalhadores individuais que atuam sob as instruções e o controlo dessa pessoa coletiva (por exemplo, animadores digitais, criadores Web, criadores de conteúdos, jornalistas) não devem ser considerados responsáveis pela implantação separados no que se refere a esse sistema. Uma pessoa coletiva continua a ser responsável pela implantação se envolver terceiros (por exemplo, contratantes, trabalhadores independentes) no funcionamento do sistema em seu nome e sob a sua responsabilidade e controlo.
|
|
(15) |
Os operadores (por exemplo, fornecedores e responsáveis pela implantação) podem desempenhar mais do que uma função em paralelo em relação a um sistema de IA. Por exemplo, uma empresa pode desenvolver internamente um sistema de IA generativa e utilizá-lo para produzir falsificações profundas. Nesse caso, será considerada fornecedor e responsável pela implantação, pelo que deve assegurar o cumprimento das obrigações de marcação legível por máquina nos termos do artigo 50.o, n.o 2, e dos requisitos para uma rotulagem clara e percetível das falsificações profundas nos termos do artigo 50.o, n.o 4, do Regulamento IA. |
|
(16) |
Em contrapartida, outros intervenientes (como prestadores de serviços de alojamento virtual, incluindo plataformas em linha, ou organismos de radiodifusão) cujo papel se limite à divulgação ou transmissão de conteúdos gerados ou manipulados por IA criados por terceiros, ou que recebam ou estejam expostos a conteúdos gerados ou manipulados por IA sem terem autoridade sobre a utilização do sistema de IA para efeitos de geração ou manipulação de conteúdos de IA, não são responsáveis pela implantação na aceção do Regulamento IA. Mesmo não sendo responsáveis nem responsabilizáveis ao abrigo do Regulamento IA, esses intervenientes podem desempenhar um papel importante na cadeia de valor no que se refere à preservação da confiança no ecossistema da informação e da integridade do mesmo. Por conseguinte, são fortemente incentivados a preservar a marcação e a rotulagem aplicadas nos termos do artigo 50.o do Regulamento IA e a aplicar medidas proporcionadas e tecnicamente viáveis para permitir que as pessoas singulares detetem os conteúdos gerados ou manipulados por IA, sem prejuízo da responsabilidade dos fornecedores e responsáveis pela implantação de sistemas de IA generativa ou de quaisquer obrigações ou responsabilidades nos termos do Regulamento (UE) 2022/2065 (Regulamento dos Serviços Digitais ou «RSD») (7) ou de outro direito da União ou nacional aplicável. |
|
(17) |
Outros intervenientes que atuem a título profissional e divulguem conteúdos (mesmo que não estejam diretamente envolvidos nos termos do artigo 50.o do Regulamento IA) também são incentivados a tomar medidas proporcionadas e adequadas, para que as pessoas singulares expostas em última instância aos conteúdos sejam efetivamente informadas e capazes de detetar a sua origem artificialmente gerada ou manipulada. Além disso, estas partes podem ser obrigadas a rotular as respetivas falsificações profundas ou publicações de texto sobre questões de interesse público ao abrigo de outras regras jurídicas ou deontológicas aplicáveis (por exemplo, um organismo de radiodifusão que rotule e mostre, no âmbito de um programa de televisão, uma falsificação profunda criada por uma pessoa singular). Todavia, o simples facto de um interveniente rotular conteúdos ou utilizar conteúdos rotulados não significa que este seja considerado «responsável pela implantação» na aceção do Regulamento IA. O regulamento em causa não alarga nem afeta a responsabilidade jurídica desses intervenientes ao abrigo dos quadros jurídicos aplicáveis, se não se qualificarem simultaneamente como fornecedores ou responsáveis pela implantação de sistemas de IA. |
2.4. Exclusões do âmbito de aplicação do Regulamento IA
|
(18) |
O artigo 2.o do Regulamento IA prevê uma série de exclusões gerais do âmbito de aplicação do referido regulamento que já foram clarificadas nas Orientações da Comissão sobre as práticas de inteligência artificial proibidas (8). Por conseguinte, a presente secção abordará apenas os aspetos pertinentes para as obrigações de transparência previstas no artigo 50.o do Regulamento IA. |
2.4.1. Responsáveis pela implantação que atuam no contexto de uma atividade puramente pessoal de caráter não profissional
|
(19) |
Nos termos do artigo 2.o, n.o 10, do Regulamento IA, o regulamento «não se aplica às obrigações dos responsáveis pela implantação que sejam pessoas singulares que utilizam os sistemas de IA no âmbito de uma atividade puramente pessoal de caráter não profissional» (9). Qualquer atividade através da qual as pessoas singulares obtenham regularmente benefícios económicos ou estejam de outra forma envolvidas numa atividade profissional, empresarial, comercial, ocupacional ou independente deve ser considerada uma atividade «profissional». A especificação de «puramente pessoal» é um qualificador de não profissional, o que significa que, para ser abrangida pelo âmbito de aplicação da exceção, a pessoa deve agir tanto a título pessoal como não profissional. Qualquer utilização por pessoas singulares que atuem em nome ou sob a autoridade de um responsável pela implantação que atue a título profissional será abrangida pelo âmbito de aplicação das obrigações de transparência que cabem ao profissional responsável pela implantação estabelecidas no artigo 50.o, n.os 3 e 4, do Regulamento IA.
|
|
(20) |
A exclusão prevista no artigo 2.o, n.o 10, do Regulamento IA aplica-se apenas no que diz respeito às obrigações dos responsáveis pela implantação quando utilizam o sistema para atividades puramente pessoais de caráter não profissional. O sistema, enquanto tal, continua a ser abrangido pelo âmbito de aplicação do Regulamento IA no que diz respeito às obrigações dos fornecedores que colocam o sistema no mercado ou em serviço e dos responsáveis pela implantação que utilizam o sistema para fins profissionais. A exceção também não prejudica a aplicação de outro direito nacional e direito da União aplicáveis.
|
2.4.2. Investigação e desenvolvimento
|
(21) |
O artigo 2.o, n.o 6, do Regulamento IA prevê uma exclusão para sistemas de IA ou modelos de IA, incluindo os respetivos resultados, especificamente desenvolvidos e colocados em serviço exclusivamente para fins de investigação e desenvolvimento científicos. Essa exclusão não prejudica os princípios éticos de investigação aplicáveis, nem a legislação da UE em matéria de proteção de dados e outra legislação. No contexto do artigo 50.o do Regulamento IA, esta exclusão abrange não só os sistemas de IA interativa, mas também os resultados dos sistemas de IA generativa (incluindo conteúdos de falsificação profunda) utilizados no contexto da investigação científica. No entanto, se esses sistemas forem colocados em serviço ou os seus resultados forem utilizados para outros fins que não exclusivamente a investigação e o desenvolvimento científicos, as obrigações de transparência pertinentes previstas no artigo 50.o do Regulamento IA continuarão a ter de ser cumpridas.
|
|
(22) |
Além disso, o artigo 2.o, n.o 8, do Regulamento IA exclui atividades de investigação, testagem ou desenvolvimento relativas a sistemas de IA ou modelos de IA antes da sua colocação no mercado ou colocação em serviço. Essa exclusão não abrange a testagem em condições reais (dentro ou fora dos ambientes de testagem da regulamentação da IA). Além disso, depois de um sistema de IA ser colocado no mercado ou em serviço em resultado dessas atividades de investigação e testagem, deve, no entanto, cumprir as obrigações de transparência pertinentes previstas no artigo 50.o do Regulamento IA (10). |
2.4.3. IA lançada ao abrigo de licenças gratuitas e de código aberto
|
(23) |
Nos termos do artigo 2.o, n.o 12, do Regulamento IA, os sistemas de IA lançados ao abrigo de licenças gratuitas e de código aberto estão fora do âmbito de aplicação do referido regulamento, desde que não sejam abrangidos pelas proibições previstas no artigo 5.o desse regulamento ou pelas obrigações de transparência previstas no artigo 50.o do mesmo, ou que não sejam classificados como sendo de risco elevado (11). Tal significa que os fornecedores e responsáveis pela implantação de sistemas de IA de código aberto abrangidos pelo âmbito de aplicação do artigo 50.o do Regulamento IA continuam a ter de assegurar o cumprimento das respetivas obrigações de transparência. |
|
(24) |
Em contrapartida, os fornecedores de componentes de IA gratuitos e de fonte aberta que abranjam software, dados, modelos, ferramentas, serviços ou processos de personalização e integração num sistema de IA e que não constituam em si mesmos (parcial ou totalmente) um sistema de IA não estão sujeitos às obrigações de transparência previstas no artigo 50.o do Regulamento IA. Não obstante, os fornecedores desses sistemas são incentivados a conceber esses modelos, componentes e serviços da forma descrita no n.o 27 infra, na medida em que tal seja proporcionado e viável. |
2.5. Interação com as práticas proibidas, os requisitos aplicáveis aos sistemas de IA de risco elevado e a literacia no domínio da IA
|
(25) |
O considerando 137 do Regulamento IA esclarece que o cumprimento das obrigações de transparência previstas no artigo 50.o do mesmo regulamento para um determinado sistema de IA não pode ser interpretado como indicando que a utilização desse sistema de IA ou dos seus resultados é lícita ao abrigo do referido regulamento. Em especial, os sistemas de IA sujeitos às obrigações previstas no artigo 50.o do Regulamento IA podem ser abrangidos pelo artigo 5.o do mesmo regulamento e, por conseguinte, ser proibidos (por exemplo, a utilização de sistemas de reconhecimento de emoções no domínio do local de trabalho ou de instituições de ensino) (12). Além disso, os sistemas de IA abrangidos pelo âmbito de aplicação do artigo 50.o do Regulamento IA também podem ser classificados como de risco elevado (13) e estar sujeitos aos requisitos e obrigações aplicáveis a esses sistemas. Por conseguinte, o cumprimento do artigo 50.o do Regulamento IA não substitui, limita ou afeta as obrigações decorrentes de outras disposições desse regulamento (14). Ao mesmo tempo, os sistemas de IA também podem ser abrangidos pelo âmbito de aplicação do artigo 50.o do Regulamento IA sem serem classificados como de risco elevado nos termos do artigo 6.o do referido regulamento. Os requisitos de literacia previstos no artigo 4.o do Regulamento IA também se aplicam tanto aos fornecedores como aos responsáveis pela implantação de sistemas de IA abrangidos pelo âmbito de aplicação do artigo 50.o desse regulamento. |
2.6. Interação com as regras aplicáveis aos modelos e/ou sistemas de IA de finalidade geral
|
(26) |
O artigo 50.o do Regulamento IA aplica-se a determinados sistemas de IA, que incluem sistemas de IA de finalidade geral (15), como robôs de conversação que apoiam a interação direta com pessoas singulares ou sistemas de IA capazes de gerar ou manipular conteúdos sintéticos (incluindo falsificações profundas) (16). |
|
(27) |
O artigo 50.o do Regulamento IA não se aplica explicitamente aos modelos de IA de finalidade geral. No entanto, se um sistema de IA interativa ou generativa abrangido pelo âmbito de aplicação do artigo 50.o, n.os 1 ou 2, do Regulamento IA se basear num modelo de IA de finalidade geral disponibilizado pelo mesmo fornecedor, as medidas de transparência estabelecidas nas presentes orientações também podem ser aplicadas ao nível do modelo (ver também a secção 4 infra). Além disso, embora não sejam abrangidos pelo âmbito de aplicação do artigo 50.o do Regulamento IA, os fornecedores de outros modelos de IA de finalidade geral e de outros modelos de IA generativa também são incentivados a aplicar medidas de transparência adequadas ao nível do modelo, para a identificação de sistemas de IA interativa e a marcação de conteúdos gerados e manipulados por IA. Tal é especialmente benéfico para facilitar o cumprimento, por parte dos fornecedores de sistemas de IA a jusante, das obrigações que lhes incumbem por força do artigo 50.o, n.os 1 e 2, do Regulamento IA (17), bem como para contribuir para preservar a confiança no ecossistema da informação e a integridade do mesmo. No caso de modelos de IA de finalidade geral que apresentam risco sistémico, as medidas de segurança a nível do modelo para a identificação das interações com IA e a marcação de conteúdos gerados ou manipulados por IA podem, se for caso disso, fazer parte de um conjunto mais vasto de medidas de atenuação que os fornecedores podem tomar no âmbito da sua obrigação de atenuar os riscos sistémicos nos termos do artigo 55.o, n.o 1, alínea b), do Regulamento IA. |
3. ARTIGO 50.o, N.o 1, DO REGULAMENTO IA: TRANSPARÊNCIA DOS SISTEMAS DE IA INTERATIVA
|
(28) |
O artigo 50.o, n.o 1, do Regulamento IA dirige-se aos fornecedores de sistemas de IA que interagem diretamente com pessoas singulares, que devem conceber e desenvolver os seus sistemas de modo que as pessoas singulares em causa sejam informadas de que estão a interagir com um sistema de IA. Conforme explicado no considerando 132 do Regulamento IA, o objetivo desta obrigação de informação consiste em permitir que essas pessoas singulares tomem decisões informadas sobre os resultados do sistema, evitar uma dependência excessiva em relação a esses sistemas, bem como permitir que essas pessoas singulares calibrem a sua confiança nos conteúdos e nas interações em conformidade. |
3.1. Principais componentes e conceitos, e obrigações de transparência conexas
|
(29) |
A obrigação de transparência prevista no artigo 50.o, n.o 1, do Regulamento IA aplica-se aos fornecedores de sistemas de IA caso o sistema se destine a interagir diretamente com pessoas singulares e essa interação não seja abrangida por nenhuma das seguintes exceções: 1) for óbvio do ponto de vista de uma pessoa singular razoavelmente informada, atenta e advertida, ou 2) o sistema estiver legalmente autorizado para detetar, prevenir, investigar ou reprimir infrações penais, salvo se o sistema estiver disponível ao público para denunciar uma infração penal. |
3.1.1. Sistemas de IA destinados a interagir diretamente com pessoas singulares
|
(30) |
Para que um sistema seja abrangido pelo âmbito de aplicação do artigo 50.o, n.o 1, do Regulamento IA, devem estar presentes quatro elementos: i) o sistema deve ser um sistema de IA, ii) destinado a interagir, iii) diretamente, iv) com pessoas singulares.
|
|
(31) |
Os agentes de IA são abrangidos pelo artigo 50.o, n.o 1, do Regulamento IA se forem capazes de interagir com as pessoas que lhes dão instruções ou com outras pessoas singulares na execução das tarefas (por exemplo, fazer reservas, gerir a correspondência, negociar ou celebrar contratos, executar aquisições, etc.). Os agentes de IA devem ser concebidos e desenvolvidos de modo a divulgarem tanto a sua natureza artificial como a pessoa em nome da qual atuam, tendo em conta a necessidade de transparência da origem e da delegação de autoridade e de responsabilização pelas consequências das suas ações. Incluem-se casos em que os agentes de IA são capazes de interagir em arquiteturas complexas multiagentes com outros agentes de IA que interagem diretamente com as pessoas singulares na execução da tarefa. Todavia, pode nem sempre ser possível ao fornecedor do agente de IA identificar antecipadamente casos individuais de interação direta de um agente de IA com outras pessoas singulares quando esse agente é implantado em diferentes contextos. Se o fornecedor não puder determinar de forma fiável se o agente de IA interagirá diretamente com uma pessoa singular antes de o colocar no mercado ou em serviço, o agente deve ser concebido ao nível da arquitetura e receber instruções para se divulgar como tal em todas as situações em que seja razoavelmente provável que possa interagir com uma pessoa singular (incluindo caso uma pessoa singular possa representar uma entidade jurídica, ou agir em nome da mesma). Além disso, os agentes de IA também devem divulgar-se às pessoas que lhes dão instruções em etapas fundamentais (por exemplo, no momento da autorização, da comunicação de informações, da validação, etc., incluindo quando o agente de IA implantado recebe, processa ou recorre a resultados gerados por outros sistemas de IA e não diretamente por uma pessoa singular) e em cada nova interação.
|
3.1.2. Obrigação de informação nos termos do artigo 50.o, n.o 1, do Regulamento IA
|
(32) |
O artigo 50.o, n.o 1, do Regulamento IA obriga os fornecedores de sistemas de IA que interagem diretamente com pessoas singulares a assegurarem que os seus sistemas de IA (incluindo agentes de IA e sistemas de IA de finalidade geral) são concebidos e desenvolvidos de modo que as pessoas singulares em causa sejam informadas de que estão a interagir com um sistema de IA. |
|
(33) |
Embora o mecanismo de informação deva ser integrado na conceção e no desenvolvimento do sistema, bem como na forma como o sistema interage com as pessoas singulares, a notificação deve ser prestada durante o funcionamento do sistema de IA, o mais tardar aquando da primeira interação com a pessoa singular (conforme exigido no artigo 50.o, n.o 5, do Regulamento IA, ver a secção 7 infra). Os fornecedores são responsáveis por assegurar que, após a colocação do sistema de IA no mercado ou em serviço, as pessoas singulares que interagem com esse sistema são informadas de forma eficaz e coerente ao longo de todo o ciclo de vida do sistema de IA, tal como colocado no mercado ou em serviço por esse fornecedor.2.2 |
|
(34) |
Formato da divulgação: o artigo 50.o, n.o 1, do Regulamento IA não indica nenhuma técnica de divulgação específica. Por conseguinte, os fornecedores podem escolher qualquer técnica adequada, desde que sejam cumpridos dois requisitos: i) os requisitos estabelecidos no artigo 50.o, n.o 5, do Regulamento IA são cumpridos no que diz respeito à prestação de informações claras e percetíveis, o mais tardar aquando da primeira interação (ver a secção 7 infra), e ii) as características das pessoas singulares pertencentes a grupos vulneráveis devido à sua idade (por exemplo, crianças ou idosos) ou deficiência são tidas em conta na medida em que o sistema de IA se destine a interagir, ou seja razoavelmente suscetível de interagir, com pessoas singulares pertencentes a esses grupos (por exemplo, incluindo quando o sistema de IA é razoavelmente suscetível de interagir com o público em geral) (19). As informações também devem ser prestadas num formato acessível às pessoas singulares com deficiência, conforme especificado no artigo 50.o, n.o 5, e no considerando 132 do Regulamento IA (ver a secção 7). Caso o sistema possa interagir com crianças, essas notificações devem ser adaptadas às crianças, adequadas à idade, fáceis de compreender e facilmente acessíveis a todas as crianças, incluindo as portadoras de deficiência ou com necessidades de acessibilidade adicionais. Sempre que disponíveis e adequados, recomenda-se aos fornecedores que utilizem práticas de divulgação e rótulos normalizados, a fim de assegurar a eficácia e a coerência das notificações, bem como uma maior sensibilização dos utilizadores. |
|
(35) |
Teor da notificação: o artigo 50.o, n.o 1, do Regulamento IA exige que os fornecedores de sistemas de IA interativa os concebam e desenvolvam de forma que todas as pessoas singulares que interagem com esses sistemas sejam explicitamente informadas da natureza artificial e não humana da contraparte que interage. Se for razoavelmente previsível, para o fornecedor, que o sistema de IA pode interagir com pessoas singulares pertencentes aos grupos vulneráveis referidos supra, as informações devem ser adaptadas em conformidade e prestadas num formato acessível, conforme exigido pelo direito da União aplicável, a fim de assegurar também a plena compreensão por parte dessas pessoas singulares (20). |
|
(36) |
As notificações devem fornecer informações sobre a origem artificial da interação de formas adequadas ao contexto em que a interação ocorre. Tal deverá ser feito de forma a assegurar que as pessoas em causa sejam devida e eficazmente informadas, evitando quaisquer riscos de engano ou manipulação antes e durante a interação, assegurando simultaneamente divulgações viáveis e proporcionadas. Os exemplos de prestação de informações incluem notificações por escrito (por exemplo, um robô de conversação que inicia uma conversa ao mencionar que se baseia em tecnologia de IA), meios visuais (por exemplo, uma mensagem de correio eletrónico gerada por um agente de IA enviada a uma pessoa singular que ostenta um rótulo de IA na parte superior), meios auditivos (por exemplo, um assistente de voz que diz, no início de uma sessão, que é alimentado por IA), divulgação de identificadores de IA e credenciais (por exemplo, agentes de IA que divulgam a sua identidade de IA, na medida do possível, de forma verificável) (21). |
|
(37) |
Formato das notificações: como melhor prática, recomenda-se a conceção do sistema de IA com abordagens de divulgação multimodais e acessíveis. Essas notificações podem combinar diferentes técnicas para reforçar a compreensão por parte dos utilizadores, se for caso disso e em função do contexto e dos públicos-alvo e previsíveis, bem como dos recursos disponíveis dos fornecedores, em especial das pequenas e médias empresas (PME). Exemplos de técnicas adequadas podem incluir:
|
|
(38) |
Determinadas técnicas não são necessárias e, quando utilizadas isoladamente, são insuficientes para cumprir eficazmente a obrigação de transparência prevista no artigo 50.o, n.os 1 e 5, do Regulamento IA, nomeadamente:
|
|
(39) |
As divulgações devem ser proporcionadas e calibradas em função dos diferentes contextos e públicos-alvo do sistema de IA, a fim de continuarem a ser eficazes e de fácil utilização, bem como evitarem, na medida do possível, eventuais perturbações da experiência do utilizador ou efeitos de habituação (a chamada «cegueira em relação às faixas»). |
|
(40) |
É provável que uma notificação única e proeminente antes da primeira interação do sistema de IA com uma determinada pessoa singular seja suficiente, na maioria dos casos, para cumprir a obrigação prevista no artigo 50.o, n.o 1, do Regulamento IA. Todavia, em determinados contextos de maior risco, é provável que sejam necessários lembretes periódicos e divulgações sensíveis ao contexto para assegurar a sensibilização contínua dos utilizadores. É o caso, em especial, dos sistemas de IA que interagem com pessoas vulneráveis (por exemplo, crianças, idosos, pessoas com deficiência e pessoas com níveis de literacia mais baixos), das interações sustentadas e em evolução em contextos sensíveis ou imersivos (por exemplo, em que os utilizadores podem expressar ou sentir angústia emocional ou vulnerabilidade, ou ficar em risco de comportamentos semelhantes aos de dependência), das situações em que existe um risco acrescido de os utilizadores serem induzidos em erro (por exemplo, aconselhamento financeiro, seguros, assistência jurídica, aconselhamento em matéria de saúde e tratamento de reclamações), ou de criarem ligações emocionais ou dependências (por exemplo, IA de companhia), bem como das situações em que é necessário assegurar a sensibilização e o controlo sobre as ações dos agentes de IA. Os fornecedores devem também conceber e desenvolver o sistema de IA para assegurar a divulgação em todas as situações em que sejam feitas perguntas ao sistema de IA relacionadas com a sua natureza ou com a origem da interação, ou em que se possa razoavelmente presumir, com base nos intercâmbios com a pessoa singular, que essa pessoa é suscetível de ser induzida em erro ou ficar confusa quanto à origem artificial da interação. |
3.2. Exceções à obrigação de informação nos termos do artigo 50.o, n.o 1, do Regulamento IA
|
(41) |
O artigo 50.o, n.o 1, do Regulamento IA prevê duas exceções à obrigação de informação relativa aos sistemas de IA interativa analisados infra. |
3.2.1. Exceção para uma interação óbvia com um sistema de IA
|
(42) |
Para poderem invocar a primeira exceção, os fornecedores terão de avaliar e demonstrar: i) o caráter artificial óbvio da interação com ii) uma pessoa singular que deve ser razoavelmente informada, atenta e advertida, tendo em conta as circunstâncias e o contexto de utilização. |
|
(43) |
Esta norma baseia-se na legislação estabelecida da UE em matéria de defesa do consumidor no que diz respeito ao conceito de «consumidor médio» e deve ser interpretada de forma coerente, tendo simultaneamente em conta os contextos e as utilizações específicas e variadas dos sistemas de IA que interagem diretamente com pessoas singulares, bem como os objetivos prosseguidos nos termos do artigo 50.o, n.o 1, do Regulamento IA. |
|
(44) |
A conceção de tal pessoa singular «média» compreende duas etapas. Em primeiro lugar, os fornecedores devem ter em conta o público com o qual o sistema de IA se destina a interagir e com o qual é razoavelmente provável que interaja. Em segundo lugar, o fornecedor deve examinar em que medida um membro médio desse público é razoavelmente informado, atento e advertido, tendo em conta as circunstâncias e o contexto de utilização. Ao realizar esta avaliação, devem ser tidos em conta vários fatores:
|
|
(45) |
Obviedade: ao determinarem a pessoa singular hipotética razoavelmente informada, atenta e advertida, os fornecedores devem avaliar se será óbvio para essa pessoa que está a interagir diretamente com um sistema de IA. A exceção deve ser interpretada de forma restritiva, pois priva as pessoas singulares da proteção e do direito a serem informadas, por meio de divulgações claras e percetíveis, de que estão a interagir com sistemas de IA. A sensibilização geral dos consumidores e de outras pessoas singulares para a existência de sistemas de IA (incluindo robôs de conversação e agentes) não implica que os reconheçam em interações. Vários fatores podem ser pertinentes e tidos em conta no âmbito da avaliação para determinar se a interação é óbvia:
|
3.2.2. Exceção para sistemas de IA legalmente autorizados para efeitos de aplicação da lei
|
(46) |
Os fornecedores de sistemas de IA interativa estão isentos da obrigação de transparência nos termos do artigo 50.o, n.o 1, do Regulamento IA se estiverem legalmente autorizados para detetar, prevenir, investigar ou reprimir infrações penais, sob reserva de garantias adequadas dos direitos e liberdades de terceiros. |
|
(47) |
Por «legalmente autorizados» entende-se o direito da União, bem como o direito nacional dos Estados-Membros adotado em conformidade com o direito da União. A legislação que autoriza a utilização do sistema de IA deve especificar claramente as finalidades e as circunstâncias da utilização permitida, bem como prever garantias adequadas para proteger os direitos e liberdades de terceiros. Tendo em conta a abordagem tecnologicamente neutra do Regulamento IA, não é necessário identificar ou autorizar legalmente sistemas de IA específicos nos casos em que a utilização do sistema de IA esteja geralmente prevista no âmbito da atividade legalmente autorizada e cumpra o quadro jurídico aplicável. |
|
(48) |
Para que o sistema de IA seja abrangido por esta exceção, a sua finalidade deve consistir em detetar, prevenir, investigar ou reprimir infrações penais (por exemplo, agente infiltrado de IA, sistemas de IA utilizados sob o controlo humano de investigadores para investigações em linha ou comunicação com pessoas que possam estar envolvidas em atividades criminosas). A exceção não se limita à utilização desses sistemas de IA apenas por autoridades responsáveis pela aplicação da lei, na aceção do artigo 3.o, ponto 48, do Regulamento IA, podendo também abranger sistemas de IA interativa (ou generativa) utilizados por outras autoridades públicas da União ou nacionais, desde que a sua utilização seja legalmente autorizada para detetar, prevenir, investigar ou reprimir infrações penais, e sob reserva de garantias adequadas para proteger os direitos e liberdades de terceiros. A isenção não exige que o sistema de IA seja capaz de realizar as investigações de forma independente. Se o respetivo sistema puder ser utilizado tanto para efeitos de aplicação da lei como para outras finalidades regulares, a aplicabilidade da isenção deve ser avaliada à luz da implantação específica. As obrigações de transparência continuam a aplicar-se quando o mesmo sistema de IA é implantado para outros fins que não a deteção, prevenção, investigação ou repressão legalmente autorizadas de infrações penais. Continua a ser necessário garantir a transparência às pessoas singulares quando interagem com o sistema no contexto dos seus objetivos habituais. |
|
(49) |
A exceção não se aplica se i) o sistema de IA estiver disponível ao público e se ii) o sistema disponibilizar uma funcionalidade às pessoas para denunciarem infrações penais. Esses sistemas podem ser utilizados, mas continuam sujeitos à obrigação de transparência nos termos do artigo 50.o, n.o 1, do Regulamento IA, pelo que as pessoas singulares têm de ser informadas de que estão a interagir com esses sistemas.
Para maior clareza, esta exceção diz apenas respeito à obrigação prevista no artigo 50.o, n.o 1, de informar as pessoas singulares de que estão a interagir com um sistema de IA (22). Não prejudica o direito da União e o direito nacional aplicáveis, incluindo as regras processuais relativas à documentação, à divulgação, à admissibilidade e à avaliação de provas.
|
3.3. Interação com outros atos jurídicos da União
|
(50) |
A obrigação de transparência prevista no artigo 50.o, n.o 1, do Regulamento IA é aplicável sem prejuízo da legislação da União em vigor em matéria de defesa do consumidor, proteção de dados, digital ou não discriminação, que possa exigir outras divulgações de informações não específicas da origem artificial da interação. Em especial, nos termos da Diretiva 2005/29/CE (Diretiva Práticas Comerciais Desleais ou «DPCD») (23), são proibidas ações ou omissões enganosas no que diz respeito às características principais de um produto ou serviço. Além disso, a Diretiva 2011/83/CE («Diretiva Direitos dos Consumidores») (24) exige que os profissionais prestem informações pré-contratuais claras e compreensíveis sobre as principais características dos bens ou serviços. Caso um serviço seja baseado em IA (como um robô de conversação baseado em assinaturas, uma aplicação de IA de companhia ou um serviço de orientação virtual), a funcionalidade de IA pode qualificar-se como uma característica essencial que tem de ser divulgada antes de o consumidor ficar vinculado por um contrato. As obrigações de informação ao abrigo do direito da União em matéria de defesa do consumidor aplicam-se independentemente de a interação ser considerada «óbvia» nos termos do artigo 50.o, n.o 1, do Regulamento IA. Essas obrigações são também complementares das obrigações gerais de informação em matéria de defesa do consumidor, ao passo que a obrigação de notificação ao abrigo do Regulamento IA é mais contextual e visa assegurar a sensibilização contínua de todas as pessoas singulares para uma interação direta com um sistema de IA, pelo menos antes do seu início e ao longo de toda a interação. |
|
(51) |
O RSD inclui igualmente requisitos de transparência para os sistemas de recomendação das plataformas em linha, incluindo a obrigação de explicar os principais parâmetros de classificação. Estas obrigações complementam as obrigações de transparência estabelecidas no artigo 50.o, n.o 1, do Regulamento IA, pois têm um âmbito e uma finalidade diferentes, e dizem respeito a sistemas que, em princípio, não interagem diretamente com os utilizadores na aceção da referida disposição. |
|
(52) |
No que diz respeito às obrigações de informação para com os titulares dos dados ao abrigo do direito da União em matéria de proteção de dados, a obrigação prevista no artigo 50.o, n.o 1, do Regulamento IA cumpre um objetivo diferente dessas obrigações e, como tal, não afeta essas obrigações de informação. |
|
(53) |
Do mesmo modo, a obrigação de transparência prevista no artigo 50.o, n.o 1, do Regulamento IA aplica-se sem prejuízo do direito da União e do direito nacional relativo à prestação de informações a pessoas no contexto de processos penais [por exemplo, a Diretiva 2012/13/UE ou a Diretiva 2012/29/UE, com a redação que lhe foi dada pela Diretiva (UE) 2026/1472] (25). |
4. ARTIGO 50.o, N.o 2, DO REGULAMENTO IA: MARCAÇÃO E DETEÇÃO DE CONTEÚDOS GERADOS OU MANIPULADOS POR IA
|
(54) |
O artigo 50.o, n.o 2, do Regulamento IA exige que os fornecedores de sistemas de IA que geram conteúdos sintéticos apliquem soluções técnicas que cumpram determinados requisitos de qualidade para a marcação legível por máquina e a deteção dos resultados dos seus sistemas de IA. O objetivo consiste em permitir que as pessoas singulares distingam os conteúdos gerados ou manipulados por IA de outros conteúdos (por exemplo, conteúdos criados por seres humanos) e verifiquem a sua origem, contribuindo assim também para uma maior integridade do ecossistema da informação e confiança no mesmo. |
|
(55) |
Por conseguinte, os beneficiários desta obrigação de transparência são todas as pessoas singulares suscetíveis de serem expostas aos conteúdos gerados ou manipulados por IA, bem como os principais intervenientes que desempenham um papel importante para a confiança no ecossistema da informação e a integridade do mesmo, como as autoridades de fiscalização do mercado competentes e outras autoridades competentes, investigadores independentes, organizações da sociedade civil, meios de comunicação social, sinalizadores de confiança, defensores dos direitos fundamentais, fornecedores de plataformas em linha e motores de pesquisa em linha, titulares de direitos e outros criadores e distribuidores de conteúdos, etc. |
4.1. Principais componentes e conceitos constantes do artigo 50.o, n.o 2, do Regulamento IA
|
(56) |
O artigo 50.o, n.o 2, do Regulamento IA é aplicável se estiverem preenchidas várias condições cumulativas:
|
4.1.1. Sistemas de IA que geram ou manipulam conteúdos sintéticos
|
(57) |
O artigo 50.o, n.o 2, do Regulamento IA aplica-se aos sistemas de IA (26), incluindo os sistemas de IA de finalidade geral, que geram conteúdos sintéticos de áudio, imagem, vídeo ou texto. O artigo 50.o, n.o 2, do Regulamento IA abrange um subconjunto de sistemas que correspondem à definição de «sistema de IA» constante do artigo 3.o, ponto 1, do mesmo regulamento e que geram esses resultados. O artigo 50.o, n.o 2, do Regulamento IA abrange igualmente os sistemas de IA utilizados para manipular conteúdos. |
|
(58) |
A geração de conteúdos refere-se à geração de material sintético pelo sistema de IA (por exemplo, com base numa instrução humana), como a geração de uma imagem ou canção sintéticas. Na prática, tal significa que o artigo 50.o, n.o 2, do Regulamento IA pode aplicar-se a sistemas de IA generativa concebidos com uma finalidade prevista restrita para produzir resultados específicos. Ao mesmo tempo, o artigo 50.o, n.o 2, do Regulamento IA também se aplica aos sistemas de IA que podem servir várias finalidades, incluindo sistemas de IA de finalidade geral, e que podem produzir uma variedade de tipos de conteúdos, bem como sistemas de IA agêntica, desde que gerem conteúdos sintéticos de áudio, imagem, vídeo ou texto. |
|
(59) |
Em contrapartida, a manipulação de conteúdos refere-se a conteúdos já existentes (sintéticos ou não) que são alterados por um sistema de IA (por exemplo, uma imagem existente ou uma gravação de voz manipulada por um sistema de IA de acordo com instruções humanas). Para que os conteúdos sejam abrangidos pelo artigo 50.o, n.o 2, do Regulamento IA, basta que sejam gerados ou manipulados por IA para além da edição normalizada, ao abrigo das exceções previstas no artigo 50.o, n.o 2, do referido regulamento (ver a secção 4.3). Além disso, o artigo 50.o, n.o 2, do Regulamento IA não exige que os conteúdos sejam exclusivamente gerados ou manipulados por IA. Os conteúdos combinados com materiais criados por seres humanos também são considerados conteúdos sintéticos se forem manipulados ou gerados numa das modalidades a que se refere o artigo 50.o, n.o 2, do Regulamento IA. |
4.1.2. Modalidades de conteúdos sintéticos abrangidas pelo âmbito de aplicação
|
(60) |
O artigo 50.o, n.o 2, do Regulamento IA estabelece uma lista exaustiva das modalidades de conteúdos sintéticos abrangidos pela obrigação de transparência: áudio, imagem, vídeo ou texto. Tal inclui também conteúdos multimodais, ou seja, conteúdos constituídos por uma combinação destas modalidades. Para efeitos do artigo 50.o, n.o 2, do Regulamento IA, as diferentes modalidades devem ser interpretadas em consonância com a possível evolução prática e tecnológica ao longo do tempo. Por enquanto, devem ser entendidas do seguinte modo:
|
|
(61) |
O âmbito de aplicação do artigo 50.o, n.o 2, do Regulamento IA abrange os sistemas de IA que geram ou manipulam imagens 3D, vídeos 3D e áudio 3D, bem como realidade virtual, aumentada ou mista. O conceito de «realidade virtual» abrange as tecnologias de IA que permitem aos utilizadores experienciar um ambiente gerado por computador, bem como interagir com o mesmo, simulando a presença física, e que permitem a interação dos utilizadores em tempo real com esse ambiente. Como a realidade virtual e aumentada é constituída por uma sequência temporal de imagens, opcionalmente sincronizada com áudio, que representa uma mudança visual ao longo do tempo, pode ser considerada como sendo conteúdos de «vídeo». O «resultado» pertinente a assinalar é a forma final do ativo individual gerado por IA, com exceções especiais para as sessões interativas efémeras em tempo real referidas no n.o 88 infra. Os artefactos digitais utilizados para gerar conteúdos de imagens 3D, vídeos 3D e áudio 3D, como uma nuvem de pontos ou uma malha 3D, não têm de ser marcados. |
|
(62) |
O âmbito de aplicação do artigo 50.o, n.o 2, do Regulamento IA também abrange gémeos digitais que proporcionam uma réplica virtual de pessoas, objetos físicos ou sistemas, integrando vários tipos de dados, se forem gerados ou manipulados por IA e assumirem a forma de áudio, imagem, vídeo ou texto, a menos que sejam abrangidos pelas exceções e se qualifiquem como «aplicações industriais» ou «aplicações empresa a empresa» nos termos do n.o 87 infra, ou como conteúdos efémeros em tempo real nos termos do n.o 88 infra. |
|
(63) |
O artigo 50.o, n.o 2, do Regulamento IA também pode aplicar-se a agentes de IA, se o resultado de uma ação do agente de IA consistir em conteúdos gerados ou manipulados por IA, percetíveis por pessoas singulares sob a forma de áudio, imagem, vídeo ou texto. Por conseguinte, esses resultados devem ser marcados e detetáveis conforme descrito infra. Em contrapartida, as ações de um agente de IA que não incluam conteúdos gerados ou manipulados por IA (por exemplo, etapas intermédias de tratamento, como o raciocínio e a cadeia de pensamento), ou ações geradas por IA que não se destinem a ser diretamente percecionadas por pessoas singulares (por exemplo, um pedido na Web ou uma ação do navegador), não são consideradas conteúdos sintéticos abrangidos pelo âmbito de aplicação do artigo 50.o, n.o 2, do Regulamento IA e não têm de cumprir as obrigações de marcação e deteção. |
4.1.3. Conteúdos não abrangidos pelo âmbito de aplicação do artigo 50.o, n.o 2, do Regulamento IA
|
(64) |
O âmbito de aplicação do artigo 50.o, n.o 2, do Regulamento IA não abrange conteúdos gerados por um sistema de IA baseado num simples tratamento de dados, que não sejam especificamente gerados ou manipulados por IA, por exemplo, um quadro renderizado. |
|
(65) |
Além disso, o artigo 50.o, n.o 2, do Regulamento IA não abrange resultados de um sistema de IA que se limitem a reproduzir conteúdos existentes, ou permitam a apresentação ou a disposição de conteúdos já existentes. Pode ser o caso, por exemplo, de listas de reprodução de música ou de outros sistemas de recomendação que apenas selecionam ou ordenam conteúdos existentes com base nas preferências ou na atividade do utilizador, sem criar algo novo ou manipular os próprios conteúdos. O mesmo se aplica a sistemas de IA utilizados em processos analíticos internos que extraem e estruturam dados, mas que não os resumem. |
|
(66) |
O mesmo também é aplicável a dados de entrada e de saída de um sistema de IA que constituam meras observações e gravações de dados provenientes de ambientes físicos ou virtuais, que não sejam gerados ou manipulados por IA (por exemplo, por robôs ou outros sensores baseados em IA), ou transmissões de dados por sistemas de IA sem qualquer alteração. Tal abrange uma variedade de dados de entrada e saída de sistemas de IA, em especial em contextos industriais, como dados de fabrico para robôs que recolhem dados; dados de consumo registados por contadores inteligentes baseados em IA, medições da frequência e da tensão da rede; e registos de dados de localização GPS de veículos, etc. |
|
(67) |
Além disso, como o objetivo da obrigação de transparência prevista no artigo 50.o, n.o 2, do Regulamento IA consiste em permitir que os seres humanos distingam conteúdos gerados ou manipulados por IA, a fim de fazer face aos riscos de dissimulação e manipulação, bem como para assegurar a integridade do ecossistema da informação e a confiança no mesmo, esta disposição não visa conteúdos que não estejam relacionados com esse objetivo e que não sejam percetíveis ou não se destinem a ser interpretados, verificados ou utilizados por parte de pessoas singulares. |
|
(68) |
Em especial, deve considerar-se que o âmbito de aplicação do artigo 50.o, n.o 2, do Regulamento IA não abrange os seguintes conteúdos:
|
4.2. Obrigação de marcação e deteção prevista no artigo 50.o, n.o 2, do Regulamento IA
|
(69) |
O artigo 50.o, n.o 2, do Regulamento IA estabelece uma obrigação de transparência para os fornecedores de sistemas de IA generativa abrangidos pelo âmbito de aplicação dessa disposição, que inclui dois elementos distintos, mas intrinsecamente interligados. Em primeiro lugar, os fornecedores devem assegurar que os resultados do sistema de IA são marcados num formato legível por máquina. Em segundo lugar, os fornecedores devem assegurar que os resultados são detetáveis como conteúdos artificialmente gerados ou manipulados. Para cada solução de marcação implantada, os fornecedores devem assegurar a disponibilidade de meios de deteção correspondentes (conforme descrito infra), a fim de permitir que as pessoas singulares expostas aos conteúdos e outros intervenientes pertinentes identifiquem e distingam os conteúdos gerados artificialmente pelo sistema de IA de outros conteúdos. Deve entender-se por «solução técnica» uma combinação de técnicas de marcação e meios de deteção que o fornecedor tenha aplicado a fim de cumprir a obrigação de transparência prevista no artigo 50.o, n.o 2, do Regulamento IA. |
|
(70) |
Ambos os elementos referidos supra devem ser cumpridos para alcançar eficazmente os objetivos das obrigações de transparência previstas no artigo 50.o, n.o 2, do Regulamento IA. Cumprir apenas um elemento (por exemplo, para a marcação legível por máquina dos resultados sem que estejam disponíveis meios para a sua deteção) não será suficiente para efeitos de conformidade com essa disposição (27). |
4.2.1. Obrigação de marcação
|
(71) |
O âmbito de aplicação da obrigação de marcação limita-se à aplicação de marcas num formato legível por máquina. Por «formato legível por máquina» entende-se marcas que são estruturadas de modo a permitir que as aplicações informáticas as identifiquem, reconheçam e extraiam facilmente sem intervenção humana. As marcas e os rótulos percetíveis não são excluídos como medida complementar, se for caso disso, com vista a facilitar o cumprimento, pelos responsáveis pela implantação, da sua obrigação de rotular falsificações profundas por força do artigo 50.o, n.o 4, do Regulamento IA. |
|
(72) |
A fim de cumprir a obrigação de marcação, os fornecedores podem recorrer a uma única técnica de marcação ou a uma combinação de técnicas, desde que a sua solução técnica global seja legível por máquina e cumpra os requisitos de eficácia, interoperabilidade, solidez e fiabilidade com o grau legalmente exigido, conforme previsto no artigo 50.o, n.o 2, segunda frase, do Regulamento IA (ver a secção 4.2.3 infra). |
|
(73) |
O considerando 133 do Regulamento IA apresenta exemplos dessas técnicas, que incluem marcas de água, identificações de metadados, métodos criptográficos para comprovar a proveniência e autenticidade do conteúdo, métodos de registo, impressões digitais ou outras técnicas, bem como uma combinação dessas técnicas. Embora os métodos para comprovar a proveniência e autenticidade sejam mencionados no considerando 133 do Regulamento IA, os fornecedores não são obrigados a registar ou manter uma cadeia de proveniência completa que inclua informações sobre a origem e as modificações dos conteúdos ou qualquer outra afirmação pertinente relativa ao historial dos conteúdos. Todavia, esses métodos de proveniência também podem ser utilizados para cumprir o disposto no artigo 50.o, n.o 2, do Regulamento IA e permitir que as pessoas singulares distingam conteúdos gerados ou manipulados por IA de conteúdos autênticos. |
|
(74) |
Os fornecedores podem aplicar a solução de marcação para os resultados em diferentes fases da cadeia de valor (por exemplo, post hoc, após a geração de conteúdos ao nível do sistema de IA, ao nível do modelo de IA subjacente ou integrado no processo de inferência do sistema de IA). Podem recorrer à solução de marcação aplicada por um fornecedor de modelos a montante ou por um terceiro que disponibilize a solução (por exemplo, como uma norma aberta ou um serviço especializado), na medida em que a solução de marcação esteja em conformidade com o artigo 50.o, n.o 2, do Regulamento IA. Esse recurso não prejudica a responsabilidade do fornecedor do sistema de IA de demonstrar a conformidade com o artigo 50.o, n.o 2, do Regulamento IA. |
4.2.2. Obrigação de deteção
|
(75) |
Os fornecedores de sistemas de IA abrangidos pelo âmbito de aplicação do artigo 50.o, n.o 2, do Regulamento IA devem assegurar que os resultados dos seus sistemas são detetáveis como conteúdos gerados ou manipulados por IA, o que significa que o fornecedor é obrigado a assegurar que as pessoas potencialmente expostas aos conteúdos têm meios de deteção à sua disposição. Além disso, nos termos do artigo 50.o, n.o 5, do Regulamento IA, essas soluções de deteção devem poder produzir resultados legíveis por seres humanos que indiquem se os conteúdos foram gerados ou manipulados por IA. |
|
(76) |
Uma ferramenta de deteção é um mecanismo que deteta se os conteúdos foram gerados ou manipulados por IA, normalmente identificando marcadores técnicos ou assinaturas que verificam a sua origem. A fim de assegurar a plena interoperabilidade, os fornecedores devem recorrer a soluções de deteção normalizadas do setor acessíveis ao público que permitam a terceiros implementar uma deteção que, idealmente, seja executável localmente no dispositivo digital e permita a integração sem descontinuidades em redes autónomas e isoladas. Caso essas normas não estejam disponíveis, em especial na fase inicial de aplicação do artigo 50.o, n.o 2, do Regulamento IA no que se refere a tecnologias de marca de água, o fornecedor pode recorrer à sua própria solução de deteção, ou a um terceiro, ou a uma solução de deteção partilhada, desde que essas soluções assegurem a interoperabilidade com as soluções de deteção que outros fornecedores utilizam (ver a secção 4.2.3). Essa possibilidade deve ser limitada no tempo até surgirem normas harmonizadas e uma solução de deteção interoperável normalizada que não seja dependente de um fornecedor, que seja segura, respeite a privacidade e possa ser executada localmente. |
|
(77) |
O artigo 50.o, n.o 5, do Regulamento IA especifica ainda que as informações a que se refere o artigo 50.o, n.o 2, do mesmo regulamento devem ser prestadas às pessoas singulares expostas aos conteúdos de forma clara e percetível o mais tardar aquando da primeira interação ou exposição. Estas informações são, nomeadamente, o resultado da deteção, que indica se os conteúdos são gerados ou manipulados por IA, e não os próprios conteúdos gerados ou manipulados por IA. Deve entender-se por «aquando da primeira exposição» o momento em que as pessoas singulares estão dispostas a verificar a origem de um conteúdo específico e a aceder à solução de deteção para obter os resultados da deteção. |
|
(78) |
Se o fornecedor do sistema de IA depender de outro interveniente para a disponibilização de uma solução de deteção, ou para o acesso à mesma, deve assegurar que a solução de deteção cumpre o disposto no artigo 50.o, n.os 2 e 5, do Regulamento IA e que esses intervenientes exibam os resultados da deteção em conformidade com o artigo 50.o, n.o 5, do mesmo regulamento (ver a secção 7). |
4.2.3. Conformidade com os requisitos aplicáveis às soluções técnicas: eficazes, interoperáveis, sólidas e fiáveis
|
(79) |
O artigo 50.o, n.o 2, segunda frase, do Regulamento IA prevê que as soluções técnicas de marcação e deteção devem ser eficazes, interoperáveis, sólidas e fiáveis. Deve entender-se estes requisitos do seguinte modo:
|
|
(80) |
Os fornecedores devem assegurar que a combinação das soluções técnicas de marcação e deteção cumpre, de forma holística, todos os requisitos referidos supra ao nível legalmente exigido, tendo em conta as limitações e as complementaridades das várias soluções utilizadas. As soluções técnicas têm de cumprir todos os requisitos, na medida em que tal seja tecnicamente viável, tendo em conta as especificidades e limitações dos vários tipos de conteúdos, os custos de aplicação e o estado da arte geralmente reconhecido, tal como estiver refletido em normas técnicas pertinentes. |
|
(81) |
As soluções «tecnicamente viáveis», na aceção do artigo 50.o, n.o 2, do Regulamento IA, são soluções que podem ser aplicadas às modalidades abrangidas pelo âmbito de aplicação da disposição, utilizando tecnologia, métodos e práticas de engenharia atualmente disponíveis, no âmbito da arquitetura técnica específica e do ambiente operacional em causa. O fornecedor não é obrigado a utilizar uma solução técnica que ainda não esteja desenvolvida ou disponível no mercado, ou cuja aplicação seja tecnicamente inviável. A viabilidade técnica é um conceito objetivo que não depende dos recursos e capacidades específicos de cada fornecedor. |
|
(82) |
O artigo 50.o, n.o 2, do Regulamento IA exige que os fornecedores apliquem uma ou várias soluções tecnicamente viáveis que estejam em consonância com o estado da arte geralmente reconhecido, a fim de cumprir os quatro requisitos de qualidade, isto é, eficácia, solidez, fiabilidade e interoperabilidade. |
|
(83) |
Deve entender-se por «estado da arte» uma fase de desenvolvimento da capacidade técnica num dado momento no que diz respeito a produtos, processos e serviços, com base em dados consolidados relevantes da ciência, da tecnologia e da experiência, e que é aceite como boa prática tecnológica (28). O estado da arte não implica necessariamente a investigação científica mais recente ainda em fase experimental ou com um nível insuficiente de maturidade tecnológica. Os fornecedores devem adaptar continuamente as suas soluções de marcação e deteção de forma atempada e proporcionada, à medida que a tecnologia e o estado da arte evoluem. |
|
(84) |
À luz do artigo 50.o, n.o 7, do Regulamento IA, os fornecedores podem recorrer a um código de práticas, avaliado como sendo adequado nos termos dessa disposição para demonstrar o cumprimento das obrigações de marcação e deteção previstas no artigo 50.o, n.os 2 e 5, do Regulamento IA, que esteja alinhado com o estado da arte. Para mais informações sobre os efeitos da adesão a esse código e a supervisão de outros fornecedores que não aderem a um código, ver a secção 8.1 infra. |
|
(85) |
Também podem ser tidos em conta os custos de aplicação de determinadas soluções técnicas de marcação e deteção. Em determinados casos, conforme descrito nos números seguintes, os custos podem ser desproporcionados em relação aos ganhos marginais, com valor mais limitado para permitir aos seres humanos distinguir os conteúdos gerados ou manipulados por IA e garantir a integridade do ecossistema da informação e a confiança no mesmo. |
|
(86) |
Por conseguinte, podem existir casos estritamente definidos em que uma solução técnica baseada em marcações de metadados menos sólidas seja suficiente para efeitos de cumprimento do artigo 50.o, n.o 2, do Regulamento IA, tendo em conta as especificidades dos resultados do sistema de IA, se estes representarem riscos intrinsecamente inferiores de dissimulação e manipulação, ou efeitos negativos para o ecossistema da informação. É o que acontece especificamente quando um sistema de IA generativa está incorporado em produtos físicos que geram resultados num ambiente tecnicamente controlado e fechado que é sobretudo de natureza instrutiva (por exemplo, um sistema de IA incorporado em sistemas de navegação em veículos), na medida em que sejam incorporadas no produto medidas técnicas eficazes para evitar que o resultado saia do ambiente do produto, por exemplo, ao ser capturado ou exportado e divulgado externamente. |
|
(87) |
Podem também existir casos limitados de «aplicações de IA industriais» ou de «aplicações empresa a empresa» (excluindo sistemas de IA públicos e orientados para os consumidores) em que o princípio da proporcionalidade e os benefícios limitados para os objetivos de transparência significam que não é necessária qualquer marcação e deteção de resultados gerados ou manipulados por IA. Tal só se aplica se forem cumpridos cumulativamente os seguintes requisitos:
|
|
(88) |
A geração de conteúdos em tempo real efémeros e consumidos imediatamente, sem serem registados, armazenados ou divulgados em maior escala (por exemplo, em jogos de vídeo, aplicações de realidade virtual), também pode ficar isenta se a marcação não for tecnicamente viável e as pessoas expostas aos conteúdos forem informadas de que os conteúdos são gerados ou manipulados por IA (por exemplo, divulgação na experiência, notificações ao nível das sessões). |
4.3. Exceções às obrigações previstas no artigo 50.o, n.o 2, do Regulamento IA
|
(89) |
O artigo 50.o, n.o 2, do Regulamento IA prevê três exceções explícitas às obrigações de transparência estabelecidas nessa disposição. |
|
(90) |
A primeira exceção diz respeito aos sistemas de IA na medida em que desempenhem uma função de apoio à edição normalizada. Deve entender-se por «edição normalizada» o processo de preparação de conteúdos existentes para publicação ou distribuição (por exemplo, pequenas alterações para melhorar a legibilidade e a gramática, a qualidade e o formato), não implicando a geração de novos conteúdos. A edição normalizada visa assegurar que os conteúdos estão, nomeadamente, isentos de erros linguísticos técnicos ou gramaticais óbvios, estão alinhados com os requisitos aplicáveis em matéria de configuração, apresentação, formatação ou acessibilidade, ou em conformidade com as práticas setoriais. A edição vai além da edição normalizada se os conteúdos forem alterados de uma forma material (modificações substanciais, alterações estruturais, etc.) que afete o seu significado, estilo ou intenção. |
|
(91) |
A segunda exceção aplica-se quando um sistema de IA não altera substancialmente os dados de entrada apresentados pelo responsável pela implantação nem a semântica dos mesmos. Deve considerar-se que uma alteração é substancial se os dados de entrada ou a sua semântica tiverem sido significativamente manipulados pelo sistema de IA durante o seu processo de geração de resultados, o que deve basear-se numa avaliação de fatores pertinentes, como o formato, o tipo dos conteúdos multimédia, o estilo e as alterações dos conteúdos que afetam o seu significado, estilo ou intenção. Para saber se é esse o caso, é necessária uma apreciação específica de cada situação. |
|
(92) |
Se for possível utilizar um sistema de IA tanto para a geração ou manipulação de conteúdos como para alterações menores não substanciais de dados de entrada, a obrigação de transparência prevista no artigo 50.o, n.o 2, do Regulamento IA não se aplicará aos conteúdos alterados de forma menor e não substancial.
|
|
(93) |
A terceira exceção aplica-se a sistemas de IA generativa legalmente autorizados a gerar ou manipular conteúdos sintéticos para detetar, prevenir, investigar ou reprimir infrações penais. Os esclarecimentos apresentados nos n.os 46 a 48 supra para esta exceção são igualmente pertinentes neste caso. |
4.4. Interação com outros atos jurídicos da União
|
(94) |
As obrigações de marcação e deteção previstas no artigo 50.o, n.o 2, do Regulamento IA centram-se na forma como os conteúdos foram criados e na sua origem artificial, e não em quem os criou. Por conseguinte, quaisquer soluções de marcação e deteção utilizadas por fornecedores de sistemas de IA devem estar em conformidade com o direito da União aplicável em matéria de proteção de dados, incluindo os princípios e obrigações no domínio da proteção de dados, como a obrigação de proteção de dados desde a conceção e por defeito, a minimização de dados e os princípios de segurança e confidencialidade. Por exemplo, para efeitos de marcação e deteção, as informações relacionadas com o criador dos conteúdos não devem ser tratadas e quaisquer outros dados pessoais tratados devem ser apagados assim que a finalidade da deteção for cumprida, a segurança e a confidencialidade devem ser garantidas, etc. |
|
(95) |
O considerando 136 do Regulamento IA salienta ainda a especial pertinência das obrigações de transparência previstas no artigo 50.o, n.os 1, 2 e 4, do mesmo regulamento para facilitar a aplicação efetiva do RSD. Tal aplica-se, em especial, às obrigações dos fornecedores de plataformas em linha de muito grande dimensão ou de motores de pesquisa em linha de muito grande dimensão que consistem em identificar, analisar, avaliar e atenuar diligentemente os riscos sistémicos que possam resultar da divulgação de conteúdos artificialmente gerados ou manipulados, em especial o risco de efeitos negativos reais ou previsíveis nos processos democráticos, no debate público e nos processos eleitorais, nomeadamente através da desinformação (artigos 34.o e 35.o do RSD). As marcas legíveis por máquina podem permitir a esses fornecedores detetar conteúdos gerados ou manipulados por IA e disponibilizar rótulos e divulgações adequados, reduzindo assim o risco de desinformação gerada por IA nos seus serviços. |
|
(96) |
As obrigações de marcação e rotulagem de conteúdos gerados ou manipulados por sistemas de IA previstas no artigo 50.o, n.os 2 e 4, do Regulamento IA não prejudicam a obrigação prevista no artigo 16.o, n.o 6, do RSD de os prestadores de serviços de alojamento virtual procederem ao tratamento de notificações sobre conteúdos ilegais recebidas nos termos do artigo 16.o, n.o 1, do RSD (29). Em especial, a marcação ou rotulagem aplicada a conteúdos gerados ou manipulados por IA não deve influenciar a avaliação e a decisão sobre a ilegalidade dos conteúdos específicos ao abrigo de outros quadros regulamentares. Essa avaliação deverá ser efetuada exclusivamente com referência às regras que regem a legalidade dos conteúdos em conformidade com esses quadros (30). Por exemplo, se uma imagem rotulada como falsificação profunda for assinalada como sendo potencialmente material com imagens de abusos sexuais de crianças ou violar a legislação em matéria de marcas ou direitos de autor, a aplicação de um rótulo não afeta a potencial ilegalidade dos conteúdos ao abrigo desses quadros regulamentares. Essa avaliação deve ser realizada exclusivamente com base na respetiva legislação aplicável (por exemplo, o direito penal, as regras em matéria de marcas ou de direitos de autor). |
|
(97) |
Em contrapartida, a marcação legível por máquina incorporada nos conteúdos nos termos do artigo 50.o, n.o 2, do Regulamento IA pode ajudar os fornecedores de plataformas em linha de muito grande dimensão e de motores de pesquisa em linha de muito grande dimensão a cumprirem as obrigações que lhes incumbem por força dos artigos 34.o e 35.o do RSD que consistem em identificar, analisar e avaliar os riscos sistémicos que possam resultar da divulgação de conteúdos artificialmente gerados ou manipulados, em especial o risco de efeitos negativos reais ou previsíveis nos processos democráticos, no debate público e nos processos eleitorais, nomeadamente através da desinformação (31), e em adotar medidas razoáveis, proporcionadas e eficazes para atenuar esses riscos, adaptadas aos riscos sistémicos específicos identificados. Os fornecedores de plataformas em linha de muito grande dimensão e de motores de pesquisa em linha de muito grande dimensão também podem ser considerados fornecedores de sistemas de IA se cumprirem as condições pertinentes previstas no Regulamento IA, caso integrem sistemas de IA nos seus serviços (ver também a secção 6.1.5). |
|
(98) |
Os fornecedores de plataformas em linha, motores de pesquisa em linha e outros intervenientes pertinentes que distribuem conteúdos ao longo da cadeia de valor são especialmente incentivados a preservar e permitir a identificação das marcas aplicadas pelos fornecedores nos termos do artigo 50.o, n.o 2, do Regulamento IA, de modo que as pessoas singulares expostas aos conteúdos possam ser informadas sobre a sua origem. |
5. ARTIGO 50.o, N.o 3, DO REGULAMENTO IA: SISTEMAS DE RECONHECIMENTO DE EMOÇÕES E SISTEMAS DE CATEGORIZAÇÃO BIOMÉTRICA
|
(99) |
O artigo 50.o, n.o 3, do Regulamento IA impõe aos responsáveis pela implantação de sistemas de reconhecimento de emoções e de sistemas de categorização biométrica a obrigação de informarem as pessoas singulares expostas a esses sistemas sobre o funcionamento dos mesmos. |
|
(100) |
O considerando 132 do Regulamento IA explica que a finalidade dessa obrigação consiste em assegurar que as pessoas singulares (incluindo as pessoas com deficiência) estejam cientes de que estão expostas a sistemas de reconhecimento de emoções e de categorização biométrica que podem ser intrusivos para a sua privacidade. Por conseguinte, a obrigação aplica-se independentemente de as pessoas estarem expostas a esses sistemas em tempo real ou de esses sistemas serem operados ex post. |
5.1. Principais componentes e conceitos, e obrigações de transparência conexas nos termos do artigo 50.o, n.o 3, do Regulamento IA
5.1.1. Conceito de «sistema de reconhecimento de emoções»
|
(101) |
O artigo 3.o, ponto 39, do Regulamento IA define «sistema de reconhecimento de emoções» como «um sistema de IA concebido para identificar ou inferir emoções ou intenções de pessoas singulares com base nos seus dados biométricos». A explicação pormenorizada deste conceito apresentada nas orientações da Comissão sobre a classificação dos sistemas de IA de risco elevado, incluindo os exemplos práticos constantes das mesmas, é igualmente pertinente no contexto do artigo 50.o, n.o 3, do Regulamento IA. |
|
(102) |
Uma vez que todos os sistemas de reconhecimento de emoções também são classificados como sendo de risco elevado, a menos que sejam proibidos nos termos do artigo 5.o, n.o 1, alínea f), do Regulamento IA no local de trabalho e nas instituições de ensino, a obrigação de transparência prevista no artigo 50.o, n.o 3, do mesmo regulamento deve aplicar-se em conjugação com as outras garantias e requisitos aplicáveis aos sistemas de IA de risco elevado. |
5.1.2. Conceito de «sistema de categorização biométrica»
|
(103) |
O artigo 3.o, ponto 40, do Regulamento IA define um «sistema de categorização biométrica» como «um sistema de IA destinado a afetar pessoas singulares a categorias específicas com base nos seus dados biométricos, a menos que seja acessório a outro serviço comercial e estritamente necessário por razões técnicas objetivas». A explicação pormenorizada deste conceito apresentada nas orientações da Comissão sobre a classificação dos sistemas de IA de risco elevado, incluindo os respetivos elementos específicos e os exemplos práticos constantes das mesmas, é igualmente pertinente no contexto do artigo 50.o, n.o 3, do Regulamento IA. |
|
(104) |
Mais importante ainda, a menos que seja proibido nos termos do artigo 5.o, n.o 1, alínea g), do Regulamento IA, o artigo 50.o, n.o 3, desse regulamento é aplicável a todos os sistemas de categorização biométrica (por exemplo, classificação etária ou de género baseada em dados biométricos), independentemente de serem ou não abrangidos pelo âmbito de aplicação do conceito de «sistemas de IA de risco elevado» ao abrigo do Regulamento IA. |
5.1.3. Obrigação de informação nos termos do artigo 50.o, n.o 3, do Regulamento IA
|
(105) |
Âmbito das informações a prestar: os responsáveis pela implantação são obrigados a informar as pessoas singulares em causa de que estão expostas a um sistema de reconhecimento de emoções ou a um sistema de categorização biométrica em funcionamento. O Regulamento IA não exige que sejam incluídas informações sobre os motivos para o funcionamento do sistema, ou sobre se o sistema também trata informações para outros fins que não o reconhecimento de emoções ou a categorização biométrica, que devem ser divulgadas ao abrigo do direito da União em matéria de proteção de dados (ver a secção 5.3). |
|
(106) |
Destinatários das informações: o artigo 50.o, n.o 3, do Regulamento IA exige que os responsáveis pela implantação informem todas as pessoas singulares expostas ao funcionamento do sistema de IA, incluindo as crianças. |
|
(107) |
Meios de prestação de informações: o regulamento IA não prescreve um meio específico para prestar as informações, com a exceção do facto de o artigo 50.o, n.o 5, do referido regulamento exigir que as informações sejam prestadas de forma clara e percetível, e em conformidade com os requisitos de acessibilidade aplicáveis (respondendo às necessidades das pessoas singulares com deficiência). A forma como as pessoas singulares expostas ao sistema devem ser informadas pode depender do local de implantação (por exemplo, plataforma de jogo virtual, loja física, estação ferroviária), dos possíveis destinatários (por exemplo, crianças, idosos, pessoas com deficiência, clientes), da duração e do tipo de exposição (por exemplo, a longo prazo, pontual, contínua, intermitente) e da eventual existência de uma relação entre o responsável pela implantação e as pessoas expostas (por exemplo, se existir um canal de comunicação com a pessoa singular). Consoante o caso de utilização, as informações podem ser prestadas por escrito, através de ícones normalizados (também quando apresentadas por via eletrónica), oralmente ou com recurso a combinações dessas formas.
|
|
(108) |
Calendário para a prestação das informações: as informações devem ser prestadas, o mais tardar, no momento da primeira interação com o sistema de IA ou exposição ao mesmo, em conformidade com o artigo 50.o, n.o 5, do Regulamento IA. Se for caso disso, não está excluída a prestação prévia das informações exigidas. |
5.2. Exceção para efeitos de aplicação da lei
|
(109) |
A obrigação de informação não se aplica a sistemas de reconhecimento de emoções nem a sistemas de categorização biométrica legalmente autorizados para detetar, prevenir ou investigar infrações penais, sob reserva de garantias adequadas dos direitos e liberdades de terceiros, e nos termos do direito da União. Os esclarecimentos prestados relativamente a esta exceção nos n.os 46 a 48 supra são igualmente relevantes neste caso, com uma diferença. Embora as outras exceções previstas no artigo 50.o do Regulamento IA exijam que uma lei explícita autorize a utilização não transparente dos sistemas de IA, o artigo 50.o, n.o 3, do referido regulamento possibilita essa utilização, quando permitida ao abrigo das regras jurídicas que regem os poderes das autoridades responsáveis pela aplicação da lei para recorrer a sistemas de reconhecimento de emoções e de categorização biométrica, a fim de detetar, prevenir ou investigar infrações penais sem informar as pessoas em causa, sob reserva de garantias adequadas. |
5.3. Interação com outros atos jurídicos da União
|
(110) |
A obrigação de informação prevista no artigo 50.o, n.o 3, do Regulamento IA não torna, por si só, lícita a utilização de um sistema de reconhecimento de emoções e de categorização biométrica. Também não legitima utilizações intrusivas ou discriminatórias que possam ser ilegais e proibidas nos termos do artigo 5.o do Regulamento IA ou de outros atos legislativos da União. Os responsáveis pela implantação têm de cumprir a obrigação de informação prevista no artigo 50.o, n.o 3, do Regulamento IA, para além de quaisquer requisitos de informação aplicáveis ao abrigo do direito da União em matéria de proteção de dados. Em determinados casos, os responsáveis pela implantação podem ponderar acrescentar notificações nos termos do artigo 50.o, n.o 3, do Regulamento IA às informações prestadas aos titulares dos dados ao abrigo do direito da União em matéria de proteção de dados. |
6. ARTIGO 50.o, N.o 4: ROTULAGEM DE FALSIFICAÇÕES PROFUNDAS E DE DETERMINADAS PUBLICAÇÕES DE TEXTO
|
(111) |
O artigo 50.o, n.o 4, do Regulamento IA estabelece duas obrigações distintas dirigidas aos responsáveis pela implantação de sistemas de IA generativa que exigem divulgações claras e percetíveis de i) falsificações profundas e ii) textos gerados ou manipulados por IA publicados com o objetivo de informar o público sobre questões de interesse público, exceto em casos definidos. Estas obrigações de rotulagem aplicam-se em complemento e sem prejuízo das obrigações de marcação legível por máquina e deteção nos termos do artigo 50.o, n.o 2, do Regulamento IA aplicáveis aos fornecedores de sistemas de IA que geram ou manipulam conteúdos sintéticos de imagem, vídeo, áudio ou texto. |
6.1. Principais componentes e conceitos, e obrigações de transparência conexas aplicáveis a falsificações profundas nos termos do artigo 50.o, n.o 4, do Regulamento IA
|
(112) |
O artigo 50.o, n.o 4, primeiro parágrafo, do Regulamento IA é aplicável se estiverem preenchidas várias condições:
|
6.1.1. Conceito de «falsificação profunda»
|
(113) |
O artigo 3.o, ponto 60, do Regulamento IA define «falsificações profundas» como «conteúdos de imagem, áudio ou vídeo gerados ou manipulados por IA, que sejam semelhantes a pessoas, objetos, locais, entidades ou acontecimentos reais, e que possam levar uma pessoa a crer, erroneamente, que são autênticos ou verdadeiros». A diferença entre «manipulação» e «geração» foi clarificada na secção 4.1 supra. A fim de clarificar o conceito de «falsificações profundas», são examinados infra quatro critérios cumulativos decorrentes dessa definição: i) semelhança a ii) pessoas, objetos, locais, entidades ou acontecimentos iii) reais iv) que possam levar uma pessoa a crer, erroneamente, que são autênticos ou verdadeiros.
|
|
(114) |
A questão de saber se os conteúdos levam «uma pessoa a crer, erroneamente, que são autênticos ou verdadeiros» deve ser avaliada como um todo, tendo em conta o nível de semelhança, a potencial mensagem substantiva dos conteúdos, os contextos de implantação previstos e previsíveis, o ambiente em que os conteúdos são apresentados e a composição do público prevista e razoavelmente previsível, bem como as suas expectativas. Todavia, esta avaliação é objetiva e, para que os conteúdos constituam uma falsificação profunda, não exige que o responsável pela implantação tenha a intenção de enganar ou induzir em erro as pessoas singulares expostas aos mesmos. No que diz respeito ao contexto de implantação e às expectativas do público, tal significa que, se os conteúdos forem utilizados em contextos de implantação específicos nos quais o público previsto e razoavelmente previsível não espera que sejam autênticos ou verdadeiros, esses conteúdos gerados ou manipulados por IA podem não levar uma pessoa a crer, erroneamente, que são autênticos ou verdadeiros, mesmo que, de facto, não sejam autênticos ou verdadeiros. Nesses casos, o quarto critério da definição de falsificação profunda não estará preenchido. Por exemplo, a geração ou a manipulação realizadas por IA de cenas de fundo, efeitos especiais ou pré-tratamento e pós-tratamento técnico no âmbito de processos normalizados de produção de filmes não são suscetíveis de levar o público a crer, erroneamente, que os conteúdos são autênticos ou verdadeiros. Em contrapartida, é provável que a utilização da IA para gerar ou manipular elementos essenciais que afetam a perceção do público o faça (como atores inteiramente gerados por IA, réplicas digitais de atores vivos ou falecidos, rejuvenescimento, atuações simuladas, incluindo partes das mesmas, ou representação não autêntica ou não verdadeira de pessoas, objetos, locais ou acontecimentos em documentários). No que diz respeito a conteúdos de imagem e vídeo, reconhece-se que um elevado grau de fotorrealismo aumenta a probabilidade de esses conteúdos serem considerados falsificações profundas (uma vez que, provavelmente, são semelhantes a elementos reais), mas o fotorrealismo, por si só, não é determinante para a avaliação. O que deve ainda ser avaliado é se esses conteúdos são suscetíveis de enganar ou induzir uma pessoa em erro quanto à autenticidade ou veracidade dos conteúdos, tendo simultaneamente em conta, entre outros aspetos, o contexto previsto e previsível de implantação. |
|
(115) |
Ao contrário do artigo 50.o, n.o 1, do Regulamento IA, a avaliação do facto de os conteúdos levarem uma pessoa a crer, erroneamente, que são autênticos ou verdadeiros não deve basear-se numa pessoa «média» hipotética que se prevê estar exposta aos conteúdos (ver a secção 3.2.1), mas deve ter devidamente em conta a possível composição diversificada do público razoavelmente previsível que pode estar exposto aos conteúdos de falsificação profunda. A devida consideração da composição do público é especialmente importante se for razoavelmente previsível que os conteúdos de falsificação profunda possam, em algum momento, ser percecionados por crianças, idosos ou outros grupos de pessoas com níveis mais baixos de literacia digital e no domínio da IA ou de conhecimento geral, uma vez que podem ser mais facilmente enganados ou induzidos em erro quanto à autenticidade ou veracidade dos conteúdos. Nesses casos, o facto de os conteúdos levarem essa parte do público previsível a crer, erroneamente, que são autênticos ou verdadeiros pode ser suficiente para os qualificar como falsificação profunda. Todavia, não se espera que os responsáveis pela implantação ponderem uma maior divulgação dos conteúdos de falsificação profunda por terceiros para além do público que seja razoavelmente previsível para esse responsável pela implantação, tendo em conta os canais de distribuição previstos (por exemplo, se os conteúdos de falsificação profunda forem apresentados exclusivamente numa parte de um sítio Web reservada aos assinantes ou como parte de um boletim informativo institucional, tal não implica que o responsável pela implantação deva ponderar uma ampla acessibilidade pública por defeito). |
|
(116) |
Na mesma ordem de ideias, a manipulação apoiada por IA de aspetos substantivos ou técnicos insignificantes de conteúdos preexistentes pode ser de menor importância para a avaliação que alguém efetue à autenticidade ou veracidade dos conteúdos, não tornando os conteúdos resultantes numa falsificação profunda. Tal pode incluir, por exemplo, edição de pormenores do fundo (por exemplo, a remoção de um transeunte), ajustamentos da iluminação, adaptação de parâmetros de áudio, correção da cor, redução ou remoção do ruído, melhoria da acessibilidade ou compressão de ficheiros, ajustamentos e melhorias a nível estético. A questão de saber se esta categoria abrangerá a manipulação depende do contexto e do impacto na perceção que as pessoas têm da autenticidade ou veracidade dos conteúdos no caso específico. Por exemplo, a correção de cores baseada na IA, as extensões de fundo de conteúdos existentes, os ajustamentos ou substituições de fundos para fins claramente estéticos, as composições e disposições de produtos existentes ou o redimensionamento de imagens aplicadas em publicidade ou embalagem de produtos são suscetíveis de ter um impacto menor na perceção de uma pessoa sobre a autenticidade e veracidade da publicidade e do produto. Em contrapartida, a edição substancial, baseada na IA, de pormenores do fundo de imagens jornalísticas para além das práticas técnicas e editoriais normais pode afetar negativamente a perceção de uma pessoa sobre a autenticidade e a veracidade dos conteúdos.
|
6.1.2. Obrigação de divulgação nos termos do artigo 50.o, n.o 4, primeiro parágrafo, do Regulamento IA
|
(117) |
O artigo 50.o, n.o 4, primeiro parágrafo, do Regulamento IA obriga os responsáveis pela implantação de sistemas de IA que geram ou manipulam conteúdos de imagem, áudio ou vídeo que constituam uma falsificação profunda a «revelar que os conteúdos foram artificialmente gerados ou manipulados». O considerando 134 do Regulamento IA esclarece que os responsáveis pela implantação que utilizam sistemas de IA para gerar ou manipular conteúdos de falsificação profunda devem revelar de forma clara e percetível que esses conteúdos foram artificialmente criados ou manipulados, identificando os resultados da IA como tal e divulgando a sua origem artificial. Os métodos de rotulagem ou divulgação aplicados em conformidade com o artigo 50.o, n.o 4, primeiro parágrafo, do Regulamento IA devem ser compreensíveis e percetíveis para as pessoas singulares (por exemplo, com rótulos visíveis ou audíveis), sem que tenham de recorrer a quaisquer ferramentas técnicas específicas ou realizar ações próprias. Por conseguinte, os responsáveis pela implantação não podem recorrer à marcação legível por máquina que o fornecedor incorporou nos conteúdos nos termos do artigo 50.o, n.o 2, do Regulamento IA, pois essas marcações não são imediatamente claras e percetíveis para as pessoas singulares expostas aos conteúdos de falsificação profunda. |
|
(118) |
À luz do artigo 50.o, n.o 7, do Regulamento IA, os responsáveis pela implantação podem aderir a um código de práticas considerado adequado nos termos do artigo 50.o, n.o 7, do referido regulamento para demonstrar o cumprimento desta obrigação de divulgação. Para mais informações sobre os efeitos da adesão a esse código e a supervisão de outros responsáveis pela implantação que não aderem a um código, ver a secção 8.1 infra. |
6.1.3. Transparência dos conteúdos de falsificação profunda artísticos, criativos, satíricos, ficcionais ou análogos
|
(119) |
O artigo 50.o, n.o 4, primeiro parágrafo, do Regulamento IA prevê uma obrigação de transparência atenuada no caso de falsificações profundas que façam parte de obras ou programas de natureza manifestamente artística, criativa, satírica, ficcional ou análoga. Para esses conteúdos, a obrigação de transparência limita-se à divulgação da falsificação profunda de uma forma adequada que não prejudique a exibição ou a fruição da obra. |
|
(120) |
Categorias de conteúdos pertinentes: para beneficiar da divulgação atenuada em matéria de transparência, a falsificação profunda (imagem, áudio ou vídeo) deve fazer parte de, pelo menos, uma das seguintes categorias de conteúdos: obras ou programas de natureza artística, criativa, satírica, ficcional ou análoga. A questão de saber se uma falsificação profunda se enquadra numa ou em várias destas categorias exige que o responsável pela implantação realize uma avaliação casuística. Para efeitos do artigo 50.o, n.o 4, do Regulamento IA, essas categorias são entendidas do seguinte modo:
|
|
(121) |
As categorias de conteúdos referidas supra também podem ser aplicáveis a programas, os quais se entendem como um elemento individual de uma grelha de programas ou catálogo, estabelecido por um prestador de serviços de comunicação social, que seja comparável, em termos de forma e de conteúdos, à radiodifusão televisiva (33). A referência a «obras» no contexto do artigo 50.o, n.o 4, do Regulamento IA não tem qualquer incidência sobre a questão de saber se os conteúdos são elegíveis para proteção ao abrigo do direito da União em matéria de direitos de autor e direitos conexos. |
|
(122) |
Manifestamente: o facto de uma falsificação profunda se enquadrar numa (ou em várias) das categorias de conteúdos referidas supra deve ser manifestamente evidente para as pessoas singulares a ela expostas. Tal implica que as categorias devem ser interpretadas de forma estrita, justificada pelo facto de se aplicar um regime de divulgação menos rigoroso devido ao potencial impacto na liberdade de expressão e na liberdade das artes e das ciências, ao passo que os riscos de desinformação, manipulação e dissimulação continuam a ter de ser abordados de forma adequada. Por conseguinte, os conteúdos cuja natureza seja potencialmente pouco clara ou ambígua para o público são excluídos do âmbito de aplicação deste regime de transparência menos rigoroso. Os fatores pertinentes para avaliar a natureza manifestamente artística, criativa, satírica ou ficcional dos conteúdos incluem: i) se os conteúdos exibem formatos ou estilos característicos das categorias de conteúdos (por exemplo, ironia ou exagero, no caso de obras satíricas, determinados estilos artísticos, apresentando temas, técnicas ou estética distintivos, etc.), ii) o contexto em que os conteúdos são apresentados (por exemplo, se a plataforma, o meio ou o local onde os conteúdos são apresentados, disponibilizados ou distribuídos está associado a uma utilização artística, criativa, satírica ou ficcional) e iii) as expectativas do público (por exemplo, um filme, um ambiente de jogo ou um cenário de realidade virtual). Além disso, a condição de que os conteúdos sejam «manifestamente» abrangidos por uma das categorias de conteúdos referidas supra exclui-os do âmbito de aplicação dessas categorias de conteúdos se a sua natureza for exclusivamente informativa ou comercial e for reconhecível como tal (por exemplo, reportagens). A este respeito, pode considerar-se que alguns tipos de conteúdos (por exemplo, anúncios publicitários ou documentários) que contêm falsificações profundas são obras de natureza manifestamente criativa ou ficcional em determinadas situações específicas, mas não noutras, uma vez que a avaliação é específica de cada caso. Caso a falsificação profunda combine vários carateres (por exemplo, informativos e criativos), o caráter informativo deve prevalecer sempre e exigir o cumprimento dos requisitos normalizados de rotulagem. |
|
(123) |
Divulgação adequada que não prejudique a exibição ou a fruição da obra: as falsificações profundas que fazem parte de obras ou programas de natureza manifestamente artística, criativa, satírica ou ficcional não estão excluídas da obrigação de transparência prevista no artigo 50.o, n.o 4, primeiro parágrafo, do Regulamento IA. Os responsáveis pela implantação continuam a ter de divulgar que os conteúdos tiveram origem na IA ou foram manipulados pela mesma, mas podem fazê-lo de forma adequada, sem prejudicar a exibição ou a fruição da obra. O considerando 134 do Regulamento IA esclarece que essa divulgação adequada não deve prejudicar a exploração e utilização normais, permitindo simultaneamente manter a utilidade e a qualidade da obra. A determinação das medidas de divulgação que devem ser consideradas adequadas consiste numa avaliação casuística, na qual os responsáveis pela implantação podem ter em conta todos os fatores pertinentes (incluindo a natureza da obra, o público, o contexto, etc.). Em qualquer caso, os responsáveis pela implantação têm de cumprir o artigo 50.o, n.o 5, do Regulamento IA (ver a secção 7). À luz do artigo 50.o, n.o 7, do Regulamento IA, os responsáveis pela implantação podem aderir a um código de práticas considerado adequado nos termos dessa disposição, para demonstrar o cumprimento desta obrigação de divulgação. Para mais informações sobre os efeitos da adesão a esse código e a supervisão de outros responsáveis pela implantação que não aderem a um código, ver a secção 8.1 infra. |
|
(124) |
Garantias adequadas para os direitos e liberdades de terceiros: o considerando 134 do Regulamento IA esclarece que o cumprimento da obrigação de transparência atenuada e a utilização de falsificações profundas de natureza artística, criativa, satírica ou ficcional devem estar sujeitos a «garantias adequadas dos direitos e liberdades de terceiros». Por conseguinte, os responsáveis pela implantação devem assegurar que os direitos e liberdades de terceiros (incluindo, por exemplo, o seu direito à proteção dos dados pessoais ou os direitos de propriedade intelectual) são devidamente salvaguardados e respeitados aquando da criação ou publicação de falsificações profundas, mesmo que a falsificação profunda deva ser considerada de natureza artística, criativa, satírica ou ficcional. O recurso à obrigação de transparência atenuada não pode constituir uma justificação para o incumprimento dos direitos fundamentais das pessoas singulares ou dos titulares de direitos ao abrigo do direito da União em matéria de propriedade intelectual ou do direito da União em matéria de proteção de dados (34).
|
6.1.4. Exceção para aplicação da lei
|
(125) |
Se a utilização de uma falsificação profunda (por exemplo, um vídeo gerado por IA que simule acontecimentos que nunca ocorreram) for legalmente autorizada para detetar, prevenir, investigar ou reprimir infrações penais, os responsáveis pela implantação estão isentos da obrigação de transparência nos termos do artigo 50.o, n.o 4, primeiro parágrafo, do Regulamento IA. Os esclarecimentos apresentados nos n.os 46 a 48 supra relativamente a uma exceção semelhante no artigo 50.o, n.o 1, do Regulamento IA são igualmente pertinentes para esta disposição. |
6.1.5. Interação com outros atos jurídicos da União
|
(126) |
A obrigação de transparência prevista no artigo 50.o, n.o 4, primeiro parágrafo, do Regulamento IA interagirá com as obrigações dos fornecedores de plataformas em linha de muito grande dimensão e de motores de pesquisa em linha de muito grande dimensão de identificarem e atenuarem os riscos sistémicos nos termos dos artigos 34.o e 35.o do RSD, em especial do artigo 35.o, n.o 1, alínea k), desse regulamento (35). Esta última disposição enumera, entre as possíveis medidas de atenuação dos riscos que os fornecedores de plataformas em linha de muito grande dimensão e de motores de pesquisa em linha de muito grande dimensão podem adotar, medidas que assegurem que «um elemento de informação, quer se trate de uma imagem, de áudio ou de um vídeo gerados ou manipulados que se assemelham sensivelmente a pessoas, objetos, lugares ou a outras entidades ou acontecimentos existentes e que pareçam falsamente a uma pessoa serem autênticos ou verdadeiros, seja distinguível através de marcações visíveis quando é apresentado nas suas interfaces em linha». Além disso, os fornecedores de plataformas em linha de muito grande dimensão e de motores de pesquisa em linha de muito grande dimensão também podem disponibilizar uma funcionalidade de fácil utilização que permita aos destinatários do serviço assinalar tal informação. Embora esta disposição do RSD se afigure semelhante ao artigo 50.o, n.o 4, do Regulamento IA, é complementar e contém duas distinções importantes:
|
|
(127) |
Se a falsificação profunda incluir informações relativas a uma pessoa singular direta ou indiretamente identificável (que esteja viva), os responsáveis pela implantação, enquanto responsáveis pelo tratamento ao abrigo do direito da União em matéria de proteção de dados, terão também de cumprir as respetivas obrigações ao abrigo do direito da União em matéria de proteção de dados (37). Tal inclui, por exemplo, o recurso a uma base jurídica adequada para o tratamento de dados pessoais, informações relativas ao tratamento de dados relacionados com os titulares dos dados representados, etc. |
|
(128) |
Além disso, os responsáveis pela implantação de sistemas de IA que geram falsificações profundas terão de assegurar que cumprem a legislação aplicável da União em matéria de propriedade intelectual (como o direito da União relativo às marcas e o direito da União em matéria de direitos de autor ou direitos conexos) se a sua falsificação profunda incorporar material protegido ao abrigo dessa legislação. A aplicação de um rótulo ou ícone a uma falsificação profunda não tem, enquanto tal, qualquer impacto na sua elegibilidade para a proteção dos direitos de autor, que deve ser avaliada em conformidade com o direito da União aplicável em matéria de direitos de autor. |
|
(129) |
Sempre que sejam representadas pessoas reais em falsificações profundas, os responsáveis pela implantação também terão de cumprir os regimes jurídicos pertinentes que protegem os direitos de personalidade sobre imagens ou vozes pessoais. A obrigação de transparência prevista no artigo 50.o, n.o 4, primeiro parágrafo, do Regulamento IA não implica que possam ser geradas e divulgadas falsificações profundas geradas ou manipuladas por IA que sejam prejudiciais e ilegais nos termos do direito da União ou nacional aplicável (por exemplo, publicidade enganosa ou direito penal, como material com imagens de abusos sexuais de crianças e imagens íntimas não consensuais) (ver também a secção 4.4). |
6.2. Principais componentes e conceitos, e obrigações de transparência conexas aplicáveis a texto gerado ou manipulado por IA nos termos do artigo 50.o, n.o 4, do Regulamento IA
|
(130) |
O artigo 50.o, n.o 4, segundo parágrafo, do Regulamento IA é aplicável se estiverem preenchidas várias condições:
|
6.2.1. Texto publicado com o objetivo de informar o público sobre questões de interesse público
|
(131) |
A fim de clarificar o âmbito de aplicação do artigo 50.o, n.o 4, segundo parágrafo, do Regulamento IA, examina-se infra três elementos: i) texto publicado ii) com o objetivo de informar o público iii) sobre questões de interesse público.
|
6.2.2. Obrigação de divulgação nos termos do artigo 50.o, n.o 4, segundo parágrafo, do Regulamento IA
|
(132) |
O artigo 50.o, n.o 4, segundo parágrafo, do Regulamento IA obriga os responsáveis pela implantação de sistemas de IA que geram ou manipulam texto publicado com o objetivo de informar o público sobre questões de interesse público a divulgar que esse texto foi artificialmente gerado ou manipulado. O considerando 134 do Regulamento IA esclarece que, do mesmo modo que para as falsificações profundas, os responsáveis pela implantação de publicações de texto abrangidas pelo âmbito de aplicação da disposição devem revelar de forma clara e percetível que esses conteúdos foram artificialmente criados ou manipulados, identificando os resultados da IA como tal e divulgando a sua origem artificial. Conforme exigido para as falsificações profundas, os métodos de rotulagem ou divulgação (incluindo as declarações de exoneração de responsabilidade) aplicados em conformidade com o artigo 50.o, n.o 4, segundo parágrafo, do Regulamento IA devem também ser claros e percetíveis para as pessoas singulares (por exemplo, medidas visíveis ou audíveis), sem que tenham de recorrer a quaisquer ferramentas técnicas específicas ou realizar ações próprias. À luz do artigo 50.o, n.o 7, do Regulamento IA, os responsáveis pela implantação podem aderir a um código de práticas considerado adequado nos termos dessa disposição, para demonstrar o cumprimento desta obrigação de divulgação. Para mais informações sobre os efeitos da adesão a esse código e a supervisão dos responsáveis pela implantação que não aderem a esse código, ver a secção 8.1 infra. |
6.2.3. Exceção à obrigação de transparência para texto objeto de análise humana ou controlo editorial e responsabilidade editorial
|
(133) |
O artigo 50.o, n.o 4, segundo parágrafo, do Regulamento IA prevê uma exceção à obrigação de transparência estabelecida nessa disposição se estiverem preenchidas duas condições cumulativas: i) o texto gerado ou manipulado por IA deve ter sido objeto de análise humana ou controlo editorial e ii) uma pessoa singular ou coletiva deve ser responsável editorial pela publicação. Se for caso disso, os responsáveis pela implantação podem recorrer a normas profissionais ou deontológicas aplicáveis pertinentes para demonstrar a conformidade com esses requisitos, conforme descrito infra. |
i.
|
(134) |
A primeira condição para que seja aplicável a exceção prevista no artigo 50.o, n.o 4, segundo parágrafo, do Regulamento IA exige que o texto gerado ou manipulado por IA tenha sido objeto de análise humana ou controlo editorial. A análise humana refere-se ao exame deliberado da substância dos conteúdos por uma ou várias pessoas singulares que possuam conhecimentos e discernimento profissional pertinentes relacionados com a matéria escrutinada (por exemplo, análise académica por pares ou cadeias de validação profissional). A verificação dos factos quanto à exatidão dos conteúdos é um requisito mínimo que deve fazer parte dessa análise. O controlo editorial refere-se ao controlo exercido na prática por uma entidade editorial responsável (por exemplo, um chefe de redação) sobre os conteúdos, que dispõe de autoridade para aprovar, alterar ou rejeitar a substância do texto com base em motivos substantivos (incluindo a verificação dos factos das informações e a garantia da fiabilidade das fontes). Tal não prejudica a análise e os procedimentos editoriais existentes, nem as normas profissionais aplicáveis aos prestadores de serviços de comunicação social. |
|
(135) |
As verificações superficiais, exclusivamente formais ou processuais (por exemplo, verificação ortográfica ou correção gramatical), e a mera existência de uma política editorial, de processos de análise automatizados ou de aprovação editorial sumária sem um envolvimento significativo do revisor humano ou da entidade editorial não podem preencher as condições para a análise humana ou o controlo editorial para efeitos desta exceção. |
|
(136) |
Caso sejam utilizados sistemas de IA para modificar, complementar ou reformular conteúdos após a aprovação editorial, os conteúdos resultantes devem ser tratados como gerados ou manipulados por IA para efeitos do artigo 50.o, n.o 4, do Regulamento IA. Por conseguinte, qualquer intervenção substantiva de IA que ocorra após a realização do processo de análise humana ou de controlo editorial anulará a exceção. |
|
(137) |
À luz do artigo 50.o, n.o 7, do Regulamento IA, os responsáveis pela implantação podem aderir a um código de práticas considerado adequado nos termos dessa disposição, para demonstrar o cumprimento da condição de análise humana ou de controlo editorial (especialmente por responsáveis pela implantação que não sejam prestadores de serviços de comunicação social sujeitos a normas editoriais profissionais ou deontológicas existentes) estabelecida nessa disposição. Para mais informações sobre os efeitos da adesão a esse código e a supervisão dos responsáveis pela implantação que não aderem a esse código, ver a secção 8.1. |
|
ii. |
|
(138) |
A segunda condição para que seja aplicável a exceção prevista no artigo 50.o, n.o 4, segundo parágrafo, do Regulamento IA exige que uma pessoa singular ou coletiva seja responsável editorial pela publicação do conteúdo. Tal implica que essa pessoa seja o responsável jurídico final pela publicação do conteúdo, incluindo a análise humana ou o controlo editorial (por exemplo, uma pessoa, um conselho editorial ou a editora). A fim de assegurar a responsabilização e a confiança públicas, e em consonância com as normas profissionais dos meios de comunicação social em vigor, a identidade e os dados de contacto da pessoa coletiva, da pessoa singular ou do cargo que exerce a responsabilidade editorial devem ser disponibilizados ao público num local facilmente localizável (se ainda não estiverem disponíveis). Tal pode ser em linha, por exemplo, através dos termos e condições de um sítio Web ou de outras informações jurídicas destinadas aos utilizadores. Fora de linha, essas informações podem ser incluídas no colofão ou no anúncio de edição de uma publicação.
|
6.2.4. Exceção para aplicação da lei
|
(139) |
Se a utilização de sistemas de IA para a geração de texto publicado com o objetivo de informar o público sobre questões de interesse público sem análise humana (por exemplo, um alerta policial gerado por IA relativo a uma ameaça terrorista publicado nas redes sociais) for legalmente autorizada para detetar, prevenir, investigar ou reprimir infrações penais, os responsáveis pela implantação estão isentos da obrigação de transparência nos termos do artigo 50.o, n.o 4, do Regulamento IA. Os esclarecimentos apresentados nos n.os 46 a 48 supra relativamente a uma exceção semelhante no artigo 50.o, n.o 1, do Regulamento IA são igualmente pertinentes para esta disposição. |
6.2.5. Interação com outros atos jurídicos da União
|
(140) |
No que diz respeito ao direito da União em matéria de comunicação social, a responsabilidade editorial é um conceito crucial definido no artigo 2.o, ponto 8, do Regulamento (UE) 2024/1083 (Regulamento Europeu relativo à Liberdade dos Meios de Comunicação Social) (39). Nesse contexto, entende-se por «responsabilidade editorial» «o exercício de um controlo efetivo tanto sobre a seleção de programas ou de publicações de imprensa como sobre a sua organização, para efeitos da prestação de um serviço de comunicação social, independentemente de, nos termos do direito nacional, haver uma responsabilidade legal pelo serviço prestado». Em determinadas situações, esta definição pode sobrepor-se ao conceito de «responsável editorial» utilizado no artigo 50.o, n.o 4, segundo parágrafo, do Regulamento IA, em especial se os responsáveis pela implantação do sistema de IA também forem considerados prestadores de serviços de comunicação social nos termos do Regulamento Europeu relativo à Liberdade dos Meios de Comunicação Social. Por conseguinte, deve interpretar-se a responsabilidade editorial na aceção do artigo 50.o, n.o 4, do Regulamento IA em consonância com o acervo em vigor em matéria de meios de comunicação social, não obstante o facto de continuar a ser um conceito distinto que também pode aplicar-se em contextos mais vastos e a outros responsáveis pela implantação, desde que assumam a responsabilidade editorial pela publicação do texto. Os prestadores de serviços de comunicação social podem recorrer aos seus processos e normas editoriais existentes para beneficiar da exceção prevista no artigo 50.o, n.o 4, segundo parágrafo, do Regulamento IA. |
7. REQUISITOS HORIZONTAIS APLICÁVEIS ÀS INFORMAÇÕES PRESTADAS NOS TERMOS DO ARTIGO 50.o, N.o 5, DO REGULAMENTO IA
|
(141) |
Nos termos do artigo 50.o, n.o 5, do Regulamento IA, as informações a prestar em conformidade com o artigo 50.o, n.os 1 a 4, do mesmo regulamento devem ser prestadas às pessoas singulares em causa de forma clara e percetível o mais tardar aquando da primeira interação ou exposição. As informações devem igualmente estar em conformidade com os requisitos de acessibilidade aplicáveis. As pessoas singulares em causa neste contexto incluem as pessoas que interagem diretamente com o sistema de IA (artigo 50.o, n.o 1, do Regulamento IA), os utilizadores ativos ou passivos e outras pessoas expostas aos conteúdos sintéticos gerados ou manipulados por IA [com ou sem interação direta com o sistema de IA (artigo 50.o, n.os 2 e 4, do Regulamento IA)], bem como as pessoas sujeitas à utilização de sistemas de reconhecimento de emoções ou de categorização biométrica (artigo 50.o, n.o 3, do Regulamento IA). |
7.1. Prestação de informações de forma clara e percetível
|
(142) |
Considerar-se-á que as informações são prestadas de forma clara caso sejam visíveis, fáceis de compreender e acessíveis à pessoa singular em causa (incluindo as pessoas com deficiência). Considerar-se-á que as informações são prestadas de forma percetível caso seja fácil identificá-las como distintas de outras informações e do ambiente em que o conteúdo é apresentado. Também devem ser facilmente compreendidas pelo público, incluindo por grupos específicos, como as crianças ou as pessoas com deficiência, caso façam parte do público previsivelmente exposto aos conteúdos ou que interage com o sistema (40). Para prestar informações de forma clara e percetível, as informações pertinentes podem, nomeadamente, ser apresentadas como parte da interação (nos termos do artigo 50.o, n.o 1, do Regulamento IA) ou dos conteúdos pertinentes (nos termos do artigo 50.o, n.os 2 e 4, do Regulamento IA). Considerar-se-á que as informações não são prestadas de forma clara e percetível caso possam ser facilmente ignoradas ou não detetadas por pessoas singulares em condições normais de exposição ou interação (por exemplo, apenas incluídas como parte de um manual ou ocultadas em camadas de opções de menu numa interface em linha, ou como parte das condições de utilização que muitas vezes os utilizadores não leem). |
7.2. Primeira interação ou exposição
|
(143) |
O artigo 50.o, n.o 5, do Regulamento IA exige que as informações sejam prestadas às pessoas singulares em causa o mais tardar aquando da primeira interação ou exposição. A expressão «primeira interação ou exposição» refere-se não só à primeira pessoa singular a interagir com um sistema de IA ou a estar exposta ao (resultado do) sistema de IA, mas também a qualquer primeira interação ou exposição subsequente ao (resultado do) sistema de IA por qualquer outra pessoa singular. No que diz respeito à primeira interação com um sistema de IA, as informações devem, pelo menos, ser prestadas uma vez no início de uma sessão interativa, tendo simultaneamente em conta os contextos específicos mencionados nos pontos 36 e 40 supra. No que diz respeito aos conteúdos gerados ou manipulados por IA abrangidos pelo âmbito de aplicação do artigo 50.o, n.os 2 e 4, do Regulamento IA, a obrigação de informação aplica-se a cada resultado de um sistema de IA no que diz respeito a qualquer pessoa singular exposta aos conteúdos. Deve entender-se como referindo-se a qualquer momento em que uma pessoa singular seja razoavelmente suscetível de estar exposta ao resultado do sistema de IA e percecione a divulgação, tendo em conta as especificidades da divulgação no caso de obras manifestamente criativas, artísticas e outras (ver a secção 6.1.3). Além disso, os responsáveis pela implantação estão autorizados a informar as pessoas singulares antes da primeira interação ou exposição efetiva (por exemplo, no início de conteúdos que incluem falsificações profundas). Todavia, se for razoavelmente previsível que as pessoas possam não percecionar os conteúdos desde o seu início, nesse caso, apenas a divulgação no início dos conteúdos não informa adequadamente essas pessoas e deve ser complementada com a divulgação em momentos posteriores, sempre que possível. Tal pode ser aplicado conforme adequado, tendo em conta o objetivo das obrigações de transparência de assegurar uma prestação eficaz das informações e uma sensibilização significativa dos utilizadores em ambientes de IA cada vez mais imersivos e realistas, em que os utilizadores têm cada vez mais dificuldades em distinguir a origem e a veracidade dos conteúdos e da interação.
|
7.3. Conformidade com os requisitos de acessibilidade aplicáveis
|
(144) |
Os fornecedores e responsáveis pela implantação de sistemas de IA abrangidos pelas várias obrigações de transparência enumeradas no artigo 50.o, n.os 1 a 4, do Regulamento IA devem estar cientes dos requisitos de acessibilidade aplicáveis [por exemplo, nos termos da Diretiva (UE) 2016/2102 (41) e da Diretiva (UE) 2019/882 (42)] e avaliar se o seu produto, serviço ou conteúdo tem de cumprir essas regras. Nesse caso, devem assegurar a acessibilidade das informações transmitidas em consonância com o artigo 50.o do Regulamento IA, em conformidade com os requisitos de acessibilidade aplicáveis. O artigo 50.o do Regulamento IA não impõe requisitos de acessibilidade distintos ou adicionais. |
8. APLICAÇÃO DO ARTIGO 50.o DO REGULAMENTO IA
|
(145) |
A presente secção visa clarificar: i) os efeitos da adesão a um código de práticas no que diz respeito ao cumprimento das obrigações de transparência aplicáveis aos conteúdos gerados por IA, ii) o papel das autoridades de controlo competentes na aplicação do artigo 50.o do Regulamento IA, iii) as sanções aplicáveis em caso de infrações a essas obrigações e iv) o momento em que as obrigações previstas no artigo 50.o do Regulamento IA entram em aplicação. |
8.1. Efeitos da adesão a um código de práticas considerado adequado
|
(146) |
Os fornecedores e responsáveis pela implantação de sistemas de IA abrangidos pelo âmbito de aplicação do artigo 50.o, n.os 2 e 4, do Regulamento IA podem demonstrar o cumprimento das respetivas obrigações de transparência aplicáveis aos conteúdos gerados por IA nos termos dessas disposições ao aderir a um código de práticas considerado adequado nos termos do artigo 50.o, n.o 7, do Regulamento IA (43). Esse código não substitui o Regulamento IA nem as presentes orientações. Complementa-os ao proporcionar o único quadro prático reconhecido à escala da União para que os fornecedores e responsáveis pela implantação de sistemas de IA generativa demonstrem o cumprimento dessas obrigações, independentemente do seu local de estabelecimento, do seu funcionamento e das autoridades de fiscalização do mercado competentes. |
|
(147) |
Embora os fornecedores e os responsáveis pela implantação também possam demonstrar o cumprimento dessas obrigações por meios alternativos adequados, a adesão a um código de práticas considerado adequado é uma forma simples, previsível e juridicamente segura de demonstrar o cumprimento. No caso dos signatários de um código de práticas considerado adequado nos termos do artigo 50.o, n.o 7, do Regulamento IA (44), a Comissão e as autoridades de fiscalização do mercado competentes centrarão as suas atividades de supervisão na avaliação do cumprimento do código de práticas por parte desses signatários e da aplicação das medidas nele previstas. Uma vez que os fornecedores e os responsáveis pela implantação aderentes serão transparentes quanto às medidas que aplicam para cumprir o disposto no artigo 50.o, n.os 2, 4 e 5, do Regulamento IA, beneficiarão de uma maior confiança por parte da Comissão, das outras autoridades de fiscalização do mercado competentes e de outras partes interessadas (incluindo o público em geral). Se os signatários de um código de práticas considerado adequado se autoexcluírem de determinadas secções, perderão o benefício de facilitar a demonstração do cumprimento a esse respeito. |
|
(148) |
Os prestadores e responsáveis pela implantação que não sejam signatários de um código de práticas considerado adequado nos termos do artigo 50.o, n.o 7, do Regulamento IA deverão demonstrar de que forma cumpriram as obrigações que lhes incumbem por força do artigo 50.o, n.os 2, 4 e 5, do Regulamento IA por outros meios adequados. Além disso, espera-se que esses fornecedores e responsáveis pela implantação expliquem de que forma as medidas que aplicam asseguram o cumprimento das obrigações que lhes incumbem por força do Regulamento IA. Por exemplo, devem realizar uma análise de lacunas que compare as medidas que aplicaram com as medidas estabelecidas por um código de práticas considerado adequado. Uma vez que as autoridades competentes (incluindo o Serviço para a IA) terão uma compreensão menor da forma como os fornecedores e os responsáveis pela implantação que não são signatários de um código de práticas asseguram o cumprimento das obrigações que lhes incumbem por força do artigo 50.o, n.os 2, 4 e 5, do Regulamento IA, provavelmente carecerão de informações mais pormenorizadas aquando do controlo do cumprimento. Por exemplo, os fornecedores que não adiram a um código de práticas também podem estar sujeitos a um maior número de pedidos de informação e de acesso para avaliar a eficácia, a interoperabilidade, a solidez e a fiabilidade das soluções técnicas aplicadas para cumprir o disposto no artigo 50.o, n.o 2, do Regulamento IA. Os responsáveis pela implantação também podem receber esses pedidos no que diz respeito às suas práticas de rotulagem nos termos do artigo 50.o, n.o 4, do Regulamento IA. |
|
(149) |
As autoridades competentes podem ter em conta os compromissos assumidos em consonância com um código de práticas considerado adequado como fator atenuante ao fixar o montante das coimas, em função das circunstâncias específicas (45). |
|
(150) |
Se um código de práticas não for considerado adequado nos termos do artigo 50.o, n.o 7, do Regulamento IA, a Comissão pode adotar um ato de execução que especifique regras comuns para o cumprimento das obrigações previstas no artigo 50.o, n.os 2, 4 e 5, do Regulamento IA, que seriam aplicáveis a todos os fornecedores e responsáveis pela implantação de sistemas de IA abrangidos pelo âmbito de aplicação dessas disposições (46). |
8.2. Autoridades de fiscalização do mercado
|
(151) |
As autoridades de fiscalização do mercado designadas pelos Estados-Membros, o Serviço para a IA (47) e a Autoridade Europeia para a Proteção de Dados (48) são responsáveis pela supervisão e execução das regras aplicáveis aos sistemas de IA que são da sua competência, incluindo as obrigações de transparência estabelecidas no artigo 50.o do Regulamento IA. Essa execução ocorre no âmbito do sistema de fiscalização do mercado e de conformidade dos produtos estabelecido pelo Regulamento (UE) 2019/1020 e pelo Regulamento IA. Os poderes de execução das autoridades de fiscalização do mercado em relação aos sistemas de IA estão estabelecidos nesses regulamentos. Essas autoridades podem tomar medidas coercivas em relação às obrigações enumeradas no artigo 50.o do Regulamento IA, por sua própria iniciativa ou na sequência de uma queixa, que qualquer pessoa afetada ou qualquer outra pessoa singular ou coletiva que tenha motivos para considerar que ocorreram tais violações tem o direito de apresentar (49). As responsabilidades das autoridades de fiscalização do mercado ao abrigo do Regulamento IA não afetam os poderes e as funções de outras autoridades de controlo ou autoridades responsáveis pelos direitos fundamentais ao abrigo do seu próprio quadro jurídico em situações em que tanto o artigo 50.o do Regulamento IA como esse quadro se aplicam (por exemplo, proteção de dados, defesa do consumidor). |
8.3. Sanções
|
(152) |
Os fornecedores e responsáveis pela implantação que não cumpram as obrigações de transparência aplicáveis estabelecidas no artigo 50.o do Regulamento IA podem ficar sujeitos a coimas num montante que pode ir até 15 000 000 EUR ou, se o infrator for uma empresa, até 3 % do seu volume de negócios anual a nível mundial no exercício anterior, consoante o que for mais elevado. As instituições, órgãos e organismos da UE que violem as obrigações de transparência podem ficar sujeitos a coimas num montante que pode ascender a 750 000 EUR. No caso das pequenas e médias empresas (PME), incluindo empresas em fase de arranque, cada coima não pode exceder as percentagens ou o montante referidos supra, consoante o que for mais baixo. As coimas devem ser efetivas, proporcionadas e dissuasivas, bem como ter em conta os interesses das PME e das pequenas empresas de média capitalização, incluindo empresas em fase de arranque, além da sua viabilidade económica. Ao decidir da aplicação de uma coima e sobre o montante da coima em cada caso individual, as autoridades competentes devem avaliar todas as circunstâncias pertinentes da situação específica e, se for caso disso, uma série de fatores que afetem a gravidade da infração (por exemplo, a natureza, a gravidade e a duração da infração e das suas consequências, o caráter negligente ou intencional, outras circunstâncias agravantes ou atenuantes, o grau de cooperação com as autoridades de fiscalização do mercado, etc.). |
8.4. Entrada em aplicação
|
(153) |
Nos termos do artigo 113.o do Regulamento IA, o artigo 50.o desse regulamento é aplicável a partir de 2 de agosto de 2026, o que exige que todos os sistemas de IA abrangidos pelo âmbito de aplicação colocados no mercado ou em serviço na União estejam em conformidade com essa disposição nessa data, independentemente da sua data de colocação no mercado ou em serviço (50). O regulamento que altera o Regulamento IA (Regulamento Omnibus Digital em matéria de IA), que o legislador da União adotou recentemente, prevê uma regra específica em matéria de salvaguarda de direitos adquiridos apenas no que diz respeito às obrigações de marcação e deteção previstas no artigo 50.o, n.o 2, do Regulamento IA para os sistemas de IA generativa colocados no mercado ou em serviço antes de 2 de agosto de 2026. Concede aos fornecedores dos sistemas existentes um período transitório para tornarem os seus sistemas conformes até 2 de dezembro de 2026. Os sistemas parcialmente interativos e parcialmente generativos podem beneficiar deste período transitório apenas no que diz respeito à obrigação de marcação nos termos do artigo 50.o, n.o 2, do Regulamento IA, ao passo que o cumprimento da obrigação de divulgação para os sistemas de IA que interagem diretamente com pessoas singulares deve ser assegurado a partir de 2 de agosto de 2026. |
|
(154) |
Os resultados gerados ou manipulados por IA abrangidos pelo âmbito de aplicação do artigo 50.o, n.o 2, do Regulamento IA e as falsificações profundas abrangidas pelo âmbito de aplicação do artigo 50.o, n.o 4, primeiro parágrafo, do mesmo regulamento que tenham sido gerados ou manipulados antes de 2 de agosto de 2026 não têm de ser marcados ou rotulados retroativamente. O mesmo se aplica aos textos sobre questões de interesse público abrangidos pelo âmbito de aplicação do artigo 50.o, n.o 4, segundo parágrafo, do Regulamento IA que tenham sido gerados ou manipulados por IA e publicados antes de 2 de agosto de 2026. Inversamente, se os textos gerados ou manipulados antes de 2 de agosto de 2026 forem publicados nessa data ou após a mesma, têm de ser rotulados. Tendo em conta o objetivo visado pelo Regulamento IA de transparência, bem como de maior confiança no ecossistema da informação e integridade do mesmo, os responsáveis pela implantação de sistemas de IA e outros intervenientes que estejam na posse de falsificações profundas preexistentes não rotuladas ou que as divulguem são, não obstante, incentivados a fazê-lo sem se esperar que envidem esforços desproporcionados para o efeito (como a auditoria de bases de dados de conteúdos preexistentes ou a modificação de embalagens de produtos já impressas). |
9. REVISÃO E ATUALIZAÇÃO DAS ORIENTAÇÕES
|
(155) |
As presentes orientações constituem uma primeira interpretação com exemplos práticos das obrigações de transparência estabelecidas no artigo 50.o do Regulamento IA. A Comissão procederá à revisão das presentes orientações logo que tal seja necessário, tendo em conta a experiência prática adquirida com a aplicação das obrigações de transparência e o ritmo da evolução tecnológica, social e regulamentar neste domínio. Tal inclui igualmente qualquer experiência pertinente adquirida com as medidas de execução da fiscalização do mercado e as interpretações do TJUE sobre o artigo 50.o do Regulamento IA. Durante essa revisão, a Comissão pode decidir retirar ou alterar as presentes orientações. A Comissão incentiva os fornecedores e os responsáveis pela implantação de sistemas de IA, as autoridades nacionais de fiscalização do mercado através do Comité para a Inteligência Artificial, o Fórum Consultivo para a Inteligência Artificial, a comunidade de investigação e as organizações da sociedade civil a contribuírem para este processo respondendo a futuros convites à consulta pública. |
(1) Regulamento (UE) 2024/1689 do Parlamento Europeu e do Conselho, de 13 de junho de 2024, que cria regras harmonizadas em matéria de inteligência artificial (Regulamento da Inteligência Artificial) (JO L, 2024/1689, 12.7.2024, ELI: http://data.europa.eu/eli/reg/2024/1689/oj).
(2) Artigo 1.o do Regulamento da Inteligência Artificial.
(3) Artigo 2.o, n.o 1, alínea a), e artigo 3.o, pontos 3, 9 e 11, do Regulamento IA. Para mais orientações sobre os conceitos de «colocação no mercado», «colocação em serviço» e «utilização», ver as Orientações da Comissão sobre as práticas de inteligência artificial proibidas, C(2025) 5052, e a Comunicação da Comissão intitulada «Guia Azul de 2022 sobre a aplicação das regras da UE em matéria de produtos», secção 2 (JO C 247 de 29.6.2022, p. 1).
(4) Artigo 2.o, n.o 1, alínea c), e considerando 22 do Regulamento IA.
(5) Artigo 3.o, ponto 4, do Regulamento IA.
(6) Artigo 2.o, n.o 1, alíneas b) e c), do Regulamento IA.
(7) Regulamento (UE) 2022/2065 do Parlamento Europeu e do Conselho, de 19 de outubro de 2022, relativo a um mercado único para os serviços digitais (JO L 277 de 27.10.2022, p. 1).
(8) Ver a secção 2.5 das Orientações da Comissão sobre as práticas de inteligência artificial proibidas estabelecidas pelo Regulamento (UE) 2024/1689 (Regulamento da Inteligência Artificial), Bruxelas, 29.7.2025, C(2025) 5052 final.
(9) A definição de responsável pela implantação exclui também os utilizadores envolvidos nessas atividades (ver a secção 2.3 supra).
(10) Considerando 25 do Regulamento IA.
(11) O considerando 102 do Regulamento IA explica que o lançamento de software e dados ao abrigo de uma licença gratuita e de fonte aberta «lhes permit[e] serem partilhados abertamente e [permite] aos utilizadores aceder-lhes livremente, utilizá-los, modificá-los e redistribuí-los, ou a versões modificadas dos mesmos».
(12) Para mais informações sobre o artigo 5.o do Regulamento IA, ver as Orientações da Comissão sobre as práticas de inteligência artificial proibidas estabelecidas pelo Regulamento (UE) 2024/1689 (Regulamento da Inteligência Artificial), C(2025) 5052 final.
(13) Ver o artigo 6.o do Regulamento IA.
(14) Em especial, o artigo 26.o, n.o 11, do Regulamento IA impõe uma obrigação de transparência aos responsáveis pela implantação de sistemas de IA de risco elevado que tomem decisões ou ajudem a tomar decisões relacionadas com a informação de pessoas singulares de que estão sujeitas à utilização do sistema de IA de risco elevado. Estas obrigações de transparência são complementares das previstas no artigo 50.o do Regulamento IA, pois dizem respeito a diferentes informações que devem ser prestadas às pessoas singulares, mas que podem ser combinadas em notificações únicas.
(15) O artigo 3.o, ponto 66, do Regulamento IA define um sistema de IA de finalidade geral como um sistema de IA baseado num modelo de IA de finalidade geral, e com a capacidade de servir para diversas finalidades, tanto para utilização direta como para integração noutros sistemas de IA.
(16) O artigo 50.o, n.o 2, do Regulamento IA contém uma referência explícita aos sistemas de IA de finalidade geral.
(17) Considerando 133 do Regulamento IA.
(18) Ver o artigo 3.o, ponto 1, do Regulamento IA. Para mais orientações sobre o conceito de sistema de IA, ver as Orientações da Comissão sobre a definição de sistema de IA, 29.7.2025, C(2025) 5053 final.
(19) Ver o considerando 132 do Regulamento IA. Tal não exige que o sistema seja orientado para esses grupos vulneráveis. Se um sistema se destinar a interagir com qualquer elemento do público, os membros de grupos vulneráveis também são incluídos e os fornecedores devem tê-los em conta aquando da aplicação das medidas de notificação.
(20) Ver a secção 7.3 para consultar os requisitos de acessibilidade aplicáveis.
(21) Por exemplo, os certificados eletrónicos de atributos estabelecidos ao abrigo do Regulamento (UE) n.o 910/2014 e disponibilizados nas carteiras europeias de identidade digital criadas ao abrigo do mesmo regulamento, bem como as carteiras empresariais europeias propostas, podem proporcionar meios seguros e eficientes de identificação de agentes de IA. As carteiras podem armazenar e gerir certificados eletrónicos que verificam a identidade, os atributos e as autorizações do agente de IA, permitindo assim a divulgação contínua e fiável a pessoas singulares.
(22) O mesmo se aplica às exceções semelhantes em benefício das atividades de aplicação da lei previstas no artigo 50.o, n.os 2 a 4, do Regulamento IA.
(23) Diretiva 2005/29/CE do Parlamento Europeu e do Conselho, de 11 de maio de 2005, relativa às práticas comerciais desleais das empresas face aos consumidores no mercado interno (JO L 149 de 11.6.2005, p. 2).
(24) Diretiva 2011/83/UE do Parlamento Europeu e do Conselho, de 25 de outubro de 2011, relativa aos direitos dos consumidores (JO L 304 de 22.11.2011, p. 64).
(25) Diretiva 2012/13/UE do Parlamento Europeu e do Conselho, de 22 de maio de 2012, relativa ao direito à informação em processo penal (JO L 142 de 1.6.2012, p. 1); Diretiva 2012/29/UE do Parlamento Europeu e do Conselho, de 25 de outubro de 2012, que estabelece normas mínimas relativas aos direitos, ao apoio e à proteção das vítimas da criminalidade (JO L 315 de 14.11.2012, p. 57).
(26) Na aceção do artigo 3.o, ponto 1, do Regulamento IA.
(27) O considerando 133 do Regulamento IA esclarece que é adequado exigir que os fornecedores desses sistemas incorporem soluções técnicas que permitam a marcação num formato legível por máquina e a deteção de que o resultado foi gerado ou manipulado por um sistema de IA e não por um ser humano. O considerando 135 do Regulamento IA refere-se à obrigação de deteção.
(28) Ver o anexo II do documento Commission Implementing Decision on a standardisation request to the European Committee for Standardisation and the European Committee for Electrotechnical Standardisation as regards high-risk AI-systems in support of Regulation (EU) 2024/1689 of the European Parliament and of the Council and repealing Implementing Decision C(2023)3215 [não traduzido para português], C(2025) 3871 final.
(29) Ver também o considerando 11 do Regulamento IA.
(30) Ver também o considerando 137 do Regulamento IA.
(31) Considerando 136 do Regulamento IA.
(32) Por conseguinte, deve entender-se este critério de forma independente e distinta do conceito de dissimulação mencionado na Diretiva 2005/29/CE relativa às práticas comerciais desleais das empresas face aos consumidores no mercado interno (Diretiva Práticas Comerciais Desleais), https://eur-lex.europa.eu/eli/dir/2005/29/oj/por.
(33) Ver, no mesmo sentido, o artigo 1.o, alínea b), da Diretiva Serviços de Comunicação Social Audiovisual.
(34) O mesmo se aplica a textos publicados que informem o público sobre questões de interesse público.
(35) Para mais informações sobre a interação entre o artigo 50.o do Regulamento IA e o RSD, ver também a secção 4.4.
(36) Considerando 2 do RSD.
(37) Para uma clarificação mais pormenorizada, ver as orientações conjuntas da Comissão e do CEPD sobre a interação entre o Regulamento IA e a legislação da UE em matéria de proteção de dados (em elaboração).
(38) Ver, por analogia, os processos C-89/04, Mediakabel, EU:C:2005:348, n.o 33; C-192/04, Lagardère, EU:C:2005:475, n.o 31; C-306/05, SGAE, EU:C:2006:764, n.os 37 a 40; C-527/15, Stichting Brein, EU:C:2017:300, n.os 43 e 44 e jurisprudência citada; C-135/23, GEMA, EU:C:2024:526, n.o 38 e jurisprudência citada.
(39) Regulamento (UE) 2024/1083 do Parlamento Europeu e do Conselho, de 11 de abril de 2024, que cria um regime comum para os serviços de comunicação social no mercado interno e que altera a Diretiva 2010/13/UE (Regulamento Europeu relativo à Liberdade dos Meios de Comunicação Social) (JO L, 2024/1083, 17.4.2024, ELI: http://data.europa.eu/eli/reg/2024/1083/oj).
(40) Quando as crianças fazem parte do público-alvo dos conteúdos, essas notificações devem ser: i) adaptadas às crianças, adequadas à idade, fáceis de compreender e facilmente acessíveis a todas as crianças, incluindo as portadoras de deficiência e/ou com necessidades de acessibilidade adicionais, ii) apresentadas de forma clara, facilmente compreensível e tão simples e sucinta quanto possível, iii) apresentadas de forma fácil de analisar e que proporcionem um acesso imediato e intuitivo, nos momentos em que se tornem pertinentes, iv) apresentadas na(s) língua(s) oficial(is) do Estado-Membro em que o serviço seja prestado, v) apelativas para as crianças (tal poderá também incluir o recurso a imagens, vídeos e/ou personagens ou outras técnicas), vi) apresentadas às crianças de forma gradual e ao longo do tempo, a fim de maximizar a conservação pelo utilizador.
(41) Diretiva (UE) 2016/2102 do Parlamento Europeu e do Conselho, de 26 de outubro de 2016, relativa à acessibilidade dos sítios web e das aplicações móveis de organismos do setor público (Texto relevante para efeitos do EEE) (JO L 327 de 2.12.2016, p. 1).
(42) Diretiva (UE) 2019/882 do Parlamento Europeu e do Conselho, de 17 de abril de 2019, relativa aos requisitos de acessibilidade dos produtos e serviços (Texto relevante para efeitos do EEE), PE/81/2018/REV/1, (JO L 151 de 7.6.2019, p. 70).
(43) Ver as informações pertinentes sobre o Código de Práticas sobre a Transparência dos Conteúdos Gerados por IA | Construir o futuro digital da Europa, publicado em 10 de junho de 2026.
(44) Ver o Parecer da Comissão sobre a avaliação do Código de Práticas sobre a Transparência dos Conteúdos Gerados por IA | Construir o futuro digital da Europa.
(45) Artigo 99.o, n.o 7, alínea e), do Regulamento IA.
(46) Artigo 50.o, n.o 7, do Regulamento IA.
(47) Enquanto a autoridade de fiscalização do mercado para os sistemas de IA baseados em modelos de IA de finalidade geral disponibilizados pelo mesmo fornecedor (artigo 75.o, n.o 1, do Regulamento IA). Tal abrange a obrigação aplicável aos fornecedores nos termos do artigo 50.o, n.os 1 e 2, do Regulamento IA. No que diz respeito ao artigo 50.o, n.os 3 e 4, do mesmo regulamento, o Serviço para a IA só será competente se o respetivo modelo de IA de finalidade geral e fornecedor do sistema for também um responsável pela implantação do sistema.
(48) Enquanto a autoridade de fiscalização do mercado para as instituições, órgãos e organismos da UE.
(49) Artigo 85.o do Regulamento IA.
(50) A regra especial em matéria de salvaguarda de direitos adquiridos prevista no artigo 111.o, n.o 2, do Regulamento IA aplica-se aos sistemas de IA de risco elevado colocados no mercado antes da data de aplicação das regras relativas ao risco elevado apenas no que diz respeito à conformidade desses sistemas com os requisitos e obrigações aplicáveis aos sistemas de IA de risco elevado. Se o sistema de IA de risco elevado também estiver sujeito a uma ou mais obrigações de transparência nos termos do artigo 50.o do Regulamento IA, esta regra especial de salvaguarda de direitos adquiridos não é aplicável, pois a aplicação das diferentes obrigações em matéria de risco elevado e de transparência previstas no artigo 50.o é cumulativa e a salvaguarda de direitos adquiridos é justificada e limitada apenas no que diz respeito ao cumprimento das disposições relativas ao risco elevado.
ELI: http://data.europa.eu/eli/C/2026/6005/oj
ISSN 1977-1010 (electronic edition)