A Autoridade de Proteção de Dados italiana (Garante) aplicou uma multa de €5 milhões à empresa norte-americana Luka Inc., criadora do chatbot de IA Replika. Esta decisão é um sinal de alerta crítico para todos os líderes de entidades abrangidas pela Diretiva NIS 2 e pelo EU AI Act, reforçando a responsabilidade da gestão de topo na governação da conformidade digital.

O que esteve em causa?

• Falta de base legal clara para o tratamento de dados pessoais, incluindo no treino do modelo de IA.
• Ausência de mecanismos eficazes de verificação de idade, com risco de exposição de menores.
• Violação dos princípios de minimização e responsabilidade no tratamento de dados.
• Processamento automatizado sem garantias adequadas de mitigação de risco ou direitos dos utilizadores.

Implicações da NIS 2 e do AI Act para membros dos órgãos de gestão e administração

Com a entrada em vigor da NIS 2 e do AI Act, as entidades essenciais e importantes enfrentam um novo cenário de responsabilização individual dos seus dirigentes:

• Governar a conformidade já não é apenas tarefa do jurídico ou IT, é uma função estratégica da administração.
• A IA generativa levanta riscos operacionais, legais e reputacionais sérios, que exigem controlo e supervisão diretos dos líderes.
• As organizações do setor crítico devem liderar pelo exemplo na gestão ética e segura da tecnologia.

“A confiança digital começa na liderança. É hora de os conselhos de administração assumirem o seu papel como guardiões da segurança e da conformidade.” (NECHO TECHLAW)

Como a NECHO TECHLAW pode ajudar

Na NECHO TECHLAW, apoiamos equipas de gestão e conselhos de administração a:

• Integrar conformidade NIS 2, AI Act e RGPD na governação organizacional;
• Mitigar riscos regulatórios e reputacionais com auditorias e planos de ação;
• Preparar a liderança para lidar com obrigações de cibersegurança e IA com formação executiva e advisory estratégico.

Quer saber se a sua organização está preparada para os novos desafios da regulação digital?

Fale connosco! Vamos proteger o seu negócio (e a sua liderança)