A inteligência artificial e a privacidade de dados

A presença de IA no nosso quotidiano pode ser observada, por exemplo, através dos assistentes virtuais (Alexa, Siri, Google Assistant), sistemas de reconhecimento facial, e IoT (internet of things). Contudo, com a rápida evolução de IA, surgem riscos para a privacidade de dados, tais como a violação de dados, monitorização e vigilância inadequada, falta de transparência, falta de segurança, entre outros.

Os sistemas de IA são desenvolvidos para aprender e melhorar através da análise de grandes quantidades de dados. A quantidade de dados pessoais recolhidos pelos sistemas de IA continua a aumentar, originando preocupações sobre a privacidade e proteção de dados. Por exemplo, as várias ferramentas de IA generativa, como ChatGPT, o DALL-E, ou qualquer outra ferramenta que está a ser desenvolvida atualmente, são utilizadas muitas vezes para tarefas como escrita de email, relatórios e programação, sem o consentimento das empresas. Atualmente, as empresas não têm normas para o uso de ferramentas de IA por parte dos trabalhadores, mesmo numa altura em que surgem falhas de segurança e vulnerabilidades nas atuais ferramentas de IA.

Para combater estas preocupações, é essencial que as organizações e empresas que desenvolvem ou utilizam a tecnologia de IA tomem medidas proativas para proteger a privacidade dos dados, tais como, a implementação de protocolos fortes de segurança de dados, garantindo que os dados em causa são usados ​​apenas para a finalidade pretendida, e o desenvolvimento de sistemas transparentes que permitam explicar, inspecionar e reproduzir as decisões e a utilização dos dados em causa.

Com o objetivo de garantir a segurança e os direitos fundamentais das pessoas e das empresas no que respeita à IA, a Comissão Europeia apresentou, em abril de 2021, uma proposta para regular os sistemas de Inteligência Artificial – Proposta de Regulamento do Parlamento Europeu e do Conselho que estabelece regras harmonizadas em matéria de Inteligência Artificial (Regulamento Inteligência Artificial) e altera determinados atos legislativos da União – (COM(2021) 206), com o intuito de estabelecer regras harmonizadas para o desenvolvimento e utilização de sistemas de IA na União Europeia.

A proposta de Regulamento IA prevê um conjunto de regras numa abordagem baseada no risco, sendo este categorizado em risco inaceitável, elevado, baixo ou mínimo. Os sistemas de IA de risco elevado, terão de cumprir um conjunto de requisitos e obrigações específicas. São considerados de risco elevado, os sistemas de IA que criam riscos significativos para saúde e segurança, ou para os direitos fundamentais das pessoas.

As empresas que desenvolvam ou utilizem sistemas de IA de risco elevado devem estar em conformidade com os requisitos que derivam do Regulamento IA, de modo a garantir que os sistemas são de confiança e que os dados são usados de forma ética e legal.

O regulamento proposto exige uma declaração de conformidade antes de um sistema de IA de risco elevado ser colocado no mercado Europeu, bem como monitorização de longo prazo até o fim da vida útil.

A transformação digital e a era digital são uma inevitabilidade e como em todas as inovações, há riscos e oportunidades. Proteger a privacidade na era da IA é uma questão que afeta todos. É fundamental agirmos e protegermo-nos, de modo a acautelar eventuais constrangimentos causados pela ausência de conformidade regulamentar ou por ataques de cibersegurança.

__
Ricardo Rosalino
^{Cybersecurity & Privacy Principal, PwC Portugal}