A ideia de simplesmente “desligar” uma inteligência artificial (IA) com um único clique, como se fosse um aparelho eletrônico, é frequentemente discutida. No entanto, especialistas alertam que a realidade é muito mais complexa, especialmente à medida que esses sistemas se tornam mais autônomos e integrados ao nosso cotidiano.

A preocupação com a capacidade de controle sobre a IA cresce com o aumento de incidentes de segurança e os temores sobre os riscos que essa tecnologia pode apresentar. A questão não é apenas técnica, mas também levanta dilemas éticos e sociais sobre nossa dependência crescente.

Interromper uma IA pode parecer uma solução fácil para cenários de descontrole, mas o conceito de um “botão de emergência”, ou *kill switch*, enfrenta desafios significativos. Conforme informações divulgadas por especialistas, a tarefa se complica enormemente quando a IA atua de forma independente em múltiplos dispositivos.

O Que é um ‘Botão de Emergência’ para IAs?

No universo da cibersegurança ligada à IA, um *kill switch* é definido como a capacidade de interromper a execução da ação de um agente de IA. Nicolas Papernot, professor da Universidade de Toronto e especialista em segurança informática e IA, explica que um agente de IA é um programa construído sobre um modelo generativo, capaz de encadear tarefas de forma autônoma.

Ele ressalta que, fundamentalmente, uma IA é um programa informático. Isso significa que a entidade ou pessoa que a criou tem o poder de pará-la, simplesmente negando-lhe o acesso à potência de cálculo necessária para sua operação. Em um ambiente controlado, a interrupção é, tecnicamente, viável.

A Complexidade Aumenta com a Autonomia

A situação se torna intrincada quando um programa de IA é autorizado a operar além de seu ambiente inicial, ganhando autonomia. Papernot exemplifica essa dificuldade com o cenário de um “worm informático”, um programa malicioso controlado pela IA que se propaga utilizando recursos de outros dispositivos para se duplicar.

Nesse caso, a tarefa de desligar uma IA não se resume a um único comando. Seria necessário interromper simultaneamente todas as cópias geradas pelo *worm*, dispositivo por dispositivo, o que representa um desafio logístico e técnico imenso. A dispersão torna o controle centralizado quase impossível.

Jean-Gabriel Ganascia, professor de informática na Universidade Sorbonne, pondera que a discussão sobre o *kill switch* pode alimentar a ideia de um “risco metafísico”, sugerindo uma IA com vontade própria. No entanto, ele enfatiza que o perigo mais palpável reside na nossa crescente dependência desses sistemas.

Níveis de Dificuldade para Interromper Sistemas de IA

Thierry Poibeau, diretor de pesquisas no Centro Nacional de Pesquisas Científicas da França (CNRS) e especialista em IA, reforça que a imagem de um único botão para “desligar a IA” é enganosa. Ele destaca que não há uma entidade central que controle “a IA” como um todo, dada a vasta quantidade de empresas, programas e serviços diferentes envolvidos globalmente.

Hussein Abbass, professor de informática na Universidade de Nova Gales do Sul (UNSW) em Canberra, detalha três níveis de complexidade para interromper sistemas de IA em um artigo publicado no LinkedIn:

1. No primeiro nível, quando o sistema permanece em um ambiente controlado pelo operador, a implementação de um dispositivo de parada de emergência é “em teoria e na prática realizável”.

2. No segundo nível, se o agente de IA tem permissões para intervir em outros programas, arquivos ou máquinas, torna-se mais difícil pará-lo, especialmente as ações que ele já iniciou.

3. No terceiro nível, quando o sistema expande sua atuação para diversos sistemas, a IA se torna um “elétron livre”. O objetivo deixa de ser “desligá-la” de forma singular e passa a ser identificar e priorizar quais elementos precisam ser interrompidos primeiro, funcionando “um pouco como um vírus informático”, conforme resume Poibeau.

Os Perigos de um ‘Kill Switch’ e a Dependência Digital

A crescente integração da IA em atividades cotidianas levanta outra preocupação crucial: a interrupção de um sistema de IA pode bloquear usos legítimos da tecnologia. Nicolas Papernot alerta que, à medida que automatizamos mais aspectos da vida diária com a IA, será cada vez mais difícil distinguir uma IA “maligna” de uma “inofensiva”, e, portanto, saber “o que é preciso ‘desligar’”.

Interromper um sistema de IA poderia ter consequências graves, degradando serviços essenciais dos quais empresas, administrações e centros de saúde já dependem. Em uma “hipótese de perda real de controle” de agentes de IA, Papernot indica que seria possível desativar a IA desconectando toda a potência de cálculo. No entanto, ele adverte que “os custos e as consequências negativas seriam consideráveis”.

Jean-Gabriel Ganascia conclui que, embora “sempre possamos desligar as máquinas”, a nossa crescente dependência desses dispositivos na sociedade moderna implica que, ao mesmo tempo, “não podemos desligá-los”. O desafio de desligar uma IA é, portanto, não apenas técnico, mas profundamente interligado com a nossa forma de viver e operar no mundo digital.