Os gigantes dos smartphones da China estão defi a IA – com um custo para a sua privacidade

Os fabricantes chineses de smartphones pretendem substituir a navegação manual de aplicativos por operações contínuas e sem uso das mãos que usam modelos de IA. Essa tecnologia promete uma facilidade incomparável, mas levanta questões sobre o controle do usuário sobre dispositivos e aplicativos.

Atores locais como Xiaomi, Vivo, Oppo e Honor estão envolvidos nesta agenda . O slogan da Honor, “Quanto mais IA, mais ela entende você”, capta tanto o potencial quanto o risco dessa transformação.

Este é o perigo: se a tomada de decisões baseada na IA se basear em dados pessoais recolhidos sem consentimento explícito, terá menos a ver com melhorar a experiência do utilizador e mais com vigilância intrusiva.

Aparentemente, durante o lançamento do Magic 7 em outubro de 2024, o CEO George Zhao usou o telefone para pedir 2.000 xícaras de café ao vivo no palco, sem precisar de um único toque. O público ficou impressionado, mas as dúvidas persistiram: como o técnico conhecia as preferências de Zhao, selecionava o aplicativo e autorizava o pagamento? 

Esta notável demonstração de conveniência provoca o confronto de um problema crítico: até que ponto esta inovação compromete a autonomia e a privacidade do utilizador? A apresentação ao vivo de George Zhao só poderia ter sido possível se o telefone acessasse dados privados para seguir comandos. O que é mais importante para os usuários: conveniência ou privacidade?

Até onde vai o risco de invasão de privacidade?

Um exame do Magic 7 demonstrou que ele explora as permissões de acessibilidade do Android. Este recurso destina-se a auxiliar usuários com deficiência. A Honor e algumas outras empresas de tecnologia chinesas obtêm acesso a dados confidenciais dos usuários de maneiras opacas e não regulamentadas, contornando os processos tradicionais de consentimento.

A tomada de decisões baseada na IA pode ser facilmente transformada em arma se os telefones acabarem nas mãos erradas. Em segundo lugar, os hackers poderiam explorar estes sistemas para obter acesso aos dados financeiros, mensagens e até fotografias privadas dos utilizadores. A conveniência da tecnologia de inteligência corre o risco de se tornar um instrumento de vigilância e controlo se não existirem salvaguardas robustas.

As implicações não poderiam ser mais graves. Se não for controlada, a trajetória atual poderá levar a um futuro onde os telemóveis não só servem os seus utilizadores, mas também monitorizam, gerem e comercializam as suas ações sem o seu conhecimento.

Notavelmente, o desafio tanto para os fabricantes como para os reguladores é equilibrar a responsabilidade com a inovação. A questão não é se a IA dominará os nossos dispositivos; já faz. Ainda assim, o potencial dos dispositivos alimentados pela tecnologia de inteligência é inegável. Estes dispositivos têm a capacidade de revolucionar vidas, simplificando as tarefas diárias e melhorando a acessibilidade.

Enquanto isso, a Apple lançou o Apple Intelligence em junho de 2024, um sistema de IA no dispositivo que transformou o Siri em um assistente mais intuitivo. No entanto, a acção “revolucionária” da Apple na China não conseguiu gerar um impacto significativo.

O que diz a lei sobre invasões de privacidade?

As invasões de privacidade não são legais. Na verdade, em 2021, os desenvolvedores de aplicativos chineses foram sujeitos a ações legais. Eles foram acusados ​​de desenvolver ferramentas que exploravam permissões para interceptar transações digitais. 

Além disso, durante as celebrações do Ano Novo Lunar, aplicativos como o Red Packet Hunter interceptaram matic os envelopes vermelhos do WeChat. Os desenvolvedores receberam multas e até penas de prisão depois que o tribunal determinou que essas ações violavam as leis de concorrência.

Além disso, ao contrário das empresas chinesas que aceitaram estes riscos como parte do processo criativo, os concorrentes ocidentais agem com cautela. Por exemplo, a Microsoft encontrou críticas por seu recurso Recall no início deste ano. Isso ocorre porque ele utiliza capturas de tela periódicas para avaliar o comportamento do usuário e recomendar ações.

Os críticos compararam o recurso a um pesadelo orwelliano, levando líderes de tecnologia como Elon Musk a pedir sua remoção. Os profissionais de segurança cibernética alertaram que estas capacidades poderiam ser exploradas para facilitar a vigilância.

Um sistema passo a passo para lançar sua carreira na Web3 e conseguir empregos criptográficos com altos salários em 90 dias.