Nos últimos anos, a tecnologia de Inteligência Artificial deu um salto impressionante. Atualizações como da IA Claude, da empresa Anthropic, empolgam e, ao mesmo tempo, preocupam os amantes das tecnologias. Sua capacidade de interagir diretamente com o computador dos usuários ajuda a automatizar tarefas, mas pode pôr em xeque questões como segurança e privacidade. Saiba mais no artigo a seguir, do Engenharia 360!

O que é Claude e como funciona

Claude é um modelo de linguagem desenvolvido pela startup Anthropic, especialista na criação de sistemas de Inteligência Artificial. A versão mais recente, Claude 3.5 Sonnet, possui um recurso um tanto quanto interessante, chamado "uso do computador", permitindo que desenvolvedores programem o Claude para realizar tarefas específicas nas máquinas dos usuários, como mover o cursor do mouse, digitar textos e até interagir com diferentes aplicativos.

Uma das hipóteses levantadas é que a IA Claude 3.5 poderia, ao ser solicitada para preencher um formulário usando dados disponíveis em tela, gravar informações através de capturas de tela e executar comandos como um humano faria, como realizar compras online. Que medo, não?

Mas engana-se quem pensa que pode fugir dessa tecnologia. Ela está mais perto do que imaginamos! Grandes empresas do ramo, como Asana, Canva e DoorDash já experimentam o Claude em suas atividades diárias. A Replit utiliza essa IA como avaliador de aplicativos. E no Canva, tal inteligência apoia a produção e edição de imagens, tornando o processo mais ágil e eficiente.

Limitações atuais e riscos potenciais

A Anthropic admite que a nova IA Claude ainda apresenta limitações significativas, apresentando falhas ao realizar ações simples, como arrastar arquivos ou interagir com notificações que desaparecem rapidamente. A empresa também está ciente dos riscos associados ao acesso total da inteligência ao computador do usuário. Por isso, sua tecnologia, está em aprimoramento, passando por testes. Estão sendo desenvolvidos classificadores para identificar vulnerabilidades e assegurar mais transparência nas operações.

Comparação com Windows Recall

Windows Recall é uma polêmica ferramenta da Microsoft, numa linha bem parecida com a Claude 3.5, capaz de monitorar a tela dos usuários para realizar tarefas específicas. Em tese, ela poderia acessar informações detalhadas do sistema da máquina do computador. Isso, é claro, levantou muitas questões de vulnerabilidade. Os críticos fizeram muita pressão, temendo ataques de "prompt" que podem manipular IAs para executar ataques cibernéticos. Então a multinacional se viu obrigada a implementar atualizações.

Agora, os usuários podem optar por desinstalar o recurso, que inicialmente não era removível. Além disso, todos os dados coletados serão encriptados e protegidos por um sistema de autenticação (Windows Hello), garantindo que apenas o próprio usuário possa acessá-los.

Outra mudança relevante é que todo o processamento de dados ocorre em um ambiente seguro baseado em virtualização, o que aumenta significativamente a proteção contra malwares. E para reforçar ainda mais a segurança, o Recall passou a permitir filtros para conteúdo confidenciais, como senhas e dados bancários, exibidos no modo InPrivate.

O futuro das IAs no controle de computadores

Tudo bem que a IA Claude é mais ampla e interativa, mas a tecnologia da Microsoft já está consolidade no mercado, começando a ser liberada para participantes do programa Windows Insider e, mais tarde, para usuários de PCs Copilot+. Em breve, o Recall estará disponível para outros dispositivos com suporte adequado. E essa revolução no controle de computadores acontece sem que ainda haja regulamentações claras para proteger os usuários contra abusos potenciais - aqui no Brasil mesmo, estamos muito atrasados nessa discussão.

Por outro lado, começamos a presenciar um momento muito emblemático para a história da tecnologia. O trabalho de empresas como a Anthropic e a Microsoft prova como o uso das IAs tem potencial de transformar o uso de computadores, contribuindo para a automação de tarefas cotidianas, aumentando a eficiência e liberando os trabalhadores de tarefas repetitivas e arriscadas. Precisamos encontrar um jeito de superar os desafios de segurança e privacidade, e aproveitar finalmente as vantagens que as novas tecnologias têm a oferecer.

Veja Também: Microsoft: Inovação com Inteligência Artificial

Fontes: Tecnoblog.

Imagens: Todos os Créditos reservados aos respectivos proprietários (sem direitos autorais pretendidos). Caso eventualmente você se considere titular de direitos sobre algumas das imagens em questão, por favor entre em contato com contato@engenharia360.com para que possa ser atribuído o respectivo crédito ou providenciada a sua remoção, conforme o caso.

Eduardo Mikail

Somos uma equipe de apaixonados por inovação, liderada pelo engenheiro Eduardo Mikail, e com “DNA” na Engenharia. Nosso objetivo é mostrar ao mundo a presença e beleza das engenharias em nossas vidas e toda transformação que podem promover na sociedade.