Os riscos da IA: segurança de dados no Universo TOTVS

O segundo dia do Universo TOTVS 2025 (mais uma vez) não poderia fugir do tema da inteligência artificial. Quando pensamos em IA no trabalho, normalmente pensamos em computadores em escritórios. Mas os agentes de IA agora já estão nas ruas, até mesmo ajudando vendedores. Por isso, é cada vez mais importante tomar cuidado com seus dados. O assunto esteve em destaque na palestra de abertura desta quarta-feira (18) e em praticamente em tudo nos dois dias de evento.

O Olhar Digital conversou com Bruno Ghisi, cofundador e CTO da RD Station, empresa de soluções digitais para marketing e vendas, que foi adquirida pela TOTVS em 2021.

Ghisi começou falando sobre como a IA evoluiu rapidamente. “No ano passado, aqui no evento, a IA estava em uma salinha. Agora, tudo é IA; para onde você olha, tem IA”, explicou. Isso, claro, representa um desafio para as empresas. A rápida evolução dessa tecnologia em um mercado tão competitivo torna uma verdadeira batalha acompanhar todas as mudanças.

“Estamos trabalhando com IA há mais de dois anos. Só que a coisa vem escalando e exige investimentos — mas não só isso. A tecnologia está evoluindo, e isso permite novas possibilidades. Então, é muito nessa linha”, explicou Ghisi. “Em termos de equipe, às vezes estruturo times totalmente apartados e autônomos para provocar inovação”, completou.

Bruno Ghisi (Imagem: Divulgação/TOTVS)

Agentes de IA para vendas

Os agentes de IA saíram dos computadores e agora já estão smartphones. Ou seja: em qualquer lugar. Um dos mercados que está sendo transformado por essa mudança é o de vendas.

Leia mais:

Entre as novidades apresentadas pela RD Station no evento estão os copilotos: agentes especializados em tarefas específicas que também podem auxiliar quem está longe do computador.

Um agente de inteligência artificial é um sistema programado para agir de forma autônoma e tomar decisões baseadas em seu ambiente, utilizando dados para alcançar um objetivo específico.

Em termos simples, ele é como um “robô digital” que observa seu ambiente, processa informações e executa ações com base em seu entendimento. Esses agentes são criados para simular comportamentos inteligentes, muitas vezes com o objetivo de resolver problemas ou otimizar processos.

“Se usados bem, os copilotos dão superpoderes. Por exemplo, temos um copiloto da RD Station para ajudar o vendedor a ganhar produtividade. Ele consegue conversar pelo WhatsApp, enviando áudios e, com esses áudios, preencher as informações do cliente. Às vezes, o vendedor está viajando por dois ou três dias, então ele ganha eficiência sem precisar preencher tudo manualmente”, explicou Ghisi.

A febre da IA

A inteligência artificial generativa ganhou força nos últimos anos, mas se engana quem pensa que IA é algo novo. Aliás, certamente você já ouviu falar sobre isso muito antes do ChatGPT. E não estamos falando da Skynet destruindo o mundo. O termo, na verdade, foi criado nos anos 40 e desde então as tecnologias do setor vêm evoluindo.

A IA começou a ganhar forma nas empresas com o Machine Learning que, de forma resumida, desenvolve algoritmos capazes de aprender a partir de dados. Em vez de depender exclusivamente de regras pré-programadas, esses sistemas identificam padrões, fazem previsões e tomam decisões com base nas informações que recebem. Mas ao contrário da IA generativa (como o ChatGPT), a máquina não consegue aprender por conta própria.

totvs
Fabiane Nardon (Imagem: Divulgação/TOTVS)

Fabiane Nardon, diretora de Inteligência de Dados da TOTVS, explicou isso em entrevista ao Olhar Digital. “Uma coisa interessante é que a IA na TOTVS não começou há dois anos, ela começou há dez anos. Estava em outras formas. Não tanto com IA generativa, mas muito Machine Learning, que é uma versão anterior”, disse.

“Claro, isso ganhou outro patamar com a IA generativa e uma interface muito simples de usar, mas esses recursos já são explorados há muito tempo. Agora, no entanto, estão mais acessíveis e simples. Uma coisa importante que fazemos é escolher quais áreas realmente precisam da IA e quais não precisam”, completou.

Cuide de seus dados

Especialista em dados, Nardon alerta para os riscos de colocar suas informações em plataformas pouco confiáveis. Dados são o combustível da IA, então todo cuidado é pouco. Com a IA ganhando cada vez mais espaço na vida moderna, garantir a integridade dos dados de treinamento se torna uma prioridade estratégica para prevenir grandes riscos de segurança.

“Você vê as pessoas que ficam colocando suas fotos, seus dados, em serviços pouco confiáveis”, o exemplo que Nardon cita é algo que virou corriqueiro nas redes sociais, aliás, até mesmo febre, mas isso tem um preço.

“Então eu acho que as pessoas ainda não entenderam o risco de você entregar essas informações”, finaliza a especialista, alertando para que as pessoas escolham bem o serviço em que colocam suas informações.

Por isso, especialistas em segurança digital recomendam cautela. Evite incluir informações sensíveis, como CPF, senhas, documentos e qualquer coisa que você não gostaria que caísse na rede. E, sempre que possível, use os modos temporários ou anônimos desses serviços.

É preciso sempre pesquisar a procedência da empresa e ficar atento, ferramentas gratuitas também tendem a serem mais perigosas já que, se você não está pagando com dinheiro, provavelmente está pagando com seus dados.

O post Os riscos da IA: segurança de dados no Universo TOTVS apareceu primeiro em Olhar Digital.

Deixe um comentário

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *

Rolar para cima