E-mails, telefones e 34 milhões de registros de conversas foram supostamente expostos, acendendo um alerta sobre os riscos ocultos dos chatbots de IA
CLM, distribuidor latino-americano de valor agregado com foco em segurança da informação, proteção de dados, cloud e infraestrutura para data centers, repercute o alerta feito pela Skyhigh, líder global em cibersegurança, sobre um suposto vazamento de dados de 20 mil usuários do chatbot de IA OmniGPT. A informação foi publicada em um fórum de violações (hackhead.com), acendendo um alerta sobre os riscos envolvidos nessas interações.
Um hacker disse ter se infiltrado no OmniGPT, expondo dados pessoais de usuários, incluindo e-mails, números de telefone e mais de 34 milhões de linhas de prompts e conversas. Além dos chats dos usuários, os dados expostos também incluem links para arquivos enviados, alguns dos quais contêm informações confidenciais, como credenciais, prompts, detalhes de cobrança e chaves de API.
Para o CEO da CLM, Francisco Camargo, o uso dessas ferramentas cresce continuamente. Basta pensar que quase a totalidade dos atendimentos dos mais diversos serviços já adotou esse modelo de chat nas interações com clientes, que trocam todo tipo de informação. “O grande volume de dados pessoais, financeiros e a conversação trocados com esses sistemas de IA significa que uma violação pode ter consequências incalculáveis, afetando a segurança pessoal e a confiabilidade desses serviços”, adverte.
Mas, será que esses sistemas podem realmente proteger os dados dos usuários? Segundo Camargo: “queremos sigilo e confiança nas nossas conversas com outros humanos, queremos ter o mesmo sigilo e confiança nas conversas com as IA, que cada vez se parecem mais humanas”.
Segundo a Skyhigh, centenas (senão milhares) de novos serviços de IA surgem semanalmente e as equipes de cibersegurança, já sobrecarregadas, não conseguem acompanhar o ritmo.
Ao mesmo tempo, as pessoas têm uma tendência de tratar chatbots de IA como um repositório casual para toda e qualquer informação, tornando essas plataformas verdadeiras “caixas pretas”, onde o usuário praticamente não tem percepção de como seus dados são manipulados, armazenados ou protegidos.
“Essa desconexão entre percepção e realidade pode ter consequências devastadoras quando dados sensíveis, como documentos carregados, chaves de API e detalhes pessoais vazam, como vimos no caso do OmniGPT, alerta a Skyhigh”.
Os usuários não sabem como podem evitar essas violações
A acessibilidade e a conveniência dos chatbots e serviços de criatividade com tecnologia de IA os tornaram parte integrante da vida das pessoas, mas o mais preocupante aqui é que estas violações aconteceram no back-end do serviço. Isso mostra que os usuários ou consumidores não poderiam ter feito nada para evitá-la.
Especialistas em cibersegurança da CLM avaliam que a segurança da informação precisa acompanhar o ritmo de crescimento desses sistemas. A verdadeira questão agora não é o quão úteis eles são – mas se estes sistemas podem realmente proteger os dados que confiamos a eles.
Assim, a conscientização dos usuários sobre segurança é fundamental. Muitas pessoas ainda não conhecem os riscos associados à inserção de informações confidenciais em serviços de chatbot de IA ou plataformas em nuvem.
Educar os usuários sobre o potencial uso indevido de dados e enfatizar o cuidado ao compartilhar dados pessoais ou confidenciais pode ajudar muito a reduzir a sua exposição, treinamento de usuários sobre riscos e cibersegurança é a base da soberania digital de qualquer país.
Parece lógico que o foco da defesa deva mudar para abarcar também os riscos subjacentes, priorizando a proteção de dados confidenciais, independentemente do serviço com o qual eles estão sendo compartilhados. No entanto, embora a IA impulsione a eficiência e a inovação, ela também apresenta desafios como violações de dados, violações de conformidade e uso de IA sombra. A rápida adoção da IA frequentemente ultrapassa a governança, deixando as organizações vulneráveis a riscos de reputação, financeiros e legais sem medidas de segurança adequadas.
Tratar a IA com o mesmo rigor que outros ativos do ambiente corporativo é um caminho a ser seguido. Ter visibilidade é essencial nessa jornada.
