{"id":381144,"date":"2023-07-19T16:54:45","date_gmt":"2023-07-19T16:54:45","guid":{"rendered":"https:\/\/redepress.ecompare.com.br\/noticias\/?p=381144"},"modified":"2023-07-20T02:05:57","modified_gmt":"2023-07-20T02:05:57","slug":"clm-lista-praticas-que-expoem-dados-confidenciais-no-chatgpt","status":"publish","type":"post","link":"https:\/\/redepress.com.br\/noticias\/2023\/07\/clm-lista-praticas-que-expoem-dados-confidenciais-no-chatgpt\/","title":{"rendered":"CLM lista pr\u00e1ticas que exp\u00f5em dados confidenciais no ChatGPT"},"content":{"rendered":"<p style=\"text-align: center\"><em>CLM e Skyhigh relacionam medidas para salvaguardar a exposi&ccedil;&atilde;o de informa&ccedil;&otilde;es cr&iacute;ticas nos aplicativos de Intelig&ecirc;ncia Artificial generativa<\/em><\/p>\n<p>&nbsp;<\/p>\n<p>Ao usar o <strong>ChatGPT <\/strong>usu&aacute;rios podem inadvertidamente passar dados confidenciais constituindo uma s&eacute;ria amea&ccedil;a &agrave; seguran&ccedil;a f&iacute;sica e cibern&eacute;tica das empresas.<\/p>&nbsp;&nbsp;\n<p>&nbsp;<\/p>\n<p>A <a href=\"http:\/\/www.clm.tech\/\">CLM<\/a>, distribuidor latino-americano de valor agregado com foco em seguran&ccedil;a da informa&ccedil;&atilde;o, prote&ccedil;&atilde;o de dados, cloud e infraestrutura para data centers, <strong>lista<\/strong> <strong>os principais pontos de aten&ccedil;&atilde;o ao se usar estas ferramentas.<\/strong> E, juntamente com a Skyhigh, l&iacute;der global em ciberseguran&ccedil;a, descreve <strong>as melhores pr&aacute;ticas e tecnologias<\/strong>, como CASB<a href=\"#_edn1\" name=\"_ednref1\">[i]<\/a> e DLP<a href=\"#_edn2\" name=\"_ednref2\">[ii]<\/a>, para que n&atilde;o haja a exposi&ccedil;&atilde;o de informa&ccedil;&otilde;es cr&iacute;ticas.<\/p>&nbsp;&nbsp;\n<p>&nbsp;<\/p>\n<p>Como se sabe, apps de Intelig&ecirc;ncia Artificial Generativa, como o ChatGPT, de fato, melhoram a produtividade dos neg&oacute;cios, facilitam in&uacute;meras tarefas, aprimoram servi&ccedil;os e simplificam opera&ccedil;&otilde;es. Seus recursos geram conte&uacute;do, traduzem textos, processam grandes quantidades de dados, criam planos financeiros rapidamente, depuram e escrevem c&oacute;digos de programas etc.<\/p>&nbsp;&nbsp;\n<p>&nbsp;<\/p>\n<p>No entanto, Bruno Okubo, Gerente de Produtos Skyhigh na CLM, indaga: ser&aacute; que aproveitar as in&uacute;meras facilidades desses aplicativos compensa os riscos significativos de exposi&ccedil;&atilde;o de dados confidenciais, sejam de empresas ou de pessoas? &ldquo;Mesmo com as inova&ccedil;&otilde;es e progressos que a OpenIA incorporou ao ChatGPT, com o novo algoritmo GPT-4, a nova vers&atilde;o sofre com os mesmos problemas que atormentaram os usu&aacute;rios da vers&atilde;o anterior, especialmente quanto &agrave; seguran&ccedil;a das informa&ccedil;&otilde;es&rdquo;, adverte Okubo.<\/p>&nbsp;&nbsp;\n<p>&nbsp;<\/p>\n<p>Para n&atilde;o aumentar ainda mais o risco de viola&ccedil;&atilde;o de dados corporativos e consequentemente a n&atilde;o conformidade &agrave; LGPD, por exemplo, a CLM <strong>lista alguns exemplos de como dados confidenciais podem ser expostos no ChatGPT<\/strong> e em outros aplicativos de IA baseados em nuvem:<\/p>\n<p>&nbsp;<\/p>\n<ul>\n<li>O texto com PII (personally identifiable information ou informa&ccedil;&otilde;es de identifica&ccedil;&atilde;o pessoal) pode ser copiado e colado no ChatGPT para gerar ideias de e-mail, respostas a consultas de clientes, cartas personalizadas, verifica&ccedil;&atilde;o de an&aacute;lise de sentimento<\/li>\n<\/ul>\n<p>&nbsp;<\/p>\n<ul>\n<li>Informa&ccedil;&otilde;es de sa&uacute;de digitadas no chatbot para elaborar planos de tratamento individualizados, incluindo imagens m&eacute;dicas, como tomografia computadorizada e resson&acirc;ncia magn&eacute;tica, podem ser processadas e aprimoradas gra&ccedil;as &agrave; IA<\/li>\n<\/ul>\n<p>&nbsp;<\/p>\n<ul>\n<li>O c&oacute;digo-fonte propriet&aacute;rio pode ser carregado por desenvolvedores de software para depura&ccedil;&atilde;o, conclus&atilde;o de c&oacute;digo, legibilidade e melhorias de desempenho<\/li>\n<\/ul>\n<p>&nbsp;<\/p>\n<ul>\n<li>Arquivos contendo segredos da empresa, como rascunhos de relat&oacute;rios de ganhos, documentos de fus&otilde;es e aquisi&ccedil;&otilde;es (M&amp;A), an&uacute;ncios de pr&eacute;-lan&ccedil;amentos e outros dados confidenciais podem ser carregados para verifica&ccedil;&atilde;o de gram&aacute;tica e escrita<\/li>\n<\/ul>\n<p>&nbsp;<\/p>\n<ul>\n<li>Informa&ccedil;&otilde;es financeiras como transa&ccedil;&otilde;es corporativas, receitas operacionais n&atilde;o divulgadas, n&uacute;meros de cart&atilde;o de cr&eacute;dito, classifica&ccedil;&otilde;es de cr&eacute;dito de clientes, extratos e hist&oacute;ricos de pagamento podem ser inclu&iacute;dos no ChatGPT para fazer o planejamento financeiro, processamento de documentos, integra&ccedil;&atilde;o de clientes, s&iacute;ntese de dados, conformidade, detec&ccedil;&atilde;o de fraude etc.<\/li>\n<\/ul>\n<p>&nbsp;<\/p>\n<p>Fato &eacute; que, depois de inserir essas informa&ccedil;&otilde;es, o risco de viola&ccedil;&atilde;o de dados &eacute; significativo. &ldquo;As empresas precisam adotar medidas de preven&ccedil;&atilde;o com muita seriedade para proteger seus dados confidenciais, especialmente se considerarmos as modernas ferramentas habilitadas para nuvem&rdquo;, explica o especialista.<\/p>&nbsp;&nbsp;\n<p>&nbsp;<\/p>\n<p>A CLM e a Skyhigh elaboraram uma <strong>rela&ccedil;&atilde;o de provid&ecirc;ncias para evitar vazamentos<\/strong>.<\/p>&nbsp;&nbsp;\n<p>&nbsp;<\/p>\n<ul>\n<li><strong>Monitorar o uso e os excessos<\/strong> na utiliza&ccedil;&atilde;o de aplicativos e limitar a exposi&ccedil;&atilde;o de informa&ccedil;&otilde;es confidenciais por meio deles, al&eacute;m de proteger esses documentos de perdas acidentais, vazamentos e roubo<\/li>\n<\/ul>\n<p>&nbsp;<\/p>\n<ul>\n<li>&Eacute; essencial <strong>garantir a visibilidade<\/strong> de tudo que acontece na rede corporativa, com a ado&ccedil;&atilde;o de ferramentas automatizadas que monitoram continuamente quais aplicativos (como ChatGPT) os usu&aacute;rios corporativos tentam acessar, como, quando, de onde, com que frequ&ecirc;ncia etc.<\/li>\n<\/ul>\n<p>&nbsp;<\/p>\n<p><em>&ldquo;A &uacute;nica maneira de uma organiza&ccedil;&atilde;o ter a mais ampla visibilidade de sua rede e introduzir medidas para controlar o uso e o acesso a esses milhares de novos aplicativos &eacute; adotar tecnologias de seguran&ccedil;a que protejam automaticamente dados confidenciais, como o CASB &ndash; Cloud Access Security Broker,&rdquo; assinala Okubo.<\/em><\/p>\n<p>&nbsp;<\/p>\n<ul>\n<li>&Eacute; essencial <strong>entender os diferentes n&iacute;veis de risco<\/strong> que cada aplicativo representa para a organiza&ccedil;&atilde;o e ter capacidade de <strong>definir granularmente as pol&iacute;ticas de controle de acesso<\/strong> em tempo real com base em categoriza&ccedil;&otilde;es e condi&ccedil;&otilde;es de seguran&ccedil;a que podem mudar ao longo do tempo<\/li>\n<\/ul>\n<p>&nbsp;<\/p>\n<ul>\n<li>Embora os aplicativos mais explicitamente maliciosos devam ser bloqueados, quando se trata de controle de acesso, muitas vezes a <strong>responsabilidade do uso de aplicativos como o ChatGPT deve ser atribu&iacute;da aos usu&aacute;rios<\/strong>. A empresa, ent&atilde;o, tolera e n&atilde;o necessariamente interrompe atividades que possam fazer sentido para um subconjunto de grupos de neg&oacute;cio grupos ou para a maioria deles<\/li>\n<\/ul>\n<p>&nbsp;<\/p>\n<ul>\n<li><strong>Adotar pol&iacute;ticas de controle de acesso<\/strong> que incluam fluxos de trabalho de treinamento em tempo real, acionados toda vez que os usu&aacute;rios abrem o ChatGPT, como pop-ups de aviso personaliz&aacute;veis que oferecem orienta&ccedil;&atilde;o sobre o uso respons&aacute;vel do aplicativo, o risco potencial associado e uma solicita&ccedil;&atilde;o de reconhecimento ou justificativa<\/li>\n<\/ul>\n<p>&nbsp;<\/p>\n<ul>\n<li><strong>Gerenciar a movimenta&ccedil;&atilde;o n&atilde;o intencional ou n&atilde;o aprovada de dados confidenciais<\/strong> entre inst&acirc;ncias de aplicativos em nuvem e no contexto de risco, tanto do aplicativo como do usu&aacute;rio<\/li>\n<\/ul>\n<p>&nbsp;<\/p>\n<ul>\n<li>Embora o acesso ao ChatGPT possa ser concedido, &eacute; fundamental <strong>limitar o upload e a postagem de dados altamente confidenciais<\/strong> por meio do ChatGPT e outros vetores de exposi&ccedil;&atilde;o de dados potencialmente arriscados na nuvem<\/li>\n<\/ul>\n<p>&nbsp;<\/p>\n<p><em>A Skyhigh explica que a limita&ccedil;&atilde;o de uploads e de postagens de dados confidenciais por meio do ChatGPT s&oacute; podem ser feitas por meio de t&eacute;cnicas modernas de preven&ccedil;&atilde;o de perda de dados (DLP &ndash; data loss prevention), alimentadas por modelos de ML e AI, e que sejam capazes de identificar automaticamente fluxos de dados confidenciais e categorizar postagens com o mais alto n&iacute;vel de precis&atilde;o.<\/em><\/p>\n<p>&nbsp;<\/p>\n<ul>\n<li><strong>Conscientizar os colaboradores sobre aplicativos e atividades consideradas arriscadas.<\/strong> Isso pode ser feito principalmente por meio de alertas em tempo real e fluxos de trabalho de treinamento automatizados, envolvendo o usu&aacute;rio nas decis&otilde;es de acesso ap&oacute;s o reconhecimento do risco.<\/li>\n<\/ul>\n<p>&nbsp;<\/p>\n<p><em>&ldquo;Seres humanos cometem erros. Assim, os usu&aacute;rios podem colocar dados confidenciais em risco, muitas vezes, sem perceber. A precis&atilde;o das <strong>ferramentas DLP, fornecidas na nuvem,<\/strong> garantem que o sistema apenas monitore e impe&ccedil;a uploads de dados confidenciais (incluindo arquivos e textos copiados e colados que ficam na &aacute;rea de transfer&ecirc;ncia) em aplicativos como o ChatGPT, sem interromper consultas inofensivas e tarefas seguras&rdquo;, alerta Okubo.<\/em><\/p>\n<p>&nbsp;<\/p>\n<p>Vale mencionar que a interrup&ccedil;&atilde;o seletiva de uploads e postagens de informa&ccedil;&otilde;es confidenciais no ChatGPT, com a inclus&atilde;o de mensagens visuais de treinamento automatizadas e em tempo real s&atilde;o maneiras de orientar os colaboradores sobre viola&ccedil;&otilde;es, informar sobre pol&iacute;ticas de seguran&ccedil;a corporativa e, em &uacute;ltima inst&acirc;ncia, mitigar comportamentos de risco.<\/p>&nbsp;&nbsp;\n<p><a href=\"#_ednref1\" name=\"_edn1\">[i]<\/a> Cloud Access Security Broker (CASB) protege dados e interrompe amea&ccedil;as na nuvem em SaaS, PaaS e IaaS a partir de um &uacute;nico ponto de aplica&ccedil;&atilde;o nativo da nuvem. &Eacute; uma ferramenta ou servi&ccedil;o de software que fica entre a infraestrutura local de uma organiza&ccedil;&atilde;o e a infraestrutura de um provedor de nuvem, atuando como um gatekeeper, que permite que a empresa estenda o alcance de suas pol&iacute;ticas de seguran&ccedil;a al&eacute;m de sua pr&oacute;pria infraestrutura.<\/p>&nbsp;&nbsp;\n<p><a href=\"#_ednref2\" name=\"_edn2\">[ii]<\/a> DLP (Data Loss Prevention), ou preven&ccedil;&atilde;o de perda de dados, previne a perda de dados ao detectar poss&iacute;veis viola&ccedil;&otilde;es por meio da filtragem e monitoramento. A solu&ccedil;&atilde;o bloqueia o tr&aacute;fego de dados confidenciais enquanto est&atilde;o em uso, em movimento e em repouso.<\/p>&nbsp;&nbsp;\n","protected":false},"excerpt":{"rendered":"<p>CLM e Skyhigh relacionam medidas para salvaguardar a exposi&ccedil;&atilde;o de informa&ccedil;&otilde;es cr&iacute;ticas nos aplicativos de Intelig&ecirc;ncia&hellip;<\/p>\n","protected":false},"author":4,"featured_media":381143,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"fifu_image_url":"","fifu_image_alt":"","footnotes":""},"categories":[21201,1],"tags":[13798,16456],"class_list":["post-381144","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-destaques","category-eventos","tag-ciberseguranca","tag-clm","wpcat-21201-id","wpcat-1-id"],"_links":{"self":[{"href":"https:\/\/redepress.com.br\/noticias\/wp-json\/wp\/v2\/posts\/381144","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/redepress.com.br\/noticias\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/redepress.com.br\/noticias\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/redepress.com.br\/noticias\/wp-json\/wp\/v2\/users\/4"}],"replies":[{"embeddable":true,"href":"https:\/\/redepress.com.br\/noticias\/wp-json\/wp\/v2\/comments?post=381144"}],"version-history":[{"count":0,"href":"https:\/\/redepress.com.br\/noticias\/wp-json\/wp\/v2\/posts\/381144\/revisions"}],"wp:attachment":[{"href":"https:\/\/redepress.com.br\/noticias\/wp-json\/wp\/v2\/media?parent=381144"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/redepress.com.br\/noticias\/wp-json\/wp\/v2\/categories?post=381144"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/redepress.com.br\/noticias\/wp-json\/wp\/v2\/tags?post=381144"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}