A plataforma X, antigo Twitter, vem enfrentando grandes dificuldades para a consolidação de sua ferramenta de IA no Brasil, demonstrando que a tecnologia não pode caminhar dissociada do ordenamento jurídico.<\/p> \n
O Grok é uma ferramenta de inteligência artificial generativa desenvolvida pela xAI, empresa pertencente a Elon Musk e integrada à plataforma X.<\/p> \n
Diferentemente de outros modelos de linguagem, o Grok tem a capacidade de acessar informações e publicações da rede social em tempo real, permitindo respostas contextualizadas com acontecimentos recentes do mundo.<\/p> \n
O Grok foi concebido para atuar como uma IA mais informal, característica que acabou ampliando os riscos de desvios em sua utilização prática.<\/p> \n
Quais foram os riscos identificados pelas autoridades?<\/p>\n
Os órgãos federais identificaram que a ferramenta estava sendo utilizada para violar direitos fundamentais e gerar conteúdos ilícitos em massa.<\/p> \n
Foi constatado que usuários da plataforma conseguiam criar imagens falsas, sexualizadas e erotizadas (deepfakes), envolvendo pessoas reais, sem autorização das pessoas retratadas.<\/p> \n
Diante desse cenário, a Secretaria Nacional do Consumidor (Senacon), o Ministério Público Federal (MPF) e a Agência Nacional de Proteção de Dados (ANPD) expediram recomendação conjunta à empresa, exigindo a interrupção imediata da produção desses conteúdos nocivos no território nacional.<\/p> \n
Qual é a preocupação jurídica no caso<\/p>\n
O principal fundamento reside na ausência de filtros de segurança no código da IA, o que, na visão das autoridades, caracteriza grave falha na segurança do produto e na proteção de dados.<\/p> \n
Após a notificação, a plataforma X apresentou justificativas e alegou ter adotado medidas de moderação, como a derrubada de contas e publicações, mas os órgãos governamentais e ministeriais consideraram as respostas insuficientes, por carecerem de dados auditáveis.<\/p> \n
Assim, as autoridades exigiram que a empresa forneça relatório detalhado com métricas, contendo dados quantitativos verificáveis sobre identificação, moderação, remoção e indisponibilização de conteúdos sexualizados, incluindo prazos médios de resposta, sob pena de aplicação de multa diária e de responsabilização civil e criminal dos envolvidos.<\/p> \n
O caso evidencia que a inovação tecnológica, especialmente no campo da inteligência artificial generativa, deve ser acompanhada de governança preventiva, mecanismos eficazes de segurança, transparência técnica e possibilidade de auditoria pelas autoridades competentes.
\nJoão Rafael Mercer Moretini – Advogado no escritório Alceu, Machado Sperb & Bonat Cordeiro Advocacia e pós-graduando em Direito Processual Civil pela PUC\/PR.<\/p> \n","protected":false},"excerpt":{"rendered":"
A plataforma X, antigo Twitter, vem enfrentando grandes dificuldades para a consolidação de sua ferramenta de…<\/p>\n","protected":false},"author":2,"featured_media":549787,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"fifu_image_url":"","fifu_image_alt":"","footnotes":""},"categories":[11,21201],"tags":[],"class_list":["post-549788","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-artigo","category-destaques","wpcat-11-id","wpcat-21201-id"],"_links":{"self":[{"href":"https:\/\/redepress.com.br\/noticias\/wp-json\/wp\/v2\/posts\/549788","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/redepress.com.br\/noticias\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/redepress.com.br\/noticias\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/redepress.com.br\/noticias\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/redepress.com.br\/noticias\/wp-json\/wp\/v2\/comments?post=549788"}],"version-history":[{"count":0,"href":"https:\/\/redepress.com.br\/noticias\/wp-json\/wp\/v2\/posts\/549788\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/redepress.com.br\/noticias\/wp-json\/wp\/v2\/media\/549787"}],"wp:attachment":[{"href":"https:\/\/redepress.com.br\/noticias\/wp-json\/wp\/v2\/media?parent=549788"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/redepress.com.br\/noticias\/wp-json\/wp\/v2\/categories?post=549788"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/redepress.com.br\/noticias\/wp-json\/wp\/v2\/tags?post=549788"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}