A intelig\u00eancia artificial (IA) parece estar em todos os lugares e tem recebido tanto investimento quanto bastante aten\u00e7\u00e3o da m\u00eddia. Mas ser\u00e1 que a IA \u00e9 s\u00f3 uma moda passageira? Ou ser\u00e1 que vai mudar praticamente toda nossa forma de criar e trabalhar? De quem s\u00e3o os dados de entrada e os resultados?<\/p>\n
Acredita-se que o desenvolvimento de IA se apoie nos pilares de algoritmos, hardware e dados<\/a>. Os dados s\u00e3o o pilar menos “garantido”, e o consentimento do usu\u00e1rio \u00e9 uma parte importante da equa\u00e7\u00e3o.<\/p>\n O r\u00e1pido avan\u00e7o do treinamento da IA e dos usos dessa tecnologia suscitou preocupa\u00e7\u00f5es sobre o consentimento do usu\u00e1rio e implica\u00e7\u00f5es \u00e9ticas com rela\u00e7\u00e3o ao uso dos dados pessoais. Se os dados dos usu\u00e1rios forem usados para treinar a IA, os usu\u00e1rios ter\u00e3o direitos sobre os resultados? As organiza\u00e7\u00f5es que precisam de dados de treinamento da IA devem obter consentimento para dados j\u00e1 publicados on-line? Para quantos fins granulares os provedores de servi\u00e7os ou ferramentas de IA devem obter consentimento expl\u00edcito dos usu\u00e1rios?<\/p>\n\n\n IA \u00e9 o desenvolvimento de m\u00e1quinas que podem executar tarefas que normalmente exigem intelig\u00eancia humana. Isso inclui \u00e1reas como reconhecimento de texto ou fala, solu\u00e7\u00e3o de problemas e tomada de decis\u00f5es. O desenvolvimento de IA geralmente requer a entrada de grandes quantidades de dados para ajudar os sistemas a “aprenderem”.<\/p>\n O aprendizado de m\u00e1quina \u00e9 um subconjunto da IA que se concentra no desenvolvimento de algoritmos e modelos que permitem que os computadores aprendam com dados e fa\u00e7am previs\u00f5es ou decis\u00f5es sem serem explicitamente programados. \u00c9 uma maneira de os computadores “aprenderem” com exemplos e melhorarem o pr\u00f3prio desempenho ao longo do tempo.<\/p>\n Os grandes modelos de linguagem s\u00e3o um avan\u00e7o recente na pesquisa de IA. Eles t\u00eam como objetivo entender e gerar linguagem semelhante \u00e0 humana. O ChatGPT, da OpenAI, e o Bard, do Google, s\u00e3o exemplos de LLMs dispon\u00edveis ao p\u00fablico. Algumas ferramentas desenvolvidas por meio do uso delas podem ser empregadas para SEO, conte\u00fado de marketing e outros fins comerciais.<\/p>\n O objetivo do treinamento de um LLM \u00e9 permitir que ele entenda a estrutura, o significado e o contexto da linguagem humana, que, para uma \u00fanica utiliza\u00e7\u00e3o, permite respostas mais precisas quando consultado pelas pessoas.<\/p>\n Os LLMs s\u00e3o treinados com grandes quantidades de texto de fontes como livros, artigos, sites etc. At\u00e9 o momento, houve problemas de privacidade de dados com o conte\u00fado sendo capturado e analisado sem o consentimento dos criadores ou propriet\u00e1rios. Existe a possibilidade de que os dados acessados sejam confidenciais, al\u00e9m de terem sido usados sem consentimento.<\/p>\n\n\n O treinamento da IA, tamb\u00e9m conhecido como treinamento de aprendizado de m\u00e1quina, refere-se ao processo de ensino de um sistema de IA para aprender padr\u00f5es e fazer previs\u00f5es ou tomar decis\u00f5es com base nos dados fornecidos a ele. O treinamento \u00e9 fundamental para o desenvolvimento de sistemas de IA que possam executar tarefas espec\u00edficas, reconhecer padr\u00f5es, fornecer informa\u00e7\u00f5es precisas ou fazer julgamentos conscientes.<\/p>\n O processo de treinamento passa por uma s\u00e9rie de etapas. Em resumo, eles come\u00e7am com a aquisi\u00e7\u00e3o de dados relevantes e a prepara\u00e7\u00e3o para o uso e seguem com a sele\u00e7\u00e3o do que o modelo far\u00e1 com conjuntos de dados de treinamento da IA, a entrada e an\u00e1lise de dados. Depois, h\u00e1 um trabalho para fazer resultados ou previs\u00f5es corresponderem a resultados reais ou melhorar a precis\u00e3o e garantir que o modelo de IA funcione bem em qualquer conjunto de dados, incluindo dados do mundo real, e n\u00e3o apenas em dados de treinamento da IA. Os modelos de IA t\u00eam de passar por todas as etapas antes de estarem prontos para uma utiliza\u00e7\u00e3o mais ampla.<\/p>\n As organiza\u00e7\u00f5es podem levantar d\u00favidas sobre o que define o “uso” de dados pessoais. Quantas altera\u00e7\u00f5es s\u00e3o necess\u00e1rias para que esses dados deixem de ser pessoais? Por exemplo, para colocar os dados em um formato que o modelo de treinamento poderia usar, ele pode ter que ser transformado a partir do formato no qual estava quando foi coletado. Al\u00e9m disso, uma organiza\u00e7\u00e3o precisa obter consentimento para usar dados na hora de treinar modelos de IA mesmo que seja apenas para pesquisa e n\u00e3o para fins comerciais? Talvez ningu\u00e9m mais, mas os pesquisadores certamente ter\u00e3o acesso a eles.<\/p>\n\n\n A IA pode ser treinada com muitos tipos de dados. O que os instrutores precisam pode depender do que o sistema deve ser capaz de fazer, por exemplo, responder perguntas, tomar decis\u00f5es, gerar gr\u00e1ficos ou texto etc.<\/p>\n Alguns tipos comuns de dados de treinamento para IA s\u00e3o:<\/p>\n Muitos desses tipos de dados de treinamento de IA s\u00e3o explicitamente mencionados nas leis de privacidade de dados. Muitos s\u00e3o tipos de dados pessoais, e alguns s\u00e3o dados PII<\/a> (informa\u00e7\u00f5es de identifica\u00e7\u00e3o pessoal). Alguns desses tipos de dados tamb\u00e9m s\u00e3o categorizados de acordo com as leis de privacidade como confidenciais, o que significa que eles podem causar maiores danos se acessados ou usados sem autoriza\u00e7\u00e3o.<\/p>\n Informa\u00e7\u00f5es de sa\u00fade, gen\u00f4micas e financeiras s\u00e3o exemplos particularmente importantes de dados pessoais confidenciais. Os dados confidenciais geralmente exigem o consentimento do usu\u00e1rio para coletar ou usar de acordo com a lei de privacidade de dados, enquanto os dados pessoais, mas n\u00e3o confidenciais, \u00e0s vezes s\u00f3 exigem consentimento antes de serem vendidos ou usados para publicidade direcionada, cria\u00e7\u00e3o de perfis etc.<\/p>\n Tamb\u00e9m \u00e9 importante observar que nem todos os lotes de dados de treinamento s\u00e3o iguais. Qualidade, quantidade, diversidade e permiss\u00e3o de uso podem variar muito. Isso pode ter um impacto grande no “aprendizado” e no desempenho dos sistemas e significar que \u00e9 necess\u00e1rio consentimento para usar alguns tipos de dados no lote de treinamento, mas n\u00e3o para outros. Dados mal equilibrados ou n\u00e3o diversificados tamb\u00e9m podem produzir resultados distorcidos, \u00e0s vezes com resultados ofensivos ou legalmente prec\u00e1rios, como sistemas que produzem recomenda\u00e7\u00f5es discriminat\u00f3rias ou identifica\u00e7\u00e3o imprecisa.<\/p>\n Muitas leis de privacidade estabelecem que os titulares dos dados t\u00eam o direito de exigir que seus dados sejam corrigidos pela entidade que os coletou se estiverem incompletos ou imprecisos. E se seus dados estiverem corretos, mas forem usados para produzir resultados imprecisos? Quais s\u00e3o os direitos? Os usos dessas tecnologias representam muitas quest\u00f5es complexas para os reguladores que incluem a \u00e9tica da automa\u00e7\u00e3o.<\/p>\n\n\n A Gartner, empresa de pesquisa, previu que, at\u00e9 o final de 2023, 65% da popula\u00e7\u00e3o mundial<\/a> ter\u00e1 seus dados pessoais protegidos por regulamenta\u00e7\u00f5es de privacidade de dados. At\u00e9 2024, a previs\u00e3o \u00e9 de que o n\u00famero ser\u00e1 de 75%<\/a>. As \u00fanicas coisas que mudam mais rapidamente do que a cobertura de regulamenta\u00e7\u00e3o de privacidade s\u00e3o a pr\u00f3pria tecnologia e as demandas de dados. Isso alimenta de tudo, desde inova\u00e7\u00f5es cient\u00edficas at\u00e9 campanhas de marketing.<\/p>\n Mas os dados n\u00e3o s\u00e3o como o ar. N\u00e3o existem livremente para qualquer pessoa usar. Muitos dos dados existentes e aos quais as organiza\u00e7\u00f5es desejam ter acesso s\u00e3o gerados pelas pessoas, que, portanto, t\u00eam direitos sobre prote\u00e7\u00e3o e acesso a eles. Os consumidores est\u00e3o cada vez mais familiarizados com a privacidade de dados e seus direitos em rela\u00e7\u00e3o aos dados pessoais. Mesmo que n\u00e3o entendam como os sistemas de IA e outras fun\u00e7\u00f5es funcionam em detalhes.<\/p>\n Com a aprova\u00e7\u00e3o de mais legisla\u00e7\u00e3o de privacidade em todo o mundo, as organiza\u00e7\u00f5es precisam ser cada vez mais cuidadosas ao cumprir suas responsabilidades de privacidade de dados. Multas potencialmente enormes<\/a>, como algumas das aplicadas ao abrigo do Regulamento Geral de Prote\u00e7\u00e3o de Dados (RGPD)<\/a> da Uni\u00e3o Europeia, tamb\u00e9m mostram como \u00e9 importante levar a s\u00e9rio as normas de privacidade e os direitos dos consumidores.<\/p>\n Existem cada vez mais potenciais fontes de dados de usu\u00e1rios, especialmente on-line, como de plataformas e aplicativos sociais. Tamb\u00e9m pode ser complicado para as empresas determinarem suas responsabilidades de privacidade de dados quando ela est\u00e1 sediada em um s\u00f3 lugar, mas tem usu\u00e1rios em todo o mundo. Isso pode tornar uma organiza\u00e7\u00e3o respons\u00e1vel por cumprir v\u00e1rias normas de privacidade diferentes. Muitas dessas leis s\u00e3o extraterritoriais, e nesse caso s\u00f3 importa onde os usu\u00e1rios estejam localizados em rela\u00e7\u00e3o a direitos e prote\u00e7\u00f5es, n\u00e3o \u00e0s empresas.<\/p>\n Muitos consumidores n\u00e3o sabem quantos dados criam diariamente, quem pode ter acesso a eles e como podem ser usados. As crian\u00e7as podem n\u00e3o prestar aten\u00e7\u00e3o ou compreender totalmente a gera\u00e7\u00e3o ou o processamento de dados do usu\u00e1rio, embora a maioria das leis de privacidade de dados exija prote\u00e7\u00f5es e consentimento extras para o acesso aos dados de menores de idade. Esse consentimento geralmente deve ser obtido de um dos pais ou de um respons\u00e1vel legal se a crian\u00e7a estiver abaixo de um determinado limite de idade determinado por lei.<\/p>\n Algumas leis de privacidade de dados n\u00e3o cobrem dados pessoais que as pessoas disponibilizam publicamente, o que pode incluir aqueles gerados em plataformas sociais. Talvez publica\u00e7\u00f5es, coment\u00e1rios e fotos n\u00e3o sejam uma grande preocupa\u00e7\u00e3o de privacidade para alguns. Mas e quanto a mensagens particulares ou chats? Eles podem conter material muito mais sens\u00edvel.<\/p>\n Depois que os dados forem coletados, idealmente com o consentimento do usu\u00e1rio, as pessoas devem saber o que acontece com eles. \u00c9 uma condi\u00e7\u00e3o da maioria das leis de privacidade que o controlador, a entidade respons\u00e1vel por coletar e usar os dados, avise aos usu\u00e1rios sobre quais dados ser\u00e3o coletados e para quais finalidades. Se esses objetivos mudarem, sob muitas leis de privacidade, o controlador dever\u00e1 notificar os usu\u00e1rios e obter um novo consentimento. Com o treinamento da IA, isso pode exigir muitos detalhes granulares e pode mudar com frequ\u00eancia.<\/p>\n\n\n Como os sistemas de IA ainda s\u00e3o, muitas vezes, experimentais e com resultados imprevis\u00edveis, podem dificultar alguns requisitos de privacidade de dados. As organiza\u00e7\u00f5es podem notificar os usu\u00e1rios sobre como desejam usar os dados, mas \u00e9 poss\u00edvel que os dados realmente sejam usados, ou como eles podem ser alterados, ou os resultados do uso podem ser diferentes.<\/p>\n Embora os usu\u00e1rios devam ser notificados antes que qualquer novo prop\u00f3sito seja implementado, aqueles que fazem o trabalho podem n\u00e3o saber da mudan\u00e7a at\u00e9 que ela tenha ocorrido. Se os dados estiverem sendo analisados em grandes quantidades em tempo real, os mecanismos tradicionais para obter o consentimento do usu\u00e1rio, como banners de cookies, podem n\u00e3o ser r\u00e1pidos ou granulares o suficiente.<\/p>\n Os sistemas de IA voltados para o usu\u00e1rio podem ser potencialmente manipuladores, resultando no fornecimento de informa\u00e7\u00f5es que os usu\u00e1rios n\u00e3o preveem. Os sistemas tamb\u00e9m podem apresentar conex\u00f5es mais sofisticadas e nebulosas entre os pontos de dados, permitindo a identifica\u00e7\u00e3o e o perfil em um n\u00edvel que n\u00e3o vimos anteriormente. Isso pode transformar praticamente todos os dados em dados pessoais identific\u00e1veis ou confidenciais. Os requisitos de consentimento atuais podem n\u00e3o resolver isso adequadamente.<\/p>\n Embora as fun\u00e7\u00f5es de interface do usu\u00e1rio manipuladoras e de experi\u00eancia do usu\u00e1rio comumente conhecidas como padr\u00f5es escuros<\/a> estejam cada vez mais reprovadas e, em alguns casos, tenham sofrido regulamenta\u00e7\u00e3o, as pessoas tendem a se concentrar em t\u00e1ticas que j\u00e1 s\u00e3o conhecidas. O design responsivo pode permitir o desenvolvimento de maneiras novas e mais sofisticadas de manipular usu\u00e1rios.<\/p>\n\n\n A popular plataforma de videoconfer\u00eancia Zoom atualizou seus termos de servi\u00e7o (TOS) em mar\u00e7o de 2023, o que \u00e9 comum para uma empresa. No entanto, duas se\u00e7\u00f5es pareciam ter amplas implica\u00e7\u00f5es para as permiss\u00f5es do Zoom em rela\u00e7\u00e3o aos dados do usu\u00e1rio, chamados de “dados gerados pelo Servi\u00e7o”, que incluem telemetria, uso do produto, diagn\u00f3stico e dados ou conte\u00fado semelhantes gerados com o uso do Zoom e que a empresa coleta durante o uso da plataforma.<\/p>\n Os termos de servi\u00e7o atualizados forneciam todos os direitos aos dados gerados pelo Servi\u00e7o para Zoom, incluindo direitos de modifica\u00e7\u00e3o, distribui\u00e7\u00e3o, processo, compartilhamento, manuten\u00e7\u00e3o e armazenamento dos dados “para qualquer finalidade, na medida e na extens\u00e3o permitida pela lei aplic\u00e1vel”. O direito do Zoom de usar dados do usu\u00e1rio para aprendizado de m\u00e1quina e intelig\u00eancia artificial, incluindo modelos e algoritmos de treinamento e ajuste, foi mencionado explicitamente.<\/p>\n Portanto, o Zoom pode coletar uma variedade de dados do usu\u00e1rio do uso de sua plataforma e aplic\u00e1-los a muitas finalidades, incluindo treinamento em IA, sem a necessidade de obter o consentimento expl\u00edcito dos usu\u00e1rios ou permitir que eles optem por n\u00e3o participar.<\/p>\n Isso pode ser legal de acordo com as leis de privacidade atuais nos Estados Unidos, onde a Zoom est\u00e1 sediada (o pa\u00eds n\u00e3o tem uma \u00fanica lei federal, mas uma s\u00e9rie de leis estaduais), mas n\u00e3o \u00e9 legal nos termos do RGPD da Uni\u00e3o Europeia (UE), o que exige o consentimento para ser “informado”, entre outros requisitos (Considerando 32<\/a> RGPD).<\/p>\n De acordo com o RGPD, para que o consentimento seja v\u00e1lido, ele tamb\u00e9m deve ser obtido antes do in\u00edcio da coleta de dados e requer notifica\u00e7\u00e3o clara e compreens\u00edvel aos usu\u00e1rios. Os termos de servi\u00e7o do Zoom s\u00e3o um tanto enigm\u00e1ticos, como os de muitas outras empresas.<\/p>\n A rea\u00e7\u00e3o \u00e0 descoberta e cobertura p\u00fablica desta altera\u00e7\u00e3o de termos de servi\u00e7o foi substancial. As empresas estavam preocupadas com o fato de que as informa\u00e7\u00f5es propriet\u00e1rias de reuni\u00f5es confidenciais poderiam ser usadas sem consentimento. Ou que o Zoom teria direito sobre seu conte\u00fado criativo, como entrevistas para v\u00eddeos ou podcasts.<\/p>\n Algumas empresas dos EUA que usam o Zoom para fins relacionados \u00e0 sa\u00fade ficaram alarmadas devido a preocupa\u00e7\u00f5es sobre viola\u00e7\u00f5es de privacidade da Health Insurance Portability and Accountability Act (HIPAA)<\/a>. Por exemplo, havia receios de a empresa ter direitos de posse e uso do conte\u00fado das sess\u00f5es de terapia das pessoas. Esses usos n\u00e3o eram necessariamente a inten\u00e7\u00e3o da empresa para o uso de dados, mas a percep\u00e7\u00e3o p\u00fablica \u00e9 poderosa.<\/p>\n O Zoom respondeu \u00e0 rea\u00e7\u00e3o com outra atualiza\u00e7\u00e3o dos termos de servi\u00e7o <\/a>feita para esclarecer o uso de dados, afirmando que n\u00e3o treinaria seus modelos de IA com conte\u00fado de \u00e1udio, v\u00eddeo ou chat dos clientes sem antes obter o consentimento.<\/p>\n Ela tamb\u00e9m adicionou a linha na se\u00e7\u00e3o 10.2 que afirma: “A Zoom n\u00e3o usa nenhum de seus \u00e1udios, v\u00eddeos, chats, compartilhamentos de tela, anexos ou outras comunica\u00e7\u00f5es semelhantes ao Conte\u00fado do cliente (como resultados de enquetes, quadro de compartilhamento e rea\u00e7\u00f5es) para treinar o Zoom ou modelos de intelig\u00eancia artificial de terceiros.<\/em>“<\/p>\n No entanto, alguns usu\u00e1rios ainda expressaram preocupa\u00e7\u00e3o com as permiss\u00f5es aparentemente abrangentes concedidas ao Zoom se o consentimento foi fornecido, e muitos ainda n\u00e3o est\u00e3o claros sobre exatamente o que o Conte\u00fado gerado pelo Servi\u00e7o inclui.<\/p>\n \u00c9 importante observar que o Zoom n\u00e3o est\u00e1 sozinho. Outras empresas usam IA nas plataformas. O Google o usa para criar transcri\u00e7\u00f5es<\/a> de chamadas do Google Meet (com resultados de qualidade vari\u00e1vel). Tamb\u00e9m foi descoberto que a Meta, empresa controladora do Facebook, \u201cocultou\u201d o consentimento para o uso de dados do usu\u00e1rio em publicidade personalizada<\/a> nos termos de uso de 2022. Em janeiro de 2023, a empresa foi proibida de usar dados pessoais para publicidade<\/a> com este tipo de “consentimento”, dos quais a maioria dos usu\u00e1rios n\u00e3o estava completamente ciente. A Meta afirmou que mudaria seu modelo e solicitaria o consentimento para a publicidade na UE.<\/p>\n Outras empresas foram pegas tentando t\u00e1ticas semelhantes de n\u00e3o transpar\u00eancia. Alguns foram pegos ocultando o “consentimento” ou inserindo permiss\u00f5es question\u00e1veis em seus termos de servi\u00e7o, pois sabem que poucos usu\u00e1rios leem essas informa\u00e7\u00f5es com cuidado. Essa \u00e9 uma pr\u00e1tica ruim na melhor das hip\u00f3teses, e ilegal na pior, j\u00e1 que muitas regulamenta\u00e7\u00f5es exigem consentimento para serem informadas.<\/p>\n Est\u00e1 mais do que evidente que a necessidade por mais clareza sobre treinamento da IA e o conte\u00fado gerado por usu\u00e1rios nas plataformas (e obviamente o consentimento) s\u00e3o situa\u00e7\u00f5es que demandar\u00e3o cada vez mais aten\u00e7\u00e3o daqui pra frente.<\/p>\n\n\n As empresas que adquirem dados para treinamento da IA ou outros usos podem e devem garantir que o consentimento tenha sido obtido das fontes ou dos usu\u00e1rios. Em alguns casos, pode ser um requisito para fazer neg\u00f3cios com parceiros ou fornecedores.<\/p>\n O consentimento tamb\u00e9m est\u00e1 se tornando importante para a estrat\u00e9gia de monetiza\u00e7\u00e3o. Por exemplo, cada vez mais, anunciantes premium insistem na prova de consentimento para a coleta de dados de usu\u00e1rios antes de fazer uma parceria com desenvolvedores de aplicativos.<\/p>\n As empresas que coletam dados de usu\u00e1rios de suas pr\u00f3prias plataformas e usu\u00e1rios para treinamento da IA ou outros usos t\u00eam responsabilidade direta em obter consentimento v\u00e1lido e cumprir as leis de prote\u00e7\u00e3o de dados. Existem v\u00e1rias maneiras de as empresas obterem conformidade e consentimento v\u00e1lido.<\/p>\n Transpar\u00eancia<\/strong>: as leis de privacidade exigem notifica\u00e7\u00f5es claras e acess\u00edveis, e as empresas devem fornecer informa\u00e7\u00f5es compreens\u00edveis aos usu\u00e1rios sobre como os dados do usu\u00e1rio ser\u00e3o usados e processados, inclusive para treinamento em IA. \u00c0 medida que os usos dos dados pessoais mudam, as empresas precisam atualizar seus avisos de privacidade, informar os usu\u00e1rios e, sob muitas leis de privacidade, obter novo consentimento para os novos usos dos dados pessoais.<\/p>\n Consentimento granular<\/strong>: os usu\u00e1rios devem ser capazes de aceitar ou recusar a coleta e o processamento de seus dados pessoais, mas devem ser capazes de faz\u00ea-lo em um n\u00edvel detalhado, por exemplo, aprovar alguns tipos de processamento, como publicidade direcionada ou treinamento em IA, mas n\u00e3o outros, como a venda dos dados. Isso tamb\u00e9m ajuda a garantir que as pessoas sejam informadas, o que \u00e9 uma exig\u00eancia de consentimento para serem v\u00e1lidas de acordo com a maioria das leis de privacidade.<\/p>\n Mecanismos f\u00e1ceis de usar<\/strong>: assim como as notifica\u00e7\u00f5es devem ser claras e acess\u00edveis, a maneira como os usu\u00e1rios aceitam ou recusam o consentimento deve ser f\u00e1cil de entender e acessar. As informa\u00e7\u00f5es para os usu\u00e1rios sobre o processamento de dados devem estar dispon\u00edveis, bem como a capacidade de consentir ou recusar em um n\u00edvel granular. Al\u00e9m disso, aceitar ou recusar o consentimento devem ser ambas pr\u00e1ticas f\u00e1ceis e, de acordo com muitas leis de privacidade, os usu\u00e1rios tamb\u00e9m devem ser capazes de alterar facilmente suas prefer\u00eancias de consentimento.<\/p>\n Familiaridade regulat\u00f3ria<\/strong>: diferentes jurisdi\u00e7\u00f5es t\u00eam diferentes leis de privacidade com diferentes requisitos e modelos de consentimento. \u00c9 importante que as empresas saibam quais leis precisam cumprir e como faz\u00ea-lo. Pode ser importante consultar ou nomear um consultor jur\u00eddico qualificado ou um especialista em privacidade, por exemplo, um respons\u00e1vel pela prote\u00e7\u00e3o de dados (DPO), que tamb\u00e9m \u00e9 exigido por algumas leis de privacidade. Esse profissional ajuda a estabelecer diretrizes e processos, atualizar opera\u00e7\u00f5es e gerenciar a seguran\u00e7a de dados e processamento.<\/p>\n\n\n Os direitos dos consumidores em rela\u00e7\u00e3o aos seus dados pessoais dependem de v\u00e1rios fatores, incluindo onde o usu\u00e1rio vive e quais leis de privacidade est\u00e3o em vigor, para que serve a plataforma e quais dados o usu\u00e1rio est\u00e1 fornecendo ou gerando sobre ela, e quais s\u00e3o os termos de servi\u00e7o da plataforma.<\/p>\n Na Uni\u00e3o Europeia, as empresas que coletam e processam dados pessoais devem obter o consentimento do usu\u00e1rio antes de faz\u00ea-lo. Isso se aplica igualmente \u00e0s redes sociais, a blogs, a sites do governo ou a lojas de com\u00e9rcio eletr\u00f4nico. Os dados dos usu\u00e1rios podem ser coletados para saber como as pessoas usam um site e melhorar seu funcionamento. Ou para permitir a realiza\u00e7\u00e3o quando compram algo on-line, exibem an\u00fancios ou treinam modelos de IA.<\/p>\n Plataformas em todo o mundo que s\u00e3o usadas para atividades financeiras ou assist\u00eancia m\u00e9dica t\u00eam requisitos mais r\u00edgidos de privacidade e seguran\u00e7a sob v\u00e1rias regulamenta\u00e7\u00f5es devido aos tipos de informa\u00e7\u00f5es com que lidam.<\/p>\n Em algumas jurisdi\u00e7\u00f5es, ainda \u00e9 permitido exibir um banner de cookies que diz que voc\u00ea consente com a coleta e o uso de seus dados pessoais simplesmente ao continuar usando o site ou servi\u00e7o. Mas, na UE e em outras jurisdi\u00e7\u00f5es, isso n\u00e3o \u00e9 aceit\u00e1vel e \u00e9 necess\u00e1rio um consentimento granular.<\/p>\n\n\n O uso de cookies on-line est\u00e1 diminuindo, pois h\u00e1 tecnologias mais novas e melhores para realizar as a\u00e7\u00f5es que antes eram feitas pelos cookies. A pergunta de hoje e de agora em diante tem menos a ver com como a IA usa cookies, ou pode fazer isso, e mais com como a IA pode acelerar a substitui\u00e7\u00e3o de cookies.<\/p>\n A Apple e a Mozilla bloquearam cookies de terceiros, e o Google planeja aposent\u00e1-los totalmente. Novas ferramentas e m\u00e9todos tamb\u00e9m permitem melhor privacidade e consentimento dos dados e podem resultar em dados de usu\u00e1rio de maior qualidade.<\/p>\n Os modelos atuais de consentimento de cookies podem n\u00e3o ser suficientes para cobrir o uso de IA, j\u00e1 que os sistemas de IA podem analisar grandes quantidades de dados em tempo real, em vez de ferramentas que analisam dados de cookies ativos ao longo do tempo. Para que o consentimento seja obtido antes do in\u00edcio da coleta ou do uso de dados, com pop-ups atuais, o usu\u00e1rio teria que ser bombardeado com banners de consentimento mais r\u00e1pido e com mais frequ\u00eancia do que um ser humano poderia process\u00e1-los.<\/p>\n Os modelos de IA podem permitir an\u00fancios mais eficazes ou experi\u00eancias de usu\u00e1rio personalizadas sem depender da coleta de informa\u00e7\u00f5es de identifica\u00e7\u00e3o pessoal, pois eles podem analisar grandes quantidades de dados muito rapidamente para agrupar pessoas em p\u00fablicos com base em comportamentos. Se o sistema n\u00e3o precisar coletar dados do usu\u00e1rio, talvez n\u00e3o seja necess\u00e1rio consentimento, pelo menos para a coleta de dados.<\/p>\n \u00c9 prov\u00e1vel que as leis e as pr\u00e1ticas recomendadas ainda exijam que os usu\u00e1rios sejam notificados sobre como seus comportamentos podem ser rastreados e analisados, e para o que essa an\u00e1lise poderia ser usada, por exemplo, em an\u00fancios personalizados ou experi\u00eancias de compra. Mas os dados pessoais das pessoas n\u00e3o poderiam ser vendidos se nunca tivessem sido coletados.<\/p>\n\n\n A Lei AI da UE<\/a> \u00e9 uma lei sobre intelig\u00eancia artificial (IA) proposta pela Comiss\u00e3o Europeia. \u00c9 a primeira lei abrangente no mundo a regulamentar a IA. O objetivo \u00e9 equilibrar os usos positivos da tecnologia, mitigar os negativos e codificar os direitos. H\u00e1 tamb\u00e9m o objetivo de esclarecer muitas perguntas atuais e futuras sobre o desenvolvimento de IA e tornar a Lei um padr\u00e3o global \u00e0 medida que o RGPD se estabelece.<\/p>\n A lei atribuiria aplica\u00e7\u00f5es da tecnologia de IA a uma entre v\u00e1rias categorias:<\/p>\n Risco inaceit\u00e1vel<\/strong>: IA com riscos inaceit\u00e1veis seria totalmente proibida, por exemplo, a ferramenta de pontua\u00e7\u00e3o social do governo chin\u00eas<\/p>\n Alto risco<\/strong>: IA com riscos potenciais, permitida com base na conformidade com os requisitos de IA e avalia\u00e7\u00e3o de conformidade prevista, por exemplo, uma ferramenta que classifica candidatos a emprego por meio de verifica\u00e7\u00f5es de curr\u00edculos<\/p>\n Risco m\u00e9dio<\/strong>: IA com obriga\u00e7\u00f5es espec\u00edficas de transpar\u00eancia, permitida, mas sujeita a requisitos de informa\u00e7\u00f5es, por exemplo, bots que podem ser usados para representa\u00e7\u00e3o<\/p>\n Risco m\u00ednimo ou nulo<\/strong>: IA sem riscos not\u00e1veis, permitida sem restri\u00e7\u00f5es<\/p>\n O projeto da Lei de IA est\u00e1 atualmente em um estado preliminar e pode mudar antes de se tornar lei. Atualmente, o consentimento do usu\u00e1rio e a privacidade e prote\u00e7\u00e3o dos dados s\u00e3o tratados em seus estatutos em v\u00e1rias frentes:<\/p>\n Alto risco<\/strong>: o consentimento expl\u00edcito \u00e9 necess\u00e1rio para o uso de sistemas de IA de alto risco, por exemplo, infraestrutura cr\u00edtica, emprego, sa\u00fade e aplica\u00e7\u00e3o da lei.<\/p>\n Transpar\u00eancia<\/strong>: os provedores de IA devem fornecer informa\u00e7\u00f5es claras sobre a finalidade, os recursos e as limita\u00e7\u00f5es previstos dos sistemas para garantir que os usu\u00e1rios sejam informados a fim de tomar decis\u00f5es e compreender os poss\u00edveis impactos sobre seus direitos.<\/p>\n Direito \u00e0 explica\u00e7\u00e3o<\/strong>: os usu\u00e1rios t\u00eam o direito de obter explica\u00e7\u00f5es relevantes sobre as decis\u00f5es dos sistemas de IA.<\/p>\n Direito ao controle do usu\u00e1rio<\/strong>: os usu\u00e1rios devem ter a capacidade de cancelar, desativar ou desinstalar sistemas de IA, especialmente quando direitos ou interesses fundamentais est\u00e3o em jogo (de acordo com algumas leis de privacidade, os usu\u00e1rios t\u00eam o direito de optar por n\u00e3o tomar decis\u00f5es automatizadas).<\/p>\n Prote\u00e7\u00e3o de dados e privacidade<\/strong>: a Lei de IA enfatiza a necessidade de minimiza\u00e7\u00e3o de dados, limita\u00e7\u00e3o de finalidade e prote\u00e7\u00f5es para proteger dados pessoais ao usar sistemas de IA e se alinha \u00e0s regulamenta\u00e7\u00f5es de privacidade de dados existentes, como o RGPD.<\/p>\n\n\n A tecnologia de IA est\u00e1 aqui para ficar. Seus recursos e poss\u00edveis casos de uso continuar\u00e3o evoluindo rapidamente. Este \u00e9 um desafio para a regulamenta\u00e7\u00e3o, pois a cria\u00e7\u00e3o e atualiza\u00e7\u00e3o de leis tende a acontecer muito mais lentamente do que a velocidade com que as tecnologias se desenvolvem.<\/p>\n No entanto, os usu\u00e1rios n\u00e3o devem se deparar com um “vazio de advert\u00eancia”, especialmente on-line, com rela\u00e7\u00e3o a novos usos para seus dados pessoais e desafios para sua privacidade. Os reguladores devem elaborar e atualizar leis que sejam claras e abrangentes, mas suficientemente flex\u00edveis para serem interpret\u00e1veis e aplic\u00e1veis hoje e no futuro.<\/p>\n As organiza\u00e7\u00f5es precisam estar claras sobre quais normas de privacidade devem cumprir, o que estipulam e o que isso significa para suas opera\u00e7\u00f5es. Isso precisa ser revisado regularmente \u00e0 medida que as opera\u00e7\u00f5es mudam e claramente comunicado. Tentar introduzir altera\u00e7\u00f5es nos termos de uso ou usar os dados coletados para novos fins sem obter o consentimento do novo usu\u00e1rio \u00e9 uma maneira f\u00e1cil de prejudicar a reputa\u00e7\u00e3o da marca, al\u00e9m de ser ilegal em muitas jurisdi\u00e7\u00f5es. \u00c0 medida que os consumidores ficam ainda mais familiarizados com seus dados e privacidade, as empresas ter\u00e3o que ser mais claras, n\u00e3o menos, sobre coleta e uso de dados.<\/p>\nO que \u00e9 a intelig\u00eancia artificial (IA)?<\/h2>\n
O que \u00e9 aprendizado de m\u00e1quina ou machine learning (ML)?<\/h4>\n
O que s\u00e3o grandes modelos de linguagem ou large language models (LLM)?<\/h4>\n
O que \u00e9 o treinamento da IA?<\/h2>\n
Ambiguidades no uso de conjuntos de dados de treinamento da IA<\/h4>\n
Quais dados s\u00e3o usados para treinar a IA?<\/h2>\n
\n
Preocupa\u00e7\u00f5es sobre consentimento envolvendo diferentes tipos de dados de treinamento da IA<\/h4>\n
Consentimento, IA e dados pessoais<\/h2>\n
Importa de onde v\u00eam os conjuntos de dados de treinamento de IA?<\/h4>\n
Desafios para obter o consentimento de IA dos usu\u00e1rios<\/h2>\n
A controv\u00e9rsia do Zoom e o consentimento do usu\u00e1rio<\/h2>\n
Resposta do Zoom \u00e0 controv\u00e9rsia de mudan\u00e7a de termos de servi\u00e7o<\/h4>\n
Outros desafios com empresas de tecnologia, termos de uso e consentimento<\/h4>\n
Como as empresas podem usar os dados de forma \u00e9tica com um consentimento de usu\u00e1rio v\u00e1lido?<\/h2>\n
Quais direitos os usu\u00e1rios de plataformas on-line t\u00eam sobre seus dados?<\/h2>\n
IA e cookies<\/h2>\n
O que \u00e9 a Lei AI (AI Act) da UE?<\/h2>\n
Disposi\u00e7\u00f5es de consentimento na Lei de IA<\/h4>\n
Conclus\u00e3o e futuro da IA e do consentimento<\/h2>\n