Preocupações com privacidade de dados do chatGPT público

Considere o seguinte cenário: um colaborador compartilha de maneira voluntária informações corporativas com qualquer pessoa interessada, seja ela concorrente ou não. O mais preocupante é que todos têm a liberdade aparente de utilizar esses dados conforme desejarem, seja para embasar suas decisões empresariais ou criar sua própria propriedade intelectual.

Parece assustador, não é mesmo? Essa é precisamente a situação em que as empresas de diversos setores se encontram ao divulgar suas informações ao ChatGPT público. Embora o uso da inteligência artificial generativa possa trazer benefícios exponenciais às empresas, é crucial empregar essa tecnologia com discernimento, a fim de evitar consequências catastróficas a longo prazo.

As informações são vazadas, porque toda informação compartilhada por você ou seus colaboradores com o ChatGPT público é empregada no treinamento do modelo de Linguagem com Aprendizado (LLM) do sistema. Esse modelo pode ser utilizado posteriormente para responder a consultas futuras sempre que o ChatGPT julgar relevante.

Por exemplo, se suas equipes buscarem orientação sobre a estratégia e adotar no próximo trimestre, as informações inseridas, como KPIs, a situação atual da empresa e outros dados, se tornam justa matéria-prima para concorrentes e público em geral ao utilizarem o ChatGPT público.

Consequências da falta de privacidade de dados do ChatGPT público

Muitas empresas já experimentaram a queda de seus dados em mãos equivocadas. Segundo uma pesquisa recente, 10,8% dos funcionários utilizam o ChatGPT público, sendo que 4,7% deles forneceram dados confidenciais do local de trabalho durante suas interações com a plataforma.

A Samsung foi uma grande empresa que supostamente sofreu vazamentos de dados em abril de 2023. De acordo com um artigo do Gizmodo, pelo menos três incidentes distintos envolvendo consultas ao ChatGPT público resultaram em divulgações não autorizadas de informações. Em um desses casos, um trabalhador supostamente encaminhou toda uma reunião ao chatbot, solicitando a criação de atas.

Para empresas que lidam com clientes ou armazenam dados de consumidores, o risco é ainda mais iminente. Uma consulta descuidada de um funcionário pode implicar na inclusão de informações sobre clientes no sistema ChatGPT público. Esse cenário comprometeria a credibilidade da organização e poderia desencadear uma série de ações judiciais.

ChatGPT Enterprise e outras ofertas premium

A OpenAI lançou o ChatGPT Enterprise há alguns meses como uma possível solução. A empresa assegura que os dados submetidos não serão usados para treinar o LLM e que ela controlará o acesso ao sistema.

Entretanto, a empresa enfrentou desafios com ofertas premium do ChatGPT anteriormente. O ChatGPT Plus, lançado em fevereiro de 2023 como a versão paga da tecnologia, causou dificuldades para empresas que o adotaram. Muitas encontraram obstáculos na usabilidade e incertezas sobre a privacidade na plataforma.

Conforme observado por um artigo da Digiday, empresas como Zapier e Intero Digital foram pioneiras na adoção, mas enfrentaram dificuldades. A versão paga mostrou-se complexa de navegar, gerando inconsistências e sem garantias de que os funcionários não compartilhariam informações confidenciais.

Especialistas em tecnologia expressam preocupações específicas sobre o ChatGPT Enterprise. Agnidipta Sarkar, especialista CISO, destaca a apreensão de que o ChatGPT Enterprise possa se tornar um alvo principal para hackers. Ele adverte que “hackers e pessoas mal-intencionadas tentarão tirar proveito do aprendizado e monetizá-lo para outros fins.”

Líderes, incluindo Jim Hare, analista do Gartner, alertam as empresas a agirem com cautela em relação ao ChatGPT Enterprise. Ele afirma: “Acho que está realmente abordando alguns dos riscos, mas existem outros. Vou [aconselhar] as empresas a darem uma olhada nisso, experimentá-lo, mas não olhem para isso como a solução definitiva para todos os problemas empresariais.”

Investigações sobre as práticas do ChatGPT público

As investigações governamentais sobre o ChatGPT, tanto no passado quanto no presente, suscitam crescentes preocupações. Em abril de 2023, a Itália impôs brevemente uma proibição à tecnologia devido à falta de transparência da OpenAI sobre o uso de dados pessoais.

Embora a Itália tenha levantado a proibição do ChatGPT antes do final do mês, as preocupações e as investigações persistem. Uma reclamação recente alega que o ChatGPT não está em conformidade com o Regulamento Geral de Proteção de Dados da UE, o GDPR, devido à falta de transparência e privacidade de dados, entre outros aspectos.

A reclamação argumenta ainda que a OpenAI não se reuniu com os reguladores antes do lançamento do ChatGPT, falhando em conduzir uma avaliação proativa que identificasse riscos significativos para os direitos das pessoas, o que poderia ter exigido medidas de mitigação.

A maioria dessas investigações concentra-se na União Europeia, mas países como os Estados Unidos estão assumindo um papel mais ativo na regulamentação da IA generativa. O presidente Joe Biden aprovou uma ordem executiva sobre IA em outubro de 2023, sinalizando uma revisão intensificada das práticas do ChatGPT nos próximos meses, tanto em âmbito doméstico quanto internacional.

Aposte em você mesmo, não no ChatGPT

Ninguém poderia prever a rapidez com que a IA generativa entraria em cena, e o futuro dessa tecnologia permanece incerto. Contudo, todas as empresas devem estar especialmente atentas à maneira como os serviços ChatGPT públicos e premium lidam com seus dados corporativos.

Isso não significa que seja hora de ignorar a IA generativa. Pelo contrário, na Programmers, acreditamos que os benefícios dessa tecnologia são verdadeiramente surpreendentes. Ela pode aprimorar o relacionamento com os clientes, elevar a satisfação dos funcionários, tornar sua empresa mais orientada a dados e muito mais.

Ao invés de depositar toda a confiança no ChatGPT, sugerimos incorporar a IA generativa em seu próprio ecossistema digital. Dessa forma, seus dados permanecem sob controle interno, independentemente das circunstâncias, e você ganha maior autonomia para otimizar a tecnologia conforme as necessidades específicas de seu negócio.

A Programmers já auxiliou inúmeros clientes a integrar essa tecnologia em seus ambientes. Oferecemos orientação na identificação dos casos de uso mais eficazes, construção de sistemas do zero e otimização contínua para garantir que você tire o máximo proveito da tecnologia (e permaneça em conformidade com as regulamentações em constante evolução). Conheça mais sobre nossos serviços de IA generativa hoje mesmo.