Os modelos de linguagem de grande escala (LLMs, do inglês Large Language Models) são um tipo de inteligência artificial generativa (GenAI, do inglês Generative Artificial Intelligence) projetada para compreender e gerar linguagem humana.
Com a crescente utilização de LLMs nas organizações — através de ferramentas como o Copilot, por exemplo —, tornam-se importante refletir sobre a sua relação com a gestão de conhecimento (GC). Neste texto, identifico um conjunto de desafios que me preocupam e que praticamente não vejo refletidos nos milhares de textos dedicados ao tema da AI e dos LLMs.
Os LLMs prometem um acesso mais rápido e fácil ao conhecimento “certo”, aumentando assim a eficiência e a eficácia na tomada de decisões organizacionais.
Não é surpresa, portanto, que as organizações comecem a experimentar os LLMs: para transcrever reuniões e gerar resumos, auxiliar na criação de conteúdos, atuar como parceiro para brainstorming de ideias, responder a questões complexas, apoiar a integração e formação de novos colaboradores, analisar grandes volumes de dados, e muito mais.
Os LLMs representam uma oportunidade fantástica para a gestão de conhecimento, mas são-lhe reconhecidos vários desafios:
- Segurança e privacidade dos dados: Podem ser expostos dados corporativos sensíveis, pode ser comprometida propriedade intelectual, e podem ser violados regulamentos de proteção de dados. Isso pode ocorrer se os LLMs não forem seguros. Porém, a minha experiência diz que é mais provável que uma dessas situações aconteça por falta de competências e descuido na definição e gestão das permissões de acesso.
- Precisão e fiabilidade: Os LLMs podem gerar informações plausíveis, mas incorretas ou enganosas. Quem nunca ouviu histórias de “alucinações” e respostas erradas dos LLMs?
- Silos de conhecimento: Os LLMs podem perpetuar silos de informação se não forem treinados com um conjunto de dados abrangente. Infelizmente, involuntariamente, este conjunto de dados pode ser demasiado limitado porque as permissões de acesso estão mal configuradas.
- Resistência à adoção: Os colaboradores podem desconfiar dos LLMs ou não saber como os podem integrar nas suas práticas de trabalho.
- Viés de automatização: A confiança excessiva nas respostas do LLM pode levar os colaboradores a usá-las sem aplicar o julgamento humano necessário. Pode também acontecer que os colaboradores, por preguiça ou insegurança, e mesmo aplicando o seu julgamento, acabem por confiar mais na máquina do que em si mesmos.
Estes desafios, embora importantes e bem documentados, são apenas uma parte. Uma análise mais cuidada da interseção entre LLMs e gestão de conhecimento revela outras razões mais subtis de preocupação.
Tomar decisões com informação incompleta
Uma das grandes promessas da GenAI é a melhoria da qualidade das decisões tomadas. Ironicamente, essa promessa pode ser comprometida justamente pela ilusão de conhecimento “completo” que os LLMs criam.
Como os LLMs respeitam as permissões de acesso aos dados, os colaboradores apenas podem receber respostas baseadas na informação a que têm acesso, sem saber da existência de informação relevante adicional que também possa existir da organização.
Para além disso, o tom autoritário das respostas “conclusivas” dadas pelos LLMs reduz a probabilidade de os colaboradores procurarem confirmação junto de colegas — uma parte fundamental da validação colaborativa e do pensamento crítico.
Uma forma potencial de minimizar o impacto negativo, passa por aumentar a transparência e a contextualização das respostas dos LLMs. Por exemplo, o sistema poderia indicar:
“Com base nas informações a que tem acesso, esta é a resposta. No entanto, pode existir na organização informação adicional que influencie esta resposta. Recomendamos que fale com [nomes de colegas que o LLMs identifique como conhecedores do assunto em causa].”
Dessa forma, o modelo respeita as permissões, incentiva a avaliação crítica e promove a interação com colegas que provavelmente podem agregar valor à resposta e à tomada de decisão.
Para além disso, o mero ato de recomendar colegas com conhecimento no tema, é já um valioso contributo para fortalecer a rede interna de conhecimento, melhorando o fluxo de conhecimento e a aprendizagem organizacional.
E quando as fontes são externas
Considerando que os LLMs corporativos são geralmente treinados com dados internos, o que acontece quando uma parte importante da resposta se encontra em fontes externas? Será a resposta baseada exclusivamente em informação interna, potencialmente desatualizada e incompleta?
LLMs para especialistas; SMLs para iniciantes
Paradoxalmente, os LLMs tendem a produzir melhores resultados quando usados por especialistas no assunto. O conhecimento prévio é essencial para formular perguntas adequadas (prompts), verificar erros e inconsistências, identificar riscos, e refinar respostas.
Embora a IA possa ser usada para formação e integração de novos colaboradores, os modelos de linguagem de pequena escala (SLMs, do inglês Small Language Models) são provavelmente mais adequados para esse fim. Porque não dependem de grandes conjuntos de dados e informação, podem ser treinados com conjuntos controlados, ajustados às necessidades e ao nível de conhecimento dos utilizadores. Tal reduz o risco de desinformação e a necessidade de conhecimento prévio.
Informação desatualizada
Os dados, a informação e o conhecimento organizacionais carecem de manutenção adequada.
São poucas as organizações que têm políticas, processos ou fluxos de trabalho para garantir que a informação armazenada nos seus sistemas internos permanece atualizada e correta. Um bom primeiro passo, é a definição de uma “data para revisão” para cada um dos seus conteúdos. Esse metadado pode ajudar a aferir a fiabilidade da informação apresentada.
Não tenho certeza se os LLMs atuais permitem a exclusão de dados de treino com base em metadados. Porém, atrevo-me a dizer que, mesmo que o permitam, poucas organizações fazem esse tipo de configuração.
Isso significa que há informação desatualizada a influenciar as respostas dos LLMs, levando a decisões erradas — especialmente considerando a tendência que os utilizadores têm para confiar nas respostas autoritárias que a IA apresenta.
É fundamental implementar um modelo de governança robusto que cubra todo o ciclo de vida dos dados e do conhecimento documentado — incluindo a sua revisão e arquivo.
Permissões de acesso
O risco de colaboradores acederem a informações que não deviam (devido a permissões incorretamente configuradas) é tão elevado quanto o risco de não conseguirem encontrar a informação de que precisam porque há restrições desnecessariamente excessivas.
Essas restrições exageradas são geralmente fruto da tradicional mentalidade de que “informação é poder” e que leva as pessoas a adotarem uma abordagem de restrição por defeito. Isto significa que a informação é inicialmente privada – ao nível individual e/ou da equipa mais direta – e que o seu acesso é concedido, caso-a-caso, mediante um pedido explícito.
É importante que as organizações equilibrem a segurança dos dados com a acessibilidade. Os colaboradores devem ter acesso à informação necessária para desempenhar as suas funções sem comprometer a segurança.
Isso depende de um modelo de governança consciente e adaptável — onde as permissões são mantidas cuidadosamente, revistas regularmente, e comunicadas clara e periodicamente a toda a organização.
Conclusão
Não sou contra o uso de LLMs. Prova disso é que recorri ao ChatGPT e ao Claude para me ajudar na redação deste artigo. No entanto, as limitações atuais deixam-me cautelosa e impedem-me de recomendar o uso generalizado de LLMs no apoio à tomada de decisões nas organizações.
Sem os devidos processos e práticas organizacionais, o risco é que os LLMs repitam os erros dos sistemas de gestão de conhecimento do início deste milénio — quando a implementação precipitada, sem o suporte adequado, resultou em resultados muito aquém das expetativas, ferindo gravemente a credibilidade da GC.
O potencial da tecnologia é evidente, mas a sua implementação bem-sucedida depende de uma uma abordagem estratégica e apoiada, que encontre resposta para os desafios aqui destacados.
