O hype da IA parecia implacável em 2023/24. Enquanto o frenesi inicial diminuiu um pouco, executivos e profissionais agora lidam com a realidade da implantação de inteligência artificial (IA), especificamente IA generativa (Genai), dentro de sua organização.
Os LLMs (grandes modelos de idiomas), a tecnologia por trás do popular Genai Chatbots, são poderosos, mas ainda há uma desconexão significativa entre a percepção do que eles podem fazer e sua aplicação prática para escrever negócios.
Interfaces fáceis de usar como o ChatGPT Make Genai parece “pode literalmente fazer qualquer coisa”.
Este é um equívoco perigoso. Embora incrivelmente úteis para determinadas tarefas, os chatbots genai podem ser totalmente inúteis e até prejudiciais quando não são usados adequadamente.
Fundador da VisibleThread.
Diferenças fundamentais
A diferença fundamental está na maneira como Genai funciona em comparação com o software tradicional.
1. O software tradicional é determinístico
Ele segue a lógica e os algoritmos fixos, produzindo exatamente o mesmo, 100% preciso e, portanto, um resultado repetível toda vez que você lhe der a mesma entrada. Pense em atingir Ctrl+F no Word – você recebe uma contagem precisa e repetível de um termo.
2. A IA generativa não é determinística
Os LLMs prevêem a próxima palavra com base em probabilidades de seus dados de treinamento. Isso significa fazer a mesma pergunta duas vezes, muitas vezes lhe dará respostas diferentes. Eles foram projetados para serem variáveis.
Características críticas para entender
Essa diferença central resulta em dois negócios de características críticas deve entender:
1. Alucinações: Genai pode gerar informações incorretas com confiança ou inventar as coisas. Este não é um bug; É como a tecnologia funciona. Está adivinhando com base em padrões, não verificando fatos. A Copilot, por exemplo, pode calcular mal as pontuações de legibilidade ou perder a maioria das instâncias de um termo de pesquisa.
2. Falta de repetibilidade: Você simplesmente não pode garantir a mesma saída do mesmo prompt.
Aqui está o argumento crítico absoluto: se sua tarefa de revisão de redação ou documento exigir precisão de 100% ou repetibilidade 100%, você deverá usar o software determinístico, não o Genai. Usar o Genai para tarefas exigindo precisão é um caso clássico de empunhar um “Genai Hammer” e ver todos os problemas como um prego.
Falhas e erros na prática
Considere as consequências desastrosas. Eu usei a MS Copilot para procurar todas as instâncias de “segurança cibernética” em um contrato para fins de conformidade, apenas para a ferramenta Genai perder 23 das 27 ocorrências. Tentar “destruir” um documento linha por linha em uma matriz do Excel para conformidade, uma tarefa que requer repetibilidade perfeita, é outro caso de uso inadequado em que Genai falhará.
Para as empresas, especialmente em setores regulamentados, usando o Genai para tarefas em que a precisão factual é fundamental é perigosa. Os usuários podem confiar nas saídas devido à credibilidade da marca, não realizando os riscos de imprecisão.
Falhas no mundo real como O Chatbot da Air Canada, fornecendo informações falsas, resultando em um processo, ressalta a marca significativa e os danos causados pela confiança que o genai impreciso pode causar.
Então, onde o Genai é útil para a redação de negócios?
Genai prospera para tarefas em que a variabilidade, a criatividade ou uma resposta “boa o suficiente” é aceitável ou desejado.
Os casos de uso apropriados incluem:
- Primeira criação de rascunho: Gerando versões iniciais de documentos como planos de gerenciamento, resumos executivos ou seções de propostas com base no contexto. Isso pode economizar tempo significativo.
- Assistência criativa: Reescrever o conteúdo em um tom ou estilo diferente.
- Resumo: Condensação de documentos longos.
- Simplificação/Refrasagem: Tornar o texto complexo mais acessível ou refinar os parágrafos.
- Pesquisa e análise: Usando dados públicos para análise competitiva ou pesquisa de vendas em que a precisão perfeita em todos os detalhes não é necessária para gerar informações. Usando PNL (outro tipo de IA) para análise temática nas comunicações para verificar a consistência da mensagem.
Além dos chatbots simples, o valor real geralmente está em aplicativos especializados. Essas camadas genai em fluxos de trabalho para trabalhos específicos, combinando de maneira inteligente a Genai para tarefas criativas/de redação com software determinístico para funções críticas de precisão, como pontuação de legibilidade ou verificações de conformidade.
Eles entendem o “trabalho a ser feito” e aplicam a tecnologia certa. O Notebooklm, que gera resumos de áudio dos documentos, é um ótimo exemplo de um aplicativo focado.
Lixo, lixo: a verdade indexinosa da gestão do conhecimento
A IA generativa, mesmo quando combinada com técnicas como a geração aumentada de recuperação (RAG) para acessar dados proprietários, não é uma varinha mágica que pode superar a baixa qualidade dos dados. O velho ditado “lixo, lixo” é mais relevante do que nunca. Se suas bases de conhecimento internas estiverem uma bagunça de conteúdo desatualizado, várias revisões e documentos mal marcados, a saída da IA refletirá esse caos.
Como observou a revisão de negócios de Harvard, “as empresas precisam abordar a integração e a masterização de dados antes de tentar acessar dados com IA generativa”. Boa higiene de dados – estruturas claras de pastas, convenções de nomenclatura e processos para manter o conteúdo – é crucial, mas é fundamentalmente um problema de comportamento humano, não apenas uma tecnologia. Investir em gerenciamento de conhecimento adequado agora pagará dividendos quando você lançar qualquer solução Genai.
Segurança de dados: o salto do Enterprise Aquiles
Muitos chatbots populares de IA dependem de LLMs baseados em nuvem pública. Para empresas, especialmente aquelas em indústrias regulamentadas como defesa, finanças e saúde, alimentando dados proprietários ou sensíveis ou PII (informações de identificação pessoal) nesses modelos públicos representa um risco de segurança significativo. Os CISOs (diretores de segurança da informação) são justamente cautelosos, muitas vezes bloqueando interações com esses modelos completamente.
O caminho mais seguro para as empresas envolve a hospedagem de LLMs em uma nuvem privada ou no local, totalmente trancada atrás do firewall. A ascensão de poderosos modelos de código aberto como Llama 4 ou Mistral Nemo, que podem ser implantados em casa, é uma tendência bem-vinda. Essa mudança é tão significativa que uma pesquisa do Barclays CIO no ano passado indicou 83% de plano para repatriar algumas cargas de trabalho da nuvem pública, amplamente impulsionadas por considerações de IA.
O verdadeiro motorista: pessoas e processos
A maioria dos projetos de IA falha não devido à tecnologia, mas por causa das pessoas, processos, segurança e problemas de dados. Falta de adesão, má estratégia, dados inadequados e gerenciamento insuficiente de mudanças e educação do usuário são armadilhas comuns.
Implantando a IA Chatbots sem ensinar os usuários:
- Alucinações
- A necessidade de verificar as saídas
- Solicitação eficaz
- Fundamentalmente, quais tarefas não Para usar o Genai para
… levará à frustração e à falha do projeto.
Comece com o problema comercial que você precisa resolver e mapeie a tecnologia apropriada para esse trabalho. Não apenas perca o “novo tecnologia brilhante”. Defina seus objetivos, meça o sucesso (quantitativo e qualitativo) e envolva os usuários finais mais cedo.
Ao avaliar os fornecedores, olhe além das demonstrações cativantes. Faça perguntas pontuais sobre precisão, repetibilidade, manuseio de dados, postura de segurança e sua compreensão de seus casos de uso específicos e necessidades do setor. Sempre tente antes de comprar e veter os fornecedores com cuidado. Desconfie de vendedores que promete ou afirmam que Genai pode fazer tudo.
Em resumo, os populares chatbots da IA oferecem recursos interessantes, mas não são mágicos. São ferramentas poderosas com limitações significativas. As empresas de sucesso adotarão uma abordagem pragmática e atenciosa: entender a natureza não determinística de Genai, aplicando-a estrategicamente às tarefas apropriadas (como a redação criativa), alavancando aplicativos híbridos, investindo na qualidade e segurança dos dados e, crucialmente, concentrando-se nas pessoas e processos necessários para a adoção eficaz e a gestão de mudanças.
Este é o caminho para realmente desbloquear o valor da IA.
Eu tentei mais de 70 melhores ferramentas de IA.
Este artigo foi produzido como parte do canal especialista da TechRadarPro, onde apresentamos as melhores e mais brilhantes mentes do setor de tecnologia hoje. As opiniões expressas aqui são as do autor e não são necessariamente as do TechRadarpro ou do Future Plc. Se você estiver interessado em contribuir, descubra mais aqui:
Fique conectado