O momento definidor da IA gerativa: um guia para gestores de informação e de tecnologia

Dificilmente passa um dia sem que a mídia noticie algum novo avanço da IA gerativa fazendo os negócios estourarem. A empolgação é bem merecida – uma pesquisa da McKinsey estima que a IA gerativa poderá agregar entre $2,6 e $4,4 trilhões de valor anualmente.

Diretores de informação (CIOs) e de tecnologia (CTOs) têm papel fundamental na captura desse valor, mas vale lembrar que já vimos esse filme antes. Uma nova tecnologia surge – internet, celular, mídia social – que desencadeia uma série de experimentos e programas-piloto, embora nem sempre seja fácil traduzi-los em valor significativo. Muitas das lições aprendidas com esses eventos ainda se aplicam, especialmente quando se trata de avançar do estágio piloto para escala comercial. Para CIOs e CTOs, o boom da IA gerativa é uma oportunidade única para aplicar essas lições e orientar a alta gestão a transformar as promessas da IA gerativa em valor sustentável para a empresa.

Por meio de conversas com dezenas de líderes de tecnologia e uma análise das iniciativas de IA gerativa de mais de 50 empresas (incluindo a nossa), identificamos nove ações que todo líder de tecnologia pode empreender para criar valor, orquestrar tecnologias e dados, dimensionar soluções e gerenciar riscos para IA gerativa (veja Box, “Pequeno glossário dos termos mais importantes”):

1. Agir rapidamente para definir a postura da empresa ao adotar a IA gerativa, desenvolvendo comunicações práticas e acesso apropriado para os funcionários.
2. Reimaginar o negócio e identificar casos de uso que agregam valor mediante maior produtividade, mais crescimento e novos modelos de negócio desenvolvendo uma “IA financeira” capaz de estimar os verdadeiros custos e retornos da IA gerativa.
3. Reimaginar a função de tecnologia e criar rapidamente capacidades de IA gerativa no desenvolvimento de softwares, acelerando a redução da dívida técnica e reduzindo drasticamente o esforço manual nas operações de TI.
4. Aproveitar os serviços existentes ou adaptar modelos de IA gerativa de código aberto para desenvolver capacidades proprietárias. (A construção e operação de um modelo próprio de IA gerativa pode custar dezenas ou mesmo centenas de milhões de dólares, pelo menos nos próximos anos).
5. Atualizar a arquitetura tecnológica da empresa para integrar e gerenciar modelos de IA gerativa e orquestrar como eles operam entre si e com os modelos, aplicativos e fontes de dados de inteligência artificial e de machine learning existentes.
6. Desenvolver uma arquitetura de dados que permita acesso a dados de qualidade processando fontes de dados estruturados e não estruturados.
7. Formar uma equipe centralizada e multifuncional para a plataforma de IA gerativa de modo a fornecer sob demanda modelos aprovados às equipes de produtos e aplicativos.
8. Investir na requalificação de cargos importantes – desenvolvedores de software, engenheiros de dados, engenheiros de operações de machine learning [MLOps] e especialistas em segurança – e da força de trabalho não tecnológica de modo geral. Mas será preciso adaptar os programas de requalificação conforme a função e nível de proficiência porque o impacto da IA gerativa será variável.
9. Avaliar o novo cenário de riscos e instituir práticas de mitigação contínua para proteger modelos, dados e políticas.

1. Definir a postura da empresa ao adotar a IA gerativa

À medida que o uso de IA gerativa se dissemina, temos visto CIOs e CTOs reagirem para limitar os riscos bloqueando o acesso dos funcionários a aplicativos disponíveis online. Com isso, porém, as empresas correm o risco de perderem oportunidades de inovação e de alguns funcionários interpretarem essa diretriz como uma restrição à sua capacidade de adquirir novas habilidades importantes.

Portanto, CIOs e CTOs precisam trabalhar com os gerentes de riscos para que haja um equilíbrio entre a necessidade indiscutível de mitigar riscos e a importância de a organização desenvolver habilidades de IA gerativa. Para tanto, é preciso definir a postura da empresa em relação à IA gerativa, estabelecendo um consenso acerca dos níveis de risco com os quais a empresa se sente confortável e de como a IA gerativa se encaixa na estratégia geral dos negócios. Esta medida permitirá definir rapidamente políticas e diretrizes para toda a empresa.

Depois que as diretrizes forem definidas com clareza, os líderes devem comunicá-las a todos, com o CIO e o CTO responsáveis por definirem políticas de acesso apropriado simples e transparentes. Algumas empresas têm por praxe divulgar a IA gerativa na organização inteira, permitindo que grupos de usuários específicos tenham amplo acesso a ela, mas também criam pop-ups na tela que notificam os usuários sempre que forem inserir dados internos em um modelo, bem como uma página de orientação que aparece sempre que alguém utiliza um serviço de IA gerativa de acesso público.

2. Identificar casos de uso que agregam valor mediante maior produtividade, mais crescimento e novos modelos de negócios

CIOs e CTOs devem ser o antídoto à epidemia de “morte por caso de uso” que temos visto em muitas empresas. Esses diretores podem ser mais úteis quando trabalham com o CEO, o diretor financeiro e outros líderes de negócios para avaliar como a IA gerativa cria desafios para os modelos de negócio existentes, abre as portas para novos e cria fontes inéditas de valor. Por terem uma compreensão profunda das possibilidades técnicas, CIOs e CTOs devem identificar as oportunidades e questões mais valiosas que poderão se beneficiar da IA gerativa – e também aquelas que não poderão. Em alguns casos, a IA gerativa não é a melhor opção.

Uma pesquisa da McKinsey mostra que a IA gerativa pode aumentar em cerca de 10% a produtividade de certos casos de uso de marketing (p.ex., analisando dados abstratos e não estruturados sobre as preferências dos clientes) e em até 40% a produtividade do suporte ao cliente (p.ex., por meio de bots inteligentes). CIOs e CTOs podem ser particularmente úteis para definir se o valor da IA gerativa será maior agrupando-se os casos de uso por esfera de ação (p.ex., jornada do cliente ou processo de negócios) ou por tipo (p.ex., agentes virtuais ou desenvolvimento de conteúdo criativo). Identificar oportunidades não será a tarefa mais estratégica – existem muitos casos de uso de IA gerativa por aí – mas, dadas as limitações ainda existentes de talentos e capacidades, CIOs e CTOs precisarão fornecer estimativas de viabilidade e recursos para ajudar a empresa a sequenciar as prioridades relativas à IA gerativa.

Para oferecerem esse nível de consultoria, os líderes de tecnologia terão que trabalhar com a empresa e criar uma funcionalidade de “IA financeira” capaz de estimar os custos e retornos reais das iniciativas de IA gerativa. O cálculo dos custos pode ser particularmente complexo porque as unit economics [métricas de receitas/custos por unidade] precisam considerar os vários custos dos modelos e dos fornecedores, as interações entre modelos (caso uma consulta à IA requeira a utilização de vários modelos, cada um com custos específicos), as taxas de uso regulares e o preço da supervisão humana.

3. Reimaginar a função de tecnologia

A IA gerativa tem o potencial de reinventar completamente o modo de atuar da função de tecnologia. CIOs e CTOs precisam fazer uma análise abrangente do impacto potencial da IA gerativa em todas as áreas tecnológicas, mas é importante que ajam rapidamente para criar experiência e expertise. São três as áreas em que eles podem focar sua energia inicialmente:

• Desenvolvimento de software. Uma pesquisa da McKinsey mostra que, para engenheiros de software, a IA gerativa pode acelerar a programação de código em 35% a 45%, a refatoração [aprimoramento] de códigos em 20% a 30% e a documentação dos códigos em 45% a 50%. A IA gerativa também pode automatizar o processo de teste e simular casos extremos, permitindo que as equipes desenvolvam softwares mais resilientes antes do lançamento, e acelerar o onboarding de novos desenvolvedores (que poderão, por exemplo, fazer perguntas à IA gerativa a respeito de determinada base de código). Capturar esses benefícios exigirá treinamento extensivo (veja também a ação 8) e a automação dos pipelines de integração e implantação por meio de práticas de desenvolvimento, segurança e operações [DevSecOps] para gerenciar o aumento súbito da quantidade de código.
• Dívida técnica. A dívida técnica pode representar 20% a 40% do orçamento de tecnologia e reduzir substancialmente o ritmo de desenvolvimento. CIOs e CTOs devem revisar sua dívida técnica para determinar como as funcionalidades da IA gerativa (p.ex., refatoração de códigos, tradução de códigos e geração automatizada de casos de teste) podem ajudar a diminuí-la mais rapidamente.
• Operações de TI. CIOs e CTOs precisarão rever o que têm feito para aumentar a produtividade das operações de TI se quiserem determinar como a IA gerativa pode acelerar os processos. Os recursos da IA gerativa são particularmente úteis para automatizar tarefas como: redefinir senhas, solicitar status ou efetuar diagnósticos básicos por meio de agentes de autoatendimento; acelerar a triagem e a resolução aprimorando o roteamento; trazer à tona contextos úteis (p.ex., tópicos ou prioridades) e gerar sugestões de respostas; melhorar a observabilidade analisando vastos fluxos de logs para identificar os eventos que realmente requerem atenção; e preparar documentação (p.ex., procedimentos operacionais padrão, post-mortems de incidentes e relatórios de desempenho).

4. Aproveitar os serviços existentes ou adaptar modelos de IA gerativa de código aberto

Quando se trata de estratégias para desenvolver as capacidades de IA gerativa, a decisão clássica entre “alugar, comprar ou construir” apresenta uma variante: “tomar, amoldar ou fazer”. A regra básica continua válida: a empresa deve investir em uma capacidade de IA gerativa quando esta criar uma vantagem proprietária para o negócio, mas deve acessar serviços existentes de inteligência artificial quando a capacidade desejada for mais genérica.

CIOs e CTOs devem pensar nas implicações dessas opções como três arquétipos:

• Tomar, isto é, utilizar modelos disponíveis online por meio de uma interface de chat ou de uma API, com pouca ou nenhuma customização. Bons exemplos incluem soluções prontas para gerar código de programação (p.ex., o Copilot, do GitHub) ou para auxiliar designers na geração e edição de imagens (p.ex., o Firefly, da Adobe). Este é o arquétipo mais simples em termos de engenharia e de infraestrutura, e costuma ser o mais rápido para pôr para funcionar. Esses modelos são essencialmente commodities que dependem da inserção de dados na forma de perguntas ou instruções (prompts) do público.

• Amoldar, isto é, integrar modelos aos dados e sistemas internos de modo a gerar resultados mais personalizados. Um exemplo é o modelo que oferece suporte a vendas conectando ferramentas de IA gerativa a sistemas financeiros e de CRM (gestão do relacionamento com o cliente), permitindo assim incorporar o histórico de vendas e engajamento dos clientes. Outro exemplo é o ajuste fino de um modelo por meio de documentos internos da empresa e de históricos de chat para que atue como assistente de um agente de suporte ao cliente. O arquétipo “Amoldar” é bastante apropriado para empresas que buscam escalar as funcionalidades da IA gerativa, desenvolver capacidades mais proprietárias ou cumprir requisitos mais rigorosos de segurança ou compliance.

  Neste arquétipo, há duas abordagens comuns para integrar dados a modelos de IA gerativa. A primeira é “trazer o modelo para os dados”, pela qual o modelo fica hospedado na infraestrutura da organização (seja in loco ou na nuvem). A Cohere, por exemplo, implanta modelos de fundação na infraestrutura de nuvem do cliente, reduzindo a necessidade de transferências de dados. A segunda é “levar os dados para o modelo”, pela qual a organização agrega seus dados e implanta uma cópia do modelo maior na sua infraestrutura de nuvem. Ambas as abordagens atingem a meta de oferecer acesso a modelos de fundação, e a escolha entre elas dependerá da carga de trabalho da organização.

• Fazer, isto é, construir um modelo de fundação para resolver casos de negócio específicos. A criação de um modelo de fundação é cara e complexa, e exige um volume gigantesco de dados, expertise profunda e enorme capacidade de computação. Esta opção requer um investimento substancial – dezenas ou mesmo centenas de milhões de dólares – para construir o modelo e treiná-lo. O custo depende de vários fatores, como infraestrutura de treinamento, escolha da arquitetura do modelo, número de parâmetros do modelo, tamanho dos dados e funcionalidades especializadas.

Cada arquétipo tem custos específicos, que os líderes de tecnologia precisam levar em conta (Quadro 1), embora novos avanços (p.ex., abordagens mais eficientes de treinamento de modelos e custos mais baixos de computação da unidade de processamento gráfico (GPU) ao longo do tempo) estejam diminuindo o investimento necessário. Contudo, a complexidade inerente do arquétipo “Fazer” significa que poucas organizações o adotarão no curto prazo. A maioria recorrerá a alguma combinação dos arquétipos “Tomar”, para acessar rapidamente um serviço commoditizado, e “Amoldar”, para incorporar uma capacidade proprietária ao modelo de fundação.

5. Atualizar a arquitetura tecnológica da empresa para integrar e gerenciar modelos de IA gerativa

As organizações utilizarão muitos modelos de IA gerativa de tamanho, complexidade e capacidade variáveis. Para gerarem valor, esses modelos precisam funcionar entre si e com os sistemas ou aplicativos já existentes na empresa. Por esse motivo, construir um stack de tecnologias separado para a IA gerativa cria mais complexidades do que resolve. Como exemplo, examinamos como um consumidor interage com o serviço de atendimento ao cliente de uma agência de viagens para resolver um problema de reserva (Quadro 2). Ao interagir com o cliente, o modelo de IA gerativa precisa acessar vários aplicativos e fontes de dados.

Para o arquétipo “Tomar”, esse nível de coordenação não é necessário. Mas nas empresas que queiram escalar as vantagens da IA gerativa utilizando os arquétipos “Amoldar” ou “Fazer”, os CIOs e CTOs precisam atualizar a arquitetura de tecnologia. A meta principal é integrar modelos de IA gerativa aos sistemas e aplicativos corporativos internos, construindo pipelines para as várias fontes de dados. Em última análise, é a maturidade da arquitetura de tecnologia da empresa que permite integrar e escalar as capacidades da IA gerativa.

Avanços recentes em estruturas de integração e orquestração (p.ex., LangChain e LlamaIndex) reduziram significativamente o esforço necessário para conectar diferentes modelos de IA gerativa a outros aplicativos e fontes de dados. Além disso, vários padrões de integração começam a surgir – incluindo aqueles que permitem que o modelo chame a API ao responder a uma consulta do usuário (p.ex., o GPT-4 pode invocar funções) – e a fornecer dados contextuais de um conjunto de dados externos como parte de uma consulta do usuário, técnica conhecida como “geração aumentada de recuperação”. Os líderes de tecnologia precisarão definir arquiteturas de referência e padrões de integração estandardizados para a organização (p.ex., formatos e parâmetros de API padronizados para identificar o usuário e o modelo que invoca a API).

Cinco elementos essenciais devem ser incorporados à arquitetura de tecnologia para integrar a IA gerativa de forma eficaz (Quadro 3):

• Gerenciamento do contexto e do cache para oferecer modelos com informações relevantes das fontes de dados da empresa. O acesso a dados relevantes no momento certo é o que permite que o modelo entenda o contexto e produza resultados precisos. O cache armazena respostas às perguntas mais frequentes, permitindo reações mais rápidas por um custo menor.
• Gestão de políticas para garantir acesso apropriado aos ativos de dados da empresa. Esse controle garante que os modelos de IA gerativa do RH contendo detalhes de remuneração de funcionários, por exemplo, não possam ser acessados pelo restante da organização.
• Hub de modelos contendo os modelos treinados e aprovados que podem ser oferecidos sob demanda, servindo também como um repositório de pontos de checagem, pesos e parâmetros dos modelos.
• Biblioteca de prompts contendo instruções otimizadas para os modelos de IA gerativa, incluindo novas e antigas versões de prompts quando os modelos são atualizados.
• Plataforma de MLOps [operações de machine learning], incluindo capacidades atualizadas de MLOps para dar conta da complexidade dos modelos de IA gerativa. Os pipelines de MLOps, por exemplo, precisam incluir instrumentação que permitam medir o desempenho específico de cada tarefa (p.ex., a capacidade de um modelo de recuperar os conhecimentos certos).

À medida que a arquitetura evolui, CIOs e CTOs terão pela frente um ecossistema em rápido crescimento de provedores e ferramentas de IA gerativa. Provedores de nuvem oferecem amplo acesso a modelos de hardware e de fundação na escala desejada, e uma variedade crescente de serviços. Por sua vez, provedores de MLOps e de hubs de modelos oferecem ferramentas, tecnologias e práticas para adaptar e pôr em funcionamento modelos de fundação, enquanto outras empresas fornecem aplicativos criados a partir de modelos de fundação que podem ser acessados diretamente pelos usuários para executar tarefas específicas. CIOs e CTOs precisarão avaliar como essas inúmeras funcionalidades são reunidas e integradas na implantação e operação de modelos de IA gerativa.

6. Desenvolver uma arquitetura de dados que permita acesso a dados de qualidade

A capacidade de uma empresa de gerar e escalar valor a partir de modelos de IA gerativa (incluindo redução dos custos e melhor proteção de dados e conhecimentos) dependerá do quanto ela consegue aproveitar seus próprios dados. Para usufruir essa vantagem, precisará de uma arquitetura de dados que conecte modelos de IA gerativa a fontes de dados internas, forneça contextos ou faça o ajuste fino desses modelos para que produzam resultados mais relevantes.

Nesse contexto, CIOs, CTOs e diretores de dados precisam trabalhar juntos no seguinte:

• Classificar e organizar dados para que possam ser utilizados por modelos de IA gerativa. Os líderes de tecnologia precisarão desenvolver uma arquitetura de dados abrangente que englobe fontes de dados estruturados e não estruturados. Isso requer a implementação de padrões e diretrizes que otimizem os dados a serem utilizados pela IA gerativa (p.ex., aumentando os dados de treinamento com amostras sintéticas para melhorar sua diversidade e tamanho; convertendo tipos de mídia em formatos padronizados de dados; adicionando metadados para melhorar a rastreabilidade e a qualidade dos dados; e atualizando os dados).
• Certificar que a infraestrutura ou os serviços na nuvem existentes consigam dar conta de armazenar e manusear o gigantesco volume de dados utilizados pelos aplicativos de IA gerativa.
• Priorizar o desenvolvimento de pipelines de dados que conectem modelos de IA gerativa a fontes de dados relevantes que proporcionem “entendimento contextual”. Algumas novas abordagens estão emergindo: por exemplo, a utilização de bancos de dados vetoriais para armazenar e recuperar embeddings [repositórios de conhecimentos com formatação específica] como inputs para modelos de IA gerativa. Outra novidade são as abordagens de aprendizado contextual (p.ex., few shot prompting, quando algumas sugestões possíveis são mostradas ao modelo para ensiná-lo a dar respostas melhores).

7. Formar uma equipe centralizada e multifuncional para a plataforma de IA gerativa

A maioria das organizações de tecnologia encontra-se em uma jornada rumo a um modelo operacional de produtos e plataformas. Se quiserem aproveitar a infraestrutura existente para agilizar a adoção da IA gerativa, CIOs e CTOs precisarão integrar os recursos da inteligência artificial a esse modelo operacional. A primeira etapa é formar uma equipe para a plataforma de IA gerativa cujo foco principal seja desenvolver e manter um serviço de plataforma no qual modelos aprovados de IA gerativa possam ser oferecidos sob demanda para uso das equipes de produtos e aplicativos. A equipe da plataforma também definirá os protocolos para integrar modelos de IA gerativa com as ferramentas, aplicativos corporativos e sistemas internos, e desenvolverá e implementará abordagens padronizadas de gestão de riscos (p.ex., estruturas responsáveis de IA).

CIOs e CTOs precisam garantir que a equipe da plataforma seja formada por pessoas com as habilidades certas. Essa equipe requer um líder sênior de tecnologia que atue como gerente-geral e deve incluir: engenheiros de software (para integrar modelos de IA gerativa aos sistemas, aplicativos e ferramentas existentes), engenheiros de dados (para construir pipelines que conectem os modelos a vários sistemas de registros e de fontes de dados), cientistas de dados (para selecionar modelos e prompts de engenharia), engenheiros de MLOps (para gerenciar a implantação e monitoramento dos vários modelos e versões de modelos), engenheiros de machine learning (para efetuar o ajuste fino dos modelos com novas fontes de dados) e especialistas em riscos (para gerir problemas de segurança, como vazamento de dados, controles de acesso, precisão dos resultados e vieses intrínsecos). A composição exata da equipe da plataforma dependerá dos casos de uso atendidos pela empresa. Em algumas situações (p.ex., a criação de um chatbot de contato com o cliente), será necessário um rigoroso gerenciamento dos produtos e uma ótima experiência do usuário (UX).

Em termos mais realistas, a equipe da plataforma precisará trabalhar inicialmente em um conjunto restrito de casos de uso prioritários, expandindo aos poucos o escopo de seu trabalho à medida que adquire capacidades reutilizáveis e aprende o que funciona melhor. Os líderes de tecnologia devem trabalhar de perto com os líderes de negócios para avaliar quais casos de negócio serão financiados e apoiados.

8. Adaptar os programas de requalificação conforme a função e o nível de proficiência

A IA gerativa tem o potencial de aumentar substancialmente a produtividade e as capacidades dos trabalhadores, mas os benefícios são distribuídos de forma desigual conforme a função e o nível de habilidade. Isso exige que os líderes repensem como desenvolver as habilidades de que as pessoas efetivamente precisam.

Por exemplo, em nossa pesquisa empírica mais recente, que utilizou a ferramenta de IA gerativa Copilot, do GitHub, os engenheiros de software programaram código 35% a 45% mais depressa. Mas os benefícios variaram. Desenvolvedores altamente qualificados obtiveram ganhos de até 50% a 80%, ao passo que a velocidade de programação dos desenvolvedores juniores caiu entre 7% e 10%. Isso ocorre porque as ferramentas de IA gerativa exigem que os engenheiros analisem, validem e melhorem o código, algo que engenheiros de software inexperientes têm dificuldade para fazer. Por outro lado, em funções menos técnicas (p.ex., atendimento ao cliente), a IA gerativa ajuda perceptivelmente os trabalhadores de menor qualificação, aumentando sua produtividade em 14% e reduzindo a rotatividade de pessoal.

Essas disparidades ressaltam o quanto é necessário que os líderes de tecnologia, trabalhando ao lado do diretor de recursos humanos, repensem sua estratégia de gestão de talentos para constituir a força de trabalho do futuro. A contratação de um núcleo de talentos em IA gerativa será importante e, dada a crescente escassez e importância estratégica desses talentos, os líderes de tecnologia terão que implementar mecanismos de retenção de pessoal (p.ex., salários competitivos e oportunidades de realizar trabalhos estratégicos importantes para a empresa).

Os líderes de tecnologia, no entanto, não devem se restringir à contratação. Como quase todas as funções existentes serão afetadas pela IA gerativa, um foco crucial deve ser a requalificação das pessoas baseada em uma noção clara das habilidades que serão necessárias em cada cargo, nível de proficiência e meta de negócios. Tomemos os desenvolvedores de software como exemplo. Para iniciantes, o treinamento deve enfatizar a importância de acelerar a trajetória profissional para que se tornem ótimos revisores, não apenas criadores, de código de programação. De modo similar à diferença entre escrever e editar, a revisão de código exige um conjunto distinto de habilidades. Os engenheiros de software terão que saber o que é e não é um bom código; revisar os códigos criados pela IA gerativa quanto à funcionalidade, complexidade, qualidade e legibilidade; e verificar se há vulnerabilidades – assegurando que eles próprios não introduziram falhas de qualidade ou segurança no código. Além disso, os desenvolvedores de software precisarão aprender a pensar de maneira diferente ao codificarem; para tanto, terão que entender melhor as intenções do usuário para que possam criar prompts e definir dados contextuais que ajudem as ferramentas de IA gerativa a fornecer respostas melhores.

Além de treinarem talentos tecnológicos, CIOs e CTOs também podem ter papel importante em fazer com que talentos não tecnológicos saibam utilizar os recursos da IA gerativa. Todos na empresa precisarão não só aprender a utilizar as ferramentas de IA gerativa para tarefas básicas (p.ex., escrever e-mails e gerenciar tarefas), como também se sentir confortáveis utilizando uma gama de novos recursos para aprimorar o desempenho e os resultados. CIOs e CTOs podem ajudar a adaptar os modelos da academia para que as universidades ofereçam esse tipo de treinamento e as certificações correspondentes.

O valor decrescente dos engenheiros inexperientes deve acelerar o abandono de uma pirâmide de talentos clássica, na qual há mais pessoas nos níveis juniores, e a adoção de uma estrutura mais parecida com um diamante, na qual a maior parte da força de trabalho técnica é composta por profissionais experientes. Na prática, isso significa desenvolver as habilidades dos funcionários juniores o mais rápido possível e reduzir o número de funções que envolvem tarefas manuais de baixa complexidade (p.ex., redigir testes de unidade).

9. Avaliar o novo cenário de riscos e instituir práticas de mitigação contínua

A IA gerativa traz consigo um novo conjunto de problemas e riscos éticos, incluindo “alucinações”. Por exemplo: a apresentação de respostas incorretas por julgá-las as mais prováveis; a divulgação acidental de informações confidenciais de identificação pessoal; vieses intrínsecos dos grandes conjuntos de dados utilizados pelos modelos; e um alto grau de incerteza no que diz respeito à propriedade intelectual. CIOs e CTOs precisarão se tornar fluentes em questões éticas, humanitárias e de compliance para aderirem não apenas à letra da lei (que varia de país para país), mas também ao espírito de gerenciar com responsabilidade a reputação de suas empresas.

Esse novo cenário requer uma revisão significativa das práticas cibernéticas e a atualização do processo de desenvolvimento de software para avaliar riscos e identificar ações mitigativas antes de o modelo começar a ser construído, reduzindo assim o número de problemas e garantindo que o processo não se atrase. As ações comprovadas de mitigação de riscos para as “alucinações” podem incluir: ajustar nível de criatividade (conhecido como “temperatura”) de um modelo ao gerar respostas; ampliar o modelo com dados internos relevantes para melhorar a contextualização; utilizar bibliotecas que imponham medidas de proteção ao que pode ser gerado; adotar modelos de “moderação” para verificar os resultados; e adicionar avisos claros de isenção de responsabilidade. Os primeiros casos de uso da IA gerativa devem focar áreas onde o custo de errar é baixo, permitindo assim que a organização resolva contratempos inevitáveis e incorpore aprendizados.

Para proteger a privacidade dos dados, será fundamental criar e aplicar protocolos de marcação de dados confidenciais, configurar controles de acesso a dados em diferentes domínios (p.ex., dados de remuneração do RH), adicionar proteção extra quando os dados forem utilizados externamente e incluir salvaguardas de privacidade. Por exemplo, para mitigar os riscos ligados ao controle de acesso, algumas organizações criam uma camada de gestão de políticas que restringe o acesso por cargo sempre que um prompt é fornecido ao modelo; para mitigar os riscos ligados à propriedade intelectual, CIOs e CTOs devem insistir para que os fornecedores de modelos de fundação garantam transparência em relação à propriedade intelectual dos conjuntos de dados utilizados (p.ex., fontes de dados, licenciamento e direitos de propriedade).

A IA gerativa caminha para se tornar uma das categorias tecnológicas de crescimento mais acelerado que já vimos. Os líderes de tecnologia não podem se dar ao luxo de atrasos desnecessários na definição e formulação de uma estratégia para a IA gerativa. Embora as circunstâncias continuarão a evoluir rapidamente, estas nove ações poderão ajudar os CIOs e CTOs a aproveitar de forma responsável e eficaz o poder da IA gerativa em escala.