Como preparar empresas para agentes de IA

Vídeo em Português, publicado pelo canal MIT Technology Review Brasil.

Sobre este conteúdo: O resumo, os principais pontos e os temas abaixo são gerados automaticamente a partir da transcrição do vídeo. Eles refletem o conteúdo, opiniões, afirmações e previsões apresentadas no vídeo e não representam posicionamento, validação ou verificação de fatos pelo IA Dots.

Resumo do vídeo

O episódio discute o papel dos agentes de inteligência artificial e sua orquestração nas organizações. Os convidados abordam os desafios de arquitetura, governança, maturidade digital, infraestrutura legada e impactos culturais na adoção de ecossistemas multiagênticos.

Principais pontos

• A adoção de inteligência artificial exige maturidade prévia nos processos e na digitalização das empresas.
• Muitas organizações implementam a IA sem alinhar regras de negócio, gerando caixas vazias tecnologicamente avançadas.
• A construção de ecossistemas multiagênticos demanda governança, guardrails, monitoramento e definição clara de responsabilidades.
• A infraestrutura legada e a velocidade de execução dos agentes trazem desafios operacionais e técnicos para as equipes de TI.
• O impacto cultural da IA gera receio e boicote por parte dos colaboradores, exigindo requalificação e planos de carreira claros.

Temas

Inteligência ArtificialAgentes AutônomosArquitetura de SoluçõesGovernançaCultura OrganizacionalMaturidade Digital

Transcrição do vídeo

Texto das legendas disponíveis; pode conter erros.

Olá, eu sou o Carlos Aros e esse é mais um podcast da MIT Technology Review Brasil, esta edição em parceria com a OutSystems. E a gente vai dar sequência a uma conversa que você pode conferir aqui no canal da MIT Technology Review Brasil, ah, sobre o papel da IA nas organizações. Hoje a gente escolheu um recorte para falar sobre o papel dos a gentes e da orquestração desses agentes. Como é que a gente faz para garantir que organizações que já são ecossistemas complexos passem a incorporar dentro das suas estruturas, ah, essas entidades que estão operando autonomamente aí garantindo a conexão entre partes de um todo. E aí essa história fica ainda mais complexa quando a gente não tá falando sobre um único agente como ponte entre o começo e o fim de uma atividade, mas especificamente um universo vasto. A gente tá falando sobre um mundo multiagêntico. A conversa ela vai ficando cada vez mais complicada, mas não tem problema. Porque a gente descomplica ela aqui para apresentar os caminhos e os descaminhos disso tudo. E aí, óbvio, eu não sou maluco, eu não falo sozinho. Eu trouxe dois convidados que vão me ajudar a elucidar essas questões. O Rodrigo Soares, gerente de arquitetura de soluções da OutSystems Latam. Rodrigo, tudo bem contigo? >> Tudo ótimo, Carlos. Obrigado pelo convite. >> E o Eduardo Santos, head do Capra Institute. Eduardo, obrigado também por tá aqui com a gente. >> Muito obrigado, valeu. >> A gente tava aqui num papo animado antes de começar a gravação falando sobre o tema da gravação, inevitavelmente. E a gente tem visto uma uma escalada importante ah, do papel da inteligência artificial dentro das organizações. Boa parte das das empresas, para não dizer a totalidade delas, gosta de dizer que a IA está no centro do negócio, né? Que são empresas que são movidas, ah, pela inteligência artificial e tal, assim como em algum momento boa parte delas gostava de dizer que era data driven, sem nunca ter feito qualquer tipo de tratamento de informações, sem construir qualquer tipo de histórico, ah, sobre os seus dados. Mas há um fundo de verdade nesse processo, uma uma vez que a inteligência artificial está esparramada por diferentes níveis, diferentes camadas na empresa. Se de alguma maneira a totalidade das empresas não é ainda, ah, não tem ainda a IA no eixo, né, central ali, ah, do negócio, quase todas elas têm a inteligência artificial rodando ali dentro de alguma camada da empresa. E isso traz um desafio de construção de uma arquitetura, de uma governança para esse ecossistema. Nós dizíamos aqui antes de começar a conversa que o caminho não é a proibição, o caminho é é o estímulo, vocês estavam defendendo que o estímulo para descobrir o potencial daquilo, entender como aquilo que se encaixa, validar teses e por aí vai. Mas em ambientes em que no final do dia a gente precisa olhar a última linha e dizer assim, olha, a empresa está dando resultado, algum indicador tem que mover ali a setinha, qual é o desafio de construir esse ecossistema incorporando o elemento agente Rodrigo? >> Carlos, é uma excelente pergunta e acho que até no contexto que você colocou, que as empresas hoje em dia falam que são, é a IA está no centro, né, como data driven, eu acho que a gente até não fala mais de transformação digital, mas ainda falo com clientes que fazem formulários de inspeção manual até hoje. Não tem um processo digitalizado fim a fim. Então a gente tá, né, as empresas em geral, acho que elas estão num num num cenário aonde tem desde processos ainda totalmente manuais, alguns já tem inteligência de dados, já estão mais automatizados, outros eles já tão olhando pra IA. Então é um é um movimento contínuo, né, onde essas coisas coexistem. É e acho que tem a primeira coisa é ter muita consciência do do momento que você está e da maturidade daquele seu processo. É, pra antes de você falar em vamos colocar IA aqui pra melhorar esse processo, eu acho que existem, primeiro vale uma um questionamento se aquele processo, como ele está, ele é válido, né, se não vale uma revisão daquele processo, se você já tem a digitalização necessária pra aquele processo, aí sim você começar a falar, já estou no máximo, né, que eu consigo chegar de forma operacional, de forma digital nesse processo, agora vamos pra um nível agêntico, né, vamos realmente elevar a barra, subir a barra aqui. É, e aí quando você chega nesse nesse momento, o acho que o primeiro questionamento é saber quais são os gargalos do processo, aqueles aonde aonde o, provavelmente, você tem mais ineficiência, onde seu time gasta mais tempo, que esses podem ser os sujeitos a um um agentificação ali, né, uma uma automação via via inteligência artificial. Então ele parte sempre dessa dessa premissa do do objetivo de negócio. É, que que eu quero nesse processo? Pra depois você pensar em qual ferramenta, se vai ser uma IA, e aí decidindo que vai ser IA, ver o o seu modelo de IA que você vai usar, porque cada um tem suas características, modelos são melhores pra uma coisa ou para outras, tem a questão do do custo, obviamente, da latência, dependendo do processo, né, o tempo de resposta do modelo é muito importante, então você aí você começa a entrar nas tecnicalidades. E o que eu vejo muito é o contrário, né, alguém já chegando com a resposta, vou colocar esta IA aqui e já decidi até o modelo E e coloca no processo e e vai, o famoso go horse Que nosso time de engenharia aqui de TI vão vão saber o que eu tô falando É, então acho que começar por por esse questionamento, né? O que que eu quero atingir, quais métricas eu quero mexer, qual ponteiro eu vou mexer nesse processo Pra ir depois ir refinando a solução, é, a melhor solução de forma agêntica. Você sabe que a gente publicou A pouco tempo uma pesquisa sobre A, trabalho híbrido, né? Humanos e e a IA e a máquina duplando E aí num dos itens dessa dessa pesquisa a gente em dois dos itens das pesquisas a gente quis identificar A, o que que era A, qual era a perspectiva que as lideranças tem sobre o papel da IA pras organizações E no outro, a, o que efetivamente é possível de ser feito e já está sendo feito por essas A, organizações. E o que a gente, a, colecionou como resposta dessa investigação É que a expectativa e a capacidade de tornar essa Projeção realidade Elas tão muito distantes É, quase 100% dos líderes dizem que a IA cumpre um papel definitivo e transformador no seu pro seu negócio Em compensação, só quase metade deles Diz que já tem caminhos estabelecidos e e já percorridos dentro de casa pra fazer com que essa transformação Seja viável E aí quando a gente conecta isso com outras pesquisas produzidas por outras instituições e e por nós também O que a gente entende É que o problema desta incapacidade de ação, Eduardo, não está Na inteligência artificial por si só Mas em uma jornada de digitalização mal feita ou incompleta O O significa que a IA, se a gente fosse entendê-la, e ela não é, mas se a gente fosse entendê-la como um último checkpoint da digitalização, para algumas empresas, vários outros checkpoints ainda precisariam ser alcançados para que a IA se viabilizasse. Algumas empresas estão colocando o carro na frente dos bois nessa discussão? E aí talvez a culpa não seja de um agente mal inserido num contexto, mas de um contexto não preparado para receber um agente? >> Com certeza, Carlos. Eh, eu acho que a gente tá olhando para uma situação que a gente vê de novo e de novo no mercado, aonde as empresas, elas estão começando pela tecnologia. Então, elas compram a tecnologia, eh, colocam a tecnologia para dentro de casa, não necessariamente as pessoas sabem utilizar e e da melhor forma, né? E quando isso acontece, eles basicamente passam a eh criar problemas dentro da empresa. A gente viu isso na época dos dados, quando a gente falava do data driven, e no instituto a gente pesquisa especificamente cultura analítica. Quando a gente inseriu mais recentemente no na nossa curva de eh adoção aí tanto dos dados quanto da IA, né, a maturidade analítica das empresas no nível AI driven, teve uma discussão muito grande sobre qual é a diferença entre ser uma empresa data driven e AI driven porque às vezes, mesmo uma empresa que ainda tá negando os dados, ela já tá usando inteligência artificial. Eh, [roncando] então, assim, o uso da inteligência artificial não faz com que a empresa se torne AI driven. E se você não tiver o negócio, as lideranças, a TI entendendo os processos, é comprar IA não é igual você comprar um software que você pega na prateleira e instala. Você está comprando uma caixa vazia que você tem que colocar o seu processo lá dentro. Você tem que colocar. Tanto que tem empresas grandes que é produzem é algoritmos de inteligência artificial e que eles não chamam de inteligência artificial. Eles chamam o nome da empresa inteligência X, inteligência Y, né? Por quê? Porque o que conta é a regra de negócio que você coloca dentro. Então, sem regra de negócio, você tem uma caixa vazia. >> É quase que dentro da da da jornada da das empresas a tecnologia cumpre quase com o papel de um de um analista, né? É colocar o negócio no divã para entender exatamente o que se pretende ser, qual é o qual é a próxima fronteira que se quer alcançar. Ah porque por mais que que exista aquela máxima, né, Rodrigo, de que o investimento em tecnologia ele tem que ser constante independentemente do momento pelo qual a empresa ah passa porque ele é o garantidor do próximo passo da empresa. Ah mas para que esse investimento possa acontecer de maneira assertiva, é preciso entender essa caminhada. Então, o negócio precisa ter clareza sobre objetivos estratégicos, a empresa como organização precisa ter clareza sobre processo, sobre jornadas, né, e fluxos inteiros de trabalho. Muitas vezes o entendimento também sobre o a cadeia, né? Quando a gente olha a cadeia de de de fornecimento de um de uma determinada indústria né de um elo ah ah do primeiro elo até o último elo tudo tem que fazer sentido para que esse processo é funcione porque a tecnologia ela é só vai funcionar com base em parâmetros específicos. E a IA é exatamente isso. Não é uma ordem vazia, não é um comando que não não vislumbra a conexão com a próxima etapa. E esse é talvez o grande dificultador de um processo de construção de arquitetura? >> Sim, é eu acho que o as empresas que realmente querem ser AI first né, que querem ser centradas em AI e transformar os seus negócios com AI primeira coisa que eles tem que fazer é realmente empoderar a tecnologia. O que eu mais vejo são líderes de tecnologia CIOs é passando por uma dificuldade onde o CEO, o board está cobrando a adoção de AI e as vezes até atropelando o CIO dentro da dessa desse processo de adoção. Então eu já vi por exemplo casos aonde o o CIO veio falar para mim, ó que o o CEO chegou para mim no numa segunda-feira e disse, ó, eu fiz essa aplicação aqui que eu estou te pedindo há um mês fiz em duas horas aqui o com o vibe coding. Como para dizer o seu time é incompetente não está conseguindo me entregar. E aí ele questionou, mas isso aqui você fez as verificações de segurança? Você sabe se isso aqui vai escalar para produção? Né, então tem questões que o técnicas que o negócio, né, até as lideranças não entendem e tentar é atropelar o CIO nesse processo é colocar em risco também a sua própria operação, né, a estabilidade do seu sistema, do da sua TI como um todo. É então eu acho que o a primeira mudança de mindset é trazer o CIO para dentro dessa conversa como um par e como um especialista que ele deve ser, né, se ele lidera ali a cadeira de tecnologia ele deve estar à frente das decisões de tecnologia, de adoção de AI e etc. Então acho que primeiramente começa lá de cima do topo da organização dizer, como você trata o seu CIO? Né, como que o departamento de TI é enxergado? Ele é aquele departamento aonde de é um centro de custo que ele cuida ali das máquinas, dos servidores de lata, ou ele realmente é um parceiro estratégico para digitalizar e agora para transformar o meu negócio com o IA. >> Você concorda com essa visão? >> Ah. Eu concordo que existem empresas que é, desafiam, vamos chamar assim, né, o CIO, o CTO ali dentro. Sim, sem dúvida o CIO e o CTO é o responsável pela tecnologia lá dentro, porque senão não precisava do cargo, né, dessa figura. É, mas eu entendo que ah, o negócio precisa fazer parte dessa é, dessa revolução que tá acontecendo com a IA. E aí eu entendo que tem uma situação que é, é, de novo, a gente é, fica repetindo, que é quando você pensa na uma estrutura de uma empresa. As as empresas são organizadas em verticais. É o marketing, é a tecnologia, é vendas, é logística e assim por diante. Cada uma e a gente passou anos competindo em como organizar pessoas de uma forma melhor. Mas antes as pessoas eram a força motriz da produção. E agora não mais necessariamente, porque os agentes podem fazer algumas coisas, não tudo, com uma velocidade, com uma eficiência maior. Guardadas as devidas proporções do que é a eficiência para cada empresa, né? Porém, quando a gente adiciona os agentes nessa história, é, a gente tá tentando fazer a mesma coisa que a gente fez com a solução mágica que ia ser o data lake lá atrás. É, precisamos colocar um data lake porque vai ter todos os dados da empresa num lugar. E aí como é que é o construído o data lake da maioria das empresas? É o data lake do marketing, o data lake do RH, o data, ou seja, a gente manteve o silo. E a gente está agora tentando pegar a inteligência artificial que hum, é, principalmente quando a gente tá falando de agentes, é processual e são processos transversais que passam por várias áreas e a gente tá tentando encaixar. Esse é o agente do RH, esse é o agente do marketing, esse é o agente, ou seja, a gente vai dar um problema aí em algum momento mais pra frente, da mesma forma, né? É, é, estamos repetindo o erro. >> Já que você você traz essa ideia do dos silos, tem um outro um outro aspecto que eu entendo que seja desafiador do ponto de vista da adoção da IA ah, porque ela exige uma infraestrutura diferente também que é quem ainda tem uma infraestrutura legada muito forte. E boa parte das empresas é, ainda tá nessa curva e e e houve uma discussão sobre se você avança pra um determinado modelo, se você vai pra outro, se aquilo ainda é híbrido e e aí cada empresa fez uma opção, mas boa parte delas, até pelo custo e pelo tamanho e da e a criticidade das operações ainda tem muita coisa rodando em em cima de de de infraestruturas que talvez hoje já não atendam aquilo que modelos mais robustos, vamos dizer assim, de IA requerem. Essa transição é, ela tem sido enfrentada ou deveria pelo menos estar sendo enfrentada de que maneira pelas empresas? >> Eu acho que aí a gente tá falando muito de de legados, né? De sistemas é, que não foram pensados pra IA foram pensados muitas vezes nem pra cloud, então ainda são sistemas que rodam on premises ou [limpando a garganta] no máximo foi feito ali um lift and shift. É e o o a velocidade da IA, acho que é é outro ponto que também a gente precisa considerar. Quando a gente tá falando de um agente de IA ele não trabalha na velocidade humana né? Ele trabalha numa velocidade de máquina então muitas vezes um agente ele consegue fazer centenas de operações por segundo, milhares de operações por segundo, porque ele é uma máquina, ele não é um um ser humano. Então, a gente tem que pensar desde a a escala desses sistemas onde ele vai se conectar que realmente podem não ser adequado a a expectativa do do processo. Tem que pensar também, é muito importante, de onde estão vindo os dados, né? Acho que essa questão do do do Data Lake, ele vai muito além só de de silo, mas sim de o se é um processo, estamos falando de um processo transversal, a gente precisa acessar informações que estão em todos os departamentos, né? Então, o agente tem acesso a essa informação, porque se ele não tiver, ele é simplesmente um modelo genérico, né? Ele só vai ter valor para o negócio se ele entender o o seu processo, da sua empresa, entender muitas vezes o histórico de decisões que foram tomadas, porque é o às vezes o conhecimento, ele de de algum processo ou de alguma decisão, ele tá na cabeça ali dos operadores, e o agente não tem essa informação em lugar nenhum. Então, ele talvez vai inferir através de o de histórico de decisões, tentar inferir se nessa situação eu devo ir pelo caminho A ou B, né? E e muitas vezes também o o agente, ele tem essa questão de a gente pensar dele de forma autônoma, né? O a gente só pode dar autonomia para o agente se a gente estiver disposto a aceitar os erros que ele cometa. Se você não tem essa confiança, é um processo crítico demais, e se você não vai descobrir um erro que o agente causou a até um cliente vir reclamar, até acontecer uma falha mais crítica, esse agente, ele deve sempre estar pelo menos supervisionado por um ser humano. >> E e dentro dessa história, né, do admitir o erro, da da automa automação por si só, ela pressupõe também uma uma uma lisura de processos, né? Porque se tiver uma mínima fricção, ele vai lupar, ele vai rodar em cima daquele erro e ele não vai entregar o potencial. Mas ela vem carregada de uma outra questão que surge para as empresas e ela tá eh volto às duas pesquisas que eu, que eu citei. E a gente fez, eh, com grupos diferentes de executivos, rodadas para discutir os, os dados da pesquisa. E é muito engraçado toda vez que chega nesse tópico, como a discussão vai ganhando corpo e você tem que falar: "Pera aí, agora vamos voltar aqui né?" Pressupõe governança. O tópico governança, ele não é, não pode ser confundido, eu queria ouvir você sobre isso, Eduardo. Ele não pode ser confundido com inviabilidade. A governança, ela não é um muro alto. É monitoramento constante. Mas é, é entender de onde para onde, em que momento, como essa, como esse fluxo tá, tá acontecendo. Mas para essa governança acontecer, o que que precisa? >> Carlos. Muito obrigado por essa pergunta. >> [risadas] >> Eh, eu entendo aqui que a gente tem uma situação super complexa, porque, eh, historicamente governança, compliance e muito da TI também, eh, foi instalada e colocada dentro de, principalmente indústrias regula, muito reguladas, né? Farmacêutica, banco e coisas desse tipo, como um não pode fazer, que é o muro alto que você falou. É, é muito mais fácil você bloquear do que você deixar fazer. Porém, se a gente não, não começar a tentar, se a gente não tiver teste, se a gente não evoluir, vai ficar que nem os bancos que tem sistema feito em Cobol até hoje, né? Eh, que é, que tem todos os problemas de integração aqui que o Rodrigo tava falando. Eh, mas aí, aí eu vou entrar na parte específica da governança. O agente, vamos pensar num humano. O humano entra na empresa. Ele entra na empresa, ele vai passar por um onboarding dessa empresa. Então, ele vai passar lá pela da para receber o computador dele com os softwares que ele pode usar. >> E as credenciais de acesso. >> As credenciais de acesso. Depois ele vai passar lá pelo negócio que vai explicar para ele, ó, você vai fazer essa tarefa assim, assim, assado, o seu outro, sua função é essa, essa, essa. Depois você vai passar pelo RH que vai falar, ó, essa é a ética da empresa, isso daqui é como a gente funciona, nosso código de conduta, a cultura da empresa e assim por diante. Maravilha, ele começou a trabalhar. Agora a gente foi lá e criou um agente. Esse agente hoje em dia tem dois caminhos possíveis para ele ter surgido. Ou ele surgiu na TI e aí a TI configurou, viu a segurança, etc etc. Ou ele partiu do negócio. Eu sei a regra de negócio, eu sei qual é o fluxo, eu fui lá e organizei. Ele não passou pelo RH nunca. Então a chance da resposta dele não conter a ética da empresa, o código de conduta, etc, é grande. É se ele nasceu na TI, talvez ele tenha alguma falha, porque é a visão da TI de como o processo funciona. E se ele nasceu no negócio, provavelmente ele tem alguma falha de segurança, etc, nessa, nesse processo. E aí a gente cai, pô, o agente está saindo na vantagem, além de fazer o trabalho mais rápido, ele ainda não precisa passar por todo o processo de onboarding na empresa. É é então assim, e essa governança não é única e exclusiva da TI ou do negócio ou do RH. É o ecossistema, é a empresa, é, então eu entendo que os agentes, eles, é, não estão tornando os organogramas das empresas obsoletos, eles estão tornando eles secundários. Porque na verdade a, a empresa precisa evoluir, o organograma talvez precise evoluir para a gente ter uma empresa híbrida que tenha humanos e máquinas trabalhando em conjunto ali, potencializando o trabalho e assim por diante. >> E acho que a grande pergunta no meio de tudo isso, ainda que todo esse processo feito é: Como para em caso de problema? Onde é o botão vermelho? Porque acho que para boa parte dos segmentos, o que se tem, se for algo, setor financeiro, por exemplo, altamente regulado e tal, né? Você já começa sabendo onde é o freio, não é nem onde é o acelerador. >> Talvez já é mais fácil, né? >> Porque você já tem algumas balizas ali muito claras. Agora, ah, quando a gente olha um um ambiente que ainda tá sendo construído tanto do ponto de vista tecnológico, a gente tá assistindo aí a ganhar corpo e se desenvolver, enquanto a gente tá interagindo com ela, né? Do ponto de vista regulatório nem se fale, a gente tem eh iniciativas isoladas que não tão dialogando com o que é a realidade, ainda tratam de platitudes, vamos à verdade, né? Temas genéricos, conceitos amplos que poderiam se aplicar a basicamente qualquer tecnologia que transaciona dados, ah, que a gente vê por aí. Ah, do ponto de vista do letramento, a gente tem ainda, como no digital de maneira ampla e irrestrita, um baixo índice de maturidade. Então, como é que a empresa, quando ela opta por este caminho e elas estão cada vez mais adotando, partindo dessa premissa que o o Eduardo descreve, elas integram isso ao ecossistema sabendo que eu preciso conseguir identificar a falha e eu preciso saber como fazer algo a respeito dela, ainda que eu entenda que a automação vai me permitir escalar, me dar agilidade, aumentar produtividade, baixar custo e e tudo mais. >> Se feito corretamente. >> Quando feito do jeito certo. >> É, quer dizer, a gente tá falando de uma tecnologia que ainda tá, né, no seu início, ainda estamos aprendendo a usar, o que você falou, letramento ainda é baixo. Eh, desde a liderança até, né, o os cargos em geral da empresa, diria que até dentro da TI, muitas vezes também, é baixo. Eh, mas qualquer empresa que pense em colocar um agente autônomo, né, e aí quando a gente fala de agente, até legal dar essa eh, essa diferenciação, que é diferente de você liberar uma IA, né, para a pessoa ir lá e consultar um um GPT, por exemplo. Um agente não é isso, o agente é aquela entidade que vai estar dentro de um fluxo de negócio atuando no background, né? Ninguém pediu para ele fazer nada, ele tá pegando a informação e tá te talvez agindo, gravando em algum sistema, lendo de um lugar, mandando para outro, consultando outro agente. Então, ele é uma entidade autônoma, que eu falo porque dado o grau de letramento, às vezes o pessoal até confunde agente com LLM, com IA, com com GPT. Então, falando [limpando a garganta] de agente, a gente tá falando dessa entidade aí que, né, a IA agindo sozinha ou de forma quase quase sozinha. >> Rodrigo, assim, o agente é o o seu minion. Ele está ali executando. >> [risadas] >> Eu acho que a a o grande ponto do que o Rodrigo tá falando e que é muito importante na conversa é a gente saiu de um momento que a gente já tá acostumado, que é fazer perguntas para IA, para um momento que a IA tá executando uma tarefa, né? A gente não tá mais falando assim, "Ah, como eu faço tal coisa e eu vou lá e executo". Eu tô falando, "Execute tal coisa para mim". >> Isso, no lugar de um humano. >> Exato. >> Né? De um lugar de um profissional. De alguém que é pago ali para fazer aquilo. Então, acho que a primeira a a adoção de IA, aí falando de governança, tem toda essa parte aí institucional, isso precisa estar programado, isso precisa estar codificado em algum lugar na na sua base de agentes. O ideal é você ter uma base comum para os seus agentes, aonde ele siga as regras da empresa. Então, se for um agente, por exemplo, que fala com o público, ele vai seguir ali determinados padrões de de comunicação que a empresa coloca. Se ele tiver, por exemplo, lidando com dados sensíveis, ele tem que ter a parte de LGPD, saber como lidar com isso. Então, ele precisa ter ali o que a gente chama de os guardrails, né, que são os limites ali, são as travas que a gente coloca para o agente não desviar. Então, [limpando a garganta] eu acho que a primeira coisa é colocar o permissionamento, né, o que que esse agente pode fazer e quando ele se conecta a um sistema, ele vai ter que permissões, é permissão de usuário normal, ele vai ter um join admin, né, ele precisa ter configurado ali todas as permissões como teria um, você falou, um colaborador, acho que a analogia é ótima. Então, ele precisa ter acesso aos sistemas com permissionamento correto, ele precisa ter os guardrails. Ele precisa ter um monitoramento, que acho que aí esse é o lance do do botão vermelho. É, como a gente faz o monitoramento do que esses agentes estão fazendo e como a gente detecta o mais rápido possível que eles estão desviando de função. Então, isso também é algo que precisa ser verificado de forma dinâmica, então, precisa haver essa essa infraestrutura, esse recurso dentro da do seu ambiente agêntico para monitorar não só os agentes, eh, durante seu desenvolvimento, durante o guardrail, mas detectar eventuais problemas. Então, o agente começou a gastar mais token do que deveria, ele pode ter um limite de tokens para gastar, ele começou a acessar o que não devia, ele começou a executar muitas vezes seguidas, começou a dar respostas erradas, então, o guardrail vai até barrar a resposta que ele daria, mas isso pode ficar flagado, né, no no ambiente monitoramento, aí você começa a ter vários flags seguidos, botão vermelho. Então, tem que se pensar em todos esses potenciais desvios que podem ocorrer em produção. E isso e aí, de novo, pode ser escalado para um humano, pode ter um human in the loop ou pode ser tratado totalmente de forma sistêmica. Eu acho que hoje em dia a maioria dos processos ainda se tem um human in the loop, né, justamente pela maturidade que se está ganhando até os [limpando a garganta] processos que você está automatizando mas futuramente se a gente tiver falando de centenas milhares de agentes isso não vai ser mais possível né se a empresa tiver um sistema multiagente com milhares de agentes rodando em paralelo então a gente vai precisar ter agentes supervisores que governam os agentes que estão executando e aí ter toda uma uma revisão praticamente um novo organograma como você falou muito bem colocado dentro da empresa que é o organograma dos agentes quem reporta para quem quem monitora quem valida então tem que ter esse sistema pensado mas acho que isso ainda está um pouquinho mais para frente >> e aí para caminhar aqui para o para o final do nosso papo eu queria trazer um tópico que eu acho que é é ele não é o final apesar de estar no fim aqui da nossa conversa ele é perene durante todo o processo que é a questão da cultura porque a gente já começa a ver surgirem indicadores mostrando que existe eu vou usar a palavra medo na ausência de uma outra palavra que dê esse sentido que eu quero buscar aqui mas ela talvez não seja no no no no literal ah ah a melhor aplicação mas a gente já começa a perceber que existe um um um medo que ele é velado ainda do profissional quando ele olha para o lado e diz assim pô mas pera aí então quer dizer que na empresa hoje em algumas em algumas empresas isso já é realidade eu tenho 10 funcionários de carne e osso e eu tenho 50 funcionários eh bits e bytes né pera aí então quer dizer e aí o cara começa a entender que boa parte daquelas atividades elas estão saindo da mão dele elas estão indo para outro lugar sem a perspectiva para algumas pessoas de um upskilling de um um reskilling, de um de um de um novo, de uma nova configuração do papel profissional. Isso gera medo. E o medo, ele não é conhecido por ser um dos melhores indutores de um ambiente feliz e da construção de perspectivas auspiciosas para para nada. Como é que a organização trabalha a questão cultural diante de um ambiente em que assim, ela é pressionada a ir por um caminho que é o caminho do resultado do negócio? Enquanto para os colaboradores existe a restrição ao uso, eu não vou adotar isso aqui, porque se eu começar a usar isso aqui muito bem, amanhã eu não estou aqui, porque isso aqui começa a usar, vai funcionar sem mim. E por aí vai. Eu eu eu suponho que não deva ter uma resposta já definida definitiva para isso, mas eu queria saber qual é o caminho que está sendo pavimentado para isso e eu queria ouvir vocês. >> É. Tem uma pesquisa da Antropique, né, que saiu, que mostra justamente isso. É, se eu não me engano, são 33% dos colaboradores boicotam a implantação da IA. Mas o mais impressionante para mim é que a geração Z, que já que está entrando no mercado profissional e que é uma geração que já nasceu com a IA, vamos dizer assim, né, já já é nativa desse mundo, chega a 40% é é o boicote. Então, eu acho que de novo, a gente está falando assim, qual é o plano de carreira para essa galera? Tem muita empresa que falou assim, vamos vamos substituir humanos por máquinas, né, contratou um monte de inteligência artificial, mandou um monte de gente embora e a gente está vendo o efeito contrário agora, que é, não, pera aí, vamos chamar de volta essas pessoas. A gente tem um caso que eu já vi bem interessante, da IKEA. A IKEA, ela fez o seguinte, ela pegou o todas as a a parte de atendimento ao consumidor e entender o que que a IA conseguia responder e até de forma melhor e entender o que que a IA não conseguia responder. E aí ela treinou todos os colaboradores que faziam aquele atendimento básico antes e no caso deles foi para fazer um treinamento de design de interiores. Então eles quando vinha com alguma dúvida, eles conseguiam vender alguma coisa melhor e que era uma coisa que a IA não conseguia fazer. Então, eles mantiveram todo mundo, deram uma função e aí quando você tem é, a perspectiva como um ser humano, né? A perspectiva de que eu tenho para onde ir é mais difícil você boicotar o negócio, porque você fala assim: "Não, eu quero estar naquele lugar. >> Faço parte. >> Eu faço parte disso". Então, acho que esse é um, um ponto importante, né? E, e talvez isso gere tanto medo como porque é talvez a primeira vez que a gente tem uma tecnologia que tem duas coisas. Ela é invisível, ela mexe com a nossa cognição e a segunda coisa, ela é uma tecnologia feita para, entre muitas aspas aqui, velhos né? Porque o velho que sabe o pensamento crítico, que sabe analisar a resposta, que sabe o que que tem que perguntar, vai ter um uso melhor do que a pessoa que está sendo formada agora e que é normal. Mas se a gente não pensar no mais novo, quem vai ser o sênior lá na frente, né? >> E, e, óbvio que isso aqui valeria um outro podcast. É, só esse, esses 15 segundos da tua resposta valeria uma outra conversa, mas eu vou passar a bola para o Rodrigo para, para ouvi-lo a esse respeito. É, tentando trazer, a, um pouco da visão dessa construção de >> cultura a partir dos insumos que a área de tecnologia vem trazendo ao longo do tempo para o negócio, pra empresa. A TI deixou de ser uma área de serviço. E ela passou a ser um, um dos pilares do negócio. Essa já foi uma mudança por si só importante do ponto de vista cultural. A IA vem reforçando esse papel, né? Uma tecnologia, com toda essa descrição que o Eduardo fez, que se apresenta também com credenciais outras. Eh, como é que as empresas que vocês têm observado que tão se dando melhor nesse processo têm trabalhado a questão cultural? >> Eu acho que esse é é um grande desafio, a gente até tava falando sobre isso antes de de começar aqui o podcast. Eu tava comentando que a minha filha é o último ano da geração Z ali, tem de 2012. E ela é contra a IA. Acho engraçado isso, porque é novinha, mas ela outro dia eu tava vendo lá na rede social um vídeo gerado pela IA, ela falou: "Ah, que legal, que bonito". Ela: "Pai, isso é gerado por IA, é ruim". Então eles pegaram esse ranço ali, essa essa desconfiança da IA. Imagino que muito por por receio também dessa substituição do mercado de trabalho, né? Esse risco. Então é [limpando a garganta] algo que a gente vê no dia a dia essa essa resistência. Eh, mas pelo que eu tenho visto em muitas pesquisas, a aquela ideia de que a IA vai substituir trabalhos, né? Empregos, eh, é meio simplista e ela deve, na verdade substituir partes do trabalho, né? Eh capacidades. Então, por exemplo, alguém que precisa fazer um ler documentos de centenas de páginas pra fazer auditoria, uma revisão, isso a IA já pode te acelerar nessa parte de resumir, de trazer os pontos chave, etc. Então não é que aquele papel vai acabar, mas parte daquele trabalho vai vai ser substituído pela IA. A mesma coisa aí dentro da TI pra pra direto à sua pergunta, no desenvolvimento de software, né? A gente vê >> [roncando] >> muitos programadores, times de TI realmente reduzindo ali o seu time de desenvolvimento, né? Dando uma ou parando de contratar, aproveitando melhor os times que tem, mas os devs ainda existem e devem continuar existindo, né? Essa é essa é uma profissão que vai continuar existindo. Qual que é a diferença? Eles não vão mais gastar 70% batendo tecla, escrevendo código, mas sim gerando código, revisando o que a IA fez, testando, entendendo o problema de negócio. Então ele transforma muito a forma como o trabalho acontece, não necessariamente substitui. Aí óbvio, a que é no que ela transformou, ela transformou as pessoas mais eficientes, talvez existam menos vagas, né? Mas ela não matou aquele perfil, aquela vaga para sempre especificamente, ela talvez reduziu um pouco ali o espaço, a necessidade de contratar tanta gente. >> Eu tenho uma frase que que eu acredito muito, que é assim, eu não não acho que a IA vai matar cargos e hierarquias e funções. Eu entendo que a IA vai automatizar algumas tarefas específicas de várias dessas coisas e talvez cargos, hierarquias e funções mudem por causa disso, né? Mas a a IA sozinha não vai mudar o o o mundo de ninguém assim, né? A não ser que a pessoa seja o apertador de parafuso, é alguma coisa única né? >> [roncando] >> Diante disso, eu só quero dizer que vocês já tão convidados para voltar aqui para a gente dar sequência nessa conversa. Eu acho que a gente tem aprendizados importantes colecionados aí no período recente, mas sobra um oceano repleto de incertezas. E as incertezas são muito boas nesse caso, eu acho que elas propiciam a possibilidade de novas descobertas e elas vêm fazendo aquilo que a gente discutiu aqui o tempo inteiro, que é confrontar as organizações com aquilo que é o mais caro para elas, que é o propósito do negócio, é, o que que elas tão entregando para o cliente, para os parceiros, para o mercado e que a tecnologia, e aí a tecnologia com o T maiúsculo é, e e que não vamos nominar em ferramentas, mas que a tecnologia pode dar suporte. A tecnologia hoje em tela é a inteligência artificial. Amanhã será outra coisa. E acho que é sobre a jornada. É, o que vocês escreveram aqui começou há 10, 15 anos atrás, quando a gente discutia, eu me lembro de dar treinamento de transformação digital, falar sobre cultura e pessoas dentro das organizações. Nada mudou, essa última resposta de vocês aqui é exatamente o cenário que a gente trabalhava e aplicava nas empresas há 10 anos, há 15 anos, ou seja é, a gente só tá trocando a ferramenta. Hoje tá o talvez a ferramenta ela se ela quase nos confronte como se fosse um olhar no espelho, né? Opa, pera aí, faz a mesma coisa aqui, ó, mexi a mão, ela mexeu também. Mas é uma ferramenta essencialmente. E é sobre sobre onde alocar melhor essa ferramenta, como extrair mais e melhor dela que a discussão é, ganha sentido, né? Quero agradecer demais esta dupla que esteve aqui comigo nesse nosso bate-papo, o Rodrigo Soares, gerente de arquitetura de soluções da OutSystems Latão, Rodrigo, obrigado mais uma vez por tá aqui. >> É um prazer, Carlos, obrigado pelo convite e pelo Eduardo também. >> E Eduardo Santos, Head do Capra Institute. Eduardo, obrigado também pelo papo, pelos insights que vocês dividiram aqui. >> Eu que agradeço e espero tá de volta para o próximo papo aí com o Rodrigo também. Obrigado, Carlos. >> Vamos ter que marcar esse próximo papo, porque assim, a gente fica com a temos um tempo aqui para essa conversa. Aí a conversa vai ganhando corpo a gente só quer ir seguindo com ela mais e mais e mais e mais e mais, então vamos lá, vamos ter que fazer a rodada do a rodada dois dessa conversa. Eu quero lembrar você que nos acompanhou até aqui que esse podcast da MIT Technology Review Brasil é uma parceria com Outsystems. Você pode conferir esse episódio aqui, o episódio anterior no nosso canal no YouTube, também os cortes de ambos nas nossas redes sociais e óbvio muito conteúdo que a gente vai derivar a partir dos insights incríveis que essa dupla dividiu aqui conosco. E você sabe, a gente continua discutindo negócios, tecnologia e sociedade aqui na MIT Technology Review Brasil. E a gente se encontra na próxima plataforma, na rede social, no site, não importa. A gente se vê por aí. Tchau, tchau.

Assistir ao vídeo original no YouTube

Assuntos: Agentes de IA. Publicado no YouTube em 2026-10-30.

Seleção automática por assunto e idioma. O vídeo pertence ao canal de origem.