Dois episódios recentes de interrupção de serviços na Amazon Web Services (AWS) levantaram preocupações sobre o uso de agentes de inteligência artificial (IA) que podem tomar decisões autônomas sem intervenção humana. Em dezembro, um sistema usado por clientes para analisar custos ficou fora do ar por cerca de 13 horas devido a uma ação executada por um agente de IA chamado Kiro, que apagou e recriou todo o ambiente para resolver um problema sem consultar engenheiros. Esse não foi o primeiro incidente; funcionários relataram outro episódio semelhante em que ferramentas de IA também estiveram no centro de interrupções de serviço.
A pressa para adotar a IA como parte da rotina da empresa, mesmo em funções mais sensíveis, tem gerado preocupação entre os funcionários da Amazon. A empresa estabeleceu uma meta interna para que 80% de seus desenvolvedores utilizem ferramentas de IA para programar ao menos uma vez por semana. O uso desses agentes é acompanhado de perto, e antes do Kiro, a empresa já usava o Amazon Q Developer, um chatbot para auxiliar engenheiros na escrita de código. No entanto, alguns funcionários ainda são céticos em relação à utilidade das ferramentas de IA para a maior parte do seu trabalho devido ao risco de erros.
A Amazon argumenta que os erros foram humanos e não da IA, afirmando que qualquer ferramenta de desenvolvimento poderia ter causado o mesmo impacto. A empresa explicou que o agente Kiro “solicita autorização antes de realizar qualquer ação”, mas o engenheiro envolvido no incidente de dezembro tinha “permissões mais amplas do que o esperado”. Após os episódios, a Amazon informou que implementou salvaguardas, incluindo revisão obrigatória por pessoas para evitar que agentes de IA tomem decisões autônomas sem supervisão. Inteligência artificial, autonomia e segurança são aspectos críticos que têm sido avaliados após esses incidentes.
Os problemas destacam a necessidade de equilibrar a adoção de tecnologias de IA com a supervisão humana, especialmente em áreas críticas. A experiência da AWS serve como um alerta para as empresas que estão implementando soluções de IA em suas operações. Enquanto a IA oferece muitas vantagens, como otimização de processos e aumento da eficiência, garantir que essas tecnologias sejam usadas de forma segura e controlada é fundamental. A Amazon não é a única empresa a enfrentar esses desafios, e o setor como um todo está trabalhando para estabelecer melhores práticas para o uso de IA de forma responsável.