O EU AI Act está pronto para agentes de IA?

The EU AI Act vs Agentic AI Risks

12 de fevereiro de 2025 · 6 min de leitura

O EU AI Act, projetado para ser o primeiro marco regulatório abrangente de IA no mundo, busca tratar riscos de sistemas de IA, incluindo agentes de IA. Porém, diante dos riscos emergentes dos agentes, ainda há lacunas relevantes:

  1. Tomada de decisão autônoma: o EU AI Act não cobre totalmente os riscos ligados à autonomia dos agentes. Embora foque em sistemas de alto risco, não trata de forma específica a complexidade decisória dos agentes autônomos [1][6].

  2. Exposição e exfiltração de dados: agentes podem acessar e processar grandes volumes de dados, elevando risco de vazamentos. O Act não aborda suficientemente esses riscos específicos [2].

  3. Consumo de recursos: agentes podem consumir recursos significativos e gerar problemas de negação de serviço. O risco não é coberto explicitamente [2].

  4. Sequestro de agentes: o risco de atores não autorizados assumirem controle de agentes é significativo e não totalmente coberto [2].

  5. Riscos de supply chain: uso de bibliotecas e código de terceiros introduz riscos de cadeia de suprimentos não tratados de forma abrangente [2].

  6. Divergência entre setor público e privado: em alguns pontos, o Act aplica regras distintas, embora a assimetria de poder gerada por IA possa ser semelhante nos dois contextos [4].

  7. Requisito de intencionalidade: certas proibições exigem intenção, o que pode deixar lacunas frente a danos não intencionais [4].

  8. Escopo limitado de vulnerabilidade: foco em idade e deficiência física/mental pode não proteger adequadamente contra manipulação baseada em outras características protegidas pelo direito europeu de igualdade [4].

  9. Classificação de risco inconsistente: a abordagem por risco às vezes coloca sistemas similares em categorias diferentes sem justificativa clara [4].

  10. Falta de coerência com legislação europeia existente: há inconsistências com GDPR e ePrivacy, potencialmente gerando confusão regulatória [4][5].

  11. Regulação limitada de agentes totalmente autônomos: falta regulação específica para agentes plenamente autônomos com personalidade jurídica [8].

  12. Tomada de decisão ética: o Act não traz diretrizes abrangentes para garantir decisões alinhadas com valores humanos e sociais [6].

Para fechar essas lacunas, formuladores de políticas podem atualizar o AI Act para tratar com mais precisão os desafios específicos dos agentes: autonomia, potencial de abuso e impactos sociais mais amplos [6].

Fontes:
[1] https://www.ibm.com/think/topics/eu-ai-act
[2] https://www.computerweekly.com/opinion/Gartner-Mitigating-security-threats-in-AI-agents
[3] https://www.ceps.eu/ceps-publications/the-ai-act-and-emerging-eu-digital-acquis/
[4] https://www.europarl.europa.eu/RegData/etudes/STUD/2022/729507/EPRS_STU(2022)729507_EN.pdf
[5] https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai
[6] https://www.weforum.org/stories/2024/12/ai-agents-risks-artificial-intelligence/
[7] https://www.edf-feph.org/publications/eus-ai-act-fails-to-set-gold-standard-for-human-rights/
[8] https://www.linkedin.com/pulse/regulatory-gap-materializes-eus-proposed-ai-act-fully-igor-barshteyn
[9] https://artificialintelligenceact.eu/high-level-summary/
[10] https://www.lumenova.ai/blog/ai-agents-potential-risks/