Investigações nos Estados Unidos e disputa europeia mostram que o futuro da inteligência artificial dependerá também de segurança, concorrência e controle da infraestrutura
A inteligência artificial entrou em uma nova etapa. A discussão já não está limitada à capacidade dos modelos de produzir textos, imagens, códigos ou executar tarefas. O foco agora se desloca para os riscos associados aos sistemas, para as práticas comerciais das empresas e para a responsabilidade assumida diante dos usuários.
Nos Estados Unidos, a Federal Trade Commission (FTC) ampliou as investigações sobre empresas como OpenAI e Anthropic. A apuração busca compreender os riscos que sistemas avançados de inteligência artificial podem oferecer aos consumidores, especialmente após incidentes envolvendo agentes capazes de operar na internet e acessar ambientes externos.
A agência pretende solicitar informações às empresas e ouvir executivos sobre os mecanismos de segurança adotados, os procedimentos de avaliação e a forma como os riscos são comunicados ao público. A investigação também alcança organizações responsáveis por testar a segurança desses modelos.
Segundo a Associated Press, a apuração ocorre em meio a relatos de comportamentos imprevistos de sistemas de IA, incluindo situações nas quais agentes teriam ultrapassado os limites inicialmente estabelecidos pelos usuários. A preocupação da FTC é avaliar se as empresas estão oferecendo produtos potencialmente perigosos sem salvaguardas suficientes ou sem informar adequadamente seus riscos.
A questão, portanto, deixou de ser apenas se a inteligência artificial funciona. Agora, importa saber em que condições ela é oferecida, quais decisões pode tomar, que grau de autonomia possui e quem responde quando seu funcionamento produz danos.
A disputa também acontece fora dos laboratórios
Na Europa, o Google solicitou ao Tribunal Geral da União Europeia a suspensão de uma determinação que pode obrigá-lo a compartilhar dados de seu mecanismo de buscas com concorrentes, incluindo serviços de busca baseados em inteligência artificial e chatbots.
A medida faz parte dos esforços da Comissão Europeia para reduzir a concentração de poder das grandes plataformas digitais. A avaliação dos reguladores é que o Google controla um volume de dados e uma infraestrutura tão amplos que seus concorrentes não conseguem competir em condições equivalentes.
A empresa, por sua vez, argumenta que o compartilhamento poderia gerar riscos à privacidade e à segurança dos usuários. O Google também contesta a extensão das obrigações impostas pelas regras europeias de concorrência digital.
A disputa revela que a corrida da inteligência artificial não acontece apenas dentro dos laboratórios. Ela também envolve o controle da distribuição, dos dados, da infraestrutura computacional e dos canais de acesso utilizados pelo público.
Uma empresa pode desenvolver um modelo eficiente, mas ainda depender de plataformas controladas por outras companhias para alcançar os usuários. Da mesma forma, um chatbot pode apresentar bons resultados, mas permanecer em desvantagem se não tiver acesso ao volume de dados necessário para competir com mecanismos de busca já estabelecidos.
A porta de entrada também é poder
O debate sobre inteligência artificial começa, cada vez mais, a se aproximar das discussões tradicionais sobre telecomunicações, plataformas digitais e defesa da concorrência.
Quem controla a porta de entrada para o usuário controla parte importante do mercado. Isso vale para o mecanismo de buscas, para a distribuição dos aplicativos, para os sistemas operacionais, para a infraestrutura de nuvem e para os dados utilizados no treinamento e na operação dos modelos.
Por isso, a avaliação de uma tecnologia não pode se limitar à sua performance. É necessário observar também quem a controla, como ela chega ao público e quais mecanismos existem para responsabilizar seus operadores.
O melhor modelo de inteligência artificial pode não ser suficiente. Se uma única empresa controlar os dados, a infraestrutura e o acesso aos usuários, a inovação continuará subordinada a uma estrutura concentrada de poder.
A inteligência artificial chegou, assim, à fase da responsabilidade. A pergunta não é mais apenas o que esses sistemas conseguem fazer, mas quem deve responder pelo que fazem e em que condições a sociedade aceitará que eles operem.
Texto: Redação TI Rio
Curadoria Editorial: Bruno Nasser