IA fora de controle faz dona do Claude sugerir pausa na produção

Inteligência Artificial Shuttershock Os sinais de que os modelos mais recentes de Inteligência Artificial poderiam escapar do controle humano fez com que a empresa de IA Anthropic propusesse, na quinta-feira (04), uma pausa global no desenvolvimento desses sistemas. De acordo com a empresa, criadora do modelo Claude, um relatório mostra que a desaceleração mundial no desenvolvimento de modelos de IA podem ser uma “boa ideia”. Porém, a mesma entende que se parar sozinha pode ser ultrapassada pela concorrência cada vez mais acirrada. "Acreditamos que seria bom para o mundo ter a opção de reduzir ou parar temporariamente o desenvolvimento da IA, para permitir que as estruturas sociais e a pesquisa de alinhamento sigam o ritmo do avanço da tecnologia", relata a Anthropic. Na prática, a pausa significaria que empresas de todo o mundo, incluindo as superpotências China e Estados Unidos, teriam que parar ao mesmo tempo, mediante regras diversas pré-estabelecidas. Segundo a Anthropic, sem um mecanismo de coordenação global, as decisões mais difíceis do setor ficariam a cargo de empresas e governos. VEJA AINDA: IA decifra texto de 3 mil anos escrito em língua morta Apesar da proposta, o cenário é difícil. A Anthropic, sediada no polo tecnológico de São Francisco, vê que a batalha da região com Washington para uma decisão nesse sentido é difícil. Na visão de líderes na capital estadunidense, uma decisão desse tipo é dar uma brecha significativa para a China ficar à frente no desenvolvimento dessa tecnologia. Ainda assim, a empresa não largou a pauta e espera se reunir com cientistas, empresas concorrentes e funcionários do governo para discutir soluções. O posicionamento ocorreu na semana em que o presidente Donald Trump decretou que permitirá fazer avaliações preliminares dos modelos de IA mais poderosos de empresas estadunidenses antes do lançamento. A Anthropic ainda alertou que a aceleração criaria um ciclo de retroalimentação que poderia levar ao que pesquisadores chamam de “melhora recursiva de si mesma”, ou seja, o sistema de IA poderia ser capaz de ensinar a si próprio para se tornar cada vez mais inteligente. Embora a empresa negue que esse ponto seja inevitável, acredita que o papel do ser humano diminuí a cada evolução.