Resumo:
A startup de inteligência artificial Anthropic anunciou que seu recém-construído Laboratório de Física e Biologia de IA (Wet Lab) na área da Baía de São Francisco fez "progressos significativos". No entanto, no nível de operação experimental, os pesquisadores humanos ainda têm controle absoluto e não permitiram diretamente que seu modelo de IA, Claude, operasse de forma autônoma, sem supervisão.
É relatado que o laboratório se dedica principalmente à pesquisa biológica básica e verificação física, com o objetivo de preencher a lacuna entre simulações computacionais puras e experimentos biológicos reais. Embora os executivos da Anthropic já tenham emitido alertas muitas vezes, enfatizando que modelos poderosos de IA podem trazer riscos extremamente graves de biossegurança e até destruição humana, a empresa também está a acelerar a aplicação da IA no campo das ciências da vida. Eric Kauderer-Abrams, chefe do negócio de ciências biológicas, destacou que “a verificação física em laboratórios reais permanecerá insubstituível por muito tempo”, o que também é a principal intenção original da empresa ao estabelecer o laboratório.
O relatório enfatizou que, embora a Anthropic afirme que o laboratório alcançou resultados preliminares impressionantes, o detalhe mais impressionante é que a empresa não optou por deixar a IA "se deixar levar" diretamente. Todos os procedimentos de experimentos físicos, operações de reagentes e revisão de dados ainda estão sob estrito "controle de circuito fechado" (seres humanos no circuito) por pesquisadores humanos.
Os analistas salientaram que a Anthropic mantém um elevado grau de cautela ao promover a inovação biológica, o que reflete o duplo dilema enfrentado pelos atuais gigantes tecnológicos quando procuram avanços na investigação comercial e científica: por um lado, precisam de utilizar laboratórios físicos para fornecer capacidades de verificação aos parceiros farmacêuticos e acelerar a luta contra as doenças raras; por outro lado, devem lidar com as enormes preocupações de todas as esferas da vida de que a IA possa ser utilizada de forma abusiva para criar novas ameaças biológicas. Ao insistir em manter a posição dominante dos humanos no ciclo experimental, a Anthropic está a tentar estabelecer uma linha vermelha de conformidade que tenha em conta tanto a inovação como a segurança para a sua investigação biológica em IA.
Comentários