Resumo:
O CEO da OpenAI, Sam Altman, parece estar profundamente preocupado com o produto de inteligência artificial que parece um pesadelo que ele ajudou a criar, e pode até achar difícil dormir em paz. Por volta das 0h57, horário do leste dos EUA, Altman postou na plataforma X: "Existem duas tendências desastrosas no desenvolvimento da inteligência artificial que devem ser evitadas. Primeiro, podemos perder o controle do futuro da inteligência artificial. Isso é inaceitável. Estamos firmemente do lado da humanidade, e a inteligência artificial deve sempre servir as pessoas. Para fazer isso, devemos garantir a velocidade de desenvolvimento de tecnologias e métodos de segurança alinhados e ficar à frente da iteração das capacidades do modelo."
Ele continuou escrevendo: "O segundo risco é a alta concentração de poder no mundo. Se uma determinada pessoa ou uma determinada empresa dominar uma inteligência artificial extremamente poderosa e impor sua própria visão de mundo a todos, o resultado será extremamente distópico. Para evitar as duas principais ameaças acima, você precisa trilhar um caminho intermediário estreito. Por exemplo, um determinado país conquistando muito poder, ou um determinado laboratório tendo muito a dizer, são todos esses riscos."
Em apenas dois dias, o CEO da Anthropic, Dario Amodei, e Altman, dois gigantes da indústria de IA, emitiram alertas um após o outro sobre essa poderosa tecnologia que eles lideraram e levaram a principal equipe de P&D a acelerar.
Amodei disse em seu blog pessoal no sábado: "Nos últimos meses, estou cada vez mais convencido de que, para responder plenamente aos riscos relacionados, precisamos agir com mais prudência. Não apenas investimos recursos para prevenir riscos, mas também precisamos controlar a velocidade de iteração das capacidades de IA e deixar tempo para recuperar o atraso na prevenção e controle de riscos. Devemos desacelerar o ritmo de melhoria das capacidades dos modelos de inteligência artificial. A tecnologia geral ainda manterá um rápido desenvolvimento, e devemos aproveitar bem o tempo que temos ganho."
Depois que Amodei postou sua mensagem, Ultraman imediatamente expressou sua opinião e concordou com o ponto de vista de seu concorrente.
Os comentários foram feitos depois que dois pesquisadores de IA expressaram preocupação sobre os perigos dos modelos avançados de IA.
No início da semana passada, Jacob Coxon anunciou sua saída da Anthropic. Ele disse que nem a Anthropic nem a OpenAI assumiram a devida responsabilidade no desenvolvimento de sistemas de inteligência artificial de alto desempenho.
Posteriormente, o chefe de ciência de alinhamento da Anthropic, Evan Harbinger, respondeu à postagem de Coxon, endossando os sentimentos do ex-funcionário. Ele acredita que há mais de 10% de chance de que esta tecnologia “cause a extinção de todos os seres humanos”.
O presidente Trump rejeitou no domingo essas preocupações de segurança. Ele disse: "Estamos liderando a China no campo da inteligência artificial. Somos o país tecnologicamente mais avançado do mundo e, francamente, espero manter esta vantagem, porque quem vencer a competição de inteligência artificial ganhará o futuro."
Afetadas pelas preocupações acima mencionadas, as principais ações do setor de IA ficaram sob pressão na segunda-feira, com o mercado preocupado com a possibilidade de o desenvolvimento da tecnologia de IA encontrar obstáculos. A SanDisk caiu 5% nas negociações de pré-mercado, enquanto a Nvidia caiu 3% nas negociações de pré-mercado.
Dan Ives, sócio fundador da Yorkville Ives, disse ao Yahoo Finance: "Acho que o artigo de Dalio, juntamente com as discussões da indústria no fim de semana, causará um breve enfraquecimento na abertura de segunda-feira, mas o mercado se recuperará em breve. Os investidores logo verão claramente que, apesar desta tempestade de opinião pública na indústria, a situação geral de US$ 5 trilhões em investimentos em IA nos próximos cinco anos não mudará materialmente."
Comentários