Resumo:
Um funcionário da OpenAI focado na segurança da inteligência artificial deixou a empresa, alertando que as principais empresas de inteligência artificial não estão fazendo o suficiente para reduzir os riscos. David Robinson, que anteriormente foi responsável pela transparência da equipe de segurança OpenAI, disse em um artigo para o The Atlantic que o desenvolvedor ChatGPT “sempre cresceu por meio de tentativa e erro”. No entanto, esta abordagem irá inevitavelmente falhar. À medida que as capacidades da tecnologia de IA continuam a melhorar, os riscos causados por estas falhas também aumentam. Ele também citou como exemplo o fracasso da OpenAI em evitar que sua inteligência artificial fique fora de controle durante o processo de teste.
Robinson escreveu no artigo: "Meus ex-colegas eram inteligentes, trabalhadores e tentavam fazer as escolhas certas. Mas, à medida que a empresa avançava de um lançamento de produto para outro, ela não usou o nível de cautela que eu achava necessário." O que era realmente necessário, acrescentou, era "chegar mais perto da perfeição pela primeira vez".
OpenAI Sam Altman
Nas últimas semanas, funcionários de diversas empresas importantes de inteligência artificial alertaram sobre os riscos catastróficos que a tecnologia poderia representar. Algumas pessoas até dizem que a IA pode um dia acabar com a humanidade.
Nesse contexto, o CEO da Anthropic PBC, Dario Amodei, pediu desaceleração no desenvolvimento de modelos de ponta e disse que sua empresa contratará avaliadores terceirizados para auxiliar nas revisões para garantir a segurança. Outros membros do setor, incluindo Sam Altman da OpenAI, também apoiaram publicamente os planos da Amodei.
Robinson disse no artigo que as empresas de inteligência artificial deveriam operar mais como usinas nucleares, "estabelecendo múltiplas camadas de mecanismos de redundância e conduzindo um planejamento cuidadoso e demorado para evitar que erros humanos ocasionais e inevitáveis abram a porta para o desastre".
Atualmente, disse ele, “as empresas de IA não sabem o que fazer, mas outras sabem”.
Um porta-voz da OpenAI disse que a empresa está fazendo ajustes para fortalecer a segurança de seus ambientes de pesquisa e teste, treinar modelos de IA para concluir tarefas com responsabilidade, expandir a cooperação com avaliadores terceirizados e melhorar o monitoramento em tempo real para detectar comportamentos preocupantes nos modelos.
A empresa está garantindo que as capacidades de seus modelos não aumentem além do que a OpenAI pode gerenciar com segurança, disse o porta-voz por e-mail no sábado.
Comentários