Resumo:
"A verdadeira questão é: se você acha que deveria desacelerar, não corra em alta velocidade e não espere até que forças externas o forcem a parar." Isto é o que o vice-presidente e presidente da Microsoft, Brad Smith, disse a Alan Murray durante a Assembleia Geral das Nações Unidas. O tema que ele discutiu foi: Os grandes fabricantes de modelos de ponta devem pisar no pedal da desaceleração para garantir que a tecnologia que desenvolvem não trará uma catástrofe para a humanidade.
No mesmo dia em que fez essas observações, o CEO da Anthropic, Dario Amodei, e o CEO da OpenAI, Sam Altman, falaram nas Nações Unidas, apelando aos países para que estabeleçam mecanismos de proteção de segurança da IA para impedir o desenvolvimento da IA além das capacidades de controle humano.
Smith, que tem muitos anos de experiência no setor, disse: "Se você, como CEO de uma empresa, julga que seu produto apresenta riscos à segurança, deveria continuar a comercializá-lo? Acho que a resposta é óbvia: não. As empresas têm responsabilidade pela segurança pública."
Mesmo assim, acrescentou: "A introdução de certas medidas regulatórias acabará por ser inevitável." Historicamente, muitos produtos dependiam de regulamentação para alcançar uma implementação segura. Por exemplo, costumava haver problemas com a contaminação do leite, "então criamos um departamento de inspeção agrícola e introduzimos leis relevantes. Agora, quando você vai ao supermercado, todos os tipos de leite são seguros e bebíveis".
Quando Smith propôs que deveria haver a capacidade de "desacelerar ou desligar o sistema de IA diretamente", o apresentador Allen confirmou que estava falando sobre o interruptor de desligamento de emergência da IA (interruptor de interrupção) e então perguntou: "Você acha que isso é uma boa ideia?"
Smith respondeu: "Claro. ... O desenvolvedor do modelo deve ter autoridade para desligá-lo; provedores de infraestrutura em nuvem como a Microsoft devem ter essa autoridade; e a agência responsável por controlar o agente de IA também deve ter a capacidade de desligá-lo. Mesmo que esse mecanismo seja obrigatório por lei, isso não seria uma coisa ruim."
Alan perguntou a ele como os gerentes de negócios deveriam lidar com questões de segurança de IA em suas empresas. "O que quero dizer é: não deixem de usar a IA. A IA é uma inovação fundamental e uma ferramenta importante para melhorar a produtividade. Mas é importante lembrar que a tecnologia requer governança. ... A governança desta tecnologia é tão importante quanto a própria tecnologia."
Ele também lembrou: "Não acordo todos os dias e sinto que há 10% de probabilidade de extinção humana. Mas prefiro que nos preocupemos demais do que façamos pouco. Afinal, o que estamos discutindo é sobre a sobrevivência humana. Pelo amor de Deus, esse assunto é mais importante do que a tecnologia mais recente, e devemos levá-lo a sério."
Comentários