Resumo:
De acordo com a Reuters, a OpenAI atualizou suas especificações de modelo na quinta-feira. É um roteiro público que define como a empresa deseja que seus modelos de IA funcionem. À medida que as capacidades dos sistemas de IA continuam a aumentar, a OpenAI reconstruiu este conjunto de especificações em torno de cinco valores fundamentais. Os cinco valores são fidelidade à intenção humana, minimização de danos, honestidade e transparência, respeito pela autonomia humana e cuidado.
OpenAI
A OpenAI afirmou que a lealdade às intenções humanas é a base desta estrutura, exigindo que o modelo compreenda as intenções e orientações de valor dos usuários, desenvolvedores e da OpenAI, em vez de simplesmente executar as instruções literalmente.
A OpenAI disse que a atualização faz parte de seus esforços de alinhamento de IA para ajudar os modelos a aplicar valores humanos em situações desconhecidas, sempre aceitando a supervisão humana. A estrutura revista diz que os modelos devem minimizar os danos, ser transparentes sobre o que sabem e o que não sabem e ajudar os utilizadores a tomar as suas próprias decisões e a perseguir os seus próprios objetivos.
A empresa afirmou que o modelo atual ainda não reflete totalmente os requisitos da "Especificação do Modelo" atualizada e está explorando novos métodos de treinamento para ajudar o modelo a internalizar esses princípios em seu próprio comportamento.
A medida ecoa a abordagem de “IA constitucional” da rival Anthropic. A abordagem orienta o comportamento de um modelo por meio de uma “constituição” escrita de princípios e torna mais transparentes os valores que moldam os sistemas de IA.
Comentários