Na segunda-feira (18 de dezembro), horário local, a empresa de pesquisa de inteligência artificial (IA) OpenAI anunciou um conjunto de diretrizes sobre a prevenção de riscos de IA. Uma regra que vale a pena observar é que mesmo que os líderes da empresa, como o CEO, acreditem que um modelo de IA é seguro, o conselho de administração pode impedir a sua divulgação. O chatbot ChatGPT desenvolvido pela OpenAI foi lançado há um ano. Esta aplicação fenomenal promoveu enormemente o desenvolvimento do campo da IA, e com ela vêm as preocupações sobre o desenvolvimento descontrolado da IA.

Reguladores em todo o mundo estão formulando seus próprios regulamentos de IA, e a OpenAI, líder no campo de IA, também está agindo.

No dia 27 de outubro deste ano, a OpenAI anunciou a formação de uma equipe de segurança chamada “Preparedness” para minimizar os riscos trazidos pela IA.

A equipe de Preparação é liderada por Aleksander Madry, diretor do Center for Deployable Machine Learning do MIT. A equipe realizará avaliações de capacidade e testes de equipe vermelha de vários modelos de IA para rastrear, prever e prevenir vários tipos de riscos catastróficos.

A OpenAI divulgou diretrizes chamadas de “Estrutura de Preparação” na segunda-feira, enfatizando que o conjunto de diretrizes ainda está em fase de testes.

É relatado que a equipe de preparação enviará relatórios mensais a um novo grupo consultivo de segurança interna, que os analisará e enviará recomendações ao CEO da OpenAI, Sam Altman, e ao conselho de administração.Altman e os executivos da empresa podem decidir se lançam novos sistemas de IA com base nestes relatórios, mas o conselho de administração tem o poder de reverter esta decisão.

Como um dos cofundadores da OpenAI, Altman era membro do conselho de administração da empresa há pouco tempo, mas foi afastado da empresa devido a um choque pessoal e deixou a OpenAI por um tempo. Embora Altman finalmente tenha conseguido retornar à OpenAI e continuar a atuar como CEO, ele não teve assento no recém-formado conselho de administração “inicial”.

A equipe de Preparação avaliará repetidamente os modelos de IA mais avançados e ainda a serem lançados da OpenAI e os classificará em quatro níveis com base em diferentes tipos de riscos percebidos, de baixo a alto: "baixo", "médio", "alto" e "grave". De acordo com as novas diretrizes, a OpenAI lançará apenas modelos classificados como “baixo” e “médio”.