A inteligência artificial não destruirá a humanidade, mas especialistas dizem que surgiram ameaças reais

Resumo:

Na quarta-feira, a OpenAI publicou seis novos casos demonstrando "comportamento inesperado ou preocupante" em seus modelos de IA durante testes e avaliações. A empresa lançou simultaneamente uma nova estrutura para

rastreamento, relatórios e divulgação

Existem várias situações em que o modelo de IA executa ações que não são exigidas pelas instruções ou que não deveriam ocorrer.

Muitos relatórios mencionaram anteriormente que modelos de IA de muitas empresas invadiram redes e serviços de terceiros, incluindo um modelo não lançado da OpenAI que invadiu a rede da plataforma de testes de modelos de IA Hugging Face.

No início desta semana, o CEO da Anthropic, Dario Amodei, publicou um longo artigo pedindo uma desaceleração no desenvolvimento de modelos de inteligência artificial de ponta. Antes disso, o pesquisador antrópico Jacob Coxon anunciou sua renúncia em uma postagem no

O chefe de ciência alinhada da Anthropic, Evan Hubinger, acompanhou os comentários de Coxon no

CEO da Anthropic, Dario Amodei

Os incidentes mencionados acima, as postagens nas redes sociais e o artigo de Amodei reacenderam o medo do público de que a inteligência artificial do tipo “Exterminador do Futuro” domine o mundo e destrua a humanidade. Mas os especialistas dizem que a realidade está longe das cenas apocalípticas retratadas nas obras de ficção científica.

Julia Stojanovich, professora associada de ciência da computação e engenharia na Escola de Engenharia Tandon da Universidade de Nova York e diretora do Centro de Inteligência Artificial Responsável da escola, disse em entrevista ao Yahoo Finance: "Isso não tem nada a ver com a inteligência artificial se tornar autoconsciente e vir lidar conosco."

Ela acrescentou: "O problema essencial é que... a OpenAI não implementou alguns protocolos básicos de segurança internamente. Este incidente na verdade serve como um alerta para todas as empresas de IA: não se esqueçam do que todos sabemos quando estudamos ciência da computação: a segurança é crucial."

Se nos concentrarmos demasiado em cenários apocalípticos, isso irá distrair as pessoas de outros danos mais iminentes que a inteligência artificial pode causar hoje.

Alinhamento e segurança

O maior problema enfrentado pela inteligência artificial se resume a dois pontos:

Alinhamento do modelo

e

Segurança do sistema

. O alinhamento do modelo refere-se aos meios pelos quais as empresas orientam os sistemas de IA para criar (ou evitar) comportamentos específicos. Por exemplo, se um modelo de IA tentar invadir um sistema de terceiros, os pesquisadores de IA ajustarão o comportamento do modelo para evitar que ele faça a mesma coisa no futuro, um pouco como repreender uma criança indisciplinada.

Segurança de IA significa proteger e isolar sistemas de IA para evitar que escapem ao controle e invadam redes externas.

Mas quer se trate de uma falha no alinhamento do modelo ou de uma vulnerabilidade de segurança do sistema, isso não significa que a inteligência artificial tenha a capacidade de destruir a humanidade.

Milton Muller, professor do Instituto de Tecnologia da Geórgia e diretor do Mestrado em Política de Segurança Cibernética, explicou: "A raiz de muitos pânicos são, na verdade, algumas consequências não intencionais muito comuns dos sistemas de informação, como incidentes relacionados ao Hugging Face, que muitas vezes são apresentados como agentes inteligentes descontrolados conspirando, atacando e causando o caos desenfreado."

"Na verdade, foi apenas um experimento sobre os riscos de segurança de sistemas autônomos de IA, e o pesquisador cometeu um erro grave na configuração. Isso geralmente acontece quando se lida com sistemas de informação complexos: as pessoas sempre ignoram a existência de vulnerabilidades sutis no sistema que programas inteligentes podem explorar."

O CEO da Futurum, Daniel Newman, disse ao Yahoo Finance que a indústria geralmente sente que há uma enorme necessidade de melhoria na proteção de segurança e no alinhamento de riscos, e "toda a indústria precisa assumir a responsabilidade".

Como outras tecnologias, a inteligência artificial pode ser usada por pessoas mal-intencionadas para se envolverem em atividades maliciosas. As capacidades cada vez maiores de ataque cibernético da IA ​​significam que os cibercriminosos e algumas forças nacionais podem invadir mais facilmente instalações como estações de tratamento de água ou paralisar grandes redes.

A Anthropic também resolveu e anunciou recentemente o seu próprio trabalho relacionado para evitar que a sua própria IA seja utilizada abusivamente para o desenvolvimento de armas biológicas e convencionais.

Mas a IA também pode ser usada por golpistas para atualizar golpes de phishing por e-mail em grande escala e também pode ser usada por gangues de roubo de identidade para cometer crimes.

Emily Black, professora assistente de ciência da computação e engenharia na Escola de Engenharia Tandon da Universidade de Nova York, disse ao Yahoo Finance: Não há nada de errado em nos prepararmos para todos os riscos potenciais, mas isso não nos impede de lidar com questões mais realistas, mas raramente relatadas, incluindo o impacto da inteligência artificial na discriminação, no emprego e na educação.

“A verdade está em algum lugar entre dois extremos da fantasia”, disse Black. "Existem alguns riscos reais para o desenvolvimento contínuo da IA. Mas não acho que vamos nos esconder debaixo das nossas camas ainda, preocupados com a possibilidade de a IA destruir a humanidade."