Resumo:
Com o salto exponencial nas capacidades dos sistemas de inteligência artificial de ponta e o avanço acelerado da tecnologia de inteligência artificial geral (AGI), a equipe de pesquisa do Google e sua instituição de pesquisa e desenvolvimento de inteligência artificial, Google DeepMind, anunciaram recentemente oficialmente a criação do "Instituto DeepMind". A organização pretende construir uma plataforma de diálogo global que reúna forças interdisciplinares e diversas perspectivas para ampliar a dimensão das discussões públicas sobre os limites de segurança da AGI, mecanismos de governação social e distribuição inclusiva de dividendos.
No contexto da rápida evolução da IA generativa e dos agentes autônomos (Agentes de IA), as discussões sobre quando a AGI será realizada e como controlar os riscos evoluíram de deduções acadêmicas para questões centrais da política global de ciência e tecnologia. No entanto, durante muito tempo, as principais discussões em torno da inteligência artificial geral foram frequentemente monopolizadas por um punhado de engenheiros, investidores e decisores a portas fechadas nos principais laboratórios de Silicon Valley. A participação externa no impacto social a longo prazo da evolução tecnológica, das mudanças nas estruturas laborais e do equilíbrio dos interesses inter-regionais ainda é limitada. A criação do DeepMind Research Institute visa precisamente quebrar este contexto fechado de elite técnica e introduzir vozes globais mais diversas.
É relatado que o instituto recém-criado é liderado conjuntamente por vários líderes seniores e acadêmicos de alto nível, incluindo o cofundador da DeepMind e cientista-chefe da AGI, Shane Legg. Como um dos principais pioneiros da tecnologia que definiu precocemente o conceito de AGI, Legg há muito defende o estabelecimento de avaliações de segurança e estruturas éticas voltadas para o futuro, ao mesmo tempo que promove avanços em poder de computação e algoritmos. O novo instituto basear-se-á na investigação interdisciplinar, não só absorvendo os conhecimentos de cientistas da computação e especialistas cognitivos, mas também conectando amplamente economistas, cientistas sociais, peritos jurídicos, decisores políticos e representantes de organizações da sociedade civil para estudarem conjuntamente e julgarem o impacto sistémico que a superinteligência pode causar.
Na agenda específica de pesquisa e ação, o DeepMind Research Institute planeja se concentrar em três áreas principais: primeiro, verificação de segurança AGI e teoria de controle a partir da dimensão técnica, explorando mecanismos para lidar com cenários extremos de segurança, como descarrilamento de agentes autônomos e falha de alinhamento; em segundo lugar, uma governação inclusiva e justa da tecnologia de ponta, estudando como garantir o futuro da AGI A enorme produtividade e valor económico criado pode ser amplamente partilhada por toda a humanidade, em vez de exacerbar as disparidades geográficas e de classe; em terceiro lugar, promover o diálogo regulamentar global e ajudar as agências públicas de tomada de decisão em vários países a construir uma base de governação que tenha em conta a inovação tecnológica e a prevenção de riscos.
Analistas do setor salientaram que, numa altura em que os principais gigantes da IA estão geralmente a acelerar a comercialização de grandes modelos de ponta e a corrida ao poder da computação, o Google DeepMind optou por assumir a liderança no estabelecimento de uma plataforma independente de discussão académica e política, demonstrando um reexame da responsabilidade social a longo prazo da IA de ponta. Ao levar a discussão da AGI de uma mania tecnológica única para um diálogo inclusivo, racional e multidimensional em toda a sociedade, espera-se que a agência forneça importantes modelos ideológicos e apoio de grupos de reflexão para a implementação da conformidade e a governação global de futuras tecnologias superinteligentes.
Comentários