Resumo:
Enquanto empresas de inteligência artificial dos EUA, como a OpenAI e a Anthropic, continuam a acusar as empresas chinesas de copiar tecnologias avançadas através de "destilação de modelos", Garry Tan, CEO da Y Combinator, uma conhecida aceleradora de startups dos EUA, expressou publicamente uma visão completamente diferente. Disse que se dependesse dele “nada seria feito” na questão da destilação, e considerou que o atual foco regulatório não deveria ser o combate à destilação.
Garry Tan fez a declaração acima durante uma entrevista durante o evento anual Demo Day da Y Combinator. Nos últimos meses, a destilação de modelos tornou-se um dos tópicos mais controversos na indústria global de IA. A destilação refere-se ao uso da saída gerada por um modelo de inteligência artificial mais poderoso para treinar um modelo menor ou menos capaz. Em alguns casos, este processo pode não ser autorizado pelo desenvolvedor do modelo original, por isso é considerado por algumas empresas líderes de IA como uma ameaça aos direitos de propriedade intelectual e aos interesses comerciais.
Atualmente, a Anthropic acusou publicamente empresas chinesas como Dark Side of the Moon, DeepSeek e MiniMax de supostamente usarem seus modelos para treinamento de destilação. A OpenAI acredita que parte da arquitetura do modelo DeepSeek pode ser emprestada ou originada dos resultados de saída de seus modelos das séries GPT-4 e GPT-4o. Ao mesmo tempo, a Agência de Segurança Nacional dos EUA, a Agência de Segurança Cibernética e de Infraestruturas e o FBI emitiram recentemente em conjunto um alerta de segurança cibernética, listando comportamentos relevantes como riscos de segurança que requerem atenção.
No entanto, Garry Tan não é a favor de restrições mais rígidas à destilação. Ele acredita que o que os reguladores deveriam realmente focar é como estabelecer um equilíbrio saudável entre modelos de peso aberto e modelos de código fechado de ponta, em vez de simplesmente proibir ou reprimir as práticas de destilação. Na sua opinião, enquanto o modelo líder ainda puder manter vantagens de desempenho e prémios de preços suficientes para permitir que o seu modelo de negócio continue a operar, então a existência de um modelo aberto conduzirá à popularização da tecnologia e à difusão da inovação.
Ele disse que o estado ideal deveria ser que o modelo de peso aberto fornecesse liberdade e oportunidades de uso para mais desenvolvedores e empresas, enquanto o modelo de ponta mantivesse o valor comercial em virtude de sua liderança tecnológica. Embora este equilíbrio seja muito frágil e tão difícil como “andar na corda bamba”, ainda é o caminho de desenvolvimento mais digno a ser seguido pela indústria.
Outro contexto para a controvérsia da destilação vem das antigas questões de direitos autorais na indústria de inteligência artificial. Muitos críticos apontam que empresas como OpenAI e Anthropic também enfrentaram questões sobre o uso não autorizado de reportagens, livros e outros conteúdos protegidos por direitos autorais ao treinar seus próprios modelos. O New York Times já processou a OpenAI e a Microsoft, acusando-as de usar conteúdo de notícias para treinar modelos sem permissão; muitos escritores também entraram com ações judiciais contra a Antrópica por questões semelhantes. Garry Tan acredita que isso complica a postura ética da indústria em relação à destilação.
Além da questão da competição de modelos, Garry Tan também permanece cauteloso sobre a atual crescente "teoria do Juízo Final da IA". Recentemente, como alguns investigadores de inteligência artificial expressaram publicamente preocupações sobre o risco de a IA avançada ficar fora de controlo, a discussão da sociedade sobre os riscos existenciais da inteligência artificial aumentou significativamente. Mas Tan acredita que a indústria deveria prestar mais atenção aos problemas que já ocorreram ou que estão prestes a ocorrer na realidade, em vez de se entregar a cenários de desastres de ficção científica.
Na sua opinião, os riscos no domínio da segurança das redes são o desafio mais premente no momento. Por exemplo, se os sistemas de IA forem utilizados para ataques cibernéticos, penetração de infra-estruturas ou crimes automatizados, é muito mais digno de dar prioridade aos recursos para lidar com eles do que o cenário distante em que a IA extermina a humanidade. No que diz respeito a questões como os impactos no emprego e as mudanças na estrutura económica, ele acredita que, embora estes impactos sejam reais, é mais provável que apareçam gradualmente nas próximas décadas, em vez de explodirem num curto período de tempo.
É importante notar que, apesar do crescente debate em torno da segurança da inteligência artificial e da competição de modelos, a Y Combinator continua a apostar fortemente na indústria de IA. Entre as 196 startups expostas neste Demo Day, 149 estavam relacionadas com aprendizagem automática e inteligência artificial, representando mais de três quartos de todos os projectos, reflectindo o elevado optimismo da agência para o desenvolvimento futuro da inteligência artificial.
Os analistas acreditam que a declaração de Garry Tan representa outra voz dentro do Vale do Silício. Ao contrário dos criadores de modelos de ponta que defendem o reforço da protecção e a limitação da proliferação tecnológica, esta facção enfatiza a ecologia aberta, a plena concorrência e a democratização tecnológica. À medida que a indústria da IA continua a desenvolver-se a um ritmo rápido, espera-se que os debates em torno da “destilação”, dos modelos de código aberto, da segurança nacional e da propriedade intelectual continuem a tornar-se questões importantes no campo global da inteligência artificial nos próximos anos.
Comentários