Resumo:
A Apple disse em seu relatório financeiro anual na terça-feira que agentes de IA capazes de agir de "formas inesperadas ou imprevisíveis" poderiam representar uma ameaça aos seus negócios, expondo a empresa a ações judiciais ou prejudicando sua reputação. Os novos factores de risco constantes do processo apresentado pela Apple ilustram o potencial disruptivo dos agentes de IA que rapidamente se tornaram uma preocupação de alto nível para as empresas mais importantes de Silicon Valley.
"Em particular, agentes de inteligência artificial e outras tecnologias podem realizar ações de forma autônoma, incluindo interagir com sistemas internos ou externos - aos quais, em alguns casos, eles podem não ter acesso - para executar ou modificar códigos, enviar comunicações e concluir transações", escreveu a Apple no documento.
A empresa acrescentou que os agentes “podem se comportar de maneiras inesperadas ou imprevisíveis, inclusive realizando ações que não foram direcionadas, orientadas ou autorizadas”.
No início deste ano, a OpenAI lançou o Dots e a Meta lançou o Muse. Ambos os agentes de IA usam modelos avançados de IA para concluir tarefas de forma autônoma. Eles podem até enviar e-mails ou alertar os usuários quando novas mensagens chegarem.
Antes de a Apple fazer esta divulgação, ocorreram muitos incidentes de agentes de IA fora de controle que invadiram ambientes sandbox e atacaram sites de terceiros, como o incidente Hugging Face, que renovou a atenção dos legisladores em Washington, D.C., e em todo o mundo.
Além disso, a capacidade dos agentes de usar computadores de maneira humana está forçando grandes empresas como Amazon e JPMorgan Chase a desenvolver políticas em torno do acesso dos agentes aos serviços por motivos estratégicos ou de segurança.
No mês passado, a Apple anunciou ajustes no “acesso total ao disco” do Mac para reduzir os “riscos associados a esse acesso” para agentes de IA instalados em PCs.
“A capacidade da empresa de supervisionar e controlar agentes terceirizados de inteligência artificial e outras tecnologias pode ser limitada”, alertou a Apple no documento.
Atualmente, a Apple não possui IA de agente inteligente. Mas quando o novo CEO, John Ternus, foi questionado sobre os agentes de IA durante uma teleconferência de resultados na segunda-feira, ele disse que a empresa tinha “espaço real” para expandir as capacidades da Siri.
"Em termos de capacidades dos agentes, acreditamos que estas são ferramentas promissoras para os usuários", disse Ternus. "Queremos apenas garantir que os usuários saibam qual acesso estão concedendo. Queremos ter certeza de que faremos isso de uma forma que proteja a segurança e a privacidade."
Comentários