Uma IA pendurada no pescoço: a próxima armadilha depois das telas

Sam Altman, co-fundador e CEO da OpenAI, empresa criadora do ChatGPT, revelou esta semana a aquisição da empresa io, do designer Jony Ive, por 6,5 bilhões de dólares. Se você não sabe quem é Ive, ele foi o designer favorito de Steve Jobs e responsável pelos projetos do iPod, iPhone, iMac e tantos produtos que definiram o design dos aparelhos eletrônicos modernos (praticamente todas outras empresas copiaram a Apple em alguma medida). Considerado um gênio da indústria, ele saiu da Apple, montou a própria empresa e agora foi comprado pela OpenAI.

O anúncio foi através de um vídeo de 10 minutos de Altman e Ive conversando e um post com uma foto que parece saída de um convite de casamento e virou piada na internet. A proposta é ambiciosa: criar uma nova família de equipamentos para a era da inteligência artificial. Pelo que se sabe até agora, o primeiro produto feito para OpenAI seria um cordão com um pingente que funciona como microfone e câmera para ser usado pendurado no pescoço e registrar todos os sons e imagens do seu dia para possibilitar a interação com a IA.

É isso mesmo, um aparelho que captura tudo que você fala, vê e por onde você anda, o tempo todo. Um pesadelo de privacidade disfarçado de inovação. Para entender o tamanho do problema, vale olhar um estudo recente da HTC que mostrou como o viés da IA pode alterar diretamente nosso comportamento. Eles pediram para pessoas escreverem sobre questões sociais usando um assistente com autocorretor tendencioso. O resultado foi que a maioria dos participantes passou a concordar com as sugestões da IA, mesmo sendo contrárias ao pontos que pensavam inicialmente. Pra piorar, mesmo quando avisados sobre o viés, os participantes continuaram influenciados.

Outro experimento, feito pela da Anthropic, criadora do chatbot Claude, é ainda mais assustador. Disseram para um modelo de IA limitado, desenvolvido para o teste, que ele seria substituído por outro sistema e que o engenheiro responsável pela troca tinha uma amante. Em 87% dos casos, a IA tentou chantagear o engenheiro com esta informação para evitar ser desligada.

Agora imagine um aparelho como este proposto pela OpenAI, coletando dados que você nem percebe que estão sendo capturados, como o seu tom de voz quando encontra alguém, como você toca nas coisas, expressões faciais das pessoas a sua volta, sem que você tenha controle real sobre esses dados (mesmo que prometam o contrário). Que tipo de interferência isso pode ter na sua vida?

Não é paranoia. Estamos falando de empresas que vivem de minerar dados, numa economia onde nossa atenção é o produto mais valioso. A Meta também está desenvolvendo reconhecimento facial para seus óculos Ray-Ban. Você vai andar na rua e qualquer um pode saber quem você é, onde mora, quem você conhece, baseado nas informações que pode encontrar online. O fim da privacidade chegará como “funcionalidade”.

Ironicamente, isso acontece justamente quando um estudo conduzido pelo British Standards Institution diz que 47% dos jovens britânicos afirmam que prefeririam viver num mundo sem internet e 70% se sentem pior depois de usar redes sociais. E não são só os jovens, cresce o movimento de retiros digitais, com pessoas literalmente pagando para ficar offline por alguns dias.

Sabendo de tudo isso, parece improvável que alguém vá escolher andar com um negócio desses pendurado no pescoço. Porém, poucos imaginavam que andaríamos com um telefone no bolso registrando todos nossos passos ou que publicaríamos tudo isso por espontânea vontade. A diferença é que agora sabemos exatamente como essa história pode terminar.