Inteligência Artificial sem ética, o fim precoce do Metaverso e mais

E vamos para mais um resumo mensal. Seguindo os resumos anteriores, começaremos com a OpenAI e seu tão falado ChatGPT. Que nesse último mês deu o que falar por conta da falta de ética. Como muito falado, as empresas estão fazendo cortes massivos da força de trabalho. E não são apenas programadores e pessoas da área de tecnologia que estão passando por esse momento, todos os departamentos entram no jogo.

Com isso, as equipes de ética, de várias empresas, foram desfeitas. Curiosamente, pouco tempo antes do lançamento das Inteligências Artificiais no mercado. Sabemos que para que essas Inteligências funcionem, precisamos treiná-las. E aqui entra um problema muito antigo, como treinar a IA, usando conteúdo existente, sem que ela se torne racista? Como ter certeza que todos que estão ajudando a desenvolver essa tecnologia são zero preconceituosos em todos os assuntos? Impossível.

Com isso, vemos casos como o da Itália, que bloqueou o uso do ChatGPT citando preocupações com proteção de dados, ou até mesma a carta aberta, que foi assinada pelo Yuval Noah Harari (autor de “Sapiens”), Elon Musk, Steve Wozniak e muitos outros, para que a IA fosse pausada. Pois os impactos dessa tecnologia podem ser devastadores. Pois não sabemos até onde ela pode ir ou podemos ir com ela. São poucos estudos e o lançamento de uma ferramenta, fez outras empresas, como o Google, Alibaba e Apple lançarem ferramentas concorrentes. Causando uma corrida para Lua, que não precisava existir sem a ética ao lado.

Por um lado, temos a Nvidia falando que todos poderão ser programadores com a IA, o que é verdade. Do outro temos o golpe que usa voz gerada por inteligência artificial, temos o GPT-4 mentindo para completar uma tarefa, temos imagens controversas sendo geradas para criação de fake news. Ao “NY Times”, chatbot diz querer ser humano e destrutivo. Temos o Google Bard, que é treinado por humanos, e eles “chutam” as respostas certas. E um site mostra quanto tempo IA precisaria para quebrar uma senha.

São muitos pontos negativos, muitos positivos, pouco entendimento e nenhuma regulação dos limites. Os poucos limites existentes são impostos pelas próprias empresas, que não deveriam ser quem define o que pode ou não pode ser feito. Até pouco tempo o Google era super rigoroso sobre o acesso à inteligência artificial, mas com essa corrida maluca, largou mão de ser o mocinho e está disponibilizando sua ferramenta antecipada. Colocando a solução rapidamente nas suas outras ferramentas. Assim como a Microsoft, que já colocou IA em tudo, tudo, absolutamente tudo. Além de lançar o Copilot.

Um artigo que explica certinho porque o ChatGPT pode ser perigoso, você pode ler aqui. Recomendo a leitura por sinal. Onde pode entender como estão conseguindo bypass na plataforma para respostas que foram filtradas pela equipe de desenvolvimento da mesma. Para mitigar isso, a OpenAI dá mais detalhes sobre medidas de segurança do ChatGPT e avanços do GPT-4.

A boa notícia da semana vai para o Governo de São Paulo em parceria com o Waze. Que informará enchentes no aplicativo.

E quem deu o primeiro passo, para o que venho falando faz meses, foi a Disney. Que encerrou o setor de metaverso da empresa durante uma demissão em massa. Estou curioso para saber qual será o novo nome da Meta.

Já o projeto do Google, que fica procurando falhas em tecnologia, descobriu uma falha em modems da Samsung para celulares, a OpenAI revelou que bug no ChatGPT levou a vazamento de dados dos usuários, o Bing da Microsoft teve falha que permitia mudar os resultados da busca e ver dados de usuários do Microsoft 365. Uma falha em um plugin do WordPress expõe 12 milhões de sites a ataques. Agora é a vez do Linux para o ransomware IceFire. Roteadores como Lancom, Aruba, Cisco, Asus e D-Link tem brecha que permite interceptar dados.

Lá na Meta temos o vazamento do modelo de IA LLaMA da empresa no Github. Parte do código-fonte do Twitter é vazado no GitHub e traz riscos de segurança. E os sistemas da OAB ficaram fora do ar por conta de um ataque. Lá pelas bandas da Acer, 160GB de dados estão nas mãos de hackers. Já o hospital da USP sofreu ataque hacker e suspendeu consultas e exames.

Sobre os desligamentos, temos o iFood com 6,3% do total do quadro. A Meta que vai demitir mais 10 mil e congelar 5 mil vagas. Na Amazon temos mais 9 mil demissões.

E por fim, funcionário dá o famoso rm -rf na BARRA e apaga uma empresa do mapa. Para quem não entendeu, ele apagou absolutamente tudo do servidor, até mesmo o sistema operacional.

Danilo Arouca
CIO – TecnoLoide Tecnologia