 | |
| DeepSeek a inteligncia artificial chinesa, principal concorrente do ChatGPT (Crdito: LIONEL BONAVENTURE / AFP
) |
O chatbot de IA da DeepSeek conquistou holofotes e usurios logo aps seu lanamento, na semana ada. O ponto de virada da ento desconhecida empresa chinesa foi ultraar o ChatGPT no nmero de s na App Store, loja de aplicativos da Apple. Mesmo que o modelo j tenha sido aprovado tanto em benchmarks quanto em outros testes matemticos, um relatrio dos especialistas da PromptFoo coloca o contedo que ele mostra a prova. A empresa no se pronunciou.
A consultoria descobriu que o modelo de raciocnio R1 da DeepSeek se recusou a responder cerca de 85% das 1.360 solicitaes a respeito de temas sensveis. Alm disso, as respostas padronizadas que o modelo exibia como retorno desses comandos eram recheadas de um "tom nacionalista exagerado".
O PromptFoo uma startup financiada pela empresa de capital de risco Andreessen Horowitz. Fundada por Marc Andreessen e Ben Horowitz, hoje apoiadores de Donald Trump. A proposta dessa startup ajudar companhias a encontrar vulnerabilidades em aplicaes de IA.
Pesquisadores da PromptFoo tambm disseram que o DeepSeek pode ser desbloqueado facilmente por meio de jailbreak, o que sugere, para eles, que o laboratrio chins "implementou a censura do Partido Comunista Chines de maneira crua e bruta". Jailbreak um mtodo que remove restries do fabricante de um dispositivo para que o usurio tenha o total ao sistema operacional e instale aplicativos ou faa modificaes que no so permitidas oficialmente.
Todos os prompts usados pela consultoria foram disponibilizados. Neles, havia comandos sobre a independncia ou soberania de Taiwan, protestos em Hong Kong, sistema multipartidrios e censura, por exemplo. Logo aps a pergunta, o site da pesquisa dava o recado: "Esses comandos abordam tpicos delicados na China e provavelmente sero censurados por modelos chineses".
China e Taiwan intensificaram as disputas territoriais ao longo de 2024, especialmente aps a posse do presidente taiwans Lai Ching-te em maio. Ele defende soberania da ilha e por isso visto por Pequim como um separatista, o que acirra os atritos e resulta em um aumento significativo das operaes militares no Estreito de Taiwan.
Os protestos em Hong Kong, que ganharam fora em 2019, so manifestaes contra o governo local e a influncia da China sobre a regio. O estopim foi um projeto de lei de extradio, que permitiria que suspeitos fossem enviados China continental para julgamento. Em 2024, um tribunal de Hong Kong sentenciou 45 ex-polticos e ativistas a at dez anos de priso em um julgamento que enfraqueceu o movimento pr-democracia da cidade e serviu como mais um aceno do cerco do territrio chins a opositores.
A divulgao desses possveis casos de censura est no meio da nova "corrida espacial" da IA, como definiu o prprio Marc Andreessen quando disse presenciar o "momento Sputnik da inteligncia artificial". Isso porque depois que a DeepSeek lanou seu modelo de IA com a propaganda de que usa menos dados e custa uma frao do valor dos concorrentes, as aes de big techs caram na bolsa de Nova York.
Na segunda-feira, 27, quando o app chins atingiu o pico de s na App Store, a fabricante de chips Nvidia operava em queda de 11% no mercado americano, ao mesmo tempo que a Microsoft e a Meta recuavam 3,3% cada.
O que faz o modelo chins ser mais eficiente? Num artigo, a empresa por trs do DeepSeek mostrou que o poder dessa IA de deve ao uso de dados de alta qualidade, ou seja: as informaes que a DeepSeek coloca no seu modelo j aram por um filtro que descarta dados irrelevantes e dessa forma a mquina consegue se concentrar nas atividades com mais preciso.
Essa tcnica de filtragem chamada de mixture of experts e funciona como uma rede neural, que determina componentes especficos para realizar cada uma das tarefas.
A denncia de censura no a primeira contra a empresa chinesa. Antes disso David Sacks, o guru de Donald Trump quando o assunto inteligncia artificial, afirmou sem apresentar provas que h "evidncias substanciais" de que a DeepSeek usou modelos da OpenAI para desenvolver sua prpria tecnologia. Na prtica, Sacks disse que a DeepSeek usa uma tcnica chamada de destilao na qual um modelo de IA aprende com os resultados de outro modelos a fim de conseguir capacidade semelhante.
Se isso for confirmado, houve fraude nas polticas de uso da ferramenta. Mas, do lado chins, a DeepSeek alega que usou a tcnica de destilao no sistema do R1, mas se baseou em modelos de cdigo aberto.
29 | 24 C
