Medo de perder o controle da IA preocupa especialistas 3r6z6f

Rob de assistncia ao cliente na estao principal de Berlim, na Alemanha (foto: ODD ANDERSEN/AFP)

E se os humanos perdessem o controle da inteligncia artificial? Reunidos em uma cpula sobre IA em Paris, os especialistas sublinham a necessidade de estabelecer regras para evitar esse cenrio.

Ao contrrio das cpulas anteriores de Bletchley Park (Reino Unido), em 2023, e de Seul (Coreia do Sul), em 2024, que se centraram em questes de segurana, a Presidncia sa pretende que a reunio de segunda e tera-feira coloque a tnica em medidas eficazes de governao da IA.

O objetivo que o maior nmero possvel de intervenientes nesta nova revoluo econmica se comprometa com uma declarao global, mas sem medidas vinculativas.

“O nosso desejo no gastar o nosso tempo a falar apenas dos riscos. H uma oportunidade muito real”, declarou AFP Anne Bouverot, especialmente designada pela Presidncia sa.

Para Max Tegmark, presidente do Future of Life Institute e fsico do prestigiado Massachusetts Institute of Technology (MIT), o pas no deve perder o “momento crucial” desta cpula sobre a IA, que rene os principais intervenientes do setor durante vrios dias na capital sa.

Ataques cibernticos, ataques biolgicos

O Future of Life Institute apoia o lanamento de uma plataforma, chamada “GRASP”, que visa mapear os principais riscos relacionados IA e as solues desenvolvidas em todo o mundo.

“Identificamos cerca de 300 ferramentas e tecnologias que enfrentam esses riscos”, diz Cyrus Hodes, que coordenou a iniciativa.

Os resultados sero transmitidos OCDE e aos membros da Parceria Global para Inteligncia Artificial (PMIA), da qual a Frana faz parte e que se rene no domingo.

O primeiro relatrio internacional sobre a segurana da IA, fruto de uma colaborao internacional de 96 especialistas e apoiado por 30 pases, pela ONU, pela Unio Europeia e pela OCDE, foi apresentado na quinta-feira, tambm com o objetivo de informar os formuladores de polticas sobre os perigos dessa tecnologia.

Embora alguns sejam bem conhecidos, como a criao de contedo falso on-line, o pesquisador de cincia da computao Yoshua Bengio, vencedor do prmio Turing de 2018, diz que “evidncias de riscos adicionais, como ataques biolgicos ou ataques cibernticos, esto surgindo gradualmente”.

Em longo prazo, ele se preocupa com a “perda de controle” dos seres humanos sobre os sistemas de IA animados por “sua prpria vontade de viver”.

“Muitas pessoas achavam que dominar a linguagem, como faz o ChatGPT-4 (chatbot da OpenAI), era fico cientfica h apenas seis anos”, lembra Max Tegmark.

“O problema que muitas pessoas no poder ainda no entenderam que estamos mais perto de construir uma inteligncia artificial geral do que de saber como control-la”.

As mquinas esto no comando?

A inteligncia artificial geral seria comparvel ou at mesmo superior aos seres humanos, e vrios especialistas do ecossistema, como o diretor da OpenAI, Sam Altman, acreditam que ela ser alcanada nos prximos anos.

“Se observarmos o ritmo de aumento das capacidades, podemos pensar que chegaremos l em 2026 ou 2027”, concordou Dario Amodei, diretor da startup americana Anthropic, em novembro.

Com o risco de que, na “pior das hipteses, essas empresas americanas ou chinesas percam o controle e a Terra seja dominada por mquinas”, argumenta Tegmark.

“A tecnologia est mudando muito rpido”, diz Stuart Russell, professor de cincia da computao na Universidade da Califrnia, Berkeley, e codiretor da Associao Internacional para IA Segura e tica (IASEAI).

O mais preocupante “seria ter sistemas de armas em que a inteligncia artificial controlasse e decidisse quem atacar e quando”, acrescenta.

Para esses especialistas, os Estados devem adotar medidas de proteo.

“Devemos tratar o setor de inteligncia artificial da mesma forma que tratamos todos os outros setores”, enfatiza Tegmark.

“Antes de construirmos um reator nuclear perto de Paris, precisamos provar a especialistas nomeados pelo governo que o reator seguro”, continua ele. “Deve ser a mesma coisa com a IA.”

Uma voz discordante a do professor de cincia da computao de Berkeley, Michael Jordan, que considera a ideia de uma super IA “absurda”.

A IA “no pode saber tudo, porque o que estou pensando agora o contexto do que farei em seguida, hoje. Ela no pode saber isso”, diz ele.