A jornalista e académica Courtney C. Radsch considera, em entrevista à Lusa, que existem riscos "profundos" para os media na Era da Inteligência Artificial (IA) e que a governança desta tecnologia "requer uma abordagem global".

Courtney C. Radsch, da universidade norte-americana UCLA, é uma das oradoras da 3.ª edição da 'Lisbon Winter School for the Study of Communication', da Faculdade de Ciências Humanas da Universidade Católica Portuguesa, que decorre entre 04 e 07 de janeiro e onde serão debatidos temas na área dos media e da propaganda e os seus impactos.

A sua apresentação será sobre o uso da IA na propaganda e media na Era da IA (Media and Propaganda in the Age of AI).

Em conversa com a Lusa, considera que os riscos para os media e propaganda nesta Era são "realmente profundos".

Em primeiro lugar, "existe o risco, é criado a partir da elisão da propaganda e dos media, do uso dos media e das redes sociais e desses poderosos sistemas de IA que alimentam as plataformas por governos e atores estatais de propaganda, por grupos terroristas de propaganda", entre outros, aponta.

Trata-se de um processo "muito fácil e barato para propagandistas e desinformação atingirem um grande número de pessoas" e isto é um nível de risco, afirma.

Agora, "estamos a entrar" na Era em que a IA "representa um desafio realmente fundamental para a nossa capacidade de distinguir conteúdo autêntico de conteúdo sintético", refere a académica e jornalista.

Portanto, "novos desenvolvimentos de IA no processamento de linguagem natural", onde existem exemplos de "plataformas baseadas em imagens e áudio sintético", tornam cada vez mais difícil -- quer para as pessoas comuns como para especialistas -- conseguirem distinguir entre o que é "sintético, falsificado, criado de informações 'do ar' e o que são informações probatórias reais", salienta.

Exemplo disso são fotografias criadas pela IA ou vozes de figuras públicas que são recriadas.

"Acho que estamos a entrar num período muito perigoso quando as formas pelas quais normalmente temos conseguido autenticar e verificar informação e obter evidências serão grave e fortemente desafiadas", com os grandes desenvolvimentos de IA e 'machine learning', alerta.

Questionada se a sociedade e as empresas estão conscientes destes desafios, a resposta é que estão "pouco cientes" disso.

"Não acho que eles realmente" tenham consciência do que vai representar "muito rapidamente" a nova Era, apesar de muitas redações já estarem a usar "algum tipo de IA".

Mas "o que vai acontecer ao papel do jornalista quando a IA escrever artigos", questiona, ou a músicos e autores quando a IA começar a gerar novos produtos criativos? Questões para as quais ainda não há resposta, mas que Courtney C. Radsch defende que é preciso fazer uma reflexão global.

"Acho que não estamos de todo preparados e não temos os instrumentos técnicos ou sociológicos prontos para implantar nesta nova Era de media sintéticos", sublinha.

Além disso, "existem várias maneiras pelas quais o preconceito entra na IA. Primeiro, a IA é construída sobre dados. Algumas comunidades, algumas pessoas, alguns países criam mais dados do que outros e são mais 'datificados' [com mais tecnologias e processos orientados para dados]", explica.

O que conta como dados e o que é "'datificado' são os blocos de construção fundamentais da IA", em que é preciso "rotular e classificar esses dados" e "fazemos isso melhor em inglês do que em árabe, por exemplo, ou em muitas outras línguas", o que "é inerentemente tendencioso". Portanto, classificar e rotular esses dados "pode trazer preconceitos estruturais e pessoais", enfatiza.

Há também a IA generativa, aquela que gera uma nova Inteligência Artificial e é construída sobre a IA existente: isso "até recria e reforça muitos desses preconceitos e desigualdades estruturais" que muitas vezes são apontadas, diz.

E como que podemos garantir que a Inteligência Artificial não compromete os media, a democracia? "Não sei se conseguimos", mas "é algo que vamos descobrir nos próximos anos porque não é só apenas da IA em si", afirma.

Líderes políticos "de todo o mundo" têm aproveitado as plataformas das redes sociais, que são "fundamentalmente" construídas em IA -- como o caso dos sistemas de moderação de conteúdo que são construídos em Inteligência Artificial e 'machine learning', relembra.

Ou seja, têm usado as redes sociais para a propaganda, "especialmente durante as eleições", e até mesmo durante protestos.

"Acho que, até vermos líderes políticos intensificando-se para criarem as suas próprias restrições, juntamente com uma abordagem multissetorial para governar a IA" -- o que significa ter empresas, academia, sociedade civil e grupos afetados envolvidos nesses processos de governança --"vamos correr um risco real", adverte.

Courtney C. Radsch refere que as plataformas tecnológicas também são necessárias para criar ferramentas de autenticação e melhores indicações para que os seus utilizadores "possam avaliar melhor as informações que estão a ver" e aqui "as organizações de media terão que realmente descobrir qual é o seu papel neste novo mundo".

Por exemplo, o "crescimento da verificação forense e de factos no jornalismo, acho vamos ver isso expandir-se ainda mais e não apenas a verificar o que é verdadeiro ou falso, mas verificar a proveniência da informação", prevê.

Aliás, admite que até se vai tornar "arriscado tentar ser o primeiro a dar uma notícia" polémica, por exemplo, uma declaração de um líder mundial que pode ter sido gerada automaticamente pela IA.

"Ou a evidência fotográfica de um crime de guerra que, afinal, foi criado pela IA", adverte a académica e jornalista.

Do seu ponto de vista, os jornalistas vão focar-se na "forense digital sobre o que são os media sintéticos e os que não são", sendo que, porém, nem todos aqueles que são sintéticos são "maus".

Aliás, "é ótimo ter um 'bot' de IA" que permita criar notícias financeiras ou resultados desportivos com informações básicas, mas o que é "problemático" é quando esta tecnologia tenta "fazer a análise" ou é usada "para recriar evidências falsas" de algo, alerta.

Sobre o projeto de lei da União Europeia (UE) sobre a IA, Radsch afirma que "ainda bem" que o bloco europeu está a tentar "fazer algo" sobre a IA, porque os "Estados Unidos têm estado flagrantemente ausentes da supervisão das empresas de tecnologia".

Trata-se de "um processo que envolve várias partes interessadas" e é "muito deliberativo e inclusivo", mas "acho que é muito importante também" que o bloco europeu "considere não apenas os impactos na UE, mas em todo o mundo".

O projeto de lei de IA que está atualmente em discussão em Bruxelas "é importante", no sentido da explicabilidade sobre o sistema algorítmico, mas "na verdade não chega à raiz de alguns dos desafios" da IA.

"Portanto, eu acho que os esforços da UE são importantes e vão na direção certa, mas não são suficientemente compreensivos. E, francamente, a governança da IA requer uma abordagem global", remata.

Ler a notícia na Lusa aqui.