sexta-feira, 26 de janeiro de 2024

I.A, pausa para reflexão.

 


*Cesar Vanucci

“(...) Uma corrida perigosa para modelos de “caixa preta” cada vez maiores e mais imprevisíveis” (“Carta Aberta” de cientistas sobre a Inteligência Artificial)

 

A Inteligência Artificial está chegando aí, com penca significativa de inovações, algumas ainda inimagináveis. O tema suscita interrogações e  reflexão amadurecida. Tem-se como certo que com a implantação ampla deste avançado instrumento tecnológico, acontecerá algo bem mais impactante do que ocorreu com a chegada da internet. Mudanças radicais poderão vir a ser incorporadas ao nosso comportamento mundano.

Nas antevisões de pessoas já bem familiarizadas com o manejo da revolucionária ferramenta técnica, a I.A trará situações análogas ao que aconteceu e acontece ainda com outros engenhos prodigiosos nascidos da fecunda criatividade humana, concebidos originalmente dentro do propósito de engrandecimento civilizatório. Caso de relembrar o ocorrido com a incorporação da pólvora, do avião, da energia nuclear e da própria internet aos projetos e empreitadas dos seres humanos na busca incessante do progresso e desenvolvimento. Todas essas apreciáveis conquistas, que geraram benefícios sem conta, acabaram também, em numerosas ocasiões, servindo a objetivos não harmonizados com as sublimes aspirações do espírito humano.

Existem, como sabido, compreensíveis preocupações de personalidades que compõe a elite da inteligência e sabedoria com relação a eventos danosos  que poderiam derivar da aplicação distorcida do sistema IA . Recentemente ainda, numa “Carta Aberta” ao mundo, 1300 cientistas, sociólogos, empresários do ramo da informática, acadêmicos graduados, externando temor nas alegações ditadas, recomendaram enfaticamente fosse estabelecida uma pausa nos avanços do processo. Insistiram num ponto: que “a pausa deve ser pública e verificável e incluir todos os principais atores.” Acrescentam: “Se tal pausa não puder ser decretada rapidamente, os governos devem intervir e instituir uma moratória.” Noutro ponto do palpitante pronunciamento é salientado mais o seguinte: “Laboratórios de IA e especialistas independentes devem usar essa pausa para desenvolver e implementar  um conjunto de protocolos de segurança compartilhados para design e desenvolvimento avançados de IA a serem  rigorosamente auditados e supervisionados por especialistas externos independentes. Esses protocolos devem garantir que os sistemas que aderem a eles sejam seguros além de qualquer dúvida razoável. Isso não significa uma pausa no desenvolvimento da IA em geral, apenas um retrocesso na corrida perigosa para modelos de caixa preta cada vez maiores e imprevisíveis com capacidades emergentes. A pesquisa e o desenvolvimento de IA devem ser reorientados para tornar os sistemas avançados e poderosos de hoje mais precisos, seguros, interpretáveis, transparentes, robustos, alinhados, confiáveis e leais.”

Outro aspecto de vital importância trazido à reflexão da humanidade pelo manifesto diz respeito à necessidade imperiosa de se assegurar regulação, monitoramento, rastreamento, auditoria permanente, certificação de dados. Esses cuidados essenciais levarão à necessária responsabilização por danos eventualmente provocados pela IA. O arcabouço jurídico institucional concebido – admitem os signatários da “Carta Aberta”- permitirá todas as condições almejáveis para se lidar com as dramáticas perturbações econômicas, sociais e políticas causadas pela IA. Ficarão assim também resguardados os sagrados interesses democráticos.

Um comentário:

Anônimo disse...

Caro César,
Em modesta e despretensiosa opinião acho que já passamos por fases assim, de medo exagerado quanto aos efeitos de inovações ainda pouco estudadas.
O tempo se encarrega de ajustar os temores à realidade.
Exemplos podem ser lembrados às dúzias: eletricidade; carro a motor mecânico; avião; vacina...
A.I. ainda engatinha, mas não tem porquê desta vez seja diferente!
Aos poucos vamos desmistificando-a, aproveitando suas vantagens e contornando inconveniências.
Sempre foi assim!
Abraços,
Guilherme Roscoe

A SAGA LANDELL MOURA

Por falar em supersalários...

  *Cesar Vanucci “O que se pretende é regulamentar o que já está regulamentado” (Domingos Justino Pinto, educador.)     Pela enési...