Chatbots, de novo

Hoje quando alguém fala sobre uso de Inteligência Artificial, provavelmente se refere a LLM, “large language model”. São programas capazes de gerar textos usando modelos preditivos – a grosso modo, conhecem as probabilidades de um grupo de palavras vir em sequência de outro grupo. Alguns desses modelos são muito eficazes – GPT, Gemini, LLama… Há diversos e são difíceis de montar, por isso não há muitos, esses que existem depois de montados são facilmente utilizados.

São surpreendentemente eficazes e úteis nas tarefas que executam. Mas quando olhamos para os resultados não parecem muito “inteligentes”, seja lá qual o significado do termo. São modelos linguísticos impressionantemente sofisticados que produzem textos gramaticalmente corretos, mas não têm muita noção de certo ou errado, de verdade ou mentira.

Nesses sentido me lembram o Noam Chomsky, não havia pensado nisso antes.

Servem como auxiliar para redigir textos. Dessa forma quem iguala atividade intelectual a produzir uma certa quantidade de textos com uma certo tamanho pode ter seu serviço substituído. Por exemplo um pesquisador com uma quota de papers anual, ou um professor que exige redações de um certo número de páginas e linhas e toques.

Mas os LLM não servem para tomar decisões. É fácil engambelar um chatbot que usa LLM, porque eles não têm compreensão da realidade atrás do texto.

É mais fácil ainda engambelar a si próprio, como advertia Feynman. É da natureza humana olhar para um texto, achar que gostaria que fosse verdadeiro, aceitar como dogma, e continuar acreditando. O difícil não é engambelar o chatbot; mas sim encontrar a engambelação. Os testes com problemas simples são reveladores, mas com textos mais complexos pode ser menos óbvio detectar que o chatbot está alucinando.

Fenômeno que guarda semelhanças e relações com a propagação de desinformação através de blogs sujos. “Ah, o blog é contra as maracutaias do congresso, falou de chorinho em Poços de Caldas, portanto é uma pessoa honesta, como é que eu vou saber que está propagando desinformação em um assunto que eu desconheço”. Para desinformação, como para produção de textos inúteis, os chatbots são ferramentas destrutivas.

Palpito que se alguém escreveu “assistência de uma IA” ou foi meramente descuidado, ou não tem noção do que está falando. Inteligência Artificial designa toda a área de estudo.

O produto da Ciência da Computação são programas; cabe a pergunta “será que um determinado programa apresenta inteligência artificial”? Cabe a curiosidade; mas não dá para saber exatamente o que a pergunta significa. Muita gente exalta as possibilidade e as ameaças da IA mas não entende o que os programas fazem, não testou para examinar possibilidades e limitações.

Imprecisões numa conversa sobre energia

“penso em dois problemas [na produção de energia solar e eólica]: primeiro, como armazenar o excedente para ter energia à noite.”

A tecnologia de armazenamento usando baterias está disponível e tem caído de custo rapidamente. O problema é levantado como obstáculo por negacionistas, mas só existiria se toda a produção passasse para solar e eólica imediatamente. Durante a transição, as fontes tradicionais continuam existindo e complementam as fontes renováveis.

“Sempre se pode vender o excedente, mas isso tem limites”

O obstáculo à venda da energia excedente pelo consumidor é legal e regulatório. Se o procedimento se tornar generalizado, existem desafios tecnológicos que estão sendo estudados e resolvidos. No mais é resistência dos produtores atuais.

“seria necessário uma política integrada e agressiva de subsídios para tornar a compra e instalação dos equipamentos”.

Hoje o custo das energias eólica e especialmente solar é menor que das fontes concorrentes. São as tradicionais que se beneficiam de proteções políticas e espalham desinformação..

“E aqui um problema político…esse tipo de geração de energia fragmentada cria muito menos oportunidades de corrupção em larga escala do que construir uma usina hidroelétrica…”

Certamente é esse o caso! Sim, é um motivo para resistência.

“Em que pese serem fontes mais limpas, com menor emissão de carbono, os efeitos sobre o trabalho não estão sendo nada alentadores: baixa geração de emprego”

Muito pelo contrário, as fontes alternativas diminuem o custo da energia exatamente por demandarem menor trabalho – muitas vezes perigoso ou desagradável. O objetivo da produção de energia não é gerar empregos na produção, mas sim gerar energia para os demais setores da economia e para o uso da população.

“pequenos proprietários… estão arrendando suas terras para instalação dos parques”

Esse é um problema fundiário, jurídico, e das relações de poder. Tem que ser resolvido politicamente, não privilegiando as indústrias mais arraigadas e destrutivas. Os prejudicados pela indústria de combustível fóssil recebem compensação nula.

“As renováveis poderiam ser uma alternativa… caso houvesse também internalização tecnológica, os principais componentes vem da China (solar) ou da Dinamarca (eólica)”

Novamente, o objetivo da produção de energia não é gerar empregos na produção de energia, mas sim gerar energia para os demais setores da economia e para o uso da população. Se o objetivo for gerar emprego, o carvão é imbatível: mineração, transporte, tratamento de saúde para as vítimas da poluição, mitigação da devastação ambiental… Melhor ainda, podemos exigir que o carvão minerado seja enterrado em outra mina, trazido à superfície novamente, e só então utilizado – isso gera mais emprego ainda!

“ou da Alemanha (hidrogênio verde)”

A história do hidrogênio verde me parece mal contada. Se for produzido a partir de combustíveis fósseis, não é verde. Se for produzido a partir do álcool, faz parte da calamidade ambiental que podemos observar andando pelo interior paulista, todo destruído por canaviais – e introduz complicações totalmente desnecessárias. Um problema que o etanol _não_ oferece é a segurança no transporte e consumo, mas a transformação de etanol em hidrogênio é um passo a mais que baixa a eficiência e cria dificuldades e riscos sem qualquer proveito.

Se for hidrogênio natural obtido diretamente do subsolo, a história é diferente – mas ainda não há comprovação de que tal fonte exista.

Adicionalmente, essa identificação da indústria de hidrogênio com a Alemanha é meio fantasiosa, assim com a identificação da tecnologia eólica com a Dinamarca é exagerada.

“Um desafio acadêmico recente são as pesquisas que buscam conectar trabalho e meio ambiente.”

Esse ponto certamente é verdadeiro! O primeiro passo é estudar a realidade como ela é, e não usar o estudo de forma a confirmar viés pré-existente.

Aluno, patrão, professor, e fósforo.

Circulando nas redes um artigo recente, outro superanuado, das seções de polêmica dos jornais. Comentários abaixo.

Quando o patrão diz que o aluno não está preparado para a profissão, o patrão quer dizer que o aluno não está preparado para trabalhar para a empresa dele nos termos dele. De preferência com um conjunto de habilidades que se encaixa na cultura da empresa do patrão, e que dificulta que o aluno troque de emprego para uma organização concorrente.

Cada organização é diferente. Não é papel da universidade preparar estudantes para trabalharem em empresas específicas, nem é factível atender a essa eterna demanda dos patrões. Por isso sempre vejo com ceticismo esse tipo de reclamação patronal.

A universidade colabora com o problema cultural, organizando o ensino em carreiras estanques vinculadas a profissões regulamentadas. Essas profissões não correspondem às necessidades da sociedade em número de vagas. Muitas são mais “regulamentadas” do que profissões propriamente ditas. A organização da universidade em carreiras com conteúdos inflexíveis e supostamente necessários para as correspondentes profissões regulamentadas indica aos estudantes que aqueles que se formarem mas não utilizarem os conhecimentos recebidos fracassaram.

Essa promessa de emprego direto que não se realiza é receita para a frustração geral e causa as manifestações disparatadas como as que lemos no artigo da seção de polêmicas da Folha e no artigo “falta match” do Globo. Adicionalmente, a estatística de 3% dos formados em administração trabalhando na área parece fantasiosa. Como assim, não trabalham em negócios? Se estão empregados, o que estão fazendo? Tudo são negócios. Também trazem dúvida os 7% de formados em enfermagem na área. Tem muita gente trabalhando em enfermagem, todos sem diploma, e quem tem diploma faz outra coisa? Palpito que a enquete utilizou “água batizada”.

A universidade tem que preparar estudantes para atuar no mundo real, não no mundo das regulamentações dos conselhos federais; nem no mundo dos desejos dos patrões.

https://oglobo.globo.com/economia/noticia/2024/06/02/falta-match-formacao-superior-cresce-em-dissonancia-com-a-demanda-das-empresas.ghtml

Falta ‘match’: Formação superior cresce em dissonância com a demanda das empresas

https://www1.folha.uol.com.br/opiniao/2022/06/ensino-superior-e-mundo-do-trabalho-estao-desconectados.shtml

Ensino superior e mundo do trabalho estão desconectados

Aproveito para dizer que acho um grande progresso que um física e uma engenheira disputaram a eleição mexicana, na frente dos causídicos, rábulas, beleguins, empresários, e traficantes de influência habituais. Porém o governo atual é ruim para a democracia, para a ciência, para o ambiente, para a liberdade individual. Receio que a vitória da situação cause problemas nos próximos 6 anos. Espero estar errado. #NãoConheçoMéxico