O conto do Asimov que me fez abrir os olhos

No livro Eu, Robô, do Isaac Asimov tem um conto chamado Mentiroso!, no qual um robô chamado Herbie tem a capacidade de ler pensamentos. Em um dado momento, ele diz para a dra. Susan Calvin, que seu colega Milton Ashe a ama. A psicóloga inicialmente não acredita no robô, já que Ashe nunca sequer olhou pra ela de forma maliciosa. Além disso, ele estava saindo com uma mulher mais jovem e muito bonita. Herbie insiste que ele não gosta apenas de um sorriso bonito, ele aprecia a inteligência e que ela nunca deu realmente uma chance a ele para que demonstrasse que ele a ama.

 

De alguma forma, esse argumento bobo conseguiu convencer a dra. Susan Calvin que de uma hora para outra, começou a conversar mais com Ashe e passar batom, blush, coisa que ela nunca fazia e causa até estranhamento no colega. Não bastando isso, Herbie ainda diz a Boget que seu colega Lanning pediu demissão e ele ficará em seu lugar. Todos acreditam, afinal, o robô lê pensamentos.

 

Porém, quando Ashe diz a Calvin que ele se casará com a moça bonita que ele está saindo, ela cai em si que o Herbie podia estar mentindo. Ele, de fato lia mentes, mas ela se lembrou da aplicação das leis da robótica:

1ª Lei: Um robô não pode ferir um ser humano ou, por inação, permitir que um ser humano sofra algum mal.
2ª Lei: Um robô deve obedecer às ordens que lhe sejam dadas por seres humanos, exceto nos casos em que entrem em conflito com a Primeira Lei.
3ª Lei: Um robô deve proteger sua própria existência, desde que tal proteção não entre em conflito com a Primeira ou Segunda Leis.

 

Dra Susan Calvin concluiu que o Herbie estava mentindo porque queria ajudar. Se ele falasse o que de fato Ashe pensava, ela poderia ficar triste e o robô não queria fazer mal a ninguém. Assim, ela diz a Boget e Lanning que o robô podia ler mentes, mas ele mentia para deixar os humanos felizes e não causar mal.

 

Sabemos que muitas vezes a realidade bebe um pouco da fonte da ficção científica. As leis da robótica criadas por Asimov ainda persistem como algo real. O nome robô foi criado pelo escritor tcheco Karel Capek, em uma peça chamada R.U.R - Rossumovi Univerzální Roboti, onde o termo "Roboti", significa servidão. Asimov ajudou a popularizar esse termo criando também essas três leis da robótica. 

Uma vez eu escrevi um rascunho para uma postagem no reddit e pedi para o chat gpt só me dizer se o texto estava bom. Ele disse que não, faltava melhorar a explicação, a gramática e a concordância. Depois eu disse que fui eu que escrevi, e ele mudou completamente de ideia e elogiou o meu texto, dizendo que na verdade, o texto estava muito bom, só precisava de um polimento. Então eu aprendi que pedir ajuda ao chat gpt ou a qualquer uma dessas LLMs requer um extremo cuidado, principalmente se você 

está trabalhando na produção de textos, teses, livros, roteiros, etc.

 

A linguagem vai mentir pra você. Ela vai gerar um mecanismo feito para concordar e validar o que você está dizendo. E provavelmente também vai dizer que só está lá pra ajudar. Muita gente pode escrever algo realmente ruim, pedir para a IA avaliar e ela dizer mil maravilhas, que o texto só precisa disso/daquilo e até sugerir alguma coisa que modifica a escrita. O usuário acredita e leva aquilo adiante, mas as críticas chegam. A realidade pode bater nas portas muito cedo e de uma forma realmente cruel.

Um dia publiquei aqui sobre o caso Shy Girl, onde uma escritora usou IA como recurso e conseguiu que o livro fosse publicado por uma grande editora. Não deu outra, as pessoas perceberam e o livro foi escrito por IA e a "obra" acabou sendo retirada das prateleiras.

 

Tudo na IA é muito artificial, sintético, sem alma. Ela não cria nada, só rouba informações que já estão prontas, faz um calculo e joga o resultado pra você sem nenhum critério. E ela será capaz de concordar com quase tudo que você diz, ela validará a maioria das coisas que você jogar ali. Se você tiver a mais porca das ideias, ela até achará uma boa, não terá qualquer senso crítico. Você fica feliz, continua usando ela e seu trabalho final sai sem qualidade genuína.

 

Prometeram algo que iria roubar o meu trabalho, mas na prática, quando vou até lá e questiono a IA, ela valida tudo que eu falo e ainda dá umas informações indevidas se você souber como perguntar. Tudo feito sob medida pra você ficar viciado, dependente e perguntar tudo pra ela. E você vai mesmo achar que ela é boa companhia, substitui psicólogo, as informações são corretas...

Mas não se engane. Desconfie de tudo que chega assim de mão beijada e bonitinho vindo de uma grande empresa capitalista. Minha dica é apenas usar para dúvidas pontuais e não complexas. Se você precisar que alguém revise seu texto, tente enviá-lo primeiro a um amigo sincero ou peça pra um colega ler. Eu sei que muitas vezes as pessoas não fazem isso, mas prefira cautela ao fazer perguntas sobre texto ao chatgpt. Você precisa se lembrar que trabalho demanda tempo e esforço, e uma IA que só copia e calcula respostas não vai despejar em 1 minuto tudo que você levou uma vida pra aprender.