O caso Shy Girl

 

Nesse link aqui do reddit, alguém achou muito esquisito a escrita de um certo livro chamado Shy Girl, de uma escritora chamada Mia Ballard. O autor do post argumenta que o texto dela tem muita, mas muita cara de que foi escrito por IA. E por que? Abuso de travessão "—", palavras com conexões estranhas, como por exemplo:

 "Então a porta se abre com estrondo, e ele entra como uma tempestade, arrastando o fedor azedo de bebida atrás dele, sua presença preenchendo o ambiente e tornando o ar pastel quebradiço"

Ou

"Meias brancas sobem pelas minhas pernas, suas rendas delicadas, um sussurro de inocência sobre os machucados por baixo, aqueles que ele diz que não deveriam acontecer se as meias estiverem lá — mas sempre acontecem." 

Isso é a prova cabal de que foi escrito por IA? Certamente não, mas é muito estranho porque não segue bem um padrão que um humano normalmente escreveria quando precisa usar palavras um pouco mais sinestésicas.

Eu já pedi pro Chat GPT escrever assuntos sobre coisas que já tratei aqui. Não foi muito satisfatório o resultado. Chat GPT não conclui, não tem opinião. Tudo que ele escreveu foi apontamento genérico.

"Diante desse cenário, torna-se urgente discutir limites e responsabilidades. Plataformas digitais, anunciantes e os próprios criadores de conteúdo precisam ser cobrados. Mais do que isso, é essencial investir em educação midiática, para que os usuários desenvolvam senso crítico diante desse tipo de propaganda."

Vejam que no caso do livro de Mia Ballard, escrever esse tipo de coisa "preenchendo o ambiente e tornando o ar pastel quebradiço" pode ser um indício de qualquer palavra juntada pelo Chat GPT. Afinal, IA não tem sentimento, não consegue escrever sensação genuína experimentada por um indivíduo que possui cognição. Há quem argumente que não é todo mundo que consegue nomear os sentimentos. Isso é real. Porém, o sentimento tá ali, é sentido e se tentamos falar sobre ele, muitas vezes conseguimos usando exemplos.

Mia Ballard, no entanto, exagerou nas repetições, nas inconsistências, no uso de travessão e em fechamentos de frases que não faziam sentido. O tom de tudo parece neutro demais, coisas bem estranhas para um ser humano. Como escritora, ela deveria reler seu texto e tentar entender se aquilo tem coerência. 

O lance de Shy Girl terminou mal. Pela primeira vez na história uma editora cancela a publicação do livro porque, fazendo análises, concluíram que 70% do livro foi escrito por IA. Mia Ballard, por sua vez, alega não ter usado IA, ela enviou para um revisor e este sim usou IA. Se é verdade, ela terá meios de provar, mas duvido muito. Se eu enviasse meu texto a um revisor e ele usasse IA, eu saberia. É preciso ter tal delicadeza. Por fim, Mia Ballard diz que está com a reputação destruída e a saúde mental em frangalhos. Imagino que deve ter sido triste pra ela, mas não se pode quebrar as regras e esperar que tudo dê certo.

Eu particularmente não sei explicar as razões que me levam a desconfiar que algo foi gerado por IA. Acredito que até o presente momento, a IA "produz" coisas muito artificiais. Não há nada expressivo na IA, ela parece apenas concatenar um certo número de palavras que fazem algum sentido. Falta a qualia, o pessoísmo. 

Qualia é um termo usado na filosofia pra descrever subjetividades. Eu posso olhar pra uma flor sem julgar, mas a qualia me permite pensar que a flor é de um azul profundo, de um cheiro cheiroso, de uma beleza única. É como se fosse a alma, o signo de cada coisa. A IA parece não ter qualia. Ela só junta lé com cré. Posso estar sendo um tanto simplista, mas é o que me parece.

Uma vez vi um vídeo de entrevista com o físico Roger Penrose falando sobre a IA. Ele usou o teorema da incompletude de Gödel pra explicar que se temos um conjunto de regras, sempre existirá uma verdade que essas regras não conseguem provar, mas nós humanos sabemos se ela é ou não verdadeira. Uma IA não consegue provar que sua própria regra é verdadeira. Nós que temos que observar se aquilo funciona ou não e isso depende da nossa consciência.

Eu posso fazer um calculo usando certinho uma fórmula e esse resultado dar errado. Eu percebo porque tenho consciência pra entender que pode ou não estar certo. Isso acontece porque estamos conscientes do que pensamos.

A IA não entende o significado das coisas que faz, ela é apenas uma calculadora gigante e sofisticada que segue as regras da computação. Isso serve de aviso pra qualquer escritor que esteja aspirando uma chance de ter seu romance publicado. Isso requer trabalho sério e duro e isso implica não pedir pra IA melhorar o texto ou expor ideias nonsenses. Reconhecer a artificialidade da escrita é preciso.

Uma vez eu li um livro chamado Impostora, da escritora R. F. Kuang. O livro conta a história de duas mulheres, June e Athena, que se formam juntas e seguiram fazendo companhia uma para a outra depois da faculdade. Athena se torna uma escritora de extremo sucesso, enquanto June, também escritora, apenas coleciona fracassos. Em dado momento, Athena morre e June rouba o manuscrito do romance que Athena estava concluindo em vida. Ela então decide fazer algumas alterações porcas e publica como se fosse seu. O sucesso do romance é imediato, se tornando um tremendo best seller.

A obra roubada fala sobre os trabalhadores chineses durante a primeira guerra mundial. A editora sugere que June use um nome ambíguo, Juniper Song, para dar algum efeito na obra e assim ela passa a ter uma nova identidade no mundo literário. Porém, no auge do estrondoso sucesso, alguém percebe que aquilo tudo é uma fraude e que a obra pode ter sido roubada de Athena. 

Algum tempo depois da polêmica que só piora as coisas para June, alguém publica algo no twitter dizendo que a obra parece ter sido escrita por uma pessoa e remendada por outra. E esse é um dos pontos que eu queria comentar. Temos muitos exemplos de textos que começaram ser escritos por uma pessoa e outras terminaram. Trago dois exemplos, Assassin of Secrets, de Q. R. Markham e How Opal Mehta Got Kissed de Kaavya Viswanatha. Ambos livros são obras copiadas de vários trabalhos. Muitos leitores notaram que esses autores não plagiaram só as histórias, mas copiaram trechos inteiros de outros livros famosos como James Bond e The Princess Diaries. Era como pegar uma frase e mudar ela colocando as suas considerações. Acredito que esses autores não sabem o que é estilística.

Outro ponto que eu queria comentar é que, Kuang passa no livro a ideia de que as editoras funcionam por meritocracia e isso não é verdade conforme vemos na prática. No caso de Mia Ballard, a editora Hachette Book Group aceitou publicar um livro possivelmente gerado por IA, mas dificilmente deve dar chance a quem faz um trabalho dedicado, bem escrito e caprichoso.

Por fim, quero destacar algo nesse livro que me incomodou, que é o fato das pessoas ficarem surpresas que June não era chinesa e arriscou escrever algo sobre a China. Eu concordo que há coisas sobre nossa cultura que requer um olhar experiente e muitas vezes nativo. Mas a grande questão é que essa coisa identitária não é bem verdade e não se sustenta tanto quando a gente observa a nossa realidade material. Vejam o caso de Leandro Narloch que escreveu o tal guia do politicamente incorreto da história do Brasil, cheio de erros, mentiras e interpretações abjetas. Um Brasileiro falando sobre o Brasil, mas com um ponto de vista completamente errado e pernicioso.

O caso é que nós temos muita resistência à IA. Não que ela não ajude. Eu particularmente uso bastante pra resolver problemas que me deixam travada. Mas é preciso saber dosar. Pedir pra IA fazer tudo é um grande problema. Uma dúvida pontual, ok. Mas resolver volume grande de problemas é complicado.

Ainda sim, o olhar que temos que ter é de desconfiança. Não acredite cegamente nas informações que as IAs te dão. Uma vez um amigo estava debatendo e saiu postando argumento formatado que ele perguntava pro Chat GPT. Disseram pra ele não usar IA e ele garantiu que não estava usando, mas estava. A IA citou trechos de livro que eu mesma reconheci não serem verdadeiros e abri o livro perguntando a ele onde estava escrito aquilo. Depois, as fontes que a IA postava, ou eram artigos que nada tinham a ver com o tema ou não existiam. A maioria não existia. Meu amigo então, admitiu que usou IA. E eu, que só tinha dado a ele duas fontes que ele não olhou, expliquei que eu estudei aquelas duas fontes, não saio por aí lendo um monte de coisa sem critério nenhum.

Se a IA te der exemplos, procure esses exemplos na internet e tente comprovar se aquilo é verídico. Se a IA passar fontes, pesquise essas fontes pra ver se existem ou se estão falando do mesmo assunto que você perguntou para a IA. Se você estiver escrevendo, tente não pedir pra IA reescrever seu texto melhorado. Ela pode ajudar a corrigir gramática, mas revise bem você mesmo pra ter certeza. Processo criativo é trabalhoso e a IA não substitui o trabalho humano.

Sei que ouvimos por aí que ela vai roubar nosso emprego, mas a menos que ela ganhe consciência e saiba exatamente o que está fazendo, eu fico aqui com o benefício da dúvida. Pela internet é possível encontrar textos escritos por IA. Se você puder, aponte. Sei que isso é insano, mas sempre aponte se você desconfiar que algo foi escrito por IA. Ao menos é uma forma de mostrar que não queremos tolerar que nossas vidas sejam tomadas por isso.

E por fim, a velha dica clichê: use com muita sabedoria e moderação. Tente, em princípio não usar. Leia e faça pesquisas primeiro, tente não sair perguntando tudo de cara para a IA. Ainda não temos clareza do que isso pode fazer com nosso cérebro, então o melhor é ter muita moderação e bom senso. 

Eu não tenho uma visão necessariamente otimista, mas não sinto um completo pessimismo na humanidade. Não é todo mundo que vai concordar com isso e o caso Mia Ballard serve pra nos mostrar o quanto o humanismo tem grande valor para todos nós. Se tudo está muito artificial, nós sentimos que tem algo errado. Se você sentir isso, não ignore. Não vamos permitir que a IA tome conta de tudo sem reagir.