ChatGPT Plágio Virtual

ChatGPT faz plágio muito mais sofisticado que simplesmente copiar e colar
Redação do Site Inovação Tecnológica - 01/03/2023



Diversas instâncias de plágio feitas pelo ChatGPT que foram detectadas pelo sistema desenvolvido pelos pesquisadores.
[Imagem: Jooyoung Lee et al. (2023)]

Respostas plagiadas

Alunos e cientistas podem querer pensar duas vezes antes de usar o ChatGPT ou similares para fazer sua próxima tarefa ou escrever seu próximo artigo científico.

Acontece que esses modelos de linguagem, que geram texto em resposta a solicitações do usuário, plagiam o conteúdo de onde aprenderam de várias maneiras.

"O plágio vem em diferentes sabores," disse Dongwon Lee, professor de ciências da informação e tecnologia da Universidade do Estado da Pensilvânia, nos EUA. "Queríamos ver se os modelos de linguagem não apenas copiam e colam, mas também recorrem a formas mais sofisticadas de plágio sem perceber."

Os pesquisadores se concentraram em identificar três formas de plágio: Literal, que consiste em copiar e colar diretamente o conteúdo; parafrasear, consistindo em reformular e reestruturar o conteúdo sem citar a fonte original; e ideia, ou usar a ideia principal de um texto sem a devida atribuição da autoria.

Para fazer tudo de forma automatizada, a equipe construiu um condutor, um software que analisa os dados manipulados por outro programa sem interferir neles. Os testes foram feitos usando o GPT-2, da OpenAI, porque os dados de treinamento desse modelo de linguagem estão disponíveis online, permitindo comparar textos gerados com os 8 milhões de documentos usados para pré-treinar o GPT-2.

A equipe ajustou três modelos de linguagem para se concentrar em documentos científicos, artigos acadêmicos relacionados à covid-19 e pedidos de patentes. Eles usaram um mecanismo de pesquisa de código aberto para recuperar os 10 principais documentos de treinamento mais semelhantes a cada texto gerado e modificaram um algoritmo de alinhamento de texto já disponível para detectar melhor as instâncias de plágio literal, paráfrase e ideia.

Três tipos de plágio

A equipe descobriu que os modelos de linguagem cometeram todos os três tipos de plágio e que, quanto maior o conjunto de dados e os parâmetros usados para treinar o modelo, mais frequentemente o plágio ocorreu.

Eles também observaram que os modelos de linguagem ajustados para cada tipo de documento reduziram o plágio literal, mas aumentaram as instâncias de paráfrase e plágio de ideias.

Além disso, eles identificaram instâncias do modelo de linguagem expondo informações privadas de indivíduos por meio de todas as três formas de plágio.

"As pessoas trabalham para construir grandes modelos de linguagem porque, quanto maior o modelo fica, as habilidades de geração [de texto] aumentam," disse Lee. "Ao mesmo tempo, eles estão colocando em risco a originalidade e a criatividade do conteúdo dentro do corpus de treinamento. Esta é uma descoberta importante."

Papagaio high-tech

Embora a grande maioria das revistas científicas já esteja banindo a citação de modelos de linguagem como o ChatGPT da lista de autores de artigos científicos, ainda não se sabe como as escolas poderão lidar com o problema.

Ou, talvez, essa seja outra questão que será relegada a segundo plano, assim como a preocupação com a privacidade pessoal sumiu das preocupações conforme as mídias sociais tomaram o mundo de assalto.

"Assim como fazemos com um papagaio, ensinamos os modelos de linguagem a imitar a escrita humana sem ensiná-los a não plagiar adequadamente", disse Lee. "Agora, é hora de ensiná-los a escrever corretamente, e ainda temos um longo caminho a percorrer."

Bibliografia:

Artigo: Do Language Models Plagiarize?
Autores: Jooyoung Lee, Thai Le, Jinghui Chen, Dongwon Lee
Revista: 2023 ACM Web Conference
DOI: 10.1145/3543507.3583199
Link: https://arxiv.org/abs/2203.07618

Fonte:
https://www.inovacaotecnologica.com.br/noticias/noticia.php?artigo=chatgpt-faz-plagio&id=010150230301&ebol=sim#.ZAHf3HbMK1s

Jonas Paulo Negreiros escreveu:Embora a grande maioria das revistas científicas já esteja banindo a citação de modelos de linguagem como o ChatGPT da lista de autores de artigos científicos, ainda não se sabe como as escolas poderão lidar com o problema.

França já decretou que não quer saber do GPT em escolas e faculdades

Bom para o Brasil e para todos que não sigam este caminho.

Aprendendo a lidar com a IA se faz mais coisas e mais rápido.
O país que a adotar em vez de se prevenir dela, obterá mais resultados.

Encontrei na Rede, no Blog do Prof. Adonai (também colaborador do fórum Física2100), uma extensa e proveitosa postagem sobre o GPT4

GPT-4 está qualificado para trabalhar como um matemático?
GPT-4, da OpenIA, é uma inteligência artificial disponível gratuitamente na internet. Esse software tem recebido grande atenção pública, por conta de sua articulação para conversar com usuários em muitos idiomas, incluindo o português. Uma das questões levantadas em reportagens e redes sociais é o potencial de uma IA como GPT-4 ou outras substituírem profissionais humanos em diferentes áreas de atuação profissional.

Pois bem. Coloco nesta postagem extraordinária (uma vez que este blog não está mais ativo) relatórios de alguns breves testes que fiz com o GPT-4, para avaliar o seu potencial como um substituto para matemáticos, com ênfase em lógica e fundamentos.

Os testes que promovi procuram tratar de matemática sob diferentes ângulos, desde questões muito simples até mesmo problemas importantes em aberto. Fiz também avaliações complementares não diretamente relacionadas com matemática. A conclusão final é colocada ao final da postagem.

Cada teste a seguir inicia com um diálogo entre eu e GPT-4. O que escrevi é rotulado como M&S. As respostas são rotuladas GPT. Ao final de cada teste há uma breve análise das respostas dadas pela inteligência artificial. Os códigos usados por GPT-4 para notação matemática são os mesmos do editor LaTeX.

A postagem começa com a singela equação:

1+1 = 2?

Saiba mais em:
http://adonaisantanna.blogspot.com/2023/04/gpt-4-esta-qualificado-para-trabalhar.html

Por falar nisto, uma IA conseguiu criar um novo algoritmo de ordenação ainda mais eficiente que qualquer humano já conseguiu fazer.

https://www.nature.com/articles/s41586-023-06004-9

Xevious escreveu:Por falar nisto, uma IA conseguiu criar um novo algoritmo de ordenação ainda mais eficiente que qualquer humano já conseguiu fazer.

https://www.nature.com/articles/s41586-023-06004-9

Sinceramente, Xevious,

Acho que a Inteligência Artificial está recebendo, por parte da Imprensa Leiga e Especializada, uma atenção descabida. Será por que o Vale do Silício e a NASDAC andam mal das pernas ?

Impressões do colega Praxiologista sobre o ChatGPT

O Robot da Série "Perdidos no Espaço" era mais honesto.
Quando não entendia uma pergunta, dizia:



- Não tem registro!