terça-feira, 12 de novembro de 2024

Análise de 1759 artigos que mencionaram a utilização da IA generativa ChatGPT

 

Foi hoje publicado na conhecida revista Scientometrics um interessante artigo que analisou quase 1800 artigos indexados na Web of Science e na Scopus, mencionando o ChatGPT, com vista a analisar os motivos da utilização desta ferramenta de IA Generativa. 

A esmagadora maioria dos casos detectados, referem-se à sua utilização para melhoria da qualidade do texto. A China, os EUA, a Alemanha e o Japão lideram os países cujos investigadores mais utilizaram o ChatGPT para esse fim. Outras utilizações aconteceram apenas de forma residual. Desde logo, e muito embora o ChatGPT tenha capacidades de programação, somente em 2% dos artigos foi utilizado para essa finalidade. Vide imagem supra. https://link.springer.com/article/10.1007/s11192-024-05193-y

O artigo alerta porém para a possibilidade do ChatGPT e outros modelos de IA generativa poderem estar a ser utilizados num número muito superior de artigos, sem que os seus autores admitam essa utilização. Para o efeito é citado o estudo de Gray (2024) que estimou em 1%, quase 60.000, o número desses artigos, através da detecção de palavras pouco comuns, que de repente viram a sua utilização ter um pico muito anormal e também o estudo de Kobak et al. (2024) que analisaram artigos de medicina na base PubMed e estimaram a utilização de IA generativa em mais de 10%  dos artigos publicados em 2024. 

Gray, A. (2024). ChatGPT" contamination": estimating the prevalence of LLMs in the scholarly literature. arXiv preprint arXiv:2403.16887
Kobak, D., Márquez, R. G., Horvát, E. Á., & Lause, J. (2024). Delving into ChatGPT usage in academic writing through excess vocabulary. arXiv preprint arXiv:2406.07016.