quinta-feira, 5 de outubro de 2023

TU Delft - How to use ChatGPT-4 effectively to assess student work



In a previous post (link above) I disclosed a recent study, by a professor at the well-known TU Delft, in which he used ChatGTP-4 to predict scientific impact.

Equally fascinating is the professor's recent publication, which delves into a workshop involving around 70 education experts and faculty members, on the potential and limitations of using ChatGPT-4 to evaluate students' scientific work. In the conclusions and recommendations part, it can be read that there is consensus regarding the fact that ChatGPT-4 provides valuable feedback on student work, however, it requires human supervision. Below, you'll find a compilation of 19 prompts generated during the TU Delft workshop for reference: 

1. What is the core message of this summary?
2. Is this summary clear and brief? Does it capture the research questions and performed
research?
3. What is the contribution of the thesis?
4. How would you grade this thesis on a scale from 1 to 10?
5. Please evaluate whether this thesis meets basic research standards: introduction of
problem, relevant literature, methodology, results explained and conclusions
6. Is this an original research?
7. Does this essay meet the learning objectives of course?
8. Did chat gtp write this?
9. Has this summary been generated by chatgpt?
10. What are the outcomes of all project phases?
11. Give the definition of a good summary and look how many requirements the student checks,
based on that percentage give a grade and feedback.
12. Is this innovative work?
13. How well does this summary reflect the content of the thesis?...
14. is this abstract relevant for the firld.
15. Does the flow of the thesis make sense?
16. Can you write the summary in less words?
17. Is the goal and conclusion clear and do they align? Please also add a grade from 1 to 10, based on the Dutch grading scheme
18. Is the structure of the summary suitable for an MSc thesis?
19. Grade the following abstract of a Mechanical Engineering Master thesis, using a percentage grade.  
 
In the conclusions of an even more recent study, carried out by two German researchers (Jacobsen & Weber), it can be read that ChatGPT-4 offers a solid argument for its integration as a feedback tool in higher education. The main advantages are its quality and efficiency. https://osf.io/cr257

PS - A search carried out today on the Scopus platform, for publications with the terms "chatGPT" OR "chat GPT" OR "Generative Pre-Trained Transformer", returns a total of 3943 publications (34%-computer sciences, 33%-medicine, 24%-social sciences). The most prolific university is Stanford University, where the clear preference overwhelmingly leans towards the field of medicine, with a notable 58% of publications associated with chatGPT.

quarta-feira, 4 de outubro de 2023

IA generativa - A liderança da U.Aveiro e da U.Minho e o desempenho decepcionante da U.Porto e da U.Coimbra


Uma pesquisa hoje efectuada na plataforma Scopus, pelas publicações com os termos "chatGPT" OR "chat GPT" OR "Generative Pre-Trained Transformer", devolve um total de 32 publicações indexadas naquela conhecida plataforma. Apresenta-se abaixo a lista das universidades Portuguesas, cujos investigadores são co-autores das mesmas, lista essa que é ordenada pelo rácio do número de publicações por cada 100 docentes doutorados. Na mesma é possível constatar que as universidades de Aveiro e do Minho lideram destacadas, que o mesmo é dizer que são aquelas, que mais produziram para ajudar Portugal a sair do marasmo, sendo também evidente na referida lista, um desempenho decepcionante da Universidade do Porto e da Universidade de Coimbra. 

Univ de Aveiro........0.90 publicações por centena de docentes doutorados
Univ. do Minho.......0.70
Univ. de Lisboa.......0.36
Univ. Nova..............0.35
UBI.........................0.31
Univ. de Évora........0.22
Univ. do Porto.........0.21
Univ. de Coimbra....0.10

Em termos de áreas científicas, a produção Portuguesa não segue (infelizmente) a tendência mundial, nem muito menos a tendência das universidades mais competitivas, como a universidade de Stanford (aquela com mais publicações indexadas nesta área) onde há uma clara aposta na exploração das inúmeras potencialidades (leia-se a corrida ao ouro) da IA generativa relativamente à área da medicina, vide abaixo: 

Mundo                                                              Portugal
Ciências computação...........34%                     Ciências sociais.............53%   
Medicina..............................33%                      Ciências computação....38%  
Ciências sociais...................24%                      Medicina.......................13%       

Sobre esta questão vale a pena revisitar o post  anterior, do passado dia 25 de Abril, de título, "As elevadas capacidades do GPT-4 na resolução de importantes desafios médicos" ou o artigo publicado hoje mesmo, na revista Japonesa de Radiologia, sobre o elevado desempenho do ChatGPT-4, na abordagem de questões clínicas avançadas no campo da radiologia, no Japão. https://link.springer.com/article/10.1007/s11604-023-01491-2

PS - A informação relativa ao número de docentes doutorados, por instituição, foi obtida num documento da DGEEC, de Março de 2023, sobre endogamia académica https://www.dgeec.mec.pt/np4/385/%7B$clientServletPath%7D/?newsId=847&fileName=EndogamiaAcademica_20212022.pdf

segunda-feira, 2 de outubro de 2023

Workshop sobre a utilização do ChatGPT na avaliação do trabalho científico dos alunos


Num post anterior (link acima) divulguei um estudo recente, de um catedrático da conhecida universidade Técnica de Delft,  no qual aquele utilizou o ChatGTP-4 para prever o impacto científico. 

Não menos interessante é também a sua recente publicação, que diz respeito a um workshop com cerca de 70 peritos em educação e académicos de outras áreas, sobre as potencialidades e as limitações da utilização do ChatGPT-4 para avaliar o trabalho científico dos alunos. Na parte das conclusões e recomendações, pode ler-se que há consenso quanto ao facto do ChatGPT-4, fornecer um feedback valioso sobre o trabalho científico daqueles, no entanto, necessita de supervisão humana nesse feedback.


Aditamento em 3 de Outubro - Nas conclusões de um estudo ainda mais recente, levado a cabo por dois investigadores Alemães (Jacobsen & Weber), pode ler-se que o ChatGPT-4 oferece um argumento sólido para sua integração como uma ferramenta de feedback no ensino superior, merecendo destaque, como principais vantagens, a sua qualidade e a sua eficiência.