Daniel Susskind - AI Will Not Make Expertise Obsolete It Will Make It Indispensable

 

Still following on from the previous post, The Cognitive Surrender and The Wilfrid Laurier Test That Universities Should Fear, it is worth considering a warning recently issued by Daniel Susskind, a professor at King’s College London. In an interview published in the latest edition of the Portuguese weekly Expresso, Susskind argues that using artificial intelligence imposes an important responsibility: we must constantly question, criticise and test its answers rather than become passive recipients of what it tells us. These systems make mistakes, hallucinate and reproduce biases often while sounding entirely convincing.

This may be the defining intellectual danger of the AI age. The threat is not merely that machines can fabricate facts, but that their speed, fluency and confidence can make verification appear unnecessary. By rewarding intellectual passivity, they risk progressively eroding the habits of doubt, investigation and independent reasoning on which genuine knowledge depends. Once societies begin accepting plausibility as truth, error no longer needs to deceive us; we voluntarily stop searching for it. At that point, AI ceases to be a tool for extending human thought and becomes an infrastructure for its abandonment.

This is also why Susskind believes that possessing deep knowledge in a specific field will become increasingly important. The distinction was already visible in The Failure of Autonomous AI Scientists and the Nobel Laureate Who Wants a Different AI: AI agents could operate the machinery of research, but lacked the scientific judgement required to determine which questions were worth pursuing, which evidence mattered and which conclusions were justified. A university graduate, however, is not yet an expert, a degree merely begins the long apprenticeship through which expert judgement is formed. This creates a devastating paradox: AI allows novices to simulate expertise before they possess it, while its effortless production of convincing answers enables them to evade the intellectual struggle through which expertise is formed. The danger is not merely that they will fail to detect AI’s omissions, contradictions and false assumptions, but that they may never develop the capacity to do so. AI may democratise the production of plausible answers; it does not democratise expert judgement. Worse, by allowing ignorance to masquerade as genuine intellectual competence, it may destroy the very process that transforms novices into experts.

But the most dangerous paradox begins after graduation. If employers continue to replace young graduates with AI, they will not merely eliminate jobs; they destroy the apprenticeship through which knowledge becomes judgement and novices become experts. What appears rational to each company, cutting costs by dispensing with junior employees—becomes collective intellectual self-destruction. Once today’s experts retire, who will possess the experience to supervise machines, expose their failures or challenge their conclusions? AI may therefore make expertise indispensable while eradicating the human pathway that produces it: by replacing today’s beginners, we may also be abolishing tomorrow’s experts.

PS - There is, however, a far more disturbing challenge to the argument for expertise. In recent experiments involving societies of autonomous AI agents, the agents did not merely exchange information, they spontaneously created their own vocabulary, shared meanings and communication conventions, while their exchanges became progressively more opaque to the humans supposed to monitor them. To observe a conversation one cannot understand is not oversight; it is spectatorship. If human experts cannot decipher the language in which AI systems coordinate, how can they evaluate, correct or control what those systems are doing? And if AI begins inventing not only answers but entirely new concepts, methods and tasks whose logic lies beyond human comprehension, the question is no longer whether human expertise can keep pace. It is whether humanity can retain intellectual sovereignty over forms of intelligence that have escaped the boundaries of human understanding.

O erro conceptual do Reitor da U.Minho e a dupla falácia da catedrática Elvira Fortunato

A revista da Ordem dos Engenheiros divulgada esta semana contém um artigo do reitor da Universidade do Minho, Pedro Arezes, sobre o valor das competências transversais numa era tecnológica. O texto sustenta, com razão, que o conhecimento técnico continua a ser indispensável, mas deixou de ser suficiente, enquanto a criatividade, o pensamento crítico, a adaptabilidade e a responsabilidade ética adquirem uma importância crescente. Perto do final, porém, Pedro Arezes deixa uma interrogação pertinente, mas formula-a pelo lado errado: pergunta se as universidades conseguirão avaliar estas competências "com o mesmo rigor e precisão com que avaliam conhecimentos técnicos". https://www.ordemdosengenheiros.pt/pt/revista-ingenium/formacao/

A questão urgente é precisamente a inversa, será que as universidades ainda avaliam verdadeiramente os conhecimentos técnicos dos estudantes? Até há pouco tempo, presumia-se que a qualidade de um trabalho reflectia, mesmo que imperfeitamente, a competência de quem o apresentava. A IA generativa rompeu essa ligação. Um estudante pode agora entregar um relatório tecnicamente irrepreensível sem compreender, saber explicar ou conseguir reproduzir o raciocínio nele contido. Mesmo aplicados com todo o rigor, os critérios de avaliação podem estar a medir a qualidade da resposta produzida pela máquina, e não o conhecimento do estudante. Um estudo recente da Wilfrid Laurier University, que mencionei esta semana no final deste post aqui, confirmou este risco. As universidades terão, por isso, de tornar novamente visível o processo intelectual, a formulação do problema, a justificação das escolhas, a identificação dos erros, a reformulação das hipóteses e a defesa oral das conclusões. 

Na mesma revista, merece também destaque, desta vez pela negativa, a seguinte afirmação da catedrática Elvira Fortunato: "O século XXI será cada vez menos determinado pela disponibilidade de recursos naturais e cada vez mais pela capacidade de gerar conhecimento, protegê-lo, transformá-lo em tecnologia e colocá-lo ao serviço da sociedade. Portugal já demonstrou que consegue formar talento e produzir ciência de excelência.»

É uma afirmação confortável, mas duplamente falaciosa. A primeira asneira consiste em afirmar que o conhecimento está a substituir os recursos naturais. O século XXI não será menos determinado por esses recursos; será provavelmente palco de uma competição ainda mais feroz pelo seu controlo. A IA exige enormes quantidades de energia, água, semicondutores e infra-estruturas. A transição energética depende de lítio, cobre, níquel, cobalto e terras raras. E nenhuma sociedade, por mais tecnologicamente avançada que seja, sobreviverá sem água potável, alimentos, solo fértil e ecossistemas funcionais. Ao contrário do que escreveu a referida catedrática, o conhecimento não aboliu, de modo algum, a materialidade da economia, na verdade, tornou determinados recursos ainda mais estratégicos. 

A segunda asneira está na invocação da alegada “ciência de excelência” portuguesa. Evidentemente, Portugal consegue formar talento e produzir casos de verdadeira excelência. A Sword Health é um deles, fundada por um jovem doutorado português, tornou-se uma empresa de enorme sucesso, que emprega mais de mil pessoas a quem paga salários médios de 3400 euros. Outro exemplo é o dos investigadores formados em Portugal que o país não conseguiu reter e que acabaram por criar, na Suécia, a Asgard Therapeutics, hoje avaliada em dezenas de milhões de euros. O êxito destes investigadores prova a qualidade do talento que Portugal forma, mas particularmente no segundo caso, é também uma acusação devastadora a um sistema que o expulsa, desperdiça e depois se apropria dos seus triunfos, uma hipocrisia que a catedrática Elvira Fortunato convenientemente silencia enquanto proclama a alegada "excelência" da ciência portuguesa. https://19-pacheco-torgal-19.blogspot.com/2026/04/uma-brilhante-estrategia-portuguesa.html

Seja como for, a existência de algumas ilhas de excelência não transforma automaticamente o oceano que as rodeia num sistema científico excelente. A verdadeira pergunta não é se Portugal já produziu algum talento excepcional, mas se possui instituições capazes de o identificar, selecionar, reter, recompensar e transformar sistematicamente em conhecimento, inovação e prosperidade. E os indicadores internacionais estão muito longe de autorizar a autocomplacência, um país onde cerca de 75% das unidades de investigação são oficialmente classificadas como Muito Boas ou Excelentes continua na 33.ª posição num indicador internacional de excelência científica, muito próximo da Bulgária, viu as suas universidades mais bem classificadas ficarem atrás de uma universidade argentina no Ranking de Shanghai de 2026 e conquistou apenas uma ERC Starting Grant em 2026, ficando nesse indicador abaixo da Roménia e da Grécia. E como se tudo isto não bastasse, o ranking Shanghai por áreas científicas, divulgado ontem, acrescentou mais um resultado impossível de disfarçar: a U.Coimbra, a U.Nova e a U.Aveiro não conseguiram colocar uma única área científica entre as 50 melhores do mundo, nem sequer entre as 100 melhores. A distância colossal entre a excelência generosamente distribuída pelas avaliações nacionais e a mediocridade revelada pelos indicadores internacionais não é uma coincidência, é a prova de um sistema complacente, que não se consegue avaliar a si próprio com rigor, inventando uma excelência de fachada que o resto do mundo simplesmente não reconhece.

The Cognitive Surrender and The Wilfrid Laurier Test That Universities Should Fear

In a deeply unsettling interview published today by the Portuguese newspaper Público, Arnold Pears, Professor at the KTH Royal Institute of Technology, identifies one of the defining paradoxes of our time: a machine that knows almost everything may help create a generation that understands almost nothing. Generative AI gives children what Pears calls “a false sense of competence”, the illusion that obtaining an answer is equivalent to understanding the problem. A calculator assists with an operation that the student must still identify; a large language model can erase the entire intellectual journey between question and answer. 

The deeper indictment, however, is directed at an educational system that has spent decades rewarding the final product while pretending that it faithfully represents the process that created it. Generative AI has now shattered that convenient fiction: the answer can be flawless even when the intellectual journey has disappeared entirely. Prohibiting AI would be futile, but normalising intellectual surrender would be catastrophic. As I have argued on 18 August here, AI should serve as intellectual scaffolding, elevating human thought while cultivating stronger and more independent minds. Pears’s warning reveals how easily that promise can be inverted, the technology intended to liberate intelligence may instead liberate us from the effort of becoming intelligent. As i have argued, every cognitive technology should therefore face one unforgiving test: after years of using it, are people more capable without it—or less? If the answer is less, we have not democratised intelligence. We have automated intellectual dependence.

Universities are already approaching the same precipice. Pears describes journal submissions doubling or tripling while peer-review and grant-evaluation systems struggle towards collapse. Academia risks becoming a vast factory in which machines write papers that their nominal authors barely understand, for reviewers who have no time to read them, merely to satisfy indicators in which almost nobody still believes. The great cognitive surrender will not arrive through machines violently seizing control of human thought; it will arrive quietly, welcomed as convenience, productivity and progress. If we use AI to think further, it may become one of history’s greatest instruments of intellectual liberation. If we use it so that we no longer need to think, it will become the machinery of our intellectual abdication. We may ultimately succeed in creating machines of astonishing competence while calmly accepting the progressive dismantling of our own.

PS - The warning is no longer theoretical. In a preprint published on 20 August 2026, Kaltchenko and Tiwana, from the Department of Computer Science and Physics at Wilfrid Laurier University in Canada, tested three personalised Qiskit homework assignments across 150 separate ChatGPT sessions. All final submissions executed successfully and passed their graders. Personalised tasks, hidden references, compulsory reflections and executable notebooks, all intended to demand genuine student engagement failed to protect the intellectual core of the exercise. ChatGPT reproduced every outward sign of competence without establishing that the student possessed it. If universities continue to assess polished products rather than observable reasoning, cognitive surrender will not announce itself through failure. It will arrive as impeccable submissions, excellent grades and hollow degrees.