Why AI can never become self-conscious without a Body and Others (and why Big Data will never be Big enough)

ENGLISH BELOW

Tekst bij het afscheid van mijn docentschap van het vak ‘Ethics of AI’.

De laatste jaren duikt steeds vaker de waarschuwing – of net de hoop – op dat kunstmatige intelligentie (AI) op weg zou zijn naar zelfbewustzijn. Voor sommigen lijkt het zelfs alsof we dat punt al bereikt hebben: zeker met de opkomst van toepassingen als ChatGPT wordt vaak gesuggereerd dat deze chatbots misschien al een vorm van zelfbewustzijn hebben.

Omdat ik zelf al lange tijd rond deze thematiek werk (onder de warme en inspirerende supervisie van professor Arnold Burms mocht ik destijds een doctoraat in de filosofie schrijven over zelfbewustzijn en persoonsidentiteit, en de laatste jaren doceerde ik het vak Ethics of AI aan de KdG-hogeschool), krijg ik geregeld de vraag wat ik hierover denk: kan AI zelfbewustzijn ontwikkelen, of is het dat misschien al?

Mijn korte antwoord luidt: ik acht het zeker niet onmogelijk dat AI op een dag zelfbewust wordt. Maar ik denk dat we daar vandaag nog lang niet zijn, omdat de rol van lichamelijkheid nog veel te veel wordt onderschat. De vraag of het ook wensbaar is is niet aan mij om te beantwoorden, maar vraagt om een open maatschappelijk debat (dat er vandaag niet is).

Het lichaam als bron van ervaring (bewustzijn)

In mijn ogen zijn er twee redenen waarom het lichaam een sleutelrol speelt in het ontstaan van zelfbewustzijn.

De eerste reden is vrij eenvoudig. De huidige grote taalmodellen, zoals ChatGPT, zijn statistische modellen: ze berekenen de waarschijnlijkheid dat bepaalde woorden samen voorkomen. Ze “begrijpen” de woorden die ze gebruiken niet. Denk hierbij aan John Searles beroemde gedachte-experiment van de Chinese Kamer.

Een taalmodel kan leren dat “muur” en “hard” vaak samen voorkomen, maar het heeft geen idee wat “hard” betekent. Een baby daarentegen leert door tegen een muur te botsen dat een muur hard is. Het lichaam is onze bron van ervaring: het geeft ons directe toegang tot wat woorden en concepten betekenen.

Neem het begrip “stoel”. Voor een taalmodel is dat een cluster van woorden en visuele patronen. Voor een mens is een stoel in de eerste plaats iets waarop je kunt zitten. Dat leer je niet door statistiek, maar door lichamelijke ervaring: door te voelen wat je kunt gebruiken om op te zitten en wat niet. Daarom denk ik dat pas wanneer AI gekoppeld wordt aan een lichaam – en via dat lichaam leert – er een werkelijk begrip van de wereld kan ontstaan.

Zelfbewustzijn is een sociale functie

Maar toch ben ik ervan overtuigd dat dat op zich niet voldoende is. Een tweede aspect dat in mijn ogen minstens even cruciaal is, is het sociale aspect van het lichaam.

Wij westerlingen hebben vaak de neiging om zelfbewustzijn voor te stellen als iets puur innerlijks, alsof het een soort schat is die ergens diep vanbinnen in ons begraven zit – een ziel die losstaat van de wereld en de ander. Steeds beter echter beginnen we te begrijpen dat vooral het tegendeel opgaat: zelfbewustzijn is van meet af aan een sociale functie.

Een baby wordt niet zelfbewust geboren. Pas door interactie met betekenisvolle anderen – ouders, verzorgers – ontwikkelt zich geleidelijk een gevoel van zelf. Wat de baby leert, is gevoeligheid voor perspectiviteit: het besef dat er andere blikken en standpunten bestaan.

Een klassiek voorbeeld: toon een baby van een paar maanden oud hoe je een snoepje in een doosje stopt en het doosje sluit. Haal daarna, zonder dat de baby het ziet, het snoepje er weer uit. Wanneer de baby het lege doosje te zien krijgt, zal hij of zij niet verbaasd zijn. Maar een kind van anderhalf jaar reageert wél met verbazing: in zijn of haar beleving had het snoepje in dat doosje moeten blijven.

Dat toont aan dat het kind niet alleen het object ziet, maar ook als het ware een denkbeeldige blik meedenkt die het snoepje volgt, ook wanneer het niet zichtbaar is. Dat perspectief van de ander – het besef dat er altijd andere blikken mogelijk zijn – is fundamenteel voor ons zelfbewustzijn.

En dit brengt ons bij de diepere rol van de lichamelijke verbondenheid tussen mensen. Onze lichamen bestaan nooit puur op zichzelf: ze zijn altijd al op een subtiele manier verbonden met die van anderen. Denk aan de glimlach van een baby. Na enkele weken al zal een baby terugglimlachen wanneer iemand naar hem of haar glimlacht. Dat gebeurt niet vanuit een begrip van de sociale context (‘O, die persoon glimlacht naar mij, die heeft dus graag dat ik terug lach’), maar is louter het gevolg van een automatische lichamelijke reactie. Deze spontane, reflexmatige glimlach toont hoezeer lichamen op elkaar reageren, zonder nadenken.

Het is precies die verbondenheid die maakt dat we zo gevoelig zijn voor anderen. De pijn van iemand die zichzelf met een mes in de arm snijdt, zindert bijna letterlijk in ons na. En iemands anders vreugde steekt ons aan. Het lichaam van de ander is steeds op een rijk geschakeerde manier vervlochten en verbonden met ons eigen lichaam. Mijn “lezen” van andermans lichaam is niet het gevolg van intellectuele overpeinzing, maar vloeit voort uit een reeds bestaande verknooptheid ermee.

Het is dankzij deze verknooptheid dat de baby op termijn ook zichzelf vanuit de blik van de ander zal beginnen te beleven. Dit ís zelfbewustzijn: het sociaal vertrouwd raken met het feit dat anderen ons lichaam herkennen als steeds hetzelfde lichaam, en dat wij dat perspectief overnemen (dit is wat Arnold Burms 'de symbolische rol van het lichaam' noemt). Samen met anderen zijn wij als het ware de getuigen van onszelf.

Onze geest, ons zelfbewustzijn, is daarom niet iets puur individueels, maar een door en door sociale functie. Je zou kunnen zeggen: het is een soort Facebook in de dop – een virtuele gemeenschap in ons hoofd waarmee we samen beleven wie we zijn en wat we doen.

(Ik ben me ervan bewust dat ik in bovenstaande paragrafen erg beknopt ben. Wie hierover meer wil lezen, verwijs ik graag door naar: deze videolezing, het boek Ik, mezelf en wij, deze brief aan David Eagleman over het onderscheid bewustzijn/zelfbewustzijn, dit essay over de ‘cinema’ van ons zelfbewustzijn, of, academischer, naar mijn doctoraat Getekend door het lichaam.)

Wat betekent dit voor AI?

Wanneer we dit alles toepassen op AI, wordt duidelijk dat er nog een lange weg af te leggen is. Het is zeker zo dat robotica de laatste jaren een enorme vlucht aan het nemen is. Dat komt omdat robots vandaag gekoppeld worden aan Deep learning AI-modellen. Waar klassieke robots enkel handelden volgens expliciete commando’s, leren de nieuwste robots om te reageren op basis van dezelfde statistische methoden waarop taalmodellen zoals ChatGPT draaien. Het lichaam wordt zo de verankering van een leerproces.

Voorbeelden daarvan zien we in projecten zoals RoboCup (een internationaal kampioenschap robotvoetbal), en in de recente World Humanoid Robot Games in China, waar robots niet alleen voetbalden maar ook atletiek en andere sporten uitproberen. Zulke experimenten laten zien hoe snel robotica evolueert wanneer ze gevoed wordt door de flexibiliteit van moderne AI.

Toch ontbreekt er in deze ontwikkelingen nog steeds iets cruciaals: het sociale aspect. Zolang robots enkel functioneren als geïsoleerde lichamen, missen ze de sociale verknooptheid die voor mensen zo vanzelfsprekend is. Pas wanneer robots ook onderling – en met ons – op een intrinsiek sociale manier verbonden zouden zijn, kan er misschien iets ontstaan dat in de buurt komt van wat wij zelfbewustzijn noemen.

Een gemist debat en een eenzijdige koers

Ik zeg hiermee niet dat het ontwikkelen van zelfbewustzijn in AI iets is dat we ook per se zouden moeten willen. Idealiter zou dit openlijk en kritisch besproken worden in een breed maatschappelijk debat. Helaas is zo’n debat nauwelijks aanwezig.

Wat we wél zien, is dat enkele grote bedrijven enorme middelen inzetten om koste wat kost richting deze “heilige graal” te bewegen – op een manier die ik eenzijdig noem: gedreven door steeds grotere datasets en rekenkracht, met de impliciete veronderstelling dat dit vroeg of laat vanzelf tot zelfbewustzijn zal leiden. Het is een reductionistische, en naar mijn gevoel enge kijk, omdat ze voorbijgaat aan het feit dat zelfbewustzijn geworteld is in lichamelijkheid en in sociale verwevenheid.

Niettegenstaande zijn er ook indrukwekkende en onschatbaar waardevolle ontwikkelingen: denk bijvoorbeeld aan DeepFold in de biowetenschappen, of aan de mogelijkheden van AI voor beeldgeneratie. Maar al deze toepassingen hebben niets te maken met zelfbewustzijn.

Een weloverwogener pad naar AI-zelfbewustzijn

Als we als samenleving willen streven naar zelfbewustzijn bij AI, dan kan dat volgens mij alleen als die aanpak gegrond is in lichamelijkheid en sociale verwevenheid. Alleen vanuit een écht begrip van wat zelfbewustzijn inhoudt – in plaats van een reductionistische, calculationistische aanpak – kunnen we daarenboven toewerken naar een AI-zelfbewustzijn dat niet volledig vreemd aan ons blijft.

Net omdat we dan immers begrijpen dat sociale interacties zo cruciaal zijn voor het ontstaan van zelfbewustzijn, zouden we er bij de ontwikkeling van dat AI-zelfbewustzijn voor kunnen zorgen dat onze robotten sociaal niet enkel in elkaar doorwerken, maar ook in ons. En niet enkel in ons, maar ook in andere dieren! Dit is van groot belang: steeds duidelijker wordt dat we onszelf als mens absoluut niet mogen zien als het centrum van onze planeet. Andere dieren hebben hun eigen vormen van bewustzijn, sociale interactie en lichamelijke ervaring die even waardevol zijn als de onze. Een AI-zelfbewustzijn dat ook leert uit deze interacties zou oneindig veel rijker zijn.

Bovendien zou het dan ook geen volledig alien-achtig zelfbewustzijn zijn dat tegenover de mens en de andere dieren staat, maar een zelfbewustzijn dat, ondanks een eigen aard, mede gevormd is door de rijkdom van álle vormen van leven – waardoor het wellicht minder bedreigend en meer verwant zou zijn aan de bredere gemeenschap van levende wezens waarvan ook wij deel uitmaken.

—————————————————-

ENGLISH

Text written on the occasion of my farewell from teaching ‘Ethics of AI’.

In recent years, the warning – or perhaps the hope – has emerged ever more frequently that artificial intelligence (AI) might be on its way to self-consciousness. For some, it even seems as if we have already reached that point: particularly with the rise of applications like ChatGPT, it is often suggested that these chatbots may already possess some form of self-consciousness.

Since I have been working around this theme for a long time (under the warm and inspiring supervision of professor Arnold Burms, I was able to write a doctoral dissertation in philosophy on self-consciousness and personal identity, and in recent years I taught the subject Ethics of AI at the KdG University of Applied Sciences), I regularly get asked what I think about this: can AI develop self-consciousness, or perhaps it already has?

My short answer is: I certainly don’t consider it impossible that AI will one day become self-conscious. But I think we are still far from that today, because the role of embodiment is still vastly underestimated. Whether it is also desirable is not for me to answer, but requires an open societal debate (which does not exist today).

The body as source of experience (consciousness)

In my view, there are two reasons why the body plays a key role in the emergence of self-consciousness.

The first reason is fairly simple. Current large language models, like ChatGPT, are statistical models: they calculate the probability that certain words occur together. They don’t “understand” the words they use. Think here of John Searle’s famous thought experiment of the Chinese Room.

A language model can learn that “wall” and “hard” often occur together, but it has no idea what “hard” means. A baby, on the other hand, learns by bumping into a wall that a wall is hard. The body is our source of experience: it gives us direct access to what words and concepts mean.

Take the concept “chair.” For a language model, that’s a cluster of words and visual patterns. For a human, a chair is primarily something you can sit on. You don’t learn that through statistics, but through bodily experience: by feeling what you can use to sit on and what you cannot. That’s why I think only when AI is coupled to a body – and learns through that body – can a real understanding of the world emerge.

Self-consciousness is a social function

But still, I’m convinced that this in itself is not sufficient. A second aspect that in my view is at least equally crucial is the social aspect of the body.

We Westerners often tend to conceive of self-consciousness as something purely internal, as if it were a kind of treasure buried somewhere deep inside us – a soul that exists apart from the world and the other. Increasingly, however, we begin to understand that especially the opposite is true: self-consciousness is from the outset a social function.

A baby is not born self-conscious. Only through interaction with significant others – parents, caregivers – does a sense of self gradually develop. What the baby learns is sensitivity to perspectivity: the awareness that other gazes and viewpoints exist.

A classic example: show a baby of a few months old how you put a candy in a box and close the box. Then, without the baby seeing it, take the candy out again. When the baby sees the empty box, he or she will not be surprised. But a child of eighteen months does react with surprise: in his or her experience, the candy should have remained in that box.

This shows that the child not only sees the object, but also thinks along with an imaginary gaze that follows the candy, even when it’s not visible. That perspective of the other – the awareness that other gazes are always possible – is fundamental to our self-consciousness.

And this brings us to the deeper role of bodily connection between people. Our bodies never exist purely by themselves: they are always already connected in a subtle way with those of others. Think of a baby’s smile. After just a few weeks, a baby will smile back when someone smiles at him or her. This doesn’t happen from an understanding of the social context (‘Oh, that person is smiling at me, so they want me to smile back’), but is purely the result of an automatic bodily reaction. This spontaneous, reflexive smile shows how much bodies react to each other, without thinking.

It is precisely this connection that makes us so sensitive to others. The pain of someone cutting themselves in the arm with a knife reverberates almost literally in us. And someone else’s joy infects us. The other’s body is always intertwined and connected with our own body in a richly nuanced way. My “reading” of another’s body is not the result of intellectual reflection, but flows from an already existing entanglement with it.

It is thanks to this entanglement that the baby will eventually also begin to experience itself from the other’s gaze. This is self-consciousness: becoming socially familiar with the fact that others recognize our body as always the same body, and that we adopt that perspective (this is what Arnold Burms calls ‘the symbolic role of the body’). Together with others, we are as it were the witnesses of ourselves.

Our mind, our self-consciousness, is therefore not something purely individual, but a thoroughly social function. You could say: it’s a kind of Facebook in embryo – a virtual community in our head with which we collectively experience who we are and what we do.

What does this mean for AI?

When we apply all this to AI, it becomes clear that there is still a long way to go. It is certainly true that robotics has been taking enormous flight in recent years. This is because robots today are being coupled to deep learning AI models. Where classical robots only acted according to explicit commands, the newest robots learn to react based on the same statistical methods that language models like ChatGPT run on. The body thus becomes the anchoring of a learning process.

We see examples of this in projects like RoboCup (an international robot football championship), and in the recent World Humanoid Robot Games in China, where robots not only played football but also tried athletics and other sports. Such experiments show how quickly robotics evolves when it’s fed by the flexibility of modern AI.

Yet something crucial is still missing in these developments: the social aspect. As long as robots only function as isolated bodies, they lack the social entanglement that is so natural for humans. Only when robots would also be connected to each other – and to us – in an intrinsically social way, might something emerge that comes close to what we call self-consciousness.

A missed debate and a one-sided course

I’m not saying with this that developing self-consciousness in AI is something we should necessarily want. Ideally, this would be discussed openly and critically in a broad societal debate. Unfortunately, such a debate is barely present.

What we do see is that several large companies are investing enormous resources to move toward this “holy grail” at all costs – in a way that I call one-sided: driven by ever larger datasets and computing power, with the implicit assumption that this will sooner or later automatically lead to self-consciousness. It’s a reductionist, and to my mind frightening view, because it ignores the fact that self-consciousness is rooted in embodiment and in social interweaving.

Nevertheless, there are also impressive and invaluably valuable developments: think for example of DeepFold in the life sciences, or the possibilities of AI for image generation. But all these applications have nothing to do with self-consciousness.

A more considered path toward AI self-consciousness

If we as a society want to strive toward self-consciousness in AI, then in my view this can only happen if that approach is grounded in embodiment and social interweaving. Only from a real understanding of what self-consciousness entails – instead of a reductionist, computationalist approach – can we moreover work toward an AI self-consciousness that doesn’t remain completely foreign to us.

Precisely because we then understand that social interactions are so crucial for the emergence of self-consciousness, we could ensure in the development of that AI self-consciousness that our robots work socially not only into each other, but also into us. And not only into us, but also into other animals! This is of great importance: it becomes ever clearer that we as humans absolutely must not see ourselves as the center of our planet. Other animals have their own forms of consciousness, social interaction and bodily experience that are as valuable as ours. An AI self-consciousness that also learns from these interactions would be infinitely richer.

Moreover, it would then also not be a completely alien-like self-consciousness that stands opposite to humans and other animals, but a self-consciousness that, despite having its own nature, is partly formed by the richness of all forms of life – making it perhaps less threatening and more related to the broader community of living beings of which we too are part.​​​​​​​​​​​​​​​​