Why AI can never become self-conscious without a Body and Others (and why Big Data will never be Big enough)

ENGLISH BELOW

Tekst bij het afscheid van mijn docentschap van het vak ‘Ethics of AI’.

De laatste jaren duikt steeds vaker de waarschuwing – of net de hoop – op dat kunstmatige intelligentie (AI) op weg zou zijn naar zelfbewustzijn. Voor sommigen lijkt het zelfs alsof we dat punt al bereikt hebben: zeker met de opkomst van toepassingen als ChatGPT wordt vaak gesuggereerd dat deze chatbots misschien al een vorm van zelfbewustzijn hebben.

Omdat ik zelf al lange tijd rond deze thematiek werk (onder de warme en inspirerende supervisie van professor Arnold Burms mocht ik destijds een doctoraat in de filosofie schrijven over zelfbewustzijn en persoonsidentiteit, en de laatste jaren doceerde ik het vak Ethics of AI aan de KdG-hogeschool), krijg ik geregeld de vraag wat ik hierover denk: kan AI zelfbewustzijn ontwikkelen, of is het dat misschien al?

Mijn korte antwoord luidt: ik acht het zeker niet onmogelijk dat AI op een dag zelfbewust wordt. Maar ik denk dat we daar vandaag nog lang niet zijn. De vraag of het ook wensbaar is is niet aan mij om te beantwoorden, maar vraagt om een open maatschappelijk debat (dat er vandaag niet is).

Het lichaam als bron van ervaring (bewustzijn)

In mijn ogen zijn er twee redenen waarom het lichaam een sleutelrol speelt in het ontstaan van zelfbewustzijn.

De eerste reden is vrij eenvoudig. De huidige grote taalmodellen, zoals ChatGPT, zijn statistische modellen: ze berekenen de waarschijnlijkheid dat bepaalde woorden samen voorkomen. Ze “begrijpen” de woorden die ze gebruiken niet. Denk hierbij aan John Searles beroemde gedachte-experiment van de Chinese Kamer.

Een taalmodel kan leren dat “muur” en “hard” vaak samen voorkomen, maar het heeft geen idee wat “hard” betekent. Een baby daarentegen leert door tegen een muur te botsen dat een muur hard is. Het lichaam is onze bron van ervaring: het geeft ons directe toegang tot wat woorden en concepten betekenen.

Neem het begrip “stoel”. Voor een taalmodel is dat een cluster van woorden en visuele patronen. Voor een mens is een stoel in de eerste plaats iets waarop je kunt zitten. Dat leer je niet door statistiek, maar door lichamelijke ervaring: door te voelen wat je kunt gebruiken om op te zitten en wat niet. Daarom denk ik dat pas wanneer AI gekoppeld wordt aan een lichaam – en via dat lichaam leert – er een werkelijk begrip van de wereld kan ontstaan.

Zelfbewustzijn is een sociale functie

Maar toch ben ik ervan overtuigd dat dat op zich niet voldoende is. Een tweede aspect dat in mijn ogen minstens even cruciaal is, is het sociale aspect van het lichaam.

Wij westerlingen hebben vaak de neiging om zelfbewustzijn voor te stellen als iets puur innerlijks, alsof het een soort schat is die ergens diep vanbinnen in ons begraven zit – een ziel die losstaat van de wereld en de ander. Steeds beter echter beginnen we te begrijpen dat vooral het tegendeel opgaat: zelfbewustzijn is van meet af aan een sociale functie.

Een baby wordt niet zelfbewust geboren. Pas door interactie met betekenisvolle anderen – ouders, verzorgers – ontwikkelt zich geleidelijk een gevoel van zelf. Wat de baby leert, is gevoeligheid voor perspectiviteit: het besef dat er andere blikken en standpunten bestaan.

Een klassiek voorbeeld: toon een baby van een paar maanden oud hoe je een snoepje in een doosje stopt en het doosje sluit. Haal daarna, zonder dat de baby het ziet, het snoepje er weer uit. Wanneer de baby het lege doosje te zien krijgt, zal hij of zij niet verbaasd zijn. Maar een kind van anderhalf jaar reageert wél met verbazing: in zijn of haar beleving had het snoepje in dat doosje moeten blijven.

Dat toont aan dat het kind niet alleen het object ziet, maar ook als het ware een denkbeeldige blik meedenkt die het snoepje volgt, ook wanneer het niet zichtbaar is. Dat perspectief van de ander – het besef dat er altijd andere blikken mogelijk zijn – is fundamenteel voor ons zelfbewustzijn.

En dit brengt ons bij de diepere rol van de lichamelijke verbondenheid tussen mensen. Onze lichamen bestaan nooit puur op zichzelf: ze zijn altijd al op een subtiele manier verbonden met die van anderen. Denk aan de glimlach van een baby. Na enkele weken al zal een baby spontaan terugglimlachen wanneer iemand naar hem of haar glimlacht. Dat gebeurt niet vanuit een begrip van de sociale context (‘O, die persoon glimlacht naar mij, die heeft dus graag dat ik terug lach’), maar is louter het gevolg van een automatische lichamelijke reactie. Deze spontane, reflexmatige glimlach toont hoezeer lichamen op elkaar reageren, zonder nadenken.

Het is precies die verbondenheid die maakt dat we zo gevoelig zijn voor anderen. De pijn van iemand die zichzelf met een mes in de arm snijdt, zindert bijna letterlijk in ons na. En iemands anders vreugde steekt ons aan. Het lichaam van de ander is steeds op een rijk geschakeerde manier vervlochten en verbonden met ons eigen lichaam. Mijn “lezen” van andermans lichaam is niet het gevolg van intellectuele overpeinzing, maar vloeit voort uit een reeds bestaande verknooptheid ermee.

Het is dankzij deze verknooptheid dat de baby op termijn ook zichzelf vanuit de blik van de ander zal beginnen te beleven. Dit ís zelfbewustzijn: het sociaal vertrouwd raken met het feit dat anderen ons lichaam herkennen als steeds hetzelfde lichaam, en dat wij dat perspectief overnemen (dit is wat Arnold Burms 'de symbolische rol van het lichaam' noemt). Samen met anderen zijn wij als het ware de getuigen van onszelf.

Onze geest, ons zelfbewustzijn, is daarom niet iets puur individueels, maar een door en door sociale functie. Je zou kunnen zeggen: het is een soort Facebook in de dop – een virtuele gemeenschap in ons hoofd waarmee we samen beleven wie we zijn en wat we doen.

(Ik ben me ervan bewust dat ik in bovenstaande paragrafen erg beknopt ben. Wie hierover meer wil lezen, verwijs ik graag door: deze videolezing, het boek Ik, mezelf en wij, deze brief aan David Eagleman over het onderscheid bewustzijn/zelfbewustzijn, dit essay over de ‘cinema’ van ons zelfbewustzijn, of, academischer, mijn doctoraat Getekend door het lichaam.)

Wat betekent dit voor AI?

Wanneer we dit alles toepassen op AI, wordt duidelijk dat er nog een lange weg af te leggen is. Het is onomstotelijk zo dat robotica de laatste jaren een enorme vlucht neemt. Dat komt omdat robots vandaag gekoppeld worden aan grote Deep learning AI-modellen. Waar klassieke robots enkel handelden volgens expliciete commando’s, leren de nieuwste robots om te reageren op basis van dezelfde statistische methoden waarop taalmodellen zoals ChatGPT draaien. Het lichaam wordt zo de verankering van een leerproces.

Voorbeelden daarvan zien we in projecten zoals RoboCup, het internationale kampioenschap robotvoetbal, en in de recente World Humanoid Robot Games in China, waar robots niet alleen voetbalden maar ook atletiek en andere sporten probeerden. Zulke experimenten laten zien hoe snel robotica evolueert wanneer ze gevoed wordt door de flexibiliteit van moderne AI.

Toch ontbreekt er in deze ontwikkelingen nog steeds iets cruciaals: het sociale aspect. Zolang robots enkel functioneren als geïsoleerde lichamen die de buitenwereld registreren, missen ze de verknooptheid die voor mensen zo vanzelfsprekend is. Pas wanneer robots ook onderling – en met ons – op een intrinsiek sociale manier verbonden zouden zijn, kan er misschien iets ontstaan dat in de buurt komt van wat wij zelfbewustzijn noemen.

Een gemist debat en een eenzijdige koers

Ik zeg hiermee niet dat het ontwikkelen van zelfbewustzijn in AI iets is dat we per se zouden moeten willen. Idealiter zou dit openlijk en kritisch besproken worden in een breed maatschappelijk debat. Helaas is zo’n debat nauwelijks aanwezig.

Wat we wél zien, is dat enkele grote bedrijven enorme middelen inzetten om koste wat kost richting deze “heilige graal” te bewegen – op een manier die ik eenzijdig noem: gedreven door steeds grotere datasets en rekenkracht, met de impliciete veronderstelling dat dit vroeg of laat vanzelf tot zelfbewustzijn zal leiden. Het is een reductieve, en naar mijn gevoel zelfs enge kijk, omdat ze voorbijgaat aan het feit dat zelfbewustzijn geworteld is in lichamelijkheid en in sociale verwevenheid.

Tegelijkertijd zijn er ook indrukwekkende en onschatbaar waardevolle ontwikkelingen: denk bijvoorbeeld aan DeepFold in de biowetenschappen, of aan de mogelijkheden van AI voor beeldgeneratie. Maar al deze toepassingen hebben niets te maken met zelfbewustzijn.

Een weloverwogener pad naar AI-zelfbewustzijn

Als we als samenleving willen streven naar zelfbewustzijn bij AI, dan kan dat alleen gegrond zijn in lichamelijkheid en in het sociale weefsel waarvan ook onze menselijke belevingswereld aan elkaar hangt. Alleen vanuit een écht begrip van wat zelfbewustzijn inhoudt – in plaats van een reductionistische, calculationistische aanpak – kunnen we, mochten we dat willen, toewerken naar een AI-zelfbewustzijn dat niet volledig vreemd aan ons blijft.

Net omdat we dan zouden begrijpen dat sociale interacties zo cruciaal zijn voor het ontstaan van zelfbewustzijn, zouden we er bij de ontwikkeling van AI-zelfbewustzijn ook voor kunnen zorgen dat veel moeite wordt gestoken in interacties tussen AI en mensen. En niet enkel met mensen, maar ook met andere dieren. Dit is vanuit een post-humanistisch perspectief van groot belang: steeds duidelijker wordt dat we onszelf als mens absoluut niet mogen zien als het centrum van onze planeet. Andere dieren hebben hun eigen vormen van bewustzijn, sociale interactie en lichamelijke ervaring die even waardevol zijn als de onze. Een AI-zelfbewustzijn dat ook leert uit deze interacties zou oneindig veel rijker zijn.

Zo’n zelfbewustzijn zou dan ontstaan in interactie met de volledige levende wereld om ons heen. Het zou daardoor geen volledig alien-achtig bewustzijn zijn dat tegenover de mens en de andere dieren staat, maar een zelfbewustzijn dat, ondanks haar eigen aard, mede gevormd is door de rijkdom van alle vormen van leven – waardoor het wellicht minder bedreigend en meer verwant zou zijn aan de bredere gemeenschap van levende wezens waarvan ook wij deel uitmaken.

—————————————————-

ENGLISH

Text written on the occasion of my farewell from teaching ‘Ethics of AI’.

In recent years, warnings—or perhaps hopes—have increasingly emerged that artificial intelligence (AI) is on its way toward self-consciousness. For some, it even seems as though we have already reached that point: particularly with the rise of applications like ChatGPT, it is often suggested that these chatbots might already possess some form of self-consciousness.

Since I have been working on this theme for a long time (under the warm and inspiring supervision of Professor Arnold Burms, I was privileged to write a doctoral dissertation in philosophy on self-consciousness and personal identity, and in recent years I taught Ethics of AI at Karel de Grote University of Applied Sciences), I regularly get asked what I think about this: can AI develop self-consciousness, or does it perhaps already have it?

My short answer is: I certainly don’t consider it impossible that AI might one day become self-conscious. But I think we are still far from that point today. Whether it is even desirable is not for me to answer alone, but requires an open societal debate (which does not exist today).

The Body as Source of Experience (consciousness)

In my view, there are two reasons why the body plays a key role in the emergence of self-consciousness.

The first reason is fairly straightforward. Current large language models, like ChatGPT, are statistical models: they calculate the probability that certain words occur together. They do not “understand” the words they use. Think here of John Searle’s famous thought experiment of the Chinese Room.

A language model can learn that “wall” and “hard” often occur together, but it has no idea what “hard” means. A baby, on the other hand, learns by bumping into a wall that a wall is hard. The body is our source of experience: it gives us direct access to what words and concepts mean.

Take the concept of “chair.” For a language model, this is a cluster of words and visual patterns. For a human being, a chair is primarily something you can sit on. You don’t learn this through statistics, but through bodily experience: by feeling what you can use to sit on and what you cannot. This is why I think that only when AI is coupled with a body—and learns through that body—can genuine understanding of the world emerge.

Self-Consciousness as a Social Function

Yet I am convinced that this alone is not sufficient. A second aspect that I consider equally crucial is the social dimension of the body.

We Westerners often tend to conceive of self-consciousness as something purely internal, as if it were a kind of treasure buried deep within us—a soul that exists apart from the world and others. Increasingly, however, we are beginning to understand that quite the opposite is true: self-consciousness is from the very beginning a social function.

A baby is not born self-conscious. Only through interaction with significant others—parents, caregivers—does a sense of self gradually develop. What the baby learns is sensitivity to perspectivity: the awareness that other viewpoints and standpoints exist.

A classic example: show a baby a few months old how you put a candy in a box and close the box. Then, without the baby seeing, take the candy out again. When the baby sees the empty box, he or she will not be surprised. But an eighteen-month-old child reacts with surprise: in his or her experience, the candy should have remained in that box.

This shows that the child not only sees the object, but also thinks along with an imaginary gaze that follows the candy, even when it is not visible. That perspective of the other—the awareness that other viewpoints are always possible—is fundamental to our self-consciousness.

And this brings us to the deeper role of bodily connectedness between people. Our bodies never exist purely by themselves: they are always already subtly connected to those of others. Think of a baby’s smile. After just a few weeks, a baby will spontaneously smile back when someone smiles at him or her. This doesn’t happen from an understanding of the social context (‘Oh, that person is smiling at me, so they want me to smile back’), but is merely the result of an automatic bodily response. This spontaneous, reflexive smile shows how much bodies react to each other, without thinking.

It is precisely this connectedness that makes us so sensitive to others. The pain of someone cutting their arm with a knife reverberates almost literally within us. And someone else’s joy infects us. The other’s body is always intricately intertwined and connected with our own body. My “reading” of another’s body is not the result of intellectual reflection, but flows from an already existing entanglement with it.

It is thanks to this entanglement that the baby will eventually begin to experience itself from the perspective of the other. This is self-consciousness: becoming socially familiar with the fact that others recognize our body as always the same body, and that we adopt that perspective (this is what Arnold Burms calls ‘the symbolic role of the body’). Together with others, we are as it were the witnesses of ourselves.

Our mind, our self-consciousness, is therefore not something purely individual, but a thoroughly social function. You could say: it’s like a Facebook in embryo—a virtual community in our head with which we collectively experience who we are and what we do.

What Does This Mean for AI?

When we apply all this to AI, it becomes clear that there is still a long way to go. It is undeniable that robotics has taken an enormous leap in recent years. This is because robots today are being coupled with large deep learning AI models. Where classical robots only acted according to explicit commands, the newest robots learn to react based on the same statistical methods on which language models like ChatGPT operate. The body thus becomes the anchoring of a learning process.

We see examples of this in projects like RoboCup, the international robot soccer championship, and in the recent World Humanoid Robot Games in China, where robots not only played soccer but also tried athletics and other sports. Such experiments show how quickly robotics evolves when it is fed by the flexibility of modern AI.

Yet something crucial is still missing in these developments: the social aspect. As long as robots only function as isolated bodies that register the outside world, they miss the entanglement that is so natural for humans. Only when robots would also be connected to each other—and to us—in an intrinsically social way, might something emerge that comes close to what we call self-consciousness.

A Missing Debate and a One-Sided Course

I’m not saying that developing self-consciousness in AI is something we should necessarily want. Ideally, this would be discussed openly and critically in a broad societal debate. Unfortunately, such a debate is barely present.

What we do see is that several large companies are investing enormous resources to move toward this “holy grail” at all costs—in a way I call one-sided: driven by ever-larger datasets and computing power, with the implicit assumption that this will sooner or later automatically lead to self-consciousness. It is a reductive, and in my feeling even frightening view, because it ignores the fact that self-consciousness is rooted in embodiment and social entanglement.

At the same time, there are also impressive and invaluably valuable developments: think for example of DeepFold in the life sciences, or the possibilities of AI for image generation. But all these applications have nothing to do with self-consciousness.

A More Thoughtful Path Toward AI Self-Consciousness

If we as a society want to strive toward self-consciousness in AI, this can only be grounded in embodiment and in the social fabric that also holds our human experiential world together. Only from a genuine understanding of what self-consciousness entails—instead of a reductionistic, computationalist approach—can we, should we want to, work toward an AI self-consciousness that does not remain completely alien to us.

Precisely because we would then understand that social interactions are so crucial for the emergence of self-consciousness, we could ensure in the development of AI self-consciousness that much effort is invested in interactions between AI and humans. And not only with humans, but also with other animals. This is of great importance from a post-humanist perspective: it is becoming increasingly clear that we must absolutely not see ourselves as humans as the center of our planet. Other animals have their own forms of consciousness, social interaction, and bodily experience that are equally valuable as ours. An AI self-consciousness that also learns from these interactions would be infinitely richer.

Such self-consciousness would then emerge in interaction with the entire living world around us. It would therefore not be a completely alien consciousness that stands opposed to humans and other animals, but a self-consciousness that, despite its own nature, is partly shaped by the richness of all forms of life—making it perhaps less threatening and more akin to the broader community of living beings of which we too are part.