La gelée grise

Une machine minuscule capable de se répliquer à l’infini, consommant en quelques heures l’intégralité des ressources disponibles sur Terre et éradiquant par conséquent toute forme de vie. Une apocalypse éclair qui porte un nom : la Gelée grise…

Tout est une copie, d’une copie, d’une copie…

Quand il s’agit d’imaginer les possibles apocalypses qui viendraient le terrasser, l’imagination de l’homme est sans limites. Qu’elle soit la cause d’un dieu, d’un astéroïde, d’une invasion extraterrestre ou d’un désastre écologique, l’issue est la même : la disparition de l’homme face à des forces qui le dépassent ou qu’il ne maîtrise pas. De nouvelles craintes sont apparues avec l’apparition de la robotique, et plus globalement l’essor des technologies. Ces machines qui remplacent déjà nos bras dans les usines pourraient-elles un jour nous supplanter ? La science-fiction ne manque évidemment pas d’exemples d’apocalypses technologiques plus ou moins saugrenues. Certains chercheurs, parfois, s’autorisent même quelques avertissements à destination des citoyens, notamment face au développement de l’intelligence artificielle ou des nanotechnologies. Revenons aujourd’hui sur un scénario apocalyptique qui porte le joli nom de Gelée grise…

Dans les années 70 l’ingénieur américain Kim Eric Drexler, l’un des pères des nanotechnologies, imagine la conception d’assembleurs moléculaires, de minuscules machines capables de créer et d’assembler différents matériaux en manipulant individuellement des atomes ou des molécules.

Dans son livre Engines of Creation – The Coming Era of Nanotechnology (soit en français les Machines de la création – l’ère à venir de la nanotechnologie), paru en 1986, il imagine même des assembleurs moléculaires capables de s’auto-répliquer,  c’est-à-dire de réaliser des copies d’eux-mêmes. Il évoque rapidement les dangers d’une telle technologie si elle devenait incontrôlable :

Chaque copie construira encore plus de copies. Ainsi, le premier réplicateur rassemble une copie en mille secondes, les deux réplicateurs en construisent deux de plus dans les mille secondes suivantes, les quatre autres quatre, et les huit autres huit autres. Au bout de dix heures, il n’y a pas trente-six nouveaux réplicateurs, mais plus de 68 milliards. En moins d’un jour, ils pèseraient une tonne; en moins de deux jours, plus que la Terre; quatre heures plus tard, ils dépasseraient la masse du Soleil et de toutes les planètes cumulées […].

Il s’agit ni plus ni moins que d’une illustration de plus des limites de la croissance exponentielle : en doublant une valeur, puis en doublant son résultat, et ainsi de suite, on atteint vite des valeurs extraordinairement grandes !

Des nanobots qui, sans avoir d’intentions particulièrement malveillantes, se contentent de s’auto-répliquer encore et encore, car c’est pour cela qu’ils ont été conçus, et qui bien vite encombrent la planète et consomment l’intégralité de la matière organique… Ce scénario cauchemardesque est appelé Gelée grise par Drexler (Grey goo en anglais). Gelée grise ? Ces réplicateurs ne sont pourtant ni gris ni gélatineux. Par cette étrange expression, Drexler insiste sur la dangerosité, voire l’inutilité de développer de tels nanobots. Quand bien même ils nous seraient supérieurs d’un point de vue évolutionniste, leur capacité à détruire la vie les rend inutiles. En fait, empêcher leur apparition prouverait au contraire notre supériorité évolutionniste ! Bien, c’est entendu. Mais que risque-t-on, au juste ?

Ecophagie

La contribution de Drexler aux nanotechnologies est immense. Cependant les quelques lignes qu’il accorde à la Gelée grise dans son ouvrage leur portèrent longtemps préjudice, le grand public ne retenant globalement que leurs dangers. Drexler attribue cela à un article publié dans la revue Omni en 1986 : Nanotechnology : Molecular Machines That Mimic Life (ou en français Nanotechnologie : des machines moléculaires qui imitent la vie). Il s’agit en fait du tout premier article consacré au sujet publié dans une revue grand public, et qui revient sur une série de conférences données par Drexler au MIT (Massachussetts Institute of Technology).

Au sujet de la Gelée grise, qui là encore n’est que brièvement évoquée, l’article d’Omni est particulièrement anxiogène :

Mais l’aspect le plus effrayant des nanotechnologies est peut-être la Gelée grise. Supposons une petite imperfection – peut-être un bug – introduite par un terroriste au moment de la fabrication. Une telle modification pourrait causer la multiplication des nanomachines jusqu’à ce qu’elles aient tout détruit sur Terre.

En l’an 2000, dans un article devenu célèbre publié sur Wired, l’informaticien américain Bill Joy énumère les différentes raisons pour lesquelles, selon lui, les technologies menacent l’homme du XXI^e siècle… La Gelée grise y figure en bonne place, comme dérive possible des auto-répliquants.

En réponse aux craintes de Bill Joy, le chercheur américain Robert Freitas Jr. revient sur la Gelée grise dans un article publié la même année par l’institut américain Foresight, chargé de promouvoir les nanotechnologies (et d’ailleurs fondé par Drexler en 1986). Il propose de renommer la menace par un terme plus équivoque : l’écophagie. Ses conclusions sont éloquentes : une écophagie globale, c’est-à-dire qui consomme l’intégralité de la biomasse terrestre, ne prendrait qu’un peu moins de trois heures !

Afin d’éviter un tel scénario, Freitas recommande plusieurs mesures préventives :

• Un moratoire international sur la vie artificielle
• Des outils de surveillance de la biomasse terrestre par des satellites géostationnaires
• La mise en place de programmes de recherche pour faire face à l’écophagie

En 2004, soit presque vingt ans après mentionné pour la première fois la Gelée grise, Drexler affirme finalement regretter l’usage de ce terme. Il reconnaît que l’usage d’assembleurs moléculaires serait inefficace et trop compliqué, rendant par conséquent le scénario apocalyptique de la Gelée grise tout simplement obsolète :

Je suis inquiet à propos de choses plus simples et plus dangereuses que de puissants groupes pourraient concevoir délibérément – comme des armes à hautes performances abondantes et peu onéreuses, avec des milliards de processeurs dans leur système de guidage.

Autres temps, autres peurs…