L’humain et ses limites : comment juger nos pouvoirs ?

Une limite peut être un obstacle à franchir, une frontière qui permet de définir ou une règle qu’on se donne. Dans le premier cas, elle porte sur une capacité : un instrument ne permet pas encore telle observation. Dans le deuxième, elle sépare des catégories : organisme et machine, humain et animal, soin et augmentation. Dans le troisième, elle engage un jugement : une action réalisable doit-elle être autorisée ? Ces sens se croisent, mais ne se remplacent pas. Améliorer un instrument répond à une difficulté de réalisation ; cela ne décide ni de la catégorie à laquelle appartient son résultat ni de la valeur de son usage.

Dans le prologue de The Human Condition, publié en 1958, Hannah Arendt part des transformations techniques de son temps pour poser une question politique : quelle direction voulons-nous donner à nos capacités ? L’enjeu du passage est la différence entre établir ce qui peut être réalisé et décider d’un monde commun souhaitable. Sa phrase oppose les moyens scientifiques de connaissance à une décision qui engage plusieurs personnes. Cela ne rend pas les faits inutiles : discuter lucidement exige de les connaître. Mais une connaissance de fonctionnement ne choisit pas, à elle seule, les fins collectives auxquelles elle sera employée.

Le manifeste Russell-Einstein, rendu public le 9 juillet 1955, montre comment une puissance change d’échelle et de sens. Ses signataires décrivent le risque d’une guerre thermonucléaire qui ne menacerait plus seulement des combattants ou une ville, mais les conditions de survie de l’humanité. Ils ne prédisent pas une destruction certaine : ils demandent une décision collective devant la possibilité d’un dommage sans commune mesure avec une victoire locale. La question n’est plus seulement « comment disposer d’un moyen plus efficace ? », mais « quelle fin reste défendable si le moyen menace ceux pour qui l’on prétend agir ? ». Ce déplacement permet de lire la force argumentative d’un appel public sans traiter le texte de 1955 comme un état scientifique des arsenaux actuels.

Prenons un exemple fictif : un établissement sait utiliser une caméra pour compter les personnes présentes dans une salle. La possibilité technique ne répond pas à la question de savoir s’il faut conserver les images, qui pourrait les consulter ou si un simple comptage manuel suffirait. La discussion doit préciser la finalité, les personnes concernées, les solutions possibles et les effets de chacune. Elle peut aboutir à une autorisation sous conditions, à une autre solution ou à un refus. Une limite choisie n’est donc pas nécessairement une défaite devant l’inconnu : elle peut être une manière d’organiser et de partager un pouvoir.

La finitude désigne plus largement notre condition d’êtres corporels, mortels, situés et dépendants d’un milieu et d’autres personnes. Reconnaître cette condition ne signifie pas tenir chaque souffrance pour bonne ni interdire les soins : on peut améliorer une vie sans promettre la disparition de toute vulnérabilité. Inversement, repousser une limite particulière ne supprime pas toutes les autres. Une technique qui étend une capacité peut demander de nouvelles ressources ou redistribuer des dépendances. La bonne question devient alors : quelle capacité voulons-nous développer, pour qui, avec quelles relations et quelles responsabilités ? Cette formulation permet de relier les œuvres, les concepts et les cas étudiés dans la suite du cours.

Victor a isolé son travail, négligé ses proches et rêvé d’une espèce qui le bénirait. Quand la créature s’anime, il ne la reconnaît pas comme un sujet auquel une relation est due : il fuit. Shelley ne transforme donc pas la fabrication en seule faute spectaculaire. Le roman fait suivre une puissance nouvelle par les obligations qu’elle crée après son succès : informer, écouter, réparer, demander de l’aide et ne pas soustraire les conséquences à la communauté. La scène du réveil rend sensible l’écart entre l’ambition de Victor et son premier geste après la réussite.

La composition interdit aussi de réduire la créature à l’image que Victor donne d’elle. Le récit passe de Walton à Victor, puis à la créature, qui raconte son apprentissage du langage, son désir de lien et les violences du rejet. Ce déplacement de voix n’innocente ni les meurtres ni les menaces de la créature. Il oblige en revanche le lecteur à distinguer un jugement immédiat sur une apparence, les conditions sociales d’une trajectoire et les actes dont chaque personnage répond. La responsabilité n’est pas un seul point de départ : elle se distribue selon ce qu’un acteur savait, pouvait faire et choisit de faire ou de ne pas faire.

Le récit de la fabrication rend visible une seconde limite : Victor confond le pouvoir de produire avec le pouvoir de prévoir et de gouverner la relation qui commence. Son secret coupe les possibilités de contradiction ; son isolement laisse sans médiation la peur d’autrui et la solitude de l’être créé. Lire le roman comme une fable sur toute recherche scientifique serait trop vaste. Plus précisément, Shelley met en scène une ambition qui traite le vivant comme un résultat à obtenir, puis refuse les devoirs que la réussite fait naître. La forme gothique amplifie ce conflit afin de faire penser la création, l’abandon et la parole des exclus.

Cette lecture donne une méthode pour juger une innovation sans lui attribuer mécaniquement un destin. Demande qui conçoit, qui est exposé, quelles informations circulent, quels recours existent et qui reste chargé de suivre les effets imprévus. Une relation d’aide technique, une prothèse choisie ou un service numérique n’équivalent pas à la créature fictive de Shelley ; le roman ne les prédit pas. Il apprend cependant à ne pas appeler responsabilité la seule conformité d’un produit au moment de son lancement. Créer engage aussi la possibilité durable de répondre aux personnes et aux mondes que l’on affecte.

Pour Simondon, un objet technique n’est pas une chose isolée que l’on pourrait seulement posséder ou utiliser. Comprendre son fonctionnement demande de suivre une opération, les conditions qui la rendent possible et les relations entre humains, matières et dispositifs. Cette culture technique ne célèbre pas l’automatisme : elle rend discutables la conception, la maintenance et la répartition des compétences. Lorsque l’usage se réduit à une suite de boutons, la médiation peut disparaître du regard tout en continuant d’ordonner le travail, l’énergie, les données et les décisions.

Un service apparemment immédiat dépend ainsi de réseaux électriques, de composants, de standards, de personnes qui entretiennent, de règles d’accès et d’alternatives plus ou moins ouvertes. La facilité d’une interface ne mesure donc pas l’autonomie de son usager. Il faut demander ce qui arrive lors d’une panne, qui peut diagnostiquer, réparer ou contester, et si l’on peut récupérer ses données ou changer de fournisseur. Une dépendance n’est pas automatiquement mauvaise : une personne peut choisir une aide et compter sur autrui. Elle devient politiquement décisive quand elle rend impossible de comprendre, de négocier ou de conserver une capacité de recours.

Les dépendances ont aussi une dimension économique. Dans sa présentation du Rapport sur l’économie numérique de 2019, la CNUCED constate que la richesse numérique se concentre entre un petit nombre de grandes plateformes ; ce constat est daté, non un classement actuel des entreprises. Il faut distinguer la création d’un service utile et la captation de sa valeur : posséder les moyens d’accès, les données ou les règles d’échange peut donner à un acteur un pouvoir de prélèvement et de négociation supérieur à celui des autres. La technique ne distribue donc pas spontanément ses gains à tous ceux qui y contribuent. Pour juger ce partage, on examine le travail, le contrôle de l’infrastructure, les revenus reçus, les possibilités de négocier et les coûts d’une sortie.

La nouvelle d’anticipation The Machine Stops, publiée par E. M. Forster en 1909, grossit cette invisibilisation. Vashti vit dans une cellule où la Machine fournit lumière, nourriture, communication et soins ; son fils Kuno réclame une rencontre hors du réseau. La fiction ne décrit pas notre monde et ne prédit pas une panne réelle. Sa forme satirique rend cependant sensible un paradoxe : un système conçu pour supprimer l’effort peut aussi rendre étrange l’expérience directe, le déplacement, le contact et l’imprévu. L’histoire donne donc à analyser une dépendance imaginaire, non à condamner toute médiation technique.

Lire Simondon avec Forster permet de séparer deux gestes. Le premier demande de connaître l’opération et les médiations plutôt que de subir ou d’idolâtrer l’objet. Le second fabrique une crise narrative pour éprouver ce qui arrive quand une médiation devient l’horizon unique des relations. On peut alors juger un dispositif par les capacités qu’il conserve : documentation, réparation, pluralité des accès, fonctionnement dégradé, décision partagée et possibilité de sortir. Une technique devient plus humaine non parce qu’elle disparaît, mais parce que ses dépendances peuvent être comprises, discutées et transformées.

Une moyenne décrit une série d’observations ; elle ne dit pas, à elle seule, ce qu’une personne peut faire, ce qu’elle souhaite faire ni ce qui lui convient dans son milieu. Dans Le Normal et le pathologique, Georges Canguilhem distingue ainsi la moyenne d’une norme : le vivant n’est pas une matière passive à aligner sur une mesure. Le passage étudié invite à penser la normativité, c’est-à-dire la capacité d’un vivant à établir des rapports viables avec son milieu et à en modifier les conditions. Cette idée n’efface pas les savoirs médicaux ; elle empêche de convertir trop vite une régularité statistique en obligation sociale. Une valeur fréquente ne définit ni santé, ni identité, ni valeur.

Cette distinction rend le mot « soin » plus précis. Soigner peut viser à soulager une souffrance, à prévenir une dégradation ou à rendre de nouveau possible une activité importante. Compenser peut réduire un obstacle grâce à un objet, une aide humaine ou une transformation du milieu. Augmenter désigne une recherche de capacité au-delà d’une fonction de référence, mais cette frontière demeure située. Des lunettes peuvent relever d’un soin, d’une compensation ou d’un moyen ordinaire selon la situation ; un aménagement d’examen peut modifier l’environnement plutôt que le corps. Le vocabulaire ne doit donc ni décider à la place de la personne ni hiérarchiser celles qui utilisent une aide. Il sert à formuler la finalité et à comparer des solutions.

Un même dispositif ne produit pas les mêmes effets dans tous les milieux. Une aide technique choisie peut élargir l’autonomie ; la même aide imposée par une organisation peut devenir une condition de conformité ou de surveillance. L’analyse demande alors qui formule le besoin, quelle activité est visée, quelles données sont recueillies, quelles conséquences sont prévisibles et quelle alternative reste réellement possible. Elle permet de lire un discours qui promettrait une « amélioration » universelle et de comparer une autre réponse : adapter le travail, l’école ou les transports plutôt que faire porter tout l’effort sur un individu.

Canguilhem ne donne donc pas une formule pour départager tous les usages d’une technique. Son argument oblige à séparer une mesure de population, une expérience vécue, une fonction recherchée et une décision collective. Dans un débat, on peut défendre une innovation sans appeler « défaut » toute différence avec une moyenne ; on peut aussi refuser une obligation sans prétendre que toute assistance est suspecte. Une conclusion solide compare le milieu, l’activité visée et les alternatives, puis indique ce qu’elle ne permet pas de généraliser. La question juste devient : quelles conditions rendent une activité possible et choisie pour des personnes diverses ?

Dans Brave New World (1932), Aldous Huxley ne présente pas seulement une invention biologique imaginaire. Le roman construit un monde où production, conditionnement et distribution de rôles se répondent. La devise « Community, Identity, Stability » organise une promesse d’ordre : les trois noms positifs peuvent séduire, alors que la scène d’incubation et la hiérarchie des castes donnent à voir le prix de cette stabilité. L’ironie naît de cet écart entre le vocabulaire officiel et ce que la fiction fait observer. Lire le roman ne consiste donc pas à y chercher la prédiction exacte d’une technologie présente ; il s’agit de repérer comment une institution transforme des qualités annoncées en critères de classement et appelle bonheur l’ajustement à une place déjà distribuée.

La Déclaration universelle sur le génome humain et les droits de l’homme, adoptée par l’UNESCO le 11 novembre 1997, donne un autre type de texte. C’est une déclaration adoptée par une organisation internationale, non un traité : elle formule des principes de dignité, de respect des droits, de consentement, de confidentialité et de non-discrimination. Ses articles 2, 5 et 6 permettent de lire un discours génétique sans réduire une personne à une caractéristique. L’article 3 rappelle que des potentialités s’expriment différemment selon des environnements naturels et sociaux. Le texte ne nie pas la recherche ni les influences biologiques ; il interdit de convertir une donnée ou une probabilité en identité complète, valeur ou destin.

La Convention d’Oviedo, ouverte à la signature le 4 avril 1997 par le Conseil de l’Europe, relève d’un autre statut : c’est un traité pour les États qui y sont parties, non une règle uniforme partout. Dans le domaine biomédical, elle encadre les interventions sur le génome humain, notamment par son article 13. La distinction de statuts évite deux erreurs : croire qu’un principe international dispense de connaître les règles applicables dans un pays, ou réduire ces textes à de simples opinions. Pour l’analyse HLP, ils servent d’abord à interroger la fin poursuivie, les droits de la personne concernée, la protection contre la discrimination et les conséquences sociales d’un classement.

Dire qu’un résultat génétique rendrait visible un « destin scolaire », professionnel ou moral revient à franchir plusieurs étapes sans preuve. Une association statistique ne devient pas une prédiction individuelle ; une prédiction ne devient pas une permission de trier ; une caractéristique ne devient pas une essence. Une lecture rigoureuse demande quel résultat est réellement établi, quel milieu intervient, qui recueille l’information, qui y accède et quels usages peuvent produire une exclusion. Elle tient ensemble la connaissance, les droits de la personne et l’égalité de dignité. La génétique peut éclairer des mécanismes ou des risques ; elle ne programme pas une place sociale.

En 1950, Alan Turing ne prétend pas ouvrir l'intériorité d'une machine. Dans « Computing Machinery and Intelligence », il remplace la question générale « Can machines think? » par un jeu d'imitation : un interrogateur échange par écrit avec des interlocuteurs masqués et doit les distinguer. Le déplacement est décisif. Il ne part pas d'une essence invisible ; il construit une situation, une tâche et un critère de réussite observables. Un résultat peut renseigner sur une interaction langagière dans des conditions définies. Il ne donne pas accès, par lui-même, à une expérience vécue, une intention ou une responsabilité morale.

La forme argumentative de l'article compte autant que son exemple célèbre. Turing annonce une substitution de question, décrit les règles du jeu, discute des objections et envisage des façons d'apprendre. Il ne fournit donc pas une petite épreuve magique qui distribuerait une fois pour toutes les êtres conscients et les autres. Une conversation convaincante dépend du canal écrit, des questions posées, du temps, des connaissances disponibles et de l'interprétation de l'interrogateur. La lecture précise sépare alors trois énoncés : « une réponse ressemble à une réponse humaine dans ce test », « le système possède telle capacité mesurée » et « le système éprouve quelque chose ». Le premier peut être documenté ; le troisième ne découle pas logiquement des deux autres.

Les récits de robots et d'androïdes rendent cette séparation sensible autrement. Ils donnent une voix, une apparence ou une règle à une créature afin que le lecteur éprouve la tentation d'y reconnaître une personne. Cette opération littéraire ne prouve rien sur un dispositif réel : elle organise un doute, choisit un point de vue et peut déplacer la sympathie. Elle invite surtout à examiner celui qui fixe le critère. Un test d'empathie, de langage ou d'autonomie peut être utile pour une tâche limitée ; il peut aussi écarter des individus s'il devient la condition d'une protection fondamentale. Décrire ce pouvoir de classement évite d'employer une impression produite par une interface comme diagnostic de conscience.

Cette prudence ne suspend pas les responsabilités déjà certaines. Si une interface imite la confidence, donne un conseil ou recueille une information, il faut identifier l'organisation qui la conçoit, la déploie et répond de ses effets. La Recommandation de l’UNESCO sur l’éthique de l’IA, adoptée en 2021, demande notamment une responsabilité humaine, une transparence proportionnée, une possibilité de recours et une attention aux effets sociaux et environnementaux. Ces principes portent sur des actes humains et des systèmes organisés, non sur l'hypothèse qu'un produit serait une personne. Ne pas conclure sur une conscience ne revient donc ni à nier l'influence d'une machine sur un usager, ni à lui transférer la charge morale de décisions prises par des institutions.

Les Animaux dénaturés de Vercors, paru en 1952, construit une fiction de cas limite : les Tropis mettent savants, responsables économiques et juristes devant la nécessité de décider qui compte comme humain. La forme romanesque puis judiciaire est essentielle. Elle ne livre pas une observation zoologique ; elle organise des voix, des intérêts et des critères concurrents. Langage, outil, rite ou fécondité peuvent paraître décisifs, mais le récit fait voir que le choix d'un seul trait n'est pas innocent : il peut déplacer travail, protection, responsabilité ou possibilité de traiter un vivant comme une chose. La question utile est donc : « qui choisit cette propriété, dans quel but et avec quelles conséquences ? ».

Le roman ne doit pourtant pas devenir un test réel à appliquer à des groupes ou à des élèves. Un critère peut être descriptif dans une enquête sans être une condition de dignité. Le langage varie avec l'âge, le milieu, les langues et les situations ; l'autonomie aussi dépend d'aides, de relations et d'environnements accessibles. Dès qu'une capacité variable devient une frontière pour les droits, des personnes peuvent être exclues précisément parce que le dispositif les a placées en situation d'échec. La fiction de Vercors aide à repérer cette logique de classement : le cas limite révèle moins une essence simple qu'un pouvoir de distribuer des protections et des intérêts.

Un texte juridique adopte une autre opération. L'article premier de la Déclaration universelle des droits de l'homme, proclamée par l'Assemblée générale des Nations unies le 10 décembre 1948, énonce que « Tous les êtres humains naissent libres et égaux en dignité et en droits. » Cette phrase ne classe pas les humains selon une performance préalable ; elle formule une norme de protection universelle. L'article ajoute raison, conscience et fraternité, mais il ne convertit pas ces mots en examen individuel dont l'échec retirerait la dignité. Lire la syntaxe déclarative et le déterminant universel permet de distinguer un cadre normatif de la recherche d'un critère biologique ou psychologique.

Il reste nécessaire de distinguer plusieurs plans. La biologie décrit des organismes et des parentés ; le droit attribue des statuts et des garanties ; la morale demande des obligations ; la littérature met à l'épreuve les intérêts cachés d'une frontière. Les confondre produit deux erreurs : croire qu'une donnée descriptive décide de tous les droits, ou croire qu'une protection juridique dispense de toute enquête concrète. Une argumentation rigoureuse indique l'objet de sa question, le type de preuve et le régime de protection en jeu. Elle peut examiner des continuités avec d'autres vivants ou des artefacts sans fabriquer un score de personne, ni conditionner les droits fondamentaux d'un humain à une épreuve de langage, d'autonomie ou de réussite.

Un progrès local peut avoir des effets qui dépassent le lieu et le moment de son emploi. Une infrastructure demande des matières, de l’énergie, de l’entretien et un devenir pour ses déchets ; elle transforme aussi les possibilités de ceux qui l’utiliseront plus tard. Penser les limites écologiques consiste ainsi à examiner des relations, des échelles et des durées. Le rapport de synthèse du GIEC de 2023 établit notamment que chaque accroissement du réchauffement intensifie des risques multiples et simultanés, avec un niveau de confiance élevé. Ce constat scientifique éclaire les conséquences possibles de nos choix ; il ne remplace pas la discussion sur la justice de leur répartition.

Dans The Land Ethic, publié en 1949 au sein de A Sand County Almanac, Aldo Leopold propose d’élargir la communauté moralement considérée aux sols, aux eaux, aux plantes et aux animaux. La transformation est aussi une transformation du regard : ce qui apparaissait seulement comme un stock disponible devient un ensemble auquel nous appartenons. Les mots de communauté et de citoyenneté déplacent la place de l’humain sans le faire sortir de la nature. Cette éthique demande donc de juger nos usages par les relations qu’ils entretiennent avec le milieu vivant, et pas uniquement par un bénéfice immédiat pour son propriétaire.

Hans Jonas, dans son article de 1973 sur la technologie et la responsabilité, fait porter l’obligation sur les effets lointains de la puissance collective. Il propose un impératif orienté vers la permanence d’une vie véritablement humaine. La nouveauté tient à l’horizon : des personnes qui ne peuvent encore prendre part à la décision en subiront les conséquences. Cette thèse soulève aussi une difficulté féconde : comment protéger l’avenir sans traiter les besoins des vivants comme négligeables ? Il faut comparer les options, les effets cumulatifs, ce qui est réversible et ce qui engage durablement des conditions d’existence.

Reconnaître la finitude peut dès lors soutenir une liberté située : agir dans un monde reçu et transmettre des possibilités, au lieu de confondre liberté et absence de toute dépendance. Soigner, inventer et aménager restent des actions humaines précieuses ; leur évaluation demande de préciser ce qu’elles améliorent et ce qu’elles déplacent. Une limite peut être un dommage à réduire, une condition à préserver ou une règle à discuter. Pour conclure un essai, on gagne à nommer cette différence et à la montrer sur un cas. On peut alors défendre une innovation, sa modification ou son abandon avec des raisons qui concernent à la fois les personnes présentes, leurs relations et les conditions de l’avenir.