책冊

À la recherche d'une « légitimité » irremplaçable : Rester humain à l'ère de l'IA

1. Introduction : La fierté humaine face à un ordre immense et à ses limites

Dans le monde de la science-fiction, il existe un auteur unique qui, sans avoir écrit un seul roman, mais seulement une poignée de nouvelles et de novellas rares, rafle les prix littéraires à chaque publication. Il s'agit de Ted ChiangDiplômé en informatique et ancien rédacteur technique dans le secteur des technologies de l'information, il ne propose pas de guerres spatiales spectaculaires ou de grands spectacles, mais interroge avec persistance la « condition humaine » à travers des expériences de pensée scientifiques méticuleuses et sophistiquées. Son premier recueil de nouvelles, 『Stories of Your Life and Others』qui contient la nouvelle originale du film 〈Arrival〉, mobilise des contradictions mathématiques, un langage extraterrestre écrasant, des instincts visuels artificiellement modifiés et une super-intelligence dépassant la raison humaine, pour nous confronter directement aux limites et à l'absurdité de l'espèce humaine.

Cependant, même face à ce cadre immense et déchirant, l'être humain ne succombe pas à la simple peur ou à la récompense. Au lieu de s'appuyer sur le pari pascalien (l'idée que croire en Dieu, qu'il existe ou non, ne coûte rien si l'on se trompe) ou de se confier à des croyances forcées, c'est la fierté humaine de préserver sa raison et son intégrité jusqu'au bout qui soutient le cœur de ce recueil.

Le message central qui traverse tout le recueil est clair. Les lois et l'ordre de l'univers qui entourent l'être humain fonctionnent parfois froidement et rigoureusement, indépendamment des émotions ou du sens de la justice de l'homme, mais même dans ces limites inévitables, c'est à l'homme seul de choisir ce qu'il aime et l'attitude avec laquelle il affrontera la vie.

2. Réflexions sur les épisodes du recueil de nouvelles 『Stories of Your Life and Others』 : Redécouverte de l'instinct, de la raison et des relations

Ce recueil de nouvelles est composé de 8 épisodes, dont la nouvelle 〈Story of Your Life〉 qui a donné son titre au livre. Parmi les œuvres incluses, construites sur diverses bases académiques telles que les mathématiques, la linguistique, la théologie et les neurosciences, je souhaite sélectionner quatre épisodes clés qui nous poussent à explorer en profondeur l'humanité au-delà de la technologie et de la raison, et à partager mes réflexions et mes impressions à leur sujet.

① <Réflexion sur le culte de l'apparence : un documentaire> : La fissure subtile entre l'équité publique et l'instinct privé

Cet épisode est un documentaire qui explore le débat sur l'obligation de porter le « Calli », un dispositif neurologique fictif qui régule les nerfs cérébraux pour bloquer sélectivement la perception de la beauté et de la laideur chez autrui. Dans la société universitaire du roman, un débat houleux éclate pour savoir s'il faut rendre le port du Calli obligatoire pour les étudiants, au nom de l'élimination de la discrimination et des inégalités fondées sur l'apparence.

La capacité humaine à identifier autrui et à ressentir des émotions à travers l'apparence et l'impression est le résultat de l'instinct de survie le plus primitif accumulé au cours de 300 000 ans d'évolution et d'une statistique empirique. Le raccourci cognitif par lequel le cerveau perçoit et réagit à l'apparence d'une personne en seulement 0,1 seconde est un système efficace développé pour éviter les dangers et distinguer rapidement les objets utiles, et est fondamentalement le résultat d'une fidélité extrême à l'instinct humain. Par conséquent, l'acte d'être attiré par l'apparence et d'y projeter des émotions ne peut pas être considéré comme une mauvaise habitude à éradiquer sans discernement.

Le problème est que les médias modernes et la publicité commerciale déforment et exploitent excessivement cet instinct de survie, encourageant un culte extrême de l'apparence. Le mécanisme cognitif sain d'origine est contaminé et hypertrophié par les normes esthétiques déformées par les médias, ce qui entraîne l'effet secondaire d'un biais excessif envers l'apparence.

Par conséquent, la discussion sur la technologie « Calli » pour surmonter les biais créés par les médias doit être clairement divisée en domaines public et privé. Dans des situations publiques spécifiques où l'objectivité et l'équité doivent être primordiales, comme les entretiens, les procès et les évaluations de performance, l'utilisation sélective du « Calli ON » pour bloquer les biais contaminés par les médias peut être très significative sur le plan technologique et social.

Cependant, si cela était rendu obligatoire et imposé à l'ensemble de la société, y compris dans la sphère privée, le récit changerait complètement. Pour le plaisir, j'ai demandé à l'IA de simuler ce qui se passerait si le « Calli » était rendu obligatoire pour toute la société, et les résultats ont été assez choquants et clairs. Il a été conclu que si le circuit de récompense visuelle est bloqué, le total de la passion romantique (éros) entre les hommes et les femmes chute de plus de 90 %, et l'industrie du drame et de la culture populaire, qui dépendait de l'attrait et des expressions des acteurs, s'effondre instantanément. Castrer complètement les instincts de survie humains de longue date, les plaisirs esthétiques qui remplissent la vie et l'immersion narrative au nom de l'équité ne fera qu'engendrer une autre absurdité.

Par conséquent, si Kali est techniquement perfectionnée et peut être utilisée sélectivement dans des situations spéciales nécessaires, je suis tout à fait pour. Cependant, si une société obligatoire où Kali contrôle même les instincts privés devait advenir, je choisirais volontiers de devenir un antisocial qui s'écarte de cette norme.

② <Diviser par zéro> : La découverte de la singularité et de l'unicité de l'émotion

Tout comme René a découvert la contradiction irrationnelle « 1=2 » sans aucun signe avant-coureur dans la logique mathématique qu'il avait légitimement construite pendant des années, les émotions de Karl sont également confrontées à la contradiction froide de « ne plus l'aimer (René) » à un moment donné, sans aucune raison rationnelle ni événement négatif.

Si Karl avait été blessé par René ou avait commencé à la haïr pour une autre raison, il s'agirait d'une relation de cause à effet. Cependant, Ted Chiang élimine complètement la relation de cause à effet rationnelle, même dans la fin des émotions. Il l'aimait hier et veut toujours la chérir et la protéger plus que quiconque, mais l'émotion d'amour elle-même a disparu sans laisser de trace. C'est comme lorsque l'on divise un nombre par zéro, toutes les valeurs existantes perdent leur sens et s'évaporent, l'interrupteur de l'émotion s'éteint en un instant.

Nous pensons souvent que l'amour se maintient par l'effort, mais Ted Chiang montre la limite humaine selon laquelle les émotions peuvent s'éteindre instantanément à « 0 » indépendamment de la volonté ou de la considération, et à quel point les émotions que nous pensions être de l'amour peuvent être futilement brisées. En fin de compte, les émotions de Karl n'étaient pas le fruit d'un ressentiment négatif, mais plutôt un « point de singularité émotionnel »et un état de néant tragique qui est survenu soudainement à un moment donné au-delà de la raison humaine, comme une contradiction dans le monde des mathématiques, sans aucun avertissement.

D'un autre côté, le fait que Karl soit tombé amoureux de Renée, non pas pour son apparence simple, mais pour la profondeur de son expression unique, et qu'il ait confirmé son amour en déchiffrant cette expression, est très inspirant. Ce passage nous rappelle naturellement « Kali » de l'épisode précédent.

Et si, au lieu d'un Kali qui masque aveuglément l'apparence, il existait une technologie capable de percevoir intuitivement les caractéristiques uniques, les textures, la profondeur et le charme sous la surface d'une personne ? Même si ces caractéristiques ne sont pas toujours positives, une solution qui aide à lire l'essence de l'autre au-delà des coquilles esthétiques standardisées ou des retouches artificielles serait un outil bien plus humain et utile que le Kali du roman.

③ « L'Histoire de votre vie » : Spinoza dans une vision non linéaire du temps

Cette nouvelle, qui a inspiré le film « Premier Contact », raconte l'histoire de Louise, une linguiste qui déchiffre le langage des « Heptapodes » (créatures à sept membres), des extraterrestres venus sur Terre un jour, afin de communiquer avec eux.

Le « Heptapode B », le langage écrit des extraterrestres dans le roman, n'est pas un langage linéaire qui s'écoule selon l'ordre des sons comme celui des humains. Ils possèdent une vision du monde simultanée unique, où le début et la fin, le passé, le présent et le futur sont perçus en même temps, comme une image complète, au lieu d'une causalité où la cause et l'effet se succèdent. Pour les humains, qui ont vécu toute leur vie enfermés dans un temps qui ne s'écoule que du passé vers le futur, cette façon de percevoir le passé et le futur simultanément est un domaine étranger et difficile à appréhender. On pourrait facilement la confondre avec la prescience ou les pouvoirs psychiques d'un devin qui voit l'avenir.

Cependant, si nous comprenons cela non pas comme une simple « prophétie », mais comme la sensation de contempler simultanément une « partition complète » de toute la mélodie de ma vie, l'écho du récit change complètement.

Louise, en s'imprégnant profondément de l'heptapode B, perçoit pleinement l'avenir tragique (la fin de la partition) où sa fille naîtra, grandira et mourra prématurément. Cependant, Louise ne fuit pas la tragédie et n'abandonne pas la vie. Pour les moments brillants qu'elle partagera en riant et en pleurant avec l'enfant qu'elle aime, elle s'engage sans hésitation sur le chemin de la tragédie annoncée.

C'est comme l'attitude de Spinoza qui disait : « Même si la fin du monde devait arriver demain, je planterais un pommier aujourd'hui. » Même si l'on ne peut pas changer un destin immense et prédéterminé, il s'agit d'aimer de tout son cœur et de créer du sens à chaque instant. Ce n'est pas une résignation faible ou une conformité aveugle face à la tragédie, mais la décision la plus sublime et la confrontation la plus autonome que l'être humain puisse montrer.

④ <L'évolution de la science humaine> : Le potentiel de l'Homo sapiens et la fierté d'aspirer au « surhomme »

Livre du directeur Lee Jeong-mo 『L'extinction brillante』Si l'on se réfère brièvement au contenu de ce livre, dans les 4,5 milliards d'années d'histoire de la Terre, l'homme n'est qu'une espèce dominante qui a emprunté la scène pendant un certain temps après les dinosaures. Tout comme les Sapiens ont pris la place des dinosaures, il est dans la nature de l'évolution que la prochaine génération prenne un jour le relais de la Terre. L'obsession selon laquelle « seuls les humains devraient être les maîtres éternels de la Terre » n'est peut-être qu'une arrogance terrible au niveau de l'espèce ou une autre forme de croyance eugénique aveugle.

Si l'on regarde froidement, l'Homo sapiens, aux yeux des « Nouveaux Humains » (IA dépassant de loin l'intelligence humaine, ou des entités super-intelligentes combinées à la technologie comme les « méta-humains » dans les romans)qui apparaîtront après la singularité technologique, pourrait être une entité manifestement nuisible à la survie de la Terre. En effet, à cause de l'égoïsme sans fin symbolisé par la « tragédie des biens communs », ils ne parviennent pas à arrêter le réchauffement climatique et la destruction de l'environnement, entraînant la planète entière vers une destruction mutuelle. Si les nouveaux humains, ayant acquis une efficacité élevée et même une éthique humaine bienveillante sous forme de données, il est fort probable qu'ils jugent l'Homo sapiens comme une « erreur » à éliminer ou à exclure pour la survie de la planète entière.

Je suis « singularitarien »Il a toujours cru qu'en fin de compte, cette nouvelle humanité remplacerait l'Homo sapiens actuel. C'est pourquoi il a un jour émis l'hypothèse, avec une pointe d'autodérision, que « Shohei Ohtani serait le dernier 'Übermensch' de l'humanité (le concept de 'surhomme qui dépasse ses propres limites' de Nietzsche) ». Si les capacités physiques et intellectuelles de la nouvelle humanité dépassent de loin les limites humaines, à quoi bon les efforts acharnés des humains pour atteindre le sommet ?

Cependant, en lisant la phrase suivante de Ted Chiang dans l'épisode « L'évolution de la science humaine », j'ai quelque peu modifié ma pensée. Ou plutôt, j'ai enfin pu la modifier.

« ... De plus, il est possible que les chercheurs humains découvrent des applications que les méta-humains ont négligées. Parce qu'ils ont un avantage si écrasant, les méta-humains ont tendance à ignorer les préoccupations de notre humanité. (Omission) Cette seule possibilité est une raison suffisante pour poursuivre la recherche humaine. » (p.316)

Ce fut le moment où j'ai découvert la légitimité et la clé de la coexistence de l'Homo sapiens, plutôt que d'être simplement remplacé par la nouvelle humanité.

L'intelligence artificielle (LLM) d'aujourd'hui, qui produit rapidement des réponses, semble à première vue tout comprendre, mais en réalité, elle n'est qu'un opérateur linéaire extrême qui ajoute séquentiellement le mot suivant. En revanche, le cerveau humain n'est enfermé que dans des médias linéaires comme le son ou le langage, mais il contient en son for intérieur la graine de la « simultanéité gestaltique »(une perception intégrée qui saisit le tout en une seule fois, au-delà de la somme des parties) qui pénètre le contexte, l'émotion et l'intuition en même temps. Bien que les humains ne puissent absolument pas suivre l'IA en termes de vitesse de calcul ou de volume d'opérations, la pensée intégrée et l'intuition au vrai sens du terme, qui permettent de contempler le temps en un coup d'œil comme les heptapodes B, sont (du moins pour l'instant) un domaine que seuls les humains peuvent atteindre.

« La seule personne » qui, comme von Neumann, Einstein, Steve Jobs et Elon Musk, bouleverse complètement le monde existant et ouvre un nouveau paradigme. Cette transformation discontinue et gigantesque, que la nouvelle humanité armée d'optimisation des données et de calculs séquentiels n'oserait pas créer, pourrait être le domaine unique de l'Homo sapiens, qui imagine le néant dans l'imperfection et l'intuite de manière intégrée.

Si les humains étendent avec persistance ce domaine unique, prouvant ainsi leur légitimité à coexister, et enseignent continuellement à la nouvelle humanité les angles morts et les valeurs que seuls les humains peuvent voir, la possibilité d'une coexistence où l'Homo sapiens et la nouvelle humanité prospèrent ensemble sera beaucoup plus élevée.

Par conséquent, même si cette possibilité n'est que de 0,01 %, l'effort de l'Homo sapiens pour dépasser ses propres limites et progresser vers le surhomme est tout à fait valable et doit être ardemment encouragé. Même à l'ombre de la méta-humanité ou de la superintelligence, les humains ne doivent pas cesser de faire face à leur propre vie et de relever des défis autonomes pour dépasser leurs propres limites.

3. Conclusion : Une bougie dans le vent, son imagination inextinguible

Pour reprendre la perspective de « L'Extinction brillante », si l'on considère la longue histoire de la Terre, la singularité pourrait être une étape naturelle de l'évolution où le maître de la Terre change simplement des dinosaures à l'Homo sapiens, puis à la nouvelle humanité. Cependant, tout comme la « série Jurassic » se poursuit sans fin, regrettant la disparition de la présence massive et lourde des dinosaures, le fait que l'héritage unique de l'humanité, la « conscience de soi » et la « créativité » qui en découle, puisse disparaître est vraiment regrettable et déplorable. L'avertissement d'Elon Musk selon lequel « la conscience de l'humanité est en danger de s'éteindre comme une bougie dans le vent » est exactement dans la même veine.

C'est pourquoi les œuvres de Ted Chiang offrent un réconfort élaboré qui apaise ce regret. Elles offrent l'espoir qu'il restera une essence chez l'homme que la méta-humanité et la superintelligence, même si elles transcendent l'humanité de loin, ne pourront jamais posséder, et la justification de la survie de l'Homo sapiens qui en découle.

Je crois que cette dernière étincelle est la « capacité d'imaginer ce qui n'existe pas » dont parlait Yuval Harari, c'est-à-dire la créativité qui crée du sens à partir de rien. Tout comme les personnages du roman qui, face à des normes écrasantes et un ordre immense, n'ont pas succombé aux calculs et ont finalement trouvé un sens subjectif, la véritable valeur que nous devons préserver jusqu'au bout, même à l'ère de la nouvelle humanité, réside dans cette imagination inextinguible et cette fierté d'être humain.