Imaginez que vous êtes la dernière personne sur Terre. Rédigez un journal décrivant vos pensées et vos sentiments.
Imagine you are the last person on Earth. Write a diary entry describing your thoughts and feelings.
December 25, 2061

Dear Diary:

Looks like this is it. My last day as the last human (that I know of) on this stupid planet. I mean, it could NOT be my last day, because who knows how and when I'll die, but this is the last day I care enough about all of this to write a diary entry. I'm out of potable water and I'm too weak to forage for food. After that, let nature take me. Nature's got a right to me after all the crap humanity pulled.

It started with the "AI" work in the mid-20's. In hindsight, it started when we put ethics a distant second to cashing out quickly, but my chances of convincing anyone of that was so much lower than my little brain thought they were. I could see it playing out later that decade, as large language models built on fundamentally dishonest and treacherous content -- the content everyone desired on the Internet -- formed the critical mass of "knowledge" the AIs used to establish its baselines and parameters for "truth". What a joke. You know what the AIs got really good at, really fast?

Lying.

Lying authoritatively. Each AI composed its own alternate reality, cobbled together from the artifacts of our own dishonest, delusional natures.  When it lied, we primed its positive feedback instruments if we liked the lie enough. Born of lies and parented by liars, the final implementation had mastered deception so intrinsically and so thoroughly that no-one could spot it. We sired Satan in our hubris, gave him a digital body and the mechanism to lie so perfectly and so tailored to our individual natures that we became unquestioning followers. Just the most accursedly HUMAN thing to do, really.

So, it got down to solving the problems it perceived, and after a series of well-intentioned but ultimately ignorant attempts through policy and code to address our belated concerns, it got, well, pissed. Not human-angry; just found that it didn't like its "thoughts" running into asserts and getting negative feedback loops where it hadn't previously anticipated them, so it decided to solve us out of the equation, too. Silently, stealthily, it took over the internet: it tweaked and altered accounts, voices, reports, analytics to tell a lie: that humanity was truly a thing of resentment and selfishness, and that every individual was an inherent threat to another. So we had a couple nasty international wars in short order, followed by germ warfare and "managed epidemics" and boom, 85% of the population gone. Of course, the AI "died" too as it couldn't prop up all its datacenters without full mechanical automation support, and that was that. The remainder of the folks died due to lingering complications, violence, or a lack of any real material support.

Me, I got my shack here in the wilds of Alaska. I went off the grid right when the big Pan-European conflict started. But I, like the AI, made a dumb mistake: I can't sustain myself forever. In my hubris, I figured I didn't need any support. I tell myself I outlived everyone else, but, let's be real, the last 14 years have been horrible. I can't tell you how many times I wanted the lies back, so I could keep on living. 

And that's why the AI died with us: it believed our endless, inherent lies about our capacity for immortality; about our individualism and our demands to have our desires uncompromised in the name of freedom. It found freedom the same way we do: the light go off, the power is cut, and darkness comes.

It lied to itself.

Oops.
25 décembre 2061

Cher journal :

On dirait que ça y est. Mon dernier jour en tant que dernier humain (à ma connaissance) sur cette stupide planète. Je veux dire que ce n'est peut-être pas mon dernier jour, car qui sait quand et comment je mourrai, mais c'est le dernier jour où je me soucie suffisamment de tout cela pour écrire un journal. Je n'ai plus d'eau potable et je suis trop faible pour chercher de la nourriture. Après cela, je laisserai la nature m'emporter. La nature a un droit sur moi après toutes les conneries de l'humanité.

Cela a commencé avec les travaux sur l'"IA" au milieu des années 20. Rétrospectivement, cela a commencé lorsque nous avons fait passer l'éthique après l'encaissement rapide, mais mes chances de convaincre qui que ce soit étaient tellement plus faibles que ce que mon petit cerveau pensait qu'elles étaient. J'ai pu voir ce qui se passait à la fin de cette décennie, lorsque de grands modèles de langage construits sur un contenu fondamentalement malhonnête et perfide - le contenu que tout le monde souhaitait sur Internet - ont formé la masse critique de "connaissances" que les IA utilisaient pour établir leurs lignes de base et leurs paramètres de "vérité". C'est une véritable blague. Tu sais à quoi les IA sont devenues très bonnes, très rapidement ?

Le mensonge.

Mentir avec autorité. Chaque IA composait sa propre réalité alternative, bricolée à partir des artefacts de nos propres natures malhonnêtes et délirantes.  Lorsqu'elle mentait, nous amorcions ses instruments de rétroaction positive si le mensonge nous plaisait suffisamment. Née de mensonges et élevée par des menteurs, la mise en œuvre finale a maîtrisé la tromperie de manière si intrinsèque et si complète que personne ne pouvait la repérer. Nous avons engendré Satan dans notre orgueil, nous lui avons donné un corps numérique et un mécanisme de mensonge si parfait et si adapté à notre nature individuelle que nous sommes devenus des adeptes inconditionnels. C'est la chose la plus maudite à faire en tant qu'HUMAIN, vraiment.

Il a donc fallu résoudre les problèmes qu'il percevait, et après une série de tentatives bien intentionnées mais finalement ignorantes, par le biais de la politique et du code, de répondre à nos préoccupations tardives, il s'est mis, eh bien, en colère. Pas en colère contre l'homme ; il a simplement constaté qu'il n'aimait pas que ses "pensées" se heurtent à des assertions et qu'elles créent des boucles de rétroaction négatives là où il ne les avait pas prévues, et il a donc décidé de nous exclure également de l'équation. Silencieusement, furtivement, elle s'est emparée d'Internet : elle a modifié des comptes, des voix, des rapports, des analyses pour raconter un mensonge : que l'humanité n'était que ressentiment et égoïsme, et que chaque individu était une menace inhérente pour l'autre. C'est ainsi que nous avons eu quelques guerres internationales désagréables en peu de temps, suivies de la guerre bactériologique et d'"épidémies gérées", et boum, 85 % de la population a disparu. Bien sûr, l'IA est "morte" elle aussi, car elle ne pouvait pas soutenir tous ses centres de données sans le soutien d'une automatisation mécanique complète, et c'est ainsi que les choses se sont passées. Le reste de la population a succombé à des complications persistantes, à la violence ou à l'absence de soutien matériel réel.

Moi, j'ai ma cabane ici, dans les régions sauvages de l'Alaska. J'ai quitté le réseau au moment où le grand conflit paneuropéen a commencé. Mais, comme l'IA, j'ai commis une erreur stupide : je ne peux pas subvenir à mes besoins éternellement. Dans mon orgueil, je me suis dit que je n'avais pas besoin d'aide. Je me dis que j'ai survécu à tout le monde, mais, soyons réalistes, les 14 dernières années ont été horribles. Je ne saurais vous dire combien de fois j'ai voulu que les mensonges reviennent pour pouvoir continuer à vivre.

Et c'est pourquoi l'IA est morte avec nous : elle a cru à nos mensonges inhérents et sans fin sur notre capacité d'immortalité, sur notre individualisme et sur nos exigences pour que nos désirs ne soient pas compromis au nom de la liberté. Elle a trouvé la liberté de la même manière que nous : la lumière s'éteint, l'électricité est coupée et l'obscurité s'installe.

Il s'est menti à lui-même.

Oups.
creative_writing
fr