Blog Odyssée

Yet another insightful tweet by François Chollet (@fchollet):

People seem to be falling for two rather thoughtless extremes:

1. "LLMs are AGI, they work like the human brain, they can reason, etc."
2. "LLMs are dumb and useless."

Reality is that LLMs are not AGI — they're a big curve fit to a very large dataset. They work via…

— François Chollet (@fchollet) February 9, 2024

People seem to be falling for two rather thoughtless extremes:

1. "LLMs are AGI, they work like the human brain, they can reason, etc."
2. "LLMs are dumb and useless."

Reality is that LLMs are not AGI — they’re a big curve fit to a very large dataset. They work via memorization and interpolation. But that interpolative curve can be tremendously useful, if you want to automate a known task that’s a match for its training data distribution.

Memorization works, as long as you don’t need to adapt to novelty. You don’t *need* intelligence to achieve usefulness across a set of known, fixed scenarios.

In fact, that’s the entire story of the field of AI so far: achieve increasing levels of usefulness and automation, while bypassing the problem of creating intelligence.

Encore une superbe photographie d’Adrien le Moigne (@Adilemoigne)

Adrien le Moigne (@Adilemoigne) prépare une série photographique sur le Mont Saint-Michel. C’est très prometteur !

Picture from NISTIR 8202 — Blockchain Technology Overview).

Adam Cifu (@adamcifu) describes himself as "Internist, professor, patient." His final words on Twitter may be shared by most aging medical doctors I know… except, maybe for the NNT

• I still like the number needed to treat.
• Observational studies should not guide practice.
• If I had to do it all again, I would be doing the same job.
• As you spend time in your practice, more of your friends become your patients, and more of your patients become your friends.
• Medicine is so hard because there are a finite (but unknowable) number of diseases that can present in an infinite number of ways.

Even through impenetrable darkness Ukraine and the civilized world see these acts of terrorism clearly.
Deliberate, cynical missile strikes on civilian critical infrastructure. No military targets. The Kharkiv and Donetsk regions are without power. In Zaporizhia, Dnipropetrovsk, and Sumy there are issues with food supply.

Do you still believe that we are one people?
Do you still think that you can frighten, crush, and bend us into submission?
You really understand nothing?
You don’t realize who we are? What we are for? What we are about?

Read my lips:
No gas or no you? No you.
No lights or no you? No you.
No water or no you? No you.
No food or no you? No you.
Cold, hunger, darkness, and thirst – for us these are less frightening and less deadly than your friendship and brotherhood.

But history will arrange everything.

And we will have gas, electricity, water, and food – and we won’t have you.

Ukrainian president Volodymyr Zelensky

Même dans l’obscurité totale, l’Ukraine et le monde civilisé voient clairement ces actes terroristes.
Des attaques de missiles délibérées et cyniques sur des infrastructures civiles critiques. Pas de cibles militaires. Les régions de Kharkiv et de Donetsk privées d’électricité. Zaporizhzhia, Dnipropetrovsk, Sumy, toutes partiellement privées de courant.

Pensez-vous toujours que nous ne sommes « qu’un seul peuple » ?
Pensez-vous encore que vous pouvez nous effrayer, nous briser, nous persuader de faire des concessions ?
Vous ne comprenez donc vraiment rien ?
Vous ne comprenez donc pas qui nous sommes ? Ce que nous défendons ? De quoi il s’agit pour nous ?

Lisez sur mes lèvres :
Sans gaz ou sans vous ? Sans vous.
Sans électricité ou sans vous ? Sans vous.
Sans eau ou sans vous ? Sans vous.
Sans nourriture ou sans vous ? Sans vous.
Parce que pour nous le froid, la faim, l’obscurité et la soif ne sont pas aussi terribles et mortels pour nous que votre « amitié et fraternité ».

Mais l’histoire remettra tout à sa place.

Nous aurons du gaz, de la lumière, de l’eau et de la nourriture… et tout cela, nous l’aurons SANS vous !

Volodymyr Zelensky, Président de l’Ukraine

Yes, Pole Dancing:

Jeunes gens, prenez garde aux choses que vous dites.
Tout peut sortir d’un mot qu’en passant vous perdîtes.
Tout, la haine et le deuil ! – Et ne m’objectez pas
Que vos amis sont sûrs et que vous parlez bas… -
Écoutez bien ceci :

Tête-à-tête, en pantoufle,
Portes closes, chez vous, sans un témoin qui souffle,
Vous dites à l’oreille au plus mystérieux
De vos amis de cœur, ou, si vous l’aimez mieux,
Vous murmurez tout seul, croyant presque vous taire,
Dans le fond d’une cave à trente pieds sous terre,
Un mot désagréable à quelque individu ;
Ce mot que vous croyez que l’on n’a pas entendu,
Que vous disiez si bas dans un lieu sourd et sombre,
Court à peine lâché, part, bondit, sort de l’ombre !
Tenez, il est dehors ! Il connaît son chemin.
Il marche, il a deux pieds, un bâton à la main,
De bons souliers ferrés, un passeport en règle ;
- Au besoin, il prendrait des ailes, comme l’aigle ! -
Il vous échappe, il fuit, rien ne l’arrêtera.
Il suit le quai, franchit la place, et cætera,
Passe l’eau sans bateau dans la saison des crues,
Et va, tout à travers un dédale de rues,
Droit chez l’individu dont vous avez parlé.
Il sait le numéro, l’étage ; il a la clé,
Il monte l’escalier, ouvre la porte, passe,
Entre, arrive, et, railleur, regardant l’homme en face,
Dit : – Me voilà ! je sors de la bouche d’un tel. -

Et c’est fait. Vous avez un ennemi mortel.

Victor Hugo, Toute la lyre

Le Magazine du monde du 16 avril 2022 contient un bel article d’Emmanuel Grynszpan (@EmGryn) nommé Odessa, histoire d’un mythe. On y trouve ce superbe paragraphe tiré du livre Les Cinq de Vladimir Ze’ev Jabotinsky  :

Des dizaines de tribus peuplaient Odessa, toutes plus extravagantes, pittoresques et curieuses les unes que les autres. Au début, on riait les uns des autres. Puis on a appris à rire de soi. Puis de tout, même de ce qui blesse et de ce que l’on aime. Peu à peu, les habitants ont désappris à prendre au sérieux leurs propres autels. Ainsi, ils ont progressivement découvert un secret fondamental du monde : ce qui est sacré pour toi n’est que baliverne pour ton voisin, qui n’est pour autant ni un voleur ni un clochard. Qu’il ait raison ou tort, il ne faut pas le tuer.

By @LoupBureau

Picture by Adam Cannon (@adam_cannon).
More there.

Looks like 20 is no longer enough. Does it count as declinism?

Picture from nejm.org

Hence (not that aligned, but nonetheless operative):

Storm Arwen at Roker Pier (Sunderland). Picture by Alec Jones

Photographie de @thierryjadot de la patrouille de France au dessus des Tuileries.

Où on découvre que la France a manifestement fait semblant de développer des vaccins.

Et que les variants ont tous d’importantes mutations de la protéine Spike, son outil de pénétration dans la cellule hôte et la cible des vaccins à ARNm.