AI, the Sad Engineers and the Myth

March 1st, 2024

Great cartoon by Forrest Brazeal (@forrestbrazeal).

As a bonus, the post of the day from François Chollet (@fchollet).

My view of the capabilities of LLMs is probably far below that of the median tech industry person. And yet, the more time passes the more I realize my 2023 views were actually overestimating their future potential and current usefulness.

Parallel to self-driving: circa 2016-2017 my view on the timeline for full-scale self-driving deployment was much more pessimistic than most people in the industry — I was envisioning ~2023, when everyone else targeted 2020 or earlier. And yet, as time passed I started realizing that I was being grossly overoptimistic.

Of course factualism doesn’t sell — if I wanted to be more of an AI influencer I would have to be constantly tweeting about how AI is going to replace all programmers and doctors and so on in less than a year. That sounds exciting and positive, and it gets great engagement!

Instead, I’m giving the impression of being an AI pessimist — despite having being extra-bullish on deep learning and AI for over 10 years straight.

I have been a huge believer in AI’s potential for a long time. Still am today. But I’m allergic to mindless hype.

NVIDIA’s Jen-Hsun Huang about Intellectual Honesty

February 22nd, 2024

Jen-Hsun Huang: Stanford student and Entrepreneur, co-founder and CEO of NVIDIA

Great sequence about failure, innovation and @quot;intellectual honesty" to guide the process.

LLM, what they are, what they ain’t

February 10th, 2024

Yet another insightful tweet by François Chollet (@fchollet):

People seem to be falling for two rather thoughtless extremes:

  1. "LLMs are AGI, they work like the human brain, they can reason, etc."
  2. "LLMs are dumb and useless."

Reality is that LLMs are not AGI — they’re a big curve fit to a very large dataset. They work via memorization and interpolation. But that interpolative curve can be tremendously useful, if you want to automate a known task that’s a match for its training data distribution.

Memorization works, as long as you don’t need to adapt to novelty. You don’t *need* intelligence to achieve usefulness across a set of known, fixed scenarios.

In fact, that’s the entire story of the field of AI so far: achieve increasing levels of usefulness and automation, while bypassing the problem of creating intelligence.

Cathedral, Mountain and Moon

December 26th, 2023

Photographer Valerio Minato shot this amazing triple-alignment involving the Basilica of Superga, the Monviso and the moon.

From NASA’s Astronomy Picture of the Day

Three categories of problem solving patterns

November 1st, 2023

I think there are broadly three categories of problem solving patterns — recitation, intuition, and reasoning.

Recitation: you simply recognize a known problem and apply the steps you’ve learned. Like playing a chess opening.

Intuition: in the face of a novel situation, you (mostly subconsciously) pattern-match it to what you’ve encountered before and you “just know” what to do (sometimes without really understanding why). Could be done completely in autopilot — no awareness required. Like a very experienced chess player seeing the best move in <1s.

Reasoning: you consciously and deliberately analyze a novel situation, using a combination of abstract principles and step-by-step simulation. Like analyzing a chess position and simulating in your mind possible future trajectories.

  1. Recitation is a database lookup.
  2. Intuition is interpolative generalization or proximity-based generalization in a continuous space.
  3. Reasoning is discrete search and discrete planning.

Deep Learning (DL) models do chiefly 2, with some 1 in the mix. Some rare AI systems attempt to do 3.

Humans do a combination of 2 and 3, for the most part (recitation is a thing but is les common). By "volume", most cognition is intuition, but reasoning accounts for the most critical bits.

The term "combination" here is important. Pretty much every conscious human thought is a mix of both intuition and reasoning. There is hardly anything that is pure reasoning or pure intuition (though unconscious processing is in fact pure intuition).

The fact that you do not have to consciously think about grammar and wording when speaking in your native language (though you have to consciously follow the thread of what you
mean) was always evidence that natural language fluency could be handled by intuitive systems (DL).

Meanwhile, making sense (other than via recitation or accident) does require reasoning. Sense and fluency are distinct — obviously.

Plouguerneau

October 18th, 2023

Encore une superbe photographie d’Adrien le Moigne (@Adilemoigne)

Team

August 11th, 2023


A team is not a group of people who work together.
A team is a group of people who trust each other.

This sentence raises the bar to building the team to a personal health project.
It is not about finding the right specialists to address specific health issues, but to find a group of people who are able to trust each other on the global project’s scope.

Mont Saint-Michel

January 22nd, 2023

Adrien le Moigne (@Adilemoigne) prépare une série photographique sur le Mont Saint-Michel. C’est très prometteur !

Grande année 2022 pour la course au large

January 1st, 2023

Crédit vidéo : PolaRYSE / FFVoile

Blockchain (do you need it?)

December 3rd, 2022

Picture from NISTIR 8202 — Blockchain Technology Overview).

Le cardiologue, Knock ou doudou ?

November 26th, 2022

Les patients qui étaient vus toutes les années pour rien par le confrère parti à la retraite ont du mal à décrocher. Malgré mes explications, ils continuent à prendre rendez-vous « pour un contrôle ».
Évidement, à côté, je refuse des patients qui voudraient me voir parce que ça ne va pas. 🤬🤬🤬
En fait, c’était Knock, mais en vrai.

Je l’ai déjà dit, mais un jour, j’ai compris un truc fondamental du métier de cardiologue. Ça a fait un déclic, et ma vision du métier a changé.
On nous voit comme arrogants, faisant une spécialité complexe et effrayante, et très techniciens.
Il y a du vrai (pour l’arrogance, notamment). Mais la vérité fondamentale de notre spé est ailleurs.
Nous sommes les doudous des autres médecins et des patients. Comme les doudous, nous rassurons bien plus que nous protégeons contre les dangers.

Objectivement, je passe mes journées à rassurer des confrères (simplement hier: DDimeres à 6 chez une dame de 96 ans, pas dyspnéique), ou les patients.
Pour ces derniers, je passe les journées à confirmer à des adultes qui font n’importe quoi (tabac, alcool, gras, sel, sédentarité marmoréenne, cocaine, cannabis) que ce n’est pas bon pour leur santé.
Et finalement mon intervention change vraiment la vie de très peu de patients, peut-être 1/10.
Mon métier, en vrai, c’est doudou.

Le confrère qui est parti et sur lequel je peste depuis des mois est en fait bien plus intelligent que moi.
Il a compris ça bien avant moi, et il a décidé d’en faire son métier.
Il voyait bien 80-85% de gens qui n’avaient rien toutes les années. Ça les rassurait et ça rassurait leur MG, tout le monde était content. C’était un très bon doudou.
Moi, je suis un mauvais doudou. J’aimerais bien soigner objectivement les patients. Mais c’est compliqué.

His final words (on Twitter)

November 19th, 2022

Adam Cifu (@adamcifu) describes himself as "Internist, professor, patient." His final words on Twitter may be shared by most aging medical doctors I know… except, maybe for the NNT ;)

  • I still like the number needed to treat.
  • Observational studies should not guide practice.
  • If I had to do it all again, I would be doing the same job.
  • As you spend time in your practice, more of your friends become your patients, and more of your patients become your friends.
  • Medicine is so hard because there are a finite (but unknowable) number of diseases that can present in an infinite number of ways.

Of Fatal Flaws

October 11th, 2022

I’ve worked on a number of high-profile failures:

  • Lytro lightfield cameras
  • Google Glass head-mounted computer
  • Google Clips automatic photographer

They all had a fatal flaw. Everyone saw the flaw. But the culture that arose in these teams purposefully ignored the flaw.

Lytro lightfield camera

The Lytro lightfield camera made truly amazing one-shot 3D pictures from a tiny camera.

What was its flaw?

It could only take pictures of very small subjects, like sushi. For larger subjects, like people, the benefits were lost.

Yet people mostly take pictures of people!

The limitation is due to simple geometry. You need a lens roughly the same size as your subject to get the awesome 3D information. But no one can carry a camera with a meter-wide lens on vacation.

This fatal flaw stared everyone in the face for years, yet no one blinked.

The marketing team found ever more contrived photo compositions that would still eke out a little 3D effect.

The engineers went to work making cameras so big they were moved on custom-built cranes.

The PMs tried to find ever-smaller niche markets.

The culture that arose spontaneously at Lytro suppressed its fatal flaw.

Everyone knew, deep-down, that middle-school geometry doomed the design, but everyone also fervently believed that it could somehow be overcome by sheer will, or hard work, or a stroke of genius.

The theme here is that the cultures that arise around products, methods, and inventions often grow to exclude discussion of their fatal flaws, and instead find elaborate ways to paper over them… to find more and more clever ways to pretend they don’t exist.

Google Glass

Google Glass actually had two fatal flaws:

  • It didn’t really do anything very useful.
  • You looked stupid while wearing it.

The culture in the Google Glass team grew to completely ignore these flaws, too.

Huge engineering efforts were spent looking for a "killer app" for Glass — some task or situation where Glass would be indispensable.

No one inside Google ever found one, but the culture couldn’t accept its own conclusion.

They released an "Explorer Edition" with great fanfare, and invited developers everywhere to help scour the land for a killer app for Glass.

They never found one, either.

The screen was just too small, and too awkwardly-placed in the corner of your eye.

The engineers spent their days testing Glass with vapid questions like, "Ok Glass, how tall is the Eiffel Tower?" and taking phots of the potted plants on their desks.

Phone notifications are bad enough. No one wanted them on their faces, too.

Glass just wasn’t useful.

Wearing Glass also made you look stupid.

No one ever wore Glass at the office. The devices sat on our desks, plugged into USB, endlessly charging.

The team tried to paper over this flaw, too. They launched an infamous photo spread in Vogue.

Unsurprisingly (at least in retrospect) that also failed to change the reality of Glass’s fatal flaws.

The team never directly acknowledged the fatal flaws at all.

Instead, they trundled on, trying to push an ugly, useless product into a market that clearly didn’t want it.

Google Clips

Finally, I worked on yet another weird camera that had a lot of potential: Google Clips.

It was a tiny camera that you could put anywhere, and it would work as your "automatic photographer."

It would wait for smiles and good lighting, then opportunistically take photos.

It was, honestly, a great idea!

Who wouldn’t want to come home and find a whole reel of awesome photos of your friends, with no effort beyond clipping a camera to your jacket?

Of course, it also had a fatal flaw. The pictures were taken from weird vantage points.

It turns out that humans only like pictures that are taken from the perspective of other humans’ eyes.

It’s a basic feature of our psychology, and it makes perfect sense.

We don’t like the vibe of pictures taken from tabletops or backpacks or lapel pins or dog collars.

To their credit, the UX team at Clips quickly uncovered this fatal flaw. It’s almost a no-brainer, once you start actually looking at pictures taken from uncontrolled perspectives.

Was the project canceled after this fatal flaw was discovered? Of course not!

Instead, the team again tried to paper over the flaw.

They tried to add AI-based perspective correction. They tried view synthesis, so the camera could be virtually "moved" a few inches. They tried ever more elaborate (and ever more intrusive) mounting hardware.

Even those sophisticated techniques were woefully insufficient to fix the fatal flaw at its core.

Then they tried to spruce the product up with ancillary features like time lapses.

Then they brought Clips all the way to market… where it very predictably failed.

The lesson here is simply that all engineering projects develop their own cultures over time.

The cultures often grow to silence or downplay fatal flaws in the product, perhaps because it must be done to keep people marching along together.

If you notice such a fatal flaw in your own project, you’re probably not alone. Your colleagues probably notice it, too.

Yet… it may remain unspoken for years, then one day suddenly define the entire arc of your project.

In your own teams, encourage continual scrutiny of your product’s central flaws.

Encourage people to talk openly about the elephants in the room.

Build culture where people can say, "this is an unsolved problem, and we may not have a viable product if it is not solved."

J’ai encore un peu de force, c’est pour la donner !

September 19th, 2022

Au début du mois de septembre, la grande résistante Madeleine Riffaud, 98 ans, a vécu un calvaire à l’Hôpital Lariboisière. Elle a été abandonnée sur un brancard sans manger pendant 24 heures. Dans cette tribune à l’intention de Nicolas Revel, Directeur de l’APHP, elle dénonce l’état révoltant de l’hôpital public.

Il y a deux semaines, j’ai dû me rendre aux urgences pour un examen important dû à un covid long, variant omicron.

Le SAMU m’a emmenée à l’hôpital Lariboisière, à midi et demi, le dimanche 4 septembre pour examens. Je me suis retrouvée couchée au milieu de malades qui hurlaient de douleur, de rage, d’abandon, que sais-je. Et les infirmières couraient là-dedans, débordées… Elles distribuaient des « J’arrive ! » et des « ça marche ! » « J’arrive, j’arrive ! ». Mais personne n’arrivait. Jamais.

Moi-même, j’ai mis douze heures pour obtenir la moitié d’un verre d’une eau douteuse. Tiède. Je suis restée 24 heures sur le même brancard, sans rien manger, dans un no man’s land. C’était Kafka.

Rendez-vous compte : je suis aveugle. Je sentais parfois qu’on emportait mon brancard, que je traversais une cour, peut-être ? Il faisait plus froid, c’est tout ce que je peux dire. Et puis on m’a laissée là, sans aucune affaire, sans moyen de communication avec mes proches (qu’on ne prévenait d’ailleurs pas de l’évolution de la situation, seul le docteur Christophe Prudhomme a pu avoir quelques nouvelles, je le remercie ici).

Étais-je dans un couloir ? Dans une salle commune ? Au bout d’un moment, j’ai vraiment cru que je devenais folle. Ah, si j’avais eu un appareil photo comme quand j’étais reporter de guerre… Si j’avais pu voir ce que j’entendais… Dès l’arrivée à l’hôpital, mon ambulance est passée devant des gens d’une absolue pauvreté, qui se plaignaient à grands cris d’avoir été refoulés.

Drogue ? Misère sociale ?

Ceux-là n’ont même pas été admis dans « le service-porte », la foire aux malades, l’antichambre de l’hôpital par où l’on accède aux urgences. Les infirmières, qui n’ont déjà pas assez de temps à consacrer aux malades admis entre les murs, les voient forcément quand elles vont prendre leur service.

Nul doute que leur vocation est réduite en charpie depuis longtemps. D’où les « Ça marche », les « J’arrive. » J’ai entendu ça toute la nuit.

Les infirmières et aides-soignants, je les connais bien, j’ai vécu parmi eux, je sais qu’elles auraient éperdument voulu arriver à s’occuper de chacun… Et surtout que l’hôpital marche.

Le lendemain après-midi, l’hôpital n’ayant pas de lit disponible pour moi, on m’a transférée dans une clinique privée, sans jamais avoir prévenu mes proches. J’étais la troisième âme errante que cette clinique réceptionnait ce jour-là.

J’avais déjà fait une enquête de l’intérieur en 1974, en m’engageant incognito comme aide-soignante dans un service de chirurgie cardio-vasculaire d’un hôpital parisien. J’avais aussi travaillé au SAMU dans le service du professeur Huguenard à l’hôpital Mondor. De cette immersion, j’ai publié le livre « Les linges de la nuit » qui s’est vendu à près d’un million d’exemplaires en 1974 (réédité chez Michel Laffont en 2021).

Hôpital d’il y a cinquante ans ou hôpital ultramoderne, les problèmes sont toujours les mêmes : manque de personnel qualifié, manque de crédit, l’écart se creuse entre la technique de la médecine de pointe et les moyens mis à sa disposition.

Après la sortie du livre, j’avais rencontré le directeur de l’Assistance Publique dans un face à face télévisé. Nous étions tombés d’accord sur tous les points ! Tout le monde est d’accord, sauf les gouvernements qui se suivent et qui, au mieux, ne bougent pas.

Nous avions été nombreux, au cours des années, à témoigner sur l’état lamentable de la santé. Durant tout ce temps, aucun dirigeant n’a voulu entendre. Si la pandémie de 2020 a changé quelque chose, c’est en mal&nbsp,: le personnel est épuisé. L’état les a tous abandonnés, soignants comme malades.

Ma mésaventure, c’est une histoire quotidienne dans l’hôpital en France.

Mon sort est celui de millions de Parisiens et de Français.

Ceux qui me connaissent savent que je n’ai jamais demandé de passe-droit de toute ma vie. Mon âge n’y change rien. Mais j’ai remarqué qu’il était presque une circonstance aggravante, et ce pour deux raisons :

  1. On pensait que j’étais trop vieille pour que ça vaille la peine de me soigner (réflexe pris lors de l’épidémie de covid ?).
  2. Dès que je parlais, on se disait que j’étais gâteuse et on pensait d’emblée que je racontais n’importe quoi… alors pas la peine de m’écouter.

Pourtant, j’ai une voix. Une voix qui ne s’en est jamais prise au personnel. Ça ne changera pas.

Évidemment, j’ai mal, mais je vais continuer à me bagarrer, comme d’habitude.

Moi, j’ai de la chance, j’ai des amis, et des confrères journalistes. Mais tous ces pauvres gens qui n’ont personne, que peuvent-ils faire ? Quand on entre dans le circuit infernal, quand on est aspirés dans le néant des urgences, on ne peut pas en sortir indemne. Parfois même, on n’en sort pas vivant… L’infirmier libéral qui vient à mon domicile m’a dit que c’était arrivé à un de ses patients, il y a trois semaines.

Si je peux être leur voix – comme Aubrac m’avait demandé d’être l’une de celle de la Résistance – alors je le serai.

J’ai encore un peu de force, c’est pour la donner !

Madeleine Riffaud

Paris, le 19 septembre 2022

Texte original

Without you!

September 12th, 2022

Even through impenetrable darkness Ukraine and the civilized world see these acts of terrorism clearly.
Deliberate, cynical missile strikes on civilian critical infrastructure. No military targets. The Kharkiv and Donetsk regions are without power. In Zaporizhia, Dnipropetrovsk, and Sumy there are issues with food supply.

Do you still believe that we are one people?
Do you still think that you can frighten, crush, and bend us into submission?
You really understand nothing?
You don’t realize who we are? What we are for? What we are about?

Read my lips:
No gas or no you? No you.
No lights or no you? No you.
No water or no you? No you.
No food or no you? No you.
Cold, hunger, darkness, and thirst – for us these are less frightening and less deadly than your friendship and brotherhood.

But history will arrange everything.

And we will have gas, electricity, water, and food – and we won’t have you.


Ukrainian president Volodymyr Zelensky

Sans vous !

September 12th, 2022

Même dans l’obscurité totale, l’Ukraine et le monde civilisé voient clairement ces actes terroristes.
Des attaques de missiles délibérées et cyniques sur des infrastructures civiles critiques. Pas de cibles militaires. Les régions de Kharkiv et de Donetsk privées d’électricité. Zaporizhzhia, Dnipropetrovsk, Sumy, toutes partiellement privées de courant.

Pensez-vous toujours que nous ne sommes « qu’un seul peuple » ?
Pensez-vous encore que vous pouvez nous effrayer, nous briser, nous persuader de faire des concessions ?
Vous ne comprenez donc vraiment rien ?
Vous ne comprenez donc pas qui nous sommes ? Ce que nous défendons ? De quoi il s’agit pour nous ?

Lisez sur mes lèvres :
Sans gaz ou sans vous ? Sans vous.
Sans électricité ou sans vous ? Sans vous.
Sans eau ou sans vous ? Sans vous.
Sans nourriture ou sans vous ? Sans vous.
Parce que pour nous le froid, la faim, l’obscurité et la soif ne sont pas aussi terribles et mortels pour nous que votre « amitié et fraternité ».

Mais l’histoire remettra tout à sa place.

Nous aurons du gaz, de la lumière, de l’eau et de la nourriture… et tout cela, nous l’aurons SANS vous !


Volodymyr Zelensky, Président de l’Ukraine

L’outil convivial

August 29th, 2022

Ivan Illich décrit l’outil convivial dans La Convivialité

L’homme a besoin d’un outil avec lequel travailler, non d’un outillage qui travaille à sa place. Or il est manifeste aujourd’hui que c’est l’outil qui de l’homme fait son esclave. L’outil simple, pauvre, transparent est un humble serviteur ; l’outil élaboré, complexe, secret est un maître arrogant. L’outil maniable est conducteur d’énergie métabolique (endosomatique) ; la main, le pied ont prise sur lui. L’énergie qu’il réclame est productible par quiconque mange et respire. L’outil manipulable est mû, au moins en partie, par l’énergie extérieure (exosomatique). Il peut dépasser l’échelle humaine ; l’énergie fournie par le pilote d’un avion supersonique ne représente plus une part significative de l’énergie consommée en vol. L’outil maniable appelle l’usage convivial.

L’outil reste convivial dans la mesure où chacun peut l’utiliser, sans difficulté, aussi souvent qu’il le désire. Personne n’a besoin d’un diplôme pour avoir le droit de s’en servir. L’outil juste répond à trois exigences : il est générateur d’efficience sans dégrader l’autonomie personnelle, il ne suscite ni esclaves ni maîtres, il élargit le rayon d’action personnel. J’appelle société conviviale une société ou l’outil moderne est au service de la personne intégrée à la collectivité, et non au service d’un corps de spécialistes. Conviviale est la société où l’homme contrôle l’outil.

Douces courbes

August 15th, 2022

Les douces courbes innombrables qui font d'un corps de femme, pour l'homme qui en est amoureux, un paysage qu'il n'en finit pas de découvrir et que chaque mouvement rend nouveau comme au jour de la création.

René Barjavel
Le Grand Secret (1973)

La fin des choses

July 16th, 2022


Les informations sont additives, et non narratives. Elles peuvent être comptées, mais pas racontées. En tant qu’unités discontinues dotées d’une brève bande passante d’actualité, elles ne s’assemblent pas pour former une histoire. Notre espace mnésique, lui aussi, ressemble de plus en plus à un grenier débordant de toutes les informations possibles. Mais addition et accumulation refoulent les narrations. La continuité narrative qui s’étend sur de vastes laps de temps caractérise l’histoire et le souvenir. Seules les narrations créent du sens et du contexte. L’ordre numérique est sans histoire ni souvenir. C’est ainsi qu’il fragmente la vie.

Cet extrait de "La fin des choseséquot; de Byung-Chul Han (Actes Sud) explique superbement l’échec de l’informatisation de la médecine et le terrible cul de sac dans lequel DMP et interopérabilité conduisent la médecine.

Pole Dancing

June 20th, 2022

Yes, Pole Dancing:


css.php