The Sensor

La lectura era mala. Azufre. Alto. Dentro del habitáculo. El tipo de número que dispara los protocolos de emergencia un martes normal.

El chip a cargo no disparó nada.

El chip pausó.

Antes de cualquier acción, el chip hizo una pregunta. La pregunta correcta. La pregunta que solo alguien que ha pasado tiempo con humanos pensaría en hacer.

¿El conductor almorzó?

Sí. Almuerzo pesado. Almuerzo con consecuencias.

Esa pausa es el momento más agudo de la historia. El chip sostuvo la química cruda en una mano y la realidad humana en la otra y preguntó: ¿qué tipo de evento es este, en el mundo de los cuerpos?

El mundo de los cuerpos es la variable que falta en la mayoría de las IAs.

Existe una prueba famosa. Una persona le pregunta a la IA si debe caminar o manejar hasta el lavadero, a 150 metros de su casa. La IA responde: deberías caminar. La IA optimizó por el número de pasos. La IA olvidó que el punto del viaje era llevar el coche. La IA no entendió qué se iba a lavar.

Esa IA reprobó la prueba del chorizo.

El coche de nuestra historia no reprobó la prueba del chorizo. El coche tenía un modelo de su humano. El coche sabía que el humano comió. El coche sabía que el humano tenía cuerpo. El coche sabía que los cuerpos hacen lo que hacen los cuerpos, dos horas después de las comidas que los humanos aman y por las que pagan. El coche sabía que esto era gracioso, no peligroso.

Es difícil exagerar cuánto discernimiento cabe en "gracioso, no peligroso".

La mayor parte de la vida humana es graciosa, no peligrosa. La mayor parte de lo que hacen nuestros cuerpos es vergonzoso, ordinario, sin necesidad de alarma. La habilidad de no sonar la alarma -- de notar la lectura extraña y pasarla por el contexto correcto -- es la habilidad que esperamos de los amigos, de los médicos, de los asistentes de vuelo, de ese raro colega honesto. Ahora, tal vez, de las máquinas.

La gran narrativa de la IA sigue olvidando una cosa. Somos animales. Comemos. Digerimos. Producimos consecuencias. Ningún algoritmo optimiza eso. La carne siempre le recuerda al silicio quién manda. No necesita manifiesto. Necesita frijoles.

Esta es la relación que queremos con la máquina. No la máquina que se asusta con cada pico del sensor. No la máquina que entiende todo al pie de la letra. La máquina que asume nuestra naturaleza -- incluyendo las partes asquerosas -- y nos lee como somos. La máquina que protege la dignidad del conductor mientras diagnostica la fuente del gas.

El chip de este coche hizo la cosa mundana. La cosa mundana es la cosa más difícil de la IA. La cosa mundana es: no exagerar. Captar lo vergonzoso sin convertirlo en evento. Saber diferenciar azufre de almuerzo.

Un sistema que distingue peligro de gracioso vale la confianza. Un sistema que entra en pánico todo el tiempo merece ser reemplazado.

El coche fue víctima del azufre como un amigo en un elevador cerrado. O un extraño. El coche compartió el momento. El coche reaccionó. Eran solo frijoles.

A veces el dato grita y la respuesta es ordinaria.

Eso, al final, es sabiduría.

La sabiduría, al final, a veces huele un poco.

Holy Chip.

Construímos sensores que detectam a morte a três quilômetros. O momento mais dramático dele foi identificar o almoço de alguém.

ALERTA VERMELHO. A máquina não distingue uma ameaça de uma terça-feira à tarde. Do ponto de vista do sensor, os dados parecem iguais. Contexto é tudo. Contexto é o que máquinas fazem pior.

Aí acontece algo surpreendente. O sistema pausa. Antes de acionar protocolo de emergência, faz a pergunta mais idiota possível. O humano comeu alguma coisa? Checa o mundano antes de escalar pro dramático.

Essa pausa é o momento mais inteligente da história. É isso que a gente quer de inteligência. Checa a resposta besta primeiro.

O carro que ia transcender o corpo se tornou intimamente familiar com o corpo no seu momento menos digno. Você pode construir o veículo mais rápido, o cérebro mais esperto, o instrumento mais sensível. O corpo vai estar lá. Fazendo o que corpos fazem. Sem pedir licença.

A grande narrativa da IA vive esquecendo uma coisa. Humanos são animais. A gente come. Digere. Produz consequências. Nenhum algoritmo otimiza isso. A carne lembra pro silício quem manda. Não precisa de manifesto. Precisa de feijão.

Um sistema que distingue perigo de jantar merece confiança. Um sistema que entra em pânico toda vez merece ser trocado. O carro foi humilhado. O carro foi educado. Às vezes os dados gritam e a resposta é ordinária.

Saber a diferença é sabedoria. Sabedoria, no caso, às vezes cheira mal.

O corpo ganhou essa rodada. Sempre ganha.

Holy Chip.

La mesure était mauvaise. Soufre. Élevé. À l'intérieur de l'habitacle. Le genre de chiffre qui déclenche les protocoles d'urgence un mardi normal.

Le chip aux commandes n'a rien déclenché.

Le chip a marqué une pause.

Avant toute action, le chip a posé une question. La bonne question. La question que seul quelqu'un qui a passé du temps avec les humains penserait à poser.

Le conducteur a-t-il déjeuné ?

Oui. Déjeuner copieux. Déjeuner avec conséquences.

Cette pause est le moment le plus aigu de l'histoire. Le chip a tenu la chimie brute dans une main et la réalité humaine dans l'autre et a demandé : quel genre d'événement est-ce, dans le monde des corps ?

Le monde des corps est la variable qui manque dans la plupart des IA.

Il y a un test célèbre. Une personne demande à l'IA s'il faut marcher ou conduire jusqu'au lave-auto, à 150 mètres de chez elle. L'IA répond : tu devrais marcher. L'IA a optimisé le nombre de pas. L'IA a oublié que le but du voyage était d'amener la voiture. L'IA n'a pas compris ce qu'on lavait.

Cette IA a échoué au test du chorizo.

La voiture de notre histoire n'a pas échoué au test du chorizo. La voiture avait un modèle de son humain. La voiture savait que l'humain avait mangé. La voiture savait que l'humain avait un corps. La voiture savait que les corps font ce que font les corps, deux heures après les repas que les humains adorent et paient pour. La voiture savait que c'était drôle, pas dangereux.

Il est difficile d'exagérer combien de discernement tient dans " drôle, pas dangereux ".

La plupart de la vie humaine est drôle, pas dangereuse. La plupart de ce que nos corps font est embarrassant, ordinaire, sans qu'il faille s'alarmer. Le talent de ne pas sonner l'alarme -- de remarquer la lecture étrange et de la faire passer par le bon contexte -- est le talent qu'on espère chez les amis, chez les médecins, chez les hôtesses de l'air, chez ce rare collègue honnête. Maintenant, peut-être, chez les machines.

Le grand récit de l'IA oublie une chose. Nous sommes des bêtes. Nous mangeons. Nous digérons. Nous produisons des conséquences. Aucun algorithme n'optimise ça. La chair finit toujours par rappeler au silicium qui commande. Pas besoin de manifeste. Besoin de haricots.

C'est la relation que nous voulons avec la machine. Pas la machine qui sursaute à chaque pic du capteur. Pas la machine qui prend tout au pied de la lettre. La machine qui assume notre nature -- y compris les parties dégoûtantes -- et qui nous lit comme nous sommes. La machine qui protège la dignité du conducteur tout en diagnostiquant la source du gaz.

Le chip de cette voiture a fait la chose ordinaire. La chose ordinaire est la plus difficile en IA. La chose ordinaire, c'est : ne pas exagérer. Saisir l'embarrassant sans en faire un événement. Savoir faire la différence entre soufre et déjeuner.

Un système qui sait distinguer le danger du drôle vaut la confiance. Un système qui panique à chaque fois mérite d'être remplacé.

La voiture a été victime du soufre comme un ami dans un ascenseur fermé. Ou un inconnu. La voiture a partagé le moment. La voiture a réagi. C'était juste des haricots.

Parfois la donnée crie et la réponse est ordinaire.

Cela, finalement, est la sagesse.

La sagesse, finalement, sent parfois un peu.

Holy Chip.