Textes longs

Papers

Des arguments développés longuement : un problème posé précisément, les options pesées, une position prise et les preuves qui la soutiennent.

Chaque paper porte son propre résumé, ses références et son niveau de difficulté. La plupart se lisent d’une traite ; les plus longs sont numérotés pour pouvoir renvoyer à une section.

20262

21 octobre 202618 minAvancéPublié

Décider plutôt que générer

La plupart des appels de modèle en entreprise sont des décisions, et une décision mérite de meilleurs outils qu'une génération

Une grande part du trafic de modèles en production est du routage, du triage, de la classification et de la validation — de petites décisions payées au prix et à la latence d'un modèle de chat généraliste. Les modèles de décision rendent la sortie typée et la probabilité calibrée. Cet article examine quand cet arbitrage vaut la peine, ce que les benchmarks des fournisseurs montrent vraiment, et ce qui doit être vrai architecturalement pour qu'une couche de décision soit plus sûre qu'un prompt.

IA Architecture

21 octobre 202618 minIntermédiairePublié

Une production sérieuse sur une seule machine

Un point d'entrée, un bord discipliné, et un arbitrage à énoncer avant de le découvrir

Une seule machine peut héberger une vraie pile de production, à condition de traiter le bord comme une architecture et non comme un tas de conteneurs. Cet article décrit la forme en termes abstraits : un seul point d'entrée public, une couche de filtrage derrière, des serveurs applicatifs qui ne voient jamais Internet, un plan d'administration injoignable depuis une interface publique, et un rituel de mise à jour qui peut être répété. Il ne nomme volontairement aucun produit — le principe est la partie transposable, et la configuration est celle qu'il vaut mieux taire. Il se termine par les limites de l'arbitrage mono-machine, et par ce qui change quand le système dépasse ce cadre et que le bord passe sur des équipements dédiés.

Cloud Architecture DevSecOps