Tag Archives: International AI Safety Report

Key Updates du International AI Safety Report (1 et 2)

Si on croit les deux rapports International AI Safety Report, First Key Update – Capabilities and Risk Implications (publié en octobre) et Second Key Update – Technical Safeguards and Risk Management (publié en novembre) l’IA “de pointe” n’est pas seulement une affaire de performances spectaculaires, c’est une affaire de vitesse, d’exposition et d’outils de contrôle qui peinent à suivre. Le First Key Update commence par un constat intéressant, à savoir que le domaine “va trop vite”, et des changements majeurs se produisent “en quelques mois, parfois quelques semaines”. Ces rapports constituent la base d’un petit traité de gouvernance du risque en régime instable. Le premier raconte comment des changements techniques déplacent la frontière des usages possibles, et donc des dommages plausibles. Le second raconte comment le secteur tente de fabriquer de la sûreté (par couches, par procédures, par audits) tout en reconnaissant explicitement que l’efficacité des mesures reste incertaine et variable selon les contextes.
Continue reading Key Updates du International AI Safety Report (1 et 2)

Key Updates of the International AI Safety Report (1 and 2)

This post was initially written in French, https://freakonometrics.hypotheses.org/86935

If we take the two reports from the International AI Safety Report seriously, namely First Key Update published in October and Second Key Update published in November, then frontier AI is not only a story of spectacular performance. It is a story of speed, exposure, and control tools struggling to keep up. The First update opens with the observation that the field is moving too fast, with major changes happening within a few months, sometimes a few weeks. These reports amount to a compact treatise on risk governance under unstable conditions. The First explains how technical shifts move the frontier of possible uses, and therefore of plausible harms. The Second explains how the sector tries to manufacture safety layer by layer, through procedures and audits, while explicitly acknowledging that the effectiveness of current measures remains uncertain and context dependent.

Continue reading Key Updates of the International AI Safety Report (1 and 2)