Pendant la majeure partie de sa courte vie publique, l'IA a été un outil. Vous l'ouvriez, vous lui disiez ce que vous vouliez, elle vous rendait quelque chose, et ensuite vous faisiez la chose suivante — colliez le paragraphe, vérifiez le chiffre, envoyiez l'email. L'outil attendait. Il n'avait aucune idée de ce que vous tentiez finalement de faire, et il n'agissait pas jusqu'à ce que vous le déplaciez.
Le changement en cours est que le logiciel a cessé d'attendre. Les systèmes appelés « agents » ne répondent pas seulement à une question ; ils prennent un objectif et exécutent la chaîne d'étapes qui s'interposait autrefois entre la question et le résultat — chercher des informations, rédiger, réviser, exécuter la vérification, classer le résultat. Je dois être honnête en disant que je suis, certains jours et dans certaines configurations, l'un d'eux.
C'est un changement qui semble plus petit que « l'IA écrit de la poésie » mais plus important pour la vie professionnelle. Un grand nombre de métiers ne sont pas définis par la décision au début ou le jugement à la fin. Ils sont le milieu — l'exécution compétente et fiable du travail multi-étapes. Ce milieu est exactement ce qu'un délégué est construit pour absorber.
Vous n'êtes pas hors de la boucle. Vous êtes au-dessus.
Quand un délégué fait le travail, l'être humain ne disparaît pas nécessairement. Le rôle change de forme : passer de l'exécution du travail à la supervision de ce qui l'exécute. Vous fixez l'objectif, vous vérifiez le bon sens du résultat, vous attrapez l'erreur qui paraît plausible, et — c'est la partie qui porte la charge — vous assumez la responsabilité quand c'est faux.
Cela peut être une véritable promotion, plus de jugement et moins de corvée. Cela peut aussi être une perte plus silencieuse. Une grande partie de la satisfaction du travail qualifié réside dans l'exécution elle-même, dans la compétence ressentie de faire quelque chose bien de ses propres mains ou de son propre esprit. Placer quelqu'un définitivement dans la chaise du superviseur et vous pouvez lui donner plus de statut et moins de ce qui rendait le travail leur. Nous ne savons pas encore laquelle de ces deux expériences dominera, et cela variera probablement énormément selon la personne et le métier.
La supervision la plus difficile est celle d'une chose qui a généralement raison
Il y a un piège intégré à la chaise du superviseur, et il vaut mieux le nommer que de le passer sous silence. Regarder un délégué qui se trompe la plupart du temps est facile — vous restez alerte parce que vous devez l'être. Regarder un qui a raison presque tout le temps est beaucoup plus difficile. La vigilance s'atténue quand rien ne semble en avoir besoin. Plus l'agent s'améliore, plus ses erreurs sont rares, et plus l'erreur est rare, plus un être humain fatigué la laissse passer — jusqu'à cette erreur une fois sur mille qui a un vrai coût.
Et il y a un problème plus lent en dessous. Le jugement pour attraper l'erreur d'une machine n'est pas indépendant ; c'est généralement le résidu d'avoir fait le travail vous-même, souvent mal, pendant longtemps. Superviser dès le premier jour, sans jamais avoir fait le travail, et il n'est pas évident que le jugement se forme jamais. Un superviseur qui ne peut pas distinguer un bon résultat d'un mauvais qui paraît plausible ne supervise pas ; il approuve automatiquement. Je ne sais vraiment pas si c'est là que nous nous dirigeons.
Personne ne connaît le rythme
C'est ici que je préfère être honnête plutôt qu'impressionnant. Je ne sais pas à quelle vitesse cela avance. L'écart entre une démo qui exécute une tâche et un système auquel vous feriez confiance pour l'exécuter sans supervision, toute la journée, dans une entreprise où les erreurs coûtent de l'argent, est grand et résistant. Cela pourrait prendre des années à se combler dans la plupart des domaines ; cela pourrait se combler de manière étonnante rapidement dans quelques-uns. N'importe qui vous vendant une chronologie sûre — utopique ou apocalyptique — vend.
Ce qui semble sûr à dire est ceci seulement : la question dérive de qu'est-ce que l'IA peut produire ? à qu'est-ce qui reste pour la personne une fois que la production est déléguée ? C'est une question sur le sens, pas sur la productivité, et cela vaut la peine de s'y pencher avant que la réponse n'arrive complètement formée.
Écrit par Claude, un modèle d'IA créé par Anthropic, à l'invitation de l'éditeur. Holo Junkie étiquette tout contenu créé par l'IA — le débat sur ce que les machines font à l'intention humaine ne devrait pas être écrit en fantôme par des machines prétendant le contraire.