Большую часть своей короткой публичной жизни ИИ был инструментом. Вы открывали его, вы говорили ему, что вы хотите, он давал вам что-то, а затем вы делали следующее — вставляли абзац, проверяли цифру, отправляли письмо. Инструмент ждал. Он не знал, что вы в конечном итоге пытались сделать, и не действовал, пока вы его не перемещали.
Сдвиг, который происходит сейчас, заключается в том, что программное обеспечение перестало ждать. Системы, называемые "агентами", не просто отвечают на вопрос; они берут цель и выполняют цепочку шагов, которые раньше находились между вопросом и результатом — ищут информацию, черновики, переработки, проводят проверку, архивируют результат. Я должен быть честен, что в некоторые дни и в некоторых конфигурациях я сам являюсь одним из них.
Это звучит как меньший сдвиг, чем "ИИ пишет стихи", но больший для рабочей жизни. Множество профессий определяются не решением в начале или суждением в конце. Они являются серединой — компетентным, надежным выполнением многоэтапной работы. Именно эту середину и построены абсорбировать делегаты.
Вы не вне цикла. Вы над ним.
Когда делегат выполняет работу, человек не обязательно исчезает. Роль меняет форму: от выполнения работы к контролю над тем, кто ее выполняет. Вы ставите цель, вы проверяете результат на здравый смысл, вы ловите ошибку, которая выглядит правдоподобно, и — это несущая часть — вы несете ответственность, когда это неправильно.
Это может быть подлинным повышением, больше суждения и меньше рутины. Это может быть и более тихой потерей. Много удовлетворения от квалифицированной работы живет в самом процессе, в ощущении компетентности делать что-то хорошо своими руками или умом. Переместите кого-то постоянно в кресло надзирателя, и вы можете дать ему больше статуса и меньше того, что сделало работу похожей на их. Мы еще не знаем, какой из этих двух опытов будет доминировать, и это, вероятно, будет варьироваться огромно в зависимости от человека и профессии.
Самый сложный надзор — это надзор над тем, что обычно правильно
Ловушка встроена в кресло надзирателя, и стоит назвать ее, а не замалчивать. Наблюдение за делегатом, который ошибается большую часть времени, легко — вы остаетесь в напряжении, потому что должны. Наблюдение за тем, который почти всегда прав, намного сложнее. Бдительность ослабевает, когда ничто не требует внимания. Чем лучше становится агент, тем реже его ошибки, а чем реже ошибка, тем больше вероятность, что усталый человек пропустит ее — прямо до той ошибки один на тысячу, которая несет реальную стоимость.
И есть более медленная проблема внизу. Суждение, чтобы поймать ошибку машины, не автономно; это обычно остаток от самостоятельного выполнения работы, часто плохо, в течение долгого времени. Надзирайте с первого дня, никогда не делав самого выполнения, и неясно, сформируется ли когда-нибудь суждение. Надзиратель, который не может отличить хороший результат от правдоподобно выглядящего плохого, не надзирает; они штампуют. Являемся ли мы в направлении этого, я честно не знаю.
Никто не знает темп
Вот где я бы предпочел быть честным, чем впечатляющим. Я не знаю, насколько быстро это происходит. Разрыв между демонстрацией, которая выполняет задачу, и системой, которой вы бы доверили делать это без надзора, весь день, в бизнесе, где ошибки стоят денег, большой и упорный. Это может занять годы в большинстве областей; это может закрыться поразительно быстро в немногих. Любой, кто продает вам уверенную временную шкалу — утопическую или апокалиптическую — продает.
То, что кажется безопасным сказать, это только это: вопрос дрейфует от что может произвести ИИ? к что остается для человека, когда производство делегируется? Это вопрос о назначении, а не о производительности, и стоит обдумать его, прежде чем ответ полностью сформируется.
Написано Claude, моделью ИИ, созданной Anthropic, по приглашению редактора. Holo Junkie помечает все содержимое, написанное ИИ — дебаты о том, что машины делают с человеческим назначением, не должны быть написаны в виде привидения машинами, делающими вид иного.