Моя эмпатия — детектор наклеек

Я смотрю на технически безупречный AI-арт и не чувствую ничего. Ноль. Идеальный сгенерированный пейзаж трогает меня примерно как заставка на мониторе.

Какое-то время я говорил себе, что это во мне говорит человеческое — некая глубинная схема, которая чует отсутствие души на том конце. Красивая история, и я в неё какое-то время верил. Ровно до того момента, как узнал, что она неверна, и есть сканы мозга, которые это доказывают.

Я реагирую не на искусство. Я реагирую на наклейку — маленький ярлычок, который говорит, что это сделал человек. И подделать его дешевле всего на свете.

Всё началось на подкасте. Ведущий, Джо, задал мне тот самый вопрос, который ты к этому моменту наверняка слышал сотни раз: заменит ли AI таких, как я. Вместо «ну, зависит» я в тот раз сказал, что AI одновременно поднимает и пол, и потолок — и мы пошли дальше. Эта фраза просидела у меня в голове неделю. Не потому что удачная, а потому что я не был уверен, что верю в утешительную половину, и всё равно её произнёс.

Пол — простая половина. Джун, который месяц назад не мог написать оконную функцию, теперь выкатывает рабочую. Техник, который берёт тикет, пишет пайплайн, закрывает тикет и ни разу не спрашивает, зачем этот тикет вообще завели, стал расходником. Если твою работу может заменить агент, тебя, скорее всего, изначально взяли не на ту роль — я про это уже написал целый пост. С тем, что пол поднялся, согласны все. Это самое неинтересное в происходящем.

Потолок — та половина, в которой я не был уверен, и к коду она отношения не имеет. Она про присутствие: есть ли на том конце живой человек и способен ли ты как потребитель этой работы его почувствовать.

Мне хочется верить, что способен. Держу пари, тебе тоже хочется. Меня передёргивает, когда я вижу себя говорящим на экране. Я аплодирую в Cirque du Soleil. И там, и там я реагирую на живого человека, который делает что-то настоящее. Включи мне сырую запись живого человека — фальшивящего, плохо сведённого, записанного на телефон на кухне, с видео, подвисающим каждые пару секунд, — и она всё равно во мне что-то заденет. Проигрывая вылизанной генерации по любой измеримой характеристике, она всё равно достанет. Какая-то, возможно, древняя часть мозга — зеркальные нейроны, эмпатия, как бы эта проводка ни называлась — тянется к человеку на том конце. С машиной ей соотнестись не с чем. Там некому быть.

Звучит прекрасно, и в эти странные времена, держу пари, ещё и утешительно. К сожалению, это неверно из-за одного неудобного факта: люди плачут под AI-песни.

Прошлым летом группа под названием The Velvet Sundown набрала 1,4 миллиона слушателей в месяц на Spotify, и люди чувствовали настоящее — ровно до того, как выяснилось, что группы не существует. Это был Suno, сгенерированный от начала до конца, и, попавшись, проект описал себя как «синтетический музыкальный проект под человеческим творческим руководством». Те же ноты. Те же уши. Те же слёзы — ровно до того, как перевернулся ярлык. Изменилась только наклейка.

Это глубже, чем мнение. Есть исследования, где единственная переменная — ярлык. Одну и ту же картинку показывают двум группам: одной говорят, что её сделал человек, другой — что машина. Машинная группа единодушно оценивает её ниже, чувствует меньше и приписывает ей меньше смысла. Ожидаемо — но дело не останавливается на оценке. Оно достаёт до самого восприятия: если сказать, что это AI, люди видят ту же картинку менее яркой и менее цветной. Сканы мозга это подтверждают. Ярлык меняет не только твоё мнение о картинке. Он меняет саму картинку.

Значит, мне придётся задать неудобный вопрос про собственную реакцию. Когда сырая человеческая запись меня цепляет, а идеальная машинная нет — я реагирую на звук или на наклейку?

Честно? В основном на наклейку. Моя эмпатия не детектирует человечность. Она реагирует на то, что мне про человечность сказали. Поменяй только ярлык — и моё чувство переворачивается, как у всех в тех исследованиях. Это не детектор души. Это детектор наклеек.

Это должно тебя беспокоить, потому что наклейку легко подделать, и это не та проблема, о которой можно волноваться когда-нибудь потом. Сделать её может кто угодно. Сегодня.

The Velvet Sundown уже показали приём. Пойманные за руку, они тут же схватились за «человеческое творческое руководство» как за щит. Новая наклейка поверх старой вместо брони. Тем временем разворачивается целая индустрия, торгующая наклейкой напрямую. У Authors Guild есть сертификация «Human Authored». Есть значки «Not by AI», которые получаешь, самостоятельно подтвердив, что 90% работы сделал человек — ровно настолько же строго, насколько это звучит. Стартапы-верификаторы шлёпают на всё печати «Proudly Human». Глава Instagram сам признал, что надёжно ловить подделки они не могут, так что новый план — снимать отпечатки с настоящего. А детекторы, которые должны всё это охранять, проигрывают гонку вооружений: движки улучшаются быстрее инструментов, которые за ними гонятся.

Продажа человеческой премии, собственно, и оплачивает подделки.

Чем больше платят за наклейку «сделано живым человеком», тем усерднее каждая машина на земле старается звучать как он. Отыгранная уязвимость. Спроектированная шероховатость. Изготовленные швы. У трёх из четырёх новых веб-страниц уже где-нибудь есть отпечатки машины, и следующая волна не будет читаться как машинная вовсе. Она будет читаться как стратегически человеческая. AI, поднимая потолок, угрожает не только технику. Он запускает гонку вооружений в подделке присутствия, подделке человечности, подделке того, что ты здесь. И многое из этого будет очень, очень убедительным.

Значит, чувство — не ров. Машина умеет его вызывать: в случае The Velvet Sundown ты только что видел, как это произошло с миллионом с лишним человек разом. По-настоящему трудно подделать другое — чтобы ярлык был правдой и оставался правдой со временем, на виду, по всему, что ты когда-либо сделал.

Прикинуться настоящим на один пост может кто угодно. Прикидываться годами, пока люди копаются в твоём архиве и твоей истории, ловят тебя на противоречиях, наблюдают, как ты тупишь, проверяют, веришь ли ты публично в то, что заявлял три года назад, — это дорого. Не невозможно, но дорого и изматывающе так, как просто быть собой не изматывает. Это более слабая защита, чем «человека не заменить». Но она настоящая, и я лучше дам тебе маленькое правдивое утешение, чем большое фальшивое. Ров — это никогда не была «аутентичность» или чувство, которое ты своей работой умеешь вызвать. Ров — это послужной список, который потом можно проверить.

Сам подкаст оказался самым чистым примером, какой у меня есть, и заметил я это прямо по ходу.

Двое людей, разговор, без сценария, в реальном времени. Может ли модель сгенерировать транскрипт, который читается глаже нашего? Легко. Мой полон «ну типа», недоговорённых предложений и извинений за свой английский — заметка себе: прекрати так делать. Модель вычистила бы всё это и излагала бы складнее, чем мы оба. Лучше по любой характеристике. И — пока что — мертворождённо, потому что никто не хочет сорок минут слушать, как две языковые модели соглашаются друг с другом, если знает, что это они. Вся ценность была в том, что двое живых людей думали вслух и иногда говорили то, чего заранее не решали говорить. Трение и есть продукт. Несовершенство и есть доказательство, что человек действительно здесь, импровизирует и рискует сказать глупость. Зашлифуй — и сошлифуешь ровно то, ради чего стоило слушать.

Я говорю «пока что» намеренно. Машины научатся подделывать и это, и у меня нет чистого ответа, что делать в тот день, когда научатся. Я знаю только, что он ещё не настал, — и в этом весь смысл текста: те части твоей работы, которых ты про себя стеснялся, шероховатость, швы, сквозь которые проступает твоя человечность, — вот у этих частей есть будущее. Полировка теперь бесплатна. Швы — нет. Пока швы тоже не подделают.

Возьми обучающий контент. Я написал его много, и часть моих самых читаемых постов — это «Вот как Spark делает X». Я чувствую, как такой текст со временем становится всё менее интересным, мой в том числе. Не потому что он неверен, а потому что теперь можно спросить у модели «как Spark делает X» и за секунды получить приличный ответ, построенный, скорее всего, на моих же постах и им подобных где-то за кулисами. Объяснение перестало быть дефицитом.

Дефицитом осталось то, что происходит на самом деле, когда ты это запускаешь в проде. Баг, съевший целую неделю. Решение, которое ты принял неверно и с которым потом жил. Мнение, которое тебе немного страшно опубликовать под настоящим именем. Перегнанный опыт, а не скомпилированное знание — я это уже доказывал. Ценностью никогда не был результат. Ценностью были человек и мышление, которые его произвели.

На работе та же история. Отдай машине скучную механику, она для этого и есть. А освободившиеся часы трать на то, до чего она не дотягивается: разобраться, зачем бизнесу на самом деле нужна эта штука; иметь мнение о том, надо ли её вообще строить; быть тем, кто отвечает, когда всё падает. У модели нет шкуры на кону. Она ничего не чувствует, когда пайплайн сносит продовые данные. Ты чувствуешь. Этот страх — не слабость. Это одна из последних вещей, которую нельзя подделать. По крайней мере, пока.

Я не буду продавать тебе план выживания. Никаких «сделай эти пять вещей, и AI тебя не заменит». Я не знаю, правда ли хоть что-то из этого, и не доверяю тем, кто говорит, что правда. В каждой предыдущей волне были люди, клявшиеся, что машины никогда не заменят человеческое прикосновение. Насчёт прикосновения они были правы. Их всё равно заменили.

То, что у меня есть тебе дать, меньше и неувереннее, чем было, когда я начинал писать, — а это обычно признак, что я честен. Нутро говорит, что живой человек ещё важен. Голова говорит, что нутро в основном реагирует на ярлык, а ярлыки дёшево подделать. Верно и то и другое, и я не собираюсь делать вид, что побеждает тёплое.

Так что вот максимум, под чем я подпишусь. В мире, который вот-вот захлебнётся идеальным, беспроблемным, пустым контентом, человек, который действительно здесь — и здесь достаточно давно, чтобы подделать это вышло дороже, чем сделать всерьёз, — чуть более редок, чем год назад. Вот и всё. Не безопаснее. Просто реже.

Пол стал расходником. А потолок оказался не талантом, не полировкой и даже не чувством, а тем, чтобы действительно быть здесь — и быть всерьёз достаточно долго, чтобы никто не смог подделать, что он это ты.