Фантазирую, как нейросети повлияют на умственный труд, работу с текстом и культуру мышления в целом.

В 2024 году мы с Никитой Чернояровым записали подкаст про нейросети. Получилось тяжеловато и путанно, поэтому я решил всё немного додумать и выразить более связно. Ожидаемо вышла простыня, зато у вашей умной читалки будет работа. Источники и пояснения смотрите в примечаниях с пижонскими сносками.

Начнём с самого важного и объёмного, а там, глядишь, и до Сократа доберёмся.

Средний уровень мастерства снизится

Если кратко, то, как и любая новая непонятная технология, нейронные сети стали «новым АйТи внутри АйТи». Бизнес подхватил волну хайпа и набирает «промпт-инженеров» после курсов с ВК, а полезные знания ещё сильнее размоет рерайтами. Неопытных людей в индустрии станет больше, отчего в среднем уровень навыка просядет.

Теперь подробнее. Мысль о падении навыков довольно избитая и спорная, поэтому я зайду издалека.

Далее идёт вольный пересказ интернета, поэтому можно смело читать только цитаты

Очевидно, что современные общедоступные нейросети на основе языковых моделей не умеют думать по-настоящему. Они не понимают смысла понятий, которыми оперируют, а знают только о силе связей между ними и угадывают следующее слово в тексте. Из-за этого у нейросетей предсказуемо плохо с суждениями о реальном мире, да и с логикой вообще ^[1].

Нейросети хороши в другом: они быстро ищут закономерности в огромных данных, чего-нибудь генерируют по аналогии или обрабатывают по заданным правилам. Нейросети научились понимать запросы на естественном языке и прилично отвечать, но всё ещё остаются автоматами — программами, которые решают описанную задачу описанным методом. Нейросети не могут творчески выходить за границы условий задачи, как человек ^[2].

Нейросети решают задачи только тем способом, которому их обучили, и не умеют учиться новым способам сами

Например, нейросеть может написать научно-популярную статью по вашим тезисам. Но сделает это она исключительно на основе своей базы связей. Эта база может быть невероятно огромна, но без функции критического анализа нейросеть не сможет найти релевантные научные исследования и сделать верные выводы. Вместо этого она соберёт ворох подходящих к тезисам цитат из популярных источников и слепит студенческий реферат.

Другой случай — описание конкретных объектов реального мира, которые нейросеть не может воспринимать напрямую и опираться на чувственный опыт. Например, описание товаров на маркетплейсах или каких-нибудь элитных квартир глазами покупателя. Без специального обучения нейросеть не догадается рассчитать время до метро по карте или превратить недостаток расположения дома в преимущество.

Этот длинный пассаж подводит нас к выводу:

Нейросетям стоит поручать рутину — трудную или нудную работу, для которой они хорошо обучены

Рутина хорошо нам знакома и не учит ничему новому. Если перекладывать на нейросеть творческие задачи, мы будем ограничены её возможностями и не всегда сможем проверить и улучшить результат. Но всё это не делает нейросети плохими или опасными. Проблема, как всегда, не в технологии, а в её применении.

Бизнес подаёт чат-ботов как невероятный прорыв и немного преувеличивает их эффективность ради роста капитализации ^[3]. В простых задачах ChatGPT действительно обеспечивает прирост качества и скорости в моменте ^[4], но в перспективе снижает количество людей, которые захотят учиться сами. Инструмент даёт быстрое решение и вознаграждение, а мозг экономит глюкозу и не мотивирует глубоко вникать.

С умственным протезом условные джуны быстро получат приемлемый результат, но могут пропустить этап простых задач и не сформировать нужные навыки мышления ^[5]

Например, начинающие писатели часто попадают в писательский блок. Если не осознать, что он чаще всего возникает от нехватки понимания, можно просто привыкнуть по любому поводу генерировать черновик нейросетью, потому что некогда, а результат ждут вчера.

Но если джун и захочет вникать, ему будет не до этого. Требования к джунам постоянно растут и усложняются, сегодня ни у кого нет времени раскачиваться на простых задачах — бизнесу нужен конвейер. Поэтому джуны вынуждены пользоваться любыми помогайками, чтобы не проиграть вайбкодерам.

Важно упомянуть и промпты:

Практика составления хитрых промптов не углубляет понимание предметной области, а развивает навык составления промптов

Похожим образом регулярное прохождение тестов на IQ повышает именно навык, а не сам IQ ^[6].

Другой аспект — упрощение знаний, которое следует из особенностей производства массового контента. Смотрите выше про научно-популярную статью. Не буду нагнетать, просто попробуйте найти в статьях по UX точное определение этого самого UX ^[7].

Знания утонут в поверхностных пересказах без источников и проверки фактов, учиться станет сложнее. Особенно если генерить учебные планы нейросетью ^[8]

Но не всё так плохо. Те, кому будет интересно, прочтут нужные книги, вникнут в суть ремесла и получат преимущество. Покупайте мой курс Главное, чтобы нашлись работодатели, которым нужна экспертиза, а не тысяча итераций дизайна в неделю.

Специалисты останутся востребованы

Бизнес может заменить специалиста чат-ботом, но чат-бот специалиста не заменит. Например, вот из чего складывается моя рутина UX-редактора:

1. Взять задачу, изучить постановку на языке аналитиков. Попросить их добавить ссылки на макеты и документацию;
2. Выяснить, что документации нет, а все макеты у дизайнера, который в отпуске;
3. Найти коллегу дизайнера, который был на проекте раньше, и через него выйти на нужный файл с макетами;
4. По косвенным признакам вычислить нужные макеты среди кучи версий без статусов и дат актуальности. Попутно получить от продакта результаты UX-исследований, которые нужны в задаче;
5. По макетам и инструкции в Справочном центре собрать модель процесса, увидеть в нём корнер-кейсы, уточнить их у продакта на звонке и передоговориться о сроках. Заодно убедить продакта вынести часть объяснений в инструкцию;
6. Посмотреть результаты исследований, понять, что они получены по другим макетам, и перенести часть выводов на сценарий из задачи;
7. Переложить продуктовый смысл на ситуацию пользователя и написать текст. Сразу в макетах, учитывая уже написанное, редполитику и словарь продукта, который сами редакторы и ведут;
8. Собрать свою версию экрана из компонентов дизайн-системы и объяснить продакту, что для неё не нужно переписывать API. Заодно рассказать, почему типографика важна и её нужно делать хорошо;
9. Пройти кросс-ревью у коллеги и выяснить, что у некоторых терминов из текста обнаружились новые значения. Поправить текст;
10. Дополнить словарь, пока не забыл. Оповестить всех, кто с ним работает по редакционному регламенту. Дописать кусочек регламента;
11. Убедить юристов в том, что мы меняем их формулировки не из прихоти художника, а с чёткими целями и по методу с научной основой;
12. Получить комментарии от продакта, придумать новое решение и переписать текст в макетах ещё раз.

Конечно, всё это можно делегировать нейросети, но всё равно потребуется кто-то, кто её обучит и проследит, чтобы она не бредила в незнакомых ситуациях. А кто сможет это сделать, если сам не разбирается?

Пользуясь случаем, просьба ко всем аналитикам, продактам и дизайнерам:

Дорогой друг! Не пиши текст в макетах нейросеткой, это только добавит всем работы: редактор ничего не поймёт и всё равно задаст тысячу вопросов, а потом всё переделает. Пиши своими словами, что должен понять и сделать пользователь на каждом шаге сценария

Обратите внимание, в списке выше собственно работы с текстом набралось три эпизода. Очевидно, один только ChatGPT мою рутину не упростит ^[9]. Нужен обучаемый ИИ-ассистент, понимающий контекст и умеющий интегрироваться с рабочими сервисами: вики, сервисом локализации, Джирой и Фигмой.

В идеале такой ассистент помогал бы мне следить за логикой изложения и единообразием терминов, вовремя обновлять словари, собирать текст по макетам в коллекции формулировок и вовремя подсвечивать отклонения от редполитики и ToV. Это сэкономило бы много времени и внимания, чтобы я, наконец, занялся какой-нибудь стратегией и исследованиями.

Умные инструменты сделают работу интереснее

Античный философ Сократ был противником популяризации письменности. Он считал, что без запоминания всех нужных знаний и обучения в диалоге греческая молодёжь утратит самостоятельность суждений. Но Сократ оказался прав не во всём — письменность освободила значительные когнитивные ресурсы и помогла мыслить глубже ^[10].

Доступные и гибкие ассистенты могут помочь нам с очередным скачком в мышлении за счёт его более эффективной организации. Сначала вы просто читаете всё подряд, потом собираете библиотеку и делаете заметки, после заводите хитрую картотеку, как у Никласа Лумана, а в итоге загружаете всё в ИИ-помощника и настраиваете его под свои задачи.

Благодаря машинному анализу накопленных знаний вдумчивый человек сможет вновь стать философом — неторопливо и глубоко размышлять на стыке дисциплин и задавать креативные вопросы, выводящие мышление за рамки привычных моделей.

Конечно, при условии, что пока появятся такие инструменты, мы не разучимся сосредотачиваться дольше 30 секунд, а на Земле не закончится электричество. Но его пока хватает, а вы дочитали до конца.

Примечания

Прошу прощения за архаичную вёрстку примечаний, но движок блога не предусматривает сноски, а дописывать его я не потяну. Поэтому переход по сноске перекидывает вас из ленты в статью.

1. Тут я слукавил для драматизма. Нейросети строят логические выводы, но не на суждениях, а на предсказательных способностях. Последние итерации показывают приличные результаты, и в индустрии нет единого мнения по этому вопросу. Смотрите отчёт Apple от 2025 года The Illusion of Thinking. А в 2023 выходила статья Санджива Ароры и Анирудха Гояла про успешный тест на генерацию осмысленного текста. ↩︎

2. Психологи считают, что творчество — это когнитивная деятельность, приводящая к новому или необычному видению проблемы или ситуации. Постоянное использование одного инструмента вырабатывает функциональную устойчивость, которая ограничивает креативность. Роберт Солсо, Когнитивная психология. 8-е изд., стр. 540 и 543. ↩︎

3. Например, Сэм Альтман в эссе о мягкой сингулярности говорит, что искусственный сверхразум появится совсем скоро, нужно только подождать. Как Метавселенную экстремиста Цукерберга и Марсианский экспресс Илона Маска (он условно рукопожатный). ↩︎

4. Статья в MIT Economics от 2023 года. Результаты исследования 444 человек показывают, что ChatGPT существенно повышает среднюю производительность работников с низкими способностями. ↩︎

5. В ходе практики эксперты учатся распознавать специфические паттерны и организуют знания с точки зрения общих принципов, а не поверхностных характеристик. Солсо, стр. 347 и 567. ↩︎

6. У меня нет прямых подтверждений именно этого факта, но есть косвенные. Во-первых, некоторые учёные не наблюдают эффект переноса. Во-вторых, исследования карт мозга показывают, что уроки музыки не обеспечивают ребёнка более качественным мозгом. Часы практики создают мозг, более подготовленный для игры на фортепиано. Ребекка Шварцлоуз, Ландшафты мозга, стр. 172. В-третьих, исследования профи по тетрису показывают, что они хорошо крутят в уме только фигуры из тетриса. Солсо, стр. 387—388. ↩︎

7. В лучшем случае вы встретите упоминание определения по ISO 9241-210, но мало кто упоминает коллекцию определений EXPRESSO. Впрочем, мне встречалось мнение, что точные определения не так уж и нужны в работе. ↩︎

8. Вполне вероятно, что нейросеть проигнорирует редко упоминаемые важные источники, например, сайт NN/g или Советы Бюро Горбунова. ↩︎

9. Но это я. Владимир Лалош как-то рассказывал, что ChatGPT ему хорошо помогает. ↩︎

10. Если Платон только записывал за Сократом, то Аристотель уже не мыслил себя без чтения. Марианна Вульф, Бесконечная история чтения, стр. 98—100 и 104—116. ↩︎

Благодарности

Никита Чернояров позвал меня на подкаст, задавал направление беседе и помог собрать всё в кучу.

Юлия Ушакова помогла свежим взглядом и острым умом.

К. Д. проверил самые важные тезисы на прочность, помог избавиться от лишнего и рассказал о нелёгкой доле современных джунов.