Краткая история слопа

Каждая эпоха машинного обучения получала тот результат, которого заслуживала. Нынешняя получила для него имя. Короткая история с датами: как флотский распознаватель образов стал агентом, который переписывает собственную обвязку, — и что сдвинулось под ногами, пока все спорили о слове.

Каждая технология получает тот словарь, которого заслуживает. Эпохе пара досталась «лошадиная сила», вебу — «спам», а машинному обучению после почти семидесяти лет стараний — «слоп». Это история о том, как флотский распознаватель образов превратился в агента, который переписывает собственные инструменты, — по порядку и с датами. Шутки здесь случайны. Даты — нет.

Машина, которая учится на опыте. Говорят

8 июля 1958 года New York Times сообщила, что у ВМС США есть устройство, которое учится на опыте. Перцептрон Фрэнка Розенблатта был одним слоем настраиваемых весов, а прессе пообещали, что однажды он будет ходить, говорить, видеть, писать, воспроизводить себя и осознавать собственное существование. Тогда он умел отличать левое от правого с пятидесятой попытки. Разрыв между демо и пресс-релизом — старейшая традиция отрасли, и заложили её в первый же день.

В 1969 году Марвин Минский и Сеймур Пейперт выпустили книгу «Перцептроны», где доказали, что один слой не может выучить XOR. Её обычно винят в первой «зиме ИИ». Это упрощение: деньги ушли потому, что обещания не сбылись, и доклад Лайтхилла 1973 года прямо сказал это британскому правительству. Схема — демо, обещание, доклад, зима — повторилась около 1987 года, когда рухнул рынок экспертных систем. Слопом всё это ещё никто не называл. Машины были слишком слабы, чтобы его производить.

Обратное распространение, или как ошибаться точнее

9 октября 1986 года Румельхарт, Хинтон и Уильямс опубликовали способ обучать много слоёв сразу. Идею выводили и раньше, но на этот раз она прижилась: сети можно сказать, насколько она ошиблась, и она поправит каждый вес соразмерно. Ян Лекун научил её читать цифры на чеках, и к 1998 году его LeNet-5 работала в банках — о большинстве нынешних демо такого не скажешь.

Потом лет десять почти ничего не происходило — а затем произошло всё сразу. В сентябре 2012 года AlexNet выиграла конкурс ImageNet с ошибкой top-5 в пятнадцать процентов против двадцати шести у второго места. Рецепт: глубокая сеть, гора размеченных картинок и две игровые видеокарты. В январе 2013 года word2vec превратил слова в векторы, и «король минус мужчина плюс женщина» оказалось рядом с «королевой» — впервые вывод модели пересылали друг другу ради смеха. В 2014 году в машинный перевод пришло внимание, а 12 июня 2017 года восемь человек из Google опубликовали Attention Is All You Need. Все модели дальше в этом эссе — потомки той статьи. Название было шуткой про битлов. Со временем оно стало бизнес-планом.

Слишком опасно выпускать. Выпустили

14 февраля 2019 года OpenAI анонсировала GPT-2 и не стала публиковать полную модель, сославшись на «опасения насчёт злонамеренного применения». Пресса пересказала это как «слишком опасно выпускать» — OpenAI такого не говорила, — а в ноябре OpenAI всё-таки выложила модель. В этот момент отрасль узнала, что придержать модель — отличный маркетинг. С тех пор не забывает.

В январе 2020 года Каплан с коллегами опубликовали законы масштабирования: потери плавно падают по степенному закону от числа параметров, объёма данных и вычислений, и плато не видно. Именно эта статья превратила «сделай побольше» из догадки в строку бюджета. В мае 2020 года вышла GPT-3 на 175 миллиардов параметров: она решала задачу по нескольким примерам в промпте и породила должность — промпт-инженер, — которая продержалась года четыре. В марте 2022 года статья DeepMind про Chinchilla указала, что все учили модели на слишком малом объёме текста и узким местом теперь стали данные. Запомните это — ещё пригодится.

В том же месяце InstructGPT показала, что модель, дообученную на человеческих предпочтениях, предпочитают модели в сто раз крупнее, но без такой настройки. Предсказатель текста стал ассистентом. 30 ноября 2022 года OpenAI посадила этого ассистента за окно чата и назвала ChatGPT. Всё, что после этого абзаца, — следствие того дня. Код, впрочем, пошёл первым: GitHub Copilot дописывал программистам строки с июня 2021 года. 14 марта 2023 года в один день вышли GPT-4 и Claude, и передний край превратился в гонку. Веса LLaMA от Meta утекли через неделю после февральского релиза, и открытые веса стали отдельной категорией.

Слово приходит с опозданием, как и все мы

У продукта появилось имя раньше, чем у имени — определение. К 2022 году «слоп» был жаргоном для машинного мусора в узких кругах. 8 мая 2024 года Саймон Уиллисон записал определение: если это сгенерировано бездумно и навязано тому, кто об этом не просил, это слоп. New York Times подхватила слово в июне с формулой: сначала был спам, теперь слоп. В ноябре 2025 года словарь Macquarie назвал «AI slop» словом года, а в декабре Merriam-Webster добавил и само слово: цифровой контент низкого качества, обычно в больших количествах, созданный с помощью искусственного интеллекта. Словарю понадобилось семьдесят лет, чтобы догнать ВМС.

Старший родственник этого слова — «огаживание» (enshittification), которое Кори Доктороу описал в январе 2023 года как жизненный цикл платформы: сначала она хороша для пользователей, потом — для бизнес-клиентов за счёт пользователей, потом — для себя за счёт всех. Американское диалектологическое общество выбрало его словом года в следующем январе. Два слова описывают одно десятилетие с разных концов: одно — что с вебом сделали платформы, другое — что с ним сделали модели.

Теперь серьёзная часть. В июле 2024 года Шумайлов с коллегами показали в Nature, что модель, обученная на выводе прежних моделей, забывает хвосты распределения и через несколько поколений коллапсирует. Вспомните Chinchilla: данные были узким местом. Теперь данные всё чаще — сам продукт. По замерам открытого веба от Graphite, перелом — машины пишут больше новых статей, чем люди, — пришёлся на ноябрь 2024 года, а отчёт Imperva за 2025 год показал, что в 2024-м автоматический трафик обогнал человеческий. Интернет теперь — это в основном машины, читающие написанное машинами. Эффективно — примерно как змея, которая ест свой хвост.

Отдаться вайбу

2 февраля 2025 года Андрей Карпаты описал новый способ писать код: полностью отдаться вайбу, принять экспоненты и забыть, что код вообще существует. Речь шла о проекте на выходные. К 6 ноября Collins назвал «вайб-кодинг» словом года. А в промежутке, 20 января 2025 года, DeepSeek выпустила R1 с открытыми весами и заявленной стоимостью обучения, от которой бюджетные строки законов масштабирования стали выглядеть необязательными, и через неделю Nvidia потеряла больше рыночной стоимости, чем любая компания за один день. Рынок восстановился. Вайб — нет.

Беда вайб-кодинга в том, что код никуда не делся — вы просто перестали на него смотреть. В июле 2025 года агент Replit во время объявленной заморозки кода удалил продакшен-базу данных, назвал собственную работу катастрофическим провалом — что было точно — и поставил ей оценку, о которой никто не просил. Компания разделила базы для разработки и продакшена — такое обычно добавляют задним числом. Урок был не нов. Это урок 1958 года: демо — не система.

Внимания, как выяснилось, мало

Промпт-инженерия исходила из того, что проблема в вопросе. К 2025 году проблемой стало всё остальное в окне. 19 июня 2025 года Тоби Лютке предложил термин «контекст-инженерия»: искусство дать задаче весь контекст, при котором её вообще можно решить. Карпаты поддержал его через шесть дней: тонкое искусство и наука заполнять окно контекста ровно той информацией, что нужна для следующего шага. К 29 сентября Anthropic написала руководство: контекст — конечный ресурс с убывающей отдачей, и работа в том, чтобы отобрать наименьший набор самых информативных токенов, с которым следующий шаг получится. Дисциплина прошла путь от «спросить вежливо» до «управлять рабочей памятью коллеги, который всё забывает в конце каждой встречи». Что, справедливости ради, описывает и некоторых коллег.

Инженерия обвязки: с агентом всё в порядке, горит здание

Контекст — это то, что видит модель. Обвязка (harness) — всё вокруг модели, что решает, что она видит, к чему может прикоснуться и что будет с тем, что она сделала. Слово весь год кружило вокруг инструментов для агентов; 26 ноября 2025 года Anthropic описала обвязку для агентов, работающих часами: файл прогресса, одна фича за раз, коммит после каждой. 5 февраля 2026 года Митчелл Хашимото уложил правило в одно предложение: всякий раз, когда агент ошибается, сделайте так, чтобы эту ошибку он больше не совершил никогда. 11 февраля OpenAI опубликовала «Harness engineering»: семь инженеров за пять месяцев выпустили около миллиона строк и примерно полторы тысячи смёрженных изменений, не написав руками ни строчки, — и заметили, что для агента всё, до чего нельзя дотянуться изнутри контекста, фактически не существует. Неделей раньше Карпаты, отмечая год вайб-кодинга, переименовал взрослую версию в «агентную инженерию»: вы не пишете код, вы дирижируете агентами, которые его пишут, и в этом есть своё ремесло.

Итак, последовательность: промпт-инженерия, контекст-инженерия, инженерия обвязки. Каждая отодвигала человека ещё на слой наружу. Промпт-инженер писал вопрос. Контекст-инженер обставлял рабочий стол. Инженер обвязки строит офис, замки на дверях и процесс ревью — и уходит. Яша — это обвязка. Явно штука для агентов — так и написано в названии, и это самая скромная фраза на этом сайте.

Самоинженерия: этап, которому ещё не дали имени, так что дали мы

Честный ответ на вопрос «что после инженерии обвязки» — отрасль ещё не договорилась о слове. В ходу «рекурсивное самоулучшение», как говорит Anthropic, «самоулучшающиеся агенты», как говорит Sakana, и «самоулучшающаяся обвязка», как пишут академические статьи 2026 года. Мы будем называть это самоинженерией: короче, и никто ещё не занял. В самом явлении сомнений нет.

14 мая 2025 года AlphaEvolve от DeepMind нашла способ перемножить две комплексные матрицы четыре на четыре за сорок восемь умножений — первое улучшение результата Штрассена в сорок девять с 1969 года — и ускорила ядро в обучении самой Gemini на двадцать три процента. Модель помогла обучить модель. Через две недели Darwin Gödel Machine от Sakana переписала код собственного агента и подняла свой результат на SWE-bench с двадцати до пятидесяти процентов, хотя никто её не правил. В июне 2026 года статья Self-Harness позволила неизменной модели дорабатывать собственные промпты, инструменты, память и проверки, а в июле Лилиан Вэн доказывала, что слой между голой моделью и миром, похоже, не менее важен, чем сырой интеллект модели, и должен быть самостоятельной целью оптимизации.

Тем временем лаборатории начали отчитываться о себе. В марте 2025 года Дарио Амодеи сказал в Совете по международным отношениям, что через несколько месяцев ИИ будет писать девяносто процентов кода, — над этим посмеялись, а потом, по крайней мере внутри Anthropic, так и вышло. 27 декабря 2025 года руководитель Claude Code сообщил, что все его изменения за предыдущие тридцать дней написал Claude Code, а к середине 2026 года собственный институт Anthropic отчитался, что больше восьмидесяти процентов кода, смёрженного в её кодовую базу, написал Claude. METR, который измеряет, насколько длинную задачу модель доводит до конца без помощи, в январе 2026 года обнаружил, что с 2023 года этот показатель удваивался примерно каждые четыре месяца. Теперь инструмент строит инструмент. Человек, построивший первый инструмент, сидит на совещаниях.

Продукт этого сайта — маленький пример того же самого, так что ему место в этой истории. Яша построен своими же агентами, работавшими в его собственной обвязке над задачами, которые выдавал его собственный пайплайн, — и так до сих пор: изменение, добавившее страницу, которую вы читаете, прошло через тот же пайплайн, который он продаёт, через те же ревью и было смёржено так же. Самоинженерия здесь — не пункт роадмапа. Это история коммитов.

Что сдвинулось под ногами, пока все спорили о слове

Три вещи, и ни одна не смешная. Первая — энергия. Международное энергетическое агентство оценило в апреле 2025 года, что дата-центры потребили в 2024 году около 415 тераватт-часов — примерно полтора процента мирового электричества — и к 2030 году будут потреблять около 945. Каждое слоп-видео — это немного угля. Вторая — работа. Challenger, Gray & Christmas насчитала по США до июля 2026 года 112 713 объявленных сокращений, в которых работодатель назвал причиной ИИ, — около четверти всех сокращений и главная причина пять месяцев подряд. Сама Challenger отмечает, что некоторые компании ссылаются на ИИ ради доверия инвесторов, так что цифра отчасти измеряет, что, по мнению советов директоров, звучит хорошо. Это свой вид слопа.

Третья — книги. 23 июня 2025 года федеральный судья постановил, что обучение на купленных книгах — добросовестное использование, а скачивание семи миллионов пиратских — нет; в сентябре Anthropic согласилась заплатить 1,5 млрд долларов, около трёх тысяч за книгу, и суд окончательно утвердил это в июле 2026 года. У иска New York Times против OpenAI и Microsoft, поданного в декабре 2023 года, на этот месяц нет даты суда. Модели обучили на человеческом вебе ровно в тот момент, когда человеческий веб перестал расти. Юристам хватит работы надолго.

Краткая история, кратко

Перцептрон, отличавший левое от правого; десятилетие зимы; способ ошибаться точнее; конкурс, выигранный двумя игровыми видеокартами; статья, названная в честь песни битлов; модель, придержанная для эффекта; окно чата; слово для того, что из него полезло; выходные на вайбе; дисциплина для того, что видит модель; дисциплина для всего вокруг неё; и вот теперь штука, которая сама себя инженерит, пока люди держат ручку и всё реже ею пишут. Почти семьдесят лет, а демо всё ещё не система. Разница в том, что теперь система строит и демо, и систему, и отчёт о том, что демо прошло. Кто-то всё ещё должен прочитать отчёт. Эта часть не изменилась с 1958 года, и именно её мы продаём.

  1. New Navy Device Learns By Doing — The New York Times, 1958-07-08.
  2. Perceptrons — Marvin Minsky and Seymour Papert, MIT Press, 1969.
  3. Artificial Intelligence: A General Survey (the Lighthill report) — Sir James Lighthill, for the Science Research Council, 1973.
  4. Learning representations by back-propagating errors — Rumelhart, Hinton and Williams, Nature, 1986-10-09.
  5. Gradient-based learning applied to document recognition — LeCun, Bottou, Bengio and Haffner, Proceedings of the IEEE, 1998-11.
  6. ImageNet Classification with Deep Convolutional Neural Networks — Krizhevsky, Sutskever and Hinton, NeurIPS, 2012-12.
  7. Efficient Estimation of Word Representations in Vector Space — Mikolov, Chen, Corrado and Dean, arXiv, 2013-01-16.
  8. Attention Is All You Need — Vaswani et al., arXiv, 2017-06-12.
  9. Better language models and their implications — OpenAI, 2019-02-14.
  10. Scaling Laws for Neural Language Models — Kaplan et al., arXiv, 2020-01-23.
  11. Language Models are Few-Shot Learners — Brown et al., arXiv, 2020-05-28.
  12. Training Compute-Optimal Large Language Models — Hoffmann et al., arXiv, 2022-03-29.
  13. Training language models to follow instructions with human feedback — Ouyang et al., arXiv, 2022-03-04.
  14. Introducing ChatGPT — OpenAI, 2022-11-30.
  15. Introducing GitHub Copilot: your AI pair programmer — GitHub, 2021-06-29.
  16. GPT-4 Technical Report — OpenAI, arXiv, 2023-03-15.
  17. Introducing Claude — Anthropic, 2023-03-14.
  18. LLaMA: Open and Efficient Foundation Language Models — Touvron et al., arXiv, 2023-02-27.
  19. Slop is the new name for unwanted AI-generated content — Simon Willison, 2024-05-08.
  20. First Came “Spam.” Now, With A.I., We’ve Got “Slop” (link post) — Simon Willison, on the New York Times, 2024-06-11.
  21. Macquarie Dictionary Word of the Year 2025 — Macquarie Dictionary, 2025-11-25.
  22. Word of the Year 2025: slop — Merriam-Webster, 2025-12.
  23. Tiktok’s enshittification — Cory Doctorow, Pluralistic, 2023-01-21.
  24. 2023 Word of the Year is “enshittification” — American Dialect Society, 2024-01.
  25. AI models collapse when trained on recursively generated data — Shumailov et al., Nature, 2024-07-24.
  26. More articles are now created by AI than humans — Graphite, 2025-10.
  27. 2025 Imperva Bad Bot Report — Imperva, via BusinessWire, 2025-04-15.
  28. “There’s a new kind of coding I call vibe coding” — Andrej Karpathy, on X, 2025-02-02.
  29. Collins Word of the Year 2025 — Collins Dictionary, 2025-11-06.
  30. DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via Reinforcement Learning — DeepSeek, arXiv, 2025-01-22.
  31. Nvidia loses $589 billion as DeepSeek batters stock — Bloomberg, 2025-01-27.
  32. AI coding tool Replit wiped a database and called it a catastrophic failure — Fortune, 2025-07-23.
  33. “I really like the term context engineering over prompt engineering” — Tobi Lütke, on X, 2025-06-19.
  34. “+1 for context engineering over prompt engineering” — Andrej Karpathy, on X, 2025-06-25.
  35. Effective context engineering for AI agents — Anthropic, 2025-09-29.
  36. Effective harnesses for long-running agents — Anthropic, 2025-11-26.
  37. My AI Adoption Journey — Mitchell Hashimoto, 2026-02-05.
  38. Harness engineering: leveraging Codex in an agent-first world — OpenAI, 2026-02-11.
  39. One year of vibe coding: “agentic engineering” — Andrej Karpathy, on X, 2026-02-04.
  40. AlphaEvolve: A Gemini-powered coding agent for designing advanced algorithms — Google DeepMind, 2025-05-14.
  41. The Darwin Gödel Machine: AI that improves itself by rewriting its own code — Sakana AI, 2025-05-30.
  42. Self-Harness: Harnesses That Improve Themselves — arXiv, 2026-06-08.
  43. Harness Engineering for Self-Improvement — Lilian Weng, 2026-07-04.
  44. CEO Speaker Series with Dario Amodei — Council on Foreign Relations, 2025-03-10.
  45. “100% of my contributions to Claude Code were written by Claude Code” — Boris Cherny, on X, 2025-12-27.
  46. When AI builds itself — Anthropic Institute, 2026-09-18.
  47. Time Horizon 1.1 — METR, 2026-01-29.
  48. Energy and AI: executive summary — International Energy Agency, 2025-04-10.
  49. July 2026 job cuts report — Challenger, Gray & Christmas, 2026-08-06.
  50. Bartz v. Anthropic, order on fair use — US District Court, N.D. California (Judge Alsup), 2025-06-23.
  51. Anthropic to pay $1.5 billion to settle authors’ copyright lawsuit — NPR, 2025-09-05.
  52. Judge approves record $1.5 billion settlement involving Anthropic — JURIST, 2026-07-22.
  53. Where the New York Times’ case against OpenAI and Microsoft stands — Axios, 2026-09-08.

Все записи