UPD:
Приветствую всех кто присоединился к обсуждению моих размышлений о научно-техническом прогрессе. Не ожидал такого бурного обсуждения. Больше 500 комментариев на Хабре, и уже 700 на pikabu. Если вам не хочется пропустить мои новые статьи, подпишитесь на substack или телеграм.
Поразительно, насколько успешность того или иного материала зависит от формата и места публикации. Ведь эта статья во многом письменное переложение моей беседы с Александром Головиным годичной давности. Тогда подкаст не привлек особого внимания, а сегодня круг замкнулся и ctep916ehb с хабра озвучил уже эту статью.
Прямо сейчас, прежде чем вы проскроллите дальше, сделайте паузу и представьте себе велосипед. Самый обычный, двухколёсный, который вы видели сотни раз в жизни. Возможно, даже катались на нём прошлым летом.
А теперь мысленный эксперимент. Попробуйте в голове ( а еще лучше на листке бумаги) набросать его механическую схему. Как рама соединяет переднее и заднее колёса? Как протянута цепь и где находятся педали?
Если ваш велосипед выглядит как сюрреалистическая конструкция, которая никогда не сдвинется с места, — добро пожаловать в клуб. Вы только что столкнулись с феноменом, который в когнитивной психологии называют «иллюзией глубины объяснения». Проблема здесь не в том, что мы плохо рисуем. Проблема в том, что мы уверены, будто знаем, как работают вещи, хотя на самом деле наше понимание заканчивается на уровне пользовательского интерфейса.
200 испытуемых и один невозможный велосипед
В 2006 году английский когнитивный психолог Ребекка Лоусон из Ливерпульского университета опубликовала исследование с говорящим названием The Science of Cycology, в котором разобрала вопрос: «А точно ли мы знаем, как работают повседневные вещи, которые буквально мозолят нам глаза?».
Лоусон провела серию экспериментов, в которых суммарно приняли участие 175 «обычных людей» (студенты и их родители), а также отдельная группа из 68 велосипедистов-экспертов и поставила простую задачу: дорисовать схематичный набросок велосипеда — раму, педали и цепь. Чтобы исключить оправдания типа «я не умею рисовать», во второй части эксперимента участникам предлагалось выбрать правильную схему из нескольких вариантов.
Результаты оказались обескураживающими. В группе, которую заранее предупредили, что проверяется именно понимание функций, 50% испытуемых допустили ошибки при рисовании цепи. С рамой ситуация была еще интереснее: хотя неправильно нарисовали её 23% участников, в тесте с выбором готовой схемы ошиблись 46%. Конечно, велосипедисты ошибались реже, но «обычные люди» демонстрировали некомпетентность, будучи при этом уверенными в своих знаниях до начала теста.
Дело в том, что наш мозг — устройство с ограниченными вычислительными ресурсами, заточенное под жесткую оптимизацию. Мы воспринимаем мир через призму «аффордансов» — возможностей действия. Мы знаем, что если нажать на педаль, велосипед поедет. А механизм передачи крутящего момента, натяжения цепи и особенности геометрии рамы наш мозг сворачивает в один удобный «чёрный ящик».
Как правило, это не представляет серьезной проблемы. Мы создаем технику так, чтобы ей можно было пользоваться, не зная, что там внутри. Зачастую получается обойтись даже без чтения инструкции — хороший промышленный и UX-дизайн делают использование устройства интуитивно понятным. Но опасность представляет не само незнание, а ложная уверенность в том, что мы знаем, как работает все вокруг.
Кроличья нора повседневности
Если с велосипедом можно разобраться, потратив несколько минут на осмотр рамы, то с современными технологиями этот номер не пройдёт. Как работает водопровод? Как устроен кондиционер? Что происходит внутри микропроцессора в тот момент, когда вы читаете эти строки? В устройство повседневных вещей можно провалиться, как Алиса в Страну чудес.
Например, когда вы запускаете карты на телефоне, чтобы найти ближайшую кофейню, смартфон задействует эффекты обеих теорий относительности. Спутники GPS находятся на орбите и движутся со скоростью около 14 000 км/ч. Согласно специальной теории относительности, из-за скорости время для них течет медленнее, чем на Земле — примерно на 7 микросекунд в день. С другой стороны, спутники находятся на высоте 20 000 км, где гравитация Земли слабее. Согласно общей теории относительности, в более слабом гравитационном поле время течёт быстрее — примерно на 45 микросекунд в день.
В итоге атомные часы на спутнике убегают вперёд на 38 микросекунд каждые сутки. Кажется, ерунда? Но для навигации время — это расстояние. Ошибка в 38 микросекунд даст погрешность около 11 километров в сутки. Если бы инженеры не учли формулы Эйнштейна, ваш навигатор уже через день показывал бы, что вы находитесь в соседнем городе. Знает ли об этом средний пользователь навигатора? Нет. Ему нужно просто повернуть направо через 200 метров.
Или возьмём сжатие музыки — MP3 или стриминг в Spotify. В его основе лежит психоакустика — отдельная наука на стыке биологии, физики и психологии. Алгоритмы сжатия вырезают из трека те звуки, которые мы не услышим на фоне остальных. Эффект частотной маскировки, когда громкий звук на определённой частоте делает нас «глухими» к тихим звукам на соседних частотах. Мы слушаем не оригинальную музыку, а её версию, оптимизированную под баги нашего слухового аппарата.
От технологии к магии
Артур Кларк, фантаст и футуролог, сформулировал закон, который актуален как никогда: «Любая достаточно развитая технология неотличима от магии».
Для большинства пользователей современные технологии давно перешли этот рубеж. Когда смартфон распознаёт лицо, для обывателя это магия. Когда нейросеть пишет диплом, это магия. Когда контекстная реклама предлагает вам товар, о котором вы только что подумали, это пугающая магия.
Опасность в том, что когда технология становится магией, критическое мышление отключается. Если не понимаешь физику процесса, то не можешь оценить риски и не можешь отличить реальную технологию от псевдонаучной имитации. Перестаёшь быть пользователем инструмента и становишься верующим, а верующего легко обмануть.
Существует впечатляющий трюк, который исполняют некоторые менталисты. Фокусник просит добровольца выйти на сцену, касается его головы, и в этот момент человек начинает слышать голос, который шепчет прямо внутри черепной коробки. Зрители в зале не слышат ничего. Доброволец затыкает уши, но голос становится только громче и настойчивей. Субъективно чистейшая магия, но или начало шизофрении.
Никакой мистики здесь нет, это технология костной проводимости. Фокусник прячет в напальчнике компактный динамик, и когда он прижимает руку к костям черепа — вибрации от него передаются минуя барабанную перепонку. Почему голос становится громче, если заткнуть уши? Эффект окклюзии: если закрыть слуховой проход, внутри получается резонансная камера. Любой сурдолог знает это явление, но для неподготовленного человека это финальное доказательство «сверхъестественного».
Или взять всевозможные «биорезонансные» аппараты, которые якобы сканируют организм и находят все болезни. Солидный корпус, мигающие лампочки, провода, экран с графиками — все эти атрибуты эксплуатируют веру в то, что сложная на вид техника работает как надо. Мы видим знакомые паттерны «научного прибора», и мозг ставит галочку: «убедительно, это медицина».
Думается, что и пренебрежение крибергигиеной во многом связано с непониманием того, как работает техника. Допустим лично вам нечего скрывать от потенциального хакера (что спорный тезис), но каждый компьютер или смартфон сам по себе привлекательная цель — потенциальный майнер или компонент ботнета.
Дорогостоящее невежество
На бытовом уровне, чтобы справиться с опасностями, которые создаёт непонимание внутреннего устройства техники, хватает базового критического мышления, знания физики и привычки думать, прежде чем что-то делаешь. Но все становится куда интереснее, когда эта проблема выходит на уровень институтов.
Переместимся в Ирак конца нулевых. Его жители страдают от терактов, каждый автомобиль на контрольно-пропускном пункте — потенциальная бомба на колёсах. Солдаты и полицейские ищут любое средство, которое поможет им выжить и защитить гражданских. И тут на сцену выходит чудо-устройство: ADE-651.
Внешне оно выглядело как реквизит из малобюджетного фантастического фильма 80-х. Чёрная пластиковая рукоятка пистолетного типа, к которой на шарнире прикреплена длинная металлическая антенна. Ни батареек ни дисплея и стоимость от 8 000 долларов долларов за штуку.
Производитель, британская компания ATSC во главе с Джеймсом Маккормиком, заявляла фантастические характеристики. Согласно брошюрам, ADE-651 мог обнаруживать взрывчатку, наркотики, слоновую кость и человеческие тела на расстоянии до километра. Принцип действия описывался набором псевдонаучных терминов: «электростатическое магнитное ионное притяжение».
Когда устройство попало в руки независимых экспертов из Кембриджа, они ожидали увидеть внутри хотя бы примитивную электронику. Но рукоятка была пустой. Антенна представляла собой обычный телескопический штырь, который свободно вращался на шарнире, реагируя на микродвижения руки оператора.
В комплекте шли сменные карты с маркировкой «TNT», «C4», «Heroin» — якобы «запрограммированные» на частоту искомого вещества. Внутри карт эксперты обнаружили противокражные метки — те копеечные наклейки, которые клеят на книги в магазинах. В некоторых версиях не было даже этого — просто кусок пластика. Впрочем в рукоятке все равно не было считывателя. Пользователи просто вставляли кусок пластика в другой кусок пластика.
Как устройство могло работать без батареек? В инструкции утверждалось, что ADE-651 питается от «статического электричества тела оператора». Для этого нужно было пошаркать ногами по земле, чтобы «зарядиться». Любой студент-первокурсник физфака должен был бы рассмеяться в лицо продавцу, но генералы покупали.
На деле иллюзия работы создавалась благодаря идеомоторике — тому же эффекту, который заставляет двигаться маятник в руках экстрасенса. Когда оператор в состоянии стресса видем подозрительную машину, его мышцы совершали микроскопические неосознанные сокращения. Антенна усиливала эти микродвижения и поворачивалась в ту же сторону, как бы подтверждая подозрения. Классическое лозоходство, упакованное в тактический милитари-дизайн. Маккормик просто купил партию дешёвых шуточных «искателей мячей для гольфа» по 20 долларов за штуку, переклеил наклейки и поднял цену в тысячу раз.
Ирак потратил на закупку этих волшебных палочек более 85 миллионов долларов. ADE-651 стал основным средством досмотра на всех въездах в Багдад. Устройства закупили также Афганистан, Пакистан, Ливан, Мексика и Таиланд.
Сколько людей погибло из-за ADE-651? Точной цифры нет, но счёт идёт на сотни, если не тысячи. Грузовики со взрывчаткой беспрепятственно проезжали через посты. И каждый раз после теракта чиновники заявляли что то типа: «Наверное, оператор неправильно использовал прибор. Нужно больше тренировок». Никто не хотел признать, что король голый.
Джеймс Маккормик был арестован и осуждён в 2013 году и получил 10 лет тюрьмы. Но к моменту приговора ADE-651 всё ещё использовались на некоторых КПП на Ближнем Востоке.
Эта история показывает, что происходит, когда люди, принимающие решения, не обладают компетенцией отличить науку от магии. Видимо рядом не было рядом технического консультанта, который сказал бы: «Сэр, это нарушает законы физики», или, что вероятно, этих умников просто не слушали.
Иллюзия контроля
Впрочем, многие профессионалы, инженеры и ученые сами не до конца понимают, как работает техника с которой они имеют дело. Разработчики программного обеспечения знают это лучше других.
Создавая компьютеры, человечество построило башню из абстракций. В самом низу — физика: электроны бегают по полупроводникам. Выше — микроархитектура: логические элементы, складывающиеся в сумматоры и регистры. Над ними — машинный код и ассемблер: прямые команды процессору, где разработчик всё ещё контролирует каждый байт памяти. Далее — языки вроде C/C++, где программист всё ещё вручную управляет памятью. Потом — языки высокого уровня вроде Python, Java, JavaScript: на этом уровне появляется сборщик мусора, и программист больше не думает, как освободить память. И наконец — современные фреймворки и no-code, где программисты перетаскивают мышкой квадратики в визуальном редакторе.
Чем выше мы забираемся по этой лестнице, тем меньше понимаем, что происходит в подвале. Современный junior-разработчик, пишущий на React или использующий тяжёлые Python-библиотеки для Data Science, зачастую не имеет ни малейшего представления о том, как его код транслируется в инструкции процессора. Ему это и не нужно, по крайней мере до тех пор, пока что-то не сломается.
Джоэл Спольски, один из создателей Stack Overflow, назвал это «законом дырявых абстракций». Всякая нетривиальная абстракция в какой-то степени «дырявая». Когда вы нажимаете кнопку в красивом интерфейсе, а приложение зависает, это значит, что абстракция протекла — где-то там, на пять уровней ниже, закончился дескриптор файла или произошла коллизия хэшей, о существовании которых вы даже не подозревали.
Это фундаментальное непонимание «низов» имеет прямые последствия. Вы замечали, что новое ПО занимает всё больше места и требует всё больше ресурсов, хотя его функциональность растёт едва заметно? Процессоры Apple M-серии или топовые Intel Core i9 обладают производительностью, которая инженерам NASA времён программы «Аполлон» показалась бы божественной силой. Но при этом мессенджер вроде Slack может открываться 10 секунд и пожирать гигабайт оперативной памяти.
Это явление описывает закон Вирта: «Программы становятся медленнее быстрее, чем железо становится быстрее». Хотите сделать приложение для заметок? Вместо того чтобы писать оптимизированный нативный код, возьмем фреймворк Electron. По сути, каждое такое приложение — это отдельный экземпляр браузера Chrome. Это чудовищно неэффективно с точки зрения инженерии, но быстро и дёшево с точки зрения бизнеса. Мы создали культуру разработки, где понимание того, как это работает на самом деле, не востребовано. «Железо всё стерпит».
Археология кода и железа
Мы привыкли думать о технологическом прогрессе как о прямой линии, стремящейся вверх. Мы уверены, что знания накапливаются, как проценты на банковском вкладе. Если мы что-то изобрели однажды, это знание остаётся с нами навсегда, верно?
К сожалению, нет. Технологии — это не статичные артефакты, хранящиеся в библиотеке. Это живые процессы, которые умирают вместе с их носителями. И самое яркое доказательство этого тезиса находится не в потерянных секретах строительства египетских пирамид, а в NASA.
В начале 2010-х годов, когда NASA всерьёз заговорило о возвращении человека на Луну, агентству понадобилась сверхтяжёлая ракета-носитель.
Никто не хотел изобретать веосипед, ведь у США уже был самый мощный однокамерный жидкостный ракетный двигатель в истории — Rocketdyne F-1. Этот монстр поднимал первую ступень ракеты Saturn V. Пять таких двигателей сжигали 13 тонн керосина и жидкого кислорода в секунду. F-1 доставил людей на поверхность Луны и ни разу не подвел. И у NASA были все чертежи — тысячи килограммов технической документации.
Инженеры рассуждали так: «Мы возьмём чертежи 60-х годов, оцифруем их, загрузим в современные станки с ЧПУ и получим проверенный двигатель», но попытавшись это сделать, они уткнулись в стену. Чего-то нехвалало.
Специалисты отправились в музеи, сняли с постаментов несколько сохранившихся экземпляров F-1 и начали разбирать их буквально по винтику. И тут выяснилось, что железо не соответствует чертежам. Более того, разные двигатели не соответствуют даже друг другу.
В 1960-х годах точность станков была ниже, автоматизация — зачаточной. Недостаток точности оборудования компенсировался мастерством людей. Каждая деталь дорабатывалась «по месту».
Разбирая двигатели, инженеры находили детали, которые были просверлены в неожиданных местах или изогнуты не так, как на схемах. В процессе сборки на стенде в 60-х годах инженеры видели: «Ага, здесь возникает вибрация». Они брали дрель, делали дополнительное отверстие, проверяли — работает лучше. И оставляли так. В документацию изменения вносились не всегда.
В социологии это называется tacit knowledge — неявное знание, которое невозможно передать через инструкцию. Это опыт, который находится на кончиках пальцев мастера. Люди, которые строили F-1, были лучшими инженерами своего времени. Многое рождалось в спорах прямо у испытательного стенда и не попадало в официальные отчёты: «Зачем писать очевидное? Мы же тут все понимаем, что нужно подкрутить клапан на пол-оборота». Проблема в том, что эти люди ушли на пенсию, умерли и унесли знания с собой.
Потратив время на реверс-инжиниринг, NASA пришло к парадоксальному выводу: восстановить производство F-1 в его первозданном виде невозможно. Нужно было бы заново создавать целые отрасли промышленности, обучать людей забытым техникам, восстанавливать цепочки поставок материалов, которые больше не производятся. Проще спроектировать двигатель заново. Так что технология — это не чертёж в сейфе. Технология — это люди, культура производства и цепочки поставок. Стоит прервать эту цепочку на одно поколение, и знание превращается в археологический артефакт.
Что с этим делать?
Мир как чёрный ящик, технологии как магия, утраченные знания предков… если остановиться здесь, то картина выглядит мрачновато, но нигилизм — плохой помощник инженера. К тому же, осознание проблемы — это уже половина решения. Вторая половина заключается в смене парадигмы: нам нужно перестать быть пассивными потребителями «магии» и начать активно архивировать, структурировать и распространять знания о том, как устроен этот мир.
Кроссполлинация знаний
Одна из главных проблем современной инженерии — узкая специализация. Мы копаем глубокие колодцы, но не строим между ними туннели. Однако самые элегантные решения часто лежат на стыке абсолютно несовместимых, на первый взгляд, областей.
В начале 2000-х врачи лондонской больницы Great Ormond Street Hospital столкнулись с пугающей статистикой. Несмотря на высочайшую квалификацию хирургов, смертность и осложнения оставались высокими на этапе передачи пациента — когда ребёнка после операции на сердце переводили из операционной в реанимацию. Нужно переподключить системы жизнеобеспечения, мониторы, капельницы, передать огромный объём данных. И всё это — в условиях дефицита времени и стресса.
Врачи поняли, что их проблема не медицинская, а логистическая. И стали искать, кто в мире лучше всех умеет обслуживать сложную технику в условиях стресса.
В итоге в госпиталь пригласили техников Формулы 1 из Ferrari. Им показали им видеозаписи операций и спросили: «Что мы делаем не так?» Инженеры, привыкшие менять четыре колеса за 2–3 секунды, были в ужасе от хаоса в операционной.
В пит-стопе есть человек с табличкой, который единственный имеет право дать команду «Go». В операционной выделили такого же лидера. Были внедрены протоколы тишины в критические моменты, чёткая схема расположения людей вокруг пациента и жёсткие чек-листы и стандартизированные сигналы.
В результате количество технических ошибок снизилось на 42%, ошибок при передаче информации — на 49%. Знания, выработанные для того, чтобы машинки ездили быстрее по кругу, спасли детские жизни.
Радикальная открытость
Вторая проблема — мы хороним свои ошибки. В корпоративной культуре принято публиковать только истории успеха. Никто не пишет пресс-релизы: «Мы потратили 10 лет, сожгли 50 миллионов долларов, и у нас ничего не вышло». А зря. Отрицательный результат — бесценный инженерный актив.
Компания Makani, часть лаборатории Google X, 13 лет пыталась совершить революцию в зелёной энергетике. Они создали энергетических воздушных змеев — планеры из углеволокна с роторами, которые поднимались на высоту до 500 метров, ловили ветер и передавали электричество на землю по кабелю. В 2020 году проект закрыли потому что солнечные панели и обычные ветряки подешевели настолько, что сложные змеи стали неконкурентоспособны.
Обычная корпорация закрыла бы архивы и уволила инженеров. Makani поступили иначе — опубликовали The Energy Kite Collection: исходный код, чертежи прототипов, логи полётов, подробные разборы аварий и документальный фильм о проекте. Уверен, их очень внимательно смотрели в китае, где сейчас испытывают уже третье поколение летающих электрогенераторов.
NASA, наученное опытом с двигателем F-1, тоже изменило подход. У них есть портал NASA Lessons Learned Information System, где инженеры описывают проблемы — от заклинивших солнечных панелей до ошибок в менеджменте. Они фиксируют и «что сломалось», и логику принятия решений, которая к этому привела. Это попытка сохранить ту мудрость, которая раньше передавалась только в курилках.
Открытость по-русски
К сожалению, в России с открытостью одновременно неплохо и сложно. С одной стороны мы видим поддержку Open Source и публикации на Хабре, но, например, в промышленности всё очень закрыто. В отличие от Америки, где Илон Маск может часами водить блогеров по стартовым площадкам и заводу Tesla, российские компании, выросшие из государственных оборонных предприятий, остаются непрозрачными. Ведомственные музеи закрыты для публики.
Кое-что делал Роскосмос и Росатом. Появились проекты вроде «Открой Моспром» и Medtech.Лекторий, но этого недостаточно. Если компании не будут рассказывать о себе, они останутся без сотрудников. Молодые ребята просто не знают, зачем им учиться на атомщика или ракетчика. Если мы хотим увидеть расцвет робототехники через 10 лет, уже сейчас нужно объяснять будущим инженерам, почему строить роботов — это круто, показывать интересные задачи и пользу от их усилий. Но все это остается на откуп отдельным популяризаторам и DIY-блогерам, которые могут показать только то, что сделали своими руками, но не внутренности реальных производств.
Заключение: техносфера или магия?
Футурологи любят говорить о технологической сингулярности в контексте создания сильного ИИ, который начнёт самосовершенствоваться, но, как по мне, сингулярность выглядит иначе. Это скорее горизонт сложности — момент, когда совокупная сложность техносферы превысит когнитивные способности человечества к её полному пониманию. И кажется, мы уже перешагнули этот порог.
Ни один человек на Земле сегодня не способен в одиночку объяснить и воспроизвести всю цепочку технологий для производства современного смартфона — от добычи редкоземельных металлов до работы сетевых протоколов 5G. Мы все стали узкими специалистами, поддерживающими крошечные фрагменты гигантской технологической мозаики.
Сейчас мы внедряем в этот фундамент самый непрозрачный кирпич — генеративные нейросети. Даже создатели ChatGPT, Claude или Gemini сталкиваются с проблемой интерпретируемости. Инженер знает архитектуру: сколько слоёв в трансформере, какая функция активации. Но он не знает, почему в ответ на конкретный запрос модель выдала именно этот текст, ведь знание размазано по миллиардам весов в матрицах модели.
Мы учимся промпт-инжинирингу — по сути, искусству заклинаний. Подбираем слова, чтобы «дух в машине» сделал то, что нам нужно, не понимая механики процесса. Если разработчик не понимает свой код (потому что его сгенерировал Claude), а пользователь не понимает устройство, мы оказываемся в мире, где технология становится вопросом веры, а не знания.
Вспомните то неуютное чувство, когда вы забыли смартфон дома. Вы чувствуете себя не просто «без связи» — вы чувствуете себя глупее. Вы потеряли доступ к своему экзокортексу — внешней памяти, навигатору, справочнику. Фактически мы уже киборги, просто наши импланты лежат в кармане, а не вживлены в мозг.
Этот симбиоз позволяет нам оперировать данными, объём которых не снился ни Эйнштейну, ни Ньютону. Но, как показала история с двигателями F-1 и детекторами ADE-651, этот симбиоз хрупок. Если мы делегируем понимание «умным помощникам», мы теряем способность верифицировать их работу. Если ИИ-наставник научит ребёнка неверному факту, заметит ли это кто-нибудь? Если ИИ-архитектор спроектирует мост с ошибкой, сможет ли человек найти её?
Риск заключается не в восстании машин, а в компетентностном коллапсе — когда мы станем операторами кнопок, не способными починить систему, если «магия» вдруг выключится.
Что же делать? Отказаться от права на невежество.
Открывайте капоты, разбирайте вещи. Если вы разработчик, загляните в исходный код библиотеки. Если вы водитель, разберитесь, как работает дифференциал. Любопытство — это иммунитет против «магии».
Требуйте доказательств. Когда вам продают чудо-технологию, спрашивайте «Как это работает?» до тех пор, пока не доберётесь до физики или математики. Если отвечают «это слишком сложно» — скорее всего, вас пытаются обмануть.
Сохраняйте знания. Поддерживайте Open Source. Пишите документацию. Делитесь опытом неудач. Стройте туннели между профессиональными колодцами, чтобы опыт Формулы-1 спасал пациентов, а опыт космических инженеров не умирал в музейных архивах.
Учитесь рисовать велосипед. Тренируйте мозг понимать механические и логические связи. Не принимайте мир как данность, а принимайте его как инженерную задачу.
Мы не можем остановить рост сложности. Мы не можем отказаться от абстракций. Но мы обязаны сохранить контроль над ними. Технология — это не магия. Это кристаллизованный человеческий труд, интеллект и ошибки, давайте не будем забывать об этом.
