¶ 1
Все знают историю цинги. Моряки болели цингой в долгих морских походах без свежих продуктов. Потом выяснили, что достаточно съесть лимон и всё пройдёт. И цинга перестала быть проблемой. Это короткая и не совсем верная версия. Оказывается, победив цингу в середине 18 века, люди потеряли от неё лечение и нашли снова только в 20 веке! Моряки и учёные из-за серии совпадений смогли убедить себя, что цитрусовые от цинги не помогают. История захватывающая, так что не буду рассказывать — читайте сами.
А ведь в школе меня учили, что цинга была побеждена ещё в 1747 году, когда шотландский врач Джеймс Линд в одном из первых контролируемых медицинских экспериментов доказал, что цитрусовые эффективно лечат это заболевание. Нам рассказывали, что с того времени Королевский военно-морской флот ежедневно добавлял лаймовый сок в ром моряков, и цинга перестала быть проблемой в длительных морских путешествиях. Однако вот перед нами хирург Королевского флота в 1911 году, который, по всей видимости, совершенно не понимал, что вызывает цингу и как её лечить. Получается, группа крутых учёных в начале XX века знала о цинге меньше, чем средний морской капитан времён наполеоновских войн. [...] Как это могло произойти?
"Scott And Scurvy" on Idle Words
¶ 2
Я скептически отношусь к правильному питанию. Имею в виду не предписания конкретных врачей конкретным пациентам, а диетические рекомендации для всех. Никогда не погружался в эту тему глубоко, чтобы аргументированно поспорить. Хотя и на поверхности тема выглядит подозрительно: должно же накапливаться какое-то знание, а здесь всё заново переписывается каждые десять лет. Но, так или иначе, мой аргумент не в деталях, а в целом: мне кажется, что для большинства людей правильное питание — неверный приоритет. Если цель — быть здоровым, то выбор правильного рациона, кажется, должен идти после инструментов с бОльшим рычагом: своевременных медосмотров, починки существующих проблем здоровья, регулярной физической активности, хорошего сна. Когда всё это уже применили, можно поспорить о правильной еде.
Статья 2015 года в блоге "Meta rationality" говорит, что никто и не знает, есть ли правильная диета вообще:
Идеологии питания основаны на двух гипотезах: 1) Должна существовать правильная диета. 2) Должен быть рациональный способ её открытия. Однако нет никаких оснований верить ни в то, ни в другое; напротив, есть веские доказательства против обеих идей [...] Сто лет научных исследований не смогли выявить никаких устойчивых фактов о питании. Более качественные исследования, возможно, смогут это сделать, но мы не можем быть в этом уверены заранее. [...] В настоящей науке всегда есть элемент неопределённости, но она постепенно устанавливает стабильные факты, со временем подтверждает одни теории и отвергает другие. Для лженауки же характерно то, что она не прогрессирует. И наука о питание не сделала никакого прогресса, не зафиксировала ни одного стабильного факта. Всё, что утверждали диетологи, через десять-двадцать лет опровергали сами же диетологи. Они буквально ничего не знают. [...] После века бесчисленных экспериментов самая базовая проблема, которой они занимались, — оптимальное соотношение жиров, белков и углеводов — так и не решена. Если они не смогли разобраться даже с этим, рассчитывать на понимание чего-то более сложного кажется безнадёжным.
Более свежее мнение из Experimental history (2023 год):
Самые внушительные иллюзии живут в области правильного питания и снижения веса. К примеру, в моём детстве минздрав рекомендовал съедать 6-11 порций хлеба или мучных продуктов в день. Съедать полбуханки в день кажется безумием для многих людей сегодня. Но те же самые люди верят в массу вещей, которые скоро покажутся нелепыми. Ешь много жира / Нет, не ешь! Ешь мясо / Нет, лучше не надо! Ешь только в определённые часы / Ешь, когда захочешь! Я как-то был на ужине, где профессор вежливо отказалась от картошки, объяснив, что пытается похудеть — и я ухмыльнулся, потому что только что прочитал как группа людей похудела, питаясь исключительно картошкой. Что ж, есть хотя бы несколько пунктов, по которым все сходятся — ну, скажем, нельзя же похудеть, питаясь круассанами целыми днями! Хотя подождите... Короче говоря, мы не знаем, как всё это работает. И это нормально. Ненормально думать, что мы знаем. Потому что тогда мы даже не попробуем разобраться по-настоящему.
"Nutrition: the Emperor has no clothes" by David Chapman.
"On the importance of staring directly into the sun" by Adam Mastroianni.
¶ 3
Дикие животные вынуждены фокусироваться сразу на многом. Погружаться во что-то одно (deep work) не для них. Надо быть начеку: увлечёшься поеданием травы — и тебя самого съедят. А вот человеку развитие общества и прогресс разрешили отключаться от раздражений. Можно выбрать один фокус и созерцать. А если научиться, то, вроде бы, можно даже отказаться от фокуса вовсе. В этом смысле многозадачность кажется шагом назад. Наша привилегия — возможность погрузиться, а не свайпать. Читать, а не скроллить. Наблюдать, а не просматривать. Кстати, нашёл эту мысль, листая твиттер, как животное.
Автор книги "Выгоревшее общество" так описывает этот парадокс:
Современное состояние нашего сознания — «гипервнимание». Это резкая смена фокуса между задачами и источниками информации, при которой восприятие становится фрагментированным и рассеянным. Возможно, каждому из нас знакомы использование телефона во время просмотра телевизора, бессознательное переключение между вкладками в браузере, разговор с человеком, который на самом деле не слушает. Переход к технологическому обществу достижений, сопровождающийся всё более интенсивным потоком стимулов и информации, загоняет людей всё глубже и глубже в дикость.
Ещё мысль. На первый взгляд кажется, что сесть на лужайке, размеренно подышать и послушать пение птиц — это единение с природой. Но выходит, что это, наоборот, отделение от природы, которой чужд такой созерцательный режим. Единением с ней было бы держать в уме десяток проблем и быть всё время начеку, особенно на лужайке.
Обзор книги "Burnout society" Byung-Chul Han.
¶ 4
Наблюдение на тему расцвета больших ИИ моделей типа Chat GPT. Несмотря на огромные скачки в области в последние 5-10 лет, всё это время продолжает подтверждаться гипотеза масштабирования (scaling hypothesis). Суть гипотезы в том, что способности ИИ моделей растут вместе с ростом трёх составляющих: 1) размера модели (грубо — количество нейронов), 2) объёма данных для обучения, 3) времени/ресурса вычислений. При малых значениях этих параметров — например, когда мало данных для обучения — модель умеет делать только простые предсказания в узкой области. При увеличении значений модель растёт качественно, то есть учится новым навыкам. Кажется удивительным, что эти улучшения не требуют изменения архитектуры, новых алгоритмов или понимания "что есть интеллект". Нужно только больше железа, энергии и данных. Типа "Некогда думать, трясти надо!".
ИИ-исследователь Gwern Branwen проводит параллель с ролью интуиции в науке:
Еще одна проблема [исследователей, не замечавших масштабирование] заключалась в том, что они повторяли ту же фундаментальную ошибку, что и я, полагая, что алгоритмы важнее вычислительных мощностей. Отчасти это происходило из-за искажения реального происхождения идей в научных публикациях — они не раскрывают правдивую историю того, откуда берутся идеи. Они предлагают красивую версию научного открытия, но не рассказывают, как это происходило на самом деле. Поэтому даже если исследователь осознаёт значимость метода проб и ошибок и вычислительных ресурсов на собственном опыте, он, скорее всего, думает: «Мне просто повезло. В серьезных лабораториях люди, наверное, делают открытия силой мысли и глубокого понимания». На самом же деле везде, куда бы вы ни посмотрели, вычислительные мощности, данные, счастливые случайности и интуиция играют огромную роль. Когда вы это осознаете, становится понятно, почему вычислительные ресурсы стоят на первом месте. Без них вы просто не сможете рассчитывать на интуицию.
Кажется, это знание может поменять отношение людей к интуиции. Если ты хорошо разобрался в предмете (много данных) и дал себе время подумать (большой вычислительный ресурс), то твоё недоказанное суждение (чуйка!) может оказаться лучше логически-строгого data-driven решения.
Часть видео-интервью с Gwern на эту тему.
¶ 5
В книге "Consciousness: Confessions of a Romantic Reductionist" Кристоф Кох делает попытку понять, что такое сознание. Основная загвоздка: все физические явления обычно редуцируемы: заглянул внутрь чего-нибудь, а оно устроено из более простых элементов. А сознание, напротив, кажется нередуцируемым: как бы мы ни углублялись в мозг, нет компонента, в котором сознание возникает явно. Это приводит Коха к идее о том, что сознание — фундаментальное свойство, присущее материи, как заряд или масса. Он дальше предполагает, что сознание эмерджентно, т.е. возникает постепенно, по мере увеличения числа точек в системе и связей между ними. Пример эмерждентного свойства — "мокрость" воды: вода становится мокрой, когда молекул много, а несколько молекул — не мокрые. Так и сознание постепенно проявляется в больших нейронных структурах: у таракана совсем немножко сознания, у собаки больше, у человека ещё больше.
Это любопытно рифмуется с гипотезой масштабирования в ИИ, которую я упоминал выше: при увеличении узлов системы, объема данных для обучения и ресурса для вычислений система становится умнее (сознательнее?) без внедрения каких-то алгоритмов.
¶ 6
Kanjun Qiu про то, что такое научное исследование (research):
Я неправильно понимала суть научных исследований большую часть своей жизни, и это мешало мне ими заниматься. Я думала, что научные открытия возникают из строгого следования научному методу, пока в какой-то момент не появится вдруг новое знание. [...] Теперь я поняла, что исследование — это побочный эффект, когда ты пытаешься в чём-то разобраться и доходишь до границы того, что известно человечеству. В этот момент не остаётся никого, кто мог бы дать тебе ответ, [...] и вот тогда ты начинаешь ставить эксперименты и формулировать гипотезы. Та самая формальная последовательность научного метода, которую нам преподают в школе — задать вопрос, сформулировать гипотезы, провести эксперименты, сделать выводы — это полезный инструмент, но он не отражает самого главного: настоящего желания узнать ответ!
Мне нравится этот простой и свежий взгляд: ты становишься исследователем, когда ты очень хочешь знать ответ, а готового ответа нет. И во многих других областях, мне кажется, сильно чего-то хотеть — важнее, чем владеть навыками. У успешных людей есть техники эффективности, но связывать их успехи с техниками — это рисование мишени вокруг отверстия от выстрела. Если скопировать технику, достичь того же результата не получится. Будет недоставать того "ХОЧУ", которое заставляет человека искать новые пути на постоянно меняющейся карте. У того, кто хочет в туалет, всё отлично с мотивацией, тайм-менеджментом, выходом из зоны комфорта и даже нетворкингом!
"Research as Understanding" by Kanjun Qiu.
¶ 7
Пол Грэм пишет про нравоучителей:
Когда в обществе возникают понятия ереси и догмы, догматичность начинает подменять собой добродетель. Ты можешь быть худшим человеком на свете, но если придерживаешься правил — ты лучше тех, кто этих правил не придерживается. Это делает догматичность очень привлекательной для дурных людей. Но чтобы она могла функционировать как замена добродетели, догматичность должна быть труднодостижимой. Если всё, что нужно — это надеть определённую одежду или не произносить какое-то слово, то все быстро это усваивают, и тогда единственный способ казаться добродетельнее других — это действительно быть добродетельным. Поверхностные, запутанные и постоянно меняющиеся правила идеологической правильности сделали её удобной подменой настоящей добродетели. В результате получается мир, в котором хорошие люди, не следящие за "моральной модой", подвергаются травле со стороны "правоверных", чьи настоящие качества могли бы вас напугать.
Все моральные нормы хорошие по определению. Дьявол кроется в их применении: "давайте защитим обиженного" или "давайте обидим обидчика" или "давайте обидим тех, кто не согласен". Эта статья Пола Грэма мне кажется удачной попыткой системно отличить плохие применения от хороших.
"The origins of wokeness" by Paul Graham
¶ 8
Gwern Branwen отвечает на вопрос о том, чем стоит заниматься сейчас, если полагать, что Artificial general intelligence (супер-ИИ, превосходящий человека во всём) появится на горизонте нескольких лет:
Если ты считаешь, что через несколько лет появится ИИ человеческого уровня (AGI), то необязательно всё реализовывать самому. Достаточно набросать, что именно ты хочешь, зачем это нужно и как это можно сделать. А потом просто подождать, когда появится более продвинутый ИИ, который всё это воплотит. Конечно, если нет какой-то очень веской причины делать это прямо сейчас и тратить на это драгоценное время. [...]
Вот какие у меня критерии, чем стоит заниматься. 1) То, что мне самому интересно делать, независимо от того, появится ли тот ИИ. 2) "Человеческая часть" большой задачи — желания, предпочтения, ценности — остальные части которой потом сможет взять на себя ИИ. 3) Эссе и записи о том, что пока ещё не описано, — чтобы будущие ИИ-версии меня самого могли этим воспользоваться. Если задача не относится ни к одной из этих трёх категорий, то я стараюсь за неё не браться.
Кажется, советы выглядят полезными даже без супер-ИИ на горизонте.
Часть видео-интервью с Gwern на эту тему.
¶ 9
Если повторять слово много раз, оно начинает терять смысл: на время перестаёшь понимать его значение, слышишь лишь набор звуков. Этот эффект называют семантическим насыщением (Есть ещё яркий вариант названия: "истечение смысла"). Эрик Хол заметил, что влияние ИИ на культуру становится похоже на этот эффект. После недавней "гиблификации" интернета, когда повсюду появились изображения, похожие на работы студии Гибли, оригиналы стали что-то терять в глазах ценителей. Побочный эффект ИИ-генерации смыслов в том, что пропадает смысл в культуре — заключает он.
Каждые выходные мои дети выбирают один фильм, который мы будем смотреть. И это всегда «Тоторо». Классика студии Гибли. Возможно, лучший их фильм. [...] В эти выходные я посмотрю фильм с ними — и почувствую, что он стал мне не так близок. Тоторо становится для меня просто ещё одним Гибли (Гибли Гибли Гибли Гибли Гибли).
Горечь статьи разбавляет комментарий под ней. Там про то, что фастфуд вначале тоже, якобы, грозил уничтожить высокую кухню. Но в итоге остался и фастфуд, и “мишленовские” рестораны. Мне ближе как раз такая точка зрения. Кажется, прогресс и внезапное изобилие чего-то всегда приводит к опасениям "где-то подвох". Но, может, подвоха и нет.
"Welcome to the semantic apocalypse" by Erik Hoel
¶ 10
В США есть неофициальный термин для чиновников-руководителей больших направлений: царь (czar/tsar). За последние 100 лет там было много разных царей, включая царя e-commerce, царя информации, царя еды, царя чтения и даже царя карпа (Asian carp czar). Слышу "Asian carp czar" и в голове играет "В синем море, в белой пене" из мультфильма Саакянца.