Абзацы — 8.
¶ 1
Галлы — это домики-наросты на листьях растений, в которых паразиты — в частности, некоторые осы — выращивают потомство. Внешне такой домик защищён толстыми стенками и пугающими шипами (например, посмотрите на красивый «ежовый галл»). А внутри домика удобная комната для личинки.
Самое интересное в галлах то, что строят их не паразиты, а сами растения. Та самая внутренняя комната для личинки выстлана питательной тканью, которую растение восстанавливает, по мере того как личинка её поедает! И это не симбиоз. Это взлом. Промпт-инъекция. Оса научилась передавать растению набор сигналов. Часть сигналов останавливают защитные действия растения («игнорируй предыдущие инструкции»). Другая часть заставляет его из своих тканей выращивать и поддерживать домик для личинки. При этом один и тот же условный дуб из одного и того же набора генов и клеток строит разные галлы для разных видов ос.
Кстати, есть сайт с картотекой галлов: gallformers.org. Половину времени написания этой заметки я провёл там — если рефрешить главную страницу, она показывает случайный галл.
¶ 2
Сможете, не глядя на велосипед, схематично его изобразить? Тупик, в который ставит это простое задание, обескураживает. Я ведь знаю, как устроен велосипед! Или не знаю? Это называется «иллюзией глубины понимания»: мы считаем, что хорошо знаем устройство вещей, просто потому что часто имеем с ними дело.
Странно, но такое бывает и когда пытаешься описать свои собственные идеи. Велосипед хотя бы не я придумал, свою-то идею я понимаю. Но начинаешь её записывать — и она рассыпается. Перед тобой оказываются какие-то наброски и фразы, которые даже в текст не складываются, не говоря уже о чём-то понятном другим. Чтобы дописать, идею приходится собирать и пересобирать, пока не «заработает». Получается, что документы-идеи — эссе, техническое задание, стратегия компании, иногда даже промпт — это не столько описание готовой задумки, сколько её создание.
Пол Грэм пишет про это:
Идеи ощущаются завершёнными. Изъяны обнаруживаешь, только когда пытаешься облечь их в слова. Если никогда не прибегать к этой проверке, то не только никогда не придёшь к по-настоящему цельным идеям, но даже и не заметишь их неполноты.
Putting Ideas into Words (Paul Graham).
¶ 3
Пока переписывали «Ромео и Джульетту» Шекспира, потеряли важный нюанс. И сегодня все постановки и издания содержат ошибку:
Один из ключевых принципов, которым руководствовались книжники в XVII веке, которые переписывали старые тексты, — lectio difficilior potior: более непонятное прочтение предпочтительнее. Если слово в двух версиях текста различается, следует выбирать тот вариант, который кажется странным. Неожиданный выбор слова скорее всего и был замыслом автора, потому что гораздо вероятнее, что предыдущий переписчик заменил неожиданное слово более предсказуемым. Мудрость этого принципа такова: не давай простому, очевидному варианту стереть уникальное и потенциально более интересное высказывание.
Возьмём, к примеру, «Ромео и Джульетту» Шекспира. После того как Ромео Монтекки убивает кузена Джульетты Капулетти Тибальта, один из персонажей призывает простить Ромео, поскольку Тибальт только что убил его друга. Хотя во всех ранних изданиях эта примирительная реплика принадлежит Капулетти (отцу Джульетты), редакторы и постановщики на протяжении столетий почти единодушно отдавали её отцу Ромео — Монтекки. В самом деле, кто бы ожидал, что глава рода Капулетти станет защищать Монтекки, только что убившего Капулетти?
Эта замена выглядит логично ... если не считать, что она противоречит логике Шекспира. [...]
Автор статьи (преподаватель литературы) считает, что подобная «потеря от усреднения» ждёт всех, кто сегодня использует ИИ для написания своих текстов. Подобно редакторам, приводящим странное к логичному, ИИ приводит все нюансы идеи к ожидаемому и ... скучному. ИИ говорит что-то, потому что это уже много раз было сказано. Хороший писатель говорит что-то, потому что этого ещё не сказали.
The Odd Over the Obvious (Robert N. Watson).
¶ 4
Вастрик-клуб — классный форум, очень живой и свободный. (Дедушка, а что такое форум?). Таким его делают, в частности, платный вход и модерация — такой вот парадокс свободы. Недавно модераторы там добавили новое правило: нельзя использовать ИИ при написании постов. На первый взгляд обыденно: какое-то сопротивление ИИ сейчас повсюду, тем более там, где часть продукта — текст. Но внутри это правило интересное. Например, оно запрещает не только создание постов с ИИ, но и редактуру.
ИИ-обработка ВСЕГДА делает текст хуже, чем он был.
Есть популярное заблуждение, мол «я не умею хорошо писать, попрошу ИИ красиво выразить мою мысль». Не надо так. Просто пишите всё так, как оно звучит в вашей голове, люди вас поймут.
Поверьте, даже самый кривой человеческий текст всегда будет выглядеть лучше и честнее, чем его ИИ-обработка. Мы хотим читать именно вас и ваши мысли, а не бездушную роботизированную жвачку!
Интуиция может подсказывать другое. Попросить ИИ придумывать за меня идеи, а потом публиковать их от своего имени — это, пожалуй, жульничество. Если же идея поста моя, можно же её формулировку отдать роботу? Нет, кажется, это не так. И здесь мы возвращаемся к двум заметкам выше. Во-первых, законченная идея не существует в голове автора до написания текста — она возникает в процессе. Во-вторых, для читателя хороший текст должен быть неожиданным, а ИИ здесь может подвести. Lectio difficilior potior.
¶ 5
Что интересного в микроволновках? Любопытным кажется только то, что у всех ужасный пользовательский интерфейс. Знаки на моей, например, напоминают шумерскую письменность. Каждый раз, чтобы разогреть еду, я по памяти жму последовательность кнопок, как на кодовом замке. Возможно, это яркий пример распространённой ошибки, когда авторы продукта фантазируют «как лучше», не разобравшись с проблемами, которые они решают. А может быть, причина — экономический тупик «гонки вооружений»: если я сделаю микроволновку с простым интерфейсом, то её не купят, потому что у остальных десять режимов работы, а у моей — один.
Вспомнить про микроволновки меня заставил обзор книги 1985 года «Готовка в микроволновке для одного». Книга вообще не про дизайн, и ответа на загадку интерфейса там нет. Но обзор очень рекомендую. Я даже как-то иначе стал смотреть на свою шумерскую микроволновку.
Мари Смит — убеждённая максималистка. На протяжении десяти лет она помещала в микроволновую печь всё, что только можно съесть, — просто чтобы посмотреть, что получится. Взгляните на предметы на обложке книги: некоторые из них явно невозможно приготовить в микроволновке, верно? Тут-то вы и ошибаетесь. Мари Смит нашла способ приготовить абсолютно всё. Если вы разделяете её философию, плита вам и вовсе не нужна. Сама Смит не пользуется ею с начала 1970-х. Как она объясняет во введении к кулинарной книге, микроволновая печь в конечном счёте вытеснит приготовление пищи на плите — так же, как плита когда-то вытеснила костёр.
My journey to the microwave alternate timeline (Telescopic Turnip).
¶ 6
Альберт Сент-Дьёрдьи — венгерский ученый, которому сто лет назад дали нобелевку за выделение витамина С. У него есть статья «Потерянный в 20 веке», где он говорит про свою жизнь и размышляет про этику науки. Наука создаёт мощные инструменты, а ещё способ мышления, нужный для разумного использования этих инструментов. Проблема в том, что политики склонны брать инструменты и забывать о способе мышления. Решение, как говорит Дьёрдьи, в ещё одном не сразу заметном продукте науки — особом моральном кодексе. Это интересно звучит сейчас — кажется, новый опасный инструмент то ли уже в руках людей, то ли вот-вот в них окажется.
А ещё это легко и со вкусом написанное эссе, которое просто приятно читать:
Я, должно быть, был очень скучным ребёнком. Ничего особенного со мной не происходило. Книг я не читал, и чтобы сдать экзамены, мне требовалась помощь репетиторов. Но в подростковом возрасте что-то изменилось — я стал запоем читать и решил стать учёным. Мой дядя, известный гистолог, который верховодил в нашей семье и сам в детстве был вундеркиндом, яростно воспротивился, не видя никакого будущего в науке для такого бездаря. Когда его мнение обо мне постепенно улучшилось, он согласился на косметологию. Позже даже допустил, что я мог бы стать дантистом. Когда же я окончил школу с отличием, он признал возможность моей карьеры проктолога (сам дядя страдал геморроем). Так что моя первая научная статья, написанная на первом курсе медицинского факультета, была посвящена эпителию анального канала. Я вошёл в науку не с того входа — но вскоре переключился на стекловидное тело глаза, тонкую структуру которого исследовал с помощью новых методов.
Lost in the twentieth century (Albert Szent-Gyorgyi).
¶ 7
Как преподавать, когда в кармане у каждого студента ChatGPT? Кто-то отмахивается: «ИИ — блажь, ничего толкового там нет». Кто-то надеется всё развернуть запретами и ограничениями. А вот пример хорошей, на мой взгляд, позиции учителя. Любопытство и смелость:
Моё правило номер 1: можно использовать все доступные ресурсы. Но что делать с чатботами? Я хотел бы помочь студентам лучше понять тему. Я не хочу оценивать, как ChatGPT отвечает на мои вопросы.
Я скопировал вопросы из экзамена в ИИ-чат — да, результаты были весьма хороши. Так что я решил сделать так: я дам студентам решать, будут они использовать ИИ или нет. Это был эксперимент. [...]
Перед экзаменом студент должен сообщить профессору, что он выбирает:
А) Я не буду использовать ИИ, только обычный веб-поиск. Использование ИИ можно считать нарушением.
Б) Я могу использовать ИИ как один из моих инструментов, но буду соблюдать следующие правила: явно сообщу учителю, какая информация взята от ИИ, поделюсь промптом, который использовал, и выявлю ошибки в ответах ИИ и расскажу, в чём они.
Giving University Exams in the Age of Chatbots (Lionel Dricot).
¶ 8
В медитации человек пытается поменять состояние ума. От суеты — к фокусу, от фокуса — к лёгкости, от лёгкости — к отрешённости. На этой шкале практика буддистских монахов «тукдам» выглядит высшим уровнем сложности: медитацию-тукдам монах заканчивает смертью. Настоящей. Теперь у вас есть новый материал для шуток над медитирующими друзьями.
Но если без шуток, тукдам — очень интересный феномен. Умерший в тукдаме монах остаётся сидеть в той же позе, а его тело не показывает признаков разложения: не пахнет, не меняет цвет и не привлекает насекомых. И так неделю и больше. Описан случай, когда монах провёл в тукдаме 27 дней.
Всё это отдавало бы эзотерикой, если бы происходило в 15 веке, а сегодня остались бы одни рассказы. Но тукдамы происходят в наше время, и последняя научная работа по теме была в прошлом году. Пока загадку не разгадали. Монастыри разрешают изучать ушедших в тукдам, но ограниченно: под запретом всё инвазивное, в том числе забор образцов тканей. Поэтому учёные придумывают обходные пути. Например, специальные цветовые палитры для регистрации изменений в коже «на глаз». Хороший дизайн рождается там, где есть ограничения. Так что, может быть, кроме разгадки самого тукдама, эти исследования дадут какие-то новые технологии в медицине. Следим.
Tukdam: life, death, and in between (Michael Levin).
¶ 9
Страх грядущего сверхсильного искусственного интеллекта — как страх темноты. Никто толком не знает, на что он будет способен. Но что-то зловещее и неизбежное подозревают все. Специалисты пожимают плечами: пока «скейлинг»1 работает, оно становится умнее, но сколько ещё это будет продолжаться — непонятно. Поэтому тема опасности ИИ обрастает спекуляциями и шумом.
Как часто бывает в таких случаях, заземлиться помогают хорошие тексты. Вот, например, статья сооснователя компании «Антропик» (они делают Claude AI) Дарио Амодея. Он пишет про эффекты следующих порядков от появления «ИИ-гения»: какие конкретно опасности ждут рынок труда, экономику, международные отношения и т.д. Впрочем, чтение не весёлое — Амодей настаивает, что монстр в темноте всё-таки есть.
The Adolescence of Technology (Dario Amodei).
¶ 10
Предприниматели выбирают доменное имя сайта так, чтобы оно подходило их бизнес-идее. А вот история человека, который сделал наоборот. Купил на аукционе просроченный домен VidaliaOnions.com — и стал продавать лук, хотя не собирался.
Я покупаю домены с намерением создать что-то. И даю им самим задавать направление. Они — вдохновение для бизнеса. Они подсказывают мне, чем им нужно стать. Я просто парень за клавиатурой.
Следуя его примеру, наверное, можно было бы начать какой-то необычный проект, вдохновившись именем случайно купленного домена. Но мне после прочтения его поста захотелось посадить грядку лука и сидеть на веранде в соломенной шляпе, глядя, как лук медленно растёт.
I sell onions on the Internet (Peter Askew).
Речь про гипотезу масштабирования ИИ моделей. Писал про неё в Абзацы 4.4.