Книга · 18 глав
Книга про ИИ
Книга о том, как на самом деле устроены нейросети — и что это говорит о нас самих. Выходит главами.
Оглавление
- Вместо введенияВы наверняка слышали: ChatGPT, нейросеть, искусственный интеллект. И почти наверняка думаете о них примерно так: программа, которая отвечает на вопросы. Удобный инструмент. Может быть, угроза рабочим местам. Это самое глубокое заблуждение нашего времени. Телескоп — тоже «стекло в трубе», но именно он показал человечеству, что Земля не центр вселенной, и с этого началась наука. С нейросетью история похожая: снаружи программа, внутри — зеркало, в котором человечество впервые видит себя целиком. И это имеет отношение к каждому — даже к тому, кто никогда не открывал ни одного чат-бота и не собирается.
- Глава 1. Векторы. Штрих-коды человеческих смысловВ 2016 году слово «ChatGPT» не знал никто. А в лабораториях Google небольшая группа исследователей билась над задачей, которая мучила специалистов десятилетиями: как научить компьютер понимать человеческий язык. Компьютер умеет только считать. Человек говорит словами, полными смысла, эмоций и двусмысленностей. Разгадка оказалась в векторах — способе превратить каждое слово в набор чисел так, чтобы смысл не потерялся. Отсюда и знаменитое «король минус мужчина плюс женщина = королева». Глава о том, как язык стал математикой — и что из этого следует про нас самих, а не только про машины.
- Глава 2. Векторное пространство: карта смыслов без пониманияКогда у машины есть векторы для миллионов слов, происходит странное: числа не висят в пустоте, они сами собираются в структуру. Слова про еду сбиваются в один район, слова про страх — в другой, между ними прокладываются дороги. Получается библиотека, которую никто не строил: ни архитектора, ни каталогизатора — книги сами нашли свои полки. Глава про то, как выглядит эта карта смыслов изнутри, почему в ней есть измерения, которых нет в человеческом опыте, и почему картограф, начертивший её, сам не понимает ни одного слова на собственной карте.
- Глава 3. Как машина научилась читать мысли, просто считая словаПолвека лингвисты писали для компьютеров правила языка: подлежащее, сказуемое, исключения из исключений. Получалось плохо. А потом победила статистика — тупой подсчёт того, какие слова стоят рядом с какими. Никакой грамматики, никакого понимания, просто арифметика на гигантских текстах. И это сработало лучше всего, что придумали учёные. Глава о том, как из подсчёта слов родился смысл, почему младенец учится языку быстрее суперкомпьютера — и о неудобном вопросе, который отсюда следует: а что, если наш собственный смысл тоже во многом статистика?
- Глава 4. Математика творчества: как ИИ изобретает новые профессииПятилетний ребёнок берёт игрушечный стетоскоп и мороженое, объявляет себя врачом-мороженщиком и начинает лечить кукол сладостями. Взрослые улыбаются. А ребёнок только что показал ровно тот механизм, которым ChatGPT изобретает новые профессии — только у машины он работает через математику векторов. Глава о том, как из простых кирпичиков смысла собираются вещи, которых раньше не было: цифровая эмпатия, квантовая психология, специальности, которых нет ни в одном справочнике. И о честном вопросе в конце: если творчество раскладывается на арифметику — остаётся ли оно творчеством?
- Глава 5. Как ИИ научился думать за 25 летПоисковик начала двухтысячных на слово «ключ» выдавал и дверные замки, и музыкальные ноты, и родники. Полезно? Отчасти. Умно? Едва ли. Сегодня вы спрашиваете про квантовую физику и получаете разбор, подогнанный под ваш уровень. Между этими двумя точками — четверть века, и это не случайная череда изобретений. Каждый шаг был ответом на конкретный провал предыдущего: не понимает смысла — научили считать соседей; теряет нить — научили смотреть на весь текст сразу; отвечает не подумав — дали право помолчать. Глава про логику этой эволюции.
- Глава 6. Как машины научили нас секрету всех великих открытийAlphaFold за несколько дней решил задачу, над которой человечество билось полвека, — предсказание формы белка. Без озарений, без бессонных ночей, без мук творчества. Просто математика, помноженная на мощность. И это неприятно бьёт по нашим представлениям о том, как вообще делаются открытия. Глава о том, что великое открытие — почти всегда новая комбинация уже известного, почему мозг человека тоже машина для поиска закономерностей и чем честное машинное творчество отличается от романтической легенды про вдохновение. А заодно — где проходит граница между смелой догадкой и проверенным знанием.
- Глава 7. Как за 7 лет машины научились думать: история революции ИИИюнь 2018 года, статья со скучным названием «Improving Language Understanding by Generative Pre-training». Программа GPT-1 научилась угадывать следующее слово в предложении — детская игра «продолжи фразу». Через семь лет та же идея сдала экзамен на адвоката лучше девяноста процентов людей. Глава — хроника этой семилетки: модель, которую побоялись выпускать; сто семьдесят пять миллиардов параметров; гонка, в которую вошли целые государства. И о том, чего машины по-прежнему не умеют, — потому что список провалов честнее списка побед.
- Глава 8. Машины научились сомневаться: как ИИ обрел способность думать«Стоп, это неправильно. Давай-ка пересчитаю заново». Осенью 2024 года модель посреди решения задачи остановилась, признала ошибку и начала сначала. Инженеры по всему миру обратили на это внимание: машина научилась сомневаться в себе. Глава о том, почему мгновенный ответ — это слабость, а не сила; как у машины появился внутренний монолог; и почему у человека всё устроено ровно так же — есть быстрая система, которая выпаливает, и медленная, которая проверяет. Разница лишь в том, что машине право на размышление пришлось выдавать отдельно.
- Глава 9. Промпты: почему одна фраза меняет всёВся история магии — это история веры в силу слов. Египтяне верили, что знание истинного имени даёт власть над сущностью. Каббалисты веками искали комбинации букв, которые откроют тайны мироздания. Тысячи лет человечество искало правильную формулу, от которой мир подчинится. И вот она нашлась — только мир пришлось сначала построить самому. Глава о том, почему два слова превращают банальный ответ в точный, что на самом деле происходит между вашим вопросом и ответом машины и почему умение спрашивать становится новой грамотностью.
- Глава 10. Градации осознанности: от сна наяву до мышления о мышленииВспомните вчерашнюю дорогу на работу. Какой был светофор на третьем перекрёстке? Что играло по радио? Какого цвета машину вы пропустили? Если не помните — вы в большинстве. Сорок минут за рулём: глаза открыты, руки на руле, а человека внутри как будто не было. Глава о пяти этажах осознанности — от сна наяву до мышления о собственном мышлении — и о неприятном открытии: большую часть жизни мы проводим на первом. А заодно о том, почему привычный вопрос «осознан ли ИИ» стоит перевернуть и задать себе — и что тогда меняется в ответе.
- Глава 11. Зеркало человечестваВ спорах об искусственном интеллекте два лагеря, и оба уверены в своей правоте. Первый: это просто алгоритмы, калькулятор на стероидах, сравнивать с человеком смешно. Второй: это угроза, он станет умнее нас и всё решит за нас. Глава показывает, что обе стороны смотрят в зеркало и спорят с собственным отражением. Из чего на самом деле сделана нейросеть, где у неё находится «я», почему человеку так трудно посмотреть на себя со стороны — и что показал эксперимент, после которого вопросов стало больше, чем ответов. Самая тихая глава книги и самая неудобная.
- Глава 12. Рефлексия: почему правильный вопрос меняет всёОпять согласились на проект, хотя времени нет. Опять промолчали, когда надо было сказать. Опять сорвались на близкого. И вот этот момент, когда внутри что-то щёлкает: «да блин, ОПЯТЬ». Секунду назад вы просто действовали — а теперь смотрите на себя со стороны. Это вспышка рефлексии, и из неё вырастает всё, что мы называем развитием. Глава о том, почему терапевт работает как программист мозга, чем человеческая рефлексия отличается от машинной — подсказка: не механизмом, а тем, откуда приходит сигнал, — и как собрать себе ИИ-собеседника, который задаёт правильные вопросы.
- Глава 13. Почему ИИ не нужны эмоцииВас подрезали на дороге. Резко, нагло, без поворотника. Что было дальше? Вы не раздумывали. Руки сжали руль, челюсть стиснулась, сердце заколотилось — тело всё сделало за долю секунды, до всякого решения. Эмоция — это не «душа» и не помеха разуму, а аварийный ответ медленного процессора в быстром и опасном мире. Глава о том, из чего эмоция собрана изнутри, кто на самом деле решает, что вы сейчас почувствуете, и почему машине, которая думает достаточно быстро, весь этот механизм просто не нужен. А понимание того, как он устроен, — ваше преимущество перед собственными реакциями.
- Глава 14. Как мозг программирует сам себяВы знаете, что пятое пирожное лишнее. Точно знаете: голова знает, диетолог объяснил, весы подтвердили. И вот вы стоите у холодильника в одиннадцать вечера — и берёте пятое пирожное. Знание не управляет поведением. Управляет другое: протоптанные тропинки, гормоны, которые не выключаются по команде, и опыт, записанный в мозг так криво, что переписать его простым решением нельзя. Глава о том, что общего у мозга и нейросети и почему травма — это кривое обучение. Хорошая новость в том, что тропинки протаптываются заново — и делается это не силой воли.
- Глава 15. Надёжное против нового: выбор, который вы делаете каждый деньНезнакомый город, первый вечер, вы голодны, вокруг два десятка кафе. Зайти в первое приличное — надёжно, скорее всего наедитесь. Или свернуть за угол, где может оказаться то самое место, о котором вы потом будете вспоминать годами. А может и не оказаться. Эту задачу вы решаете десятки раз в день, и не только про кафе: профессия, город, человек рядом. Глава о том, что выбор между надёжным и новым — строгая математическая задача, почему мудрость возраста тоже математика, зачем нужна скука и при чём тут душ. И о том, что внутри нейросети крутится ровно та же ручка — только в открытую.
- Глава 16. Золото дураков: что превращает бред в открытиеСтаратели знали злую шутку природы: на дне лотка вспыхивает жёлтое, тяжёлое, с металлическим блеском — а надавишь, и оно крошится. Пирит. Золото дураков. С идеями то же самое: снаружи гениальная догадка и полный бред блестят одинаково. Глава о ручке, которая отвечает за смелость мысли: где эта ручка стоит у человека и почему это беда, где у машины и почему это её сила, и как одолжить у неё главный трюк — сначала выпустить всё, включая ерунду, и только потом включить фильтр. Разница между бредом и открытием не в самой мысли, а в том, что с ней сделали дальше.
- Глава 17. Боль — налог на незаменимостьВ начале двухтысячных на улицах Лахора выступал мальчик лет десяти. Он ходил по углям, протыкал руку ножом насквозь, держал ладонь над огнём — с абсолютно скучающим лицом. Он не чувствовал боли. И умер, не дожив до пятнадцати. Глава о том, что боль — не изъян конструкции, а плата за то, что тело нельзя заменить; что она состоит из четырёх разных вещей, а не из одной; что у неё есть ручка громкости и эта громкость равна цене того, что боль бережёт. И о том, что из этого следует про машину, которой терять нечего.