Мне на выходных попалась рассылка проекта 80000 Hours, которая позволила чуть вынырнуть из состояния AI-психоза (об этом в другой раз) и посмотреть на происходящее из мета-позиции.
Проект 80,000 Hours — а примерно столько часов мы работаем работу за всю свою жизнь — помогает осмысленно выбрать, на что потратить эти часы. Рекомендую его тем, кто думает, какую карьеру выбрать (а не нам, прожжённым жертвам капитализма и ветеранам корпоративных лестниц).
Его основатель, Бенджамин Тодд, написал пост о том, как обычному человеку подготовиться к AGI.
Там семь рекомендаций:
- Копи деньги.
- Учись навыкам, которые дополняют AI, а не конкурируют с ним
- Найди людей, которые понимают, что происходит — как в ковид, когда было критически важно иметь рядом тех, кто на шаг впереди
- Вкладывайся в своё ментальное здоровье — потому что впереди, возможно, десятилетия турбулентности, по сравнению с которой ковид покажется разминкой (уж мы-то знаем — кто после конца 2021 года вообще помнит про ковид?).
Всё это разумно, но не ново. А вот последний пункт меня зацепил:
Отложи всё, что можно отложить на три года
Тодд формулирует так: взрыв интеллекта (intelligence explosion) либо начнётся в ближайшие шесть лет, либо займёт значительно больше времени. Но через три года мы будем знать намного больше.
Поэтому: всё, что можно отложить — отложи. И сфокусируйся на том, что хочешь иметь к моменту, как мир, возможно, перевернётся.
Три года? — спросишь ты. Следи за руками, — скажет Тодд.
CEO всех трёх крупнейших AI-лабораторий за последний год радикально сдвинули прогнозы:
- Альтман: «ранние версии суперинтеллекта — возможно, к 2028»
- Амодей: «мощные capabilities за 2-3 года»
- Хассабис перешёл от «лет через десять» к «3-5 лет»
На coding-задачах AI за четыре года вырос в автономности от секундных операций до многочасовых проектов — экстраполяция даёт многонедельные автономные задачи к 2028-му.
Но вот что важно: экспоненциальный рост инвестиций, мощностей и кадров в AI, который идёт сейчас, не может продолжаться бесконечно. Либо тренды конвертируются в прорыв до конца десятилетия, либо упрутся в потолок. Третьего не дано, утверждает Тодд.
И если это так — к 2028–2029 будет сильно понятней, приведёт ли текущее развитие технологий нас в AGI-будущее, где прежние правила перестают действовать. Либо — текущая волна GenAI, impressive as it is, не перевернёт мир, и тогда он будет похож на тот, в котором мы живём сейчас (как бы он ни был несовершенен).
Мне это кажется редким случаем, когда из хаоса AI-повестки вырастает не просто разговор формата «мы все вознесёмся / мы все умрём», а понятный и потенциально actionable фрейм, на который можно опираться в принятии решений. Не «бросай всё и переучивайся на промпт-инженера». Не «AI — пузырь, расслабься». А: у тебя есть окно в три года, чтобы понять, в каком мире ты живёшь. Используй его. Или, наоборот, не суетись.
Верите в подобный подход? Я вот не определился — слишком уж невыносимо для моего невротизма звучат условные три года бездействия. Хотя, может, именно это нам всем и нужно.