Трагедия общин в три этажа
Увидел тред, где спрашивают: почему компании срать хотели на климат, когда наращивают использование ИИ? Ответы разделились на "потому что капитализм" и "потому что климатическая повестка — враньё", и раздражают оба лагеря, потому что сам вопрос наивный: в нём сидит вера, что где-то есть человек, который посмотрел на климат и решил на него забить.
Сразу оговорюсь, чтобы дальше не ждать морали: я сам за климат не особо переживаю. Меня в этой истории интересует не климат, а механика, потому что механика называется трагедией общин, и в случае с ИИ она собрана в несколько этажей.
Сама трагедия выглядит так. Есть деревенское пастбище, общее, и каждый пастух решает, выпустить ли на него ещё одну корову. Молоко от коровы достанется ему целиком, а вытоптанная трава распределится на всех, значит, корову надо добавлять. Так считает каждый, каждый считает правильно, и пастбище умирает. В этой конструкции нет злодея, есть набор корректных индивидуальных решений, сумма которых складывается в катастрофу.
Важная деталь: пастух, который решит поберечь пастбище, его не спасёт, а просто отдаст свою долю травы соседям. Отказ от хода в такой игре — не нейтралитет, а ход за противника.
Верхний этаж — государства, и он мой любимый, потому что государство всю жизнь продаёт себя как решение трагедий общин: без нас вы вытопчете все пастбища и перестреляете друг друга, поэтому платите налоги. Но допустим, одна страна решает притормозить развитие ИИ ради климата, а соседняя не решает. Через сколько-то лет у соседней преимущество в экономике, разведке и оружии, а климат всё равно испорчен, просто чужими дата-центрами. Издержки общие, преимущество индивидуальное, и единственный игрок, который претендовал на роль пастуха над пастухами, сам выводит корову.
Этаж ниже — корпорации, и тут всё короче: если одна компания в гонке замедлится ради ответственности, её место займёт та, которая не замедлится, и все участники это понимают.
И нижний этаж: сотрудники. Внутри корпораций сейчас полно людей, чей KPI звучит как "увеличить adoption ИИ в процессах" — не "решить задачу с помощью ИИ", а именно увеличить проникновение. Каждый из них тоже добавляет корову: лично ему достанутся перфревью и грейд, а счёт за электричество делится на всё человечество.
Тут обычно спрашивают, почему нельзя просто договориться. Вообще-то можно, потому что кооперация — это не доброта, а технология, но у любой технологии есть системные требования. Элинор Остром получила Нобелевку за исследование общин, которые веками не убивали свои пастбища: альпийские луга, испанские оросительные каналы. Везде работал один и тот же набор условий: игроки знают друг друга, играют повторно, нарушителя видно и его есть чем наказать. Деревня на сорок дворов эти требования выполняет, а две сотни государств и десяток корпораций, для которых проигрыш в гонке равен смерти, — нет: шерифа над ними не существует, а договор без шерифа держится до первого участника, которому выгодно его нарушить.
Так что когда в треде спрашивают "почему им насрать" — им не насрать. Внутри этих компаний хватает людей, которые искренне переживают про климат, просто они сидят внутри конструкции, где переживание ничего не меняет, а остановка означает уступить место тому, кто не остановился. Конкуренция без механизма принуждения съедает любую кооперацию, даже если все участники — приличные люди.
Ну и вывод для нижнего этажа. Помните: неважно, каким человеком вас запомнят, важно, насколько вы увеличили проникновение искусственного интеллекта в процессы своей корпорации.
3
