Time: Сэм Альтман — руководитель года
Авторы — журналисты Time: Наина Баджекаль и Билли Перриджио
OpenAI превратилась в космический корабль стоимостью 80 млрд долларов. Альтман стал одним из самых влиятельных и уважаемых руководителей в мире, публичным лицом и главным пророком технологической революции. Пока этот корабль чуть не взорвался.
Это был странный День благодарения для Сэма Альтмана. Обычно гендиректор OpenAI летает на праздники домой в Сент-Луис, чтобы навестить семью. Но на этот раз празднику предшествовала смертельная борьба за контроль над компанией, в руках которой, по мнению некоторых, оказалась судьба человечества. Альтман устал. Он поехал погулять на свое ранчо в долине Напа в Калифорнии, а затем вернулся в Сан-Франциско. Там он провел несколько часов с одним из членов совета директоров, который только что уволил и восстановил его в должности в течение пяти безумных дней. Он отложил компьютер на несколько часов, приготовил вегетарианскую пасту, включил громкую музыку и выпил вина со своим партнером Оливером Малхерином. «В 10 случаях из 10 это было безумие, но через него нужно было пройти, — рассказал Альтман журналу TIME 30 ноября. — Так что я до сих пор прихожу в себя после всего этого».
Мы беседуем ровно через год после того, как OpenAI выпустила Chat-GPT — самый быстро внедряемый технологический продукт за всю историю. Влияние чат-бота и его преемника GPT-4 стало поворотным — как для компании, так и для всего мира. «Для многих людей, — говорит Альтман, — 2023 год стал годом, когда они начали серьезно относиться к ИИ». Созданная как некоммерческая исследовательская лаборатория, занимающаяся созданием искусственного интеллекта на благо человечества, OpenAI превратилась в космический корабль стоимостью 80 млрд долларов. Альтман стал одним из самых влиятельных и уважаемых руководителей в мире, публичным лицом и главным пророком технологической революции.
Пока этот корабль чуть не взорвался. 17 ноября некоммерческий совет директоров OpenAI уволил Альтмана без предупреждения и особых объяснений. Последовавшие за этим сюрреалистические события заставили померкнуть даже сериал «Наследники». Сотрудники восстали. То же сделали и влиятельные инвесторы OpenAI. Один из них даже предположил, правда без всяких доказательств, что один из директоров, вышвырнувших Альтмана, — китайский шпион. Живущий в мире идей главный научный сотрудник компании проголосовал за отстранение своего коллеги-соучредителя, но затем передумал. Пришли и ушли два временных гендиректора. Участники спора размещали в соцсетях селфи, сердечки и даже открытое письмо. А сотрудники компании и совет директоров сошлись в «гигантской игре в “кто круче”», рассказал источник, знакомый с ходом конфликта. В какой-то момент весь коллектив OpenAI пригрозил уволиться, если совет директоров в течение нескольких часов не уйдет в отставку и не переназначит Альтмана, рассказали TIME три человека, участвовавших в противостоянии. Затем сам Альтман, похоже, собрался перейти в Microsoft — возможно, забрав с собой сотни коллег. Казалось, что компания, которая стала катализатором бума искусственного интеллекта, может рухнуть в одночасье.
В конце концов Альтман вернулся, а состав совета директоров был изменен. «Мы действительно чувствуем себя сильнее, сплоченнее и целенаправленнее, чем когда-либо, — говорит Альтман в последнем из трех интервью для TIME после второго дня нового срока на посту гендиректора. — Но мне бы хотелось оказаться здесь другим путем». Это была не обычная офисная битва, а OpenAI — не обычный стартап. Этот эпизод оставил нерешенными вопросы как о компании, так и о ее гендиректоре.
38-летний Альтман уже 10 лет входит в высший свет Силиконовой долины как стартапер-суперзвезда с безупречным характером. «Стива Джобса не уволить», — говорил бывший гендиректор Google Эрик Шмидт. И все же совет директоров это сделал: как выяснилось, Джобса однажды уволили из Apple, но затем вернули обратно. Пока ходили слухи об увольнении Альтмана, совет директоров говорил, что нет никаких сомнений в безопасности продуктов OpenAI, коммерциализации ее технологии или темпах ее исследований. Совет заявил, что «поведение Альтмана и отсутствие прозрачности при его взаимодействии с советом» подорвали его способность контролировать компанию в соответствии с его мандатом. Никаких примеров при этом приведено не было.
Интервью с более чем 20 людьми из окружения Альтмана, включая нынешних и бывших сотрудников OpenAI, нескольких топ-менеджеров и тех, кто тесно сотрудничал с ним на протяжении многих лет, рисуют сложную картину. Те, кто его знают, описывают Альтмана как приветливого, блестящего и необычайно целеустремленного менеджера, чей талант — объединять инвесторов и исследователей вокруг создания универсального искусственного интеллекта (AGI) на благо общества. Но четыре человека, которые работали с Альтманом на протяжении многих лет, говорят, что он может быть ненадежным, а временами вводить в заблуждение и обманывать. Два человека, знакомые с работой совета директоров, говорят, что Альтман умеет манипулировать людьми и не раз вел себя нечестно, чтобы заставить людей почувствовать, что он с ними согласен, хотя на самом деле это не так. Они считают такое поведение частью более широкой кампании по консолидации власти. «Во многих отношениях Сэм действительно хороший парень. Он не злой гений. Было бы легче рассказать эту историю, будь он ужасным человеком, — говорит один из них. — Он думает о миссии, он думает о других, он думает о человечестве. Но если смотреть на его поведение, то можно четко увидеть и то, что он действительно очень стремится к власти».
Представитель OpenAI заявил, что компания не может комментировать события, связанные с увольнением Альтмана. «Мы не можем раскрыть конкретные детали до завершения независимой проверки совета директоров. Мы с нетерпением ждем результатов проверки и продолжаем поддерживать Сэма, — сказал он в заявлении для TIME. — Нашей основной задачей по-прежнему остается разработка и выпуск полезного и безопасного искусственного интеллекта, а также поддержка нового совета директоров в его работе над улучшением нашей структуры управления».
Большую часть прошлого года Альтман убеждал общественность, что OpenAI несет серьезную ответственность за распространение своей могущественной технологии по миру. Одним из доказательств, которые он приводил, была необычная гибридная структура OpenAI: это коммерческая компания, управляемая некоммерческим советом директоров, который должен ставить ее миссию выше финансовых интересов. «Здесь нельзя никому доверять, — сказал Альтман на конференции Bloomberg Technology в июне. — Совет может меня уволить. Я думаю, это важно». Но когда это произошло, Альтман вернулся обратно. Казалось, это лишь подчеркнуло, что заявленная ответственность — мираж. Как можно доверять компании, в одночасье оказавшейся на грани самоуничтожения, безопасное внедрение технологии, которая, по мнению многих, может уничтожить всех нас?
Неясно, станет ли у Альтмана больше или меньше власти во время второго пребывания на посту гендиректора. С запуском ChatGPT компания зарекомендовала себя как лидер в своей сфере. В следующем году она планирует выпустить новые более функциональные версии. Но нет никакой гарантии, что OpenAI сохранит лидерство в отрасли, поскольку в передовые исследования в области ИИ вливают миллиарды долларов, а число конкурентов растет. Технологическая индустрия известна циклами ажиотажа — всплесками искусственно созданного интереса, которые позволяют венчурному капиталу получать прибыль от таких причуд, как виртуальная реальность или криптовалюта. Вполне возможно, что головокружительные темпы развития ИИ замедлятся, а возвышенные обещания об AGI не реализуются.
Но одна из главных причин противостояния внутри OpenAI — в том, что все полагают, что новый мир не просто приближается, а приближается быстро. Два человека, знакомые с обсуждениями внутри совета директоров, подчеркивают важность надзора за компанией, которая считает, что создает самую важную технологию в истории. Альтман считает, что AGI — система, во многих отношениях превосходящая человека — может быть создана в ближайшие четыре-пять лет. AGI может ускорить глобальную экономику, расширить границы научного познания и значительно улучшить уровень жизни миллиардов людей, создав будущее, которое будет сильно отличаться от прошлого. С этой точки зрения расширение нашего доступа к когнитивному труду, «получение доступа к более качественному интеллекту и идеям», как говорит Альтман, могло бы помочь решить все проблемы: от изменения климата до борьбы с раком.
Но это сопряжено и с серьезными рисками. У многих быстрый рост возможностей ИИ за последний год вызывает большую тревогу. Ученые-компьютерщики так и не решили то, что известно в отрасли как «проблема согласования» — задача обеспечения соответствия AGI человеческим ценностям. Нет согласия о том, кто должен определять эти ценности. Альтман и другие предупреждают, что улучшенный ИИ может представлять «экзистенциальные» риски, соответствующие по масштабу пандемии и ядерной войне. Именно в этих условиях совет директоров OpenAI решил, что ее гендиректору нельзя доверять. «Люди сейчас действительно начинают играть всерьез, — говорит Дэниел Колсон, исполнительный директор Института политики искусственного интеллекта (AIPI) и основатель стартапа, который поддерживает и Альтман. — Потому что ожидается, что окно возможностей для изменения траектории событий закрывается».
____________________
Ясное утро в начале ноября, Альтман выглядит взволнованным. Мы находимся за кулисами огромного зала в центре Сан-Франциско, где Альтман вскоре выступит перед примерно 900 участниками первой конференции разработчиков OpenAI. На нем серый свитер и яркие кроссовки Adidas Lego. Он благодарит мастера по технике речи, помогающего ему репетировать. «Это не мое, — говорит он. — Мне гораздо комфортнее за экраном компьютера».
Когда Альтман был в старших классах, то каждый вечер пятницы проводил за экраном Bondi Blue iMac. Он рос в еврейской семье среднего класса в пригороде Сент-Луиса. Он старший из четырех детей, их родители — риелтор и дерматолог. Альтман был одновременно занудным и самоуверенным. В подростковом возрасте он объявил себя геем, выступив перед всей старшей школой после того, как некоторые ученики вступили в спор со спикером Национального дня каминг-аута. В 2003 году он поступил в Стэнфорд, чтобы изучать информатику. К тому времени воспоминания о крахе акций «пузыря доткомов» уже стали угасать. В колледже Альтман увлекся покером, который, по его мнению, дал ему уроки психологии и риска. К тому моменту он понял, что хочет стать предпринимателем. Через два года он бросил вуз, чтобы работать над Loopt — соцсетью, которую он основал со своим тогдашним парнем Ником Сиво.
Loopt вошла в первую группу из восьми компаний, в которые вложился Y Combinator — ныне знаменитый акселератор стартапов. Компания была продана в 2012 году за 43 млн долларов, что принесло Альтману 5 млн долларов. Хотя прибыль была относительно скромной, он усвоил кое-что важное. «Чтобы добиться цели, нужно просто быть чертовски настойчивым», — сказал Альтман в интервью Vox. Те, кто его знают, говорят, что Альтман постоянно чувствует себя обязанным решать проблемы, большие и малые. «Как только он узнает о проблеме, он действительно хочет ее решить», — говорит его партнер Малхерин, австралийский инженер-программист, ставший инвестором. Или, как говорит сам Альтман: «Улучшения бывают лишь тогда, когда люди приходят и делают. Никто другой не придет, чтобы спасти положение. Ты просто обязан это сделать».
Сооснователь YC Пол Грэм заметил в Альтмане редкое сочетание стратегического таланта, амбиций и упорства. «Вы могли бы спустить его с парашютом на остров, полный каннибалов, и вернуться через пять лет. Он стал бы там королем», — писал Грэм об Альтмане, когда тому было всего 23 года. В феврале 2014 года Грэм назначил своего протеже, которому тогда было 28 лет, в преемники в качестве президента YC. К тому времени, когда Альтман взял бразды правления, YC взрастила такие стартапы, как Airbnb, Stripe и Dropbox. Но у нового шефа было более широкое видение. Он хотел расширить деятельность YC за пределы программного обеспечения и перейти к hard tech — стартапам, технология которых может быть еще даже не создана, но где успешные инновации могут принести триллионы долларов и изменить мир.
Вскоре после того, как Альтман стал главой YC, он посетил штаб-квартиру стартапа по ядерному синтезу Helion в Редмонде, штат Вашингтон. Ее глава Дэвид Киртли вспоминает, что Альтман пришел со стопкой учебников по физике и расспрашивал его о конструкции прототипа реактора Helion. Что бросалось в глаза, вспоминает Киртли, так это одержимость Альтмана масштабируемостью. Если предположить, что вы сможете решить научную проблему, сможете ли вы быстро построить достаточно реакторов, чтобы удовлетворить энергетические потребности США? А мира? Helion была одной из первых высокотехнологичных компаний, присоединившихся к YC. Альтман также выписал от себя лично чек на 9,5 млн долларов. С тех пор он перевел Helion еще 375 млн долларов — это его крупнейшая личная инвестиция. «Я думаю, что это ответственность капитализма, — говорит Альтман. — Вы делаете большие жесты в делах, которые должны быть сделаны».
Стремление Альтмана к термоядерному синтезу дает понять ошеломляющие масштабы его амбиций. Он вложил 180 млн долларов в Retro Biosciences — стартап долголетия, стремящийся добавить к жизни человека 10 здоровых лет. Он придумал и помог основать Worldcoin — систему биометрической идентификации с привязанной к ней криптовалютой, которая собрала сотни миллионов долларов. Через OpenAI Альтман потратил 10 млн долларов на проведение самого продолжительного исследования безусловного базового дохода (ББД) в любой точке США. Среди 3000 участников были распределены более 40 млн долларов. Первые результаты исследования планируют представить в 2024 году. Интерес Альтмана к ББД говорит об экономических потрясениях, которые, по его ожиданиям, принесет ИИ. Хотя он и говорит, что это «ни в коем случае не является достаточным решением проблемы».
Предприниматель был настолько встревожен приходом к власти в США Дональда Трампа, что в 2017 году рассматривал возможность баллотироваться на пост губернатора Калифорнии. Сегодня Альтман преуменьшает те планы как «очень легковесные». Но Мэтт Крисилофф, в то время старший помощник Альтмана, говорит, что они шесть месяцев создавали фокус-группы по всему штату, чтобы улучшить свою политическую платформу. «Это была не просто легкомысленная идея», — говорит Крисилофф. Альтман опубликовал политическую программу из 10 пунктов, которую назвал United Slate («Единый список»). Среди ее целей было снижение стоимости жилья, медицинская страховка для всех, налоговая реформа и амбициозные планы в сфере зеленой энергии. В конце концов он отказался от смены карьеры. «Мне было ясно, что я гораздо лучше подхожу для работы над ИИ, — говорит Альтман. — И что, если мы сможем добиться успеха, это будет для меня гораздо более интересным и эффективным делом».
Но он по-прежнему очень интересуется политикой. Убеждения Альтмана сформированы теориями политэкономиста конца XIX века Генри Джорджа, который сочетал веру в силу рыночных стимулов, обеспечивающих рост благосостояния, с пренебрежением к тем, кто спекулирует на дефицитных активах, таких как земля, вместо того, чтобы инвестировать в прогресс. По словам Альтмана, на недавних встречах с мировыми лидерами он выступал за введение налога на стоимость земли (классическая джорджистская политика).
На вопрос во время экскурсии по штаб-квартире OpenAI, есть ли у него видение будущего, которое поможет логично объединить его различные инвестиции и интересы, Альтман ответил просто: «Изобилие, вот и все». Стремление к синтезу и сверхразуму — краеугольный камень более справедливого и процветающего будущего, которое он себе представляет. «Если мы получим изобилие интеллекта и энергии, — говорит он, — это поможет людям больше, чем все остальное, что я могу помыслить».
_______________
Альтман начал серьезно задумываться об AGI около 10 лет назад. В то время «это считалось карьерным самоубийством», говорит он. Но Альтман беседовал об этом с Илоном Маском, который также считал, что машины, которые станут умнее человека, — это не только неизбежно, но и опасно, если их создадут корпорации, гонящиеся за прибылью. Оба опасались, что Google останется доминирующим игроком в этой области. Корпорация уже опередила Маска, когда тот хотел приобрести ведущую исследовательскую лабораторию искусственного интеллекта DeepMind в 2014 году. Альтман и Маск мечтали о некоммерческой лаборатории искусственного интеллекта, в которой сложился бы этический баланс. Это стало бы гарантией того, что технология принесет пользу не только акционерам, но и человечеству в целом.
Летом 2015 года Альтман отыскал Илью Суцкевера — звездного исследователя машинного обучения в Google Brain. Они поужинали в Counter — бургерной недалеко от штаб-квартиры Google. Когда они расстались, Альтман сел в машину и подумал: «Я должен работать с этим парнем». Он и Маск проводили целые ночи и выходные в поисках талантов. Альтман ездил в Беркли, чтобы прогуляться с аспирантом Джоном Шульманом. Обедал с техническим директором Stripe Грегом Брокманом. Встретился с ученым-исследователем искусственного интеллекта Войцехом Зарембой. Провел общий ужин с Маском и другими в отеле Rosewood в Менло-Парке, Калифорния. Там начала обретать форму идея о том, как может выглядеть новая лаборатория. «Этот подбор кадров подобен началу фильма, — говорит Альтман, — где вы пытаетесь заставить разношерстную команду мелких неудачников сделать что-то сумасшедшее».
OpenAI была открыта в декабре 2015 года. У нее было шесть соучредителей: Альтман, Маск, Суцкевер, Брокман, Шульман и Заремба. И инвестиции на 1 млрд долларов, обещанные такими известными инвесторами, как Рид Хоффман, Питер Тиль и Джессика Ливингстон. В первые годы существования OpenAI Альтман оставался президентом YC и участвовал в работе лишь удаленно. У OpenAI не было гендиректора, ее фактическими руководителями были Брокман и Суцкевер. Офис разместился на бывшей фабрике по производству чемоданов в районе Мишн в Сан-Франциско. Исследовательская группа Суцкевера набрасывала идеи, чтобы увидеть, какие из них приживутся. «Это была блестящая компания лучших людей в этой сфере, — говорит Крисилофф. — В то же время не всегда было ощущение, что они знают, что делают».
В 2018 году OpenAI обнародовала свой устав — набор ценностей, которые кодифицировали ее подход к созданию AGI в интересах человечества. В основе документа лежало противоречие между верой в безопасность и необходимостью в скорости. «Фундаментальное убеждение, мотивирующее OpenAI, заключается в том, что эта технология неизбежно будет существовать. Поэтому мы должны выиграть гонку за ее создание, чтобы контролировать условия ее интеграции в общество в позитивном ключе, — говорит бывший сотрудник. — Миссия по обеспечению безопасности требует, чтобы ты победил. Если ты не выиграешь, не имеет значения, что ты был хорош». Альтман не согласен с тем, что OpenAI нужно опережать конкурирующие лаборатории, чтобы выполнить свою миссию. Однако и он говорит: «Я думаю, что мы заботимся о хороших результатах AGI больше, чем другие».
Одним из ключей к победе стал Суцкевер. Главный научный сотрудник OpenAI имел почти религиозную веру в нейросеть. Это тип алгоритма ИИ, который обрабатывает большие объемы данных и может автономно обнаруживать основные закономерности. Суцкевер считал, что именно эти сети, хотя они тогда и были примитивны, могут привести к созданию AGI. «Концепции, закономерности, идеи и события каким-то сложным образом размазаны в данные, — сказал Суцкевер журналу TIME в августе. — Поэтому, чтобы предсказать, что будет дальше, нейросеть должна каким-то образом узнать об этих концепциях и о том, как их отследить. И в этом-то процессе эти концепции и воплощаются в жизнь».
Чтобы идти по методу Суцкевера и следовать уставу, OpenAI потребовалась огромная вычислительная мощь. Им также были нужны деньги. К 2019 году OpenAI собрала только 130 млн из первоначально обещанного 1 млрд долларов. Маск ушел из фирмы после неудачной попытки стать гендиректором и отозвал обещанные инвестиции. Альтман, который в то время все еще руководил YC, всеми силами пытался укрепить финансы OpenAI. Поначалу он сомневался, что какой-либо частный инвестор станет вкладывать деньги в проект в нужном объеме и темпе. Он считал, что лучшим вариантом будет правительство США с его историей финансирования программы «Аполлон» и Манхэттенского проекта. Как говорит Альтман, после серии обсуждений, «постучав в каждую дверь», он был удивлен, обнаружив, что «шансы на это равны нулю». Он пришел к убеждению, что «проделать это все до конца придется рынку».
Опасаясь порочных стимулов, которые могут возникнуть, если инвесторы получат контроль над разработкой AGI, Альтман и команда обсуждали различные формы структуры компании. Они остановились на необычном варианте: OpenAI создаст дочернюю компанию с «ограниченной прибылью», которая сможет привлекать средства инвесторов, но сама будет управляться некоммерческим советом. Первые инвесторы OpenAI подписали документы, подтверждающие, что они могут получить доход, в 100 раз превышающий их инвестиции, причем любые суммы выше этого значения перейдут в некоммерческую организацию. Изначальный идеал компании — исследовательская лаборатория, освобожденная от коммерческих соображений — просуществовал меньше четырех лет.
Альтман тратил все больше времени на размышления о финансовых проблемах OpenAI и пропадал в ее офисе. Брокман и Суцкевер призывали его перейти к ним на постоянную работу. «У OpenAI никогда не было генерального директора, — говорит он. — Я делал эту работу примерно в 30% случаев, но не очень хорошо». Он беспокоился, что лаборатория находится на переломном этапе и без надлежащего руководства «может просто распасться». В марте 2019 года было объявлено о реструктуризации компании, а Альтман покинул YC и официально занял пост гендиректора OpenAI.
Альтман настаивает, что эта новая структура была «наименее плохой идеей» из обсуждавшихся. Решение было по-своему элегантным: оно позволило компании получить столь необходимые деньги от инвесторов и одновременно продемонстрировать приверженность добросовестной разработке ИИ. Альтман воплощал собой обе эти цели — чрезвычайно талантливый фандрайзер и вдумчивый руководитель разработки потенциально эпохальной технологии.
Альтману не понадобилось много времени, чтобы получить от Microsoft 1 млрд долларов. Сейчас этот показатель вырос до 13 млрд. Реструктуризация компании и сотрудничество с Microsoft существенно изменили облик OpenAI, говорят трое бывших сотрудников. Работники стали получать акции как часть оплаты труда. Некоторые сторонники некоммерческого характера фирмы считают, что уже это создало для сотрудников стимул максимизировать стоимость компании. По словам человека, знакомого с программой вознаграждений, объем акций, который передали сотрудникам, был очень щедрым по стандартам отрасли. Некоторые беспокоились, что OpenAI превращается в традиционную технологическую компанию. «Мы постоянно разбрасываемся идеями на миллиарды долларов», — говорит вице-президент по персоналу Дайан Юн.
Инвестиции Microsoft расширили возможности OpenAI по масштабированию. Инновация от Google, известная как «преобразователь», стала еще одним прорывом. Она сделала нейросети гораздо эффективнее в обнаружении закономерностей данных. Исследователи OpenAI начали обучать первые модели серии GPT (generative pre-trained transformer, производящий предобученный преобразователь). С каждой итерацией модели значительно улучшались. GPT-1, обученный на текстах около 7000 книг, мог лишь составлять предложения. GPT-2, обученный на 8 млн веб-страниц, мог отвечать на вопросы. GPT-3, обученный сотням миллиардов слов из интернета, книг и Википедии, мог писать стихи.
Альтман вспоминает прорыв 2019 года, который открыл огромные возможности. По его словам, эксперимент по изучению «законов масштабирования», лежащих в основе взаимосвязи между вычислительной мощью, затраченной на обучение ИИ, и его результирующими возможностями, дал серию «идеальных гладких графиков». Это были своего рода экспоненциальные кривые, которые больше напоминали фундаментальный закон Вселенной, чем экспериментальные данные. Это случилось в сумерках прохладной июньской ночью. Группу исследователей, собравшихся возле офиса OpenAI, осенило общее осознание: AGI не просто возможен, но, вероятно, появится раньше, чем кто-либо из них думал раньше. «Мы все подумали: “Это действительно произойдет”. — говорит Альтман. — Это было похоже на один из тех моментов из истории науки. Теперь мы знаем что-то новое и собираемся рассказать об этом человечеству».
Это осознание способствовало изменению способа выпуска технологий OpenAI. К тому времени компания уже отказалась от изначального принципа открытости, признав, что все более мощный ИИ с открытым исходным кодом может использоваться преступниками и быть вреден для бизнеса. Когда компания создала GPT-2 в 2019 году, она сначала отказалась обнародовать эту модель, опасаясь, что та может оказать разрушительное влияние на общественный дискурс. Но в 2020 году компания решила постепенно распространять свои инструменты среди все большего числа людей. Доктрина получила название «постепенное развертывание». Это позволило OpenAI собирать данные о том, как ИИ используется обществом, и в ответ на это создавать более эффективные механизмы безопасности. Это постепенно познакомит публику с технологией, пока она будет еще сравнительно сырой, и даст людям время адаптироваться к монументальным изменениям, которые предвидел Альтман.
Постепенное развертывание сработало. Это дало OpenAI решающее преимущество в безопасных моделях и в конечном счете открыло миру силу ИИ. Верно и то, что это было чрезвычайно полезно для бизнеса. Этот подход поразительно похож на проверенную стратегию YC для успеха стартапа — создание так называемого минимально жизнеспособного продукта. Создайте крутую демо-версию, привлеките небольшую группу пользователей, которым она нравится, и улучшайте ее на основе их отзывов. И выпускайте ее в мир. И в конечном итоге — если вам повезет и вы сделаете все правильно — это привлечет больше пользователей, зажжет запал ажиотажа в СМИ и позволит собрать огромные деньги. Это было частью мотивации, рассказывает Брокман журналу TIME. «Мы знали, что нам нужно привлечь дополнительный капитал, — говорит он. — Создание продукта — это и есть, на самом деле, достаточно простой способ сделать это».
Некоторые беспокоились, что постепенное развертывание ускорит опасную гонку вооружений в области ИИ, а коммерческие проблемы омрачат приоритет безопасности OpenAI. Несколько человек, близких к компании, считали, что OpenAI отходит от первоначальной миссии. «У нас было множество обсуждений на эту тему в совете директоров и огромное количество внутренних переговоров», — говорит Альтман. Но решение было принято. В 2021 году семь несогласных сотрудников уволились и основали конкурирующую лабораторию под названием Anthropic, которую возглавил Дарио Амодей, ведущий исследователь безопасности OpenAI.
В августе 2022 года OpenAI завершила работу над GPT-4. Топ-менеджеры обсуждали ее выпуск с удобным базовым интерфейсом чата. Альтман считал, что это «было бы слишком громкой одномоментной бомбой». Он предложил запустить чат-бот с GPT-3.5 — моделью, которая была доступна с весны — чтобы люди могли к ней привыкнуть, а GPT-4 выпустить через несколько месяцев. По словам Альтмана, решения в компании обычно предполагают длительный срок обсуждения, в ходе которого топ-менеджеры приходят к консенсусу. Иначе обстояло дело с запуском того, что в конечном итоге стало самым быстрорастущим продуктом в истории технологий. «В данном случае, — вспоминает он, — я отправил в корпоративный мессенджер Slack сообщение со словами: “Да, давайте сделаем это”». В ходе мозгового штурма перед запуском 30 ноября Альтман изменил рабочее название с Chat With GPT-3.5 на немного более содержательное ChatGPT. Глава отдела продаж OpenAI получила сообщение в Slack о том, что команда разработчиков тихо запустила «сдержанную предварительную исследовательскую версию», которая вряд ли повлияет на продажников.
Никто в OpenAI не мог и представить, что будет дальше. Через пять дней число пользователей ChatGPT превысило 1 млн. Сейчас он насчитывает 100 млн пользователей — порог, на достижение которого Facebook потребовалось 4,5 года. Внезапно OpenAI стал самым популярным стартапом в Силиконовой долине. В 2022 году доход OpenAI составлял 28 млн долларов. В этом году компания зарабатывала 100 млн в месяц. Она начала нанимать сотрудников, увеличив штат более чем вдвое. В марте она реализовала план Альтмана по выпуску GPT-4. Новая модель намного превосходила возможности ChatGPT. В отличие от предшественницы она могла описывать содержимое изображения, писать наиболее надежный код на всех основных языках программирования и проходить стандартизированные тесты. На попытки конкурентов повторить успех OpenAI потрачены миллиарды долларов. «Мы определенно ускорили гонку», — говорит Альтман.
Гендиректор OpenAI внезапно стал мировой звездой. Он казался уникальным проводником в различные области мира искусственного интеллекта. «Я думаю, что если эта технология пойдет не туда, а она может пойти не совсем туда, и мы хотим открыто об этом заявить», — сказал Альтман на слушаниях в Сенате США в мае. В том же месяце Альтман отправился в мировое турне, посетив Израиль, Индию, Японию, Нигерию, Южную Корею и ОАЭ. Альтман выступил по видеосвязи и на конференции в Пекине. Так много чиновников и политиков хотели увидеться с ним, что «в итоге мы каждый день проводили вдвое больше встреч, чем было запланировано», говорит глава отдела международных отношений Анна Маканджу. ИИ занял важное место в политической повестке дня: был принят указ Белого дома, прошел глобальный саммит по безопасности ИИ в Великобритании, были попытки систематизировать стандарты ИИ в ООН, Большой семерке и Африканском союзе.
______________________
Когда Альтман вышел на сцену на конференции разработчиков OpenAI в ноябре, казалось, ничто не может его сломить. Под аплодисменты он объявил, что OpenAI движется к будущему автономных «агентов» ИИ, способных действовать от имени пользователя. Два дня спустя в интервью журналу TIME он сказал, что, по его мнению, шансы на то, что ИИ уничтожит человечество, не только низки, но и снизились за последний год. Он считал, что рост осведомленности о рисках и очевидная готовность правительств к координации — положительное развитие, вытекающее из стратегии OpenAI по постепенному развертыванию. Хотя мир и обсуждает вероятность того, что ИИ уничтожит цивилизацию, Альтман настроен более оптимистично. Шансы «ненулевые», признает он, но «низкие, если мы сможем предпринять все правильные действия». Сейчас ему не дает спать по ночам нечто гораздо более прозаичное: бродячий койот занял территорию у его дома в Сан-Франциско стоимостью 27 млн долларов. «Этот койот хотел зайти в мой дом и расцарапал дверь снаружи, — говорит он, а затем берет iPhone и парой нажатий переворачивает экран, показывая фото животного, развалившегося на уличном диване. — Это очень мило, но ночью очень раздражает».
Поскольку Альтман излучал уверенность, беспокойство в совете директоров росло. За предыдущие месяцы совет сократился с девяти до шести человек. В результате осталась экспертная группа, состоящая из трех сотрудников OpenAI (Альтмана, Суцкевера и Брокмана), и три независимых директора: Адам Д’Анджело, гендиректор сайта вопросов и ответов Quora; Таша МакКоли, технологический предприниматель и ученый в Rand Corp.; и Хелен Тонер, эксперт по политике искусственного интеллекта в Центре безопасности и новых технологий Джорджтаунского университета.
По словам трех человек, знакомых с ходом дискуссии, экспертная группа спорила о том, кем заменить трех ушедших членов совета. В течение некоторого времени — постепенно и с разной скоростью — трое независимых директоров и Суцкевер начали беспокоиться из-за поведения Альтмана. Тот имел склонность стравливать людей друг с другом, чтобы добиться желаемого результата, заявили два человека, знакомых с дискуссиями внутри совета. Они также говорят, что Альтман пытался обеспечить, чтобы весь поток информации шел через него. «У него есть склонность рассказывать о вещах несколько фрагментировано», — говорит один из них. По его словам, из-за этого трудно понять, какую позицию занимают другие. В какой-то степени это нормально для бизнеса, но, по словам источника, Альтман перешел определенные границы, из-за чего совету стало все труднее контролировать компанию и его самого.
Один из примеров произошел в конце октября. Тогда была опубликована научная статья, которую Тонер написала в Джорджтауне. Альтман счел это критикой усилий OpenAI по обеспечению безопасности и попытался вытеснить Тонер из совета. Альтман сказал одному из членов, что другой считает, будто Тонер нужно немедленно уволить. Но это была неправда, рассказали два источника, знакомых с ходом дискуссии.
По словам этих людей, не этот эпизод послужил толчком к решению совета директоров уволить Альтмана. Но он был типичным примером того, как тот пытался подорвать хорошее управление. Этот и еще несколько инцидентов убедили четверку скептиков в том, что они не могут выполнять свой долг надзора за безопасностью OpenAI, если не могут доверять Альтману. Как только директора приняли решение, они почувствовали, что нужно действовать быстро. Они опасались, что Альтман обнаружит, что что-то не так, начнет мобилизовать сторонников или попытается подорвать доверие к ним. «Как только у него появилось подозрение, что этот вопрос может обсуждаться удаленно, — говорит другой человек, знакомый с дискуссиями совета директоров, — он применил все свои навыки и способности».
Вечером в четверг, 16 ноября, Суцкевер попросил Альтмана встретиться в полдень следующего дня. В назначенное время Альтман позвонил Суцкеверу в Google Meet. На встрече присутствовал весь совет, кроме Брокмана. Суцкевер сообщил Альтману, что его увольняют и что эта новость будет обнародована в ближайшее время. «Это действительно было похоже на жуткий сон. Гораздо больше, чем я ожидал», — рассказал Альтман журналу TIME.
Заявление совета директоров было кратким: Альтман «не всегда был откровенен в общении с советом директоров, что ограничивает его способность выполнять свои обязанности». «Правление больше не уверено в его способности продолжать возглавлять OpenAI», — говорилось в заявлении.
Альтману заблокировали доступ к рабочему компьютеру. Он обратился к своим инвесторам и старшим товарищам, сообщив, что планирует основать новую компанию. Он рассказал TIME, что получил так много сообщений, что его iMessage сломался. Совет директоров ожидал давления со стороны инвесторов и СМИ. Но они неправильно оценили реакцию внутри самой компании. Отчасти потому, что у них были основания полагать, что топ-менеджмент отреагирует иначе. Как рассказали два человека, знакомых с позицией совета директоров, решение об увольнении Альтмана было известно топ-менеджменту. Они сами делились различными опасениями по поводу поведения Альтмана и его влияния на культуру компании.
По словам людей, знакомых с ходом разбирательства, правила конфиденциальности не позволили совету оглашать подробности поведения Альтмана. Но нехватка примеров «отсутствия откровенности», которое совет назвал толчком к увольнению Альтмана, вызвала массу предположений о том, что это вызвано личной неприязнью, идеологическим спором или, возможно, явной некомпетентностью. Совет уволил Альтмана из-за «придирки и даже близко не ведущего к увольнению нарушения», говорит Рон Конвей, основатель SVAngel и старший товарищ, кому Альтман одним из первых позвонил после увольнения. «Со стороны совета директоров безрассудно и безответственно увольнять основателя по эмоциональным причинам», — считает он.
Уже через несколько часов сотрудники компании пригрозили уволиться, если совет не уйдет в отставку и не даст Альтману вернуться. Под огромным давлением на следующее утро совет обратился к Альтману, чтобы обсудить возможные действия. Альтман характеризует это как просьбу вернуться. «Я испытал целый ряд эмоций. Сначала я был дерзким, — говорит он. — Но затем довольно быстро появилось чувство долга и обязанности, а также желание сохранить то, что меня так волновало». Источники, близкие к совету директоров, по-разному описывают этот маневр, называя его попыткой обсудить пути стабилизации компании до того, как она развалится.
Переговоры продолжались почти 48 часов. Мира Мурати, технический директор OpenAI, занявшая пост временного гендиректора, присоединилась к остальному топ-менеджменту компании, выступив за возвращение Альтмана. Поэтому вечером в воскресенье, 19 ноября, совет директоров назначил нового временного гендиректора — Эммета Шира, бывшего гендиректора Twitch. Глава Microsoft Сатья Наделла объявил, что Альтман и Брокман присоединятся к Microsoft, чтобы основать новое передовое подразделение ИИ. Microsoft сообщила, что к участию приглашаются и любые сотрудники OpenAI. После спора в слезах с женой Брокмана Суцкевер изменил позицию. «Я глубоко сожалею об участии в действиях совета директоров», — написал он рано утром 20 ноября.
К концу того дня почти все из 770 сотрудников OpenAI подписали открытое письмо, в котором заявили о намерении уйти, если Альтман не будет восстановлен на работе. Та хитрость, которая делает Альтмана столь талантливым предпринимателем, сделала его и грозным противником в подобном противостоянии, способным завоевать лояльность огромной части компании даже после ухода.
И хотя миссия — мощный стимул для сотрудников OpenAI, не менее важны и деньги. Почти каждый штатный сотрудник OpenAI имеет финансовый интерес в успехе компании, включая бывших членов совета директоров Брокмана и Суцкевера. Сам Альтман получает зарплату в 65 000 долларов и не имеет собственного капитала, кроме косвенных инвестиций через свою долю в YC. Но буквально на следующую неделю после его увольнения были запланированы торги, на которых сотрудники OpenAI могли продать сторонним инвесторам свою часть акций, общая стоимость которых достигает 86 млрд долларов. Сотрудники, которые уже в декабре должны были заработать миллионы, опасались, что эта возможность исчезнет. «Это беспрецедентная история, когда компания потенциально может обанкротиться, если все уйдут, — говорит один из людей, знакомых с дискуссиями совета директоров. — Неудивительно, что сотрудники объединились перед лицом этой конкретной угрозы».
В отличие от сотрудников, трое оставшихся членов совета директоров, которые стремились сместить Альтмана, работали в других местах, не имели финансовой доли в компании и не участвовали в ее повседневной работе. Обычный совет директоров коммерческой компании принимает решения на основе квартальных отчетов о прибыли и цене акций, а также заботясь об акционерной стоимости. Но работа совета директоров OpenAI заключалась в том, чтобы гарантировать, что компания действует в интересах человечества. Эта миссия крайне расплывчата, ей очень трудно следовать, когда на кону такие деньги. Но вне зависимости от того, принял ли совет правильное решение, его нежелание или неспособность привести примеры того, что они сочли проблемным поведением Альтмана, означало, что они вдребезги проиграют битву в коммуникации с обществом. Создалось впечатление, что совет, созданный для контроля за властью гендиректора, сам захватил невероятную власть.
В конце концов, оставшиеся члены совета директоров добились некоторых уступок в соглашении о возвращении Альтмана на пост гендиректора. Новый независимый совет будет курировать расследование его поведения и решения об увольнении. Альтман и Брокман не вернутся в совет. Д’Анджело останется, а остальные независимые директора уйдут. Это был триумф для топ-менеджмента OpenAI. «Высшие интересы компании и ее миссия всегда стоят на первом месте. Понятно, что между мной и членами совета возникло недопонимание, — написал Альтман в X. — Я приветствую независимую проверку советом всех последних событий».
За двое суток до Дня Благодарения сотрудники собрались в штаб-квартире, попивая шампанское. Брокман опубликовал селфи с десятками коллег с подписью: «Мы вернулись».
_____________
Через десять дней после того, как было достигнуто соглашение об их возвращении, топ-менеджеры OpenAI проявили решимость. «Я думаю, все чувствуют, что у нас есть второй шанс действительно выполнить свою миссию. С этим согласны все», — говорит Брокман. Но компанию ждет капитальный ремонт. Будущее Суцкевера в ней туманно. В новый совет директоров вошли экс-председатель правления Twitter Брет Тейлор, бывший министр финансов США Ларри Саммерс и Д’Анджело. Совет снова расширится до девяти членов и внимательно рассмотрит управление компанией. «Очевидно, что нынешняя ситуация была не очень хорошей», — говорит Альтман.
OpenAI пыталась создать структуру, обеспечивающую независимый контроль, но потерпела неудачу. «Из всего этого ясно видно, что мы не провели надлежащую работу по решению проблемы управления ИИ, — говорит Дивья Сиддарт, соучредитель НКО «Проект “Коллективный разум”», которая занимается этой проблемой. — Это привело к тому, что очень немногие люди принимают чрезвычайно важные решения совершенно непрозрачным способом. И всем это нормально, пока оно не взорвется».
Вернувшись в кресло гендиректора, Альтман говорит, что его приоритеты — стабилизация компании и ее отношений с внешними партнерами после фиаско, удвоение усилий в определенных областях исследований после масштабного расширения в прошлом году, а также поддержка нового совета директоров в улучшении управления. Как это будет выглядеть, остается неясным. «Если бы оракул сказал: “Вот способ создать структуру, которая лучше всего подойдет человечеству”, — было бы здорово», — говорит Альтман.
Какую бы роль он ни сыграл в будущем, за ним будут пристальнее следить. «Я думаю, эти события превратили его в глазах общества в политического деятеля, каким он не был раньше», — говорит глава AIPI Колсон. Он считает, что этот эпизод подчеркнул опасность терпимых к риску технократов, делающих выбор, который влияет на всех нас. «К сожалению, это та динамика, на которую настроен рынок», — сетует он.
Но пока что Альтман, похоже, остается ведущим архитектором технологии, потенциально меняющей мир. «Создание сверхинтеллекта станет проектом всего общества, — говорит он. — Мы хотели бы быть одними из создателей, но это не будет делом одной компании. Это будет намного больше, чем любая компания. И я думаю, мы сможем внести свой вклад, несмотря ни на что. Если только мы действительно сильно не облажались».
