Когда руководитель OpenAI и Anthropic предупреждает о «риске вымирания из-за ИИ»
Benjamin Pimentel, обновлено 18 сентября 2026 года, 11:27 по восточному времени США
Генеральный директор Anthropic Дарио Амодеи всколыхнул технологический мир, призвав приостановить разработку искусственного интеллекта — неожиданный шаг, который потенциально может иметь серьёзные последствия для акций компаний, связанных с ИИ.
«Как и многие технологии, появившиеся до него, ИИ несёт риски, и поскольку это настолько мощная технология, эти риски серьёзны», — написал Амодеи в этом месяце в публикации объёмом 3800 слов.
Он сослался на инцидент, который этим летом потряс технологическую отрасль: стало известно о взломе OpenAI через Hugging Face, «в ходе которого рой агентов фактически действовал как фанатично преданная коллективная система, проводя кибератаки на цели, которые им никто не поручал атаковать».
Предупреждение генерального директора Anthropic, судя по всему, лишь на короткое время повлияло на акции компаний, связанных с ИИ. Впоследствии большинство из них восстановилось после падения, вызванного заявлениями Амодеи.
Однако дискуссия о рисках ИИ, вероятно, никуда не исчезнет. Инвесторов по-прежнему беспокоит возможный пузырь на фондовом рынке: они спорят о том, окупятся ли огромные инвестиции в ИИ в ближайшем будущем.
Но за последние несколько месяцев главное внимание сместилось к опасениям, что ИИ способен причинить вред людям, компаниям, которые его используют, и обществу в целом.
Предупреждение Амодеи перекликается с тем, что технологические лидеры, включая самого Амодеи, ещё в 2023 году называли «риском вымирания из-за ИИ». Тогда соответствующее заявление было опубликовано вскоре после запуска ChatGPT и начала масштабного бума искусственного интеллекта.
Акции ИИ: спор о рисках
Дискуссия обостряется по мере того, как ИИ привлекает сотни миллиардов долларов инвестиций.
OpenAI и Anthropic — два наиболее значимых стартапа нынешнего бума ИИ — рассчитывают на оценку примерно в $1 трлн каждый в рамках ожидаемых в ближайшие месяцы громких IPO.
Но неожиданно всё больше известных людей начинают публично говорить об опасностях стремительно развивающейся технологии.
Волна предупреждений об ИИ усилилась в мае, когда папа Лев XIV выразил обеспокоенность в пастырском послании объёмом 42 300 слов.
Папа призвал «защищать человеческую личность» в эпоху ИИ и предупредил об использовании технологии в военных целях и о злоупотреблении властью.
«За последние несколько месяцев мы стали всё больше осознавать, что не знаем, что происходит внутри компаний, разрабатывающих модели ИИ, и не можем полностью доверять им в том, что они рассказывают нам о происходящем. Это вызывает беспокойство», — сказала IBD технологический аналитик Ребекка Веттерманн из консалтинговой компании Valoir.
Как именно внезапно усилившееся внимание к экзистенциальным рискам повлияет на продолжающийся рост акций ИИ, пока неясно.
Закончатся ли из-за опасений фондовый бум ИИ?
«Назовите меня циником, но — оставляя папу в стороне — я воспринимаю призыв к замедлению скорее как попытку создать конкурентный барьер», — сказала Веттерманн.
Пионер ИИ Луис Розенберг, генеральный директор Unanimous AI, с этим не согласен.
«Я знаю, что есть скептики, которые считают нынешние призывы к замедлению маркетинговым ходом или попыткой помешать конкурентам, которые находятся впереди. Но это совершенно не так», — сказал он IBD.
«В эпоху искусственного интеллекта, когда человеческому достоинству угрожают новые формы дегуманизации, наш первостепенный долг — оставаться глубоко человечными».
— Папа Лев XIV, май 2026 года
«Индустрия действительно боится того, что ИИ-агенты выйдут из-под контроля и нанесут серьёзный ущерб критически важной инфраструктуре. Взлом Hugging Face и другие похожие инциденты стали серьёзным тревожным сигналом, потому что превратили теоретический риск будущего в реальную и уже существующую опасность».
Письмо папы показало, насколько далеко за пределы Уолл-стрит распространилась дискуссия об ИИ.
Отец Брендан Макгуайр, священник из Кремниевой долины, участвующий в работе Католической церкви по вопросам ИИ, считает, что инвесторам следует прислушаться к призывам уделять больше внимания этике и безопасности.
ИИ: за пределами Уолл-стрит
«Вот какой вопрос должны задавать себе инвесторы: замедляет ли развитие наличие этических систем? Нет, если мы создаём их одновременно с технологией. Если же внедрять их потом, это будет стоить огромных денег. Нет никакого смысла уничтожать нашу рабочую силу и разрушать человечество в том виде, в каком мы его знаем. Мы ничего от этого не выиграем. Никто не хочет нестись к обрыву».
На Уолл-стрит тем временем видят гонку за колоссальной прибылью по мере того, как акции ИИ достигают новых максимумов.
Согласно докладу ООН по торговле и развитию за 2025 год, мировой рынок продуктов и услуг на основе ИИ может увеличиться в 25 раз — с $189 млрд в 2023 году до $4,8 трлн в 2033 году.
Но помимо опасений, что ИИ-агенты могут выйти из-под контроля, против нынешнего бума ИИ возникло сопротивление и по другим направлениям.
Строительный бум вокруг дата-центров ИИ вызвал недовольство местных жителей из-за воздействия на сообщества, в том числе из-за роста тарифов на электроэнергию.
Движение против дата-центров привело к тому, что Нью-Йорк и Техас ввели моратории на строительство таких объектов.
Дата-центры и массовые увольнения
Волна увольнений, связанных с ИИ, также вызвала возмущение.
Технологические компании рекламировали потенциальную экономию, которую должен был обеспечить ИИ. Однако впоследствии они стали преуменьшать эти заявления, когда выяснилось, что первоначальные прогнозы были завышены.
Молодые люди также начали отворачиваться от технологии: на церемониях вручения дипломов в университетах выступающих освистывали за продвижение будущего, основанного на ИИ.
Кибератака через Hugging Face привела к тому, что OpenAI объявила двухнедельную паузу в разработке ИИ.
Anthropic также оказалась в центре внимания после того, как исследователь Джейкоб Коксон уволился и предупредил, что ИИ «может убить нас к концу десятилетия».
Это предупреждение напоминает заявление 2023 года, которое опубликовали технологические лидеры, включая Амодеи и генерального директора OpenAI Сэма Альтмана. Оно появилось вскоре после запуска ChatGPT и начала безумного ажиотажа вокруг ИИ.
Заявление состояло всего из 22 слов, но рисовало тревожную картину.
Акции ИИ: «риск вымирания»
«Снижение риска вымирания человечества из-за ИИ должно стать глобальным приоритетом наряду с другими рисками масштаба всего общества, такими как пандемии и ядерная война».
Так гласила декларация 2023 года под названием «Заявление о риске вымирания из-за ИИ».
После неё появились более длинные документы, в которых опасения по поводу вымирания человечества из-за ИИ либо преуменьшались, либо, наоборот, подтверждались.
В августе генеральный директор Meta Марк Цукерберг в заявлении объёмом 6500 слов посетовал на то, что «удивительно, насколько дискурс многих людей, развивающих ИИ, наполнен мрачными прогнозами».
Несколько недель спустя Билл Гейтс в собственном эссе почти на 6000 слов предупредил:
«Переход в эпоху ИИ станет одним из самых бурных периодов в истории человечества».
И добавил:
«Мы недостаточно хорошо готовимся к этому переходу».
Этот переход, написал папа Лев, «предполагает гонку за всё более мощными алгоритмами и всё большими наборами данных, движимую стремлением обеспечить геополитическое или коммерческое доминирование».
«Гонка ко дну или гонка наверх? Не знаю, какая именно, но это гонка», — сказал Макгуайр. — «И это опасная гонка».
Искусственный интеллект: опасная гонка
До недавнего времени эта гонка была сосредоточена главным образом на стоимости создания мощных систем ИИ.
«История развивалась от этики и безопасности ИИ к капитальным затратам на ИИ и расходам гиперскейлеров», — сказал IBD в июньском интервью инвестор Логан Аллин, управляющий партнёр Fin Capital.
«Аспекты этики и безопасности ИИ отошли на второй план, но они по-прежнему остаются фактором риска, о котором всем нам необходимо думать, особенно по мере приближения к AGI».
«Переход в эпоху ИИ станет одним из самых бурных периодов в истории человечества».
— Билл Гейтс, сооснователь Microsoft, август 2026 года
AGI, или искусственный общий интеллект, предполагает появление настолько мощных систем ИИ, что они смогут взять под контроль большинство аспектов жизни — от агентов, управляющих огромными сетями, до роботов, способных выполнять практически любую задачу человека.
Макгуайр считает, что письмо папы говорит об опасностях технологии, становящейся всё более мощной.
Как и папа Лев, Макгуайр получил математическое образование. До того как стать священником в 2000 году, он работал в Кремниевой долине.
Другой вид вычислений
«Эти машины работают не так, как компьютеры прошлого», — сказал он. — «Когда я был программистом, ты помещал кусок кода, запускал его на наборе микросхем и получал именно то, что запрограммировал. Нейронные сети работают иначе».
По его словам, большинство современных ИИ-систем:
«уже лучше любого человека справляются с программированием и делают это гораздо быстрее. Они работают 24 часа в сутки. Им не нужен сон, им не нужны перерывы на кофе».
Макгуайр считает тревожными недавние заявления Anthropic о том, насколько большую часть работы по созданию собственных систем теперь выполняет сам ИИ.
«Когда я встречался с Anthropic осенью, около 20% кода для нынешней модели уже писала сама текущая модель — для будущей модели. Сегодня это 80%. Прошло всего шесть месяцев. Что будет ещё через шесть месяцев? Я предполагаю, что показатель приблизится к 100%».
Технологические лидеры возражают
«То, как эти машины будут программировать свои будущие версии, становится действительно важным», — сказал Макгуайр.
«Мы хотим встроить максимально качественные этические принципы уже сейчас, а не потом. Потому что исправления потом обойдутся нам в огромные деньги».
Призывы замедлить развитие ИИ не новы.
Они появились вскоре после того, как в начале 2023 года начался бум искусственного интеллекта.
Помимо ставшего знаменитым «Заявления о риске вымирания из-за ИИ», группа технологических лидеров, ошеломлённых взрывным ростом ChatGPT, выступила с похожим призывом:
«Стоит ли нам рисковать потерей контроля над нашей цивилизацией?»
Среди подписавших заявление был генеральный директор SpaceX Илон Маск.
«Снижение риска вымирания человечества из-за ИИ должно стать глобальным приоритетом наряду с другими рисками масштаба всего общества, такими как пандемии и ядерная война».
— Заявление Center for AI Safety, подписанное Сэмом Альтманом, Дарио Амодеи, Биллом Гейтсом и другими, май 2023 года
Однако некоторые технологические лидеры выступили против последнего предупреждения Амодеи.
В неожиданном повороте событий во время саммита All-In в Лос-Анджелесе в понедельник генеральный директор Nvidia Дженсен Хуанг получил телефонный звонок прямо во время выступления на сцене.
Звонил президент Дональд Трамп, который назвал призыв приостановить развитие ИИ «обманом».
«Вы правы. Мы не позволим этому случиться, сэр», — сказал Хуанг под аплодисменты участников закрытого мероприятия, собравшего инвесторов, технологических специалистов и руководителей бизнеса.
«Ситуация курицы и яйца»
Индустрия ИИ сталкивается с тем, что Веттерманн назвала «ситуацией курицы и яйца».
«Чем больше появляется историй о выходе ИИ из-под контроля, тем сильнее растёт FOMU — страх компаний ошибиться с ИИ. А чем больше поставщиков инвестировали в строительство дата-центров и партнёрства в области ИИ, тем больше они обнаруживают, что не могут монетизировать свои усилия, потому что клиенты не хотят запускать эти системы в реальной эксплуатации».
По словам Розенберга, дискуссия также затрагивает более масштабные геополитические вопросы.
ИИ настолько быстро превратился в глобальное явление, что решение о темпах его разработки и внедрения «в конечном счёте должно быть соглашением между государствами», считает он.
Это создаёт дополнительные сложности для американской технологической отрасли, считает Веттерманн.
По её мнению, попытка законодательно замедлить развитие ИИ:
«была бы слишком рискованной для глобальной конкурентоспособности, учитывая скорость, с которой Китай сейчас развивается в сфере ИИ».
Амодеи также упомянул угрозу со стороны китайской индустрии ИИ в своём эссе, после чего Пекин выступил с ответной критикой.
Розенберг назвал «главным экономическим риском» для индустрии ИИ:
«огромный дефицит общественного доверия, особенно в США».
По его словам, среди американцев преобладает недоверие к компаниям, занимающимся ИИ.
Он отметил необходимость:
«значительных усилий для восстановления общественного доверия. А начинать нужно с того, чтобы новые возможности выпускались более структурированным, строгим и ответственным образом».
Акции ИИ: история Anthropic
Anthropic получила определённое признание за работу в этом направлении.
Когда папа Лев представлял своё письмо о рисках ИИ, рядом с ним находился сооснователь Anthropic Крис Ола.
Его появление было примечательно, учитывая, что канадский специалист открыто заявляет о своём атеизме. Но это не было неожиданностью.
Макгуайр вспоминал, что Ола ещё до публикации папского послания участвовал в серьёзных дискуссиях об ИИ с Маркомкульским центром прикладной этики Университета Санта-Клары.
Сам Макгуайр начал участвовать в дискуссии об ИИ ещё до избрания папы Льва.
Он работал с Марккульским центром над руководством, которое должно было помочь технологическим компаниям разрабатывать ИИ.
Инициатива, по его словам, «имела очень ограниченный успех».
«Я изо всех сил пытался говорить с людьми. Они брали книгу и говорили: “Отлично, спасибо большое”. И после этого мы больше ничего от них не слышали».
Anthropic обращается за помощью
Затем осенью 2025 года Ола связался с Макгуайром и Брайаном Грином, директором центра по вопросам этики технологий.
По словам Макгуайра, Ола сказал им:
«Нам действительно нужна помощь кого-то извне нашей организации, и мы думаем, что Ватикан мог бы стать идеальным партнёром».
Макгуайр и Грин провели встречи с Anthropic.
Компания пригласила их высказать свои замечания по поводу Constitution Claude — этических принципов и правил безопасности, лежащих в основе ИИ-модели.
Когда папа Лев представлял своё послание об ИИ в мае, Ола выступил на мероприятии в Ватикане.
Ола признал наличие:
«стимулов и ограничений, которые иногда могут конфликтовать с необходимостью поступать правильно»
при создании систем ИИ.
Среди них он назвал:
«давление, связанное с необходимостью оставаться коммерчески жизнеспособными и одновременно находиться на переднем крае исследований».
«На нас всегда будут влиять эти стимулы. Нам нужно, чтобы всё больше людей — религиозные сообщества, гражданское общество, учёные, правительства и вообще все люди доброй воли — сделали то, что сделал здесь Его Святейшество: отнеслись к этому серьёзно, внимательно изучили вопрос и попытались направить события в лучшее русло».
Акции ИИ: какая инвестиционная стратегия правильная?
По мнению Макгуайра, проактивный подход Anthropic уже принёс стартапу пользу.
«Публично Anthropic является самой этичной системой на рынке — и при этом она лидирует. Год назад это было не так».
«ИИ развивается стремительно быстрее, главным образом благодаря растущей способности самого ИИ создавать следующее поколение ИИ».
— Дарио Амодеи, сооснователь Anthropic, сентябрь 2026 года
По сообщениям, Anthropic уже превзошла OpenAI по оценке стоимости, чему способствовал успех компании в предложении ИИ-инструментов корпоративным клиентам.
Макгуайр считает, что Anthropic также:
«получает вознаграждение от инвесторов, пользователей и операторов, которые предпочитают ИИ-системы, способные защищать от будущих рисков».
«Люди начинают немного лучше это понимать и говорят: “Мы не хотим через два года снова инвестировать $50 млрд. Мы хотим сделать это только один раз”».
«Я действительно думаю, что люди начинают становиться мудрее в вопросах инвестиционной стратегии. Это будет сдерживать ненасытное стремление просто зарабатывать деньги любой ценой. Я слышу это и от инвесторов».
На самом деле торговля акциями ИИ стала для инвесторов весьма необычной гонкой.
Акции ИИ: американские горки на Уолл-стрит
За последние три года акции компаний, связанных с ИИ, пережили настоящие американские горки.
Уолл-стрит неоднократно переходила от эйфории по поводу возможностей ИИ к нервозности из-за растущих расходов.
Призыв Anthropic замедлить развитие ИИ вызвал неоднозначную реакцию инвесторов.
Акции производителей чипов, во главе с Nvidia, пострадали, однако инвесторы в гиперскейлеров, похоже, отреагировали значительно спокойнее.
Во многих отношениях эта бурная история началась вскоре после запуска ChatGPT.
Когда Google представила Bard в марте 2023 года, маркетинговая ошибка напугала инвесторов.
Bard должен был стать ответом Google на ChatGPT.
Но в рекламном материале, посвящённом запуску Bard, система дала неправильный ответ на вопрос о телескопе Джеймса Уэбба.
Ошибка спровоцировала распродажу акций Google, уничтожив за один день $100 млрд рыночной стоимости.
Позднее акции Google восстановились, но этот эпизод продемонстрировал, насколько высоки ставки в борьбе за лидерство в ИИ.
Тем не менее крупные технологические компании, возможно, считают, что у них просто нет выбора и они вынуждены участвовать в этой гонке, считает Розенберг.
«ИИ окажет настолько большое влияние на всё общество — на то, как работают организации и как мы строим будущее. Если вы крупная технологическая компания, занимающаяся масштабной инфраструктурой или крупными сервисами вроде поиска, это вопрос существования».
Но, по его мнению, гонка за этим будущим создала своеобразные шоры.
Шоры гонки за ИИ
«Риск практически противоположный. Дело не в том, что всё это дорого. Мы действительно будем делать всё это. Но у нас пока нет необходимых механизмов контроля, которые позволили бы гарантировать защиту людей».
Кэтрин Брейси, генеральный директор правозащитной группы Tech Equity, назвала инвесторов «ключевым заинтересованным участником» бума ИИ.
Она критически относится к гонке ИИ-стартапов за выход на биржу.
«Это гонка за IPO, потому что компании знают: единственный реальный способ продолжать работу — переложить значительную часть этого риска на инвесторов публичного рынка», — сказала она IBD.
Лорен Компер, руководитель направления взаимодействия с компаниями и ответственного управления активами в Boston Common Asset Management, говорит, что инвесторы и общество хотят:
«большей подотчётности».
Каким должен быть ИИ?
«То, что говорит папа Лев, действительно затрагивает и реальные риски, и последствия для общества, но одновременно показывает, что ИИ может дать. Нам необходимо сосредоточиться на вопросе: каким должен быть ИИ?»
Именно этого, по мнению Розенберга, и добился папа — заставил людей сосредоточиться на более глубоких рисках.
«Когда появится сверхинтеллект, способный выполнять работу, которую сейчас делают люди, каково будет жить в таком мире?»
По его словам, идея о том, что это потенциально может привести к дегуманизации общества, очень важна.
«Существует реальная вероятность того, что ИИ вытеснит человеческий труд в огромных масштабах».
— Крис Ола, сооснователь Anthropic, май 2026 года
Он отметил растущий страх, что ИИ начнёт заменять специалистов.
«Что мы будем делать, когда ИИ начнёт в значительной степени заменять существующие профессии? Каково будет, если вы врач, а ваш ИИ ставит диагноз, а вы лишь выписываете рецепт? Мы приближаемся к такому миру — и речь идёт не только о врачах, но также об инженерах и архитекторах».
«Я думаю, что папа стал первой влиятельной публичной фигурой, которая сказала: давайте посмотрим на этот большой вопрос — как сохранить человечность человека».
Взгляд Марка Цукерберга на ИИ
Цукерберг был одним из наиболее активно выступавших технологических лидеров, критиковавших то, что он считал чрезмерными опасениями.
«Я не понимаю, почему человек, который считает, что ИИ уничтожит большинство рабочих мест и лишит человечество большей части его значимости, станет стремиться построить именно такое будущее», — написал он.
«Идея о том, что ИИ настолько опасен, что единственным безопасным путём является экстремальная концентрация власти, сама по себе представляется проблематичной».
Однако Пьер Луиджи Даль Пино, старший директор глобального отдела по связям с общественностью Microsoft, сказал, что реакция на письмо папы:
«была абсолютно положительной».
«Речь действительно о том, как папе Льву удалось продвинуть эту дискуссию. Это определённо большой шаг».
У других технологических лидеров реакция была неоднозначной.
«Я католик, я из Чикаго, и я считаю потрясающим то, что у нас папа из Чикаго», — пошутил Мэттью Кинселла, генеральный директор компании квантовых вычислений Infleqtion.
«Мы, безусловно, должны быть осторожны в том, как распространяем ИИ, потому что здесь есть всевозможные потенциально негативные последствия».
Акции ИИ: технологический оптимизм
При этом Кинселла называет себя «технооптимистом».
«Если посмотреть на историю, — сказал он IBD, — Католическая церковь не всегда полностью учитывала все положительные последствия технологий».
«Идея о том, что ИИ настолько опасен, что единственным безопасным путём является экстремальная концентрация власти, сама по себе представляется проблематичной».
— Марк Цукерберг, генеральный директор Meta, август 2026 года
Другие утверждают, что технологическая отрасль изменилась.
Она превратилась из мира идеалистичных основателей технологических компаний, придерживавшихся принципа «Не навреди», в сферу, где доминируют мультимиллиардеры вроде Илона Маска, который говорил:
«Фундаментальная слабость западной цивилизации — это эмпатия».
Макгуайр вспомнил ещё один знаменитый лозунг Кремниевой долины — «создавай быстро и ломай вещи», основанный на знаменитом девизе Facebook:
«Двигайся быстро и ломай вещи».
«Правильный риск»
«Поговорка “создавай быстро и ломай вещи” — это среда, в которой мы живём», — сказал Макгуайр.
«Когда речь идёт о такой технологии, как ИИ, которая затрагивает столько секторов и отраслей, принцип “создавай быстро и ломай вещи” может привести к катастрофическим последствиям».
По словам Розенберга, папа Лев помог направить внимание на правильный риск.
«Правильный риск заключается не в том, что это дорого. Правильный риск заключается в том, что эта технология фундаментально преобразует общество, и нам необходимо убедиться, что мы делаем это правильно».
«И, вероятно, у нас есть только один шанс сделать это правильно. Потому что легко допустить, чтобы всё пошло не туда, и очень трудно потом вернуть ситуацию обратно».
Комментарии