Интервью с Хайме Севильей

Интервью с Хайме Севильей (28 лет), основателем Epoch AI, заставляет задуматься о странности мира, который вырисовывается при сохранении текущих темпов развития искусственного интеллекта (ИИ). Разговор о возможности доминирования машин над людьми, происходящий на фоне завтракающих людей, тоже кажется странным. Даже рюкзак Севильи, выглядящий как нечто из гиперпространства, вызывает удивление.

— Там суперкомпьютер?

— Возможно.

Сейчас мало кто обладает более ясным, или, по крайней мере, более информированным, видением тенденций в области ИИ, чем Севилья. Epoch AI, некоммерческая организация, специализирующаяся на анализе прогресса и эволюции этой технологии, занимается именно этим. Их цель — прогнозировать будущие тенденции, разрабатывая строгие тесты для измерения интеллекта и производительности текущих моделей. Недавний пример — Frontier Math, проект, реализованный в сотрудничестве с OpenAI, в рамках которого был создан набор сложных математических задач для оценки уровня математического мышления языковых моделей. Пока им не удалось добиться решения более 2% предложенных задач.

The New York Times включила их проект в список «хороших технологических новостей» 2024 года, а журнал Time сравнил инициативу Севильи с работой ученых, разрабатывающих модели прогнозирования изменения климата, используемые для определения экологической политики. Действительно, мало в какой области так сложно делать прогнозы, как в области искусственного интеллекта. Подтверждением тому является внезапное появление китайской модели DeepSeek, которое потребовало запроса дополнительной информации по электронной почте для этого интервью.

Вопрос: OpenAI по-прежнему опережает любую другую компанию в разработке искусственного интеллекта?

Ответ: С точки зрения результатов, ни одна компания не может решать математические задачи Frontier Math так, как это делает OpenAI, и она также показывает лучшие результаты в других тестах. Anthropic немного отстает: она еще не достигла расширенной инференции, но наступает на пятки.

В: Почему они так явно доминируют в гонке этой технологии?

О: Есть несколько факторов, но один из самых важных — это масштаб моделей: чем больше вычислительная мощность и объем данных, тем больше их возможности. OpenAI рано выделилась именно благодаря ставке на эту стратегию.

В: DeepSeek изменила эту парадигму?

О: DeepSeek выпустила свою новую модель R1, которая конкурирует с моделями OpenAI. Тем не менее, я считаю, что OpenAI сохраняет лидерство, особенно в свете результатов их частной модели. Что касается объема данных и вычислений, мое мнение остается прежним: модели, обученные с большим количеством ресурсов, обычно показывают лучшие результаты.

В: Считаете ли вы, что лидеры компаний, занимающихся ИИ, испытывают страх перед тем, что они делают?

О: Не знаю, является ли слово «испуганные» подходящим, но я бы сказал, что очень трудно предвидеть заранее возможности, которые искусственный интеллект разовьет по мере масштабирования и выделения большего количества ресурсов. До некоторой степени происходит постепенный рост, но этот процесс не был изучен глубоко и не понят полностью.

Вопрос: Есть ли предел, перейдя который ИИ, нам следует задуматься о прекращении его развития?

Ответ: Существуют более или менее просоциальные приложения искусственного интеллекта. Меня беспокоит, что он будет использоваться для террористических операций или крупных интернет-мошенничеств. Есть много применений, которые я бы не хотел видеть настолько продвинутыми.

В: Я имею в виду момент, когда ИИ станет угрозой для человечества.

О: В принципе, это не должно быть проблемой для нас.

В: Что машины будут доминировать над нами?

О: Пока они действуют как виртуальные помощники, но в какой-то момент будет логично предоставить им больше независимости.

В: Например?

О: Чтобы они могли управлять своей собственной компанией, руководить ею без неэффективных людей, которые замедляют процесс. Это станет большим стимулом для создания более независимого искусственного интеллекта, который будет заниматься все большей частью экономики. Они смогут делать все, что можем делать мы, но с гораздо меньшими предельными издержками.

В: Как мы узнаем, что, когда ИИ достигнет этого уровня независимости, он не сочтет нас помехой?

О: Он не обязательно должен видеть в нас помеху. Мы можем быть партнерами в бизнесе с сердечными отношениями. Для меня это было бы похоже на сосуществование с крупными предпринимателями, которые создают богатство для всех.

В: Почему такому продвинутому ИИ захочется вести дела с людьми?

О: Потому что на данный момент людям принадлежит весь капитал в мире, им нужны наши инвестиции. Есть также задачи, в которых может потребоваться или быть юридически целесообразным вмешательство человека, поскольку ИИ не может, например, попасть в тюрьму. Возможно, хорошо иметь людей, которые могут подвергаться этому риску.

В: Сколько времени пройдет, прежде чем ИИ достигнет такого уровня независимости?

О: Мы еще далеки от этого. Современные ИИ недостаточно последовательны или устойчивы для разработки стратегий на такой длительный срок.

В: Человек по-прежнему является более надежным стратегом, чем лучший искусственный интеллект?

О: Да.

В: Что вы думаете о тезисе «акселерационизма», который утверждает, что технология, в данном случае ИИ, решит все наши проблемы?

О: Я считаю, что нахожусь где-то посередине между этими двумя позициями. Это технология с большими возможностями и проблемами. Мы должны двигаться вперед постепенно. Сейчас все движется быстро, но общество не распалось. Я думаю, что мы находимся в хорошем равновесии. Сомнение возникает, когда мы достигнем того уровня независимости, о котором мы говорили.

В: В каком смысле?

О: Полезная аналогия — представить триллион гениев, одновременно вливающихся в нашу экономику. Это может быть трудно управлять.

В: Я не перестаю думать о парадоксе, заключающемся в том, что «идиот» — которым в этом сценарии были бы люди — отдает приказы гению.

О: Вероятно, это не так. В долгосрочной перспективе весьма вероятно, что 99% ресурсов окажутся в руках искусственного интеллекта.

В: Вас это не пугает?

О: Это не обязательно плохо. Тот 1%, который останется у нас, будет намного больше, чем у нас есть сейчас. В наши дни быть простым гражданином лучше, чем быть королем 500 лет назад.

В: Ваша логика понятна, но все равно пугает.

О: Это вызов: понять эту технологию и построить социальный контракт, который позволит нам сосуществовать с этой грядущей социальной и экономической силой.

В: Действительно ли имеет смысл строить своего собственного «хозяина»?

О: Не следует интерпретировать это так, как если бы мы были рабами, мы могли бы быть партнерами. Мы можем разработать социальное соглашение, которое принесет пользу всем нам. Это не отменяет рисков: в будущем мы будем экономическим меньшинством. А меньшинства исторически переживали очень трудные времена. Однако со временем они завоевывали права и улучшали качество своей жизни.

В: Нам предстоит быть, сравнительно, все беднее.

О: В этом нет утешения: это будет очень неравный мир, и нам придется адаптироваться. Сегодня уже есть миллиардеры с гораздо большим количеством денег, и мы сосуществуем с этим.

В: Считаете ли вы, что ИИ разовьет сострадательное сознание по отношению к другим видам?

О: Возможно, и я надеюсь, что в самом искусственном интеллекте возникнет множество мнений. Некоторые будут смотреть на нас лучше, чем другие. Кто знает, может быть, способ обеспечить наше выживание — это юридический контракт, составленный с помощью ИИ, который гарантирует наше выживание в долгосрочной перспективе.

В: А в худшем случае?

О: Также может случиться так, что они решат создать большой вычислительный центр на Земле и для этого им придется снизить температуру на сто градусов. Кто знает, вспомнят ли они, что люди не могут выжить при такой температуре.