OpenAI и раскол в сердце Кремниевой долины - FT

Причины увольнения Сэма Альтмана, основателя OpenAI, так и остались не до конца проясненными. Однако внутри компании нарастала напряженность, поскольку амбиции Альтмана превратить OpenAI в следующий технологический центр Кремниевой долины пошли вразрез с основной миссией компании — безопасностью, пишет Financial Times.

Это также поставило вопрос, как контролировать ИИ: был ли кризис вызван недостатками в структуре компании, которая не смогла сбалансировать безопасность ИИ и стремление к прибыли или же это признак более широкого раскола в отрасли с серьезными последствиями для будущего?

Драма, разыгравшаяся в OpenAI, высветила противоречия между двумя группами убеждений в Кремниевой долине, поскольку так называемый генеративный ИИ, технология, позволяющая ChatGPT создавать креативный контент, превратился из исследовательского проекта в самую многообещающую новую технологию в индустрии за последние годы.

Кремниевая долина знает, что при наличии существенного венчурного капитала и запредельных амбиций любая прорывная идея может захватить мир или, по крайней мере, подорвать традиционные бизнес модели. Будучи бывшим руководителем Y Combinator, самого известного в мире инкубатора стартапов, Альтман наблюдал за тем, как происходит этот процесс.

Однако есть и другая философия (куда менее распространенная) - лонгтермизм. Она основана на убеждении, что интересы последующих поколений должны учитываться в решениях, принимаемых сегодня. Эта идея является ответвлением концепции “эффективного альтруизма”, которая была сформулирована в Оксфорде. Сторонники лонгтермизма стараются уменьшить вероятность экзистенциальных катастроф и снизить риски, создаваемые мошенническим ИИ.

Недавняя статья, автором которой была Хелен Тонер (бывший член правления OpenAI) косвенно критиковала Альтмана за то, что он выпустил ChatGPT без предварительного "детального тестирования безопасности", что привело "к гонке ко дну" (когда жесткая конкуренция подрывает и бизнес и служит во вред обществу), и которую OpenAI сама осуждала. Ажиотаж вокруг чат бота заставил другие компании, включая Google, "ускорить или обойти внутренние процессы проверки безопасности и этики".

И если члены правления OpenAI думали, что последнее слово, как будут использоваться подобные технологии, остается за ними, то, похоже, они ошибались. Microsoft, которая выделила компании $13 млрд, также работала над восстановлением Альтмана в должности — пример внешнего влияния, которому должны были противостоять механизмы управления OpenAI. Через несколько дней директоры OpenAI уступили.

Тем временем, в Кремниевой долине переворот в OpenAI подлил масла в огонь против движения лонгтермистов, а также дал оружие противникам более строгого регулирования ИИ. Репутация эффективного альтруизма была серьезно подорвана, когда один из его самых известных сторонников, основатель FTX Сэм Бэнкман-Фрид, был признан виновным в мошенничестве.

Марк Андриссен, венчурный капиталист и ярый противник регулирования, назвал людей, предупреждающих об экзистенциальных рисках, связанных с ИИ, культом, который ничем не отличается от других движений миллениалов, предупреждающих о надвигающихся социальных катастрофах. Лонгтермисты, в свою очередь говорят, что тот факт, что вероятность уничтожения человечества ИИ не может быть точно определена количественно, не означает, что ее следует игнорировать.

Многие ведущие мировые ученые в области ИИ сильно расходятся в своих оценках текущих возможностей ИИ и его будущей эволюции, из-за чего регуляторам трудно понять, что делать.

И хотя Альтман теперь снова у руля, новое правление OpenAI еще не дало публичного объяснения того, что пошло не так, и не объявило, какие шаги предпримет, чтобы не отказаться от своей основной миссии — сделать ИИ безопасным для человечества. Мир ждет.

@emcr_experts