Здравствуйте и добро пожаловать в Eye on AI. В этом выпуске:
- OpenAI details двухнедельную паузу в обучении и усиливает меры безопасности после взлома Hugging Face.
- Anthropic уверенно движется к $65 млрд годовой выручки.
- OpenAI представляет ChatGPT для подростков.
- Могут ли ИИ-модели вывести правила игры?
Я только что вернулся после трёх недель отпуска. Спасибо моим коллегам Беа Нолан и Эмили Форлини за то, что они держали здесь оборону, пока меня не было.
Большую часть этого времени я занимался делами на природе — кемпингом, походами, каякингом, рыбалкой, бегом и плаванием — или офлайн-активностями в помещении, которые не завязаны на цифровые сервисы, вроде семейных ужинов вне дома или посещения живых концертов. Да, мы с семьёй иногда пользовались Google Search, чтобы что-то быстро уточнить, и **ИИ-сводки** в выдаче часто оказывались удивительно подробными и точными. Это, безусловно, удобнее, чем собирать сведения по множеству страниц. Но в основном на этом моё взаимодействие с ИИ и заканчивалось. В целом этот трёхнедельный перерыв стал освежающим напоминанием о том, как много сфер AI всё ещё не изменил — и, надеюсь, никогда не изменит.
Главной AI-новостью выходных стала дискуссия вокруг lengthy post Дарио Амодеи в X, где он подробно объяснял подход компании к регулированию и одновременно говорил о многочисленных рисках ИИ. Амодеи, который редко появляется на платформе, контролируемой Илоном Маском, опубликовал этот текст как ответ на высказывания инвестора Гэвина Бейкера в подкасте “All In”, который ведёт в том числе бывший “AI-царь” Трампа Дэвид Сакс — и он сам явно не симпатизирует Anthropic.
Бейкер заявил, что “несколько людей, которым я доверяю”, якобы слышали от Амодеи, будто Anthropic настолько уверена и в потенциале ИИ, и в собственном лидерстве на переднем крае разработок, что “в какой-то момент Anthropic может стать единственной частной компанией в мире”. Бейкер подал это как признак **максималистского** подхода Anthropic, при котором только она и правительство США решают, кто получит доступ к сверхмощному ИИ. Сакс же назвал это “самонадеянностью” и вновь повторил тезис, что стратегия Амодеи — это “regulatory capture”: мол, Anthropic через страх перед рисками убеждает государство вводить жёсткие правила, которым ей проще соответствовать, а конкурентам — стартапам и open-source моделям — сложнее.
Далее Бейкер раскритиковал Амодеи за то, что тот подпитывает преимущественно негативное восприятие ИИ в обществе — фактор, который уже влияет на сопротивление строительству дата-центров по всей стране. По мнению Бейкера, эта волна скепсиса усложняет жизнь AI-компаниям и может подорвать лидерство США в технологии. Он призвал Амодеи формировать более позитивный образ ИИ.
Ответ Амодеи на обвинения
В Anthropic отрицают, что Амодеи когда-либо говорил что-то подобное словам, приписанным ему Бейкером. “Complete and utter nonsense,” — replied в X Саша де Мариньи, директор по бренду и коммуникациям Anthropic. (Позже Сакс отметил, что сам Амодеи напрямую не опроверг конкретную реплику Бейкера.) Тем временем Амодеи написал в X, что либертарианцы Кремниевой долины вроде Бейкера часто трактуют любое регулирование как тормоз для технологий и как неизбежную “регуляторную захватку”, тогда как люди “вне этого пузыря” воспринимают правила как способ ограничить власть корпораций и принести пользу **обычным людям**. При этом Амодеи подчеркнул, что обе позиции чрезмерно упрощают реальность: “всё сложно и по-настоящему зависит от того, из чего именно состоит ‘регулирование’.”
Амодеи заявил, что Anthropic старается “очень усердно” предлагать меры, которые **замедляют** именно компании на переднем крае, но *помогают* меньшим игрокам. Он отметил, что многие поддержанные ими инициативы либо содержали исключения для компаний ниже определённого порога выручки, либо учитывали лимиты расходов на обучение моделей, либо были нацелены только на самые передовые системы — освобождая менее мощные.
Он добавил, что действительно видит естественную тенденцию ИИ к концентрации экономической власти: вычислительные ресурсы нужны и для обучения, и для работы сильных моделей. Но, по его словам, это совсем не то же самое, что утверждать, будто в будущем останется одна-две компании. Он также подчеркнул, что open source лишь частично снижает эту концентрацию, потому что вычисления всё равно требуются для обучения и запуска. Амодеи написал, что поддерживает **“правила дорожного движения”**, которые “оставят пространство для open-weights моделей, одновременно закрывая специфические риски, которые они несут.”
Отвечая на упрёк Бейкера, будто именно его публичные заявления настроили общество против ИИ, Амодеи сказал: “I don’t think [the public’s negative view of AI] is primarily caused by me or any other AI leader warning about AI’s risks. I think it is fundamentally a crisis of trust.” По его мнению, доверие не вернуть “глянцевой маркетинговой кампанией с позитивным тоном”. Вместо этого AI-компаниям нужно реально показать пользу — например, действительно приблизить излечение рака. “I think by far the most accurate criticism of AI companies including Anthropic is that we haven’t yet delivered on our big promises to benefit the world,” — написал он. “That is totally on us, and I think it’s the criticism you should be making, instead of all this stuff about messaging and marketing.”
“DMV для ИИ”: почему это не катастрофа
Пост Амодеи запустил новую волну споров между критиками и сторонниками в X. По теме регулирования Сакс написал, что создание любого регулятора для ИИ — он назвал это “a DMV for AI” — будет тормозить американский технологический сектор, “создаст длинные очереди, пока модели ИИ ждут тестирования и одобрения”, и “ослабит США относительно Китая, который не примет таких же ограничений.” Сакс также заявил: “Dario believes frontier AI is too powerful to distribute; we believe it is too powerful to centralize.”
Мой взгляд таков: Дарио справедливо указывает на ложную дихотомию в риторике Сакса о регулировании ИИ. Как часто шутит Стюарт Рассел, компьютерный учёный из UC Berkeley, сэндвич-бар в Сан-Франциско вынужден соблюдать больше правил, чем OpenAI или Anthropic (после принятия в прошлом году закона Калифорнии о frontier AI это уже менее верно, но на федеральном уровне по сути так и есть). Ограничивает ли регулирование число ресторанов? Конечно, в некоторой степени. Но конкуренция всё равно остаётся высокой: в Сан-Франциско более 3 000 ресторанов.
Да, крупным ресторанным сетям, вероятно, проще выполнять требования: масштаб помогает, плюс у больших игроков есть лоббисты и политические связи, которых нет у маленьких семейных заведений. Но служит ли обществу наличие правил по безопасности еды, трудовому законодательству и ответственности за продукт, чем их отсутствие? Разумеется. И я бы сказал, что то же относится и к автопрому. При всей критике Сакса в адрес DMV большинство людей поддерживают идею лицензирования водителей и регулярного техосмотра, чтобы машины оставались пригодными к езде. Есть ли концентрация в автоиндустрии? Да, но регулирование — не главная причина этого.
Что касается аргумента о том, что правила якобы отбрасывают США назад в гонке с Китаем, важно помнить: в Китае уже действуют некоторые AI-нормы — например, по маркировке данных и по идентификации AI-сгенерированного контента — и они местами строже, чем американские. Также верно и то, что если США прежде всего заботят последствия мощного ИИ для национальной безопасности, то они могут сделать исключения для моделей, разрабатываемых специально под эти задачи. (Хотя, вероятно, это плохая идея — см. WarGames или Terminator.) Полезно помнить, что мы сумели выиграть холодную войну, одновременно сохраняя довольно строгие правила вокруг производства и перевозки ядерных материалов. Я не уверен, что наличие норм безопасности при создании frontier AI должно рассматриваться иначе.
На этом — к другим AI-новостям.
Jeremy Kahn
[email protected]
@jeremyakahn
Прежде чем перейти к новостям, напомню о нашем новом водкасте Fortune AI Weekly. На этой неделе Беа Нолан и Эмили Форлини обсуждают Meta CEO Mark Zuckerberg’s 6,000-word manifesto, перестановки в руководстве OpenAI, а также беседуют с сооснователем и CEO Lovable Антоном Осикой о оценке стартапа в $13,3 млрд и раунде Series C на $400 млн. You can check out the vod here on YouTube.
This story was originally featured on Fortune.com
